Через несколько дней после того, как прах Тиберия был помещен в мавзолее Августа, молодой принцепс направился на остров Пандатерию, где его мать Агриппина умерла в нищете за несколько лет до этого. По его распоряжению урну, в которой находился ее прах, вынесли из гробницы. С этой драгоценной реликвией он направился на остров Понтий, где его старший брат Нерон, также изгнанный, умер в нищете при неясных обстоятельствах. Гай взял урну с прахом умершего и отправился прямо к устью Тибра. Была непогода, но Калигула не боялся опасностей. Между тем в Риме огромное волнение охватило город: встревоженные граждане желали скорейшего возвращения принцепса. Тот сначала остановился в Остии, потом его корабль поднялся вверх по Тибру. Огромная толпа ожидала его в Риме, где представители римских всадников пришли, чтобы получить из рук Калигулы урну, которую они поставили в двойную гробницу, и траурное шествие проводило прах Агриппины и ее любимого сына до мавзолея Августа, где лежал прах Германика и, видимо, Друза III, второго сына Германика и Агриппины, погибшего в тюрьме. Так Калигула собрал после смерти Тиберия свою разбросанную семью. Осуществляя эти шаги, он как бы продолжал собственную историю на глазах своих граждан: собирая сам останки своей матери и своего брата, он следовал по стопам отца, который дал пример уважительности в Германии, в Тевтобургском лесу, собирая вместе с солдатами останки легионеров Вара. Возвращение праха своей матери водным путем было, разумеется, повторением великого возвращения праха его отца, когда главную роль играла его мать Агриппина.
В память своих близких император ввел новые ежегодные жертвенные приношения. Чтобы отдать дань памяти своей матери, он установил дополнительные цирковые игры. В ритуальной процессии присутствовала колесница, которая носила имя Агриппины; кроме того, ее портрет был запечатлен на монетах. Лионский императорский монетный двор выбил ее бюст на золотых и серебряных монетах с такой надписью «Агриппина, мать Гая Цезаря Августа Германика». В Риме были выпущены бронзовые сестерции, на которых был выдавлен бюст с надписью «Агриппина, дочь Марка, мать Гая Цезаря Августа»; на другой стороне представлена колесница почета цирковых игр с надписью «В память Агриппины, сената и римского народа». В память отца он решил, что сентябрь месяц будет носить имя Германика. В Лионе были выпущены монеты с надписью «Германик Цезарь, отец Гая Цезаря Августа Германика», а в Риме — бронзовые сестерции с таким же портретом и надписью «Германик Цезарь, сын Тиберия Августа, внук божественного Августа