Петр радовался успехам мальчика и, направляя в 1717 году талантливую молодежь за границу для обучения разным наукам и художествам, отправил во Францию и своего питомца, где тот в течение почти шести лет учился в высшей инженерной школе. Здесь он получил специальность инженера-строителя, стал ученым, педагогом, хорошо освоил общий «политес», изучил латинский и французский языки... В Париже он познакомился с культурой и искусством, не только Франции, но и всей Европы. Видимо, здесь он приобрел некоторые книги, которые составили основу его будущей библиотеки — одной из лучших частных библиотек столицы того времени.
Возвратясь в 1723 году в Петербург, Абрам вновь был определен к персоне царя, был в «смотрении его величества кабинета, в которой все чертежи, прожекты и библиотека имелись»,— писал он много лет спустя в своем письме к Екатерине II.
В феврале 1724 года царь назначил Абрама Ганнибала обучать инженерному делу и математическим наукам молодых воинов и приказал ему быть главным переводчиком иностранных книг при царском дворе. Есть основания полагать, что Абрам специально занимался личной библиотекой Петра и царь подарил любимцу отдельные понравившиеся ему книги. К моменту смерти царя у Абрама Петровича сложилась прекрасная библиотека.
В старинных каталогах Библиотеки Академии наук СССР сохранились собственноручные письма Ганнибала и списки книг его личной библиотеки, из которых явствует, из чего она состояла. Большая часть ее — это книги по математике, военным наукам, философии, истории, художественная литература. Здесь было полное собрание сочинений Расина, Мольера, Корнеля, были «Илиада» и «Одиссея» Гомера, были различные справочники, были книги и по истории его родины — «Известия об Абиссинии и Эфиопии». Имелся Коран... Любопытен интерес его к книгам по истории английской революции. Были и книги, необходимые для тогдашнего светского молодого человека — модные романы и проч. и проч.
Всего в библиотеке Ганнибала насчитывалось 347 книжных наименований...
Кончина Петра I была крушением всей судьбы его воспитанника и крушением любимого им книжного собрания. Предвидя будущую опалу, Ганнибал предложил приобрести его книги Библиотеке Академии наук. Библиотека согласилась, и книги поступили в библиотечный фонд Академии.
Но вот пришел 1742 год. Фортуна вновь повернулась к нему лицом, и Абрам Петрович начал усиленно хлопотать о возвращении библиотеки. Разрешение было получено, но, к сожалению, не все книги удалось разыскать. Часть из них была утрачена. Полученные книги вскорости были отправлены в Ревель, где жил Ганнибал. Само собой разумеется, что собрание книг библиотеки Ганнибала начало вновь расти. Но состав этой библиотеки, к сожалению, нам неизвестен. Известно лишь, что позже библиотека Ганнибала находилась частично в его имениях Суйда и Петровское...