Неудивительно поэтому, что по своим знаниям молодой А. Н. Крылов превосходил даже некоторых преподавателей училища. В 1884 году он окончил Морское училище и был произведен в мичманы с награждением премией и с занесением его имени на мраморную доску.
По окончании Морского училища А. Н. Крылов был прикомандирован к известному нашему специалисту по компасному делу И. П. Коллонгу, работавшему в Главном гидрографическом управлении и уже раньше обратившему внимание на блестящие успехи А. Н. Крылова. Про Коллонга, фанатика компасного дела, во флоте в шутку говорили: «Коллонг считает, что корабли строятся для того, чтобы было на чем устанавливать компасы». Под его руководством А. Н. Крылов выполнил свои первые научные работы, приобрел прочные навыки в вычислениях — навыки, которые он с тех пор не переставал развивать, совершенствовать и передавать другим. Дело в том, что на показания корабельных компасов часто оказывало влияние железо. Практическое значение исследований А. Н. Крылова моряки смогли оценить после гибели двух пассажирских пароходов у берегов Ирландии в 1862 году. Расследование катастрофы, унесшей более двухсот жизней, показало, что эти пароходы наскочили в тумане на берег, полагаясь на искаженные показания компаса. А. Н. Крылов решил эту проблему и вывел русское компасное дело на первое место в мире.
А. Н. Крылов, посвятив компасу свои первые научные работы, вернулся к этим вопросам более чем через пятьдесят лет — накануне Великой Отечественной войны 1941–1945 годов. Он исследовал теорию гироскопического компаса, который стал соперником магнитного компаса на морских и воздушных кораблях. Гироскопический компас основан на принципе волчка, т. е. тела, быстро вращающегося вокруг оси. Волчок можно сконструировать так, что эта ось, подобно магнитной стрелке, будет сохранять неизменное положение в пространстве, независимое от перемещения корабля. С осью можно соединить стрелку, которая будет направлена на север все время, пока поддерживается вращение волчка. Первый прибор такого типа, под именем гироскопа, был изобретен французским физиком фуко в 1852 году. Практическое же применение гироскоп получил лишь в XX веке.
В последних своих работах по компасному делу А. Н. Крытое разработал чрезвычайно важную теорию влияния качки корабля на показания компаса.
Добившись на первых же порах своей научной деятельности значительных успехов, молодой ученый не захотел ограничиваться этой сравнительно узкой областью знания. Его привлекали теория корабля и кораблестроение вообще как «обширное поле для применения математики».