Поначалу Осипов воровал в хозяйском доме по мелочам, в соседских домах. Добычу его составляли неприбранные оловянные тарелки, медная посуда, украденные в ближних дворах куры да утки. Украденное он сбывал в Охотном ряду, где многие лавочники не брезговали скупкой и продажей похищенных вещей. На вырученные деньги Иван кутил в кабаках, иной раз не возвращаясь домой по несколько дней.
В кабаке же он и познакомился с неким отставным матросом (или солдатом) Петром, работавшим на парусной фабрике и отзывавшимся на кличку «Камчатка».
Вместе они сговорились ограбить осиповского хозяина Филатьева: Осипов похвалялся, что знает, где его хозяин прячет добро, и может вскрыть замки заветного сундучка. Задуманное было выполнено с той наглостью, виртуозностью и, если можно так выразиться, воровской иронией, которые, в дальнейшем, отличали нашего героя.
Дождавшись, пока Филатьев и все домашние уснули, Осипов извлёк из тайника заранее приготовленные инструменты, проник прямо в господскую спальню, где буквально в две секунды вскрыл заветный сундучок, извлёк оттуда значительную часть денег (но не все), переоделся в господское платье и выбрался наружу, где у ворот ожидал его сообщник. Здесь Осипов (если верить его биографии и основанной на ней лубочной повести Матвея Комарова), оставил у ворот записку:
«Пей воду, как гусь; ешь хлеб, как свинья; а работай у тебя чёрт, а не я»[19]. Этот красочный штрих, по всей видимости, легенда: как уже было сказано, Осипов был неграмотным и никакой записки оставить не мог. В то же время, судя по воспоминаниям о нём, дерзкий преступник действительно отличался любовью к красному словцу, эффектному и афористичному.
Опасность двум отчаянным ворам грозила при прохождении специально созданных рогаток и караульных будок, по ночам перекрывавших дороги из одной части Москвы в другую: караульные непременно останавливали подозрительных ночных странников. Чтобы избавить себя от этой опасности, изобретательные Осипов и Камчатка совершили ещё одно преступление. Обманом проникнув в дом священника, жившего по соседству с Филатьевым, они сменили здесь одежду: Осипов обрядился в священническую рясу, а Камчатка — в полукафтанье дьячка; стоявшим у городских рогаток караульным преступники объясняли, что торопятся на соборование умирающего, и так беспрепятственно выбрались из той части Москвы, в которой жил Филатьев, и оказались в Китай-городе. Здесь они примкнули к воровскому сообществу, обитавшему «под Каменным мостом». Так началась полноценная преступная карьера Ивана Осипова. А вскоре случилась история, после которой за ним и закрепилась кличка «Ванька Каин».