Когда Украина была очищена от белогвардейцев, петлюровцев и махновцев, Папанина прикомандировывают в распоряжение штаба флота Черного и Азовского морей — в то время он базировался в Николаеве, но пробыл Папанин там недолго. Крым еще оставался оккупированным войсками барона Врангеля, и Красная Армия готовилась к решительному штурму последнего оплота белогвардейцев.
В это время в лесах горного Крыма действовало несколько разрозненных партизанских отрядов. Необходимо было их объединить в единую боеспособную воинскую часть. Эта задача была поручена опытному военачальнику — бывшему командиру дивизии Красной Армии, герою гражданской войны Алексею Васильевичу Мокроусову. Он подобрал группу надежных помощников и скрытно переправился с ними по Черному морю из Анапы в Крым. В «Истории гражданской войны» об этом десанте мы можем прочесть такие скупые строки: «В середине августа 1920 г. по решению ЦК КП (б) У и Реввоенсовета Юго-Западного фронта для укрепления партизанского движения в Крыму была заброшена группа бывших красногвардейцев-севастопольцев, имевших большой опыт борьбы с белыми на Дону, Украине и в Крыму: А. В. Мокроусов, И. Д. Папанин, Г. А. Кулиш, Д. С. Соколов и другие — всего 11 человек».
Мокроусову удалось объединить разрозненные партизанские отряды, переформировать их в воинскую часть, ввести военную дисциплину. Новая боевая единица получила название «Крымская повстанческая армия». Собственно, название «армия» звучало очень громко, оно предназначалось главным образом для устрашения врага и для привлечения в нее новых бойцов. По численности она не превышала полк — 500 человек, а каждый из трех ее полков соответствовал роте.
Папанин вошел в состав реввоенсовета повстанческой армии, и на него, как на опытного технического специалиста, возложили заботы о хозяйственном обеспечении армии, или, по современной военной терминологии, он стал начальником тыла повстанческой армии. Бойцы Мокроусова действовали во врангелевском тылу партизанскими методами, наносили внезапные ночные удары по вражеским гарнизонам, взрывали военные склады и базы снабжения, выводили из строя коммуникации. Благодаря своей малочисленности и большой мобильности армия успешно ускользала от карательных операций крупных воинских сил врага, а с мелкими сама вела успешные боевые действия. Ряды партизанских полков пополнялись новыми бойцами, но все труднее и труднее становилось снабжение их оружием и боеприпасами.
Мокроусов созвал военный совет. Его армия в это время укрывалась в поросших густым лесом глубоких ущельях горной цепи Южного Крыма, протянувшейся от Алушты до Карадага.