В Одессе, в последних числах июля 1941 года, командование Одесской военно-морской базы сформировало первую в ее составе часть морской пехоты – «Сводный сухопутный отряд моряков» под командованием майора И. А. Морозова. Спустя неделю, 5 августа 1941 года, в составе Одесской ВМБ на основе этого отряда начали формироваться два полка морской пехоты (1-й и 2-й). Источники формирования у обоих полков были те же, что и у первоначального отряда: береговые части, в том числе и базовая школа старшин (школа младших командиров), экипажи кораблей и вспомогательных судов, входивших в состав Одесской ВМБ, а также жителей города, служивших до войны во флоте и призванных из запаса. К середине августа 1941 года 1-й полк морской пехоты под командованием майора И. А. Морозова имел 1300 человек личного состава, 2-й полк морской пехоты насчитывал 700 человек.
В связи с обострением ситуации на фронте вокруг Одессы 1-й Черноморский полк морской пехоты, как наиболее многочисленный и имевший к тому времени более-менее полный комплект ручного стрелкового оружия, 8 августа 1941 года был направлен на передовую, где занял один из участков обороны. Там полк, не имевший до этого ни пушек, ни минометов, был усилен трехорудийной батареей 45-мм пушек, созданной в артиллерийских мастерских путем использования стволов учебных орудий калибра 45 мм из состава материальной части ряда береговых батарей Одесской ВМБ. Вскоре подобным же образом для этого полка была сформирована еще одна артиллерийская батарея с орудиями аналогичного калибра.
2-й полк морской пехоты, как очень малочисленный и имевший на вооружении только небольшое количество винтовок, был оставлен в Одессе для охраны порта и ряда других военных объектов.
В связи с рядом неудач и понесенными 1-м ПМП на фронте потерями 15 августа командованием Одесского оборонительного района было решено сменить командира полка и для пополнения влить в его состав 2-й полк морской пехоты. Новым командиром 1-го ПМП стал заместитель начальника тыла Одесской ВМБ интендант 1-го ранга (подполковник) Я. И. Осипов, который имел большой опыт боевых действий на сухопутном фронте в годы Гражданской войны, когда он командовал сначала рядом матросских отрядов, а затем 29-м Бирским стрелковым полком.
Сразу после этого назначения под командованием Я. И. Осипова 1-й Черноморский ПМП в ходе боев за село Шицли 16–18 августа 1941 года разгромил румынский пехотный батальон, полностью уничтожив две его роты и захватив в плен 200 оставшихся в живых румынских солдат и офицеров. Также было уничтожено два танка противника. В качестве трофеев были захвачены в этом бою 1 броневик, 3 танкетки и 18 противотанковых пушек. Вскоре после этого боев Я. И. Осипову было присвоено звание полковника.