В ответ на бандитский террор военный губернатор Одессы объявил войну бандитам. В предместья Одессы, где в основном располагались бандитские «малины», были введены воинские подразделения и броневики. Бандитов нещадно расстреливали на месте преступления. Начались широкомасштабные облавы на одесских «жиганов», во время которых «отстреливались» все подозрительные. Так, 27—29 декабря 1918 года произошло «разоружение Сахалинчика» (район Одессы) — было изъято 30 винтовок и револьверов и совершена облава на Молдаванке, при которой было арестовано около сорока человек. 12 февраля 1919 года произошел расстрел восьми налетчиков, обнаруженных на месте преступления на улице Госпитальной.
Эта борьба Гришина с уголовными элементами очень напоминала приписываемую молвой такую же борьбу с уголовщиной советского маршала Г.К. Жукова в послевоенной Одессе, ярко и увлекательно показанную в известном телесериале «Ликвидация».
В интервью газете «Одесские новости» в январе 1919 года Гришин-Алмазов сетовал: «То, что происходит сейчас в Одессе, внушает серьезные опасения... Одессе в наше безумное время выпала исключительная доля — стать убежищем всех уголовных знамен и главарей преступного мира, бежавших из Екатеринослава, Киева, Харькова».
Почуяв наличие хоть какой-то твердой и дееспособной власти, 31 января 1919 года на прием к генералу пришла депутация одесских торговцев и членов биржевого комитета, которые пожаловались ему на участившиеся случаи вымогательства, налетов и грабежей. Гришин-Алмазов попросил передавать ему письма бандитов с требованиями денег. Несколько таких писем члены делегации тут же передали военному губернатору, с надеждой на защиту от террора уголовных.
Борьба Гришина против бандитизма была столь жестокой, что «король» одесской уголовщины Мишка Япончик (послуживший впоследствии прообразом Бени Крика из «Одесских рассказов» И. Бабеля) направил губернатору Одессы умоляющее письмо-просьбу. В нем были такие строки: «Мы не большевики и не украинцы. Мы уголовные. Оставьте нас в покое, и мы с вами воевать не будем. Какое вам дело, что мы грабим? В Одессе есть тайные игорные дома, где ведется большая игра. Деньги мало что стоят. Ведется игра на драгоценности: брошки, серьги, золотые портсигары. Вот этих мы и грабим. Неужели вы их будете защищать?».
Но генерал не принял бандитского предложения...
Прочтя письмо Япончика, Гришин-Алмазов сказал Шульгину:
— Не может диктатор Одессы договариваться с диктатором уголовных.
И ничего не ответил ему.
Война продолжилась. Для широкомасштабных облав стали использоваться французские и греческие солдаты из союзнических войск. Вскоре было закрыто 44 притона бандитов, которые именовались буфетами, паштетными, трактирами.