8 апреля 1972 г. Галло торжественно праздновал 43-ю годовщину своего рождения. Вечером он с друзьями отправился в кабаре. После представления Галло его невеста и ее десятилетняя дочка, сестра Джо и его телохранитель поехали в «Раковину Умберто», ресторан неподалеку от здания полицейского управления Манхэттена.
Едва успели заказать ужин, как в ресторан вошел мужчина среднего роста, приблизительно сорока лет, в светлом твидовом пальто, с револьвером 38-го калибра в руке, готовым к стрельбе. Ни слова не говоря, он направился к Джо Галло и выстрелил. Досталось и телохранителю Питеру Диапиуласу. Безумный Джо нашел в себе силы подняться. Шатаясь, он прошел по залу. В пятнадцати шагах от входа он рухнул, примерно в ста метрах от того места, где за год до этого в ярком освещении прожекторов «Парамаунта» дон Вито Корлеоне, он же Марлон Брандо, пал жертвой подобного нападения.
Джо Галло был погребен в бронзовом гробу стоимостью 5 тыс. долл. Его телохранитель Питер Диапиулас, отказавшийся давать какие-либо показания полиции, был осужден за незаконное ношение оружия.
Война мафии шла полным ходом. Газеты пестрели сообщениями о все новых и новых убийствах среди мафиози.
Штаб-квартира на автомобильном кладбище
Резня среди гангстеров серьезно встревожила общественность. Губернатор Нью-Йорка Линдсей заявил: «Мы прогоним гангстеров из нашего города. Но вначале мы попытаемся лишить их материальной опоры».
Итак, снова, вот уже в который раз, было дано стереотипное обещание навсегда покончить с организованной преступностью. Однако на этот раз полиция, кажется, серьезно взялась за дело.
Все началось с того, что четверо переодетых служащих уголовной полиции развернули торговлю рождественскими елками у входа в один из бруклинских баров, который охотно посещался мафиози. Из обрывков разговоров полицейским удалось узнать о местонахождении логова гангстеров. Так полиция натолкнулась на жилой фургон на автомобильном кладбище в Бруклине. Среди аккуратно расставленных автомобильных обломков окруженная забором из колючей проволоки и охраняемая овчарками расположилась хорошо замаскированная и звукоизолированная штаб-квартира «Коза ностры». Несмотря на строгую охрану, полицейские все же установили на крыше этого фургона подслушивающее устройство и сделали отвод от телефонного кабеля вагончика. В школе, расположенной напротив, полицейские оборудовали наблюдательный пункт, оснащенный кинокамерой. Каждый посетитель фургона на автомобильном кладбище в Бруклине был заснят на пленку.
Несколько месяцев спустя (война гангстеров в Нью-Йорке была в полном разгаре, и губернатор Линдсей только что произнес свою угрозу) полиция уже располагала несколькими миллионами метров кинопленки и многими километрами магнитофонной ленты с записями разговоров о рэкете, разбойных нападениях, похищениях людей, подлогах со страховками.