Когда в 1943 году приступили к формированию диверсионно-штурмовых боевых средств, Герхольд также добровольцем записался на курсы подготовки. После весьма сложных и интенсивных тренировок он участвовал в порту Неттуно в первой операции — потопил неприятельский танкер, управляя торпедой-носителем, выпускавшей одну-единственную боевую торпеду. Из их группы в 12 человек с боевых заданий вернулись лишь трое, среди них Вальтер Герхольд. За проявленный в боях героизм 5 мая 1944 года ему был вручен Железный крест 1-й степени.
В конце июля 1944 года Вальтер Герхольд входил в состав группы, готовившейся в районе Орна к операциям против кораблей флота вторжения союзников. В общей сложности 25 человек в ночь с 5 на 6 июля отправились из Вилье-сюр-Мера на торпедах-носителях к скоплению кораблей противника у побережья Франции.
Пробравшись среди неприятельских кораблей, Вальтер выпустил боевую торпеду по крейсеру. Несколько секунд спустя корму крейсера сотряс мощный взрыв. После этого Герхольд все же сумел вернуться на побережье у Онфлёра. И доложить о том, что, дескать, крейсер противника потоплен. За это 6 июля 1944 года, то есть в первый день вторжения, старшему матросу Вальтеру Герхольду был вручен Рыцарский крест. Таким образом, Вальтер Герхольд стал первым кавалером Рыцарского креста в диверсионно-штурмовых группах и первым из рядового состава флота, кому была вручена эта высокая награда Военно-морского флота, и до самого конца войны его статус не изменился. Хотя несколько лет спустя после войны к выяснилось, что атакованный Герхольдом крейсер так и не был потоплен, это ничуть не умалило заслуг Вальтера Герхольда и его товарищей, принимая во внимание условия, в каких они действовали против флота вторжения союзников.
Задуманная Монтгомери операция «Эпсом» началась 25 июня 1944 года. Несмотря на огромные боевые и материальные ресурсы, немцам все же удалось предотвратить окружение Кана. Дело в том, что оборонявшие этот город солдаты очень хорошо знали специфику местности — успели изучить ее за три недели пребывания на позициях. Весьма квалифицированные минеры потрудились над закладкой минных полей, и те послужили мощным средством сдерживания наступавшего противника невзирая на мощнейшую артподготовку. Мотопехотинцы удерживали танковые клинья англичан до тех пор, пока еще оставались боеспособные подвижные резервы.
После третьей по счету неудачи с окружением города Монтгомери добился выполнения хотя бы одной задачи: его наступление связало немецкие танковые силы в районе Кана. Всего на Канском участке, кроме 21-й танковой дивизии, сражалось 5 танковых дивизий ваффен-СС, кроме того, два усиленных танковых батальона ваффен-СС. Такого мощного сосредоточения сил на узком участке фронта не было за всю войну. Хоть Монтгомери располагал гигантскими резервами, немецкая сторона не имела в распоряжении ничего подобного. Однако рано или поздно силы немцев исчерпались, и прорыв сил союзников тяжкой ценой был достигнут.