Формирование первых частей, вооруженных 150-мм шестиствольными пусковыми установками (ПУ) Nebelwerfer 41, началось весной 1940 г. Первым их получил Учебно-опытовый дивизион задымления. 18 апреля 1940 г. его 1-я батарея в составе восьми пусковых установок продемонстрировала мощь нового оружия перед командованием сухопутных войск вермахта на полигоне в Мюнстере. Тут же был подписан приказ о начале формирования первой боевой части — 51-го полка реактивной артиллерии.
Во второй половине 1940 г. части реактивной артиллерии были сосредоточены во Франции — предполагалось их участие в готовящейся высадке в Англии (операция «Зеелёве»). 51-й полк даже провел учебные стрельбы по надводным целям. Но боевым дебютом реактивной артиллерии стала операция «Барбаросса» -22 июня 1941 г. батареи «Небельверферов» открыли огонь по советской территории (боевой дебют БМ-13 — знаменитых «катюш» — состоялся чуть позже, 14 июля). Тактика частей реактивной артиллерии предусматривала массированный огонь по площадям. Поскольку ракеты «Небельверферов» были тонкостенными, то поражающий эффект от их осколков был невелик, а главным поражающим фактором была ударная волна. Для стрельбы по одиночным целям реактивные ПУ не применялись. Согласно германским уставам, в наступлении огонь реактивной артиллерии концентрировался на направлении главного удара, а в обороне — на наиболее опасном участке. Таким образом, «Небельверферы» рассматривались как ключевое средство обеспечения успеха, как в наступательном, так и в оборонительном бою. Немецкая пехота весьма ценила огневую мощь реактивной артиллерии, называя «Небельверферы» «пехотными Штуками» — по аналогии с пикирующими бомбардировщиками Ju-87 «Штука».
Устройство «Небельверфера» было довольно простым, но в 1940 г. в Германии создали ещё более простое, даже примитивное реактивное оружие — т. н. «тяжелую пусковую установку 40» (schweres Wurfgerät 40), служащую для запуска 280-мм фугасных и 320-мм зажигательных снарядов. Пусковая установка для четырех снарядов представляла собой простую раму, весящую всего 52 кг. Направляющих в привычном понимании не было: снаряды прямо в заводских укупорках устанавливались на раму и из них же запускались. Прицельные приспособления также отсутствовали — наводка на цель осуществлялась посредством обычного угломера. Каких-либо специальных частей, вооруженных такими «пусковыми установками» не было — их могла применять обычная пехота. Более того, можно было обходиться и вовсе без пусковых установок — контейнеры со снарядами устанавливали на пару вбитых в землю кольев, придавая необходимый угол возвышения. При этом в обращении снаряды считались довольно опасными — им случалось стартовать вместе с укупорками, что существенно уменьшало и так небольшую дальность стрельбы и подвергало опасности личный состав.