Проектирование новой САУ и постройку прототипа осуществляла фирма «Алкетт» на своем предприятии в Берлине-Борсигвальде. Изделие получило внутрифирменный индекс Gerät 803.
При создании самоходки в шасси танка Pz.Kpfw.II Ausf. F внесли существенные изменения, касавшиеся, прежде всего, компоновки машины. Двигатель перенесли из кормовой части машины в среднюю, что повлекло за собой и необходимость перекомпоновки трансмиссии. Вентиляционные решетки двигателя перенесли с крыши корпуса на борта. Рабочее место механика-водителя сместили несколько вперед. Изменили бронирование передней части корпуса — лобовой лист брони стал наклонным, а для механика-водителя сделали небольшой эркер. В ходовой части уменьшили с четырех до трех на борт количество поддерживающих роликов. Подвеску усилили за счет введения резиновых упоров, ограничивающих прогиб рессор. И, наконец, самое главное — в кормовой части оборудовали просторную открытую сверху рубку для орудия, экипажа и боекомплекта.
Уже в ходе производства шасси самоходки удлинили примерно на 220 мм. Визуально это определяется по несколько увеличенному расстоянию между задним опорным катком и ленивцем. Именно такая самоходка находится в музее в Кубинке.
Выбор подрядчика для серийного производства был вполне логичен — им стала фирма FAMO, ранее производившая танки Pz.II. Поначалу предполагалось организовать выпуск орудий, получивших обозначение 10,5 cm leFH 18/2 (Sf) auf Geshützwagen Pz.Kpfw.II (Sd. Kfz.124), на предприятии в Бреслау. Но вскоре решили перенести производство на завод «Урсус» в предместье Варшавы Чеховицах — это предприятие было оккупационными властями передано немецкому концерну и получило название «FAMO-Warschau». На варшавский завод из Бреслау перевезли оборудование производственной линии по выпуску Pz.II.
Внедрение самоходной гаубицы в производство продвигалось медленно — более приоритетными были признаны истребители танков «Мардер II», строившиеся на том же шасси. Выпуск Sd.Kfz.124 начался в феврале 1943 г. Первоначальный заказ составил 1000 единиц, но осенью 1943 г. его уменьшили до 835, включив в это количество и транспортеры боеприпасов Munitions Sf auf Fgst. Pz.KpfW.II. В общей же сложности к августу 1944 г. завод «FAMO-Warschau» выпустило 682 гаубицы и 158 транспортеров боеприпасов (по другим данным — 676 и 159 соответственно). При этом более 3/4 выпуска пришлось на 1943 г. В августе 1944 г. оборудование предприятия эвакуировали и в дальнейшем производство Sd.Kfz.124 не возобновляли.
Название «Веспе» («Оса») появилось не сразу, а было введено по приказу Гитлера год спустя после начала производства — 27 февраля 1944 г.