Однако печальные результаты летных испытаний А-3, проблемы с созданием двигателя мощностью 245 кН, и мизерный опыт эксплуатации ракет со сверхзвуковой скоростью полета привели к решению вначале построить еще одну, меньшую по размерам, опытную ракету. На последней надо было проверить правильность аэродинамического решения А-4 и заодно опробовать некоторые ее узлы и агрегаты. Новая ракета, проекциями схожая с А-4, но значительно меньших размеров, получила обозначение А-5. Внутреннее устройство она унаследовала от А-3, но имела несколько большие диаметр корпуса — 860 мм и взлетный вес — 900 кг. Значительно более тщательно было проработано хвостовое оперение (стабилизаторы больших размеров, с иным профилем и более толстые, так что их не требовалось укреплять, как на А-3). Стабилизаторы снабжались аэродинамическими рулями. Доработали и систему управления: молибденовые плоскости газовых рулей заменили графитовыми. Двигатель все еще находился внутри бака с этанолом.
Поскольку А-5 должна была стать первой сверхзвуковой ракетой, потребовалось переработать парашютную тормозную систему. Для сброса скорости до величины, при которой мог раскрыться основной тормозной парашют, использовался ленточный парашют, разработанный специально для проекта А-5 авиационным институтом графа Цеппелина в Штутгарте (выпускался в верхней точке траектории и снижал скорость ракеты со 100 м/с до 20 м/с; с раскрывшимся основным парашютом скорость снижения не превышала 5 м/с.
Поскольку в то время в Германии не существовало ни одной сверхзвуковой аэродинамической трубы, выверку летных характеристик А-5 производили на уменьшенных вариантах ракеты, запускавшихся с самолетов. В 1938 году на острове Грайфсвальдер-Ойе провели четыре летных испытания А-5, правда, без системы управления и парашюта, еще не готовых к эксплуатации. Все пуски прошли успешно, а участвовавшие в них опытные экземпляры достигли сверхзвуковой скорости. С марта 1939 года на Грайфсвальдер-Ойе и Пеенемюнде были произведены множество пусков этих уменьшенных моделей с различными типами стабилизаторов.
В сентябре 1939 года, уже после начала Второй мировой войны, удалось осуществить три старта полностью снаряженных ракет А-5. Во время первых двух ракеты достигли высоты 8 километров и приводнились на парашютах на поверхность Балтийского моря, откуда их выловили корабли. Третья ракета впервые взлетела не вертикально, а под углом 45 градусов. Так впоследствии должны были взлетать боевые ракеты (А-5 в то время имела радиус действия 18 км).