В 1870 году в белорусском местечке Лысково под Гродно в мещанской семье Азефов родился второй сын Евно. Через пять лет семья с семью детьми переехала в торгово-промышленный Ростов-на-Дону. Портной Фишер Азеф открыл в городе лавку промышленных товаров и смог выучить своих детей в гимназии. Потом товарищи Евно по учебе писали, что он с детства был «скрытным фискалом», грубым и черствым мальчиком, но эти материалы были опубликованы после 1908 года. Двадцатилетний Азеф перебивался мелкими заработками, давал уроки, служил репортером в ростовской газете «Донская пчела», писцом в конторе, секретарем при фабричном инспекторе, коммивояжером в торговом доме. Евно Азеф еще в гимназии познакомился с революционной молодежью, посещал рабочие кружки, распространял листовки.
Ростовские жандармы начали следствие о распространении прокламаций в городе и Евно Азеф успел уехать за границу. По поручению мариупольского купца он продал партию масла, большую часть денег оставил себе и в германском городе Карлсруэ поступил в Политехническую школу, где шесть лет получал специальность инженера-электрика. У русских в Карлсруэ была небольшая библиотека, служившая местом встреч и бесед. Азеф вступил в революционный кружок, то ли по стремлению, то ли по заранее продуманному плану. На занятиях в библиотеке и кружке Евно молчал и слушал, иногда говорил о необходимости избегать экстремизма, а уж тем более терроризма и вообще крайних методов. Товарищи-студенты говорили о нем, как о молодом человеке, талантливом и знающем, умном и с неприятно-скрытным тяжелым характером.
Денег на учебу, жилье и еду Азефу не хватало и в 1893 году, вскоре после приезда в Карлсруэ, Азеф уже начал бедствовать, «терпеть холод голод». Он пытался подрабатывать, но конкуренция таких, как Азеф, была высока, и студент-электрик в апреле 1893 года написал письмо в Департамент полиции с предложением освещать деятельность русских революционеров, студентов и эмигрантов за границей. Он не назвался, дав в письме только почтовый адрес. Азеф написал, что готов дать информацию и о революционном Ростове-на-Дону. Департамент полиции, естественно, быстро определил, кто из молодых ростовчан-полуреволюционеров учится в Карлсруэ и установил Азефа по почерку. Ростовские жандармы прислали в Петербург характеристику Азефа, запросившего провокаторское жалованье в сумме чуть ли не тридцать рублей в месяц, и это была средняя зарплата рабочего: «Это неглупый, весьма пронырливый и имеющий обширные связи человек и в качестве агента может приносить существенную пользу. Надо ожидать, что по своему корыстолюбию и нужде он будет дорожить полицейской обязанностью».