Диоклетиан опасался растущей власти новой религии, особенно в армии. Он инстинктивно желал сокрушить ее. В этом он имел сильнейшую поддержку своего коллеги Галерия. Некоторые источники даже сообщают, что гонение и вовсе было идеей Галерия: его любимая мать, Ромула, глубоко чтила традиционные римские верования. Весьма вероятно, что за самым страшным преследованием, с которым столкнулись христиане в античные времена, стояла женщина, происходившая из сельской части Сербии.
Так называемое Великое гонение с юридической точки зрения представляет собой ряд указов 303 и 304 гг. Первые указы были нацелены на духовенство и христиан, занимавших высокие посты. Затем власти обратились к рядовым христианам и потребовали, чтобы и они приносили жертвы языческим богам. Сносили церкви, конфисковывали священные книги. Диоклетиан старался устранить христиан из армии.
Согласно христианским источникам, гонение началось зимой 303 г. с разрушения церкви в Никомедии рядом с императорским дворцом. Античный автор обвиняет Галерия в том, что тот поджег дворец Диоклетиана, а затем обвинил в этом христиан, чтобы вызвать у императора желание покончить с ними раз и навсегда. Кажется, Диоклетиан проглотил наживку и приказал пытать своих слуг в надежде выбить из них признание, но попытка провалилась.
По общему мнению, Диоклетиан даже подозревал своих жену и дочь. Вероятно, поэтому он приказывал им участвовать в жертвоприношениях. Но женщины определенно не являлись христианками, хотя, возможно, симпатизировали новой религии.
Христиане по-разному реагировали на преследования. Кто-то скрывался, кто-то подкупал чиновников; одни соглашались принести жертвы, другие отказывались и становились мучениками за веру. Об этих последних подробно рассказывает христианская литература. Ветеран по имени Юлий, отслуживший двадцать семь лет, участник семи военных кампаний, предпочел казнь принесению жертв богам. Так же поступила и Криспина, богатая женщина, мать нескольких детей, проживавшая в области современного Алжира. Епископ Феликс из нынешнего Туниса, пятидесяти шести лет, отказался отдать свои священные книги и был предан казни.
Христиане переживали суровые времена. Преследования продолжались повсеместно на протяжении десяти лет, вызывая страдания верующих, но в конечном счете они не достигли своей цели. Одной из причин явилась стойкость мучеников, а другой — нежелание некоторых нехристианских властей принимать в этом участие. Многие ли римляне были готовы осудить на казнь своих сограждан, не совершивших никаких преступлений? В Британии и Галлии Константин ограничился уничтожением церквей, но самих христиан оставил в покое. Наверняка он не единственный, кто смягчал приказы Диоклетиана.