Чего не знали Ираклий и его советники, так это того, что, пока они противостояли персам и занимались теологическими спорами, в никому не известном уголке Аравийского полуострова стремительно развивались судьбоносные события. Весной 627 года, в то время как Ираклий планировал окончательное вторжение в Персию, подходил к концу очередной раунд бесконечных арабских племенных войн. Племя курайшитов из Мекки осадило город Медину. Защитников города, которые численностью сильно превосходили нападавших, возглавлял Мухаммед, сам по рождению курайшит, бежавший из Мекки за пять лет до того из-за своих монотеистических религиозных взглядов. Осада закончилась неудачей. Защитникам удалось сорвать нападение, прокопав сеть траншей вдоль стен, что заставило мекканцев отказаться от своей затеи. Благодаря этой победе известность Мухаммеда среди арабских племен начала расти. Одно за другим они принимали его религиозное учение, которое позже получило название «ислам». К моменту своей смерти в 632 году Мухаммед успел добиться беспрецедентного политического и религиозного единства на всем Аравийском полуострове. И именно это единство в большей степени, чем ислам, представляло серьезную угрозу для соседних государств. Приняв мусульманство, арабы не стали более воинственны. Они всегда жили войной, и ислам не изменил этого. Но он положил конец длившимся веками межплеменным конфликтам и помог создать общее государство. Это единство удалось сохранить и после смерти Мухаммеда, когда его преемником был избран Абу Бакр, первый халиф. И следовательно, вторжение 633 года, которое прошло для Константинополя почти незамеченным, было не обычным набегом одного из племен, но предвестником полномасштабного вторжения.
Осознание серьезности этой проблемы приходило очень медленно. Если арабы вторглись в пределы империи в конце 633 года, то реакция последовала лишь в начале следующего года, когда имперский наместник по имени Сергий пришел с небольшим войском, чтобы изгнать их.
Однако арабы не бежали, как обычно, увозя свою добычу, а остались и дали бой. Сергий был убит, многие из его людей, оставшихся в живых, попали в плен и были угнаны в Аравию. Это было поражение, но не настолько серьезное, чтобы в Константинополе тревожно зазвонили колокола. Находясь в Эдессе, на севере Сирии, Ираклий решил отправить в этой район своего брата Феодора, чтобы тот решил проблему. Когда же Феодор также потерпел сокрушительное поражение, император заменил его полководцем по имени Ваан. Эта замена заставила перемениться и фортуну, и арабы были отброшены и понесли большие потери. Ираклий, вероятно, решил, что угроза отведена, и засобирался обратно в Константинополь.