Однако Маврикий был непопулярен в армии из-за неудачных войн на Балканах, а также в связи с его попытками взять под контроль финансовые средства, выделяемые на ведение военных действий. Последнее обстоятельство — справедливо или нет — расценивалось солдатами как скряжничество и жадность. Дело кончилось тем, что в 602 г. в войсках на Дунае вспыхнул мятеж, солдаты взяли Константинополь и посадили на трон своего ставленника центуриона Фоку. Вся семья Маврикия была вырезана, началась тирания Фоки (602–610). Хотя как правитель он производит впечатление некомпетентного политика, однако войска его удерживали позиции и на Балканах, и на востоке, в Персии, войска которой вторглись в пределы Византии под предлогом мести за Маврикия. Фока был популярен во многих регионах империи, но все-таки не во всех, и в 610 г. Ираклий, экзарх (военный губернатор) Африки, правивший в Карфагене, повел в поход флот, чтобы низложить Фоку. Одновременно с той же целью его двоюродный брат Никита отправился с сухопутным войском через Египет в Малую Азию. Фоку удалось низложить без особого сопротивления, и Ираклий был провозглашен императором. Часть войск осталась верной Фоке, так что за его низложением последовала непродолжительная гражданская война в Египте и Малой Азии. Однако в этот период империя не могла действенно обороняться от внешних врагов, и через несколько лет авары и славяне заняли большую часть Балкан, а персы в 614–618 гг. захватили Сирию и Египет и, поставив там своих наместников, продолжили наступление в Малой Азии. Италия, теперь разъединенная на изолированные друг от друга лангобардскими княжествами округа, была предоставлена собственной судьбе, что способствовало развитию автономии и ощущению самодостаточности. Это привело к фактическому отделению данного региона, лишь номинально остававшегося частью империи.
В 626 г. персы и авары, совместно осадившие Константинополь, потерпели поражение (современники связывали эту победу с покровительством Богоматери). Ираклий еще в 623 г. смело вторгся в Персию через территорию Армении, перенеся войну на коренные персидские земли. Проведя ряд блестящих военных кампаний, он разгромил армию Хосрова и заставил персидских полководцев просить мира. Сам Хосров был низложен и убит. Было восстановлено довоенное положение дел, и Византийская империя укрепилась. Однако, хотя граница номинально проходила по Дунаю, Балканы по-прежнему фактически не принадлежали Византии, за исключением мест нахождения ее войска, в то время как финансовое положение империи было катастрофически подорвано войнами.