Но, несмотря на расчеты Хосрова, это не заставило императора прервать военную кампанию в Персии и вернуться на запад. Вместо этого он отправил треть своего войска на защиту Константинополя, в то время как остальные остались на востоке. Кроме того, он заключил союз с местным тюркским племенем, хазарами, и теперь уже двойное вторжение в Персию продолжилось, несмотря на угрозу в тылу. Константинополь был предоставлен сам себе. Ираклий никогда бы не пошел на такой смелый шаг, если бы не знал, как трудно будет аварам и персам захватить город: для этого им нужно было переправиться через Босфор, а потом взять штурмом оборонительные стены. Возможно, аварский каган мало представлял, насколько хорошо защищен Константинополь, раз он решил, что его войско с осадными машинами сумеет быстро войти в город. К концу июля перед стенами Константинополя были установлены 12 осадных башен и многочисленные катапульты, и начался штурм. Два дня шли жестокие бои. Но аварам не удалось продвинуться, поскольку камни, выброшенные их катапультами, ничего не могли сделать стенам, построенным из массивных блоков известняка. Количеством нападающие сильно превосходили защитников города, но стены были построены таким образом, что штурмовать их, используя осадные башни, было очень трудно. Строители укреплений создали неприступную трехуровневую систему обороны. Главная внутренняя стена имела около 12 метров в высоту. В нее были встроены 96 башен, из которых византийцы стреляли в аваров из баллист и катапульт. Перед ней стояла наружная стена, чуть ниже и с 92 башнями, с которых по аварам тоже стреляли. И наконец, перед стеной был широкий, облицованный кирпичом ров, от 15 до 20 метров в ширину и 5–7 метров в глубину, а со стороны города вдоль него шло еще и ограждение из дерева и кирпича. Противник должен был переправиться через ров и перелезть через заграждение, и все это под обстрелом, ведущимся с наружной и внутренней стен. Но даже если ему удалось бы сделать это и захватить внешнюю стену, он оказался бы в ловушке, коридоре пятиметровой ширины, отделявшем внешнюю стену от внутренней.
Аварам удалось подогнать часть своих осадных башен близко к наружной стене, заполнив некоторые участки рва, но дальше этого дело не пошло. Моряки, покинувшие свои корабли в гавани, чтобы присоединиться к защитникам города, прислонили к зубчатой стене мачту, к которой была привязана лодка, наполненная горючим веществом. Его подожгли, а затем мачту повернули так, чтобы горящее вещество вылилось на осадную башню аваров, и та загорелась. Видя, что его замыслы сорвались, каган прибег к запугиванию, направив своих посланников с требованием сдать город, если жители хотят сохранить свои жизни и имущество. В противном случае он грозился бросить в бой персов, которые все еще ждали в Халкидоне, на другом берегу Босфора. Византийцы, вероятно, были бы рады перемирию и заплатили бы аварам большую дань, но пойти на полную капитуляцию они не могли. Переговоры сорвались, и осада продолжилась.