Враги сошлись летом следующего года на берегах реки Йармук (Ярмук), левого притока Иордана. Почти месяц длились мелкие стычки, но в середине августа часть войск изменила Ираклию, авторитет которого сильно упал из-за его бездействия, и провозгласила императором Ваана. Другая часть армии осталась верной государю, между полководцами и солдатами началась вражда, ослабившая войско. 20 августа 636 г. ромеи напали на арабов, но успеха не добились ни тогда, ни днем позже. Взаимопонимание между Вааном и Феодором отсутствовало, их отряды сражались разрозненно. Развязка наступила на третий день битвы. Сильный ветер нес в лицо византийцам и союзным с ними арабам-христианам тучи пыли, ослаблял убойную силу их стрел. Под мощным натиском врага христиане дрогнули и побежали. Многие были оттеснены к обрывистому берегу Йармука, падали в воду и тонули под тяжестью оружия.
После этого поражения арабская опасность стала для империи главной. Население Востока — монофиситы, самаритяне, иудеи — открыто приветствовало мусульман, говоря, что бог мести посылает их как защиту от жадности римлян. По свидетельству арабских историков, Ираклий с грустным возгласом «Прощай, Сирия!» покинул Антиохию. Отступая, византийцы увозили с собой все ценности. В конце 636 г. вторично пал Дамаск. Военачальники халифа осадили Иерусалим, и вскоре патриарх Софроний сдал город. Омар въехал в древнюю столицу Иудеи верхом на верблюде, шокировав всех простотой и бедностью одежды — халиф имел лишь одну шерстяную рубашку!
Сасанидский Иран вообще не смог оказать действенного сопротивления, и мусульмане разгромили его. В 637 г. после четырехдневной битвы при Кадисии между арабами и персами последние оставили Ктесифон, Йездигерд III бежал в горы.
В столь тяжелой ситуации Ираклий решился на утверждение новой христологической формулы, призванной сплотить на компромиссной позиции не прекращавшие вражды группировки христиан: единая божественная воля при двух естествах. Учение это, принятое на поместном соборе в Константинополе, получило название монофелитства. Ираклий в 638 г. издал специальный указ — «Экфесис» («Изложение»), в котором объявлялись новые догмы веры. Западная церковь, не решаясь открыто выступить против императора, тем не менее осуждала «Изложение», особенно после кончины папы Гонория, сторонника новой доктрины. Сам Ираклий после смерти Сергия (638), опасаясь обвинений в ереси, заявил по поводу «Экфесиса», что, дескать, составлял текст Сергий, а он, император, лишь подписал, уступая просьбам патриарха.
Василевс жил в Иерии, не показываясь в столицу и все дела в ней препоручив Константину III.
Против Ираклия созрел заговор, в котором оказались замешаны его племянник Феодор и многие представители армянской придворной знати. Мятежники хотели посадить на трон незаконнорожденного сына Ираклия, Алариха, с 623 г. бывшего заложником у авар и незадолго перед тем выкупленного, а самого василевса убить. Эти планы стали известны императору и заговорщики подверглись жестокому наказанию — им отрезали носы и правые руки и сослали на острова. Исключение составил один вельможа, который высказывался против физического устранения Ираклия и его семьи — обошлось ссылкой без членовредительства. Наместник Армении Давид Сааруни, также уличенный в измене, начал собирать войска для зашиты от императорского гнева. Ираклий, не желая усугублять беды державы еще и междоусобной войной, простил его и дал титул куропалата.
В начале лета 638 г. Ираклий решил перебраться в столицу. Через Босфор на судах навели мост и василевс первым переехал пролив. 4 июля патриарх венчал на царство Ираклеона (Ираклия II), старшего сына Мартины, младший, Давид, получил титул кесаря.
Тем временем положение восточных провинций ухудшилось еще более. Пала Антиохия и, хотя ряды завоевателей косила чума, они не давали передышки ромеям. Города Месопотамии сдавались арабам практически без боя, некоторое время сопротивлялись лишь Телла и Дара, куда отступили гарнизоны других крепостей, но и они были захвачены. Мусульмане осадили последний оплот византийцев в Палестине — Кесарию (город пал уже после смерти Ираклия).
В конце 639 г. полководец Амр ибн ал-Аса с большим отрядом арабской конницы вторгся в Египет, войска которого и по численности, и по подготовке годились разве что на подавление крестьянских восстаний. Ворота диоцеза — крепости Ринокорура и Пелусий — сдались, первая сразу, вторая после месячной осады. Августал Нижнего Египта Феодор стянул свои полки в Вавилон (крепость на месте нынешнего Каира), патриарх Кир укрылся в Александрии. В июле 640 г. августал вышел сразиться с захватчиками, был разбит и скрылся обратно, под защиту крепостных стен. Арабы захватили Атриб, Фаюм, а в сентябре блокировали Вавилон. Местное население подвергалось ужасающей резне, конница варваров уничтожала поля и сады. Амр потребовал дани, и Кир поехал в столицу, просить денег при дворе. Василевс заподозрил последнего в чрезмерной уступчивости арабам, обвинил в измене, устроил над патриархом суд, пытал и заключил в темницу.