Узнав о намерении Пожарского, Трубецкой и Заруцкий решили опередить его и захватить Ярославль, преградить путь Пожарскому по Волге и отрезать ополчение от русского Севера. К Ярославлю с атаманом Андреем Просовецким двинулся большой отряд воровских казаков.
Пожарский среагировал немедленно и выслал к Ярославлю мобильный отряд под началом Дмитрия Петровича Лопаты-Пожарского. Основные же силы ополчения торжественно двинулись в поход из Нижнего Новгорода 23 февраля 1612 года. В Балахне, первом городе на пути ополчения, жители хлебом-солью встретили Пожарского, а местный воевода Матвей Плещеев присоединился к ополченцам. Так же встречали ополчение жители Городца, Кинешмы и других городов. Лишь в Костроме воевода Иван Шереметев, сторонник Владислава, не пожелал впустить в город ополчение. Но жители ударили в набат и связали воеводу. Вошедшему в Кострому Пожарскому пришлось спасать Шереметева, которого горожане хотели казнить. По просьбе костромичей Пожарский назначил им нового воеводу князя Романа Ивановича Гагарина.
В Ярославле власть была в руках престарелого боярина Андрея Куракина и дьяка Михаила Данилова. К ним присоединился приехавший из первого ополчения стольник Василий Бутурлин. Весть о присяге первого ополчения «псковскому вору» и прибытие отряда Лопаты произвели должное впечатление на Куракина, и он счел за лучшее присоединиться к Пожарскому. Таким образом, Ярославль без боя перешел в руки второго ополчения. В первых числах апреля 1612 года основные силы ополчения под колокольный звон вступили в Ярославль.
В Ярославле ополчение простояло четыре месяца. А куда им было спешить? К казакам, бывшим тушинцам, которые никак не могут решить, кого делать царем — «псковского вора» или Маринкино отродье? В ходе ярославского «сидения» нижегородское ополчение значительно усилилось и реорганизовалось. Не вступая в открытое сражение с казаками первого ополчения, их потихоньку выдавили из городов Центральной России. В апреле к Суздалю подошел отряд князя Романа Петровича Пожарского, и атаману Просовецкому пришлось уносить ноги. В мае 1612 года воевода Иван Наумов подошел к Переславлю-Залесскому, и казаки снова бежали без выстрела. В том же мае князь Дмитрий Черкасский выбил казаков из Углича. Четыре атамана сразу перешли на его сторону, но к остальным пришлось применить силу.
Чтобы очистить путь на север, Дмитрий Пожарский отправил в Пошехонье отряд Лопаты-Пожарского. Воровские казаки были выбиты из Пошехонья. Их атаман Василий Толстой бежал в Кашин, где засел воевода первого ополчения Дмитрий Черкасский. Недолго поразмыслив, Черкасский перешел на сторону Пожарского.
Торжок и Владимир также подчинились «Совету всей земли», созданному в Ярославле.
11 апреля 1612 года в Псков к своему «государю» прибыла новая депутация подданных из подмосковного стана. Ее возглавил рьяный сторонник самозванца воевода Иван Плещеев. Но тут вышла заминка. То ли Плещеев, увидев незнакомое рыло, возмутился обманом, то ли он заранее просчитал все варианты и пришел к выводу, что Лжедмитрий III обречен, но он заорал, что это не истинный Димитрий, а истинный вор. Гарнизон и жители Пскова разделились на два лагеря — сторонников и противников Лжедмитрия III. Но «псковский вор» не стал ждать развязки, а в ночь на 18 мая ускакал из города. За ним была отправлена погоня, и 20 мая его вернули в Псков закованного в цепи. «Вора» посадили в тюрьму, где он просидел до июля 1612 года.
1 июля Лжедмитрия III повезли в подмосковный лагерь первого ополчения. По дороге на конвой напали поляки пана Лисовского. Псковичи прикончили «вора» и удрали от поляков.
В сложившейся ситуации Минин и Пожарский в Ярославле, как и раньше в Нижнем Новгороде, продолжали считать своей главной задачей не очищение Москвы от поляков, а создание законной прочной власти, которая сможет объединить страну и покончить со смутой.
7 апреля 1612 года, почти сразу после занятия Ярославля, от лица земского ополчения по всем русским городам рассылаются грамоты. В грамотах, уже не стесняясь в выражениях, расписываются беззакония казаков Заруцкого и Трубецкого. Русские города призываются послать в Ярославль «изо всяких чинов людей человека по два», с ними собрать Земский собор и выбрать «по совету всего государства» царя, чтобы стоять с ним вместе «против общих врагов, польских и литовских, и немецких, и русских воров, которые новую кровь в государстве всчиняют». Грамота была подписана не одним Пожарским, а боярами В. П. Морозовым, В. Т. Долгоруким, окольничим С. В. Головиным, несколькими стольниками, дворянами и дьяками — всего 50 подписей.
Созыв Собора в обстановке смуты и хаоса — дело не недель, а долгих месяцев. Поэтому в Ярославле, не дожидаясь Собора, было создано земское правительство, управляющее уже большей частью России. В Ярославле возникли приказы (нечто типа министерств) — Поместный приказ, Монастырский приказ и др. В Ярославле был устроен Денежный двор, и началась чеканка монеты. Земское правительство вступает в переговоры с зарубежными странами.
Значительную роль в правительстве играл Кузьма Минин. Нижегородский мещанин получил необычный и внушительный титул — «Выборный всею землей человек».
Разумеется, кроме светской власти должна быть власть и духовная. Для созыва Большого собора нужно было время, а пока был создан Духовный совет, во главе которого был поставлен бывший ростовский митрополит Кирилл. Тот самый Кирилл, которого без особых оснований сместил с митрополии Гришка Отрепьев, дабы поставить туда своего благодетеля Филарета Романова. С 1606 года Кирилл проживал в Троице-Сергиевом монастыре. Выбор Кирилла не был случаен. В начале 1612 года в Москве от рук поляков принял мученическую кончину патриарх Гермоген. Филарета Романова, гостившего у польского короля в Ярославле, ни патриархом, ни митрополитом не считали. По церковному обычаю следующим по старшинству после патриарха считался новгородский митрополит, но новгородский митрополит Исидор был в шведском плену. За ним следовал казанский митрополит Ефим, но он был крайне необходим в Казани, а далее следовал по старшинству ростовский митрополит. Таким образом, была организована и своя церковная власть, и под рукой был почти неоспоримый кандидат в патриархи.
Ярославское правительство учредило и новый государственный герб, на котором был изображен лев. На большой дворцовой печати были изображены два льва, стоящие на задних лапах. При желании введение нового герба можно объяснить тем, что все самозванцы выступали под знаменами с двуглавым орлом — гербом русского государства — еще со времен Ивана III. Но с другой стороны — новый государственный герб был уж очень похож на герб князя Пожарского, где были изображены два рыкающих льва. Да и сам Пожарский теперь именовался «Воевода и князь Дмитрий Михайлович Пожарково-Стародубский».
Деятельность ярославского правительства начала приносить плоды. Даже отдаленные области Поморья и Сибири слали деньги и своих представителей в Ярославль.
Казалось, еще немного, и Земский собор изберет славного воеводу царем, а митрополита Кирилла — патриархом. Со смутой было бы покончено в течение нескольких месяцев. Вся история государства Российского могла пойти по другому пути.
Однако судьба распорядилась совсем иначе. В июле 1612 года войско гетмана Ходкевича двинулось на Москву. Перед Пожарским и Мининым возникла роковая дилемма — идти к Москве означало своими руками погубить план спасения государства, который был уже на грани успеха. Под Москвой волей-неволей придется сотрудничать с первым ополчением, признать его легитимность и делить плоды победы. А то, что собой представляла публика из первого ополчения, Пожарский и Минин знали не понаслышке. Не было никакого сомнения, что воровские казаки и впредь будут источником смут и потрясений. Но, с другой стороны, стоять в Ярославле и ждать, пока Ходкевич разгонит казаков и деблокирует войско Гонсевского, тоже было нельзя. Это скомпрометирует второе ополчение и особенно его вождей. Узнав о походе Ходкевича, многие казачьи атаманы из подмосковного лагеря писали слезные грамоты к Пожарскому с просьбой о помощи.