Разосланная по городам грамота произвела сильнейшее впечатление. Все желавшие порядка устремились в Нижний или ждали прихода Пожарского. Кремлевские изменники и поляки потребовали от Гермогена приказать остановить ополчение, но патриарх им отказал. Тогда его уморили в келье. Забеспокоился Заруцкий: он понял, что появилась сила, способная лишить его власти. Заруцкий не стал терять времени и отправил казаков Андрея Просовецкого захватить Ярославль. Но ярославцы проведали об этом и дали знать Пожарскому. Тот немедля послал отряд князя Дмитрия Лопаты-Пожарского. Нижегородцы поспели раньше казаков и заняли Ярославль. Пора было выступать и Пожарскому, но он ожидал Биркина с ополчением из Казани. Биркин всё не приходил, и тогда в «великий пост» 23 февраля 1612 г., нижегородское ополчение выступило в поход. Путь до Ярославля занял около трех недель: по дороге войско «князя Дмитрия и Кузьмы» приветствовала Балахна, Юрьевец, Кинешма. В Костроме воевода Иван Шереметев попробовал было затворить город, но костромичи восстали, открыли ворота и чуть его не убили. Спас его Пожарский, он ограничился тем, что сменил воеводу.
В Ярославле. Во второй половине марта Пожарский подошел к Ярославлю. Ярославцы вышли навстречу с образами и предложили Пожарскому и Минину подарки, но те их не приняли. В Ярославле ополчение задержалось на четыре месяца. Авраамий Палицын осуждает за это Пожарского, но другие современники обвинения не поддерживают. Вожди ополчения прежде всего стремились придать законность своему начинанию, превратить его в движение общерусское, объединить под земской властью города, не желавшие принимать поляков, бояр изменников и казаков. Нужно было также собирать средства для растущего ополчения. Наконец, следовало поладить со шведами, захватившими Новгородчину, чтобы не ударили в спину.
Все насущные задачи Пожарский и Минин выполнили, но на это ушло четыре месяца.
Были разосланы грамоты «от всей земли» по городам (первая отправлена из Ярославля в Сольвычегодск 7 апреля 1612 г.). В них разъясняются причины созыва нового ополчения, его задачи и нужды. Утверждается, что первое ополчение погубили «заводчики злу» — атаманы и казаки «с их началником, с Иваном Заруцким». Они убили воеводу Ляпунова и многих дворян «и учати совершати вся злая по казацкому воровскому обычаю». Поэтому служилые люди созвали новое ополчение: «Столники же и стряпчие, и дворяне и дети боярские всех городов, видя неправедное их начинание, из под Москвы разъехались по городом и учали совещатися со всеми городы, чтоб всем православным христианам быти в совете и в соединенье, и выбрати государя всей землею». Для избрания государя городам следует присылать «к нам, в Ярославль, изо всяких чинов человека по два, и с ними совет свой отписати». Предлагалось следовать нижегородцам и «промеж себя обложить, что кому с себя дать на подмогу ратным людям... чтоб всем нам единокупно за свою веру и за отечество... стояти».
В грамотах первыми подписывались бояре, съехавшиеся в новый центр власти — в Ярославль. Пожарский подписывался десятым, Минин — пятнадцатым. Табель о рангах соблюдался жёстко, хотя грамоты подписывали всех чинов люди. Большинство городов севера и северо-востока признали Земской совет в Ярославле и собирали деньги на второе ополчение; города юга и отчасти центра России поддерживали Трубецкого и Заруцкого. В самом Ярославле бояре, не желая терпеть местнические «потерьки», отказывались подчиняться Пожарскому. Ещё хуже случилось с Биркиным, приведшим казанское ополчение в Ярославль. Бояре отказались признать его воеводой, но за Бирки на заступились казанцы, смоленские дворяне и нижегородские стрельцы. Спор чуть не перешел в сражение. Кончилось тем, что большинство казанцев вернулось домой. Остался отряд служилых татар и 30 дворян. Пожарскому и Минину приходилось быть гибкими, но власть над войском они удержали.
Весной 1612 г. войско Пожарского очищает от шаек казаков Замосковье. Запорожцев изгнали из Бежецка, казаков Заруцкого — из Суздаля, Углича, Пешехонья и Переславля-Залесского. Четыре атамана перешли на сторону Ярославля. Всех казаков, согласных отстать от Заруцкого, в Ярославле принимали на службу и давали «жалованье земское довольное». Стремясь обезопасить тылы от шведской угрозы, Пожарский и члены Совета прибегли к дипломатии. Новгородская земля была оккупирована шведами, которые, в отличие от поляков, предоставили покорешюй земле автономию — статус Новгородского государства; во главе его должен был встать шведский принц Карл-Филипп, обещавший принять православие. На совете в Ярославле решили, что принявший православие принц может подойти как царь и для Московского государства. Тогда Новгород останется в составе России.
В мае 1612 г. ярославское посольство начало переговоры в Новгороде с митрополитом Исидором и шведским наместником Якобом Делагарди. Переговоры длились больше двух месяцев. 26 июля стороны договорились о подписании перемирия Московского и Новгородского государств. Позиция Пожарского относительно избрания принца Карла-Филиппа была чёткая: земские люди согласны соединиться с Новгородским государством, когда шведский принц прибудет в Новгород и примет православие. До тех пор говорить не о чем. Пожарский также предупредил, что Земский собор согласен ждать лишь до исхода лета. Если принц не прибудет в Новгород к концу лета, тогда люди в русских городах придут в сомнение, потому что «великому государству без государя долгое время стоять нельзя». Шведская угроза была отведена.
Видя усиление земского ополчения в Ярославле, подмосковные вожди Заруцкий и Трубецкой попробовали с ними договориться. Ещё в мае из Пскова бежал третий Лжедмитрий (Матгошка или Сидорка), но был пойман, послан в Москву и по дороге убит. В начале июня подмосковный Совет земли отказался от присяги лжецарю и отправил посольство в Ярославль. Трубецкой, Заруцкий и члены подмосковного совета извещали ярославский «Совет всея земли» о низложении Вора, клятвенно обещали впредь не затевать иного воровства и отрекались от Маринки и ее сына. Они предлагали ярославцам объединиться «во всемирном совете», чтобы избрать царя всем сообща. Их повинная вызвала раздор в «Совете всея земли» — «междоусобные смутные словеса», но войско было настроено против примирения. Дворяне обвиняли Заруцкого в злом умысле: «Князя Дмитрия, — говорили они, — манят под Москву, казаки хотят его убити, как Прокопия Ляпунова убили». Как пишет летописец, Заруцкий хотел «оное собрание, стоящее в Ярославле, рассыпать». В результате из Ярославля продолжали рассылать грамоты с обвинениями Заруцкого.
Заруцкий понял, что попытка примириться с Пожарским провалилась, и решил подослать к князю убийц. Он отправил в Ярославль казаков — Обрезку да Стеньку. Там они вступили в сговор с людьми из окружения Пожарского. Однажды Пожарский пришел к съезжей избе смотреть пушечный наряд для похода к Москве: «пришед и ста у дверей разрядных. Казаку же именем Роману, ириемши его за руку, той же Степанка казак, который прислан ис-под Москвы, кинулся меж их и их расшибе и хоте ударити ножем по брюху князь Дмитрея, хотя его зарезати». Но промахнулся и порезал ногу казаку Роману. Тот повалился и застонал от боли. Князь думал, что казака в тесноте покололи ножом, и хотел уйти. Люди же не пустили и начали вопить: «Тебя хотели зарезать ножом!» — и нашли нож. Схватили и Стеньку. Под пыткой он все рассказал и товарищей своих указал. Их взяли. Преступники повинились. Пожарский никого не казнил. Стеньку с подручными он взял с собой для обличения, чтобы показать под Москвой, остальных разослали в города но тюрьмам. Князь Дмитрий не желал начинать с крови святое дело.
Долгое пребывание земского ополчения в Ярославле резко критикует Авраамий Палицын. В «Сказании» он рассказывает, что князь Трубецкой молил Троицкую обитель написать Пожарскому о немедленном шествии под Москву — там ждут прихода гетмана Ходкевича с польскими и литовскими людьми. Архимандрит Дионисий и келарь Авраамий отправили в Ярославль двух старцев с писанием о делах под Москвой. «Князь Дмитрей же писание от обители в презрение положи». Пришлось из Троицы послать ещё двух старцев с запрещением промедления. Князь Дмитрий же «медлено и косно о шествии промышляше, некоих ради междоусобных смутных словес в Ярославле стояще и войско учрежающе». 28 июня в Ярославль выехал сам келарь Авраамий. Старец нашел там «мятежников, и ласкателей и трапезолюбителей, а не боголюбцов, и воздвижущих гнев и свар между воевод и во всем воиньстве». Увидев это, старец «князя Дмитрея и Козму Минина и все воиньство поучив от Божественых Писаний и много молив их поспешити под царьствующий град». Пожарский немедля послал под Москву воинский отряд с воеводой князем Дмитрием Лопатой-Пожарским. Встали они у Троицких ворот, там на них напали казаки Заруцкого, но были отбиты.