В 1925 году Матрона уходит из дома. Оба ее брата – Михаил и Иван, как только вступили во взрослую жизнь, стали коммунистами, Михаил был даже сельским активистом. Присутствие в их доме блаженной сестры, которая целыми днями принимала народ, делом и примером учила хранить веру православную, становилось для них невыносимым. Они опасались репрессий. Жалея их, а также стариков родителей (мать Матроны скончалась в 1945 году, пережив на тридцать три года мужа), матушка решилась уйти из дома. Места съемных квартир она выбирает в направлении столицы, переезжая с одного на другое, так постепенно перебирается в Москву, в которой проживет до конца своих дней, скитаясь по родным и знакомым, по домикам, квартирам и даже подвалам. Почти везде Матрона жила без прописки, несколько раз чудом избежала ареста. Господь берег ее. Вместе с матушкой жили и ухаживали за ней послушницы – хожалки.
Москву блаженная очень любила, говорила, что «это святой город, сердце России». В этом огромном столичном городе было множество несчастных, потерянных, отпавших от веры, духовно больных людей с отравленным сознанием. Что бы стало с Москвой, не будь в ней Матроны, трудно представить. Городу, как и человеку, невозможно выжить без духовной основы. Советская власть сделала все, чтобы подорвать ее. Живя около трех десятилетий в Москве, матушка совершала то духовно-молитвенное служение, которое многих отвратило от гибели и привело к спасению, врачуя каждую приходящую к ней душу.
Как она лечила? Матрона громко читала молитву над водой и давала ее всем приходившим к ней. Пившие воду и окроплявшиеся ею избавлялись от различных напастей. Содержание этих молитв неизвестно, но, конечно, тут не может быть и речи об освящении воды по установленному Церковью чину, на что имеют каноническое право лишь священнослужители. Известно, что благодатными целительными свойствами обладает не только святая вода, но и вода некоторых водоемов, источников, колодцев, ознаменованных пребыванием и молитвенной жизнью близ них святых людей, явлением чудотворных икон. Такие источники есть вблизи Троице-Сергиевой лавры, Оптиной Пустыни, Печорах, Валааме, Урале, Сибири, и, конечно же, ими богато село Дивеево и его окрестности.
Новый период подвижнической жизни матушки прошел в постоянных скорбях и лишениях. Она, живя бездомной странницей, порой квартировала у людей, относившихся к ней враждебно. С жильем в Москве было трудно, выбирать не приходилось, но она никогда не жаловалась, а лишь благодарила Бога за все.
Зинаида Жданова рассказывала, какие лишения порой приходилось претерпевать блаженной: «Я приехала в Сокольники, где матушка часто жила в маленьком фанерном домике, отданном ей на время. Была глубокая осень. Я вошла в домик, а в домике – густой, сырой и промозглый пар, чадит железная печка-буржуйка. Я подошла к матушке, а она лежит на кровати лицом к стене, повернуться ко мне не может, волосы примерзли к стене, еле отодрали. Я в ужасе сказала: «Матушка, да как же это? Ведь вы же знаете, что мы живем вдвоем с мамой, брат на фронте, отец в тюрьме, и что с ним – неизвестно, а у нас – две комнаты в теплом доме, сорок восемь квадратных метров, отдельный вход; почему же вы не попросились к нам?» Матушка тяжело вздохнула и сказала: «Бог не велел, чтобы вы потом не пожалели». Но в конце концов переехала к ним…
Жила Матрона до войны на Ульяновской улице у священника Василия, мужа ее послушницы Пелагеи, пока он был на свободе. Потом жила на Пятницкой улице, в Сокольниках, в Вишняковском переулке в подвале у племянницы, квартировала также у Никитских ворот, в Петровско-Разумовском переулке, гостила у племянника в Сергиевом Посаде (Загорске), в Царицыно. Дольше всего (с 1942 по 1949 год) она прожила на Арбате, в Староконюшенном переулке. Здесь в старинном деревянном особняке жила односельчанка Матроны, Мария Жданова с дочерью Зинаидой. Именно в этой комнате три угла занимали иконы, сверху донизу. Перед иконами висели старинные лампады, на окнах – тяжелые дорогие занавески (до революции дом принадлежал мужу Ждановой, происходившему из богатой и знатной семьи, которого вымолила ей в свое время матушка).