Репрессии по сравнению с 1922 годом утроились, и Л.М. Каганович написал в 1929 году: «Церковь – это единственная легальная контрреволюционная сила». Началась третья волна гонений. В 1929 году в Москве были разрушены несколько монастырей, которые веками почитались во всей России: Чудов, Вознесенский, Сретенский, Никитский, а также были разрушены кладбища Свято-Алексеевского, Андроникова, Симонова и Новоспасского монастырей. В 1930 году был закрыт последний из еще действовавших московских монастырей – Даниловский. 5 декабря 1931 года был взорван в Москве кафедральный храм Христа Спасителя. Аресты духовенства и административное закрытие храмов возобновились с новой силой. 15 мая 1932 года был принят «антирелигиозный пятилетний план», и начавшаяся пятилетка (1932–1936) была названа «безбожной». Был поставлен план уничтожить все церкви. Г.М. Маленков писал в записке И.В. Сталину: «Пора покончить с клерикальными организациями и с церковной иерархией». Начались массовые аресты духовенства. Было произведено около 60 тысяч арестов и 5 тысяч казней. В один только день – 18 февраля 1932 года – были арестованы все оставшиеся в живых монахи в Санкт-Петербурге, которых было почти 500 человек.
Сформировался «Союз воинствующих безбожников», который действовал энергично и жестоко. Была отменена семидневная неделя, потому что она основывалась на христианском календаре, в школах было введено преподавание атеизма. Синод Русской Церкви, возглавлявшийся митрополитом Сергием, юридического признания от государства не получил и в мае 1935 года вынужден был «самоликвидироваться».
В 1937 году председатель Союза воинствующих безбожников Е. Ярославский (Губельман) заявил, что «в стране с монастырями покончено». Четвертая волна гонений 1937–1939 годов примерно в 10 раз превышала по арестам гонения 1922 года, а по расстрелам – в 80 раз. Был расстрелян каждый второй. В течение 1937–1938 годов НКВД повсеместно провел массовые операции по арестам и расстрелам духовенства. Эти репрессии затронули также и обновленцев. Общее количество репрессий – около 200 тысяч, а казней – 100 тысяч. К 1939 году церковная структура по всей стране была практически уничтожена. Епархии как административные единицы фактически исчезли. Значительная часть духовенства истреблена физически или находилась в лагерях. К началу осени 1939 года в СССР было всего лишь 4 зарегистрированных архиерея (2 правящих и 2 викарных), около 300 священнослужителей и примерно столько же действовавших храмов.
Русская Православная Церковь восприняла свое мученичество с христианским смирением, воплощая на практике то, о чем писал Патриарх Тихон в 1919 году: «Чадца мои! Пусть слабостью кажется иным эта святая незлобивость Церкви, эти призывы наши к терпеливому перенесению антихристианской вражды и злобы… Но мы умоляем вас, умоляем всех наших православных чад не отходить от этой единой спасительной настроенности христианина, не сходить с пути крестного, ниспосланного нам Богом, на путь восхищения мирской силы или мщения. Не омрачайте подвига своего христианского возвращением к такому пониманию защиты благополучия Церкви, которое бы унизило ее и принизило вас до уровня действий ее хулителей».
Ситуация серьезно изменилась с сентября 1939 года, когда к СССР были присоединены республики Балтии, Западная Украина, Западная Белоруссия и Бессарабия. В результате этого на территории СССР оказалось свыше 7 миллионов православных верующих, организованных в епархии и приходы, действующие монастыри, учебные заведения, редакции церковных изданий и т. д. Точной статистики действовавших в канун Великой Отечественной войны храмов нет, но, по некоторым данным, их число составляло около 4 тысяч храмов, более 90 % которых приходилось на вновь включенные области и республики, а количество священнослужителей составляло около 6 тысяч человек.