В июне 1921 года продолжились широкомасштабные операции Красной армии, в ходе которых силы повстанцев были разгромлены подвижными группами Уборевича и Какурина под станицей Урюпинской и под Сердобском. В боях 2–9 июня автобронеотрядом и летучими красными отрядами была разгромлена 2-я армия Антонова, а в середине июня — 1-я армия Богуславского. Против партизан Богуславского красные применили новую тактику, когда на беспорядочные цепи плохо вооруженных крестьян были направлены шесть броневиков и десять обшитых железными листами грузовых машин с пулеметами. Огонь из 16 пулеметов буквально выкашивал цепи повстанцев.
В июньских боях погибло более двух тысяч повстанцев. Только за период с 6 мая по 14 июня по Тамбовской губернии было задержано более семи тысяч дезертиров, захвачено в плен и добровольно сдалось 3672 повстанца, убито — 3783 антоновца. В июле Партизанская армия, потеряв еще пять тысяч убитыми, ранеными и пленными, была полностью разгромлена. В течение всего восстания погибло до 20 тысяч повстанцев, в том числе 80 главных организаторов восстания. Около пяти тысяч антоновцев разбежалось по домам.
Летом 1921 года командование красных приказало немедленно ликвидировать крупный отряд антоновского атамана Ивана Матюхина, насчитывавшего до 500 бойцов. Матюхин был участником Первой мировой, бывшим вахмистром. Большевики опасались, что он может возглавить все движение тамбовских повстанцев. В чекистских сводках отмечалась его огромная сила, властолюбие, говорилось о нем как о «конкуренте Антонова». Ликвидацию Матюхина было поручено провести кавбригаде Котовского. 1-й эскадрон этой бригады, под видом прорвавшегося с Дона повстанческого отряда атамана Фролова, внедрился в повстанческое объединение Матюхина.
20 июля Котовский и перебежчик Эктов организовали засаду под видом «съезда повстанцев». На этом «съезде» красные истребили членов штаба Матюхина, но самому атаману удалось скрыться. Хотя Котовский отправил в центр телеграмму о том, что Матюхин «сожжен в амбаре», а 200 повстанцев уничтожено, при потерях красных в четыре бойца, атаман продолжал борьбу. К сентябрю 1921 года Матюхин вновь руководил отрядом в 100–120 повстанцев. Но в октябре того же года он был убит засланными в его отряд чекистами. Летом 1921 года были также убиты Плужников и атаман Карась.
В начале июля 1921 года атаман Антонов издал приказ, согласно которому боевым отрядам повстанцев предлагалось разделиться на небольшие группы и скрыться в лесах или разойтись по домам. Восстание распалось на ряд мелких, изолированных очагов. К концу июля в отрядах антоновцев осталось не более 1500 бойцов. Тогда же, после рапорта о «полной ликвидации антоновщины», с Тамбовщины были отозваны Антонов-Овсеенко и Тухачевский.
В августе 1921 года чекисты узнали, что Антонов с группой бойцов скрывается в лесу у села Рамза. Лес был оцеплен и прочесан силами кавдивизиона котовцев, роты московских курсантов, но сам Антонов обнаружен не был. Когда к месту, где прятался атаман, стала приближаться цепь красноармейцев, Антонов приказал шестерым повстанцам пойти навстречу оцеплению и сдаться. Расстрелять их, как добровольно сдавшихся, не должны были, а об атамане они обещали молчать. Арестовав шестерых антоновцев, красные сняли оцепление, а Антонов благополучно вырвался «на оперативный простор».
На осень и зиму 1921/22 года на территории Тамбовской губернии большевиками были оставлены две дивизии и отдельная бригада. Власти поделили всю губернию на шесть боеучастков. Самыми неспокойными были 2-й и 3-й участки, где еще действовали отряды атаманов Протопопова, Шохина, Комара, Бобыля, Гришина, Шамова, Птичьего, Канищева, Спиридонова, Миронова. Наиболее активной из них была бригада повстанцев под общим руководством атамана Александра Протопопова.
Главный штаб повстанческих войск Тамбовской губернии был по приказу Антонова расформирован только в декабре 1921 года. Тогда же братья Антоновы ушли в подполье — проживали в лесах, в апреле 1922 года они появились в лесу в районе села Нижний Шибряй Борисоглебского уезда. Еще в 1919-м Александр Антонов скрывался в этом селе от красных под именем Михаил Наумов. В следующем месяце он заболел малярией и временно прекратил организаторскую деятельность.
В селе Нижний Шибряй у Антоновых были помощники: лесник Ломакин предоставил братьям лесные сторожки, бывший член РКП(б) Немтинов осуществлял связь с повстанческим подпольем, председатель сельсовета Касьянов снабжал их поддельными документами.