В сентябре 1919 года Яков Фомин вместе с Филиппом Мироновым поднял восстание против советской власти. На митинге в Саранске он публично призвал казаков к борьбе с коммунистами. Тогда же Фомин был арестован и приговорен к расстрелу, но в октябре 1919 года вместе с Мироновым был помилован. Яков вернулся на командные должности в РККА — стал командиром эскадрона полка немцев Поволжья в Донской советской кавалерийской дивизии.
13 марта 1920 года члены Верхнедонского окрисполкома обратились в Донисполком с ходатайством об отзыве Якова Фомина из дивизии для назначения его на ответственную должность. Но в июне 1920-го Фомин получает ничтожную должность командира караульного кавэскадрона Верхнедонского округа. Его эскадрон охранял продотряды во время сбора продразверстки на Верхнем Дону, участвовал в подавлении восстания Богучарского уезда Воронежской губернии.
Яков Фомин присутствовал при изъятии хлеба подчистую, участвовал в расправах с непокорным казачеством. Но когда он узнал о разорении продотрядовцами хозяйства своей семьи в хуторе Рубежном — не выдержал... Он приехал в хутор навестить семью и увидел все своими глазами. Руководство округа, узнав о критике Фоминым политики большевиков, отстранило его от должности командира кавэскадрона. Но новый командир не успел принять командование и арестовать Фомина.
12 марта 1921 года, узнав о восстании в Кронштадте и на Дону, Яков Фомин в станице Вешенской неожиданно поднял свой эскадрон против власти большевиков. В первый день восстания бунтавщикам не удалось захватить Вешенскую. После этого повстанцы ушли на правый берег Дона, где пытались поднять земляков на восстание против советской власти. Но особого успеха в этом они не достигли. Весной 1921 года конный отряд Фомина в 150–200 сабель рейдировал по Воронежской, Царицынской, Донской губерниям. Его по пятам преследовала конная группа Журавлева (300 сабель, 6 пулеметов), которая 18 апреля неожиданно напала и почти полностью уничтожила повстанцев. Однако в мае Фомину вновь удалось сформировать крупный партизанский отряд (130 сабель).
Большинство бойцов мятежного эскадрона попали в Красную армию, будучи перебежчиками и военнопленными белых армий. После разгрома атаманов Курочкина, Маслакова, Колесникова к Фомину перешла часть повстанцев из распавшихся отрядов. Северные станицы Верхнедонского округа — Шумилинская, Мешковская, Мигулинская, Казанская — с сочувствием относились к восстанию Фомина. Казаки пытались сорвать продналоговую кампанию, уничтожая продработников и документацию в исполкомах.
Осенью 1921 года чекистские сводки сообщили, что численность отряда Фомина и примкнувшего к нему атамана Кондратьева составляла 220 сабель при двух пулеметах. В это же время на Кубани активизировались повстанческие силы. 17 сентября Кубанская повстанческая армия атамана Пржевальского (четыре кавалерийских полка и стрелковый батальон, всего — до 1000 сабель и штыков) переправилась через Кубань у аула Эдепсухай, 19 сентября она окружила Краснодар. Однако штурм города сорвался из-за спешного прорыва к Краснодару частей 1-й Конной армии. 21–23 сентября повстанцы отошли за Кубань, где у села Белого были окружены и разгромлены (потеряв убитыми и пленными около 400 человек).
6 октября Фомин от имени «восставших войск военно-революционного времени» призвал жителей к всеобщему восстанию, утверждая, что «коммуна приведет к голодной смерти, к рабству крепостного права». 10 октября на хуторе Сингин он был окружен большим отрядом милиции. Милиционеры неожиданно ворвались на хутор и пленили до 20 партизан. Самому атаману удалось бежать от преследователей ночью в одном нижнем белье. Отряд Фомина пробился на хутор Рубежный, где атаман забрал в отряд своего пятнадцатилетнего сына Давидка.
13–16 октября повстанцы заняли Вешенскую, но поддержки местных казаков не получили. 30 октября бойцы союзника Фомина атамана Кондратьева были разбиты, а сам атаман схвачен. Отряд Фомина разделился, ушел на переформирование в Хоперский округ, а в начале 1922 года снова появился на Дону. В это время на хуторе Рубежном чекисты арестовали жену атамана Анастасию. После долгих мучений и издевательств ее живьем утопили в проруби.
18 марта партизаны Фомина численностью 80 сабель были обнаружены недалеко от Рубежного и окружены. В бою было убито 25 повстанцев, красные захватили обоз и оружие, канцелярию штаба. 20 марта около хутора Кругловского повстанцы были снова окружены. Понимая, что на этот раз выбора у них не осталось, они буквально бросались на пулеметы и в рукопашную. В этом бою погибло более 100 повстанцев, в том числе и сам атаман Фомин.