Большевики пытались создать новую гражданскую администрацию. Начиная с ростовской думы, они распустили все думы, и Военно-революционный комитет объявил выборы в местные и районные Советы. За исключением священников, купцов, полицейских и офицеров, все, кто достиг возраста двадцати одного года, могли принять участие в голосовании. Но в большинстве станиц выборы так и не состоялись. А где они прошли, обычно атаманы избирались председателями, таким образом, ничего не менялось, кроме названия.
Съезд Советов в Ростове прошел 9 апреля. На нем обсуждалась земельная реформа и национализация, но главным вопросом было, должен ли Дон принимать условия Брест-Литовского мирного договора. Так как Дону угрожала немецкая армия, решение съезда имело национальное значение. И сторонники, и оппоненты мира с Германией понимали это. Поэтому большевики послали Орджоникидзе в Ростов, чтобы выступать на съезде за мир, а левые эсеры послали Камкова, бороться против. После нескольких дней споров большевики одержали победу. 348 голосов против 106, при этом многие воздержались. Вскоре немцы двинулись на Дон, и большевикам пришлось изменить свое решение и выступить в поддержку революционной войны.
Жители Дона мало переживали по поводу резолюции съезда Советов или о том, останутся ли их атаманы председателями; для них советский режим стал символом террора и анархии. Сильнее всего этот террор проявился в двух большевистских оплотах: Ростове и Таганроге. В последние месяцы режима Каледина большевики получали огромную поддержку в этих городах Дона. Население ждало войска Красной армии как освободителей. Приход войск разрушил эту иллюзию за короткое время, и симпатии сменились страхом. Сразу начались аресты и казни.
Командующий Южного революционного фронта Рудольф Сиверс
Жизнь офицеров оказалась в огромной опасности. Эти люди не присоединились к Добровольческой армии, несмотря на угрозы, и теперь им приходилось скрываться. Они осознали, что невозможно позволить себе роскошь «нейтралитета» во время Гражданской войны. Некоторое время спустя, когда белые вновь захватили Дон, эти офицеры пополнили ряды Добровольческой армии. Красный командующий Сиверс приказал, чтобы все, кто ранее входил в Добровольческую армию, были казнены. Пока армия стояла в Ростове, многие учащиеся четырнадцати и пятнадцати лет записались в ее ряды, но, возможно, из-за запрета родителей не участвовали в Ледяном походе. И теперь эти дети должны были быть расстреляны. Военно-революционный комитет отменил этот приказ, провозгласив, что никто моложе семнадцати не должен быть наказан. Тем не менее, это не принесло никакого результата, так как штаб Сиверса игнорировал решения комитета.
Террор был направлен даже на социалистические партии и на обычных рабочих. Например, видный меньшевистский лидер П. П. Калмыков был убит солдатами. 1 марта большевики прекратили выпуск меньшевистской газеты «Рабочее дело». Меньшевики стали выпускать другую, «Рабочее слово», но она также спустя месяц была закрыта. 26 марта социал-революционеры и меньшевики покинули собрание Ростовского городского совета в знак протеста и более никогда туда не возвращались.
Если бы даже штаб Сиверса захотел прекратить террор (а он не хотел), это было бы почти невозможно. Никакая сила не могла успокоить и призвать к порядку солдат расформированных отрядов, пришедших в Ростов с Украины, спасаясь от немцев. Они убивали иногда просто ради грабежа. Беспорядки были случайными и непредсказуемыми. В то время как офицерам и видным кадетским политикам удалось спрятаться и выжить, включая Милюкова, некоторые были убиты только потому, «что носили обувь такую же, как у солдат Добровольческой армии».
Террор в Таганроге был еще более кровавым. Ярость, с которой офицеры пытались подавить восстание в январе, оставила слишком горькие воспоминания. Десятки офицеров были арестованы и жестоко убиты. Среди арестованных офицеров был генерал Ренненкампф, участник Русско-японской войны и хорошо известный участник неудавшейся попытки государственного переворота России в августе 1914 года. Из Петрограда поступило распоряжение предложить Ренненкампфу командование позицией на пути надвигающейся немецкой армии. Когда Ренненкампф отказался, Антонов-Овсеенко лично отдал приказ о его казни.