В период подготовки операции большое внимание уделялось обобщению опыта форсирования рек. Были приняты меры к созданию необходимых запасов материальных средств, тщательно отработаны вопросы скрытности подготовительных мероприятий, обеспечивавшие полную внезапность удара.
В 23 часа 20 февраля сводный отряд из состава лыжного батальона 120-й гвардейской стрелковой дивизии полковника Я. Я. Фогеля переправился на западный берег Днепра. В это же время полки первого эшелона начали занимать исходное положение в 150–200 м от правого берега реки. В 7 часов 20 минут 21 февраля началась артиллерийская подготовка, вслед за которой пехота пошла в атаку. По обледеневшим обрывам правого берега Днепра атакующие части все выше поднимались вверх. Это был поистине героический натиск советских воинов. Многие из них пали смертью храбрых под ураганным огнем врага. Но он не смог выдержать удара. В 10 часов передний край обороны был прорван. Особенно отличились при этом воины 5-й стрелковой дивизии полковника П. Т. Михалицина, 269-й стрелковой дивизии генерал-майора А. Ф. Кубасова и 120-й гвардейской стрелковой дивизии. К 11.30 на противоположный берег Днепра переправился и 36-й танковый полк подполковника М. В. Макаркина, который действовал совместно с 269-й стрелковой дивизией.
К середине дня сводный отряд 120-й гвардейской стрелковой дивизии, пройдя по тылам противника, перехватил шоссе Рогачев — Нов. Быхов.
На следующий день наступление на плацдарме за Днепром продолжалось. В этот день особенно успешно действовали части 5-й стрелковой дивизии. Ее 336-й стрелковый полк, совершив смелый маневр, прорвался в глубь расположения противника и вышел в район ст. Тощица (25 км севернее Рогачева), где установил связь с лыжным батальоном дивизии, вышедшим сюда еще в ночь на 22 февраля. Овладение станцией означало перехват железнодорожного сообщения между Рогачевом и Могилевом. Поэтому выход сюда наших частей сильно встревожил немецкое командование, которое спешно подтянуло в район станции подкрепление. Сюда же подошел вражеский бронепоезд, с которого был высажен десант автоматчиков численностью до 100 человек. Наша авиация совершила налет на станцию. Несмотря на яростное сопротивление врага, ночью 23 февраля станция была очищена от противника.
В это время полки 120-й гвардейской стрелковой дивизии, продвигаясь на запад, вышли на подступы к Рогачеву с северо-востока, а 169-я стрелковая дивизия полковника Ф. А. Веревкина, прорвав оборону врага юго-восточнее Рогачева, подошла к городу с юго-востока. Противник на помощь действовавшим здесь частям 31-й и 6-й пехотных дивизий подбросил в район Рогачева 5-ю танковую и часть сил 4-й танковой дивизии и в течение 23 февраля предпринял серию ожесточенных контратак, поддержанных сильными ударами авиации. В то же время враг поспешно укреплял оборону на следующем рубеже — по р. Друть. Отряд белорусских партизан численностью до 500 человек, подошедший из вражеского тыла в район ст. Тощица, соединился с частями 5-й стрелковой дивизии. Партизаны передали, что с севера по дорогам движутся колонны танков и автомашин. Как потом было установлено, это подходила 20-я танковая дивизия, перебрасываемая врагом из-под Витебска.
24 февраля явилось завершающим днем операции. К утру этого дня, после ночного штурма, части 120-й гвардейской и 169-й стрелковых дивизий освободили Рогачев. В этот день столица нашей Родины Москва салютовала войскам, освободившим важный город на Днепре. Части и соединения, отличившиеся в борьбе за город, получили почетное наименование «Рогачевских» или были награждены орденами.
В это время войска 3-й армии, действовавшие севернее Рогачева, вышли на рубеж южнее Нов. Быхов, Озеранье и далее по р. Друть. К югу от Рогачева наши войска, ликвидировав плацдарм противника на левом берегу Днепра, вышли на восточный берег реки.
В Рогачевской операции войска Белорусского фронта добились важных результатов. Ликвидировав плацдарм врага на левом берегу Днепра, они форсировали реку и захватили выгодный в оперативном отношении плацдарм шириной 60 км и глубиной 20–30 км. От врага был освобожден Рогачев — важный опорный пункт и узел дорог на Днепре. Противник в результате внезапного удара понес большие потери. Для укрепления положения под Рогачевом он вынужден был перебросить две дивизии с других направлений.