Он родился в 1904 году в селе Березовка, Воронежской области, в бедной крестьянской семье. Еще мальчонкой он работал по найму у помещика, после Октябрьской революции пас скот у кулаков.
Его отец — Архип — прямо с фронта мировой войны ушел в Красную Гвардию и домой вернулся только в 1921 году. И почти сразу его скосил брюшной тиф. Семья осталась без кормильца. Отца пришлось заменять маленькому Герасиму. В 1926 году он вступает в комсомол, в 1928 году становится членом партии. В 1927 году его направляют в Омскую пехотную школу, и с тех пор он — кадровый военный.
Выкованные годами его волевые качества и приобретенные военные знания ярко раскрылись в дни войны. Покидая с боями пылающий Севастополь, подполковник Рубцов собрал вокруг себя пограничников, подбадривая их хорошим словом в самые трудные минуты, сурово пресекая малейшие отступления от воинских требований, и вывел всех к Черному морю. Когда фашисты заняли высоты, господствующие над Балаклавской бухтой, преграждая пограничникам путь к Севастополю, подполковник Рубцов и в этом очень трудном положении нашел правильное решение. По его приказу на Золотом пляже Ласпинской бухты, под строениями старого русского кордона, пограничники принялись сбивать плоты из деревьев, срубленных в горах под огнем немцев. Все шло в дело — и ржавая проволока, подобранная на берегу, и гвозди, вытащенные из старых балок, и обрывки пеньковых канатов.
Даже на хорошем моторном катере из Ласпинской бухты в Севастополь не так-то скоро доберешься. Но сколько надо было потратить усилий, чтобы, гребя саперными лопатами и досками, прогнать по морю из Ласпи на мыс Херсонес неуклюжие, кое-как сбитые плоты! Да еще перевезти на них маленькими партиями 130 пограничников!
Великая цель — защищать от врага Севастополь — вдохновляла на преодоление всех трудностей и невзгод. Группа вышла в полном составе на скалистый берег Херсонеса, и вот тогда-то пограничники, участники героического похода, поняли, каким замечательным организатором, несгибаемым человеком является их командир.
Он знал каждого из состава отряда, гордился своими людьми и верил, что в защите Севастополя пограничникам будет принадлежать важная роль.
— Здесь наше место, — обратился Рубцов к личному составу, — у Севастополя. Будем сражаться, мужественно, не посрамим своего честного имени…
Очень трудный и ответственный рубеж обороны получил пограничный полк — от совхоза «Благодать» до обрывистых берегов за старинной Генуэзской башней, где тихая и глубокая Балаклавская бухта, делая крутой поворот к югу, становится открытым Черным морем.
Тут был самый левый фланг огромного фронта Великой Отечественной войны. Фронт этот протянулся от таких же скалистых и обрывистых, овеваемых студеными заполярными ветрами берегов Рыбачьего полуострова, от самых северных пограничных застав, поблизости речушки Западная Лица, до полуразрушенной Генуэзской башни, видной отовсюду на много верст окрест.
Захватив Балаклаву, враг не только мог получить выгодную стоянку для своих легких кораблей, но и немедленно ринуться кратчайшей дорогой на Севастополь, отрезать выход защитникам к морю.
А чтобы враг не смог этого сделать, надо было поставить на оборону Балаклавы воинов высокой закалки. Такими воинами были пограничники.
…Холодным ноябрьским рассветом над зубчатой верхушкой Генуэзской башни затрепетал на ветру алый советский флаг. А когда показалось из-за свинцовых облаков, ползущих к морю, утреннее солнце, фашисты, залегшие на вершинах, господствующих над Балаклавой, обнаружили еще один сюрприз, приведший их в бешеную ярость.
По крепостной стене, что протянулась от башни в направлении Кучук-Мускомия, виднелась большая, хорошо различаемая из немецких окопов надпись: «Смерть фашистским оккупантам!»
Надпись всю ночь выводил на неровных камнях стены, обращенных к противнику, предприимчивый агитатор и организатор политмассовой работы коммунист Гусев. Этого быстрого в движениях, вездесущего бойца в зеленой фуражке хорошо знали не только все солдаты, но и гражданское население Балаклавы. Перебегая и переползая под градом пуль от окопа к окопу, от батальона к батальону, Гусев разносил листовки Политуправления флота, свежие номера газеты «Красный Крым», новые сводки Совинформбюро.
Огромные испытания легли на защитников Севастополя, но положение Балаклавы и ее пограничного гарнизона было еще труднее. Сложность обороны маленького города заключалась в том, что немецкие позиции выдвинулись на вершины, с которых отлично просматривался весь уютный приморский городок, расположившийся по берегам глубокой синей бухты в горной расщелине.