До образования Союза ССР правительство РСФСР фактически играло роль общефедеративного правительства. Все советские республики (УССР, БССР, Грузинская ССР, Армянская ССР, Азербайджанская ССР) имели во ВЦИК и СНК РСФСР своих представителей и участвовали в работе съездов Советов РСФСР. По постановлению 9-го Всероссийского съезда Советов «О советском строительстве» (декабрь 1921) состав ВЦИК был расширен до 386 чел. за счёт национальных представителей. Республики вверили правительству РСФСР право представлять их интересы за рубежом. В свою очередь, правительство Российской Федерации, уважая суверенные права других республик, при проведении внешней политики не решало ни одного вопроса, касающегося этих республик, без их согласия и участия. Проводя ленинскую политику мирного сосуществования социалистических и капиталистических государств, правительство РСФСР в 1920—1922 заключило договоры с прибалтийскими государствами, с Ираном, Афганистаном, Турцией, Великобританией, Италией, Германией и др.
Договор о военном союзе советских республик, заключённый в 1919 в ходе Гражданской войны, был в период мирного строительства дополнен договорами о хозяйственном союзе. 28 декабря 1920 заключён «Союзный рабоче-крестьянский договор между РСФСР и УССР», предусматривавший объединение военных и хозяйственных комиссариатов обеих республик. 16 января 1921 аналогичный договор подписан между РСФСР и БССР. РСФСР имела также союзные договоры с Хорезмской народной советской республикой (13 сентября 1920), Азербайджанской ССР (30 сентября 1920), Бухарской народной советской республикой (4 марта 1921), Грузинской ССР (21 мая 1921), Армянской ССР (30 сентября 1921). 22 февраля 1922 был подписан протокол, по которому 8 братских республик (Украинская, Белорусская, Азербайджанская, Армянская, Грузинская, Бухарская, Хорезмская, Дальневосточная) передали РСФСР представительство на Генуэзской конференции 1922.
Совместная борьба с внешней и внутренней контрреволюцией, общие задачи по восстановлению народного хозяйства и строительству социализма, интересы обороны и внешней политики, бескорыстная помощь русского народа другим народам России в деле ликвидации политического и экономического неравенства, унаследованного от царизма, укрепили доверие ранее угнетённых наций и народностей к русскому народу и вызвали массовое общественное движение во всех советских республиках за создание единого союзного государства. 10-й Всероссийский съезд Советов (23—27 декабря 1922) также присоединился к этому движению и признал своевременным государственным объединение советских республик. 30 декабря 1922 в Москве состоялся Первый съезд Советов СССР, на котором был создан Союз Советских Социалистических Республик.
Первоначально в СССР вошли: РСФСР, УССР, БССР и ЗСФСР. РСФСР являлась ядром, вокруг которого сложилось и окрепло многонациональное социалистическое государство — Союз ССР. Создание единого союзного государства способствовало быстрому восстановлению экономики РСФСР и других союзных республик.
В 1924—25 произошло национально-государственное размежевание советских республик Средней Азии (Туркестанской, Бухарской и Хорезмской), в результате которого были созданы: Узбекская. ССР, Туркменская ССР и Таджикская АССР в составе Узбекской ССР, а также Кара-Киргизская АО (с 25 мая 1925 Киргизская АО) в составе РСФСР и Каракалпакская АО в составе Казахская АССР. Для содействия экономическому и культурному развитию малых народностей Севера 20 июня 1924 был создан Комитет содействия народностям северных окраин (Комитет Севера). 19 декабря 1924 была образована АССР немцев Поволжья; 21 апреля 1925 Чувашская АССР; 7 июля 1924 Ингушская АО и Северо-Осетинская АО; 2 января 1925 Горно-Бадахшанская АО, в 1926 Карачаевская АО. 1 февраля 1926 Киргизская АО преобразована в Киргизскую АССР. В 1924—26 правительство РСФСР добровольно передало БССР значительные территории с большинством белорусского населения. В начале 1925 в состав РСФСР, кроме губерний, входило 9 автономных республик и 15 автономных областей, 12-й Всероссийский съезд Советов 11 мая 1925 принял новый текст Конституции РСФСР, разработанный в соответствии с Конституцией СССР 1924. Из ведения высших органов власти РСФСР были исключены и переданы Союзу ССР ведомство иностранных дел, руководство ж.-д. транспортом и связью, военным делом, внешней торговлей, а также такие функции, как установление денежной и кредитной системы.