Марксистские группы возникли и в других крупных промышленных центрах. В 1922 г. после возвращения из Москвы Шаукат Усмани создал группу коммунистов в Бенаресе. Одновременно начала работать коммунистическая ячейка в Лахоре, руководитель которой Гулям Хуссейн поддерживал тесные связи с направленным из Ташкента в Кабул Мухаммадом Али (Сепасси). Органом лахорской группы была издававшаяся Г. Хуссейном газета на языке урду «Инкиляб» («Революция»). На позиции научного коммунизма в это же время перешла калькуттская группа под руководством Музаффара Ахмада, который с 1923 г. стал издавать на бенгальском языке газету «Ганавани» («Голос народа»). В Мадрасе возникла марксистская группа под руководством Сингаравеллу Четтиара, издававшего с 1923 г. «Кисан-Лейбор газетт» («Рабоче-крестьянскую газету»).
Первые органы марксистской печати выполнили свою роль коллективного пропагандиста и коллективного организатора. Подобное же значение имело и подпольное распространение в Индии журналов «Вэнгард оф Индиэн Индепенденс» («Авангард индийской независимости», 1922–1924 тг.) и «Мэсоиэ оф Индиа» («Народ Индии», 1925–1927 гг.).
В течение 1923–1925 гг. произошло как расширение состава действовавших марксистских групп, так и создание новых кружков, в том числе в промышленных центрах Канпуре и Карачи. Установились контакты между отдельными марксистскими центрами, а также переписка с эмигрантским центрам индийских коммунистов. Основная задача, которая встала перед марксистскими группами в Индии, заключалась в объединении их усилий и создании общеиндийской организации.
В условиях жестокого колониального режима легальная деятельность индийских коммунистов была крайне затруднена. В 1922–1923 гг. власти организовали так называемые Пешаварские процессы над возвратившимися в Индию мухаджирами, принимавшими участие в работе эмигрантских революционных центров. В 1924 г. в Канпуре прошел первый процесс коммунистов, на котором к тюремному заключению были приговорены руководители марксистских групп Ш. Данге, Музаф-фар Ахмад, Ш. Усмани и др. Индийским коммунистам предъявлялось обвинение в действиях как «большевистским агентам». Несмотря на репрессии, английской секретной службе не удалось подавить коммунистическое движение в стране: в 1924–1925 гг. марксистские группы, напротив, усилили свою активность.
В сентябре 1924 г. канпурский журналист Сатья Бхакта объявил о создании легальной «Индийской коммунистической партии». Поскольку партия, как это подчеркивалось в заявлении ее руководителей, не была связана с Коминтерном и другими зарубежными революционными центрами, власти терпимо отнеслись к факту ее создания. Хотя основанная Сатья Бхактой партия и не стала притягательным центром для индийских коммунистов, он продолжал подготовку к объединению отдельных групп индийских марксистов. Был создан Оргкомитет по подготовке объединительной конференции во главе с левым конгрессистом Хозратом Мохани. В результате в Канпуре с 28 по 30 декабря 1925 г. была проведена под председательством мадрасского коммуниста М. Сингаравеллу Четтиара первая конференция индийских коммунистов, на которой было принято решение об образовании Коммунистической партии Индии с центрам в Бомбее. В избранный Центральный Исполком, секретарями которого стали Дж. Бегерхотта и С. В. Гхате, вошли представители всех основных коммунистических групп в Индии.
Внутри компартии развернулась борьба по вопросу ее отношений с Коминтерном. Сатья Бхакта выступал за то, чтобы Компартия Индии сохранила свой «национальный характер» и не устанавливала каких-либо связей с Коминтерном. На второй конференции компартии, происходившей в Калькутте в 1926 г., эта точка зрения не была поддержана большинством делегатов, и Сатья Бхакта, выйдя из партии, основал «Национальную компартию Индии» — по существу организацию революционных демократов.
Хотя Компартия Индии, в целях сохранения возможностей легальной работы, и не стала в этот период секцией Коминтерна, ее связи с международным революционным движением укреплялись. Этому способствовали контакты с Коммунистической партией Великобритании, которой по решению Исполкома Коминтерна было поручено вести работу с индийскими коммунистами. В 1925–1928 гг. Индию посетили делегации английских коммунистов. Компартия Индии нацеливалась на создание массовой революционной организации и создание антиимпериалистического блока.
Находившаяся в эмиграции группа индийских коммунистов во главе с М. Н. Роем стала с 1924 г. функционировать как Заграничное бюро КПИ, что было отражено в Уставе партии, принятом на третьей конференции в 1927 г. в Бомбее.