Убежденным большевиком-ленинцем Аросев стал в 1907 году. Семнадцатилетним юношей он вступил в гонимую, преследуемую партию в мрачную пору политической реакции, когда казанская организация РСДРП понесла тяжелые потери. Если в период первой русской революции в ее рядах насчитывалось более 1000 человек, то к осени 1907 года их осталось около 300, а в последующем всего несколько десятков. В 1907—1910 годах местная жандармерия и полиция девять раз подвергали разгрому Казанский комитет РСДРП, однако большевики продолжали работу.
Весной 1908 года Аросев и его товарищи впервые побывали на рабочих сходках как пропагандисты. Общение с рабочими произвело на них незабываемое впечатление.
«У нас было такое чувство, — вспоминал Аросев, — словно мы, как в сказке богатырь, коснулись матери сырой земли и от нее набрались той особенной большой силы, которую никак не приобретешь из книжек. Книжки помогали понять, но не действовать. Умение действовать приобреталось в действии».
Позже от передовых рабочих Аросев узнает о капиталистической эксплуатации, о борьбе классов, непримиримости интересов собственников и тружеников. Однако лишь повзрослев, постоянно общаясь с рабочими, юноша до конца осознал мощь и величие рабочего класса, свое духовное родство с пролетариатом.
А пока удивительным образом смешивалась у них серьезная работа с озорством, с удалью. Революцию они творили весело. Свой первый арест Аросев воспринял как награду, как отличие. И в тюрьме, и в ссылке — а он и там был с друзьями — эти юноши потешались над надзирателями, высмеивали на допросах жандармских офицеров, высоко и достойно несли свои юные головы. Александр Аросев никогда «не задерживался» в ссылках — он считал, что жизнь «в местах отдаленных» пагубно влияет на психику революционера. Он бежал из ссылок ровно столько раз, сколько раз его ссылали — четырежды.
Пребывание в тюрьмах и ссылках стало хорошим жизненным университетом. Эта практическая выучка впоследствии не раз выручала Аросева в самых тяжелых обстоятельствах. Пополнились и теоретические знания Александра. Чтение нелегальной литературы укрепило его марксистские взгляды. Активно участвовал он в ожесточенных спорах большевиков с меньшевиками. Прикрывая свой оппортунизм, последние нередко ссылались на заслуги Плеханова и всячески преуменьшали роль Ленина. Аросев с вескими аргументами в руках доказывал решающий вклад Ленина в теорию и практику российской социал-демократии. Споры о Ленине и Плеханове, вспоминал позже Аросев, происходили и в тюрьме, и в ссылке, и в повседневной деятельности.
Ссылка Аросева в Тотьму была для него первой. Всего полтора месяца пробыл он в Тотьме. 11 октября 1909 года с помощью товарищей он бежал — сначала в Вологду и Петербург, а затем за границу. Позже на вопрос, зачем он это сделал, Александр Яковлевич отвечал: «Бежал, чтоб стать ближе к революционной партийной организации и научиться революционному делу, с тем чтоб потом возвратиться в Россию для дела». Первый арест и ссылка окончательно сформировали Аросева-большевика. Перейдя на нелегальное положение, он навсегда избрал нелегкую судьбу революционера-профессионала.
За границей он обосновался в бельгийском городе Льеже. Было это глубокой осенью 1909 года. Вскоре в Льеж приехал В. Тихомирнов, которому в связи с плохим состоянием здоровья ссылку заменили выездом за границу. Друзья посещали лекции в университете, на факультете философии и литературы, изучали французский язык. Однако большую часть времени отдавали партийной работе. Весной 1910 года Аросев и Тихомирнов покидают Льеж и через Париж и Рим едут на Капри, к Горькому. Александру хотелось показать великому писателю свои первые опыты в литературе — повесть, написанную в ссылке.
С бьющимся сердцем ожидал Александр человека, о котором ходили легенды, ради которого Короленко и Чехов отказались от звания почетных академиков.
«Отворилась дверь, что была против меня, и в ярко-желтой куртке вошел высокий человек, несколько согбенный, с подбородком чуть-чуть вперед и как бы плачущими глазами. Созерцательная печаль его лица особенно выражена была в складках около глаз и на скулах. Будто лицо прошло сквозь строй страданий и вот осталось навеки поцарапанным. Глаза глубоко провалились и смотрели, будто издали они защищены были много испытавшим лицом, и там, в глубине, сохраняли свободу своего созерцания, свободу смеяться, презирать и больше всего любить и любить».