Начинался «великий перелом». Троцкого уже выслали из страны, а Бухарина уволили с поста редактора «Правды» и вывели из состава Политбюро. Не повезло и всем их друзьям, в том числе и Семенову. Одно время он работал начальником строительства Болшевского механического и чугунолитейного завода под Москвой, затем начальником авторемонтных мастерских ВОГФа (Всесоюзного объединения гражданского воздушного флота, которым до своей гибели в авиакатострофе в 1933 г . руководил бывший начальник Семенова по Главэлектро Гольцман). По словам биографа Семенова С. В. Журавлева, «отовсюду его „вычищали“ — слишком богатая биография вкупе с разрисованным выговорами партийной учетной карточкой рождала в коллективе настороженное отношение». После того, как по инициативе секретаря Краснопресненского райкома партии Никиты Сергеевича Хрущёва Семёнова уволили из ВОГФа, он попросился на прежнее место в Главэлектро. Однако и оттуда вскоре был уволен — всплыла работа под начальством Троцкого в Главэлектро и рекомендации троцкистов Крестинского и Серебрякова, данные ему для вступления в партию.
В 1933 году Семёнов покидает столицу и уезжает в Ленинград, на должность начальника отдела рабочего капстроительства машиностроительного завода им. Ворошилова. Здесь к нему отнеслись помягче. В сентябре 1933 года Семёнов успешно проходит очередную партийную чистку, хотя и со скрипом — товарищи по партии задали ему 52 вопроса!
В Ленинграде ему удаётся спокойно проработать полтора года, до 1 декабря 1934 года, когда первого секретаря Ленинградского обкома С. М. Кирова убили в Смольном прямо у дверей кабинета. Одним из
следствий убийства стала чистка всей ленинградской парторганизации. 1 февраля 1935 года заводской партком в третий раз исключает Семёнова из рядов ВКП(б). Опальный коммунист снова берётся за привычное дело — подаёт апелляцию и 22 февраля 1935 года на заседании бюро Володарского райкома Семёнова восстанавливают в партии.
Понимая, что за чистку партии взялись всерьез и теперь его едва ли оставят в покое, Семёнов предпринимает отважный шаг. В марте он едет в Москву и пробует вернуться в разведку: явившись в Разведупр, предлагает свои услуги в любом рискованном мероприятии. Лучше война, с её ясными и привычными законами, чем полная непредсказуемых нюансов и потому смертельно опасная для человека с его биографией мирная жизнь. Семёнов пришёл не с пустыми руками, у него была идея. Он «вызвался возглавить группу инструкторов-специалистов по всем областям военного искусства и техники и перебросить её на самолётах или на верблюдах через пустыню Гоби на помощь Китайской Красной армии». В апреле 1935 года его в очередной раз зачисляют в штат Разведупра, и он приступает к подготовке экспедиции через пустыню Гоби. В качестве помощника Семенов привлекает старого приятеля, закалённого в уличных боях и проверенного на разведработе Эмиля Дайбеля, который тоже работает в военной разведке.
Однако экспедиция не состоялась. В ноябре Семёнову присваивают звание бригадного комиссара и посылают в Монголию с более частным заданием — «для налаживания связи с Китайской Красной армией и проверки маршрута». Он должен был «организовать переброску 6 китайских товарищей через Монголию в Китай», что и сделал, но затем расконспирировал себя, и в мае 1936 года его отозвали в Москву. Между тем в Разведупре РККА решался вопрос о дальнейшей судьбе 21 сотрудника, которые в прошлом являлись «участниками оппозиционных группировок». По поводу бригадного комиссара Г. И. Семенова «принято решение оставить в Управлении для специальной работы» (РГВА, ф.9, оп.29, д.327, л.5.).
Его ждало новое задание. В июле 1936 года в Испании генерал Франко возглавил фашистский мятеж против республиканского правительства. Помощь ему оказали фашистская Италия и национал-социалистическая Германия. 4 октября СССР открыто заявил о своей поддержке Испанской республики. В Испанию направили советскую военную технику, 2 тысячи советников, а также большое число военных специалистов. В ноябре подучивший испанский язык Семёнов выехал в Париж, а оттуда в Барселону (в том же месяце Комиссия партконтроля при ЦК партии, по ходатайству парторганизации Разведупра РККА, сняла с него все партийные взыскания, кроме выговора 1929 года).
Снова были востребованы умения бывшего эсеровского боевика в области индивидуального террора. Семёнову надлежало «пробраться в тыл мятежников и ликвидировать некоторых руководителей фашистского движения». С аналогичным заданием в Испанию была направлена сотрудница Разведупра Элли Бронина, жена арестованного в 1935 году в Шанхае резидента военной разведки Якова Бронина. А по линии внешней разведки, с помощью диверсантов-интербригадовцев и будущего знаменитого советского разведчика Кима Филби (бывшего в то время корреспондентом английских газет при штабе франкистов), такое покушение готовил представитель НКВД в Испании Александр Орлов-Никольский. Одним из руководителей разведывательно-диверсионной деятельности в Испании по линии военной разведки был бригадный комиссар Х. И. Салнынь, нелегальный резидент в Китае в 1926-1929 годах.
Опытный боевик и организатор покушения на Ленина, казалось, вот-вот нанесет решающий удар… но вместо этого «товарищ Андрей», осмотревшись на месте, начал с развёртывания широкого партизанского движения в тылу врага. Семёнов полагал, что массовая диверсионная деятельность принесёт в будущем больше пользы и, одновременно, создаст необходимые кадры для терактов против членов правительства. Позже, во время Великой Отечественной войны, такая тактика принесла богатые плоды, но в 1936 году в Москве ждали иного. Полагали, что Семенов организует что-то наподобие своего Центрального боевого отряда для индивидуального террора, и работу по организации партизанских отрядов расценили как самоуправство. В Испании он проработал всего три месяца. За это время его помощник, возглавлявший проведение диверсий, вместе с несколькими испанскими боевиками взорвал 5 вражеских поездов, но на последней операции погиб. В конце января 1937 года Семёнова отозвали в Москву, как он думал, для расследования обстоятельств гибели помощника. 11 февраля, прямо на перроне вокзала, его арестовали сотрудники НКВД.
Семёнов был обвинён в участии в «контрреволюционной организации правых». При обыске на его квартире изъяли большое количество писем и фотографий, две из которых доказывали несомненную близость с «лидером правых»: Семёнов с Бухариным были сфотографированы вместе. Всплыла и связь с Эсфирь Гурвич, а также то, что Бухарин защищал Семёнова на процессе правых эсеров в 1922 году. Сам же Николай Иванович ещё в заявлении на февральско-мартовском пленуме ЦК ВКП(б) 1937 года писал, что пример с Семёновым неудачен. Ведь «Семёнов фактически выдал советской власти и партии боевые эсеровские группы. У всех эсеров, оставшихся эсерами, он считался „большевистским провокатором“. Роль разоблачителя он играл и на суде против эсеров. Его эсеры ненавидели и сторонились его как чумы». Бухарин подчёркивал, что в 1922 году защищал Семёнова «по постановлению ЦК партии. Партия наша считала, что Семёнов оказал ей большие услуги, приняла его в число своих членов» (Вопросы истории. 1992. № 2-3. С.27-28.).
Все эти доводы оказались бесполезны. Ефим Цетлин, бывший первый секретарь ЦК РКСМ и секретарь Бухарина, 14 декабря 1936 года дал показания о том, что в начале 1930-х Бухарин дал Семёнову задание подобрать людей из числа бывших эсеров-боевиков и организовать покушение на Сталина и других руководителей государства. Эти показания стали основанием для ареста.
Первый допрос Семёнова состоялся 23 февраля 1937 года. Он подробно и откровенно рассказал о всех фактах своей непростой биографии. Относительно деятельности в Центральной боевой организации ЦК ПСР Семёнов подтвердил, что «при его непосредственном участии и руководстве» в 1918 году был убит Володарский и ранен Ленин. Он признал, что действительно разделял идеи правых, но отрицал участие в контрреволюционной организации: «Я привык нести ответственность за свои действия, за свои поступки. Пусть меня моя социалистическая страна судит и воздаст должное за мои преступления». Вины за собой он не видел. И на последующих допросах он также продолжал её отрицать.