В мае 1923 г. отозван в Москву и назначен уполномоченным, зам. начальника отделения Восточного отдела ОГПУ. Одновременно учился на восточном факультете Военной академии РККА. После завершения учебы был зачислен в ИНО ОГПУ и в том же году направлен резидентом внешней разведки в Шанхай. С 1926 г. под прикрытием должности советского консула возглавлял резидентуры в Пекине, а с 1927 г. — и в Харбине. Во время работы в Китае ему удалось добиться освобождения группы советских военных советников, захваченных китайскими милитаристами в Маньчжурии, сорвать попытку захвата советского консульства в Шанхае агентами Чан Кайши. В 1928 г. совместно с резидентом Разведывательного управления РККА в Шанхае X. Салнынем организовал устранение фактического диктатора пекинского правительства маршала Чжан Цзолиня.
Весной 1929 г. после разгрома китайской полицией советского консульства в Харбине был отозван в Советский Союз и направлен в Турцию легальным резидентом в Стамбул под прикрытием должности атташе консульства под именем и фамилией Леонида Александровича Наумова. Резидентура ОГПУ в Турции не работала против страны пребывания, а сосредоточила усилия на добывании секретной информации в иностранных посольствах — японском, французском, австрийском. С середины 1928 г. в Стамбуле существовала нелегальная резидентура ОГПУ, работавшая по всему Ближневосточному региону. Возглавлял ее вначале Я. г. Блюмкин, а после его ареста в 1929 г. за связь с Троцким — г. Агабеков. В задачу Эйтингона, в частности, входила организация связи Агабекова с Центром. Помимо этого, с декабря 1929 г. он по поручению ИНО руководил агентурой в Греции после ареста там нелегального резидента ОГПУ. В 1930 г. Агабеков бежал на Запад. Опасаясь провала, Центр в срочном порядке отозвал Эйтингона из Турции.
По возвращении в Центр Эйтингон, сделавший псевд. «Леонид Александрович Наумов» своим именем, был назначен заместителем Я.И. Серебрянского — начальника Особой группы при председателе ОГПУ (Группа «Яши»). Несколько раз выезжал за рубеж, в т. ч. в США, в Калифорнию, где руководил созданием глубоко законспирированной нелегальной агентурной сети. Однако сработаться с «Яшей» Эйтингону не удалось, и в 1931 г. он перешел на должность начальника 8-го отделения ИНО ОГПУ, был командирован во Францию, затем в Бельгию.
По возвращении в СССР был назначен начальником 1-го отделения (нелегальная разведка) ИНО, и во второй половине 1933 г. вновь направлен в США для работы в нелегальных резидентурах.
В 1936 г. после начала гражданской войны в Испании Наумов-Эйтингон под именем Леонида Александровича Котова был направлен в Мадрид в качестве заместителя A.M. Орлова («Шведа») — резидента НКВД и главного советника по безопасности при республиканском правительстве. В задачи «генерала Котова» входила подготовка испанских сил безопасности, руководство партизанскими операциями республиканцев в тылу противника. Участвовал в ликвидации руководителей испанской Рабочей партии марксистского единства (ПОУМ).
После побега на Запад «Шведа» — Орлова в июле 1938 г. «Котов» возглавил резидентуру. Центр поручил ему восстановить связь с одним из членов «кембриджской пятерки» Гаем Берджесом («Медхен»), После поражения республиканцев в 1939 г. руководил эвакуацией советских специалистов и добровольцев из Испании в СССР, затем переехал во Францию, где реорганизовывал и восстанавливал остатки испанской агентурной сети НКВД. В Париже наладил работу с «Медхен», который в марте 1939 г. был передан на связь легальному резиденту НКВД в Лондоне А. В. Горскому. Во Франции Эйтингону удалось привлечь к сотрудничеству близкого родственника главы испанской Фаланги Примо де Риверы, который до 1942 г. являлся важным источником информации о планах Франко и Гитлера.
Эйтингон был непосредственным организатором покушения на Л.Д. Троцкого. Общее руководство операцией, получившей кодовое наименование «Утка», было поручено П.А. Судоплатову. По его предложению непосредственная организация и осуществление операции на месте было возложено на Наумова-Эйтингона.