Во Франции первое время он работал посудомойщиком в одном из марсельских ресторанов, а потом перебрался в Париж, к другу детства Альтеру Штрому, который свел его с представителями компартии Франции. Вскоре Треппера назначают представителем еврейской секции при ЦК ФКП, и он вновь включился в партийную работу. В конце 1930 г. Треппер женился на Любе Бройде, с которой познакомился еще в Палестине, а 3 апреля у них родился сын Мишель. Однако Л.Трепперу вскоре пришлось срочно покинуть Францию. Дело в том, что в июне 1932 г. его приятель Альтер Штром был арестован французской полицией. Оказалось, что он являлся помощником нелегального резидента Разведупра во Франции Исайи Бира, контролировавшего сеть так называемых рабкоров газеты «Юманите» и прозванного французской полицией за свою неуловимость Фантомасом. Арест Штрома и И.Бира мог стать угрозой для свободы Л.Треппера и дать властям повод для начала компании против еврейских иммигрантов. Поэтому руководство компартии по согласованию с Коминтерном отправило Л.Треппера в Москву.
В Москве Л.Треппер поступает в Коммунистический университет национальных меньшинств Запада им. Ю.Ю.Мархлевского. По окончании его в 1935 г. он начинает работать редактором отдела культуры в газете «Эмес», издававшейся для евреев, проживающих в СССР. В 1936 г. в Москву возвратился отбывший свой срок во французской тюрьме А.Штром и поставил перед руководством Разведупра вопрос о невиновности журналиста «Юманите» Рикье, которого обвиняли в провале Бира. По рекомендации Штрома начальник Разведупра Я.Берзин направляет Треппера во Францию с целью установить имя настоящего предателя и добыть доказательства непричастности ФКП к работе военной разведки. В декабре 1936 г. Л.Треппер нелегально выезжает во Францию, где успешно справляется с заданием. Он установил, что провал произошел по вине нелегала Разведупра Роберта Гордона Свитца, до 1932 г. работавшего в США и перевербованного там ФБР. Прибыв по приказу Разведупра во Францию, Р.Свитц выдал полиции И.Бира, а сам при помощи военного атташе США скрылся.
После возвращения в Москву в мае 1937 г. начальник Разведупра Я.Берзин предложил Л.Трепперу стать сотрудником военной разведки. Треппер ответил согласием, и уже в июле 1937 г. его посылают в Бельгию для организации работы по добыванию паспортов, необходимых для легализации в зарубежных странах. В Брюсселе Треппер привлек к работе Лео Гроссфогеля, с которым познакомился в Палестине. Гроссфогель родился в 1901 г. в Страсбурге. После возвращения Франции Эльзаса и Лотарингии он принял французское гражданство, но в 1925 г., не желая служить в армии, уехал в Палестину, а затем в Бельгию. Там он вместе с членами своей семьи основал фирму «Король каучука» и стал ее коммерческим директором. Через Л.Гроссфогеля, получившего псевдоним Андре, Л.Треппер связался с крупным дельцом по скупке и продаже документов Абрахамом Райхманом (Фабрикант) и договорился с ним о постоянной работе по добыванию паспортов для советской разведки.
Вернувшись в Москву в мае 1938 г., Л.Треппер предложил Центру план создания в Бельгии паспортной резидентуры. По этому плану опорной базой резидентуры должна была стать фирма «Король каучука» во главе с Гроссфогелем, а для легализации вновь прибывающих нелегалов и пункта связи с Москвой следовало организовать фирму «Форин экселент тренч-коут» по экспорту-импорту индустриальных отходов. Руководство Разведупра приняло предложение Л. Треппера и поставило перед ним задачу - создать резидентуру связи, надежно работающую в военное время. Резидентом назначили Л.Треппера, а его заместителем Л. Гроссфогеля. В сохранившихся документах Треппер характеризовался следующим образом:
«Несмотря на ряд отрицательных анкетных данных, основания для политического недоверия нет… По деловым качествам - способный разведчик, энергичен, инициативен, находчив, умеет подходить к людям. Недостаток - не всегда хватает терпения и настойчивости, чтобы довести начатое дело до конца, чтобы каждый шаг закрепить огранизационно» [299] .
Л.Гроссфогель характеризовался так же положительно:
«Мы, конечно, не можем рассматривать его как полностью «нашего» человека, но он относится к той категории иностранных товарищей, которым можно доверять. Он для нас является надежным агентом, работающим, правда, и по материальным соображениям, но у которого, несомненно, превалируют идейные мотивы. Активный, инициативный человек. Имеет опыт конспиративной работы и в то же время весьма сведущ в коммерческих делах. Сочетание этих двух качеств делает Андре ценным агентом» [300] .
Осенью 1938 г. Л.Треппер с паспортом на имя канадского промышленника Адама Миклера, снабженный крупной суммой в 10000 долларов, прибывает в Брюссель. С помощью Л.Гроссфогеля он в скором времени открывает фирму «Форин экселент тренч-коут», директором которой становится известный гражданин Бельгии Жюль Жаспар, чей брат одно время занимал пост премьер-министра. Следующим шагом стала организация отделений фирмы в Скандинавских странах. Одновременно Л.Треппер создает сеть конспиративных и радиоквартир, для чего в апреле 1939 г. привлекает к работе на идейных началах Германа Избуцкого («Боба»). С его помощью в качестве хозяев конспиративных квартир были завербованы: Морис Пепер («Вассерман»), голландец, проживающий в Антверпене, Безицер («Собственник»), поляк-портной, Вилли Малек («Колонист»), еврей-портной, «Турист» (фамилия неизвестна), моряк.