Феттерлейну и его коллегам вновь пришлось поломать голову над новыми советскими шифрами и кодами, введенными Москвой летом 1923 года. Но, по-видимому, к концу 1924 года ШШПС все-таки вновь смогла разгадать значительную часть советской дипломатической переписки.
В отличие от службы шифровки и дешифровки, которая и после опубликования «ультиматума Керзона» продолжала отставать от своих британских коллег, зарубежная разведывательная сеть ИНО (Иностранного отдела ЧК) была по сравнению с СИС значительно больше, целеустремленней и агрессивней (дело в том, что бюджет СИС был сильно урезан после окончания Первой мировой войны). Подписание англо-советского соглашения в марте 1921 года положило начало широкому распространению советских торговых миссий и посольств по всему миру. Это дало возможность ИНО создать сеть «легальных резидентур», возглавляемых «резидентами», которые работали в советских представительствах и пользовались дипломатическим прикрытием. Вопрос дипломатического прикрытия всегда вызывал трения между дипломатами и сотрудниками разведки. Англия в этом смысле не была исключением.
В период между двумя мировыми войнами резиденты СИС за рубежом не имели никаких привилегий и числились «ответственными за паспортный контроль» при посольствах Великобритании. Находясь на положении второстепенных сотрудников посольств, руководители резидентур обычно не пользовались большим уважением послов, которые предпочитали держаться от разведки подальше. Резиденты ИНО обладали гораздо большим влиянием. Правда, из-за этого периодически возникавшие с советскими послами стычки носили более ожесточенный характер. Георгий Агабеков, резидент ОГПУ, оставшийся на Западе в 1930 году, рассказывал:
«Теоретически резидент. ОГПУ находится в подчинении посла. Официально он является вторым секретарем посольства или кем-то в этом роде. Но в действительности… его полномочия зачастую превосходят полномочия посла. Его боятся все сотрудники посольства, даже сам посол, поскольку над их головами витает постоянный страх перед доносом. Иногда посол, недовольный тем, как резидент исполняет свои обязанности дипломатического сотрудника посольства, направляет на него жалобу. В этом случае посольство обычно делится на два лагеря: одни поддерживают посла, другие выступают на стороне резидента. Все это продолжается до тех пор, пока Москва не отзовет одного или другого. За ним, как правило, вскоре следуют и его сторонники.»
С августа 1921 года до конца 1929 года во главе ИНО и по следующих служб, отвечающих за работу заграничных резидентур, стоял Михаил Абрамович Трилиссер, русский еврей, ставший профессиональным революционером в 1901 году, когда ему было всего 18 лет. До Первой мировой войны он занимался главным образом выявлением полицейских шпионов среди большевистской эмиграции. Даже Борис Бажанов, который был в свое время секретарем Сталина и бежал на Запад, преследуемый агентами ОГПУ, отзывался о Трилиссере, как об «умном и знающем чекисте». Как и большинство руководящих сотрудников ИНО его поколения, Трилиссер был репрессирован во время террора конца тридцатых годов. После смерти Сталина он был посмертно реабилитирован. Сегодня его портрет занимает одно из видных мест в мемориальной комнате пришедшего на смену ИНО Первого главного управления КГБ. В первые два года работы в качестве начальника Иностранного отдела Трилиссер переложил большую часть каждодневных забот по управлению отделом на плечи своего заместителя, эстонца по национальности, Владимира Андреевича Стырне, получившего известность не только благодаря своей молодости (он был принят на службу в Иностранный отдел в 1921 году, когда ему было 22 года), но и холодящей душу жестокости. Правда это или нет, но в ЧК рассказывали, что он сыграл не последнюю роль в том, что его собственные родители были расстреляны.