Наряду с успехами в деятельности советской разведки в конце 1920‑х годов имели место и серьезные провалы, сопровождавшиеся громкими политическими скандалами. В марте 1927 года оказалась «засвеченной» вся агентурная сеть в Варшаве. Спустя месяц в Пекине была арестована группа советских агентов, а после проведения полицией обысков в помещениях консульства было обнаружено большое количество материалов шпионского характера. Следующий, не менее мощный удар по разведке нанесла французская контрразведка. Ей удалось выявить действовавшую во Франции резидентуру, и все ее восемь агентов во главе с Ж. Креме, видным функционером французской компартии, были арестованы.
Но самое сокрушительное поражение ИНО понес в Великобритании. В руки контрразведки (МИ‑5) попали секретные коды советских дипломатов. Кроме того, ей удалось внедрить своего агента в состав британской резидентуры, действовавшей под «крышей» англо‑советского торгово‑промышленного общества «Аркос». После того как у контрразведки оказались неопровержимые доказательства шпионской деятельности, она произвела налет и обыск в помещениях «Аркоса». Его результаты превзошли все ожидания: в руках МИ‑5 оказались горы шпионского материала.
Разразился грандиозный политический скандал. Премьер‑министр С. Болдуин потребовал выдворения из Великобритании в полном составе сотрудников советского посольства, торгпредства и объявил о разрыве дипломатических отношений, которые были восстановлены только в июне 1929 года с приходом к власти лейбористов во главе с Р. Макдональдом.
Правительство консерваторов, с самого начала не принявшее власть большевиков, теперь, поймав их «за руку», торжествовало свою победу. Министр иностранных дел О. Чемберлен не преминул лишний раз насладиться ею. 26 мая 1927 года при беседе с советским поверенным в делах Великобритании А. Розенгольцем, он в жесткой форме сообщил о разрыве дипломатических отношений.
Тому в ответ нечего было сказать, поскольку в распоряжении Чемберлена находились не только шпионские материалы, захваченные МИ‑5 в «Аркосе», но и расшифровка его собственной секретной телеграммы, направленной 1 апреля в НКИД. Британский министр не удержался от того, чтобы снова принизить Розенгольца, и в язвительном тоне озвучил ее содержание:
«В ней вы просите материалы, которые позволят вам поддержать политическую кампанию против правительства его величества».
За все послереволюционное время это был самый болезненный удар по политическому престижу СССР и отечественной разведке. Она на целых два года потеряла официальные прикрытия для своей деятельности в Великобритании.
Не намного лучше ее положение было и во Франции. После провала парижской резидентуры и побега в октябре 1929 года из посольства поверенного в делах Франции Г. Беседовского, выступившего с разоблачениями «гнезда шпионажа на улице Гренель», где размещалось здание советской дипмиссии, все его работники оказались под плотным «колпаком» контрразведки.
В связи с этим в руководстве НКВД и ИНО были проанализированы причины имевших место провалов. Одна из них, лежавшая на поверхности, становилась все более очевидной и заключалась в положении самих резидентов. Большинство из них организовывало работу с агентурой с легальных позиций: посольств, консульств и торгпредств. В случае предательства агентов или попадания их в поле зрения иностранных спецслужб следы неизбежно вели в официальные советские представительства за рубежом. Существенно снижало эффективность работы резидентур и делало их более уязвимыми для иностранных спецслужб и то обстоятельство, что при вербовке агентов акцент делался на активистов местных коммунистических и социалистических партий, которые, как правило, находились под жестким оперативным контролем полиции и контрразведки.