Сеть немецких агентов Советов стягивалась все плотнее, и наглость шпионов все нарастала. Как сообщала в апреле 1931 года «Баварише Штаатцайтунг» в одной немецкой фирме с 1926 по 1930 годы было обнаружено 134 случая шпионажа. В 1927 году только в судах разбиралось три с половиной тысячи случаев промышленного шпионажа, большинство из них в пользу Советского Союза. Между июнем 1931 и декабрем 1932 года было зарегистрировано 111 дел по измене родине, и снова большинство из них было связано со шпионажем в пользу Советского Союза.
Несмотря на неудачи, у Берзина были все причины радоваться результатам деятельности его немецких агентов. Для советской разведки оставалось все меньше секретов в германской промышленности и оборонном потенциале. Дэвид Даллин пишет: «Германский вклад в советский шпионаж за первое десятилетие его существования был огромен и количественно превосходил вклад всех других нерусских подразделений аппарата за границей, а по качеству — даже само русское ядро».
Берлин стал центром номер два для мировой системы шпионажа Советской России. Отсюда исходили приказы разбросанным по всему свету агентам советской разведки. Этот город стал центром для советской разведки во Франции, Голландии и Бельгии, там располагалась мастерская по изготовлению фальшивых паспортов и «полевой штаб» всего Коммунистического Интернационала. Все маршруты кончались в Берлине, откуда с Москвой поддерживался только один канал связи — через связного Коминтерна Ричарда Кребса.
Конечно, такие успехи были возможны только в государстве, стоящем на грани распада, которое хотя и пыталось отчаянно защищаться от тоталитаризма, но больше не могло полагаться на лояльность своих граждан. Более того, либеральные законы республики не способствовали эффективной борьбе с советской разведкой.
Главной целью разведки русских была промышленность, а германский уголовный кодекс признавал только военный шпионаж, так что единственное положение, по которому могли нести ответственность красные похитители промышленных секретов — это весьма растяжимые статьи о нечестной конкуренции. Поэтому максимальное наказание, которого мог опасаться пойманный шпион, не превышало одного года лишения свободы. Только в марте 1932 года «Декрет о защите национальной экономики» предусмотрел усиление наказания за передачу промышленных секретов посторонним лицам, и срок заключения возрос до трех лет.
К тому же довольно часто против слишком сурового преследования советских шпионов предостерегало Министерство иностранных дел. После Версаля Советская Россия была одной из немногих стран Европы, на чьи симпатии могла рассчитывать веймарская Германия. Стоило только германской разведке попытаться проследить связи какого-то выявленного шпиона с советским торговым представительством, как тут же вмешивались дипломаты с Вильгельмштрассе. Больше того, на каждое разоблачение торгпредство неизменно реагировало категорическим отрицанием каких-бы то ни было связей с провалившимися агентами.
Сыщики берлинской полиции вряд ли смогут забыть, что самому жестокому поражению в борьбе с коммунистической агентурой они обязаны именно вмешательству Министерства иностранных дел.
Это случилось весной 1924 года. В Штутгарте был арестован коммунист Ганс Бозенхардт, член террористического аппарата и работник советского торгового представительства. Двум полицейским из Вюртемберга приказали переправить его в Штаргард, Померания. Ехать пришлось через Берлин, где они опоздали на пересадку. Заключенный предложил своим конвоирам перекусить и скоротать время в одном уютном местечке на Линденштрассе. Полицейские не знали Берлина и понятия не имели, что этим «уютным местечком» является советское торгпредство. Едва они вошли в предложенное кафе, как Бозенхардт закричал:
— Меня зовут Бозенхардт, я здесь работаю. Эти двое — сотрудники полиции из Вюртемберга, они меня арестовали за измену и везут в Штаргард.
Он вырвался из рук опешивших конвойных и бежал. Тем временем сбежались русские, схватили полицейских и заперли в чулане.
Наконец-то у руководства берлинской полиции появилась возможность проникнуть в цитадель советского шпионажа. Под предлогом поисков сбежавшего Бозенхардта второго мая 1924 года полиция ворвалась в торгпредство и заняла все здание. Одну за другой обыскивали комнаты, вскрывали сейфы и конфисковывали документы. Глава торговой делегации Старков поспешил известить советское посольство, посол Крестинский отправился прямо в Министерство иностранных дел, стал протестовать против нарушения экстерриториального статуса представительства и полицию тут же отозвали. Обыск прекратили, всех арестованные советских сотрудников освободили.
Сокрушительное поражение на Линденштрассе ещё раз продемонстрировало беспомощность германской полиции в вопросах контрразведки. Закон был несовершенным, поддержка правительства формальной, и полицию лишили практически любой возможности проникнуть в сеть советского шпионажа. Поэтому с точки зрения Москвы берлинскую контрразведку вряд ли можно было считать серьезным противником. К тому же отвечавшие за контрразведку подразделения полиции (абверполицай — контрразведывательная полиция) и армии (абвер — военная разведка) испытывали нехватку сотрудников и средств.
Из-за антипатий левых демократов к ореолу власти и загадочности, присущих политической полиции, абверполицай могла заниматься своим делом только скрытно. С роспуском существовавшей до 1918 года политической полиции авберполицай официально прекратила свое существование, хотя фактически продолжала действовать в каждом полицейском участке под видом отдела 1А. Именно там следовало искать отвечавших за контрразведку сотрудников полиции.
Однако им приходилось постоянно сталкиваться с проблемами, поскольку на руководящем уровне не существовало единой организации, которая бы координировала все контрразведывательные управления или комиссариаты в различных полицейских структурах. Не существовало единого центрального органа для оценки полученной информации и использования её в совместных действиях. Просто в свое время договорились, что отдел 1А Берлинского полицейского управления должен создать что-то вроде центра анализа информации, но на неофициальной основе.
Военные сыщики были в несколько лучшем положении. После долгих колебаний и в нарушение Версальского мирного договора, запрещавшего Германии иметь военную разведку, для борьбы с вражескими шпионами в 1920 году была образована небольшая разведывательная группа под руководством майора Фридриха Гемпа. Она являлась частью военного министерства, но даже в там ей не разрешалось фигурировать под своим настоящим названием, и её именовали «абвер» (контрразведка), чтобы подчеркнуть оборонительные намерения. А в её офисе на Тирпитцуфер работали только три офицера Генерального штаба и семеро сотрудников из числа отставных офицеров. Этот скудный персонал вряд ли мог испугать громадную иностранную разведслужбу масштаба Разведупра.
Поэтому ни абвер, ни абверполицай не могли остановить наплыв советских шпионов. Фактически они оказались настолько беспомощны, что вынуждены были оставить формирование заводских охранных служб в руках частного капитала. Главный офис абвера в Восточной Пруссии, в Кенигсберге, был укомплектован единственным отставным капитаном, но тот был так озабочен польским шпионажем, что на сеть русских агентов не обращал внимания.
С самого начала абвер смирился со своей неспособностью проникнуть в советскую разведку, а абверполицай никогда не мог прозондировать сеть коммунистических агентов. Даллин считает, что «германская полиция была удивительно несведущей в деятельности различных советских органов». Они не знали ни адресов, ни состава подпольных коммунистических организаций. У них не было ни малейшего представления о сети информаторов ББ и связях советской разведки в Германии.