Понимая, что неудачи Кутепова были связаны с отсутствием у него опыта конспиративной работы, Миллер первым делом организовал при РОВС в октябре 1930 года небольшой контрразведывательный отдел. Его начальником стал генерал-майор К. Глобачев, в свое время окончивший Николаевскую академию Генерального штаба по второму разряду и в период Первой мировой войны занимавший посты начальника Охранного отделения в Варшаве и Петрограде. Что же касается тайной деятельности на территории СССР, то Миллер, продолжая генеральную линию Кутепова, перенес основные усилия на создание хорошо законспирированных подпольных ячеек, которые в нужный момент могли бы возглавить вооруженное восстание. Секретную (особую) работу против СССР по предложению Миллера возглавил генерал от кавалерии А.М. Драгомиров, официально занимающий должность генерала для поручений. Специальные курсы по подготовке агентов для заброски в СССР, на которых боевиков обучали стрельбе, изготовлению взрывчатых веществ и т. д., действовали в Париже, Софии и Праге.
В 1934 году при РОВС была создана организация «Белая идея», задачей которой была нелегальная заброска на территорию СССР террористических и разведывательных групп через Финляндию (ранее, в 1931 году, в СССР были заброшены бывшие офицеры Потто и Потехин, арестованные чекистами благодаря сведениям, полученным парижской резидентурой ИНО ОГПУ, и хорошей работе контрразведки). Руководил организацией капитан Ларионов, который лично отобрал первые 20 человек, прошедших спецподготовку для успешной работы в Советском Союзе. В том же году первые два боевика, Прилуцкий и Носанов, были заброшены в СССР. Однако под Ленинградом их обнаружили, и только чудом им удалось вырваться в Финляндию. Но еще двое, Дмитриев и Богданович, в том же году не вернулись из СССР, так как были обезврежены чекистами. Этим активная деятельность организации Ларионова, которого позднее сменил Носанов, и ограничилась, хотя, например, подполковник Николай Зуев до 1938 года четырежды побывал на советской территории и каждый раз благополучно возвращался обратно.
Впрочем, разведывательные возможности Миллера были действительно невелики. И прежде всего из-за ограниченных финансовых ресурсов. Дело в том, что основные денежные средства РОВС по совету брата Миллера Карла, бывшего торгового агента в Токио, были вложены в предприятия шведского спичечного короля Ивара Крейтера, считавшегося весьма солидным финансистом. Но на самом деле Крейгер оказался обыкновенным аферистом и строителем финансовых «пирамид», этаким Мавроди начала XX века. И в 1932 году его империя лопнула, а сам он 12 марта застрелился в спальне своей роскошной квартиры на улице Виктора-Эммануила Третьего в Париже. В результате РОВС оказался разоренным — его потери составили 7 миллионов франков.
Кроме того, спецслужбы европейских государств после разоблачения «Треста» и похищения Кутепова скептически относились к возможностям РОВС и всячески уклонялись ог контактов с ним. По этим причинам, как уже говорилось, Миллер был вынужден ограничиться только разведывательной деятельностью, да и то в незначительных размерах.
Другим важным обстоятельством было то, что Миллер в отличие от своих предшественников Врангеля и Кутепова был мало известен и не пользовался популярностью и авторитетом у белой эмиграции, а кроме того, у него не было ясной политической программы. Из-за этого в рядах РОВС со временем стали возникать склоки и противоречия.
Все это вместе взятое значительно ослабило Союз, но, несмотря на испытываемые трудности, он продолжал оставаться крупнейшей эмигрантской организацией, потенциально опасной для Москвы, особенно в случае военных конфликтов с западными странами. Поэтому РОВС и его председатель по-прежнему находились под пристальным вниманием советских спецслужб, которые настойчиво внедряли в его ряды свою агентуру. Одним из наиболее важных агентов был генерал-майор Николай Скоблин.
Николай Владимирович Скоблин родился 9 июня 1893 года в городе Нежине в семье отставного полковника. Выбрав военную карьеру, он в 1914 году окончил Чугуевское военное училище и был в чине прапорщика направлен на фронт в 126-й Рыльский пехотный полк. Воевал он отважно, и за храбрость и боевые заслуги был награжден орденом св. Георгия и золотым Георгиевским оружием. Летом 1917 года штабс-капитан Скоблин одним из первых вступил в 1-й Ударный (позднее Корниловский ударный) отряд 8-й армии, где командовал вторым батальоном, а когда началась Гражданская война, он встал на сторону белых.