Рост советского партизанского движения привел к тому, что в абвере созрело решение о создании специального разведывательного органа, который бы занимался агентурной разработкой, выявлением и ликвидацией партизан, контактируя по этой линии со всеми структурами немецкой контрразведки на оккупированной территории СССР. В результате в марте 1942 г., при 1-м отделе штаба «Валли» появился Особый штаб «Россия», известный как Зондерштаб «Р» (Sonderstab «Rutland»). Штаб дислоцировался в Варшаве и был законспирирован под вывеской «Восточная строительная кампания „Гильген“. Возглавил организацию майор Б.А. Смысловский.
В структурном отношении Зондерштаб включал в себя четыре отдела. Первые три занимались оперативной деятельностью, четвертый — отвечал за административно-хозяйственное обеспечение.
Разделив оккупированную территорию СССР на пять областей (такое деление сохранялось примерно до осени 1943 г., после чего осталось четыре области), Зондерштаб „Р“ вел разведку и заброску агентуры в партизанские отряды и подпольные группы. Вся работа штаба строилась через межобластные резидентуры (или „Разведывательно-резидентские области“), которые охватывали своей деятельностью сразу несколько регионов. Общая численность сотрудников Зондерштаба „Р“ составляла более 1000 человек (по другим данным, от 300 до 500 человек).
В начале 1943 г. Смысловский завершил формирование Особой дивизии „Россия“ (Sonder-Division R), куда были включены 12 учебно-разведывательных батальонов. Это соединение представляло собой диверсионное формирование, личный состав которого прошел подготовку в разведшколах абвера, а затем перешел в подчинение Зондерштаба „Р“ и использовался в составе специальных групп и подразделений для выполнения заданий особой важности.
Зондерштаб „Р“ никогда полностью не замыкался на контрразведывательной работе (хотя он и задумывался как орган для противодействия партизанам), но был вовлечен и в зафронтовую разведывательную деятельность, о чем говорят как советские, так и немецкие документы. Агентура, состоявшая из бывших пленных красноармейцев, получала задачи выявлять новые формирования РККА, распространять провокационные слухи, чтобы подорвать боеспособность воинских частей, склонять советских военнослужащих к переходу через линию фронта, совершать диверсионные акты в войсках и в их тылу.
Из-за ведомственных интриг в начале декабря 1943 г. из ОКХ пришло указание расформировать орган. Смысловский, заподозренный немцами в двурушничестве, оказался под домашним арестом, а часть сотрудников и агентура были переданы штабу „Валли“ и СД. Сам Смысловский впоследствии утверждал, что причиной ареста якобы послужили его контакты с одним из украинских лидеров, Тарасом Бульбой-Боровцом. Кроме того, недоброжелатели Смысловского из эшелонов эсэсовской разведки могли формально обвинить его в плохой организации разведывательной работы (что косвенно затрагивало не только Смысловского, но и его начальников из штаба „Валли“ и руководства абвером — соперников гиммлеровского „Черного ордена“), тщательно подобрав все факты провалов агентуры, утечки оперативной информации и неудачных операций против „лесных бандитов“. Еще одной причиной ареста главы Зондерштаба могли стать интриги „солидаристов“ (членов Национально-трудового союза, с началом войны массово пошедших, исходя из тактических соображений, на немецкую службу), которые развернули у него под носом свою политическую деятельность. Это ставило вопрос о способности начальника Зондерштаба контролировать подчиненных и навести в своей организации порядок.
Следствие велось четыре месяца. Процессы, связанные с роспуском Зондерштаба, отрицательно сказались на антипартизанской деятельности немцев, они лишись значительного потока разведывательной информации.
В конце апреля — в начале мая 1944 г. полковник Смысловский был полностью оправдан. Более того, учитывая его заслуги в борьбе с советской разведкой и партизанами, его вызвали в Ставку ОКБ и наградили орденом Германского орла II степени с мечами. В мае 1944 г. Смысловского вызвали в ОКВ, где ему вновь предложили возглавить разведывательный орган.
Последний отличался от Зондерштаба „Р“ тем, что основное внимание уделялось проведению агентурной разведки в тылах советских войск.