Главное управление пограничной охраны и войск ОГПУ (с ноября 1926 г.) — начальник З.Б. Кацнельсон (до апреля 1929 г.).
Как видно, евреи были представлены на руководящих постах далеко не во всех отделах и управлениях ОГПУ (Специальном отделе, Отделе центральной регистрации).
После персональных изменений в руководстве ОГПУ в октябре 1929 г. первым зампредом стал г. г. Ягода (был освобожден от должностей начальника СОУ и Особого отдела), вторым заместителем и начальником ИНО вместо Трилиссера (отстраненного от работы в ОГПУ за выступление против Ягоды, обвиненного им в «правом уклоне») был назначен С. А. Мессин г. Секретный отдел возглавил Я.С. Агранов.
Новые назначения не изменили интернационального характера руководства чекистов, в то время в него входили поляки Менжинский и Ольский, русские Евдокимов, Прокофьев, Благонравов, украинцы Бокий и Балицкий, евреи Ягода, Мессинг и Агранов (с мая 1930 г. один из 3-х помощников начальника СОУ).
До новых (более политически значимых) изменений в июле-августе 1931 г. на руководящих постах в центральном аппарате ОГПУ были следующие сотрудники-евреи:
Секретарь председателя ОГПУ В. Л. Герсон;
Особоуполномоченный при председателе ОГПУ М.М. Луцкий (в сентябре 1930 г. его сменил А.Я. Беленький, бывший ранее начальником Спецотделения ВЧК-ОГПУ);
В ИНО — помощник начальника отдела М. С. Горб и А.А. Слуцкий (с января 1930 г. по совместительству с работой в ЭКУ), начальник 1-го отделения Лев Григорьевич Эльберт.
В Секретно-оперативном управлении:
Секретный отдел — помощник начальника (с мая 1930 г.) Валерий Михайлович Горожанин (соратник начальника СОУ Ефима Георгиевича Евдокимова по службе в ЧК Украины), начальники отделений Я.М. Генкин (4-е, по жандармам, полицейским и еврейским партиям, кроме Бунда) и С. Б. Гельфер (по освещению интеллигенции);
Контрразведывательный отдел (КРО) — начальник 8-го (немецкого) отделения Михаил Аронович Розенфельд;
Особый отдел — помощник начальника Лазарь Иосифович Коган (1930 г.);
Транспортный отдел — начальник отделения К. С. Зильберман;
Оперативный отдел — К.В. Паукер, помощник начальник М.М. Алиевский;
ИНФО-ПК — помощник начальника отдела Яков Самойлович Визель, начальник 4-го отделения А. г. Лундин;
В Экономическом управлении — помощники начальника Л. г. Миронов (до февраля 1930 г.), Абрам Аронович Слуцкий (он же начальник 1-го и 2-го отделений), А.Л. Молочников, начальники отделений Яков Давидович Раппопорт (4-е), Макс Оскарович Станиславский (7-е), Эмиль Адольфович Зибрак (8-е), Марк Исаевич Гай (9-е); после изменения структуры ЭКУ в апреле 1931 г. заместителем начальника ЭКУ г. Е. Прокофьева вновь стал Л. г. Миронов, начальником секретариата — М.О. Станиславский, 1-е отделение (промышленность) возглавил М.И. Гай, 3-е (торговля и кооперация) — Дмитрий Матвеевич Дмитриев (Плоткин), 4-е (финансы, борьба с валютными преступлениями и спекулянтами) — Я.М. Генкин (переведенный из Секретного отдела), 5-е (техническое использование арестованных специалистов в КБ) — Анатолий Георгиевич Горянов-Горный (2-е сельскохозяйственное отделение — немец Н.Л. Волленберг);
Административно-организационное управление — начальник административного отдела А.П. Флексер, начальник организационного отдела И.М. Островский, начальник санитарной части М. г. Кушнер;
Управление лагерей (организовано в апреле 1930 г., с октября того же года — Главное управление) — первого начальника Управления Ф.И. Эйхманса (латыша) сменил в июне 1930 г. Л.И. Коган (бывший помощник начальника Особого отдела, также выдвиженец Е. г. Евдокимова, под руководством которого служил на Северном Кавказе), заместителем стал Матвей Давидович Берман, одним из 2-х помощников — Я.Д. Раппопорт.
После объединения в сентябре 1930 г. Контрразведывательного, Особого и Восточного отделов в Особый отдел одним из 2-х заместителей начальника отдела Яна Ольского (поляка) стал З.М. Залин, служивший под начальством Ольского на Западном фронте в 1920 г. (вторым заместителем стал С.В. Пузицкий).
После объединения в марте 1931 г. Секретного отдела и ИНФО-ПК в Секретно-политический отдел его возглавил Агранов, заместителем его стал Иван Васильевич Запорожец (украинец), начальником 1-го отделения (работа в городах, политические ссыльные, иностранные работники) — В.М. Горожанин.
В июле-августе 1931 г. по решению Политбюро в руководстве ОГПУ произошли крупные персональные изменения. Причиной послужило коллективное выступление второго зампреда и начальника ИНО С.А. Мессинга, начальника СОУ Е. г. Евдокимова, начальника ОО Я.К. Ольского, начальника АОУ, ГУПВО и Главной инспекции по милиции и уголовному розыску при ОГПУ И.А. Воронцова, полпреда ОГПУ по Московской области Л.Н. Вельского против первого зампреда Ягоды (в частности, они обвиняли его в фабрикации следственных дел на командиров Красной Армии — бывших офицеров царской армии). Уже один факт такого конфликта, в котором против еврея Ягоды выступили русские Евдокимов и Воронцов, евреи Мессинг и Вельский, поляк Ольский, показывает несостоятельность домыслов о якобы взаимной поддержке евреями друг друга (в частности, и в органах госбезопасности). Ягоду поддержал председатель ОГПУ В.Р. Менжинский, и хотя сам Генрих Григорьевич в итоге переместился с поста 1-го заместителя на должность 2-го зампреда (1-м замом стал Иван Алексеевич Акулов, старый партийный работник, в ЧК ранее не служивший, а 3-м зампредом руководитель украинского ГПУ Всеволод Аполлонович Балицкий), его противники пострадали гораздо серьезнее. По постановлению Политбюро были уволены из ОГПУ Мессинг, Ольский, Воронцов и Вельский, Евдокимов переведен из Центра (сперва в Ленинград, затем в Среднюю Азию). Агранов, не участвовавший в конфликте, был назначен членом Коллегии (как и преемник Мессинга в руководстве разведкой А.Х. Артузов) и в сентябре того же года перешел из СПО в ПП ОГПУ Московской области, вместо уволенного Вельского.