Согласно всем этим приказам, к соединениях сухопутных войск в лице групп армий (фронтов) прикомандировывались, «Айнзацгруппы» (Оперативные группы) СД и полиции безопасности, которые должны были действовать в координации с командованием групп армий и входящих в их состав армейских соединений в тыловых районах сухопутных войск, в тыловых районах армий и в зоне боевых действий.
Айнзатцгруппы СД должны были сотрудничать с тайной полевой полицией (ГФП) вермахта и подчиняться приказам командующих тыловыми областями групп армий, командующих тыловыми районами армий, и наконец собственно командующим армиями.
Каждая из Айнзатцгрупп имела численность от 1000 до 1200 человек и имела следующую структуру: штаб группы, специальные команды (зондеркоманды), которые должны были действовать в районах расположения армейских частей, оперативных команд (айнзатцкоманд), для действий в оперативном тылу армии.
В состав айнзатц входили: сотрудники СД, гестапо, криминальной полиции, полиции порядка, военнослужащие войск СС и вспомогательный персонал (радисты, мотоциклисты и т. п.). С августа 1941, в айнзатцгруппы стали также принимать и местных добровольцев (в качестве переводчиков и исполнителей «грязной работы»).
Общие задачи Айнзатгрупп в ходе предстоящей войны Германии с Советским Союзом были следующие: захватывать и обыскивать помещения советских, партийных, правоохранительных органов и штабов воинских частей, арест и уничтожение советских партийных работников, сотрудников НКВД, армейскихкомиссаров, офицеров, выявление и ликвидация местного партийного и комсомольского актива, общественников-активистов и евреев, борьба со всеми проявлениями антинемецкой деятельности, информировать командование тыловых немецких частей о положении в их подведомственных районах.
Более чётко это должно было выражаться в следующем:
1) обеспечивать на оккупированной вермахтом советских территориях сохранность документов, архивов, картотек подозрительных лиц, организаций и групп
2) задерживать лидеров эмиграции, саботажников, террористов
3) обнаруживать и уничтожать враждебные элементы (обычно, под это определение подпадали евреи, коммунисты, цыгане и ряд других категорий местного населения) и предотвращать враждебную деятельность со стороны местного населения
4) информировать армейское командование о политическом положении на оккупированной территории
Конкретные задачи айнзатцгрупп и их подразделений включали в себя, следующие:
— захват и обыск зданий советских партийных, правоохранительных органов и штабов воинских частей
— захват государственных учреждений, имеющих архивы и картотеки
— проведение розыскных мероприятий, арестов и уничтожение советских партийных работников, сотрудников НКВД, армейских комиссаров и офицеров
— выявление и ликвидация местного партийного и комсомольского актива, общественников, советской агентуры, евреев
— ведение борьбы в тыловых районах со всеми проявлениями антинемецкой деятельности, прежде всего подполье и партизаны
Всего контрразведка РСХА (3-е управление) подготовило четыре айнзатцгруппы общей первоначальной численностью порядка трёх тысяч человек личного состава.
Сначала было создано три айнзацгруппы: Айнзатцгруппа «А» (Прибалтика) — для группы армий «Север», «B» (Белоруссия) — для группы армий «Центр» (4-я и 9-я армии, 2-я и 3-я танковые группы) и «C» (Северная и Центральная Украина) — для группы армий «Юг» (11-я, 17-я, 6-я армии и 1-я танковая группа). Незадолго перед нападением Германии на Советский Союз в июне 1941, была создана четвертая айнзатцгруппа — группа «D», прикомандированная к 11-й армии. Эта группа находилась под командованием штандартенфюрера (чуть позднее ему было присвоено следующее звание — оберфюрер) Отто Олендорфа (с июня 1941 по июль 1942 года), который одновременно продолжал сохранять свою прежнию должность — начальника 3-го (контрразведывательного) управления РСХА.
Сфера деятельности айнзатгруппы «Д» — Южная Украина (кроме территорий Одесской области, передаваемых в состав Румынии) и Крым. Оперативная группа «Д» была расформирована 15 июля 1943 года.