АК руководили генералы Стефан Ровецкий («Грот») — до 30 мая 1943 года, Тадеуш Коморовский («Бур») — до 2 октября 1944 года, Леопольд Окулицкий («Недзьвядек») — до 19 января 1945 года. Заместителями комендантов и руководителями штабов были генерал Тадеуш Пелчинский («Гжегож») — до 2 октября 1944 года и полковник Януш Бокщанин («Сенк») — до 19 января 1945 года. Руководящим органом Армии Крайовой была Главная комендатура, в состав которой входили отделы, организационные части (секторы) и самостоятельные службы. Коменданту АК подчинялись начальник штаба, бюро информации и пропаганды, а также бюро финансов и контроля.
I отдел (организационный) занимался планированием и организацией деятельности, кадровыми вопросами, поддерживанием связи с лагерями военнопленных и группами поляков на территории рейха, которые были вывезены на принудительные работы. Руководителями отдела были полковники Антони Санойца (до июля 1944 года) и затем полковник Ф. Каминский. Отделу подчинялись Центральная часть, Руководство службы правосудия (руководил полковник Конрад Зелинский), Военная служба женщин, Пастерская служба (церковная часть).
II отдел (информационно-разведывательный) занимался вопросами безопасности, разведки, контрразведки, легализации и связи. Руководителями были подполковник Е. Дробик (до декабря 1943 года), полковник Казимеж Иранек-Осмецкий (до октября 1944 года), полковник Богдан Зелинский («Титус»).
III отдел (оперативно-подготовительный) планировал и готовил мероприятия, связанные с вооруженной борьбой и будущим общенациональным восстанием, а также координировал работу инспекторов отдельных видов вооружения. Руководители: генерал С. Татар (до мая 1944 года), полковник Юзеф Шостак (до октября 1944 года), майор И. Каменский. Отделу подчинялись: Саперный отдел, Артиллерийский отдел и Отдел флота.
IV отдел (снабженческий) координировал работу служб вооружения, интендантства, географической, санитарной, ветеринарной и обозной, а также заведовал подпольным производством.
V отдел (оперативная связь) занимался вопросами оперативно-технической связи, оснащения оборудованием, планированием десантных выбросок, координировал работу курьерской службы, шифровальщики, главная канцелярия, опекал солдат союзнических войск. Руководитель — полковник Казимеж Плута-Чаховский («Кучаба»).
VI отдел (бюро информации и пропаганды) заведовал пропагандистской деятельностью. Руководители: полковник Ян Жепецкий (до октября 1944 года), капитан К. Мочарский.
VII отдел (бюро финансов и контроля) контролировал финансовые потоки и денежное обеспечение, а также организовывал конспиративные точки. Руководители: полковник С. Тун (до октября 1944 года), майор Е. Любовецкий.
В январе 1943 года была создано Управление диверсиями, которое готовило и проводило диверсионные и специальные акции. Им руководили: полковник Август Эмиль Фельдорф (до марта 1944 года), подполковник Ян Мазуркевич («Радослав»).
В состав АК входили также структурные единицы, которые действовали за границей: Отдел по вопросам страны (Польши) при Штабе главнокомандующего (руководители — подполковник Смоленский, подполковник М. Протасевич, полковник Е. Утник); Отдел АК в Венгрии (подполковник И. Коркозович); Отдел АК в Германии.
В начале 1944 года Главной комендатуре АК подчинялись четыре крупные административные единицы (территории) и восемь самостоятельных округов: Белостокская территория (полковник Е. Годлевский) с округами «Белосток» (полковник В. Линярский), «Полесье» (подполковник С. Добрский), «Новогрудек» (подполковник Януш Шляский); Львовская территория (полковник Владислав Филипковский) с округами «Львов» (полковник С. Червинский), «Станиславов» (капитан Владислав Герман), «Тарнополь» (майор Б. Завадский); Западная территория (полковник С. Гродский) с округами «Поморье» (полковник И. Палубицкий) и «Познань» (полковник X. Ковалювка); Варшавская территория (полковник А. Скорчинский) с подокругами «Правобережный» (X. Сущинский), «Левобережный» (полковник Ф. Яхеч), «Мазовия» (подполковник Т. Табачинский).
Самостоятельные округа: «Варшава» (полковник А. Хрусцель), «Кельне» (полковник С. Двожак), «Лодзь» (полковник М. Стемпковский), «Краков» (полковник И. Спыхальский), «Силезия» (полковник Зыгмунт Вальтер-Янке), «Люблин» (полковник Казимеж Тумидайский), «Вильно» (подполковник Александр Кшижановский), «Волынь» (полковник К. Бомбиньский).
Несмотря на более чем солидную структуру, в конце августа 1943 года в Армии Крайовой насчитывалось всего лишь 40 отрядов и партизанских групп. Общая численность этих подразделений не превышала 2 тысяч человек. Причем добрая половина этих партизан находилась на территориях, расположенных восточнее Буга (к западу в основном действовали формирования «Крестьянских батальонов»). Надо сказать, что это не было случайным стечением обстоятельств — «восточные окраины» были главной головной болью АК. Вопреки здравому смыслу и соглашениям польские националисты упорно не желали возвращать украинцам и белорусам их западные земли.
Эмигрантское правительство и Главный штаб АК занимали позицию так называемой «ограниченной борьбы», они не были заинтересованы в развитии массового партизанского движения в стране, пока Красная Армия отступала. Умышленно ограничивалась численность подразделений повстанцев, перед которыми прежде всего ставились задачи по организации самообороны населения и проведения выборочных терактов и диверсий. Это было отражено в приказе Главного коменданта АК, датированном 13 марта 1943 года.
В отличие от коммунистических партизанских и военизированных формирований Армии Людовой (или Войска Польского) ориентировавшиеся на Лондон националистические повстанцы не хотели оказывать Советской Армии помощи в освобождении страны. Большинство этих отрядов придерживалось позиции выжидания в отношении германских войск. В основе этой позиции лежала концепция «двух врагов» — Германии и СССР.
Когда 3 августа 1944 года на переговорах в Москве премьер-министр эмигрантского правительства Станислав Миколайчик (сменивший в июле 1943 года погибшего в авиакатастрофе своего предшественника генерала Владислава Сикорского) заявил, что «поляки создали в Польше подпольную армию», Сталин заметил: «Борьбы с немцами они не ведут. Отряды этой армии скрываются в лесах. Когда спрашивают представителей этих отрядов, почему они не ведут борьбы против немцев, они отвечают, что это не так легко, так как если они убивают одного немца, то немцы за это убивают десять поляков… наши войска встретили под Ковелем две дивизии этой армии, но когда наши войска подошли к ним, оказалось, что они не могут драться с немцами, так как у них нет вооружения… отряды польской подпольной армии не дерутся против немцев, ибо их тактика состоит в том, чтобы беречь себя и затем объявиться, когда в Польшу придут англичане или русские».
Активно участвовать в боевых действиях против германских войск большинство подразделений АК начало только при приближении к границам Польши РККА. Объяснение этому самое простое. Основная задача, поставленная перед этой военно-конспиративной организацией ее лондонскими хозяевами, — обеспечение восстановления власти эмигрантского националистического правительства, ширмой которому служил «крестьянский вождь» С. Миколайчик.
С начала 1944 года численность АК начала расти как на дрожжах и достигла максимальной численности за весь период своего существования: 10 756 офицеров, 7506 юнкеров (подхорунжих), 87 886 сержантов (унтер-офицеров). В этой огромной подпольной армии насчитывалось 6287 полных взводов (по 50 человек в каждом) и 2633 неполных взвода (по 25 военнослужащих в каждом). Таким образом, общее количество солдат достигло 380 175 человек.