С начала 1919 года она стала вторым секретарем московского городского райкома РКП(б). Оттуда Грундман была направлена на работу в органы госбезопасности на должность начальника информационной части Особого отдела Московской ЧК, которым руководил Ефим Георгиевич Евдокимов (1891–1940). Благодаря Евдокимову Особый отдел стал одним из эффективно работающих отделов комиссии. Подтверждением этому могут служить следующие примеры.
Особый отдел МЧК, в составе которого работала Грундман, внес весомый вклад в ликвидацию так называемой «Добровольческой артели московского района» и московского филиала «Национального центра». Также результативной операцией стал разгром анархистского подполья. 25 сентября 1919 года в помещении московского комитета РКП(б) прогремел взрыв. Погибло 12 и ранено 55 партийных активистов. Здание комитета было сильно повреждено. В ночь на 5 ноября чекисты Особого отдела предприняли попытку захвата штаб-квартиры анархистов. После двух часов перестрелки анархисты предпочли смерть сдаче в руки сотрудников органов госбезопасности и взорвали себя.
В 1919 году началось освобождение Украины, и в конце года для создания структур органов госбезопасности туда из Центра был выслан отряд опытных работников. Евдокимов поехал на Украину с группой уже проверенных в деле чекистов. Отправилась туда и Эльза Грундман, став начальником информации и административной части Особого отдела ВЧК Южного и Юго-Западного фронтов.
На Украине шли ожесточенные бои. Население разделилось на два враждующих лагеря. Справиться с работой по уничтожению бандитов было непросто. Эльза Грундман в автобиографии вспоминала: «Выезжала в Донбасс для разработки и ликвидации деникинской организации по затоплению шахт <…> Руководила разработкой и операцией по ликвидации петлюровской организации в школе червонных старшин, целью которых был переход и сдача неприятелю курсантской бригады Участвовала в ликвидации дела <…> продажи имущества армии <…> махновцам <…> С тремя сотрудниками произвела арест, при помощи двух уполномоченных махновской организации на бронепоезде, которые, арестовав комиссара поезда, хотела продать поезд Махно».
В середине 1921 года по просьбе начальника Подольской губернской ЧК Л. М. Заковского Грундман отправляется в Винницу, где она становится членом коллегии и начальником административно-организаторского отдела. О своей работе там Эльза Яковлевна написала (стиль и орфография сохранены): «Участвовала и руководила ликвидацией окружных банд: Нечая — сдалась благодаря агентурной работе среди банды. Лично ездила на переговоры. Банда Шевчука — была уничтожена в бою. Атаман сдался. Банда Лихо — половина сдалась во время переговоров, другая половина во время боя была разбита и убит сам атаман Лихо. Банда Артема — атаман был взят, когда я оставалась заложницей в банде, где, в общем, пробыла как заложница семь суток. Остальная банда мне сдалась по прибытии в город Винницу».
На самом деле события развивались более непредсказуемо, чем их описала в автобиографии Грундман.
Банды Артема и Лихо терроризировали сельское население, пугая его поджогами и пулеметными очередями по ночам. Среди людей распространялись слухи о намечавшемся захвате Винницы. Сами банды, насчитывая до 700 сабель, имея легкую полевую артиллерию, скрывались на хуторах, что очень затрудняло чекистскую работу.
Разгром регулярных частей банд Артема и Лихо был поручен Винницкой ЧК. Евдокимов на совещании своего отряда одобрил хитроумное предложение Грундман. Находчивая Эльза придумала такой способ «взятия» бандитов: проникнуть в логово Артема и Лихо, сообщить условия дальнейшего развития «взаимоотношений», в случае отказа добровольной сдачи чекистам действовать согласно будущей обстановке. На роль «переговорщика» Грундман предлагала себя.
В целях безопасности в логово бандитов вместе с Эльзой Яковлевной послали сотрудника спецслужб Петра Солодовского. Появившись в назначенном месте, Грундман заявила атаману Артему:
«Я — начальник информационного отделения Особого отдела Юго-Западного фронта, помощник известного тебе Евдокимова. Пора бы тебе одуматься и прекратить сопротивление! Сдавайся. Евдокимов ждет тебя в Виннице для переговоров».
Артем, обескураженный властным тоном молодой женщины, согласился выехать на переговоры. Но, опасаясь за свою жизнь, оставил Грундман в лагере бандитов как заложницу. Вечером туда приехал пьяный Лихо. Он устроил «продолжение банкета»: бандиты хлестали спиртное, обмениваясь сальными шутками. К столу пригласили и Эльзу Яковлевну. Она под общий галдеж осторожно вытащила у одного бандита наган и спрятала под куртку. Вскоре пьяный Лихо обратился к ней: «Ну, что? Говоришь, что Артему предложили переговоры? Ха-ха-ха… Может, мы с тобой тоже «переговорим»? В соседней комнате, а?» Хохочущие бандиты оторопели, когда Эльза без колебаний одобрила это предложение.