4 июля 1918 г. ЦК левых эсеров дает задание Б. провести физическое устранение посла Мирбаха, чтобы «совершить реальное предостережение и угрозу мировому империализму, стремящемуся задушить русскую революцию, поставив правительство перед свершившимся фактом разрыва Брестского договора». В помощники Б. был выделен левый эсер бывший фотограф ВЧК К Андреев.
Перед совершением террористического акта Б, решает составить завещание, в котором пытается объяснить мотивы участия в предстоящем убийстве германского посла: «Я прежде всего противник сепаратного мира с Германией и думаю, что мы обязаны сорвать этот постыдный для России мир… Но кроме общих и принципиальных моих, как социалиста, побуждений, на этот акт меня толкают и другие побуждения, которые я отнюдь не считаю нужным скрывать — даже более того, я хочу их подчеркнуть особенно. Я — еврей и не только не отрекаюсь от принадлежности к еврейскому народу, но горжусь этим, хотя одновременно горжусь и своей принадлежностью к российскому народу. Черносотенцы-антисемиты, многие из которых сами германофилы, с начала войны обвиняли евреев в германофильстве и сейчас возлагают на евреев ответственность за большевистскую политику и за сепаратный мир с немцами. Поэтому протест еврея против предательства России и союзников большевиками в Брест-Литовске представляет особенное значение. Я, как еврей и как социалист, беру на себя совершение акта, являющегося этим протестом». б июля Б. и Н. Андреев подъехали на автомобиле к посольству Германии в Денежном переулке и, предъявив документы сотрудников ВЧК, потребовали встречи с немецким послом якобы по поручению Ф.Э. Дзержинского. После кратковременной беседы с Мирбахом, Б. выхватил пистолет и восемь раз выстрелил в него, но ни разу не попал. Посол был смертельно ранен бомбой, которую Б. и Андреев принесли в портфеле. Легко раненый в результате перестрелки с немцами Б. с соучастником скрылись с места преступления.
Убийство Мирбаха послужило сигналом к мятежу левых эсеров. Их воинские формирования захватили здание ВЧК, почту и телеграф, ими был арестован Ф.Э. Дзержинский. Однако уже на следующий день мятеж был подавлен.
Б. перешел на нелегальное положение. Под фамилией Авербах скрывался в Рыбинске и Кимрах, где ему удалось устроиться на работу в уездный комитет земледелия. Он восстановил связь с ЦК партии левых эсеров, который вскоре направил его на Украину для проведения террористических акций.
В ноябре 1918 г. Б. был заочно приговорен советским судом к 3,5 г. заключения.
На Украине Б. начал подготовку убийства гетмана П.П. Скоропадского, поднял восстание крестьян в Жмеринском уезде. Его положение в партии значительно укрепилось. В феврале 1919 г. он становится секретарем нелегального Киевского горкома левых эсеров. Однако после аннулирования Советской Россией Брестского мира конфронтация левых эсеров с большевиками, по мнению Б., во многом потеряла смысл.
В апреле 1919 г. Б. является в Киевский губчека с повинной и выражает готовность сотрудничать с советской властью во имя «всемирной революции».
16 мая 1919 г. Президиум ЦИК амнистирует Б., и тот немедленно заявляет о выходе из партии эсеров и вступает в «Союз максималистов», который стоял на платформе признания советской власти и борьбы с контрреволюцией совместно с большевиками.
В мае 1919 г. Б. по поручению ЧК готовит группу для убийства генерала Колчака. В то же время левыми эсерами на него было совершено три покушения за предательство, в результате одного из них он получил довольно серьезные ранения. Он обращается к левым эсерам с письмом, требуя партийного суда, который вскоре состоялся. Было вынесено определение, в котором было указано, что «суд не установил, что Б. не предатель».
Вскоре после суда Б. вступает в коммунистическую партию, заявив при этом, что понял «историческую правду большевистской линии в социалистической революции». Он переезжает в Москву, где работает в Политуправлении Реввоенсовета, выезжает на Восточный и Южный фронты. В 13-й армии Южного фронта одно время возглавляет работу по борьбе со шпионажем. После окончания Гражданской войны он был направлен на работу в Наркомат по иностранным делам и откомандирован в Иран, где по заданию партии организует государственный переворот, в результате которого там был установлен режим, лояльный к Советской России.
В сентябре 1920 г. Б. был зачислен в Академию Генерального штаба, Свободное время часто проводил в ресторанах и кафе в обществе В. Маяковского, С. Есенина, В. Шершеневича, А. Мариенгофа и др.
В феврале 1923 г. в Москве открывается выставка, посвященная деятельности Л.Д. Троцкого. Отбор материалов и оформление проводил Б., с чего и началось его знакомство и сближение с Л.Д. Троцким.
Осенью 1923 г. по предложению Ф.Э. Дзержинского Б. переходит в Иностранный отдел ОГПУ. Работает в Палестине, Закавказье. Летом 1925 г. возвращается в Москву и некоторое время работает в Наркомате торговли, но через год вновь возвращается в ОГПУ. Получил назначение в Монгольскую республику на должность главного инструктора государственной внутренней охраны.
Пребывание Б. в Монголии была связано с рядом крупных скандалов. Он начал злоупотреблять спиртным, выпячивал свою роль в международном революционном движении, хвалился связями, оскорблял не только советский персонал, но и монгольских коллег. В результате в ноябре 1927 г. был отозван.
Приезд Б. в Москву совпал с апогеем фракционной борьбы. Были исключены из ВКП(б) Л.Д. Троцкий и Г.Е. Зиновьев, а также наиболее видные их сторонники Л.Б. Каменев, Г.Л. Пятаков, К.Б. Радек, Х.Г. Раковский, Л.С. Сосновский и др.
В эти дни Б. открыто встречается с участниками оппозиции, морально и материально поддерживает их. Однако вскоре получает задание выехать на нелегальную работу на Ближний Восток под именем Якуба Султанова («персидский купец»). Б. составляет план организации легального прикрытия. Он предлагает создать фирму по торговле древними еврейскими книгами, которые, по его мнению, можно было изъять из Румянцевской библиотеки и спецхранилищ, при этом встречает поддержку наркома А.В. Луначарского. Б. формирует резидентуру, в состав которой входят Л.А. Штимельман и его жена, а также М.И. Альтерман.
В сентябре 1928 г. Б. выезжает в Одессу, оттуда — в Константинополь. Организованная им фирма начала активную деятельность по продаже древнееврейских рукописей и книг, Б. удалось установить обширные связи с американскими и западноевропейскими партнерами. По делам фирмы Б. посещает Париж и Берлин, одновременно решая разведывательные задачи.
В марте 1929 г., находясь в Германии, Б. узнает о высылке Л.Д. Троцкого из СССР. Он направляет начальнику Иностранного отдела ОГПУ М.А. Трилиссеру письмо следующего содержания:
«Высылка Троцкого меня потрясла. В продолжении двух дней я находился в прямо болезненном состоянии. Мои надежды, что радиус расхождения между партией и троцкистской оппозицией суживается и кризис изживается, что Троцкий сохранен для партии, не оправдались».
Симпатии к оппозиции и лично к Л.Д. Троцкому разгорелись у Б. с новой силой. В апреле 1929 г. он приезжает в Константинополь и встречается с Л.Д. Троцким. В ходе четырехчасовой беседы тот высказал мнение, что в ближайшие месяцы советский режим рухнет и необходимо найти среди членов партии кадры, которые при смене власти могут сплотить пролетариат на платформе нынешней оппозиции. Он полагал актуальным создание нелегальной организации на территории СССР, интересовался способами конспиративной связи со сторонниками в Советском Союзе, состоянии контроля иностранной корреспонденции.
Л. Д. Троцкий предложил Б. наладить учет оппозиционеров, работавших в советских учреждениях за рубежом, использовать их для организации связи, высказал пожелание достать как можно больше денег для конспиративной работы, предложил доставить их путем тайного изъятия из средств заграничных советских организаций, в том числе и резидентур.
Б. заверил Л.Д. Троцкого в готовности к сотрудничеству. Договорились поддерживать связь через сына Л.Д. Троцкого Л.Л.Седова.