31 мая 1919 года Мишка неожиданно продолжил свое выступление в эпистолярном жанре на страницах «Известий Одесского совета рабочих депутатов». В очередном открытом письме он рассказал, что 12 лет отсидел в царских тюрьмах за свою революционную деятельность. Он утверждал, что всю жизнь боролся за бедных против буржуев, что якобы побывал на революционном фронте и даже командовал бронепоездом в боях против белых.
Видимо, он ожидал какой-то реакции со стороны властей, но ее не последовало. Тогда Мишка в начале июня того же года лично заявился на прием к начальнику Особого отдела ВЧК 3-й Украинской армии Фомину. Фомин сначала не поверил в искренний порыв Мишки и отдал приказ о его разоружении. Однако никакого оружия при Мишке обнаружено не было. Более того, сами бойцы особого отдела встретили Мишку вполне дружелюбно и явно не считали его своим врагом. Кстати, некоторые из них в недавнем прошлом ему подчинялись и выполняли его приказания, а вовсе не приказания Фомина.
Воспользовавшись этим обстоятельством, Мишка сделал самый главный шаг в своей жизни, по сути дела подведя жирную черту под своим ярким, но преступным прошлым. Он заявил, что хотел бы, чтобы его ребята в полном составе под его личным командованием влились в ряды Красной армии. «Оружие у меня есть, — настаивал Мишка. — Деньги тоже. Требуется только разрешение на формирование отряда». Фомин, обескураженный заявлением Мишки, связался со своим непосредственным начальником Николаем Худяковым и доложил ему о предложении Япончика. Ожидая результатов переговоров Фомина с Худяковым, Мишка тем временем продолжал свою пламенную речь:
— Заверяю своим честным словом, что теперь не будет грабежей и налетов! А если кто попытается это сделать — расстреливайте этих людей. Со старым мы решили покончить!
В Реввоенсовете Южного фронта состоялось специальное совещание, на котором было решено дать добро на формирование, наверное, самого необычного в истории вооруженных сил мира полка. Якобы по этому поводу специально связывались с Л.Д. Троцким (Л.Д. Бронштейн, 1879–1940), и тот своим прямым указанием разрешил формирование нового подразделения Красной армии.
Надо сказать, что Мишка с энтузиазмом, которого, возможно, от него никто и не ожидал, принялся за комплектование собственного полка, который получил название «54-й Украинский Советский полк». Сам Мишка называл его, «54-й Советский железный полк имени мамаши Мозес» (так было написано на красном знамени, которое пошили по указанию Япончика). Полк начал формироваться в середине июня 1919 года в условиях продолжающей ухудшаться для большевиков обстановки на фронтах Гражданской войны (в том числе и поэтому вряд ли было бы обоснованным говорить, что Япончик просто перешел на сторону заведомо более сильных. Наверное, он был достаточно искусным молодым политиком, чтобы понимать, что разобщенные силы оппозиции все равно не смогут одержать окончательную победу над большевиками). Войска добровольческой Белой армии генерала А.И. Деникина взяли Харьков, Полтаву, Екатеринослав (ныне Днепропетровск). Белые стремились расчленить южные дивизии Красной армии и овладеть южными портами России, промышленными центрами и выгодными стратегическими позициями. Превосходящие силы белых добровольцев под командованием известного Мишке генерала Н.Н. Шиллинга наступали с востока, а с запада на Одессу двигались петлюровские части, заключившие временный союз с белыми. Кроме того, в конце июня Одесский уезд был охвачен мятежом немцев-колонистов, которые выступили с оружием против их насильственной мобилизации в Красную армию и против печально знаменитой продразверстки, в результате которой из подвалов крестьян изымалось все зерно, включая оставленное на посев будущего года.
О том, что Мишка не грешил против истины, когда говорил, что он сам вооружит своих людей, свидетельствует следующий документ: «Реввоенсовет 3-й Украинской Советской Красной Армии. 23 мая 1919 года. Товарищу Мишке Японцу: Приказываю Вам именем командующего одно легкое орудие со всеми снарядами передать немедленно в распоряжение командира партизанского отряда товарища Дмитриева. Нач. штаба И.А. Пионтковский». Из этого следует, что Мишка не только сумел вооружить своих бойцов, но и щедро делился оружием с другими частями и подразделениями Красной армии.