Между тем японцы, оккупировав в 1931 году Маньчжурию, обратили свои взоры на Синьцзян. И уже на следующий год японские эмиссары начали активно подталкивать местное уйгурское и дунганское население к вооруженным выступлениям против китайских властей с требованием предоставления Синьцзяну автономии. В результате в конце 1932 года в Синьцзяне началось восстание мусульман-дунган, которое поддержал губернатор соседней провинции Гансу генерал Ма Чунин. Войска губернатора (дубаня) Синьцзяня У Чжунсина, слабо дисциплинированные и плохо вооруженные, терпели поражение за поражением. А так как единственной боеспособной частью в Синьцзяне был отряд Паппенгута, то У Чжунсин обратился к нему за помощью. Одновременно У Чжунсин установил тайные контакты с советским представителем в Урумчи Погодиным, который пообещал поддержку Москвы в обмен на предоставление СССР права управления рядом промышленных предприятий и привилегий в торговле.
Однако возможное усиления советского влияния в Синьцзяне вызвало недовольство у многих местных чиновников и, разумеется, белоэмигрантов. В результате в апреле 1933 года начальник штаба Синьцзянского военного округа генерал Шен Шицай, заручившись поддержкой Паппенгута, совершил военный переворот, сверг У Чжунсина и стал дубанем провинции. Однако и ему не удалось справиться с восставшими, которые продолжали разорять провинцию, пользуясь тем, что солдаты Паппенгута вынуждены были находиться в Урумчи, обеспечивая устойчивость новой власти. Кроме того, в конце 1933 года у Шен Шицая возник конфликт с Пекином, и центральное правительство направило в Синьцзян 35-ю и 36-ю дивизии, большую часть личного состава которых составляли дунганы. После этого положение дубаня стало критическим — отряд Паппенгута с трудом удерживал Урумчи, а о контроле над остальной территорией не приходилось даже мечтать.
Все это вынудило Шен Шицая тайно искать пути сближения с Москвой. Советское руководство, опасаясь появления у границ СССР нового марионеточного государства под протекторатом Токио, как это случилось в Маньчжурии, приняло решение оказать Шен Шицаю помощь и ввести в Синьцзян войска. Но при этом Кремль потребовал выдачи отряда Паппенгута. Однако Шен Шицай, не желавший терять единственную боеспособную часть своей армии, предложил Погодину сохранить отряд Паппенгута, проведя предварительно «чистку» его личного состава. Пока шли переговоры, агенты ОГПУ установили контакты с помощником Паппенгута полковником Н. Бехтеевым, которому было обещано в случае ликвидации Паппенгута полное прощение и командная должность в Красной Армии. В результате в декабре 1933 года Паппенгут и несколько других антисоветски настроенных офицеров были схвачены людьми Бехтеева и выданы советским представителем. Их переправили в СССР и немедленно расстреляли.
После этого в начале 1934 года в Синьцзян была введена Алтайская добровольческая армия, в состав которой вошли подразделения Среднеазиатского военного округа и около 10 тыс офицеров и солдат китайского генерала Ма Чунина, вытесненные японцами в 1931 году из Маньчжурии в СССР, где их и интернировали в лагеря для военнопленных. В Урумчи к Алтайской армии присоединился бывший отряд Паппенгута, но уже под командованием Бехтеева, которому Шен Шицай присвоил генеральское звание и разрешил тратить на себя значительные суммы из предназначенных на «представительство» денег[58].
Несмотря на то что в первых боях «алтайцы» несли большие потери, к лету 1934 года 35-я дунганская дивизия была полностью разгромлена, а 36-я оттеснена на юг, в округ Хотин. После этого части Красной Армии были выведены в СССР, а в Синьцзяне остались лишь несколько десятков военных советников под началом крупного деятеля Разведупра РККА Ади Маликова, официально числившегося старшим военным советником Шен Шицая. В июне 1934 года Бехтеев был назначен командующим Южным фронтом, а его помощником стал командир РККА, будущий маршал бронетанковых войск Павел Рыбалко, которого официально называли «русским генералом китайской службы». В ноябре 1934 года русский отряд (4 белых полка и конный артиллерийский дивизион, всего 2200 человек) был сведен в полк, командиром которого назначили аполитичного полковника Чернева. Что же касается антисоветски настроенных эмигрантов и членов Российской крестьянской партии, то они еще в начале года были вынуждены срочно покинуть Синьцзян.