Голос молодого поэта привлёк внимание гоминьдановских чиновников, и в июне 1926 г. они арестовывают Кэ Чжунпина, работавшего в то время в издательском отделе общества «Творчество» в Шанхае; однако через месяц благодаря стараниям друзей его выпускают на поруки.
Не прекращая литературной деятельности, Кэ Чжунпин начинает преподавательскую работу. С 1927 г. он преподаёт родной язык в одной из школ г. Сианя в провинции Шэньси, а с 1929 г.— в Строительном институте в Шанхае. Его произведения следующих лет показывают, что поэт твёрдо стоит на избранном им пути борца. В 1927 г. в Сиане издаётся, а затем в Шанхае переиздаётся сборник статей Кэ Чжунпина «Революция и искусство».
В 1928—1929 гг. поэт пишет пьесу в стихах «Гора огня и ветра»; изданная в 1930 г. в Шанхае, она разошлась очень быстро, но вскоре гоминьдановские власти запретили её. Пьеса эта была написана в период, когда её автор ещё не приобрёл боевого революционного опыта, и тем не менее Кэ Чжунпину удалось показать руководящую роль пролетариата в революционном движении и огромные сдвиги, происходящие в деревне под влиянием революционной бури.
В ноябре 1929 г. Кэ Чжунпин был вторично арестован, однако в декабре снова выпущен на поруки. Революционное мировоззрение поэта, его литературная и общественная работа логически приводят к шагу, который определил дальнейшее развитие и направление деятельности Кэ Чжунпина: в марте 1930 г. в Шанхае он вступает в ряды Коммунистической партии Китая. Организованней и целеустремлённей становится борьба поэта с гоминьдановской реакцией, он накапливает опыт революционной деятельности. В 1930 г. Кэ Чжунпин — корреспондент органа ЦК КПК «Хунци жибао», затем — секретарь отдела рабочего контроля Центрального совета профсоюзов Шанхая. И здесь 9 декабря 1930 г. его снова арестовывают. Начинаются скитания поэта по гоминьдановским тюрьмам. В июне 1931 г. из дома предварительного заключения в Шанхае его переводят в тюрьму Лунхуа, а в феврале 1932 г.— в исправительную тюрьму в Сучжоу. Лишь в начале августа 1933 г. Кэ Чжунпина снова отпускают на поруки.
Через несколько месяцев после начала национально-освободительной войны против японских захватчиков поэт уходит из гоминьдановского района в Яньань, где с энтузиазмом выполняет любую работу, порученную ему партией.
Сначала Кэ Чжунпин — начальник курсов работников культуры при Отделе пропаганды ЦК КПК; в 1938 г.— заместитель председателя Ассоциации работников культуры освобождённого района Шэньси — Ганьсу — Нинся, потом её председатель, директор народной драматической труппы и т. д.
Одновременно Кэ Чжунпин продолжал работать над своими произведениями. В мае 1938 г. он закончил поэму «Отряд самообороны Пограничного района». Эту поэму, в основу которой легли действительные события, китайские литературоведы по праву считают лучшим произведением Кэ Чжунпина, наиболее характерным для его творчества. Кроме того, она является важной вехой на творческом пути поэта. До этой поэмы Кэ Чжунпин писал главным образом лирические стихи, горячо призывавшие бороться с реакцией, за свободу и светлое будущее Китая. Теперь из-под его пера вышел реалистический рассказ о революционной борьбе народа. Поэма показывает, как отразились на творчестве поэта приезд в Яньань и непосредственное сближение с народными массами, как обогатился его жизненный опыт. Это дало ему возможность создать яркое, реалистическое произведение, написанное глубоко народным языком, поднимавшее боевой энтузиазм читателей и воспитывавшее массы.
В основу сюжета поэмы положена история, рассказанная Кэ Чжунпину делегатом Первого съезда рабочих Пограничного района Линь Гуанхуэем, о том, как народные ополченцы поймали двух изменников родины, шпионов, засланных врагом в Пограничный район Шэньси — Ганьсу — Нинся. Воспитание бдительности являлось в тот период одной из главных политических задач, и было очень важно показать народу, что его священный долг — не только защищать свою землю от захватчиков на фронте, но и охранять завоевания революции, оберегать демократические районы, эти ростки нового Китая, от происков реакции, от посягательств японцев и гоминьдановской клики. Этой большой воспитательной задаче и посвящена поэма «Отряд самообороны Пограничного района», которая неоднократно декламировалась на многолюдных вечерах и собраниях и имела большой успех.