После трех лет активной работы в Праге Глинский возвращается в Москву. За активную разведывательную работу по обеспечению безопасности СССР от внешних угроз его награждают вторым орденом Красного Знамени. В то время в разведке мало кто мог похвастаться двумя такими орденами.
В феврале 1933 года в Германии к власти пришли нацисты. Сталину были хорошо известны притязания Гитлера на территорию Советского Союза, однако в тот период никто не мог сказать, как дальше развернутся события. Разведка докладывает ему из Берлина, что Гитлер вынашивает захватнические планы, а в своем ближайшем окружении заявляет: «Мне придется играть в мяч с западными демократиями и сдерживать (их) при помощи призрака большевизма, заставляя верить, что Германия — последний оплот против красного потопа. Для нас это единственный способ пережить критический период, разделаться с Версалем и снова вооружиться».
В мае 1934 года Политбюро на своем специальном заседании рассмотрело вопрос о работе внешней разведки. Было принято решение усилить Иностранный отдел ОГПУ и сосредоточить его работу на приоритетных направлениях, прежде всего европейском. 10 июля 1934 года постановлением ЦИК СССР был образован союзно-республиканский Народный комиссариат внутренних дел. В его составе было создано Главное управление государственной безопасности, сосредоточившее в своих руках руководство разведкой и контрразведкой. Внешняя разведка органов государственной безопасности была также значительно усилена в кадровом отношении.
С учетом этих обстоятельств летом 1934 года в Москве был разработан план реорганизации работы резидентуры НКВД в Париже. Им предусматривалась активизация разведывательной работы по Германии на французской территории. После непродолжительного отдыха в Москве С. Глинский, как опытный разведчик, в том же году назначается резидентом НКВД в Париже. Центр потребовал от возглавляемой им резидентуры обеспечить освещение деятельности во Франции немецкой эмиграции, национал-социалистских организаций и их агентуры. В утвержденном руководством разведки плане работы резидентуры стояла задача разработки посольства Германии, ее других официальных представительств и их персонала.
Видное место в работе резидентуры занимала борьба против белогвардейской эмиграции. Во Франции был осуществлен очередной этап операции «Трест», направленной против самой активной вооруженной белогвардейской организации — Русского общевоинского союза. Поскольку Петр участвовал в ее реализации с самого начала, ему поручается продолжить ликвидацию белогвардейских организаций в Париже, где сосредоточились их основные центры. Ранее, в 1930 году, чекисты похитили здесь старого знакомого Петра генерала Кутепова, прославившегося своими зверствами во время гражданской войны.
На этот раз речь шла о нейтрализации сменившего Кутепова на посту главы РОВС генерала Миллера. Для осуществления акции из Москвы в Париж прибыла специальная группа во главе с опытным боевиком Шпигельгласом. Петр принимал активное участие в разработке и подготовке акции против Миллера, которая закончилась его похищением в сентябре 1937 года, когда сам разведчик уже был в Москве. После похищения генерала Миллера Русский общевоинский союз, объединявший под своими знаменами около двадцати тысяч вооруженных членов, практически прекратил свое существование. Однако планам чекистов использовать Миллера в пропагандистской борьбе по разложению вооруженной эмиграции не суждено было сбыться: он скончался от сердечного приступа во время транспортировки в СССР на советском судне.
В 30-е годы Франция играла активную роль в европейской политике. Поэтому перед резидентурой Петра стояла задача добывать информацию главным образом о политике французского правительства, планах Парижа в отношении нашей страны, ее возможного блока с нацистской Германией. И с этой задачей резидентура успешно справилась. Она регулярно получала информацию из канцелярий президента и премьер-министра страны по важнейшим политическим вопросам, интересующим Москву, в частности, об отношении Франции к СССР и к нацистской Германии. Резидентурой были также получены ценные сведения о вооруженных силах Франции, образцы новейшей военной техники, поступавшей на вооружение французской армии.
Так, летом 1935 года Петр сообщает в Центр, что британский посол донес в свой МИД о сильном беспокойстве французского кабинета министров в связи со значительным отставанием Франции от Германии в области вооружений. В телеграмме посла говорилось, что отдельные министры французского правительства считают неизбежным нападение Германии на их страну, которое может произойти в 1937 году.