Органы прокуратуры все более и более втягивались в выполнение несвойственных им функций. Это засасывало, как болото. Силы распылялись, прокуроры, по выражению Трубина, превращались в обычных управленцев. Поэтому на одном из заседаний коллегии прокуратуры республики, проводившемся под председательством Трубина, было решено считать приоритетной задачей защиту законных прав и интересов граждан и прежде всего от преступных посягательств. В условиях перехода страны к рыночным отношениям главное внимание сосредоточить на надзоре за законностью правовых актов и законностью рассмотрения материалов контролирующими органами, а также за разрешением писем, заявлений и жалоб на неправильные действия органов управления, учреждений, организаций и должностных лиц.
Возглавлять прокуратуру республики Н. С. Трубину довелось всего полгода. Бурные процессы, происходившие в стране, породили и кадровую чехарду. Президенту СССР М. С. Горбачеву показалось, что А. Я. Сухарев не вполне справляется с обязанностями Генерального прокурора СССР. Репутацию ему во многом подпортили следователи Гдлян и Иванов, расследовавшие тогда громкое, так называемое узбекское дело. Все это было не по нраву Президенту СССР, и он принял решение сменить Генерального прокурора, предложив этот пост Н. С. Трубину. Правда, А. Я. Сухарев и сам не очень держался за это место. Об этом он не раз говорил своим коллегам.
11 декабря 1990 года постановлением Верховного Совета СССР Н. С. Трубин был назначен Генеральным прокурором Союза ССР, а 27 декабря Съезд народных депутатов СССР утвердил его в этой должности (постановление подписал Председатель Верховного Совета СССР Лукьянов). Ему был присвоен классный чин действительного государственного советника юстиции.
Николаю Семеновичу Трубину довелось оказаться последним Генеральным прокурором Советского Союза. В своем выступлении на том съезде Николай Семенович говорил о том, почему меры, осуществленные прокуратурой и другими правоохранительными органами, не влияли на оздоровление обстановки в стране; о пресловутой «войне законов», по существу парализовавшей деятельность органов исполнительной власти; о правовом нигилизме республиканских законодателей, чем не преминули воспользоваться и местные органы власти, особенно в автономных республиках; о прямом и бесцеремонном вмешательстве в деятельность прокуратуры и т. п. Выступая, он еще раз подчеркнул, что прокуратура должна быть освобождена от несвойственных ей функций и что прокурорский надзор не должен подменять органы управления и контроля.
«Концепция обновления нашего Союза, — говорил на съезде Трубин, — исходит из признания суверенитета республик, из признания необходимости разграничения полномочий между Союзом и республиками. Между тем Конституция СССР до последнего времени удерживала Прокуратуру Союза ССР на позиции строгой централизации прокурорской системы. Это привело к тому, что стихийно начавшиеся в республиках процессы по изменению статуса республиканских прокуратур оказались неурегулированными и Прокуратура Союза ССР не могла никак на них влиять. Прокуратуре Союза пришлось плестись в хвосте событий либо принимать какие-то ошибочные организационные решения».
IV съезд народных депутатов СССР по предложению Н. С. Трубина внес поправку в Конституцию СССР, которая предоставляла право высшим органам государственной власти республик назначать прокуроров и требовать от них отчета об их деятельности.
Президент и правительство СССР готовились подписать новый Союзный договор, но в связи с начавшимися событиями 19–21 августа 1991 года (время действия ГКЧП) этот процесс был сорван. Созданный спешно Государственный совет СССР признал независимость Прибалтийских республик. Союз начал планомерно разрушаться. Тогда было еще не ясно, что будет: Союз республик или Союз суверенных государств, кто в них войдет, каковы будут союзные структуры. Ясно было только одно — прежнего Союза уже нет.
Положение самого Н. С. Трубина оказалось сложным и неустойчивым. Во время «правления» ГКЧП его не было в Москве — он находился с визитом на Кубе. После разгрома гекачепистов часть прессы обвинила руководителей союзной прокуратуры в поддержке переворота и потребовала их смещения. Хотя Прокуратура Союза ССР — один из немногих правоохранительных институтов — в те дни официально не выступала в прессе в поддержку ГКЧП. Чтобы снять Н. С. Трубина, в газетах стали распространяться сведения о том, что якобы он в каком-то интервью на Кубе высказался в поддержку ГКЧП. Трубин все же устоял, правда, он вынужден быть уволить своих заместителей, остававшихся тогда без него: А. Д. Васильева, И. П. Абрамова и А. Ф. Катусева.
В этих до конца так и не прояснившихся условиях, прокуроры обсудили концепцию реформирования союзной прокуратуры на так называемый переходный период. 24 сентября 1991 года Генеральный прокурор Союза ССР Н. С. Трубин пригласил на встречу (она носила неофициальный характер) всех прокуроров фактически уже суверенных республик. В качестве наблюдателей прибыли даже представители признанных уже независимыми Латвии и Литвы. Прокуроры высказались за необходимость постоянного сотрудничества и координации действий прокуратур суверенных государств, обмена мнениями и опытом. По принятой концепции Прокуратура СССР должна была тогда быть преобразована в межреспубликанский орган прокурорского надзора. Предполагалось, что выработкой совместных решений будет заниматься Совет генеральных прокуроров в составе Генерального прокурора СССР (председатель) и генеральных прокуроров республик (по должности). Что касается органов военной прокуратуры, то предлагалось Главную военную прокуратуру упразднить, а ее функции передать гражданскому подразделению Прокуратуры Союза ССР (в то время уже была упразднена коллегия Главной военной прокуратуры, а руководство военными прокурорами возложено на заместителя Генерального прокурора СССР Я. Э. Дзенитиса). Считалось необходимым и упразднение 2-го управления союзной прокуратуры, осуществлявшей руководство спецпрокуратурами режимных объектов.
После самороспуска Съезда народных депутатов СССР, беловежского соглашения Президента РСФСР и руководителей Украины и Белоруссии и последовавшего вслед за этим развала СССР в декабре 1991 года Н. С. Трубин автоматически потерял свою должность. В приказе было записано, что он освобождается от занимаемой должности «в связи с постановлением Совета Республик Верховного Совета СССР от 26 декабря 1991 г. о прекращении деятельности Союза ССР».
Когда правительство Российской Федерации утвердило Положение о порядке назначения и выплаты пенсий прокурорам, следователям, научным и педагогическим работникам органов и учреждений прокуратуры и их семьям, бывший Генеральный прокурор Союза ССР Н. С. Трубин получил пенсионное удостоверение за первым номером.