По завершении учебы Михаил Георгиевич работал инженером в Мосэнерго, а в 1930 г. был направлен на завод “Баррикады”, где проработал три года. В январе 1933 г. М. Г. Первухин получил назначение на Каширскую государственную районную электростанцию, где он работал до 1937 г.: вначале старшим инженером котельного цеха, затем - начальником цеха, а с мая 1936 г. - директором электростанции. В конце 1937 г. М. Г. Первухин становится главным инженером и заместителем управляющего Мосэнерго, потом - начальником Главэнерго Наркомата тяжелой промышленности.
В начале 1938 г. он был выдвинут на должность заместителя народного комиссара тяжелой промышленности, затем назначен первым заместителем наркома тяжелой промышленности. На этой должности он проработал до разделения наркомата. В январе 1939 г. М. Г. Первухин назначается народным комиссаром электростанций и электропромышленности.
На XVIII съезде ВКП(б) в 1939 г. М. Г. Первухин избирается членом Центрального Комитета партии и остается им до 1961 г. С мая 1940 г. по май 1944 г. работает заместителем Председателя Совета Народных Комиссаров СССР, председателем Совета по топливу и электрохозяйству при СНК СССР.
В годы Великой Отечественной войны инженеру-энергетику Первухину пришлось стать химиком. Ночью 26 февраля 1942 г. у него состоялся телефонный разговор с И. В. Сталиным, который сообщил, что Политбюро ЦК приняло решение назначить его (по совместительству с работой в Совнаркоме) наркомом химической промышленности. В ту же ночь Первухин выехал в наркомат, собрал членов коллегии и начальников главных управлений и объявил им о решении ЦК. Михаил Георгиевич хорошо знал о том трудном положении, которое сложилось в химической промышленности в первые месяцы войны.
Будучи заместителем председателя СНК, а также со 2 августа 1941 г. уполномоченным Государственного Комитета Обороны по Управлению военно-химической обороны Красной Армии, он уже занимался проблемами этой отрасли. Работать пришлось в тяжелейших военных условиях, непрерывно наращивая производство необходимой для фронта продукции. С его приходом улучшилась работа наркомата, возросла оперативность. Михаил Георгиевич всегда сам детально разбирался в постоянно возникавших трудностях, лично выезжал на предприятия.
В первые дни войны Политбюро ЦК ВКП(б) и ГКО были приняты меры для быстрейшей эвакуации на восток страны населения, промышленных и сельскохозяйственных предприятий, транспортных средств, оказавшихся в прифронтовой полосе. Был образован Совет по эвакуации. Председателем Совета стал Н. М. Шверник, заместителями - А. Н. Косыгин и М. Г. Первухин. Михаилу Георгиевичу приходилось повседневно осуществлять руководство эвакуацией и заниматься расширением базы военной промышленности на востоке. В годы войны ему присваивается звание генерал-лейтенанта инженерно-технической службы.
После мая 1945-го Михаил Георгиевич, оставаясь в ранге заместителя Председателя Совнаркома и министра химической промышленности СССР (с марта 1946 г.), проводил большую работу по восстановлению и развитию народного хозяйства страны. С 1946 г. по 1962 г. М. Г. Первухин избирался депутатом Верховного Совета СССР. В это время он уже занимался ответственной работой в новой, атомной отрасли.
В феврале 1943 г. ГКО СССР была утверждена программа научно-технических исследований по практическому использованию “внутриатомной” энергии. Эта программа и положила начало созданию советского ядерного оружия. Для ее реализации был образован специальный научный центр: 12 апреля 1943 г. по указанию ГКО Академия наук СССР учредила секретную Лабораторию № 2 во главе с И. В. Курчатовым (с 1949 г. - Лаборатория измерительных приборов Академии наук, сокращенно ЛИПАН). Так начал разворачиваться атомный проект СССР.
М. Г. Первухину и С. В. Кафтанову (в 1943 г. председатель Всесоюзного комитета по делам высшей школы при СНК СССР, уполномоченный ГКО СССР по науке) было поручено осуществлять повседневное наблюдение за работами по урановой проблеме и оказывать помощь Лаборатории №2.
В мае 1944 г. И. В. Курчатов и М. Г. Первухин направили Сталину докладную записку, предложив создать при правительстве Специальный комитет под руководством одного из членов Политбюро- заместителя председателя СНК СССР. М. Г. Первухин был не только включен в состав образованного 20 августа 1945 г. Спецкоми- тета, но и стал председателем созданного в декабре 1945 г. Инженерно-технического совета при Специальном комитете. Он же возглавил первую из четырех секций совета (“Ядерные реакторы”).