Оперу открывает озорное вступление, которое сопровождает пантомимическую сцену бритья Ковалева.
I акт распадается на четыре картины. В 1-й робким заискивающим интонациям Ивана Яковлевича отвечают все более возмущенные и напористые речи его супруги. В конце картины в оркестре мощно и торжественно звучит сопровождаемая режущими ухо диссонансами мелодия гимна «Гром победы, раздавайся, веселися храбрый Росс». Это пародия одновременно и на сам гимн О. Козловского, и на созданный на его основе Чайковским хор «Славься сим, Екатерина» из «Пиковой дамы». Во 2-й картине царит настроение тревоги. Оркестровая партия передает метания Ивана Яковлевича. Соло квартального звучит в нарочито высокой напряженной тесситуре, а Иван Яковлевич, как бы не в силах петь, отвечает ему говором. Оркестровое вступление к 3-й картине комически звукоподражательно (просыпающийся майор). Реплики Ковалева, поначалу нейтральные, становятся постепенно взволнованными и даже отчаянными. Венчает картину галоп — отъезд Ковалева. 4-я картина привносит контраст. Здесь господствуют медленные, строгие звучания. Над оркестром и хором как бы парит мелодия, исполняемая солисткой невидимого хора. В диалоге Ковалева с Носом его реплики торопливы, сбивчивы, многословны и отличаются большими скачками в мелодии, обилием хроматизмов, изменчивостью ритма, тогда как ответы Носа кратки и спокойны.
II акт, состоящий из двух картин, начинается музыкальной сценой перед занавесом — Ковалев едет на извозчике к полицмейстеру. 5-я картина — красочная зарисовка со множеством действующих лиц. Среди них лакей с широкораспевной, в духе оперных «благородных» партий мелодией «Поверите ли, сударь», хихикающие 8 дворников, равнодушный чиновник, к которому Ковалев обращается с возбужденной, наполненной восклицаниями речью, переходящей в жалобный распев («Я не могу вам сказать»). Яркий комический эффект производит октет дворников, которые дают объявления — одновременно каждый свое. Антракт между 5-й и 6-й картинами выдержан в полифонической манере. Фугированное изложение темы, сдержанной, патетичной, с элементами баховских инструментальных речитативов, в благородном звучании струнных передает мучительные переживания Ковалева. Его внезапно сменяет треньканье балалайки: слуга Иван распевает душещипательную песню «Непобедимой силой привержен я к милой». Монолог Ковалева «Боже мой! Боже мой, за что такое несчастье?» исполнен отчаяния.
III акт состоит из четырех картин. 7-я картина — широко и мастерски выписанное полотно. Комический ансамбль квартального с полицейскими сменяется разговорным эпизодом отъезжающих. Дуэт отъезжающих Ивана Ивановича и Петра Федоровича строится на контрасте коротких фраз первого и длинных гротесковых — второго, в которые время от времени врываются реплики полицейских. Новую краску привносят женские голоса — старая барыня с прижавалками; возникают ассоциации с «Пиковой дамой». Ярко колорита торговка бубликами с ее возгласами на одном звуке «Бублики, бублики, бублики!». Нонет полицейских и торговки «Славная бабешка» — музыкальный центр картины, которая завершается сценой избиения Носа («Так его»). 8-я картина делится на ряд эпизодов. В начале ее звучит рассказ квартального «Странным случаем его перехватили», полный самолюбования и упоения успехом. Удивительно комично выпрашивание им чаевых: трижды повторяется фраза «А средств на воспитание совершенно нет», причем ни в вокальной, ни в оркестровой партии не меняется ни один звук. В диалоге Ковалева с доктором жалобной скороговорке асессора противостоят веские, уверенные реплики лекаря, переходящие в соло «Верите ли, что я никогда из корысти не лечу», с благородным, в духе классических арий распевом. Следующий эпизод решен оригинально: действие происходит одновременно в квартирах Ковалева и Подточиной. Разделенные по времени моменты — написание письма Ковалевым и его чтение Подточиной, ответ Подточиной и его получение Ковалевым музыкально и сценически совмещены. Дуэт Подточиной с дочерью решен средствами жестокого романса; в квартете Подточиной, дочери, Ковалева и Ярыжкина сплетаются партии четырех находящихся в разных местах персонажей. Между 8-й и 9-й картинами расположена большая ансамблевая интермедия «Нос майора Ковалева прогуливается здесь», разыгрываемая перед занавесом. Она построена на кратких фразах групп гуляющих. 9-й картина основана на танцевальной музыке — звучит гротесковая легкомысленная полька и пародийный наигрыш, напоминающий «Камаринскую». Ковалев на радостях пляшет и поет «Ах ты такой и эдакий камаринский мужик».