Репертуар капеллы Эстерхази не ограничивался, однако, только концертами и сценическими произведениями, как наглядно показывает «Инвентарный список камерных и театральных музыкальных произведений, а также музыкальных инструментов театра Его Высочества Князя Эстерхази 1806 года». Было ли доверено Гуммелю управлять этим музыкальным архивом вскоре после вступления в должность, так как некоторые ценные рукописи попали в его частный архив, на этот вопрос ответить с уверенностью невозможно. Несомненным является тот факт, что некоторые рукописи из архива Гуммеля, которые в 1883 году были переданы в Лондон его наследниками, попали к нему не совсем понятным образом. Первые подозрения в злоупотреблении доверием возникли уже в марте 1811 года, они привели к тому, что князь Николай II вдруг отстранил своего концертмейстера Гуммеля от управления музыкальным архивом. Это неприятное обстоятельство похищения якобы «не имеющих ценности» рукописей из княжеской собственности совпадает с первым годом службы Гуммеля, когда княжеская бухгалтерия указала ему на слишком вольное регулирование «частных дел» за счет князя. Вообще вскоре выяснилось, что он к своим коллегам относился якобы не очень хорошо, о чем свидетельствует, между прочим, выговор князя, который он написал на заявлении-жалобе своего старого капельмейстера Фукса. Фукс же написал в конце заявления: «Покорнейше прошу Ваше благородие оградить меня от этого человека, так как я сыт его оскорблениями; каждый человек и без того должен многое терпеть, бесконечные остроты тем более становятся невыносимыми».
Во время пребывания в Эйзенштадте Гуммель сначала сочинял духовную музыку. Ведь кульминацией семейных торжеств, проводимых при княжеском дворе всегда с большой роскошью, была торжественная месса, во время которой князь отдавал предпочтение новой музыке. Таким образом, Гуммель, как перед этим Гайдн, получил от Николая II поручение писать мессы. Так появилась еще в 1804 году его первая месса «Messa solemnis» Es-Dur, которая была похожа, как и его последующие, на мессы Гайдна, создавшего собственную модель «Messa solemnis» начинающегося XIX столетия. Так, «Messa solemnis» в d-Moll, написанная Гуммелем в 1805 году, была подражанием мессе Гайдна «Нельсон», и написанная в следующем году по случаю свадьбы принцессы Леопольдины «Messe в С» была полностью сориентирована по образцу его бывшего учителя. Когда, однако, Винсент Новелло в своем английском дневнике передает рассказ знаменитого венского фортепьянного мастера и друга Гуммеля Андреаса Штрейхера, что «когда Гуммель показал Гайдну одну из своих ранних месс, тот был вынужден внести так много изменений, что в конце концов от нее ничего не осталось», это было, по-видимому, шутливое преувеличение. Мы ведь знаем, что мессы Гуммеля пользовались всеобщим признанием не только у публики, но и у самого Гайдна вызывали большую похвалу. По поводу исполнения мессы Гуммеля D-Dur в мае 1808 года в Венском университете седой мастер якобы сказал: «Ну, дорогой Гуммель, я уже слышал, что ты написал такую красивую мессу и очень рад этому. Я часто говорил, что из тебя выйдет толк». Действительно кажется, что, по крайней мере, при дворе Эйзенштадта церковную музыку Гуммеля ставили выше музыки Бетховена, а австрийский музыковед Вальтер Зенн называет Гуммеля — даже с современной точки зрения — «выдающимся церковным композитором Вены постклассического периода», мессы которого «конечно равны мессам Гайдна и Шуберта». Тем более мы с удивлением узнаем, что Гуммель сам — по крайней мере в ретроспективе — был не очень доволен сочинением духовной музыки. В своих «Личных записках», которые касаются упреков князя по поводу его отставки в 1811 году, мы читаем: «На сочинение композиций, исполняемых в монастырях и во время церковных служб, не стоит тратить силы; такие композиции пишут сегодня для любителей этой музыки по специальному заказу. Мне бы надо вместо этих церковных произведений сочинять другие, более доходные пьесы». В самом деле, ему казалось, что для других композиций и частных сочинений в его распоряжении был только зимний сезон. Именно зимой он «имел право с начала [своей] службы с 13 декабря до Пасхи находиться в Вене», для чего ему выделялись деньги для оплаты квартиры. Правда, он обязан был «и в Вене также пунктуально выполнять все распоряжения князя». Все же в годы службы при дворе Эйзенштадта у него оставалось достаточно времени для того, чтобы сочинить некоторые пьесы для фортепьяно, 3 квартета для струнных инструментов и, наряду с двумя концертами, трио для фортепьяно ор. 12, 22 и 35, среди которых первое сочинение с романтическим содержанием по своему очарованию напоминало произведения Шуберта.