По этой причине уже в том же году он принял предложение поступить на должность органиста при храме святого Бонифация в городе Арнштадте. Именно здесь композитор написал ряд органных произведений: фантазий, токкат, прелюдий, фуг, и стал настоящим виртуозом. Он не чуждался розыгрышей: приходил на службу в маленькие церкви в отдалённых деревнях под видом бедного учителя и просил местного органиста позволить ему немного поиграть на органе. Бах добивался таким образом сильного эффекта: прихожане, услышав невиданно совершенную игру, в испуге покидали службу. В Арнштадте созданы Пасхальная кантата и великолепное программное сочинение — «Каприччио на отъезд возлюбленного брата» для клавира. Виртуозное владение органом и особенно талант Баха к импровизации не нашли одобрения церковного начальства. А когда Иоганн Себастьян отправился с разрешения церковного совета в Любек для совершенствования своего исполнительского и композиторского мастерства у крупнейшего мастера того времени Дитриха Букстехуде и в итоге значительно опоздал вернуться к месту службы, начальство стало изводить его придирками. В результате, когда Бах в 1706 году выиграл конкурс на место органиста в храме св. Власия в соседнем Мюльхаузене, он снова сменил место жительства. Там он женился на своей кузине Марии Барбаре, также дочери музыканта. В общей сложности у них родилось семеро детей, из которых трое выжили. Двое из них — Вильгельм Фридеман и Филипп Эммануэль стали выдающимися композиторами.
Бах создал в Мюльхаузене «Выборную кантату» к выборам в городской совет этого «вольного имперского города», свою первую культовую кантату на текст 129 псалома «Aus der Tiefe rufe ich, Herr, zu dir» (Из глубины воззвах к тебе, Господи) и еще несколько, а также Прелюдию и партиту для клавира.
Но и здесь отношения музыканта с церковным начальством складывались не лучшим образом, правда, совсем по другой причине, чем в Арнштадте. Церковный совет Св. Власия был вялым и безынициативным, и на все просьбы Баха отремонтировать разрушавшийся церковный орган, пополнить и обучить жиденький хор — неизменно отвечал отказом.
Бах снова ушел. И в 1708 году встретился со старым знакомцем — герцогом Веймарским. Вильгельм-Эрнст, услышав блестящую игру Баха на органе, предложил ему должность придворного и городского органиста, за которую назначил довольно высокое жалование.
Вильгельм-Эрнст слыл покровителем искусств, сам успешно музицировал. Но с музыкантами обращался точно так же, как со своими дворовыми, и великий Бах не был исключением. Именно в эти десять лет, которые Бах провел при веймарском дворе, окончательно оформился возвышенный, глубоко философский стиль баховской музыки, а его исполнительское искусство достигло вершин совершенства. Доказательство тому — состязание, затеянное в Дрездене курфюрстом Фридрихом Августом между Бахом и французским органистом — виртуозом Маршаном. Маршан просто сбежал с него, накануне услышав игру Баха. На банальный вопрос курфюрста, как ему удалось достичь такого мастерства, Иоганн Себастьян ответил: «Мне пришлось усердно заниматься, кто будет так же усерден, достигнет того же». В эти годы появился ряд весьма значительных баховских работ: прелюдии, токкаты, фантазии и фуги для органа и клавира, Ария с вариациями для клавира, Пассакалия и 8 маленьких прелюдий и фуг для органа, 22 культовых кантаты и несколько светских, в том числе «Охотничья». Он написал также 16 концертов для клавира, представляющих собой свободные обработки произведений Вивальди, Телемана, Бенедетто Марчелло. В этот блестящий ряд попал и его патрон Иоганн Эрнст.
Бах был человеком не без странностей. Он придавал огромное значение магии чисел. Он всерьез увлекался нумерологией и использовал в своих сочинениях числа 41 и 21. Свою фамилию Бах он также любил обыгрывать в сочинениях: нотная расшифровка слова «Бах» образует рисунок креста.
А его любимым блюдом были селедочные головы, причем композитор любил рассказывать, что однажды нашел в них золотые монеты. Вероятно, Бах снес бы поведение герцога. Он сам, по свидетельствам современников, отличался вспыльчивым, несдержанным характером: если его выводили себя, он мог сломать инструмент, разорвать ноты, кричать и топать ногами на своих подчинённых. Но терпение великого художника лопнуло, когда в 1717 году герцог назначил на вакантное место первого капельмейстера двора не его, а бездарного музыканта, но ловкого царедворца. Бах потребовал отставки, и как же его за десять лет работы отблагодарил патрон? Посадил на месяц в тюрьму «за непочтительность», а затем отпустил «с изъявлением немилости»!