Первые школьные годы были для Джемса мучительны. После сельского приволья все в академии было ему постыло. В младших классах сидело по шестьдесят сорванцов, справиться с которыми учителям едва удавалось. Для арифметики у Джемса, говорили, не хватало находчивости. Да и вообще он не мог похвалиться успехами, к занятиям относился скептически, а кроме того много болел. К пятому классу он выучил восемьсот неправильных греческих глаголов и научился сочинять латинские стихи. В письмах к отцу появились и его собственные стихотворные опыты, за которые он вскоре получил приз. Он с увлечением декламировал товарищам Бёрнса, он полюбил смотреть пьесы Шекспира. Жил он у тётки. Кузина Джемима, кончавшая художественную школу, давала ему уроки гравирования. Отцу Джемс сообщал не столько о своих учебных делах, сколько о развлечениях, об успехах в плавании, например. «Я плаваю, как наши гленлэрские лягушки!» По Гленлэру он очень скучал. «Как поживают травы, кустарники и деревья? коровы, овцы, лошади, собаки и люди?»
Интерес к учёбе у него пробуждался медленно. Известный английский физик Питер Тэт, шедший классом ниже, вспоминал потом, что товарищи считали Максвелла застенчивым и тупым. В свободное время избегая шумных компаний, он читал старинные баллады, Дрейтона, Свифта, рисовал какие-то диаграммы и конструировал механические модели. В пятом классе стали проходить геометрию, и он вдруг увлёкся. Он сообщал отцу: «Я сделал тетраэдр, додекаэдр и два других эдра, названия которых ещё не знаю». Геометрия словно бы расковала силу его ума. Максвелл становится не просто первым, а самым блестящим учеником академии. Один из его товарищей рассказывает: «Я помню, ...наш учитель трижды заполнял чёрную доску решением одной сложной задачи по стереометрии; едва он успел закончить, как Максвелл задал вопрос: нельзя ли эту задачу решить геометрическим путём? И показал, как при помощи одной фигуры и нескольких линий немедленно получалось решение».
Скучая без сына, сэр Джон частенько наезжал в Эдинбург. 12 февраля 1842 г. они с Джемсом осматривали новинку — электромагнитную машину. Они бывали на строящейся железной дороге, в порту... Иногда отец брал сына на заседания Королевского общества. Там во время обсуждения доклада о форме этрусских погребальных урн учёные мужи однажды затронули вопрос — как построить совершенно правильный овал? Джемс заинтересовался задачей и остроумно решил её. Попутно он придумал простое устройство для вычерчивания овальных кривых и эллипсов посредством куска связанной нити и двух воткнутых в картон (в точках фокусов) булавок; этот способ употребителен и поныне. Своё сочинение Джемс назвал «О черчении овалов и об овалах со многими фокусами». Подростка в курточке немыслимо было выпустить на кафедру перед чопорным учёным собранием. Поэтому работу юного Максвелла представил профессор Форбс. Это произошло 16 апреля 1846 г. Сэр Джон записал в своей памятной книжке: «Он был выслушан с большим вниманием и одобрением». Работа была опубликована в «Трудах» общества.
В то время Максвелл уже всерьёз интересовался наукой; особенно занимали его магнетизм и поляризация света. В последнем, пожалуй, повинен Уильям Николь, профессор Эдинбургского университета, изобретатель поляризационной призмы — «николя» (1828). Как-то дядя Джемса, Джон Кей, взял племянника и Кемпбелла в гости к Николю, который показал им несколько опытов с поляризованным светом. После того Джемс сконструировал полярископ и занялся исследованием фигур, получающихся при просвечивании кусков неотожженного стекла и кристаллов. Наиболее интересные фигуры он нарисовал акварелью и послал Николю. Он был щедро вознаграждён: учёный подарил ему пару призм собственноручного изготовления. Они Максвеллу долго потом служили.
Своего классического образования он не завершил: осенью 1847 г., по совету Николя, Форбса и других профессоров, он был отдан в Эдинбургский университет. В английских университетах ещё жива была традиция предоставлять студентам большую свободу в организации своего обучения. Студенты имели возможность выбирать предметы, следуя собственным склонностям. Но свобода в деле обучения — это одно, второе и — главное — это желание и умение по-деловому её использовать. Максвелл увлекается опытами по оптике, химии, магнетизму, штудирует книги по механике и физике, много времени проводит в математических размышлениях. Мисс Кей, его тётке, нередко за столом приходилось восклицать: «Джемси, ты опять погрузился в математику!» Видя непреодолимую тягу сына к науке, сэр Джон устроил в Глеплэре физико-химическую лабораторию. Теперь, приезжая на каникулы, Джемс не прерывал занятий. В марте 1850 г. он писал одному из друзей: «Я прочёл «Лекции» Юнга, «Принципы механики» Уиллиса, «Технику и механику» Мозли, «Теплоту» Диксона, и «Оптику» («Repertoire d’optique») Муаньо... У меня имеются кое-какие намерения относительно кручения проволок и стержней, но привести их в исполнение не удастся до каникул; с количественными результатами экспериментов по сжатию стекла, желатина и т. п. дело сделано; далее идут вопросы о связи между оптическими и механическими постоянными, о желательности их определения и т. д., затем висячие мосты, ценные линии, упругие кривые». Максвелл основательно углубился в теорию упругости. В том же году он (на сей раз уже сам!) прочитал перед Королевским обществом свой доклад «О равновесии упругих тел». Он доказал важную в теории упругости и в строительной механике теорему (она стала называться «теоремой Максвелла») и занялся исследованием законов вращения твёрдого тела. Эту серьёзную работу, включая сюда и оптический метод анализа напряжений в поляризованном свете, он выполнил на пороге своего 19-летия.