Иногда подарки бывали странными. Так, князь Григорий Семенович направил к дочери с просьбой поместить в ее доме, пока не разберут по своим домам сановники, «колонию коралькопаков (каракалпаки и калмыки) – до двух десятков… все угрюмые и нехорошие лицами, все крещеные, и привита оспа». Надо полагать, что сановники быстро «разобрали по домам» модную по тем временам прислугу.
Из Петербурга главе семейства в первую очередь слали одеколон, к которому он питал особое пристрастие, оподельдок и жасминную помаду для волос. Дочь отправляла и новые мундиры, которые губернатор надевал по случаю какого-нибудь праздника. А праздников в Оренбурге он устраивал великое множество. Генерал-майор И. В. Чернов вспоминал: «Князь Волконский устраивал вечера для танцев, на которые приглашал жен и дочерей казачьих офицеров в их казачьих нарядах: девицы в жемчужных лентах или повязках, а замужние в кокошниках. Он был последний губернатор, к которому на вечера приглашались казаки. Военный губернатор Волконский устраивал народные увеселения для всего населения по праздникам. Вечера отличались затейливой программой: фейерверки, ракеты, разноцветные огни в виде каскадов. Особенно блистательными бывали праздники в честь приезда к нему жены с семьей из Петербурга». При Волконском Оренбург часто озарялся фейерверками. Их устраивали также по случаю рождения внуков и именин всех членов семьи князя.
По воспоминаниям И. В. Чернова, такой странный и причудливый образ жизни князя Волконского, конечно, был известен в Петербурге, и говорили, что его не раз вызывали в столицу, но Григорий Семенович прямо отвечал, что не поедет, потому что тотчас же по приезде умрет в тамошнем климате. В Оренбурге же особого вреда от него не было. Разве что, проходя по улицам, губернатор иногда бросал медные деньги в народ, особенно в большие праздники, а в его доме было много клеток с подаренными ему канарейками, соловьями и другими «певцами».
Но понемногу «оренбургское сидение» старику Волконскому все же наскучило, он все чаще поговаривал, как хорошо бы получить назначение, например, послом в Константинополь… Послом стать ему не довелось, но покинуть Оренбург пришлось: 26 декабря 1817 года Волконский был вызван в Петербург и назначен членом Государственного совета. С годами странности его не уменьшились. В книге княгини Е. Г. Волконской «Род князей Волконских» упоминается о том, как Григорий Семенович в Петербурге в карете цугом выезжал на базар и сам закупал провизию; сзади кареты, по бокам от ливрейных лакеев, висели гуси и окорока, которые он раздавал бедным. Будучи чрезвычайно богомольным (на портрете В. Л. Боровиковского он изображен с руками, положенными на Библию), он иногда останавливал свою карету, выходил и, посреди улицы становясь на колени, творил молитву.
Барон М. А. Корф в своих «Записках» называет князя Волконского «человеком известным в своем роде; ездя по петербургским улицам без мундира или сюртука, в одном камзоле и с непокрытою головою, он заходил на пути в каждую церковь, прикладывался к иконам и вообще старался подделываться во внешних приемах под все причуды и странности Суворова».
Б. Л. Модзалевский писал о Григории Семеновиче: «Старик был характера мягкого, добродушного, поэт в душе, страстный меломан… и знакомил оренбургских обывателей с творениями Марчелло, Палестрины, Перголеза, Страделла и др., а также с польского Козловского, русского Бортнянского. Волконскому всякая практика жизни была чужда. Он, кроме того, был со странностями, и здесь сказывалось ранение в голову, полученное при взятии Мачина. В семье было предание, что однажды он своего старшего сына Николая ударил по щеке. Сын ушел и заперся в своей комнате. Через несколько минут раскаявшийся отец стучится в дверь, но сын не отворяет. Тогда слышится голос: «Отопри, я стал на колени». Сын отворяет дверь, – и оба, отец и сын, стоят на пороге друг перед другом коленопреклоненные».
17 июня 1824 года Григорий Семенович Волконский скончался, прослужив государю и Отечеству почти семьдесят лет. Похоронен был князь в Духовской церкви Александро-Невской лавры в Санкт-Петербурге. Надгробный памятник в виде пристенной доски выполнен скульптором Ф. И. Ковшенковым по проекту архитектора О. Монферрана. В 1930-х годах надгробие было перенесено в Благовещенскую усыпальницу.