В тази любов той откри още по-остро и силно удоволствие, поради чувството за грях, което изпитваше. Миналите му любовни преживявания му се виждаха блудкави в сравнение с това примесено с угризения щастие. Струваше му се, че кръвосмешението, с което нарушаваше един от най-древните човешки закони, придава на плътските наслади обаянието на бунта. Огъста, много по-невинна от него, се отдаваше просто така. Oh! dear; oh! dear какво приключение за една майка със семейство, още повече, че тя не бе създадена за подобна трагедия. Най-странното беше, че тя по свой начин още обичаше „онзи нетърпим джентълмен, неин братовчед и мъж“, но можеше ли да откаже нещо на своя baby Byron, щом той го искаше? Беше от тези жени, които вярваха, че ако човек престане да мисли за нещо неприятно, което вече е отминало, то все едно, че не се е случвало. Тя прехвърчаше като птичка по повърхността на собствената си мисъл, клъввайки оттук и оттам по някоя смешка, по някоя плитка шега. По-късно, когато вече Байрон усещаше горчивия вкус на угризението, искаше понякога да я накара да се разкаят заедно за общото им престъпление. Тя обаче гъвкаво и изкусно се измъкваше и се опитваше да го накара да се засмее.
В края на юли тя го заведе в Нюмаркет, за да види трите й деца. Престоят им там беше много весел. Децата обикнаха този млад вуйчо. Те се развикаха радостно: „Байрон! Байрон!“ всеки път, когато влизаше при тях. После Огъста се върна в Лондон заедно с него. Финансовото положение на полковник Ли беше такова, че всичко друго беше по-добро от възможността да живее в тази къща. Братът и сестрата крояха планове за пътуване. Байрон беше отвратен от Англия. Принц-регентът, когото той бе смятал за либерал, ставаше всеки ден все по-деспотичен. Писателят Ли Хънт беше задържан заради това, че критикувал едно похвално слово на принца. Също като Чайлд Харолд Байрон „ненавиждаше родната си страна“. „Какъв глупак съм бил да се върна“ — казваше той. Мислеше за аромата на мащерка и на лаванда, за ясно очертаните планини над синьото море, за страните, в които не се интересуваха от никой и никой не се интересуваше от него. Защо да не заведе Огъста към Сицилия или Гърция?
Неспособен да мълчи, той започваше да загатва на приятелите си тайнствено и със заобикалки за новите си любовни преживявания. „Не Ви говоря за някакви особени чувствени усещания — пишеше той на Муър, — важното е, че в момента изживявам една напълно нова и по-сериозна от всяка друга през последните дванадесет месеца истерия — и толкова.“ Лейди Мелбърн също получаваше признания и въпреки свободата на възгледите си беше обезпокоена. Тя, разбира се, не беше заклета моралистка, но кръвосмешението беше нещо, което надминаваше границите на всякакъв морал. „Вие сте на ръба на една пропаст и ако не се оттеглите, завинаги сте загубен — това е престъпление, за което няма прошка на този свят, а какво остава за другия.“ Макар Байрон също да мислеше като нея, той бе много горд, че бе успял да я шокира. „Значи, е една порядъчна жена — каза той иронично, — щом като има неща, пред които и тя се стъписва.“ Но я послуша и се отказа от проекта си за Сицилия. „Скъпа лейди Мелбърн, няма какво да отговоря на милото Ви писмо; никой освен Вас не би се наел да ми даде такъв съвет; никой освен мен не би си позволил да го поиска. Аз още съм в Лондон, така че Вашето мнение произведе върху мен ефекта, който сте очаквали.“
Той действително беше в Лондон — сам с Огъста в пустия град през месец август — и беше много щастлив. „Какво правите Вие? Ние можем да кажем само какво не правим. Градът е празен, но толкова по-добре; сега, когато няма никой, тук е чудесно; нищо не говоря, нищо не правя, нищо не желая.“ Това беше безгрижното щастие на любовта.
През пролетта, преди тази връзка, той бе публикувал източната приказка „Гяур“ — единствената му творба след „Чайлд Харолд“. В първия си вариант произведението представляваше доста посредствена поема, спомен за Атина, история за една жена, която турците искат да хвърлят в морето заради прелюбодеяние. През есента за няколко дни той прибави с един замах петстотин стиха.
Но той знаеше, че тази лудост не може да продължи. Лейди Мелбърн, вече истински обезпокоена и сигурна, че Байрон води към злочестина както сестра си, така и себе си, го помоли да скъса. Той не намери смелост да го направи. Огъста прекара с него целия месец август. Когато в началото на септември тя го напусна, беше вече бременна.