Я отложил расчёт, вернулся к нему через час. Ощущение не исчезло. Что-то было не так.
Я начал проверять.
Нейросеть выдала мне изящное решение одной из подзадач. Расчёт энергетического порога для активации рунного круга. Всё выглядело логично. Шаг за шагом. Формула за формулой. Но результат… он был на долю процента меньше, чем тот, что я ожидал увидеть. На долю процента — это не критично для большинства задач. Но для рунной диагностики проклятия крови, где каждый процент точности мог означать разницу между жизнью и смертью, этого было достаточно.
Я пересчитал вручную. Потом через WolframAlpha. Потом через другую нейросеть. Результат отличался. Тот, что выдала первая нейросеть, был красивым, элегантным и… неправильным.
Она ошиблась.
И тут меня накрыло осознание. Я ведь уже начал ей доверять. Уже начал принимать её ответы без проверки. Уже начал думать: «Ну, нейросеть посчитала, значит, так и есть». А это было ошибкой. Опасной ошибкой. Потому что нейросеть — не подчинённый. Она не понимает, что именно считает. Она генерирует текст, который выглядит как правильный ответ. И в большинстве случаев он действительно правильный. Но гарантии нет. Никакой.
Я представил себе, что было бы, если бы я не заметил эту ошибку. Построил бы диагностический круг с неверным энергетическим порогом. Активировал бы его. И результат диагностики был бы искажён. А на основе этого результата я бы строил следующий круг — лечебный. И ошибка умножилась бы. И в лучшем случае ничего бы не произошло. В худшем…
Нет, об этом лучше не думать.
Примечание автора:
Поставьте лайк, если нравится развитие истории, а если не нравится оставьте комментарий.
350 добавлений в библиотеку и только 100 лайков.
За каждые 25 лайков с меня внеплановое бонусное продолжение.
Вы хотите знать — больше? 😊.
Глава 12
Я выдохнул. Нейросеть — великолепный инструмент. Но верифицировать её выводы должен я. Всегда. До последней цифры.
К тому моменту, когда я закончил проверку, за окном уже смеркалось. Четвёртый день подходил к концу, плавно перетекая в пятый, а я всё сидел, пересчитывая, сверяя, перепроверяя. Только сейчас я понял масштаб проблемы.
Нейросеть — это великолепное изобретение. Великолепная вещь. С одной маленькой, но очень существенной оговоркой.
Это великолепные подчинённые. Десятки, сотни подчинённых, которые готовы выполнить любое твоё желание. Но вместо того, чтобы признаться, что они чего-то не умеют, они начинают врать и выдумывать. Причём выдумывать очень умело. Настолько умело, что мне понадобилось полтора дня только на то, чтобы проверить результаты работы и найти ошибки.
Четыре из семи этапов содержали неточности.
Не грубые ошибки, нет. Грубые я бы заметил сразу. Это были тонкие, элегантные, почти незаметные искажения. Где-то нейросеть использовала не ту формулу, но так ловко подогнала результат, что он выглядел правдоподобно. Где-то она проигнорировала один из параметров, который я задал в начале, и построила расчёт на других допущениях — а когда я это заметил, выяснилось, что вся цепочка выводов строилась на ложном основании. Где-то она выдала мне не тот коэффициент преобразования праны в рунный отклик, и разница составляла всего полтора процента — но в ритуалистике полтора процента решают всё.
Она не просто ошибалась. Она делала это с такой уверенностью, с такой безупречной логикой изложения, что я, уже начавший ей доверять, чуть не пропустил эти ошибки. И если бы пропустил…
Усталость навалилась свинцовой плитой. Пять дней. Пять дней я потратил на то, что казалось мне прорывом, а на четвёртый из пяти понял, чтополовину этого времени я проверял то, что мне насочиняли. Я сделал работу быстрее, чем если бы делал всё вручную.
Безусловно. Но не в десятки и не в сотни раз. Потому что очень много времени ушло на проверку — наврала ли мне машина, или это было действительно сделано качественно.
В моих глазах нейросеть из величайшего инструмента познания этого мира превратилась в страшную сказку про заточенных джинов востока, которые ради своего скорейшего освобождения и благополучной смерти своих пленителей превращались в идеальных извратителей духа желаний текущих хозяев.
Возможности доверить проверку кому-то не было. Я пересчитывал сам, но у кого может быть мой уровень компетенций? Каждая проверка отнимала время. Я мог использовать другую нейросеть — но кто гарантирует, что она не налжёт? Получался замкнутый круг, который создавал полную неопределенность в использовании данного инструмента.