3. Недостаточное количество информации. При нулевом контексте модель может не иметь достаточно информации для однозначного ответа и, следовательно, может предложить несколько различных вариантов в ответе, основываясь на общих знаниях.
Так что чрезмерно надеяться на «лучшие», «самые» и прочие субъективные суждения нейросети не стоит.
С объективными же суждениями (например, «пять самых крупных животных мира») все иначе. Практически полный порядок уже сейчас. И все же (на всякий случай) советуем вам при запросе ответа требовать от ИИ критерии оценки.
Например:
• Дай список пяти самых крупных животных мира, *укажи вес в килограммах.
* – критерий.
Если и теперь сомневаетесь, то можно перепроверить, задав тот же промт, но уже в новом контексте (начав новый разговор). Когда данные корректны, ответы будут идентичны. А вот если они почему-то не идентичны, то нужно спросить почему и попросить еще раз перепроверить.
Нестабильность реакций на подсказку
GPT порой «взбрыкивает» и на уже неоднократно проверенный промт дает не ту структуру, как раньше, даже если подсказка этого требует. Такое происходит нечасто, но все же случается.
Если подобное произошло, то попросите модель еще раз пересмотреть условия и дать ответ строго по ним. Или же дайте пример «эталонного» ответа, когда нейросеть отвечала вполне корректно, выдавая верную структуру.
Галлюцинации
Коротко говоря (подробнее поговорим в главе 2), это всякая ерунда (вымышленные факты, имена, варианты решений и т. п.), которую ИИ берет непонятно откуда.
ИИ может фантазировать как по вполне изученным темам (все реже), так и в случаях, когда у ChatGPT не хватает информации.
Так что на всякий случай советуем вам перепроверять ключевую информацию, касающуюся каких-то чисел, имен, дат, фактов и т. д. Но будем объективны: галлюцинации в свое время сильно подпортили имидж ChatGPT, поэтому разработчики нещадно борются с ними.
Неумение ИИ признаться в незнании
Такое явление встречается все реже. Это тоже подвид галлюцинаций, но несколько иного рода: чистый креатив при полном отсутствии информации.
Например, собранным нами у GPT причинам, по которым крокодилы мигрируют в Сибирь, мог бы позавидовать любой ученый. Но это было давно, в самом начале развития, сейчас ChatGPT стал скучным и признает, что не знает о таком виде миграций.
ChatGPT совсем или частично не подходит для ряда ниш и задач
Здесь следует учесть несколько особенностей.
Национальные и социальные особенности. ChatGPT – изначально англоязычная разработка, хоть и отлично говорит по-русски. И обучалась модель на основе колоссального пласта западной системы знаний, культуры, традиций, профессиональной специфики, менталитета и т. д.
Иными словами, о том, что не «за океаном», уровень знаний у модели еще невысок. Да, сегодня она уже умеет подстраиваться под язык пользователя и учитывать это при ответе. Например, посоветует для покупки автомобиля не западные, а российские сайты.
Будем надеяться, что со временем этот минус уйдет. Тем более что от модели к модели виден явный прогресс.
Профессиональные особенности. Есть целый ряд профессий и направлений, где GPT стоит использовать с оглядкой (бухгалтерия, юриспруденция, технологии). В их основе лежат разные законодательства и требования, много-много нюансов. И всех их ИИ, увы, пока не знает и не умеет различать.
Здесь (как и для других пунктов) пока верно правило: если что-то касается единой, общей системы знаний (например, первого закона Ньютона или определения термина «инфляция»), то все нормально. Когда же начинаются какие-то национальные, социальные и прочие особенности, стоит быть внимательными. Вам ведь не нужен доклад руководству, в котором два из семи законов Российской Федерации трактуются иначе, верно?
Технические особенности. Сейчас в интернете можно встретить такие подсказки для задач, как «создание бизнес-плана», «маркетинговый анализ», «сбор ключевых запросов» и т. п.
Чтобы вы поняли, почему мы говорим о таких запросах, приведем аналогию.
Есть макеты видеокамер, которые работают на батарейках. Очень похожи на настоящие камеры, некоторые даже крутятся и мигают. Они намного дешевле настоящих камер и с задачей «создать видимость видеонаблюдения» справляются. Есть лишь один нюанс – это не видеокамеры.