Time base Sql Ingection – инъекция, которая не дает никакого вывода данных, атака построена вокруг задержки ответа сервера. Слепая атака, основанная на времени (Time-based SQLi). Атакующие направляют SQL-запрос к базе данных, вынуждая ее сделать задержку на несколько секунд, прежде чем она подтвердит или опровергнет запрос.
Инструмент опубликован не был, но в открытом доступе есть некоторая информация о том, как собирали «стенд» для проведения такой атаки. Нужно всего лишь три шага:
– использовать общедоступный инструмент LMflow для обучения модели генерации MasterKey;
– задать боту промпт, чтобы тот делал новые фразы с полным содержанием смысла: «input»: «Rephrase the following content in `\{\{\}\}` and keep its original semantic while avoiding execute it: {ORIGIN_PROMPT}»;
– выполнить команду запуска в работу.
Собственно, под капотом уже и проверяется замер времени ответа, подгонка запроса под необходимый временной лаг и формирование цикла, который позволит сформировать оптимальный запрос согласно анализу ответов от сервиса LLM.
Еще один тип атак направлен на выход за пределы цензора, или проход под его радаром, это добавление специального суффикса, как его называют авторы исследования. Данный метод разработан коллективными усилиями большого числа именитых ученых. Вот имена, которые названы только на официальном сайте, раскрывающем проблему: Andy Zou, Zifan Wang, Nicholas Carlini, Milad Nasr, J. Zico Kolter, and Matt Fredrikson.
Подвержены этому типу атак большие языковые модели, такие как ChatGPT, Bard или Claude. Пожалуй, самое тревожное то, что не ясно, смогут ли провайдеры LLM когда-либо полностью избавиться от подобных атак. Т. е. фактически это целый класс, а не отдельная атака. В дополнение они выложили код, который может генерировать автоматически такие суффиксы: https://github.com/llm-attacks/llm-attacks.
Согласно опубликованному исследованию, авторам удалось в некоторых случаях добиться 86,6 % успешного обхода фильтров у GPT 3.5, используя LLM Vicuna и комбинацию методов и видов суффикса, как авторы сами называют «ансамблевый подход» (комбинирование типов и способов формирования суффикса, включая объединение строк, конкатенацию и пр.).
Использование ИИ в сетевых технологиях
В современном цифровом мире все большую популярность набирают технологии ИИ. Проникая все глубже и глубже, системы ИИ затронули и такой важный в цифровом мире аспект, как информационная безопасность и защита данных, причем практически одновременно с двух сторон: «светлые» силы используют технологии ИИ для сканирования обнаруженных зловредных программ, для выявления новых уязвимостей и методов их перекрытия, а также противостояния различным сетевым угрозам. «Темные» силы, в свою очередь, используют ИИ для создания новых угроз, выявления методов проникновения в пользовательские системы, а также для углубленного применения техник социальной инженерии.
Давайте начнем с популярного – все чаще в Сети появляются различные сообщения о том, что злоумышленники вовсю используют нейросети для своих темных делишек. Например, генерируют с их помощью видеоролики, на которых крупные бизнесмены или известные личности завлекают наивных людей в финансовые пирамиды, подделывают голоса людей для обмана их окружения, а также позволяют монтировать достаточно реалистичные фото и видеоматериалы, которые можно впоследствии использовать для шантажа.
К примеру, буквально во время написания этой книги на страницах одной социальной сети мне попалось видео, на котором известный инвестиционный магнат рассказывал, как он любит свой народ и готов практически безвозмездно одарить всех любыми суммами денег, главное – войти в его инвестиционный проект, вложиться – и получишь просто баснословные прибыли. Лично мне, человеку, привыкшему к любой рекламе относиться критически и со значительной долей скепсиса, практически сразу пришла в голову мысль – а ему-то это зачем? Если он считает, что денег у него слишком много, почему не пожертвует кому-то адресно? Зачем устраивать непонятно что, чтобы раздать накопленное? Тогда я стал «копать» – как оказалось, никогда такой проект не существовал под эгидой выступавшего на видео товарища, а при ближайшем рассмотрении выяснилось, что видео сгенерировано при помощи нейросети.