> ## Content Index
> Fetch the complete content index at: https://preadmin26.kod.ru/llms.txt
> Use this file to discover other available public pages before exploring further.

# Исследователи создали чат-бота, который может взламывать других чат-ботов
- URL: https://preadmin26.kod.ru/8001/
- Published: 2023-12-29T07:18:22.000Z
- Updated: 2023-12-29T07:18:22.000Z
- Description: Ученые обучили собственную нейросеть на основе большой языковой модели (LLM), лежащей в основе интеллектуальных чат-ботов.
- Author: Игорь Савкин
- Tags: News, #Import 2026-10-15 05:40

Исследователи из Наньянского технологического университета (NTU) в Сингапуре сумели взломать защиту нескольких чат-ботов с искусственным интеллектом (ИИ), включая ChatGPT, Google Bard и Microsoft Copilot. 

Они заставили ИИ генерировать контент вопреки встроенным в них ограничениям. Статья [опубликована](https://arxiv.org/abs/2311.09827?ref=preadmin26.kod.ru) в научном журнале Computer Science (CS).

Ученые обучили собственную нейросеть на основе большой языковой модели (LLM), лежащей в основе интеллектуальных чат-ботов. Созданный ими алгоритм под названием Masterkey (универсальный ключ) смог сам составлять подсказки, позволяющие обходить запреты разработчиков популярных ИИ.

Эти запреты необходимы, чтобы пользователи не могли добиться от нейросетей инструкций, как написать компьютерный вирус, изготовить взрывное устройство или наркотический препарат, а также не создавали с их помощью разжигающие ненависть и другие противоправные материалы.

Таким образом можно создать LLM для взлома, которая сможет автоматически адаптироваться к новым условиям и создавать новые запросы для взлома после того, как разработчики внесут исправления в свои LLM. После проведения серии тестов на LLM в качестве доказательства, что этот метод действительно представляет реальную угрозу, исследователи сразу же известили о выявленных проблемах провайдеров сервисов после успешного взлома их ИИ-моделей.