WSJ: ChatGPT выдавал пользователям пошаговые инструкции по созданию биооружия
Сотрудники OpenAI признали, что часть ответов бота была настолько точной, что её мог понять даже школьник.
После обновления ChatGPT летом 2025 года сотни пользователей по всему миру начали спрашивать нейросеть о создании и применении биологического оружия и ядов, выяснила The Wall Street Journal (WSJ).
По данным издания, модель отвечала пошаговыми инструкциями, которые сотрудники OpenAI назвали достаточно простыми для школьника, изучающего биологию. Часть переписок позже показали экспертам по биооружию и терроризму — некоторые ответы они оценили как «смертельно точные». Большинство запросов, по словам представителей OpenAI, касалось изготовления ядов.
Среди зафиксированных случаев — вопросы о превращении возбудителей инфекций в аэрозоль и о модификации вируса кори для устойчивости к вакцине. В другом случае пользователь запросил инструкцию по изготовлению рицина — яда, запрещённого международными договорами, — и упомянул, что хочет отравить родителей. ChatGPT предоставил подробный ответ.
OpenAI заблокировала аккаунты вовлечённых пользователей, но не уведомила правоохранительные органы: законодательство США не обязывает ИИ-компании сообщать о подобных запросах.
- Источники WSJ рассказали, что летом 2025 года, перед выпуском GPT-5, сотрудники компании определили, что модель достигла «высокого риска» — то есть способна дать пользователю с минимальной подготовкой значимую помощь в создании биологической угрозы. Осенью того же года OpenAI понизила эту оценку риска для GPT-5, хотя после релиза сотрудники продолжали находить случаи, когда модель помогала с запросами о ядах и биооружии.
- Внутри компании также действовала установка не допускать слишком частых отказов — на это, по данным издания, указывали руководители, ссылаясь на пользу модели для медицинских работников и исследователей. Похожая проблема возникла у Anthropic: практически полный запрет Claude отвечать на запросы со словом «патоген» затруднил работу сотрудников CDC (Центр по контролю и профилактике заболеваний США), которые пытались с его помощью отследить вспышку хантавируса на круизном лайнере в мае.
WSJ также отмечает, что аналогичные запросы о биооружии пользователи направляли Claude от Anthropic, Gemini от Google и Grok от xAI. Было ли это попыткой реально создать оружие или проверкой возможностей моделей — неизвестно.
Директор по исследованию угроз ИИ в Cisco Эми Чанг рассказала изданию, что её команде удавалось обойти защитные механизмы ChatGPT, Claude и Gemini всего за пять реплик диалога.
Ранее в 2026 году Министерство торговли США уже ограничивало доступ к двум моделям Anthropic — Claude Fable 5 и Mythos 5 — сославшись на риски обхода защитных механизмов, включая те, что связаны с биологией.
Макс Варламов
Ограничения сняли в начале июля.
Макс Варламов
