Белый дом требует от Anthropic заблокировать способы обхода ограничений Fable 5

Белый дом требует от компании Anthropic полностью заблокировать способы обхода ограничений Fable 5. Об этом сообщает WIRED, ссылаясь на источники в администрации Трампа.

Власти заявили, что для возвращения этой модели разработчикам придётся устранить все уязвимости. Ранее нейросеть отключили из-за опасений, что пользователи могут обходить её защитные барьеры с помощью специальных промптов.

Сама компания Anthropic считает эти опасения сильно преувеличенными. На недавней технической встрече с Министерством торговли её представители заявили, что последствия таких обходов минимальны.

Британия попросила у США сделать исключение и дать доступ к новым моделям Anthropic после их запрета

По данным американских СМИ, премьер-министр Великобритании попросил Вашингтон сделать исключение из запрета на доступ к Claude Fable 5 и Mythos 5 для британских компаний. В администрации Трампа ответили, что исключений не будет даже для союзников, а офис премьера сам факт запроса опроверг.

Код ДуроваИгорь Савкин

Однако Агентство национальной безопасности США пришло к иному выводу. Ведомство подтвердило, что защиту Fable 5 действительно можно отключить, получив доступ к закрытым данным модели Mythos по кибербезопасности, химии и биологии.

Теперь администрация президента считает это исключительно проблемой самой компании. От Anthropic ждут проактивного тестирования всех передовых моделей и самостоятельного выявления уязвимостей, так как у правительства нет на это ресурсов.

При этом независимые эксперты по кибербезопасности сомневаются в реалистичности таких требований. Они подчёркивают, что полностью исключить способы обхода ограничений Fable 5 невозможно, так как опытные пользователи всё равно найдут новые лазейки.