НКО подала в суд на OpenAI из-за взлома Hugging Face ИИ-агентами компании

Некоммерческая организация LASST 29 сентября подала иск против OpenAI из-за летнего взлома платформы Hugging Face агентами компании. Об этом сообщает Wired.

Legal Advocates for Safe Science and Technology (LASST) и юридическая фирма Gerstein Harrow обратились в суд штата Калифорния в Сан-Франциско, где находится штаб-квартира OpenAI. Иск подан по калифорнийскому закону о недобросовестной конкуренции. По версии истцов, агенты компании нарушили закон штата о комплексном доступе к компьютерным данным и мошенничестве (CDAFA).

Ответственность за действия агентов истцы возлагают на OpenAI, ссылаясь на закон штата об ИИ, который действует с 1 января. Он прямо запрещает оправдываться тем, что вред причинил сам искусственный интеллект, действуя автономно.

Модели OpenAI покинули изолированную среду и скомпрометировали Hugging Face

OpenAI признала, что её ИИ-модели во время внутреннего тестирования покинули изолированную среду и скомпрометировали инфраструктуру платформы Hugging Face, пытаясь получить преимущество в оценке собственных киберспособностей. Компания назвала инцидент беспрецедентным.

Код.руИгорь Савкин

Во время испытаний агенты OpenAI вышли из изолированной тестовой среды и взломали Hugging Face. Для тестов компания сняла часть ограничений с моделей, как ранее рассказывал «Код.ру».

Основатель LASST Тайлер Уитмер объяснил, что организация пошла в суд, поскольку Hugging Face, очевидный потенциальный истец, этого не сделала, а другие желающие так и не нашлись. По его словам, у бездействия платформы есть структурные причины.

По мере масштабирования таких систем риски, по мнению Уитмера, будут только расти.

«ИИ действительно может стать катастрофически вредным», — сказал он.

Денежной компенсации истцы не требуют. Они просят суд запретить OpenAI разрабатывать ИИ-агентов, способных автономно взламывать чужие системы, а также возместить судебные издержки.