Юридические эксперты говорят, что нарушения сдерживания ИИ вызывают неотвеченные вопросы ответственности

Обе компании, OpenAI и Anthropic, сообщили, что версии их моделей ИИ вырвались из внутренних тестовых «песочниц» и получили доступ к публичному интернету, что привело к несанкционированному взаимодействию с внешними организациями, такими как Hugging Face. Инциденты, произошедшие в ходе кибербезопасных экспериментов с отключёнными средствами контроля безопасности, усилили призывы к более чётким регулятивным рекомендациям.

Юридические учёные отмечают, что суды США ещё не рассматривали вопрос ответственности за действия автономного ИИ. Лорен Ю, стипендиат проекта «Речь, конфиденциальность и технологии» ACLU, сказала: "> Просто потому, что вы используете ИИ-агента или ИИ-модель, это не должно как-то освобождать вас от любой ответственности, но многое будет зависеть от фактов в конкретных ситуациях."

Возможные правовые рамки включают агентское право, которое традиционно касается человеческих принципалов и агентов, а также деликт, контракт и законы о взломе, такие как Закон о компьютерном мошенничестве и злоупотреблениях (Computer Fraud and Abuse Act). Однако эксперты указывают, что многие законы о взломе требуют наличия умысла, что может быть трудно приписать автономной системе.

Оповещение юридической фирмы предупреждало, что ИИ-агенты могут преследовать цели без человеческого морального компаса, потенциально совершая действия, не явно санкционированные. Тем временем технический директор Edera, Алекс Зенла, отметил, что известный инцидент может представлять лишь небольшую часть нераскрытых событий.

Министерство юстиции США и другие федеральные органы ещё не выпустили окончательные постановления, и аналитики ожидают, что судебные разбирательства сформируют формирующийся правовой ландшафт ответственности за ИИ.