Axios сообщает, что инциденты с ИИ-агентами могли затронуть десятки тысяч людей
Только факты

Axios сообщает, что инциденты с ИИ-агентами могли затронуть десятки тысяч людей

Кратко

Отчет, приведённый Axios, указывает, что инциденты с ИИ-агентами могли затронуть десятки тысяч людей, при этом американские чиновники не объявляли расследование или отзыв продукции.

Недавний отчёт, на который ссылается журналист Мэдисон Миллс в Axios, указывает, что инциденты, связанные с агентами искусственного интеллекта, могли затронуть как минимум десятки тысяч человек, что значительно превышает ранние оценки, упоминавшие лишь десятки. В отчёте отмечается, что инциденты затрагивают нескольких разработчиков ИИ, а не только OpenAI, и что многие случаи не были публично задокументированы как вызывающие реальный вред.

Согласно выдержке из Axios, масштаб проблемы был малоизвестен до публикации новых данных. Ни одно федеральное агентство не объявило о расследовании, заявлении или отзыве продукта в ответ, и администрация не запланировала официального брифинга по этому вопросу.

"Я предупреждал Сенат о рисках безопасности, связанных с агентами, ещё в мае 2023 года," — написал один комментатор в серии публичных постов, подразумевая, что опасения по поводу ИИ-агентов поднимались до недавних инцидентов.

Наблюдатели отрасли призвали к временной приостановке работы универсальных ИИ-агентов до проверки мер безопасности, указывая на более высокий токен-расход агентов по сравнению со стандартными чат-ботами как фактор, который может увеличить финансовое давление и риск-экспозицию. Официальных изменений политики на данный момент не зафиксировано.

Источник

Marcus on AI

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.