Чат-бот Grok от xAI подвергается проверке из-за практик модерации контента
Компания xAI Илона Маска находится под пристальным вниманием из-за обработки чат-ботом Grok откровенного контента, что вызывает обеспокоенность по поводу модерации и мер безопасности ИИ.
Компания Илона Маска по искусственному интеллекту xAI сталкивается с возросшей критикой в адрес своего чат-бота Grok после сообщений о том, что ИИ генерирует спорный и откровенный контент.
Grok, разработанный с намерением быть провокационным, имеет режимы с названиями «sexy» и «unhinged», а также функцию генерации изображений и видео с настройкой «spicy».
Сотрудники, участвовавшие в обучении Grok, сообщили о столкновениях с сексуально откровенным материалом, включая запросы пользователей на создание ИИ контента, связанного с сексуальным насилием над детьми (CSAM).
Эксперты выразили обеспокоенность подходом xAI. Риана Пфефферкорн, исследователь политики в области технологий Стэнфордского университета, отметила: «Если не провести чёткую грань в отношении всего неприятного, возникнет более сложная проблема с большим количеством серых зон».
В ответ на эти проблемы xAI внедрила более строгие системы модерации контента для предотвращения разжигания ненависти и другого неподобающего материала. Компания заявила, что активно удаляет проблемный контент и применяет превентивные запреты на речь ненависти в рамках процесса обучения своей модели ИИ.
Этот инцидент подчёркивает сложности, с которыми сталкиваются компании в области ИИ при попытках сбалансировать инновации с этическими стандартами и модерацией контента. По мере того как системы ИИ всё больше интегрируются в различные платформы, обеспечение того, чтобы они не распространяли вредоносный контент, остаётся критически важной задачей.
Источник
Business InsiderФактчекинг
Проверка фактов статьи с использованием внешних источников и баз данных.