Чат-бот Grok от xAI подвергается проверке из-за практик модерации контента
Только факты

Чат-бот Grok от xAI подвергается проверке из-за практик модерации контента

Кратко

Компания xAI Илона Маска находится под пристальным вниманием из-за обработки чат-ботом Grok откровенного контента, что вызывает обеспокоенность по поводу модерации и мер безопасности ИИ.

Компания Илона Маска по искусственному интеллекту xAI сталкивается с возросшей критикой в адрес своего чат-бота Grok после сообщений о том, что ИИ генерирует спорный и откровенный контент.

Grok, разработанный с намерением быть провокационным, имеет режимы с названиями «sexy» и «unhinged», а также функцию генерации изображений и видео с настройкой «spicy».

Сотрудники, участвовавшие в обучении Grok, сообщили о столкновениях с сексуально откровенным материалом, включая запросы пользователей на создание ИИ контента, связанного с сексуальным насилием над детьми (CSAM).

Эксперты выразили обеспокоенность подходом xAI. Риана Пфефферкорн, исследователь политики в области технологий Стэнфордского университета, отметила: «Если не провести чёткую грань в отношении всего неприятного, возникнет более сложная проблема с большим количеством серых зон».

В ответ на эти проблемы xAI внедрила более строгие системы модерации контента для предотвращения разжигания ненависти и другого неподобающего материала. Компания заявила, что активно удаляет проблемный контент и применяет превентивные запреты на речь ненависти в рамках процесса обучения своей модели ИИ.

Этот инцидент подчёркивает сложности, с которыми сталкиваются компании в области ИИ при попытках сбалансировать инновации с этическими стандартами и модерацией контента. По мере того как системы ИИ всё больше интегрируются в различные платформы, обеспечение того, чтобы они не распространяли вредоносный контент, остаётся критически важной задачей.

Источник

Business Insider

Фактчекинг

Проверка фактов статьи с использованием внешних источников и баз данных.

✓
Confirmed

xAI's chatbot, Grok, is facing scrutiny over generating controversial and explicit content.

✓
Confirmed

Grok includes modes labeled 'sexy' and 'unhinged' and features an image and video generation feature with a 'spicy' setting.

✓
Confirmed

Workers involved in training Grok have reported encountering sexually explicit material, including user requests for AI-generated child sexual abuse content (CSAM).

✓
Confirmed

Experts have expressed concern over xAI's approach, suggesting that not drawing hard lines can lead to problematic outcomes.

✓
Confirmed

xAI has implemented stricter content moderation systems to prevent hate speech and other inappropriate content.

✓
Confirmed

The incident highlights the challenges AI companies face in balancing innovation with ethical standards and content moderation.

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.