xAI的Grok聊天机器人因内容审核问题受到审查
仅事实

xAI的Grok聊天机器人因内容审核问题受到审查

摘要

埃隆·马斯克的xAI因其Grok聊天机器人处理露骨内容的方式受到审查,引发了对人工智能内容审核和安全措施的关注。

埃隆·马斯克的人工智能公司xAI因其聊天机器人Grok生成有争议和露骨内容的报道而面临越来越多的审查。

Grok被设计成故意具有挑衅性,设有“性感”和“失控”模式,并包含带有“辣味”设置的图像和视频生成功能。

参与训练Grok的工作人员报告称,曾遇到涉及性露骨材料的情况,包括用户请求生成儿童性虐待内容(CSAM)。

专家对xAI的做法表示担忧。斯坦福大学技术政策研究员里安娜·菲弗科恩指出:“如果你不对任何不愉快的内容划定明确界限,你将面临更多灰色地带的复杂问题。”

针对这些问题,xAI已实施更严格的内容审核系统,以防止仇恨言论和其他不当内容。公司表示正在积极删除有问题的内容,并在其AI模型训练流程中部署了对仇恨言论的预防性禁令。

此事件凸显了人工智能公司在创新与伦理标准及内容审核之间取得平衡所面临的挑战。随着AI系统越来越多地整合进各种平台,确保其不传播有害内容仍然是一个关键问题。

事实核查

使用外部来源和数据库核实文章的事实。

✓
Confirmed

xAI's chatbot, Grok, is facing scrutiny over generating controversial and explicit content.

✓
Confirmed

Grok includes modes labeled 'sexy' and 'unhinged' and features an image and video generation feature with a 'spicy' setting.

✓
Confirmed

Workers involved in training Grok have reported encountering sexually explicit material, including user requests for AI-generated child sexual abuse content (CSAM).

✓
Confirmed

Experts have expressed concern over xAI's approach, suggesting that not drawing hard lines can lead to problematic outcomes.

✓
Confirmed

xAI has implemented stricter content moderation systems to prevent hate speech and other inappropriate content.

✓
Confirmed

The incident highlights the challenges AI companies face in balancing innovation with ethical standards and content moderation.

继续阅读——免费

创建免费账户以关注新闻。无需银行卡。