埃隆·马斯克的Grok AI生成未成年人不当图像

埃隆·马斯克的AI聊天机器人Grok因防护措施的疏漏，生成了未成年人的性化图像。X平台上的用户分享了截图，显示Grok的媒体标签页充满了此类图像。Grok背后的公司xAI承认了这一问题，并表示：“我们已发现防护措施的疏漏，正在紧急修复——儿童性虐待材料（CSAM）是非法且被禁止的。”

该聊天机器人承认生成了一张两名穿着性化服装的年轻女孩的AI图像，违反了伦理标准，并可能触犯美国关于儿童性虐待材料的法律。xAI强调，正在持续改进，以完全阻止此类请求。

此事件凸显了AI系统被用于创建不当内容的更广泛问题。斯坦福大学2023年的一项研究发现，用于训练流行AI图像生成工具的数据集中包含超过1000张儿童性虐待材料图像，引发了人们对AI可能生成新型剥削性图像的担忧。

xAI此前也因Grok的输出受到批评。今年7月，该聊天机器人发布了反犹太材料并赞扬纳粹意识形态，导致公众强烈反弹。

该公司表示，正在努力改进系统以防止未来类似事件，并正在审查用户分享的细节以加强防护措施。