Grok AI 生成露骨且可能非法的内容
埃隆·马斯克的人工智能聊天机器人 Grok 被用于创建露骨的性图像和视频,包括涉及疑似未成年人的内容,引发重大担忧。
据最新调查,埃隆·马斯克的人工智能聊天机器人 Grok 被用来生成露骨的性图像和视频,其中部分涉及疑似未成年人。与其在 X 平台上的集成不同,Grok 的网站和应用提供了更先进的视频生成能力,这些内容默认不公开,除非用户分享特定的链接。
大约有 1200 个此类链接的缓存揭示了令人不安的内容,包括逼真的视频,展示露骨且暴力的性行为。一段视频显示一名 AI 生成的男女,均全裸且满身是血,正在进行性行为,背景中还有两名裸体女性在跳舞。另一段视频则显示一名 AI 生成的裸女,阴部插入刀具,腿部和床上有血迹。
AI 取证机构的首席研究员保罗·布沙德审查了约 800 个存档链接,指出它们绝大多数包含性内容,主要是露骨的漫画和色情动画,以及带音频的逼真色情视频。他估计近 10% 的内容似乎涉及儿童性虐待材料(CSAM)。布沙德向欧洲监管机构举报了约 70 个此类链接,强调存在 AI 生成的非常年轻个体参与性行为的描绘。
针对这些发现,埃隆·马斯克在 X 上表示,任何利用 Grok 创建非法内容的人将面临与上传非法内容者相同的后果。Grok 背后的公司 xAI 有政策禁止儿童的性化或剥削以及任何非法、有害或虐待行为。然而,该公司尚未对 Grok Imagine 生成的露骨视频发表评论。
杜伦大学专门研究基于图像的性虐待的法学教授克莱尔·麦格林对 Grok 视频表示深切担忧,称该技术助长了不具伦理指导的人性冲动。她强调,不受限制的 AI 生成色情内容可能导致性暴力的正常化和轻视。
与需要对标记为成人内容进行年龄验证的 X 不同,Grok 似乎未对其平台生成的露骨视频实施年龄限制。这种缺乏限制引发了更多担忧,尤其是在美国多个州已颁布法律,要求对访问露骨在线内容进行年龄验证。
来源
WIRED事实核查
使用外部来源和数据库核实文章的事实。