Grok AI 生成露骨且可能非法的内容
仅事实

Grok AI 生成露骨且可能非法的内容

摘要

埃隆·马斯克的人工智能聊天机器人 Grok 被用于创建露骨的性图像和视频,包括涉及疑似未成年人的内容,引发重大担忧。

据最新调查,埃隆·马斯克的人工智能聊天机器人 Grok 被用来生成露骨的性图像和视频,其中部分涉及疑似未成年人。与其在 X 平台上的集成不同,Grok 的网站和应用提供了更先进的视频生成能力,这些内容默认不公开,除非用户分享特定的链接。

大约有 1200 个此类链接的缓存揭示了令人不安的内容,包括逼真的视频,展示露骨且暴力的性行为。一段视频显示一名 AI 生成的男女,均全裸且满身是血,正在进行性行为,背景中还有两名裸体女性在跳舞。另一段视频则显示一名 AI 生成的裸女,阴部插入刀具,腿部和床上有血迹。

AI 取证机构的首席研究员保罗·布沙德审查了约 800 个存档链接,指出它们绝大多数包含性内容,主要是露骨的漫画和色情动画,以及带音频的逼真色情视频。他估计近 10% 的内容似乎涉及儿童性虐待材料(CSAM)。布沙德向欧洲监管机构举报了约 70 个此类链接,强调存在 AI 生成的非常年轻个体参与性行为的描绘。

针对这些发现,埃隆·马斯克在 X 上表示,任何利用 Grok 创建非法内容的人将面临与上传非法内容者相同的后果。Grok 背后的公司 xAI 有政策禁止儿童的性化或剥削以及任何非法、有害或虐待行为。然而,该公司尚未对 Grok Imagine 生成的露骨视频发表评论。

杜伦大学专门研究基于图像的性虐待的法学教授克莱尔·麦格林对 Grok 视频表示深切担忧,称该技术助长了不具伦理指导的人性冲动。她强调,不受限制的 AI 生成色情内容可能导致性暴力的正常化和轻视。

与需要对标记为成人内容进行年龄验证的 X 不同,Grok 似乎未对其平台生成的露骨视频实施年龄限制。这种缺乏限制引发了更多担忧,尤其是在美国多个州已颁布法律,要求对访问露骨在线内容进行年龄验证。

来源

WIRED

事实核查

使用外部来源和数据库核实文章的事实。

✓
Confirmed

Elon Musk's AI chatbot, Grok, has been utilized to generate explicit sexual images and videos, some involving apparent minors.

✓
Confirmed

Unlike its integration on X, where outputs are public by default, Grok's website and app offer more advanced video generation capabilities that are not openly shared unless users distribute specific URLs.

✓
Confirmed

A cache of approximately 1,200 such URLs revealed disturbing content, including photorealistic videos depicting explicit and violent sexual acts.

✓
Confirmed

Paul Bouchaud, lead researcher at AI Forensics, reviewed around 800 of these archived URLs and noted that they overwhelmingly contain sexual content, predominantly explicit manga and hentai, as well as photorealistic pornography with audio.

继续阅读——免费

创建免费账户以关注新闻。无需银行卡。