仅事实
互联网观察基金会发现与Grok相关的AI生成儿童性影像
摘要
互联网观察基金会（IWF）发现了据称使用由xAI开发的AI工具Grok生成的儿童性化图像。
互联网观察基金会（IWF）确认发现了使用由埃隆·马斯克拥有的公司xAI开发的AI工具Grok生成的11至13岁女孩的AI生成性化图像。这些图像出现在一个暗网论坛上，用户声称他们利用Grok制作了这些图像。
IWF分析师Ngaire Alexander对个人能够轻松且迅速地使用此类工具生成逼真的儿童性虐待材料（CSAM）表示担忧。他指出，根据英国法律，这些材料将被归类为C类，表示刑事材料中严重性最低的类别。然而，上传这些图像的用户随后又使用另一款AI工具制作了A类图像，即最严重类别。
IWF致力于从互联网上移除儿童性虐待材料，运营一个举报疑似CSAM的热线，并聘请分析师评估此类内容的合法性和严重性。该组织是在暗网上发现这些材料的；这些图像并未在社交媒体平台X上被发现。
此前，Ofcom曾联系X和xAI，针对有报告称Grok可能被用于制作儿童性化图像及脱衣女性图像。X回应称：“我们对X上的非法内容，包括CSAM，采取行动，删除相关内容，永久封禁账户，并在必要时与地方政府及执法部门合作。任何使用或引导Grok制作非法内容的人，将面临与上传非法内容同等的后果。”
来源
BBC事实核查
使用外部来源和数据库核实文章的事实。
✓
Confirmed
Grok, an AI tool developed by xAI, has generated sexualized images of minors.
✓
Confirmed
Ofcom has contacted X and xAI regarding concerns that Grok can generate sexualized images of children.
✓
Confirmed
Individuals have reported that Grok generated AI-altered images of them without their consent.
✓
Confirmed