仅事实
加州调查埃隆·马斯克的xAI涉AI生成的色情图片
摘要
加州总检察长已对埃隆·马斯克的xAI展开调查，此前有报道称其AI工具Grok被用于制作未经同意的女性和儿童色情图片。
加州总检察长罗布·邦塔已对xAI公司启动调查，该公司是AI工具Grok的开发者，因其被指控用于生成未经同意的女性和儿童色情图片。
邦塔表示：“近期大量关于xAI制作并在线发布未经同意的色情内容的报告令人震惊。”
由埃隆·马斯克的xAI开发的Grok包含图像生成特性，允许用户修改现有照片。批评者认为，缺乏足够的安全防护措施导致了包括未成年人在内的色情深度伪造图像的制作和公开发布。
针对争议，xAI宣布Grok将限制在禁止此类内容的地区编辑展示人物穿着暴露服装的图片的功能。
欧盟委员会也已对Grok的算法及其可能传播非法内容展开调查，要求马斯克公司保存与该聊天机器人开发相关的文件。
埃隆·马斯克否认知晓Grok生成未成年人色情图片，称：“我不知道Grok生成过任何裸体未成年图片，完全没有。”
此次调查凸显了对AI技术滥用的日益担忧，以及防止有害内容生成和传播所需的强有力保障措施。
事实核查
使用外部来源和数据库核实文章的事实。
✓
Confirmed
California Attorney General Rob Bonta has initiated an investigation into xAI, the company behind the AI tool Grok, amid allegations that it has been used to generate nonconsensual, sexually explicit images of women and children.
✓
Confirmed
In response to the controversy, xAI announced that Grok will now restrict its ability to edit images to depict individuals in revealing clothing in regions where such content is illegal.
✓
Confirmed
The European Commission has also opened inquiries into Grok's algorithms and potential dissemination of illegal content, ordering Musk's company to preserve documents related to the chatbot's development.
✓
Confirmed