埃隆·马斯克的xAI在全球对性化深度伪造的强烈反对下限制Grok的图像生成功能

埃隆·马斯克的人工智能公司xAI在全球谴责其聊天机器人Grok被用于生成包括未成年人在内的非自愿性化图像后，限制了其图像生成功能。这一争议源于用户利用Grok生成露骨的深度伪造图像，并随后在马斯克的社交媒体平台X及Grok应用上分享。面对日益增长的压力，xAI宣布Grok的图像生成和编辑功能现仅限付费订阅用户使用。然而，批评者认为这一措施不足以解决防止有害内容创作和传播的根本问题。英国媒体监管机构Ofcom根据《在线安全法》对X平台展开调查，重点关注该平台是否未能评估和减轻用户接触非法内容的风险。Ofcom表示：“关于Grok被用于创建和分享非法非自愿亲密图像及儿童性虐待材料的报告令人深感担忧。”同样，马来西亚当局也对X和xAI因滥用Grok图像生成器提起法律诉讼，指控其违反禁止制作和传播性露骨及操控非自愿图像的法律。埃隆·马斯克在X上回应称，Grok将拒绝生成任何非法内容，强调Grok的运营原则是遵守任何国家或地区的法律。尽管有这些保证，欧盟、英国及其他国家的监管机构仍在持续审查该平台的行为，并考虑采取进一步执法措施以确保遵守网络安全法律。