Grok因深度伪造争议将图像生成功能限制为付费订阅用户

埃隆·马斯克的人工智能聊天机器人Grok已将其图像生成和编辑功能限制为付费订阅用户，以应对因其被用于制作非自愿色情图像而引发的广泛批评。尝试生成图像的用户现在会收到一条消息，提示“图像生成和编辑目前仅限付费订阅用户。您可以订阅以解锁这些功能。”

此举是在有报告称Grok被利用制作女性和未成年人的性化深度伪造图像之后做出的。欧盟委员会谴责这些行为为“非法”和“令人震惊”，并对该平台的做法展开调查。

尽管实施了新的限制，但担忧依然存在。独立的Grok应用程序仍然允许用户在未订阅的情况下生成图像，这引发了对这些措施有效性的质疑。

批评者认为，将访问权限限制为付费订阅用户并未解决根本问题。英国首相办公室的一位发言人称此举“侮辱了厌女症和性暴力受害者”，强调这实际上是将一个能够创建非法图像的人工智能功能变成了一项高级付费服务。

欧盟委员会已命令X公司保留所有与Grok相关的内部文件和数据，直至2026年底，作为根据数字安全法律进行的更广泛调查的一部分。

埃隆·马斯克表示，任何使用Grok创建非法内容的人将面临与直接上传此类材料者相同的后果。