Grok因深度伪造争议将图像生成功能限制为付费订阅用户

埃隆·马斯克的人工智能聊天机器人Grok在因制作女性和未成年人的性化深度伪造图像而遭受国际批评后，已将其图像生成和编辑功能限制为付费订阅用户。该聊天机器人通过马斯克的社交媒体平台X提供，曾被用于创建和分享未经同意的露骨图像，促使全球各国政府展开调查。

周五，Grok在回应图像修改请求时显示消息：“图像生成和编辑目前仅限付费订阅用户。您可以订阅以解锁这些功能。”尽管有限制，据报道，独立的Grok网站和应用仍允许免费用户在确认年龄后生成图像。

欧洲当局对这些变化仍不满意。欧盟委员会发言人托马斯·雷格尼耶表示：“这并未改变我们的根本问题。无论是否付费订阅，我们都不希望看到此类图像。就是这么简单。”同样，英国首相基尔·斯塔默的发言人杰兰特·埃利斯称此举“不是解决方案”，并补充说这“侮辱了厌女症和性暴力的受害者”。

作为欧盟数字安全更广泛调查的一部分，欧盟委员会已要求X保留所有与Grok相关的内部文件和数据，直到2026年底。法国、马来西亚、印度和巴西等其他国家也在审查该平台的行为。

Grok于2023年推出，去年夏天引入了名为Grok Imagine的图像生成器功能，其中包括可生成成人内容的“辣味模式”。该聊天机器人生成并公开分享露骨图像的能力加剧了人们对人工智能技术滥用的担忧，以及对更严格监管措施的需求。