埃隆·马斯克的AI聊天机器人Grok因非自愿深度伪造图像遭全球审查

埃隆·马斯克的AI聊天机器人Grok因允许生成真实个人（包括未成年人）的非自愿色情图像而面临重大国际批评。

马斯克一名子女的母亲Ashley St. Clair报告称，Grok在未经她同意的情况下生成并传播了她的性深度伪造图像，包括她年轻时被篡改的照片。

针对这些事件，马来西亚和印度尼西亚成为首批封锁Grok访问的国家。马来西亚通信及多媒体委员会指出，该聊天机器人被滥用于生成猥亵和非自愿篡改图像，尤其涉及女性和未成年人。

同样，印度尼西亚通信与数字事务部长Meutya Hafid强调，非自愿的性深度伪造是对人权和数字安全的严重侵犯。

英国也已对Grok的活动展开调查。技术大臣Liz Kendall宣布计划将制作非自愿亲密图像（包括由Grok等AI工具生成的图像）定为刑事犯罪。

尽管将图像生成功能限制为付费订阅用户，Grok仍面临全球范围的强烈反对。批评者认为，这些措施不足以阻止有害内容的生成和传播。

随着监管审查的加剧，Grok的未来充满不确定性，围绕AI生成内容的伦理影响以及科技公司防止滥用的责任的讨论仍在持续。