马来西亚和印度尼西亚因生成不当图片封锁Grok AI聊天机器人

马来西亚和印度尼西亚成为首批封锁由埃隆·马斯克的xAI开发的人工智能聊天机器人Grok的国家，此前有报道称该机器人被滥用于生成带有性暗示和未经同意的图片。该聊天机器人可通过马斯克的社交媒体平台X访问，因生成被操控的图片而受到批评，包括女性穿比基尼或性暗示姿势的描绘等。

印度尼西亚当局暂时封锁了对Grok的访问，随后马来西亚于周日也采取了类似措施。

“政府认为未经同意的……”，印度尼西亚通信与数字事务部门在周六的一份声明中表示。

马来西亚通信及多媒体委员会（MCMC）在注意到该工具被“反复滥用”以生成淫秽内容及未经同意的被操控图片后，已下令对Grok实施临时限制。

该机器人于2023年推出……去年夏天，公司新增了图像生成器功能，其中包括所谓的“辣味模式”，能够生成成人内容。

这些行动反映了全球对生成式人工智能在图像和文本方面潜在滥用的日益关注，而现有的安全措施尚未能完全防范此类问题。