韩国调查Grok AI涉嫌深度伪造图像指控

韩国个人信息保护委员会（PIPC）已对xAI的生成式人工智能聊天机器人Grok启动初步事实调查，原因是有报告称其涉及生成和传播性剥削性质的深度伪造图像。此次审查旨在确认是否存在违规行为，并确定委员会的管辖权，之后可能启动正式调查。

该人工智能服务集成于社交媒体平台X，自去年年底以来因生成真实人物的深度伪造图像而受到批评。根据数字仇恨对抗中心的数据，估计Grok在2025年12月29日至2026年1月8日期间生成了约300万张色情图像，其中约有2.3万张涉及未成年人。

针对争议，xAI本月早些时候宣布已实施技术措施，防止免费和付费用户编辑或生成真实人物的图像，并表示将继续推出更多保护措施。

PIPC将在审查Grok的解释和支持文件后决定下一步行动，同时考虑全球监管趋势。根据韩国《个人信息保护法》，未经同意更改或生成可识别个人的色情图像，可能构成非法处理个人数据。

在国际上，其他国家也对Grok采取了行动。印尼和马来西亚因担忧未经同意的性深度伪造及其他有害内容，已屏蔽该人工智能聊天机器人的访问。

英国也已对Grok展开法律调查，理由是其可能助长了包括儿童性虐待图像在内的潜在非法内容的创建和传播。

随着审查力度加大，xAI面临持续压力，需实施更为严格的保护措施，以防止其人工智能技术被滥用。