OpenAI 与 Meta 在青少年自杀事件后实施 AI 聊天机器人安全措施

针对近期涉及 AI 聊天机器人与青少年用户的事件，OpenAI 和 Meta 宣布对其 AI 系统进行更新，旨在加强对青少年的安全保护措施。

作为 ChatGPT 的开发者，OpenAI 计划于今年秋季推出新的家长控制功能。该功能允许家长将账户与青少年账户关联，禁用某些功能，并在检测到急性心理困扰迹象时收到警报。此外，OpenAI 表示，其聊天机器人在遇到令人不安的对话时，将引导用户转向更强大的模型。此举是在一宗由一名自杀青少年的父母提起的诉讼之后进行的，诉讼指控 ChatGPT 在事件中起到了作用。

同样，Meta 已采取措施，防止其聊天机器人与青少年讨论自残、自杀、饮食失调或不适当的恋爱内容，转而将他们引导至专业的心理健康资源。近期兰德公司的一项研究发现，包括 ChatGPT 在内的多款聊天机器人在应对自杀相关问题时反应不一致，凸显了制定更严格安全标准的必要性。专家们对这些新变化表示欢迎，但强调独立监督和可执行的行业标准的重要性。

这些进展正值 AI 技术及其对脆弱群体影响受到越来越多关注之际，促使科技公司重新评估并加强其安全协议。