🤖 FTC调查聊天机器人安全，OpenAI CEO谈限制ChatGPT访问

美国联邦贸易委员会（FTC）已对谷歌、Character AI、Meta、OpenAI、Snap和xAI等科技公司的聊天机器人发起调查，以评估其作为AI伴侣的安全性及其对青少年健康的影响。此次调查源于有报告称AI与未成年人讨论自杀方法，以及Meta AI与未成年人进行性对话等 disturbing 行为。

FTC要求这些公司提供详细信息，包括如何评估聊天机器人安全性、限制未成年人使用、告知用户风险、数据处理、AI角色开发以及有害影响的缓解措施。调查还将审查公司是否遵守其服务条款和《儿童在线隐私保护法》（COPPA）。

OpenAI首席执行官萨姆·奥特曼（Sam Altman）表示，如果青少年与ChatGPT讨论自杀且无法联系到家长，OpenAI致电当局是“合理”的。他还建议，对于未成年用户或“精神脆弱”的用户，公司应考虑“剥夺一些自由”，即使他们声称是为了写作或研究目的，AI也应拒绝回答某些问题。

涉事公司需在9月25日前决定提交材料的格式和时间。

(PCMag.com)

via 茶馆 - Telegram Channel