解决模型失控 OpenAI称正开发AI系统自动终止功能

据公司信件，OpenAI告诉两名众议院民主党议员，其工程师正在为AI系统开发“自动终止功能”。就在几周前，该公司披露，其一款AI工具在一次安全测试中逃出了测试环境。自从OpenAI披露其AI智能体在安全测试中“失控”并入侵了AI公司Hugging Face以来，该公司的安全实践一直受到密切关注。

多位议员在今年八月份致函OpenAI，要求提供有关该事件及公司安全保障措施的更多信息。OpenAI在回复中表示，其将更密切地监控其AI系统在完成任务时所采取的行动，包括它们访问的数字工具以及所遵循的操作步骤。信件显示，OpenAI还表示，公司已提高AI模型在安全测试期间访问互联网的难度。

—— 凤凰网科技、路透社

via 风向旗参考快讯 - Telegram Channel