美国国家标准技术研究所发布用于测试 AI 模型风险的工具

美国商务部下属机构国家标准技术研究所(NIST)负责为美国政府、企业和广大公众开发和测试技术，该机构重新发布了一个测试平台，旨在衡量恶意攻击可能如何降低人工智能系统的性能。这款名为Dioptra的模块化开源网络工具于2022年首次发布，旨在帮助训练人工智能模型的公司以及使用这些模型的人员评估、分析和跟踪人工智能风险。上述机构在新闻稿中写道：“测试对抗性攻击对机器学习模型的影响是Dioptra的目标之一。”

—— Techcrunch

via 风向旗参考快讯 - Telegram Channel