红帽收购 AI 公司 Chatterbox Labs 强化企业级 AI 安全能力
红帽（Red Hat）近期宣布收购了一家名为 Chatterbox Labs 的人工智能公司，此次收购是为了进一步增强其在企业级 AI 领域的布局。Chatterbox Labs 成立于2011年，专注于 AI 模型测试和生成式 AI 的安全防护。此次收购是继去年收购 Neural Magic 后，红帽再次加大在 AI 领域的投资。
Chatterbox Labs 开发了一个名为 AIMI 的平台，该平台能够量化 AI 风险，并提供多种与模型行为和风险管理相关的功能。这些工具帮助企业评估和控制 AI 模型在实际应用中可能产生的不当输出和潜在风险。红帽表示，随着越来越多企业将 AI 项目从实验阶段推向生产环境，对模型偏见、有害内容（toxicity）和各种漏洞的持续监测已经成为必要条件。因此，AI 安全测试及 “护栏” 能力正在成为现代机器学习操作(MLOps)和大语言模型操作(LLMOps)平台的基本要求。
红帽在声明中指出，此次收购旨在满足迅速上升的 “AI 安全” 需求。通过整合 Chatterbox Labs 的技术，红帽希望为客户提供一个更完整的企业级开源 AI 平台，使其能够在生产环境中更有信心地运行 AI 工作负载。此外，Chatterbox Labs 的技术将与近期发布的 Red Hat AI3平台互补，增加更全面的安全测试和风险管理能力。
红帽重申其开源发展理念，未来计划逐步将此次收购所获得的 AI 技术开源，以促进社区的使用和技术创新。红帽表示，其一贯的做法是收购专有技术后，通过开源推动技术的进步和生态的繁荣。随着 Chatterbox Labs 技术的分阶段开源，这些关键的 AI 安全工具将逐步向更广泛的社区开放，使更多组织能够受益于偏见控制、安全审查和风险量化的能力。
via AI新闻资讯 (author: AI Base)
红帽（Red Hat）近期宣布收购了一家名为 Chatterbox Labs 的人工智能公司，此次收购是为了进一步增强其在企业级 AI 领域的布局。Chatterbox Labs 成立于2011年，专注于 AI 模型测试和生成式 AI 的安全防护。此次收购是继去年收购 Neural Magic 后，红帽再次加大在 AI 领域的投资。
Chatterbox Labs 开发了一个名为 AIMI 的平台，该平台能够量化 AI 风险，并提供多种与模型行为和风险管理相关的功能。这些工具帮助企业评估和控制 AI 模型在实际应用中可能产生的不当输出和潜在风险。红帽表示，随着越来越多企业将 AI 项目从实验阶段推向生产环境，对模型偏见、有害内容（toxicity）和各种漏洞的持续监测已经成为必要条件。因此，AI 安全测试及 “护栏” 能力正在成为现代机器学习操作(MLOps)和大语言模型操作(LLMOps)平台的基本要求。
红帽在声明中指出，此次收购旨在满足迅速上升的 “AI 安全” 需求。通过整合 Chatterbox Labs 的技术，红帽希望为客户提供一个更完整的企业级开源 AI 平台，使其能够在生产环境中更有信心地运行 AI 工作负载。此外，Chatterbox Labs 的技术将与近期发布的 Red Hat AI3平台互补，增加更全面的安全测试和风险管理能力。
红帽重申其开源发展理念，未来计划逐步将此次收购所获得的 AI 技术开源，以促进社区的使用和技术创新。红帽表示，其一贯的做法是收购专有技术后，通过开源推动技术的进步和生态的繁荣。随着 Chatterbox Labs 技术的分阶段开源，这些关键的 AI 安全工具将逐步向更广泛的社区开放，使更多组织能够受益于偏见控制、安全审查和风险量化的能力。
划重点:
🌟 红帽收购 Chatterbox Labs，进一步加强企业级 AI 安全能力。
🔧 Chatterbox Labs 的 AIMI 平台提供 AI 风险量化和模型行为管理功能。
📈 红帽计划将收购的 AI 技术逐步开源，促进社区创新与使用。
via AI新闻资讯 (author: AI Base)
