🛡️ OpenAI 资助网络安全研究以应对 AI 威胁

OpenAI 的网络安全资助计划于 2023 年启动，已收到 600 多份申请，这凸显了人工智能和网络安全专家之间合作的必要性。该计划资助了各种项目，包括：

* 加州大学伯克利分校： 开发防御大型语言模型 (LLM) 中提示注入攻击的方法。
* Coguard： 利用人工智能减少软件配置错误带来的安全风险。
* Mithril Security： 为安全的 LLM 推理基础设施创建工具，确保数据隐私。
* Gabriel Bernadett-Shapiro： 为学生、记者和调查人员提供人工智能安全培训和工具。
* 达特茅斯学院： 开发在不影响准确性的情况下保护神经网络免受数据重建攻击的技术。
* 波士顿大学： 增强 LLM 检测和修复代码漏洞的能力。
* 加州大学圣克鲁兹分校： 探索将基础模型用于自主网络防御代理。
* 麻省理工学院计算机科学与人工智能实验室 (CSAIL)： 使用提示工程和 LLM 代理来自动化网络安全中的决策和响应。

OpenAI 还为网络安全专业人员免费提供 ChatGPT Plus、Team 和 Enterprise 版本，以促进人工智能在该领域的应用。该计划正在接受有关创新网络安全解决方案的新提案。

(@OpenAI)

via 老裕泰 - Telegram Channel