核技术本质上具有双重用途：驱动核反应堆的物理原理同样可能被滥用于武器开发。随着人工智能模型能力的提升，我们需要密切关注它们是否会以可能威胁国家安全的方式向用户提供危险的技术知识。 与核武器相关的信息尤其敏感，这使得一家私营公司单独评估这些风险变得具有挑战性。因此，去年四月，我们与美国能源部（DOE）下属的国家核安全管理局（NNSA）建立了合作伙伴关系，共同评估我们的模型在核扩散风险方面的表现，并持续与他们合作进行相关评估。 现在，我们不仅仅停留在风险评估阶段，还着手构建监测风险所需的工具。我们与NNSA…