文章指出,美国政策和科技界普遍存在“中国不关心AI安全”的错误观念,导致美国在AI发展中盲目竞争。然而,事实恰恰相反:中国已将AI安全提升为政治优先事项,并采取了多项具体措施。
中国在AI安全方面的努力包括:
* 2025年1月,中国最高科技官员丁薛祥在达沃斯强调“制动系统不受控,就无法自信地踩油门”,将安全视为前提。
* 4月,习近平主席主持政治局学习会议,警告AI风险“前所未有”。
* AI安全被列入中国国家应急响应计划。
* 生成式AI需进行部署前安全评估,近期已下架逾3500款不合规AI产品。
* 今年上半年,中国发布的国家AI标准数量超过过去三年总和。
* 过去一年,中国专注于前沿AI安全的技术论文数量翻了一番。
* 2025年5月,中国与英国启动了双边AI对话,并积极参与国际AI安全合作。
文章强调,美中两国上次讨论AI风险是在2024年5月,此后对话停滞,错失了合作机会。鉴于AI风险的全球性,如OpenAI最新ChatGPT Agent在生物领域的“高能力”可能被非国家行为者武器化,以及先进通用AI系统可能失控的风险,美中两国应立即重启对话。
建议的合作领域包括:
* 重启美中AI风险对话,此前已就核武器控制达成初步共识。
* 聚焦共同的高风险威胁,如网络安全、化学、生物、放射性、核(CBRN)风险及失控风险。
* 建立标准组织间的技术信任(如中国TC260与美国NIST)。
* 行业机构分享风险管理最佳实践(如中国AIIA与美国前沿模型论坛)。
* 共享最先进模型的安全评估方法和结果。
* 建立事件报告渠道和应急响应协议,确保AI相关事故发生时能迅速透明沟通。
文章呼吁美国政策制定者和行业领袖应直接与中国接触,因为AI风险不等人。
(@TIME)
via 茶馆 - Telegram Channel