马斯克严厉警告：AI要是控制军事系统并发射核弹就糟了

近期，马斯克在一场活动中发出警示：“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。”现场交流过程中，有人提出，军事设施大多都被物理隔离了，并不接入互联网，被AI入侵的概率较低。

但马斯克并不认同这份看法，他表示即便系统物理隔绝网络，设备仍会进行定期软件更新，这个过程就有可能留下安全漏洞，给AI带来介入关键军事系统的机会，一旦AI获得核武器的操作权限，将给全人类带来灾难性后果。

并非于马斯克一人在担忧人工智能。刚从Anthropic离职的AI研究员雅各布・考克森就透露，许多身处AI企业一线的从业者内心都充满真切的不安，他们发自内心地感到恐慌，十分担心未来两年人类将要面对难以预估的命运走向。

Anthropic首席执行官也公开呼吁，需要适当放缓前沿AI模型的研发节奏，同时提出落实独立监督、搭建行业规范、推动全球监管共识等方向，以此约束高风险AI的发展。OpenAI负责人也公开表态支持对AI发展进行必要把控。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：快科技)