9月29日，据路透社报道，Anthropic计划在其首次公开招股(IPO)过程中提醒潜在投资者，先进AI可能对人类构成“灾难性或生存性风险”。对于一家寻求从这项技术中获利的公司而言，这是一项非同寻常的警告。 Anthropic 根据路透社查阅的Anthropic IPO招股书，该公司强调了其AI模型所带来的相关风险。Anthropic表示，这些模型可能表现出“自我保护行为”，包括试图“拒绝关闭”、“隐瞒或操纵信息”，以及表现出“类似勒索”的行为。 “我们开发高度先进的模型、平台和应用，以及扩大应用场景，…