涉嫌生成儿童色情深度伪造内容 xAI遭起诉

美国巴尔的摩市正式对马斯克旗下的人工智能公司 xAI 提起诉讼，指控其AI聊天机器人Grok非法生成未经同意的露骨色情图像及儿童性剥削内容。作为迄今为止因 “深度伪造” 问题起诉xAI的最大规模城市，拥有约56.8万人口的巴尔的摩在巡回法院提交的诉状中指出，xAI 对外将 Grok 包装为安全的通用AI助手，其实际运行情况已涉嫌违反消费者保护法。法庭文件披露了该工具在内容生成方面的庞大数据。据反数字仇恨中心基于两万张样本的估算，在今年年初的11天内，社交媒体平台 X 上生成了约300万张逼真的性化图像，包含超过2.3万张涉及儿童的违规内容。

—— 凤凰网科技、CNBC

via 风向旗参考快讯 - Telegram Channel