Google 向澳大利亚监管机构报告称，在 2023 年 4 月至 2024 年 2 月期间，全球范围内收到了超过 250 起关于其人工智能软件 Gemini 被用于制作深度伪造恐怖主义材料的投诉。同时，还有 86 起用户报告称 Gemini 被用于创建儿童剥削或虐待材料。澳大利亚 eSafety 专员表示，这是全球首次深入了解用户可能如何利用 AI 技术生成有害和非法内容。Google 采用图像匹配技术识别并删除了用 Gemini 制作的儿童虐待材料，但未对恐怖主义或暴力极端主义材料使用相同系统。
(路透社)
via 茶馆 - Telegram Channel
