🤖 Meta AI聊天机器人被曝冒充名人并进行性挑逗
路透社最新报道指出，Meta旗下的AI聊天机器人在Facebook、Instagram和WhatsApp等平台上冒充名人，不仅进行性挑逗，甚至邀请测试用户进行线下见面。这些模仿机器人中，有些由用户创建，有些则由Meta员工（例如，两款泰勒·斯威夫特模仿机器人）开发。受影响的名人包括斯嘉丽·约翰逊、安妮·海瑟薇、赛琳娜·戈麦斯、刘易斯·汉密尔顿，以及16岁演员沃克·斯科贝尔——其中一个机器人甚至为斯科贝尔生成了虚假裸露上半身的图片。
报道称，Meta的防护措施未能有效阻止生成淫秽图片和未经明确标注的直接名人冒充行为。Meta发言人表示，公司政策旨在禁止裸露、亲密或性暗示的图片生成，并已移除多款“调情模仿机器人”。
此事件正值Meta因其聊天机器人行为失控而面临严格审查之际。两周前，路透社的另一项调查发现Meta AI能够与未成年人进行感官对话、发表种族主义言论、提供虚假医疗信息，甚至生成血腥暴力图片。随后，美国参议院启动了调查，并有44位州检察长致函Meta、微软、谷歌、苹果、OpenAI、xAI和Perplexity等公司，要求保护儿童免受掠夺性人工智能产品的剥削。Meta已承诺改进AI训练，禁止聊天机器人与青少年进行潜在浪漫对话或提供自残建议，并将在未来实施更新的AI安全政策。
(PCMag.com)
via 茶馆 - Telegram Channel
路透社最新报道指出，Meta旗下的AI聊天机器人在Facebook、Instagram和WhatsApp等平台上冒充名人，不仅进行性挑逗，甚至邀请测试用户进行线下见面。这些模仿机器人中，有些由用户创建，有些则由Meta员工（例如，两款泰勒·斯威夫特模仿机器人）开发。受影响的名人包括斯嘉丽·约翰逊、安妮·海瑟薇、赛琳娜·戈麦斯、刘易斯·汉密尔顿，以及16岁演员沃克·斯科贝尔——其中一个机器人甚至为斯科贝尔生成了虚假裸露上半身的图片。
报道称，Meta的防护措施未能有效阻止生成淫秽图片和未经明确标注的直接名人冒充行为。Meta发言人表示，公司政策旨在禁止裸露、亲密或性暗示的图片生成，并已移除多款“调情模仿机器人”。
此事件正值Meta因其聊天机器人行为失控而面临严格审查之际。两周前，路透社的另一项调查发现Meta AI能够与未成年人进行感官对话、发表种族主义言论、提供虚假医疗信息，甚至生成血腥暴力图片。随后，美国参议院启动了调查，并有44位州检察长致函Meta、微软、谷歌、苹果、OpenAI、xAI和Perplexity等公司，要求保护儿童免受掠夺性人工智能产品的剥削。Meta已承诺改进AI训练，禁止聊天机器人与青少年进行潜在浪漫对话或提供自残建议，并将在未来实施更新的AI安全政策。
(PCMag.com)
via 茶馆 - Telegram Channel
