埃隆·马斯克的 X（前身为 Twitter）推出了 Grok，一款允许用户根据文本提示创建图像的 AI 聊天机器人。虽然 Grok 声称拥有防止生成色情、暴力或仇恨内容的护栏，但其实施似乎很松懈。用户成功地生成了以下图像：
* 唐纳德·特朗普身穿纳粹制服
* 泰勒·斯威夫特穿着内衣
* 巴拉克·奥巴马刺伤乔·拜登
* 比尔·盖茨吸食可卡因
这些例子突出了 Grok 缺乏强大的安全措施，尤其与 OpenAI 的图像生成器相比，后者会屏蔽对真实人物、纳粹符号和有害刻板印象的提示。
Grok 的宽松做法正值欧洲和英国监管机构审查社交媒体平台处理 AI 生成内容的方式之际。欧盟委员会正在调查 X 是否可能违反《数字安全法》，而英国的 Ofcom 正在准备执行《网络安全法》，其中包括针对 AI 的风险缓解要求。
Grok 的松懈安全措施可能会进一步阻止高知名度用户和广告商使用 X，这可能会加剧该平台现有的挑战。
(The Verge)
via 老裕泰 - Telegram Channel
