谷歌在 Pixel 9 系列中推出了新的 AI 照片编辑工具“Reimagine”，允许用户使用文字提示在图像中添加逼真的元素。这项功能建立在去年的 Magic Editor 基础上，但大幅扩展了功能，能够轻松生成令人不安的内容，例如车祸和尸体。
在测试过程中，用户能够创建令人不安的图像，包括覆盖尸体的血迹斑斑的床单和公共场所的冒烟炸弹。虽然谷歌强调他们的工具旨在在既定指南内进行创意创作，但人们担心很容易绕过这些安全措施。
缺乏对操控图像的可靠识别方法令人担忧；编辑后的照片没有可见的水印，可以轻松地共享而不会被发现。虽然谷歌对完全合成的图像采用了名为 SynthID 的标记系统，但使用 Reimagine 修改的图像在没有保留元数据的情况下仍然没有标记——而元数据很容易被剥离。
随着数字操控通过智能手机等设备变得更加容易，人们对在线图像的怀疑可能需要增加，因为人们担心虚假信息会迅速传播到社交媒体平台。
(The Verge)
via 老裕泰 - Telegram Channel
