字节跳动 Seedance 2.0 震撼发布:影视飓风 Tim 揭露 AI 训练“黑盒”
2 月 9 日,知名科技博主“影视飓风”Tim 发布最新视频,深度评测了字节跳动最新推出的 AI 视频模型 Seedance 2.0。尽管 Tim 对该模型在生成精度、运镜连续性及音画同步方面的“行业级”表现给予了高度评价,但他在测试中发现的两个细节却引发了行业对 AI 数据伦理的深度担忧。
“未卜先知”的空间建模与语音克隆
Tim 在视频中展示了两个令其直呼“恐怖”的现象:
● 空间盲区的精准还原: 在仅上传建筑正面照片且未提供任何背景信息的情况下,Seedance 2.0 生成的绕后运镜竟然准确还原了建筑背后的真实构造。
● 无感知的语音模拟: 模型在没有参考音频的情况下,仅凭 Tim 的人脸照片就生成了与其本人音色、语气高度相似的声音。
数据授权谜云:你的视频已成“养料”?
基于这些发现,Tim 坦言,这基本可以确定影视飓风过去在云端发布的的海量高清素材已被纳入字节跳动的训练集。尽管他从未收到过授权请求或报酬,但他猜测相关授权可能早已隐藏在复杂的用户协议条款中。
Tim 进一步测试发现,该模型对包括“何同学”在内的多位博主也具有极高还原度。他警示道,如果一个人的所有形态和声音数据都被 AI 100% 模拟,其生成内容的真实性将达到家人都难以分辨的程度,社会亟需警惕此类技术带来的潜在风险。
via AI新闻资讯 (author: AI Base)
2 月 9 日,知名科技博主“影视飓风”Tim 发布最新视频,深度评测了字节跳动最新推出的 AI 视频模型 Seedance 2.0。尽管 Tim 对该模型在生成精度、运镜连续性及音画同步方面的“行业级”表现给予了高度评价,但他在测试中发现的两个细节却引发了行业对 AI 数据伦理的深度担忧。
“未卜先知”的空间建模与语音克隆
Tim 在视频中展示了两个令其直呼“恐怖”的现象:
● 空间盲区的精准还原: 在仅上传建筑正面照片且未提供任何背景信息的情况下,Seedance 2.0 生成的绕后运镜竟然准确还原了建筑背后的真实构造。
● 无感知的语音模拟: 模型在没有参考音频的情况下,仅凭 Tim 的人脸照片就生成了与其本人音色、语气高度相似的声音。
数据授权谜云:你的视频已成“养料”?
基于这些发现,Tim 坦言,这基本可以确定影视飓风过去在云端发布的的海量高清素材已被纳入字节跳动的训练集。尽管他从未收到过授权请求或报酬,但他猜测相关授权可能早已隐藏在复杂的用户协议条款中。
Tim 进一步测试发现,该模型对包括“何同学”在内的多位博主也具有极高还原度。他警示道,如果一个人的所有形态和声音数据都被 AI 100% 模拟,其生成内容的真实性将达到家人都难以分辨的程度,社会亟需警惕此类技术带来的潜在风险。
via AI新闻资讯 (author: AI Base)