近日，小天才手表的第三方应用“小度 App”因发布“中国人最虚伪”的言论而引发广泛关注。对此，官方迅速回应并决定下架该应用。这一事件揭示了当前AI大模型在内容生成和信息审核方面面临的重大问题。
小度 App作为一个信息匹配工具，并不直接生产内容，但其依赖于网络资料进行数据抓取，这使得平台在面对复杂多变的中文互联网语境时，难以有效审查所有信息。文章指出，由于负面新闻更易传播，导致AI输出结果可能带有偏见。此外，大规模的数据训练和对齐工作尚未完善，使得类似错误频繁发生。
专家分析认为，要加强对这类应用的监管，需要从技术、伦理及法律层面入手，以确保AI系统能够符合社会核心价值观。同时，也呼吁相关企业承担起内容质量责任，不应将问题归咎于技术本身。
(知乎热榜)
via 老裕泰 - Telegram Channel
