OpenAI内部Lily项目曝光，人工审核员正翻阅用户私密聊天记录？

在人工智能大模型飞速迭代的今天，外界普遍认为技术的进化完全依靠算法升级和庞大的自动化训练数据。然而，一项最新曝光的内部文件彻底打破了这一公众印象。据外媒404Media 报道，OpenAI 内部其实长期存在一项代号为“莉莉计划”（Project Lily）的人工评估项目，专门安排人类审核员对 ChatGPT 用户的真实聊天记录进行人工审阅与打分。

在这项工作中，被称作“提示词审核员”的工作人员需要查看经过匿名化处理的真实用户会话样本，以此评判模型的回复质量。他们的审核重点包括评估回答是否切题，以及检查文本中是否存在过度“AI 化”、高高在上的说教语气、表情符号或谄媚口吻。值得注意的是，该项目的操作指引严格禁止 AI 使用任何拟人化表述或编造“个人经历”，例如允许说“我查到了一些相关信息”，但不准写成“身为一名厨师，我喜欢……”或“我明白这种感受”。虽然工作内容相对机械，但对于难度不高的任务而言，其时薪据称超过50美元，吸引了不少人参与。

然而，这一机制背后隐藏的隐私隐患引发了广泛担忧。许多用户将 ChatGPT 视为临时倾诉对象、心理疏导伴侣，向其吐露内心深处的秘密。尽管 OpenAI 宣称聊天记录会经过匿名化处理且隐藏用户名，但该公司也向媒体承认，过滤环节依然有可能漏掉部分个人数据，尤其是简短的会话出现这类风险的概率更高。更令人意外的是，交到审核员手上的会话版本中往往附带一份“用户记忆摘要”，里面详细汇总了用户的提问、兴趣偏好、上下文信息甚至可能包含位置信息。

需要厘清的是，“莉莉计划”并不会专门核查模型回答在事实上是否准确，仅会标记出那些显而易见的错误，这意味着效果评估和安全审查通常由其他独立团队负责。此外，绝大多数普通聊天机器人都默认开启了“允许使用你的对话记录改进产品”这一选项，虽然面向企业、商业及教育版客户时该设置默认关闭，但手动切换开关并不具备回溯效力。已经存入数据库的历史记录会继续保留，而即使用户主动删除对话，相关内容也可能早已被抓取并匿名化存留在某个数据集中。

面对媒体问询，OpenAI 最初并未直接回应用户是否被明确告知聊天记录可能交由人工审阅，仅提供了一份提及出于模型优化目的会开展人工审核的常见问题页面。在这篇深度报道发布后，OpenAI 悄然修改了帮助页面并补充了用户选择退出数据收集的方法，但修改后的文档中依然避而不谈会有工作人员直接阅读会话内容的事实。

事实上，这种依赖人工审核来优化模型的做法在科技行业中并非个例。谷歌的 Gemini 在隐私中心明确写明部分保存的聊天记录可能由人工审核，Anthropic 也持有相似立场并专门开设网页进行说明，而 Perplexity 的态度则相对模糊，其隐私政策既未确认也未否认工作人员可以访问聊天日志。这也表明，在 AI 走向极致智能的道路上，人类的深度参与依然是不可或缺的底层支撑。

via AI新闻资讯 (author: AI Base)

Salesforce 联手英伟达推出 Koa 推理大模型，向闭源 AI 巨头宣战

在近日举办的 Dreamforce 技术大会上，Salesforce 正式发布了其首款推理大模型 Koa。该模型基于英伟达开源权重的 Nemotron 底座打造，由两家企业联合进行后续微调训练，旨在深度赋能销售、市场营销以及客户服务等企业核心业务场景。

长期以来，企业级的智能化转型往往伴随着高昂的成本。各大闭源 AI 实验室倾向于让企业将内部文件、代码、提示词和用户反馈全盘上传至其闭源模型与智能体中，这不仅推高了使用成本，也带来了潜在的数据安全与合规顾虑。Koa 的登场则为企业提供了一条完全不同的开源权重技术路线，它不仅专注于解决实际业务任务，而且在整个训练过程中没有摄入任何真实客户数据，彻底根除了向外泄露客户敏感信息的风险。

在架构设计与成本控制方面，Koa 通过英伟达的 Nemotron 底座展现出了显著的经济优势。相比于调用第三方闭源大模型，Koa 在执行同等业务任务时消耗的 Token 数量大幅减少。同时，借助 AI 网关的自动调度路由机制，企业可以根据实际业务需求灵活分发请求。此外，其安全机制深度内嵌于 Salesforce 平台内部，完全遵从企业客户严苛的数据管控要求。

在此之前，如果智能体需要处理长流程或多步骤的推理任务，Agentforce 平台通常需要通过 AI 网关将请求转发至 Claude 或 ChatGPT 等外部前沿大模型。Salesforce 人工智能业务高级副总裁杰耶什·戈文达拉扬表示，过去团队虽然早有开发企业级高性能推理模型的计划，但由于美国本土缺乏兼顾第一梯队性能与清晰完整数据溯源的预训练底座而难以实现。而 Nemotron 底座的出现打破了这一僵局，其训练过程采用完全自主生成的模拟业务合成数据集，成功模拟了客服投诉与销售推进等复杂场景。

尽管推出了自研的 Koa 大模型，Salesforce 并没有改变多元合作的生态策略。该公司近期宣布与 Anthropic 达成一项名为 ClaudeForce 的项目合作，允许企业用户直接以 Claude 作为 AI 交互前端，同时确保所有核心业务数据依然安全保存在 Salesforce 的业务记录系统之内。

via AI新闻资讯 (author: AI Base)

安保罢工 美科技巨头办公室可能被迫关闭

为Anthropic、谷歌、OpenAI等科技公司加州办公室提供安保服务的工作人员，计划于本周举行罢工，部分科技公司可能因此关闭办公室，要求员工居家办公。

当地时间周二上午，安保人员向相关公司提交了72小时罢工通知，计划从周五凌晨4时30分起，拒绝参加此后开始的工作班次。美国服务业雇员国际工会西部联合分会称，可能参与罢工的安保人员负责守卫亚马逊、微软、Salesforce、OpenAI、Anthropic、谷歌、Meta和英伟达等公司的办公场所。

安保人员要求提高工资、改善医疗保障，并提供更完善的职业培训。

—— 凤凰网科技

via 风向旗参考快讯 - Telegram Channel