xAI 称 Grok 的系统提示被未经授权修改导致它喋喋不休的谈论南非“白人种族灭绝”

2025-05-19 14:22 by 生命之书

xAI 的 AI 聊天机器人 Grok 上周短时间内会对任何话题都用南非“白人种族灭绝”进行回应。xAI 回应称这一行为是 Grok 系统提示被“未经授权修改”造成的，提示修改指示 Grok 对政治话题做出特定回应，“违反了 xAI 的内部政策和核心价值观”，规避了针对此类修改的代码审核流程。xAI 没有提供更多细节，但表示已经采取措施确保 xAI 员工在未经审查的情况下无法修改提示。但如果 CEO 想修改的话该公司的措施能否抵御修改？

Ars:xAI says an “unauthorized” prompt change caused Grok to focus on “white genocide”

#人工智能

via Solidot - Telegram Channel

腾讯QQ浏览器宣布升级为人工智能浏览器

腾讯 QQ 浏览器今日官宣正式升级为AI浏览器，上线QBot，搭载腾讯混元和 DeepSeek 双模型。该浏览器目前具备 AI 搜索、AI 浏览、AI学习、AI办公、AI 写作五大功能。已集合多个智能体，首批正在灰度的智能体包括高考智能体 “AI 高考通”、下载助理、更新助理、股票助理。其中“AI 浏览” 功能支持网页、文档、图片、截图等内容解读，还支持翻译、脑图、总结、格式转换等功能。“AI协作”则支持快速生成心得体会、总结报告、中小学作文等个性化内容。“AI 办公” 内置大量工具包，支持文件格式转换、文档编辑等办公场景需求。“AI 学习” 可提供数理化英等学科解题分布解析、作文智能辅导等功能。

—— 腾讯

via 风向旗参考快讯 - Telegram Channel

🤖AI前沿：英伟达或投资量子计算，OpenAI发布程序员AI助手

* 英伟达投资动向： 据The Information报道，英伟达正在洽谈投资量子计算初创公司Psiquantum。
* OpenAI新产品： OpenAI发布AI程序员助手Codex，支持JavaScript、Python等多种编程语言。
* OpenAI模型进展： OpenAI透露下一代基础模型GPT-5的目标是提升现有模型能力，减少模型切换。
* 谷歌AI视频功能： 谷歌即将推出NotebookLM的AI生成视频功能“Sparks”，时长1-3分钟，未来或整合到Gemini聊天机器人或深度研究报告中。
* Grok争议事件： 马斯克的AI聊天机器人Grok因质疑犹太人死亡人数，引发公众强烈谴责。xAI表示将加强系统提示的审查流程。

(财经快讯)

via 茶馆 - Telegram Channel

高通将推出可连接英伟达芯片的数据中心处理器

高通公司周一表示，计划推出专为数据中心设计的处理器，以支持人工智能，处理器将与英伟达的芯片连接。英伟达的图形处理单元 (GPU) 已成为数据中心中的关键组件，用于训练支持聊天机器人等应用的大型人工智能模型。它们通常与中央处理器 (CPU) 配合使用，而该市场由英特尔和AMD主导。高通公司表示，计划推出一款用于数据中心的定制CPU，可连接英伟达的GPU和软件。在首席执行官克里斯蒂亚诺·阿蒙的领导下，高通公司已进军汽车芯片和个人电脑芯片领域。

—— CNBC

via 风向旗参考快讯 - Telegram Channel

知情人士辟谣罗永浩的AI创业和百度合作

近日有多位网友在网上晒图，称罗永浩现身百度。图片中罗永浩一袭黑衣走在工作人员身后，背后墙面上挂着百度的 logo，而发帖人定位则是百度（杭州）分公司。此后有解读称，罗永浩的AI创业项目或将与百度进行合作。从知情人士处了解到，这是误读，这次的确有合作，但实际上是电商相关的。双方只是合作了一个罗永浩的数字人形象，用于直播带货。媒体早先已了解到，罗永浩的AR创业项目进入了换档期，硬件相关业务已暂时搁置，同时团队已全力转向AI Agent领域，重点做AI软件平台的突破，相关产品于年初发布了 demo 版本。但由于产品能力一直不达罗永浩预期，所以暂未大规模上线。

—— 凤凰网科技

via 风向旗参考快讯 - Telegram Channel