OpenAI 首席科学家回应“AI 推理不透明”争议：复杂度没出现跳跃式增长
OpenAI 首席科学家雅库布·帕乔基（Jakub Pachocki）9 月 2 日在 X 平台发布推文，回应 AI 模型 Astra“不可监控、推理不透明”的争议。
争议源头：深度循环技术或让思维链难以追踪
事件最早源于 The Information 的深度报道，该报道透露 OpenAI 正在测试“深度循环”（recurrent depth）技术，可能导致研究人员更难解释模型的“思维链”（Chain-of-Thought）推理过程。
在技术路线上，包括 ChatGPT、Claude 和 Gemini 在内的主流模型大多基于 Transformer 架构，这类模型通常按线性步骤处理信息，并可在部分场景下用自然语言输出推理过程，但不一定准确反映模型内部计算。而“深度循环”让模型重复调用同一组网络层，持续更新内部表征。相比传统线性结构，这种方式可能让模型的实际推理更多留在难以直接阅读的内部状态中，令研究人员更难借助思维链追踪决策路径。报道发布后迅速成为 AI 圈热议话题，外界担忧该技术落地会让外部监控工具更难摸清模型的结论来源，降低透明度。
帕乔基：计算图深度与 GPT-4 相差不到两倍
帕乔基在推文中表示，他希望通过声明避免“因混乱的媒体报道，而引发 AI 冲向不可监控状态竞赛的局面”。他强调，OpenAI 目前最先进的模型（包括 Astra）的计算图深度与 GPT-4 相比差距不到两倍，模型架构并未如外界担忧的那样出现跳跃式的复杂度增长。
他同时表示，自最初的推理模型问世以来，OpenAI 一直致力于维护和利用思维链监控，并非常重视这项技术，因为它能让团队了解模型对齐如何从训练分布中泛化。不过他也坦言，思维链监控目前还很脆弱，且由于一些与架构变更无关的原因正朝着不利的方向发展，团队将采取措施加强它——这也是当前研究项目的核心目标之一。OpenAI 表示将为 Astra 部署额外的思维链监控。
计算图深度是衡量神经网络架构复杂度的核心指标，指模型内部从输入到输出需要依次执行的计算层级数量，数值越大表示结构越复杂。
via AI新闻资讯 (author: AI Base)
OpenAI 首席科学家雅库布·帕乔基（Jakub Pachocki）9 月 2 日在 X 平台发布推文，回应 AI 模型 Astra“不可监控、推理不透明”的争议。
争议源头：深度循环技术或让思维链难以追踪
事件最早源于 The Information 的深度报道，该报道透露 OpenAI 正在测试“深度循环”（recurrent depth）技术，可能导致研究人员更难解释模型的“思维链”（Chain-of-Thought）推理过程。
在技术路线上，包括 ChatGPT、Claude 和 Gemini 在内的主流模型大多基于 Transformer 架构，这类模型通常按线性步骤处理信息，并可在部分场景下用自然语言输出推理过程，但不一定准确反映模型内部计算。而“深度循环”让模型重复调用同一组网络层，持续更新内部表征。相比传统线性结构，这种方式可能让模型的实际推理更多留在难以直接阅读的内部状态中，令研究人员更难借助思维链追踪决策路径。报道发布后迅速成为 AI 圈热议话题，外界担忧该技术落地会让外部监控工具更难摸清模型的结论来源，降低透明度。
帕乔基：计算图深度与 GPT-4 相差不到两倍
帕乔基在推文中表示，他希望通过声明避免“因混乱的媒体报道，而引发 AI 冲向不可监控状态竞赛的局面”。他强调，OpenAI 目前最先进的模型（包括 Astra）的计算图深度与 GPT-4 相比差距不到两倍，模型架构并未如外界担忧的那样出现跳跃式的复杂度增长。
他同时表示，自最初的推理模型问世以来，OpenAI 一直致力于维护和利用思维链监控，并非常重视这项技术，因为它能让团队了解模型对齐如何从训练分布中泛化。不过他也坦言，思维链监控目前还很脆弱，且由于一些与架构变更无关的原因正朝着不利的方向发展，团队将采取措施加强它——这也是当前研究项目的核心目标之一。OpenAI 表示将为 Astra 部署额外的思维链监控。
计算图深度是衡量神经网络架构复杂度的核心指标，指模型内部从输入到输出需要依次执行的计算层级数量，数值越大表示结构越复杂。
via AI新闻资讯 (author: AI Base)
