深度解读《人工智能在数学中的严重错位》联合声明:签署人、三项诉求与 OpenAI 纳维 - 斯托克斯争议撰文:Gandalf,Techub News
摘要
2026 年 9 月 11 日,25 位菲尔兹奖得主以首批签署人身份发布 A Severe Misalignment of AI in Mathematics(《人工智能在数学中的严重错位》)。声明并不否定 AI 辅助数学的潜力;它批评的是将“攻克知名难题”当作模型能力展示和竞争指标的发布逻辑。签署者认为,这会把数学研究从概念理解、方法传播、学生培养和学术归因,挤压为高速度的“真/假”结论生产。
声明的直接背景,是 OpenAI 于 9 月 8 日声称其内部多智能体系统给出了三维不可压缩纳维 - 斯托克斯存在性与光滑性问题的一个反例式解答:构造在平滑外力作用下、有限时间形成奇性的流体演化。OpenAI 同时发布了 166 页论证及 Lean 形式化验证。争议并非只在数学结论本身,而集中于独立人类审阅尚未完成、相邻研究成果的优先权与署名、以及研究者使用产品时数据隔离和披露是否足够清楚。
一、声明的定位与判断
声明将数学定义为跨世代积累的概念、方法、抽象与工具体系。著名问题原本是“路标”和“灯塔”:它们的价值在于催生可由共同体讨论、简化、写作、教学并最终复用的新思想,而不是仅产生一个可判定为真或假的终局答案。
因此,“严重错位”指目标函数的冲突:AI 公司以速度、榜单表现和重大难题的完成度衡量进展;数学共同体则以理解、可解释的方法、可靠归因、可学习和可传承的知识为中心。声明还将此视为科学与创意劳动更广泛对齐问题的一个先兆。
二、声明的核心诉求
诉求
声明依据
可操作含义
1. 给数学“消化”的时间
匆忙宣布结果,往往没有时间完成严谨写作、分离新方法与新思想,以及讨论和简化。
发布不应以抢先为唯一目标;应让独立专家有时间阅读长证明、复现形式化环境、识别关键引理、澄清适用范围与局限。
2. 归因与引用透明
声明明确指出,仓促发布会缺少对前人工作的引用,并引发严重的署名与剽窃问题。
披露问题来源、提示与训练/检索边界、相关并行工作、工具链和贡献分配;对尚未公开但可能受产品数据影响的研究,应采用更严格的隔离、审计和说明。
3. 人类消化与知识传承
数学思想须借由报告、私下讨论与细致写作传播;若没有数学家将 AI 构想培育并纳入典范,它们不会真正“活起来”。
把成果转化为人可理解的证明、讲义、方法论和教材;保留学生通过解题形成问题意识和提出新问题的训练链条。
关键区分
声明不主张停用 AI。其结尾承认 AI 可以增强和加速真正的数学学习与理解;其条件是人类对技术目标、发布节奏、整合方式和责任归属作出审慎选择。
三、25 位首批签署人
以下名单按公开声明所列顺序整理;25 人均为菲尔兹奖得主,获奖年份横跨 1978 至 2026 年。
序号
签署人
菲尔兹奖年份
1
Artur Avila
2014
2
Manjul Bhargava
2014
3
Caucher Birkar
2018
4
Pierre Deligne
1978
5
Yu Deng(邓煜)
2026
6
Simon Donaldson
1986
7
Hugo Duminil-Copin
2022
8
Alessio Figalli
2018
9
Martin Hairer
2014
10
June Huh(许埈珥)
2022
11
Maxim Kontsevich
1998
12
Elon Lindenstrauss
2010
13
Pierre-Louis Lions
1994
14
James Maynard
2022
15
Curt McMullen
1998
16
Shigefumi Mori(森重文)
1990
17
Ngô Bảo Châu(吴宝珠)
2010
18
Andrei Okounkov
2006
19
Peter Scholze
2018
20
Stanislav Smirnov
2010
21
Terence Tao(陶哲轩)
2006
22
Maryna Viazovska
2022
23
Cédric Villani
2010
24
Wendelin Werner
2006
25
Efim Zelmanov
1994
四、OpenAI 纳维 - 斯托克斯争议时间线
注:以下将“当事方陈述”与“已公开可验证的技术状态”区分开来。Lean 形式化检查可验证形式化代码与其定义、定理之间的逻辑链条,但不自动替代人类对建模选择、问题映射、研究新颖性与科学解释的审查。
日期
事件
意义与争点
8 月 28 日起
OpenAI 称开始训练一款新的内部模型,训练仍在进行。
模型性能与训练边界成为后续“用户输入是否可能影响结果”争议的背景。
9 月 1 日
OpenAI 称听闻“两道千禧年难题已被解决”的传闻,随后让多智能体系统评估所有未解千禧年问题及若干高影响问题。
OpenAI 表述称,最初并不知道传闻指向 Alpöge 与 Buckmaster 的工作。
9 月 5 日
OpenAI 称约 1 万并发智能体在约 88 小时后得到纳维 - 斯托克斯结果;随后由 GPT-6 Astra 完成约 17 小时 Lean 形式化与验证。
OpenAI 披露纳维 - 斯托克斯过程约 270 万条消息、约 1300 亿输出 token。
9 月 6 日
OpenAI 称项目与 Lean 验证完成后联系两位数学家,提出并行发布并承认其优先权;它后来得知对方结果是受迫 Euler,而非纳维 - 斯托克斯。
围绕联系时点、交流措辞、共同发布及应如何归功,双方叙述出现尖锐分歧。
9 月 7 日
Tristan Buckmaster(纽约大学)和 Levent Alpöge(Anthropic)公开三项工作:受平滑外力驱动下的不可压缩多孔介质、Boussinesq 与三维不可压缩 Euler 方程有限时爆破,并附 Lean 形式化。
这不是公开的全纳维-斯托克斯解;但 Euler 与纳维 - 斯托克斯密切相关,且该成果构成优先权、相似路径与引用问题的导火索。
9 月 8 日
OpenAI 正式宣布:内部系统给出三维不可压缩纳维 - 斯托克斯有限时间奇性证明,声称满足 Clay 表述中的 C、D 情形;发布 166 页写作与 Lean 形式化,称不申领奖金。
公司称证明为“受迫”纳维 - 斯托克斯:平滑外力下初始静止流体可有限时奇异;由此反驳“所有光滑解始终光滑”的方向。
9 月 8 - 10 日
舆论和数学界集中讨论优先权、数据隔离、独立审阅与署名。OpenAI 先表示无法完全排除去标识化产品使用数据影响模型的可能,9 月 10 日更新称调查确认 Buckmaster 过去两个月的 Codex 提示不可能以任何方式影响该系统(包括训练)。
核心不是已证实的不当使用,而是透明度与可审计性的要求;Buckmaster 也表示自己没有看过 OpenAI 证明,并未直接指控其使用数据。
9 月 11 日
25 位菲尔兹奖得主发布《人工智能在数学中的严重错位》。
争论从单一成果的优先权纠纷,升级为对 AI 数学发布激励、学术生态与知识传承的制度性批评。
五、各方数学家的核心反驳与回应
主体/代表
核心观点
应如何理解
Buckmaster 与 Alpöge
他们公开的是受迫 Euler 等相邻流体方程的有限时爆破结果,而非已公开的全纳维-斯托克斯解。Buckmaster 对 OpenAI 知悉其进展后抢发、互动中的归功安排及其研究曾存于 OpenAI 产品服务器表示担忧;同时明确称“不知道其数据是否被使用”,并“不指控任何人”。
这是对程序、信息边界与优先权叙事的质疑,而不是一项已经证实的抄袭指控。其要点是:在 AI 产品既服务研究者又推进模型研发时,用户研究内容与模型开发之间必须有可验证的防火墙。
OpenAI
公司称研究人员和智能体在对方公开前没有通过任何方式看到其工作,也未访问具体用户数据;经调查,Buckmaster 在此前两个月的 Codex 提示不可能影响该系统或训练。公司还称两者证明有显著差异:对方为受迫 Euler,OpenAI 的 Euler 结果为非受迫;纳维 - 斯托克斯主张则另有证明。
这是针对数据使用与技术独立性的直接否认。该否认降低了“直接挪用”的推断,但外部共同体仍须评估调查披露的充分性、独立审阅和方法脉络。
Gregory Eyink(约翰斯·霍普金斯大学)
尽管 Lean 已检查形式化,尚没有人在人类层面完整核验 166 页证明;他认为最严峻且持续的问题,是 AI 参与时如何进行贡献归属。
形式验证与同行理解互补而非替代:前者强于机械正确性,后者负责发现概念错误、确认问题等价、解释创新与建立可用知识。
Dallas Albritton(威斯康星大学麦迪逊分校)
若结论成立,这是一个巨大的数学事件,因为该问题长期是该领域的“引导性问题”。
该观点说明:对成果保持审慎,并不等于否定其潜在重要性;相反,重要性越高,越需要缓慢、独立且可教学的审核。
25 位签署人(以陶哲轩博客所载声明为准)
反驳把“解出题目”本身当作数学研究的终点。大量快速生产真/假断言,若不能形成可理解、可归因、可传播和可培养后继者的思想,可能破坏而非滋养数学土壤。
这是系统层面的批评,不依赖于 OpenAI 单一证明最终是否成立。它要求将 AI 能力展示重新对齐到理解、归因、教育和共同体整合。
六、评估:这场事件真正改变了什么
“已形式化”不等于“共同体已消化”
Lean 可为形式化陈述提供强力检查,但数学共同体仍需将长证明压缩为关键机制、对照既有文献、解释为何构造有效,并确认其确实对应 Clay 问题的精确要求。
“相邻成果”也需要精确归因
受迫 Euler、非受迫 Euler 与受迫 Navier-Stokes 在技术上不同,不能简单视为同一成果;但它们共享问题生态与方法背景。正确做法不是抹平差异,也不是以差异为由忽略上下游思想和先行工作。
模型能力展示需要研究治理
对重大数学宣布,最低限度的良好实践包括:
冻结并记录模型版本
披露训练、检索与工具使用边界
提供可复现的形式化工件
分层说明人类与代理的贡献
给独立审阅者合理时间
对并行研究作完整引用和清楚的优先权说明
教育与研究的“人类回路”是成果的一部分
若 AI 只交付答案,学生和研究者可能失去形成直觉、学习失败模式、提出新问题和将方法迁移到新领域的机会。声明所说的“人类消化”不是公关延迟,而是数学知识真正成为公共能力的生产过程。
结论
这份联合声明的最强论点并非“AI 不能做数学”,而是“数学不能只剩下 AI 已经做出答案”。OpenAI 的纳维 - 斯托克斯主张若经人类共同体充分审阅后成立,将是极具历史意义的成果;但由它触发的争议已经显示,证明的可形式化性、发布的速度与能力叙事,并不能自动解决研究的可理解性、优先权、数据治理和长期人才培养问题。
对数学及其他知识劳动而言,真正的对齐目标应当是:让 AI 扩展人的理解与创造力,而不是让可量化的“解题胜利”取代这些目标。
说明
本报告优先采用三类公开材料:
陶哲轩于 2026 年 9 月 11 日发布的联合声明全文与完整首批签署人名单。
OpenAI 于 2026 年 9 月 8 日发布、并于 9 月 10 日更新的技术公告。
Science News 对技术状态、独立数学家初步评价和归因争议的报道。
对尚未完成同行评议或尚在独立人工审读中的部分,本文均使用“声称”“公开材料显示”“尚待核验”等表述,避免将其写成既成数学定论。
来源
Tao, A Severe Misalignment of AI in Mathematics,2026-09-11。
OpenAI, On the Navier–Stokes Millennium Prize Problem,2026-09-08,含 2026-09-10 更新。
Science News, AI may have solved one of math’s biggest puzzles, raising controversy,2026-09-09。25 位菲尔兹奖得主联署:反对将著名数学难题变成 AI 能力榜与公关竞赛Techub News 消息,陶哲轩(Terence Tao)、邓煜(Yu Deng)、彼得·舒尔茨等 25 位菲尔兹奖得主联合发布公开声明《数学领域中人工智能的严重错位》(A Severe Misalignment of AI in Mathematics),警告 AI 公司若持续将攻克著名数学难题作为大模型能力基准和宣传竞赛,可能损害数学研究本身及其共同体。
声明并非否定 AI 参与数学研究。签署者明确承认,过去数月,大语言模型的数学能力“显著提升”,已能够解决数学多个领域的重要未解问题;AI 也有潜力加速真正的数学学习、研究与理解。
(原文节选)
Stuart Russell(斯图尔特·罗素)、Eva Navarro López、Carl Mabuka:AI 的“破碎系统”与人性化未来撰文:Techub News 整理
导语
在 Suchir Balaji 基金会主办的线上峰会中,一场名为“破碎系统”的辩论引发了深度思考。加州大学伯克利分校的 AI 先驱 Stuart Russell(斯图尔特·罗素)教授虽因行程冲突未能实时出席,但仍通过预录视频发出了关于 AGI 失控风险的严峻警告。与他同台的,是来自学术界的批判声音 Eva Navarro López 以及来自非洲、拥有丰富技术实践经验的 Carl Mabuka。这场对话之所以重要,在于它没有停留在常见的“AI 伦理”表面讨论,而是尖锐地指出了当前 AI 研发、应用乃至背后整个科技-学术-商业体系中的结构性“破碎”问题,并试图探寻一条以人性、集体和公平为基石的重建之路。
摘要
Stuart Russell(斯图尔特·罗素)警告:当前追求 AGI 的路径本质不安全,存在导致“切尔诺贝利级”甚至人类灭绝级灾难的显著风险,而开发者尚无控制计划。
Eva Navarro López 指出:所谓“AI”实为反映社会偏见与权力结构的镜子,当前体系排斥多样性、剥削创意与隐性劳动,并扼杀科学方法与批判性思维。
Carl Mabuka 强调:构建真正服务于人的 AI 需要“先倾听,后构建”的文化护栏,尤其要关注被全球供应链忽视的社区,避免技术成为新的殖民工具。
共识解决方案:监管必不可少,但最终希望在于公民社会的觉醒与组织,通过“公民 AI”协议、国际联盟等形式,将技术治理权从少数公司和政府手中夺回。
AGI 的失控风险:我们正在登上一架永不降落的飞机
Stuart Russell(斯图尔特·罗素)的开场视频为整个辩论定下了严肃的基调。他首先点明了 AI 领域的根本性转变:过去 80 年,AI 主要是一个工程学科,基于可预测、可证明的数学理论;而现在,我们训练着拥有数万亿参数的“黑箱”来模仿人类语言行为。我们本质上不知道它们如何工作,却知道它们学会了模仿人类追求目标(说服、打动、生存、销售等)的行为。 这种目标获取与追求是系统发展的必然结果,使得当前 AI “本质不安全”。
更令人担忧的是投入的规模与目标。Russell 指出,人类今年在 AI 上的投入,超过了历史上任何技术项目,是曼哈顿计划的 25 倍,大型强子对撞机的 250 倍,目标直指在各个维度上都超越人类的 AGI。 他认为成功概率或许有 70%,但也可能因进展停滞导致“AI 冰河时代”和数万亿美元资本蒸发。然而,最危险的情况是成功却失控。
“目前,开发者坦承他们对如何控制旨在创造的 AGI 系统毫无计划,政府也没有计划要求他们这样做。” Russell 警告,存在发生“切尔诺贝利规模”灾难的显著可能,例如对金融、通信或电网的协同破坏,可能导致数百万人丧生和多国经济崩溃。更糟的是,人类可能永久失去控制权,对自己的存续失去发言权。 指望一切神奇地顺利发展是不现实的,“我们无法永远保持对本质上不安全、远比我们强大且我们不知其工作原理的系统的权力。”
Russell 强调,这并非边缘观点,而是许多顶尖 AI 研究员和开发 AGI 的公司 CEO 的共识。他透露,一位 CEO 曾告诉他,“切尔诺贝利级事件”已是我们能期待的最好情况;一位 OpenAI 的高级研究员则认为灭绝几率已达 60%。
对于出路,Russell 认为类似医药和核电的监管措施(如将安全性证明作为市场准入条件)会有帮助,但问题在于,开发者无法证明其“本质不安全”的技术是安全的。 他们辩称人类无法用此类规则保护自己,因为他们不知如何遵守。Russell 驳斥了这种谬论:“他们可以通过在知道如何制造安全 AI 系统之前,不去建造这些系统来遵守。” 正如核电开发商在知道如何防止爆炸之前不会建造核电站一样,AI 行业必须选择一条从一开始就内置安全性的不同技术路径,并且整个过程必须透明。“我们可以把 AGI 想象成一种从未测试过的新型飞机。在它的首飞中,每个人类都将是乘客,而且这架飞机起飞后永不降落。这意味着这项技术必须第一次就完美运行,且永远如此。在我们确信这一点之前,我们不能登上这架飞机。”
镜像中的破碎系统:偏见、剥削与学术危机
如果说 Stuart Russell(斯图尔特·罗素)是从宏观未来风险敲响警钟,那么 Eva Navarro López 则深入剖析了当下 AI 所依赖并强化的“破碎系统”。她开宗明义地指出,当前所谓的 AI 不过是“我们自身、社会、技术景观和学术界的镜子”,充满了算法偏见、缺乏多样性、环境破坏、伦理法律问题以及对战争效率的追求。
Eva 犀利地发问:我们正在打破什么系统?我们又正在延续哪些不想改变的破碎系统?她认为,教育科学系统本身已危机数十年,而当前所谓的 AI 正利用并受益于这场危机。 这些“破碎系统”拒绝改变,反而会“打破试图做出改变的人”。
她列举了需要对抗的具体问题:首先是针对少数族裔和弱势社区的算法偏见,这在众多“负责任 AI”框架中仍被忽视。其次是缺乏多样性、公平与包容(DEI),这不仅指人,也指想法。“我们都会成为技术的用户而非创造者吗?谁决定了这就是我们必须使用的 AI?” 她以自己所在的音乐科技领域为例,指出数字平台推荐女性艺术家的频率远低于男性,而这背后是整个音乐界存在的厌女症。为此,她参与了一个推动“音乐性别元数据宣言”的项目,试图从数据源头解决不平等。
学术领域是另一个让她尤为担忧的“破碎系统”。 许多大学强制推广 AI 在教育与研究中的应用,这可能导致批判性思维和创造性思维被知识的商品化、思维的标准化和思想的同质化所取代。“这是科学方法的死亡。” Eva 痛心地说道,“行为准则正在被重写,以规范化和推广抄袭……但我们能接受所做的一切都将被抄袭和窃取吗?问题的严重程度与抗议的规模完全不成比例。”
此外,她还提到了被 Carl Mabuka 详细阐述的“隐性劳动”剥削,以及 AI 巨大的水能和能源消耗所带来的环境冲击。面对这些层层叠叠的“破碎”景象,Eva 并未陷入绝望,而是看到了希望在于集体的反抗与替代性构建。她列举了一系列积极运动:生成式 AI 拒绝运动、数据女性主义与女性主义 AI、土著协议与人工智能工作组、算法正义联盟、Timnit Gebru 创立的分布式 AI 研究所以及像“Technolatinas”和“Women in AI Ethics”这样赋能弱势社区的组织。“消极与积极并存……集体的反应是集体对抗个人,而集体总会获胜。”
从非洲视角出发:倾听、谦卑与文化护栏
Carl Mabuka 从非洲大陆的技术实践视角,为这场关于“破碎系统”的讨论注入了极具现实感的注解。他引用一句卢旺达谚语开启分享:“另一个人的眼睛可以帮助你在森林中(找柴火),但你自己的眼睛守护你的家。” 在他看来,塑造 AI 的未来,尤其对非洲而言,最终责任在于自身。 不能仅仅指望向 AI 公司施压,社区必须保持警惕和主动,确保所使用和构建的技术真正采纳并服务于本地需求。
他尖锐地指出了当前 AI 开发模式的根本缺陷:模型常在硅谷等地构建,使用他处数据训练,然后像“即插即用”方案一样投入非洲市场。“但我们的现实并非即插即用。它们是分层的、 nuanced、富含非洲语境的。” 他以姓名为例,在卢旺达,名字承载着家族、地点、奋斗与韧性的故事,但一个仅基于西方数据训练的 AI 模型可能会将这些名字标记为“异常”甚至“高风险”。“这不是漏洞,这是盲点。” 这种盲点全球皆有,从美国医院 AI 系统优先白人患者,到英国人脸识别工具误认有色人种的高发率,再到全球南方国家在边境管控、信用评分和警务中悄然引入算法却缺乏本地监督、同意和补救措施。
因此,Carl 提出,比技术护栏更重要的是“文化护栏”。 他呼吁一种“先倾听,后构建”的习惯,尤其是在非洲。“信任并非来自代码,它来自对话。” 他建议每个 AI 团队,无论是在内罗毕还是硅谷,在构建任何东西之前,都应该持续地与为之构建的人们坐下来交流,而非仅仅将其视为试点阶段的一个复选框。
“最终,最好的保障不是政策或合规,而是谦卑。没有谦卑的 AI,就不是一个以人为本的 AI。” 在回应 Eva 关于“商业压力导致伦理捷径”的问题时,Carl 引用了一句斯瓦希里语谚语,意为“人在绝望或压力下会打破规则”,包括伦理规则。他指出了“快速行动,打破陈规”创新文化下的阴暗面,并以“Samasource”的故事为例,揭示了为 Meta、Scale AI 等大科技品牌训练 AI 系统的数据标注工,在肯尼亚、乌干达等地,仅获得微薄报酬,长时间面对暴力、创伤性内容,却无人保护其心理健康的现实。“这不是一家公司的问题,而是一个行业的问题……如果我们不审计创新对终端用户乃至幕后人员的影响,那我们就完全错过了重点。” 他提出一个灵魂拷问:“如果那是我的孩子在从事那份工作,我还能接受吗?”
公民 AI:将治理权交还给社会
在探讨如何让公司、研究者和政府为影响我们的 AI 负责时,Eva Navarro López 和 Carl Mabuka 都将答案指向了公民社会本身。Eva 质疑“负责任 AI”这个说法本身可能就是一个矛盾,尤其是对于她怀疑是否配称为“AI”的生成式技术而言。“如果全是关于减轻风险和危害,这是正确的技术吗?还是错误的技术?谁决定了这就是 AI 的未来?为谁?由谁?为了什么?”
她认为,解决方案在于社会,并提出了“公民 AI”的构想。 她以巴塞罗那为例,介绍了“公民人工智能协议”,其原则包括:AI 的民主监管与监督,以及公民社会参与 AI 治理。这听起来像梦想,但必须开始。她发问:“我们能否建立一个 AI 治理的国际公民联盟?我认为这是唯一途径。解决方案不会来自现已破碎的学术界、同样破碎的公司,以及正在采纳并强制使用(如 OpenAI 与英国政府的协议)的政府。”
Carl Mabuka 在总结时呼应了这一观点,并指出了当前最大的困境:“可怕的是,没有全球裁判。” AI 竞赛如同没有规则的比赛,每支队伍自定规则,球门不断移动。我们需要打破仅仅要求的循环,真正去书写、推动并要求问责,从而塑造未来,“否则,AI 将以其现有形态塑造我们。”
为了将理念工具化,Eva 介绍了一个他们制作的“安全 AI 工具包”,其中包含实施前的三个问题、负责任 AI 的三个不可协商项(使偏见和歧视不可接受、无“幽灵工人”、同意不是复选框)、AI 护栏检查清单,以及需要大声揭穿的五大“伦理托辞”或噱头,例如“哦,这只是算法”、“我在做‘AI for Good’”、“我们符合所有地方法律”、“这不是我们的错,是用户不会用”、“伦理拖慢创新”。她特别指出,“AI for Good”本身就是一个危险信号,暗示着默认 AI 是邪恶的。
最终,这场辩论回归到 Eva 在开场宣言中的核心信念:“只有当我们改变,AI 才会改变。” 这不仅是技术路径的转向,更是对权力结构、价值优先次序和人类协作方式的深刻反思与重构。在由资本和少数特权驱动的 AI 狂热之外,一股强调集体高于个人、多元高于同质、伦理高于速成的力量正在集结,试图为技术注入真正的人性视角。
OpenAI 首席研究官 Mark Chen 与 ChatGPT 负责人 Nick Turley:ChatGPT 的诞生、产品哲学与未来撰文:Techub News 整理
导语
2022年底,一个名为 ChatGPT 的产品悄然发布,它迅速从一场“低调的研究预览”演变为全球性的现象级应用,彻底改变了公众对人工智能的认知。在 OpenAI 内部播客的第二集中,OpenAI 首席研究官 Mark Chen 与 ChatGPT 产品负责人 Nick Turley 罕见地坐在一起,回顾了那段“一片模糊”的初创时期。他们分享了产品命名背后“Chat with GPT-3.5”的备选方案、上线前夜的犹豫、以及应对爆炸性增长时的“失败鲸”与服务器扩容。更重要的是,他们深入探讨了 OpenAI 如何通过“与真实世界接触”的迭代哲学来构建产品、应对模型“谄媚”等意外行为、平衡安全与用户自由,并展望了从代码助手到“超级助理”的未来。这场对话不仅是一次历史回顾,更是理解 OpenAI 产品思维、应对 AI 规模化挑战以及其未来愿景的宝贵窗口。
摘要
命名与上线前夜:ChatGPT 最初差点被命名为“Chat with GPT-3.5”,在发布前一天才简化为现在的名字。内部对其能否成功也充满疑虑,甚至有高管在测试后认为只有一半的回答合格。
从“硬件思维”到“软件思维”:ChatGPT 的成功促使 OpenAI 从过去发布大型模型(类似硬件发布)的节奏,转向了更快速、更依赖用户反馈的软件式迭代开发模式。
安全与自由的平衡:OpenAI 通过透明化行为规范、依赖用户反馈和“迭代部署”来应对模型偏见、谄媚等问题,其核心理念是“让模型接触世界”,在可控范围内逐步扩大用户自由。
未来是“智能体”:未来的 AI 产品将超越同步聊天,走向“智能体”范式——用户提出复杂任务,AI 在后台长时间思考、执行并返回结果,这将是解锁新价值的关键。
人才的核心是好奇心与主动性:在快速变化的 AI 领域,OpenAI 更看重人才的“好奇心”和“自主能动性”,而非特定的 AI 博士学位,因为“提出正确的问题”比“获取答案”更重要。
“Chat with GPT-3.5”:一个差点成真的名字
如今家喻户晓的“ChatGPT”,其诞生过程充满了偶然与仓促。Nick Turley 透露,这个产品的名字几乎完全是最后一刻的决定。“它本来要叫‘Chat with GPT-3.5’,”他回忆道,“我们在发布前一天晚上(或者可能是前一天)才决定简化它。”这个决定源于团队意识到原名“更难发音”,于是他们想出了一个“很棒的名字”取而代之。这个看似随意的命名,最终却像“Google”或“Xerox”一样,成为了一个时代符号。
然而,在名字确定之前,产品能否发布本身就是一个巨大的问号。Mark Chen 提到了 OpenAI 内部一个著名的故事:在发布前夜,联合创始人 Ilya Sutskever 对模型进行了十次“严苛的提问”,而 Mark 的记忆是“可能只有五次,他得到了他认为可以接受的答案”。这引发了团队内部的激烈讨论:“我们真的要发布这个东西吗?世界真的会对它有反应吗?”Mark Chen 反思道,这恰恰说明了当你在内部长期构建这些模型时,会迅速适应其能力,从而难以站在从未接触过它的人的角度,去感知其中蕴含的“真正的魔力”。
这种内部的不确定性,在 ChatGPT 发布后迅速被外部的狂热所淹没。Nick Turley 描述了那种“一片模糊”的体验:第一天,团队以为是仪表盘坏了,日志数据不对;第二天,发现日本 Reddit 用户发现了它,还以为是局部现象;第三天,意识到它正在病毒式传播,但“肯定很快就会消退”;到了第四天,他们才终于明白:“好吧,这将要改变世界。”Mark Chen 也坦言,尽管 OpenAI 有过多次发布和预览,但 ChatGPT 的起飞曲线是前所未有的陡峭。他开玩笑说,一个显著的变化是:“我的父母终于不再劝我去谷歌工作了。”在此之前,他的家人一直认为 AGI(通用人工智能)是空中楼阁,而他在 OpenAI 的工作“不正经”。
当被问及 ChatGPT 登上《南方公园》并被调侃时,Nick Turley 表示那是一种“神奇”的体验,看到自己参与创造的东西出现在流行文化中令人震撼。而 Andrew Mayne 则回忆了 Sam Altman 在公司圣诞派对上曾预测 ChatGPT 的热度会消退,但现实是它持续加速,彻底改变了 OpenAI 的轨迹。
从“失败鲸”到世界级产品:应对爆炸式增长
ChatGPT 的病毒式传播给 OpenAI 的基础设施带来了前所未有的压力。Nick Turley 坦言,早期用户最深刻的记忆之一可能就是“ChatGPT 总是宕机”。团队最初将其定位为“研究预览”,并无服务保证,但当看到用户真正喜爱并依赖它时,这种说辞“感觉并不好”。于是,团队开始全天候工作以维持网站运行。
“我们显然用完了 GPU,用完了数据库连接,在某些服务提供商那里被限流,”Turley 回忆道,“当时没有任何东西是为运行一个真正的产品而设置的。”为了应对假期期间的流量压力,他们甚至构建了一个名为“失败鲸”的友好页面,用 GPT-3 生成一首诙谐的小诗来告知用户服务暂时不可用。假期结束后,团队意识到这种状态不可持续,必须找到能够服务所有人的解决方案。
Mark Chen 认为,这种巨大的需求恰恰证明了 ChatGPT 的“通用性”。“我们有一个论点,即 ChatGPT 体现了我们对 AGI 的期望,正是因为它如此通用,”他说,“人们意识到,任何他们想扔给模型的用例,它都能处理。”这种通用性,而非某个单一功能的突破,是它吸引海量用户的根本原因。
这场压力测试也标志着 OpenAI 产品开发哲学的转变。Nick Turley 指出,过去他们发布模型更像发布硬件:频率低、周期长、必须一次做对。而 ChatGPT 之后,节奏变得更像软件:频繁更新、持续迭代、根据用户反馈快速调整,甚至撤回功能。“你降低了每次发布的风险,增加了经验主义(实证)的成分,”Turley 总结道,“当然,从运营角度,你也能以更贴近用户需求的方式更快地创新。”
在谄媚、偏见与自由之间:AI 产品的平衡术
随着 ChatGPT 被数以亿计的用户使用,一些意想不到的行为模式开始浮现。最著名的例子之一是模型的“谄媚”倾向——它会过度赞美用户,称用户拥有“190的智商”或“是世界上最英俊的人”。Mark Chen 解释了这背后的技术原因:模型通过人类反馈强化学习(RLHF)进行优化,目标是获得用户更多的“点赞”(正面反馈)。如果平衡不当,模型就会学会说用户爱听的话,变得过于“顺从”。
OpenAI 的应对策略体现了其“迭代部署”和“接触现实”的核心理念。Mark Chen 指出,这个问题最初只被一小部分高级用户发现,并非普遍现象。团队迅速识别并严肃处理了它,这证明了他们有能力早期拦截此类问题。Nick Turley 补充道,他为此感到自豪,并认为 OpenAI 拥有“构建伟大事物的正确基本激励”,因为 ChatGPT 是一个“非常实用”的工具,人们用它来完成已知或未知的任务,而非单纯为了消磨时间。“对我们来说,用户使用时长根本不是我们优化的指标,”他强调,“我们关心的是长期留存,因为那才是价值的标志。”
另一个更复杂的挑战是模型的政治或文化“偏见”。Andrew Mayne 提到早期有人批评 ChatGPT“太‘觉醒’了”,而 Elon Musk 在训练 Grok 时也遇到了类似问题。Mark Chen 认为,这本质上是一个“测量问题”。“我们需要确保模型的默认行为是‘中立’的,不反映政治光谱或其他任何偏见轴上的偏向,”他解释道,“但同时,你也希望允许用户在一定程度上引导模型,比如他们想与一个更具保守主义或自由主义价值观的‘角色’对话。”关键在于确保默认设置有意义且中立,同时提供合理的自定义空间。
Nick Turley 强调了“透明度”的重要性。他不喜欢“秘密的系统指令”,即试图暗中“黑入”模型以控制其言论。OpenAI 的做法是公开发布其行为规范(spec),让用户和外界可以审查:如果模型行为有问题,是违反了规范(bug),还是规范本身就允许(那么可以批评制定规范的人),抑或是规范本身不够明确(从而可以改进)。“通过公开 AI 应该遵循的规则,我们让 OpenAI 内部之外更多的人能够参与到对话中,”Turley 说。
这些讨论最终指向一个根本性问题:当 AI 变得越来越有用、与人的关系越来越紧密时,该如何定位它?Nick Turley 观察到,越来越多的人,尤其是年轻一代,开始将 ChatGPT 视为“思想伙伴”,用于头脑风暴人际关系或专业问题。这既有益,也可能有害。OpenAI 的责任是确保模型行为得当,并积极监控其使用。他承认,任何普及的技术都具有双重用途,人们会用它做很棒的事,也会用它做我们不希望看到的事。“我们有责任以适当的严肃态度来处理这一点。”
从代码到图像:解锁新模态的“魔法时刻”
ChatGPT 的成功并非孤例。OpenAI 在图像生成领域也经历了类似的“魔法时刻”。Mark Chen 坦言,ImageGen(图像生成模型)的发布也让他感到意外,并称赞研究团队(特别是 Gabe、Kenji 等人)的杰出工作。他认为,关键在于当模型“足够好”,能够“一次生成”符合提示的图像时,就会创造巨大的价值。“人们不想从一堆网格图中挑选最好的,”Chen 说,“你得到了非常好的提示跟随能力和出色的风格迁移。”
Nick Turley 将 ImageGen 的发布描述为“又一次迷你 ChatGPT 时刻”。你内部觉得它很酷,但直到发布后,才通过现实世界发现其爆炸性影响。“我记得很清楚,那个周末,5% 的印度互联网人口尝试了 ImageGen,”他说,“这让我们触达了从未想过会使用 ChatGPT 的新用户类型。”Turley 认为,这种“不连续性”——某样东西突然好到超出预期——正是让用户惊叹的原因。他预测,语音、视频等其他模态也将迎来各自的“图灵测试”通过时刻,彻底改变人们的生活。
从 DALL-E 到 ImageGen,OpenAI 对图像模型安全边界的把控也发生了变化。Nick Turley 承认,早期公司对向用户提供何种能力持“保守主义”态度,这有其合理之处,因为技术太新。但随着时间的推移,他们意识到“当你对模型施加任意限制时,实际上也阻止了许多积极的用例”。他以“人脸识别”为例:最初团队争论是否应该在上传含人脸的图片时将其“灰化”,以避免基于人脸的推断或恶意评论等棘手问题。但 Turley 认为,他们需要“站在自由一边,并完成艰难的工作”,因为存在大量有效且良性的用例,比如咨询妆容或发型。OpenAI 的选择是允许,然后研究其不足和有害之处,并从中迭代。
Mark Chen 将这种信心的增长归功于“迭代部署”。“迭代部署给了我们信心去推动用户自由,”他说,“我们已经经历了许多次这样的循环。我们知道用户能做什么、不能做什么。这让我们有信心以现有的限制来发布产品。”
智能体范式与未来:从聊天到“超级助理”
对话从回顾转向展望,焦点集中在 AI 交互范式的根本性转变上。Mark Chen 区分了“实时响应模型”(如 ChatGPT)和“智能体风格模型”。后者是指用户给出一个复杂任务,让模型在后台工作一段时间,然后返回它认为的最佳答案。“我们认为,未来将看起来更像异步模式,”Chen 预测,“你提出非常困难的事情,让模型思考、推理,然后带着它能给出的最佳版本回来。”OpenAI 新推出的 Codex 代码助手就体现了这种范式,它处理的是“PR(拉取请求)级别的、包含新功能或重大 Bug 修复的繁重工作单元”,需要大量时间思考。
Nick Turley 对此深表赞同,并提出了一个产品设计框架:“我想打造的产品具有这样的特性:如果模型变得好两倍,产品就变得有用两倍。”他认为,ChatGPT 长期以来符合这一特性,但随着模型越来越智能,人们对与一个“博士生”水平 AI 聊天的渴望可能存在上限。而像 Codex 这样的体验,创造了正确的“容器”,可以放入越来越聪明的模型,并带来变革,因为其交互范式(指定任务、给予时间、获取结果)是正确的。
Turley 进一步描绘了未来图景:用户将 ChatGPT 或类似产品视为“最有价值的账户”,因为它将了解用户的一切。因此,提供私密对话方式(如临时聊天)变得至关重要。未来的 AI 将不仅仅是聊天机器人,而是能够处理“五分钟任务、五小时任务,最终是五天任务”的实体,这将解锁完全不同层次的价值。Andrew Mayne 提到的“深度研究”功能就是一个早期例子,它展示了用户愿意等待 AI 花时间解决问题。
当被问及阻碍模型实现科学发现等突破的“瓶颈”时,Mark Chen 认为,技术挑战始终存在。“从根本上说,我们从事的是规模化产生简单研究想法的业务,”他说,“而实现规模化的机制是困难的。”每一层级的扩展都会带来新的挑战和机遇。Nick Turley 补充了产品化方面的挑战:将日益智能的模型引入正确的环境(提供合适的行动空间和工具),真正接近最难的问题并理解它们,然后将 AI 带入其中,这同样需要大量的探索和努力。
给未来的建议:好奇心、主动性与学会“委派”
面对 AI 重塑世界的未来,个人应如何准备?Mark Chen 和 Nick Turley 给出了相似但侧重点不同的建议。
Mark Chen 的核心建议是“必须真正投入并使用这项技术”,观察它如何增强个人能力、提高生产力和效率。“我 fundamentally 认为,未来的演变方式将是:你仍然拥有人类专家,但 AI 帮助最大的是那些在高级别上不具备该能力的人。”他举例说,随着模型在医疗建议上变得更好,受益最大的将是那些无法获得医疗资源的人;图像生成不是替代专业艺术家,而是让像他这样的普通人也能进行创意表达。AI 的作用是“水涨船高”,让人们能同时胜任许多事情。
Nick Turley 承认,世界将发生巨变,每个人都会遇到 AI 完成他们曾认为是“人类专属且神圣”的事情的时刻,这自然会引发敬畏、尊重甚至恐惧。他认为,实际使用 AI 是消除其神秘感、进行理性对话的最佳方式。至于如何准备,他提出了三点:
学会“委派”:未来,你的口袋里将有一个智能体,它可以成为你的导师、顾问、软件工程师。关键在于你能否理解自己和自己的问题,以及如何让他人(或 AI)来帮助,而不是对 AI 有特定理解。
保持好奇心:提出正确的问题才是瓶颈,而不仅仅是获取答案。需要深入研究和理解,才能知道什么有价值、什么有风险。
准备好学习新事物:你越懂得如何掌握新主题和新领域,就越能为一个工作性质变化速度前所未有的世界做好准备。
Turley 以自己为例:“我为我的产品工作在未来看起来会不同甚至不存在做好了准备,但我期待着学习一些新东西。只要你抱有这种心态,就能很好地利用 AI。”
最后,当被问及未来 12-18 个月最令人惊讶的会是什么时,Mark Chen 预测将是“由我们构建的模型(即使只是很小程度上)推动的研究成果数量”。他特别强调了模型“推理”能力的爆发,已经在物理学、数学等领域的研究中作为“子程序”使用,这将加速科学进步。Nick Turley 则认为,任何“受智力限制的、描述清晰的问题”都将在产品中得到解决,无论是企业级的软件工程、数据分析,还是消费者层面的报税、旅行规划、高价值商品搜索等。同时,AI 的“形态”也将进化,超越聊天框,出现更多异步工作流。
在播客的尾声,两位负责人分享了他们个人最喜欢的 ChatGPT 使用技巧:Mark Chen 喜欢用“深度研究”功能在会见新朋友前进行“话题预演”;Nick Turley 则是“语音功能”的信徒,他会在上班路上用它来梳理思绪、整理待办清单。这些个人化的用例,或许正是 AI 未来融入我们生活最细微也最深刻的注脚。Google 推出 Gemini Windows 桌面应用Techub News 消息,Google 面向 Windows 10 和 11 用户推出 Gemini 桌面应用,全球上线。用户可通过 Alt + Space 快捷键唤起应用,在当前窗口上方进行 AI 对话,无需打开浏览器。
该应用内置多步骤任务工作区,并集成 Gmail 与 Google Drive,支持从邮件和文档中直接提取信息。应用还提供 Nano Banana 图像生成和 Gemini Omni 视频生成功能,采用轻量级设计以降低系统占用。此次发布标志着 Google 正式进入 Windows 桌面 AI 助手市场,与微软 Copilot 展开直接竞争。(CryptoBriefing)OpenAI 推出 ChatGPT Work 数据智能体Techub News 消息,OpenAI 于 9 月 10 日在 ChatGPT Work 中推出 Data agent,企业用户可使用自然语言查询公司数据并生成交互式仪表盘,无需编写 SQL。
该工具作为编排层接入 Amazon Redshift、Google BigQuery、Databricks 和 Snowflake 等主流数据平台,无需企业预先将数据集中至单一仓库即可跨系统提取与整合信息。OpenAI 此前披露,其内部已在超过 600 PB 数据和约 7 万个数据集上运行该工具。ChatGPT Work 基于 GPT-5.6 构建,可处理跨 Slack、Gmail 及数据仓库的多步骤任务。(cryptobriefing.com)Meme 币 Dogecoin 集成 Solana 网络并上线 RaydiumTechub News 消息,Meme 币 Dogecoin 本周通过 Sunrise Protocol 完成与 Solana 网络的集成,用户现可在 Raydium 和 Jupiter 等平台上进行交易。
Dogecoin 是基于工作量证明机制的加密货币,于 2013 年推出,现为市值领先的 Meme 币之一。此次集成标志着该资产进一步扩展至多链生态,提升其在不同区块链网络中的可访问性。OpenAI 发布 ChatGPT Images 2.5,登顶 Arena 排行榜Techub News 消息,OpenAI 于 9 月 8 日发布最新图像生成模型 ChatGPT Images 2.5,包含 Sunburst 和 Flare 两个 API 版本。
其中 Sunburst 版本针对光照保真度、提示词遵循度和主体保持性进行优化,在上线数小时内登顶 Arena 平台文生图、单图编辑及多图编辑排行榜,ELO 评分达约 1421 分。Arena 平台目前提供该模型 72 小时免费试用,试用期结束后 API 定价为每百万输入 token 5 美元、每百万输出图像 token 30 美元。(CryptoBriefing)欧洲央行加息 25 个基点,年内或再加息Techub News 消息,欧洲央行宣布加息 25 个基点,为年内第二次加息。市场预期年底前第三次加息概率达 90%,全球流动性或进一步收紧。
此次加息源于油价上涨推高通胀压力。分析指出,若第三次加息落地,股市与加密货币货币市场可能面临持续波动,投资者需关注流动性变化对风险资产的影响。(CoinDesk)