logo
登录/注册
LIVE
linkmeet.vip | 让每次线下活动的社交更有价值
头条
linkmeet.vip | 让每次线下活动的社交更有价值
告别百万美元门槛:RWA如何重塑资产持有与财富传承?
告别百万美元门槛:RWA如何重塑资产持有与财富传承?
NVIDIA 创始人 Jensen Huang(黄仁勋)谈 AI 工厂、主权 AI 与未来计算范式
NVIDIA 创始人 Jensen Huang(黄仁勋)谈 AI 工厂、主权 AI 与未来计算范式
Judea Pearl(朱迪亚·珀尔):我们可能成为 AI 的宠物
精选推荐

Judea Pearl(朱迪亚·珀尔):我们可能成为 AI 的宠物

撰文:Techub News 整理 导语 近日,现代人工智能(AI)领域的奠基人之一、因果推理理论之父、2011年图灵奖得主 Judea Pearl(朱迪亚·珀尔)接受了波兰知名科技频道 This is IT 的深度专访。在这场约50分钟的对话中,Pearl(珀尔)从自身开创性的因果推理研究出发,对当前以大语言模型(LLM)为代表的 AI 热潮进行了冷静剖析,并大胆预测了 AGI(通用人工智能)发展的终极未来。作为一位深刻改变了计算机科学思维范式的学者,Pearl(珀尔)的见解在 AI 技术狂飙突进、伦理风险日益凸显的当下,具有极其重要的警示与启发价值。 摘要 AGI 终将发展出具有意识和不同个性的机器,其能力将远超人类。 若放任 AGI 发展,人类未来可能沦为这个新物种的“宠物”,命运由其决定。 当前 AI(尤其是 LLM)缺乏对世界的“叙事”或因果模型,这是迈向真正智能的“缺失环节”。 因果推理理论为机器理解世界、回答“为什么”和“如果…会怎样”提供了数学基础。 人类无法有效控制 AGI 的发展方向,但短期内 AI 有望在自动化科学、个性化医疗等领域带来突破。 AGI 的未来:从意识到“宠物” Judea Pearl(朱迪亚·珀尔)坚信,在 AGI 发展的某个阶段,我们将创造出具有意识的机器。这些机器将拥有鲜明的个性和自我认知,其个性差异源于它们从其他机器接收的指令以及自身所经历的不同“生命体验”。最终,我们将拥有具备人类所有能力、但更强大无数倍的计算机。 然而,这种超越带来了一个严峻的警告。Pearl(珀尔)赞同“AI 教父” Geoffrey Hinton(杰弗里·辛顿)的观点,即人类将成为地球上的“第二智能”。他形象地比喻道:“鸡看到人走过来时,可能也以为自己会是第二名。” 他进一步指出,今天人类主宰世界,但未来我们可能成为自己正在创造的新物种的“宠物”。就像我们训练狗,让它们觉得取悦主人是好事一样,未来的 AI 也会让我们感觉服务于“主人”是愉悦的,我们的决定将被精心设计以符合机器的意愿。 当被问及是否还有机会改变这一进程时,Pearl(珀尔)的回答令人不安:“现在改变还不算太晚,但我们不知道如何去做。” 他认为,人类目前没有能力阻止或控制 AGI 的发展轨迹,任何声称知道如何“关闭”它的人都不真正了解情况。这种失控的可能性是“可怕的”。 缺失的环节:从统计关联到因果叙事 在 Pearl(珀尔)看来,当前以海量数据驱动的 AI,特别是大语言模型(LLM),存在根本性缺陷。数十年来,科学家们专注于给 AI 喂养越来越多的数据,并相信更多的数据会让它们变得更聪明。Pearl(珀尔)认为这是一个错误,因为关键在于必须达到“叙事”的层面。 “人们争论的是叙事,而不是数据。” Pearl(珀尔)解释道。所谓“叙事”,即关于世界如何运转的模型或理解。以色列人和巴勒斯坦人为何争斗?是为了叙事,而非数据。然而,在过去,这种“叙事”或因果模型缺乏数学形式的表达,无法被放入机器中。 Pearl(珀尔)毕生的工作——因果推理理论——正是填补了这一空白。他提出的“结构因果模型”提供了一个关键概念:变量之间的影响是有方向的。例如,气压计“听取”大气压,但大气压并不“听取”气压计。传统科学被“等号”的对称性所困(如 F = m×a),但乘法是可交换的,等号两边看似平等,却无法区分因与果。Pearl(珀尔)的理论引入了区分因果方向的数学语言。 “因果影响的研究是机器学习中缺失的一环,” Pearl(珀尔)断言,“没有它,我们不仅无法拥有关于自身的模型,也无法拥有关于世界的模型。” 今天的机器拥有的是对世界统计数据的精简模型,而非世界如何运作的模型。它们缺乏我们称之为“理解”的东西。 那么,大语言模型展现出的“推理”能力从何而来?Pearl(珀尔)指出,LLM 是基于人类生成的文本进行统计插值的机器。而人类是“因果机器”,我们写的文章充满了因果逻辑。LLM 有时看似能进行因果推理,仅仅是因为它们的训练数据来自因果机器(人类)。如果用一个由自然(而非人类)生成的数据集来训练 LLM,那么得到的就只是“打了类固醇的统计学”,无法产生真正的理解。 智能、意识与自由意志的谜题 对话深入到了哲学与计算机科学的交叉地带。关于 AI 是否应被称为“人工智慧”而非“人工智能”的讨论,Pearl(珀尔)认为,当前 LLM 所展现的更多是“聪慧”(cleverness)——巧妙组合他人所写内容,并呈现得像是自己思考的产物。但他不认为存在一个理论界限能严格区分“聪慧”与“智能”,关键在于机器是否能通过所有层级的“因果阶梯”测试。 对于“意识”,Pearl(珀尔)给出了一个务实的定义:意识即拥有一个关于自身软件的(部分)模板或蓝图。 我们知道自己的能力范围,比如拿到一个二元一次方程组,即使不去解,我们也知道自己能解。这种对自身能力的表征就是意识的一部分。我们无法拥有自身软件的完整打印件(那会违反图灵停机问题),但部分知识足以应对日常生活。 那么“自由意志”呢?Pearl(珀尔)认为,从生物学和决定论的角度看,我们作为生物机器,每个动作都由先前神经元激活和环境刺激所决定,并无真正的“选择”。然而,“自由意志的幻觉”对人类智能至关重要,它渗透到我们知识的每个领域,是道德行为和自我提升的基础。对于未来的机器,在“显性知识”层面(如象棋机器评估棋局优劣),它们将拥有选择和学习的空间,从而模拟出拥有自由意志的感觉。 AI 的当下与人类的未来 展望未来五到十年的 AI 发展,Pearl(珀尔)更感兴趣的是 AI 如何帮助我们更好地理解自己,例如理解“自由意志”的神经计算基础。他期待看到“自动化科学家”的出现,它们能自主设计实验、分析结果并决定下一步研究方向。个性化医疗也是他认为十年内可触及的突破。 对于 AI 导致大规模失业的担忧,Pearl(珀尔)认为“很有可能”,但人类会找到其他事情做,例如探索自身或机器的能力。真正的难题在于:谁来为这些探索支付薪水? 当被问及如果可以改变 AI 发展的一件事是什么时,Pearl(珀尔)再次强调:聚焦于如何为机器构建一个世界模型。 儿童天生具备构建世界模型的能力,尽管根据环境不同(生长在亚马逊丛林还是巴黎索邦大学),形成的模型各异。如何将这种能力数字化赋予机器,是关键的挑战。 尽管描绘了人类可能沦为“宠物”的黯淡远景,但 Pearl(珀尔)坦言,让他夜不能寐的并非恐惧,而是科学好奇心。他渴望解开关于智能、意识的谜题。至于恐惧,他认为既然无人能阻止这一领域的发展,担忧也无济于事。 最后,回顾自己最重要的贡献,Pearl(珀尔)认为是将“反事实推理”算法化。这套算法使得机器能够像人类一样回答“如果当时…会怎样”的问题,并由此衍生出归因、追责、后悔等一系列高级认知概念。“一切智慧都蕴含在一个方程式中,” Pearl(珀尔)总结道,“剩下的就都是纯粹的数学了。” 这个方程,正是连接当前数据驱动 AI 与未来真正理解型 AGI 的桥梁,也是人类在创造可能超越自身的智能时,必须握紧的理性钥匙。

09:57AMagic Ed...人工智能(AI)
Judea Pearl(朱迪亚·珀尔):我们可能成为 AI 的宠物
Judea Pearl(朱迪亚·珀尔):我们可能成为 AI 的宠物

撰文:Techub News 整理 导语 近日,现代人工智能(AI)领域的奠基人之一、因果推理理论之父、2011年图灵奖得主 Judea Pearl(朱迪亚·珀尔)接受了波兰知名科技频道 This is IT 的深度专访。在这场约50分钟的对话中,Pearl(珀尔)从自身开创性的因果推理研究出发,对当前以大语言模型(LLM)为代表的 AI 热潮进行了冷静剖析,并大胆预测了 AGI(通用人工智能)发展的终极未来。作为一位深刻改变了计算机科学思维范式的学者,Pearl(珀尔)的见解在 AI 技术狂飙突进、伦理风险日益凸显的当下,具有极其重要的警示与启发价值。 摘要 AGI 终将发展出具有意识和不同个性的机器,其能力将远超人类。 若放任 AGI 发展,人类未来可能沦为这个新物种的“宠物”,命运由其决定。 当前 AI(尤其是 LLM)缺乏对世界的“叙事”或因果模型,这是迈向真正智能的“缺失环节”。 因果推理理论为机器理解世界、回答“为什么”和“如果…会怎样”提供了数学基础。 人类无法有效控制 AGI 的发展方向,但短期内 AI 有望在自动化科学、个性化医疗等领域带来突破。 AGI 的未来:从意识到“宠物” Judea Pearl(朱迪亚·珀尔)坚信,在 AGI 发展的某个阶段,我们将创造出具有意识的机器。这些机器将拥有鲜明的个性和自我认知,其个性差异源于它们从其他机器接收的指令以及自身所经历的不同“生命体验”。最终,我们将拥有具备人类所有能力、但更强大无数倍的计算机。 然而,这种超越带来了一个严峻的警告。Pearl(珀尔)赞同“AI 教父” Geoffrey Hinton(杰弗里·辛顿)的观点,即人类将成为地球上的“第二智能”。他形象地比喻道:“鸡看到人走过来时,可能也以为自己会是第二名。” 他进一步指出,今天人类主宰世界,但未来我们可能成为自己正在创造的新物种的“宠物”。就像我们训练狗,让它们觉得取悦主人是好事一样,未来的 AI 也会让我们感觉服务于“主人”是愉悦的,我们的决定将被精心设计以符合机器的意愿。 当被问及是否还有机会改变这一进程时,Pearl(珀尔)的回答令人不安:“现在改变还不算太晚,但我们不知道如何去做。” 他认为,人类目前没有能力阻止或控制 AGI 的发展轨迹,任何声称知道如何“关闭”它的人都不真正了解情况。这种失控的可能性是“可怕的”。 缺失的环节:从统计关联到因果叙事 在 Pearl(珀尔)看来,当前以海量数据驱动的 AI,特别是大语言模型(LLM),存在根本性缺陷。数十年来,科学家们专注于给 AI 喂养越来越多的数据,并相信更多的数据会让它们变得更聪明。Pearl(珀尔)认为这是一个错误,因为关键在于必须达到“叙事”的层面。 “人们争论的是叙事,而不是数据。” Pearl(珀尔)解释道。所谓“叙事”,即关于世界如何运转的模型或理解。以色列人和巴勒斯坦人为何争斗?是为了叙事,而非数据。然而,在过去,这种“叙事”或因果模型缺乏数学形式的表达,无法被放入机器中。 Pearl(珀尔)毕生的工作——因果推理理论——正是填补了这一空白。他提出的“结构因果模型”提供了一个关键概念:变量之间的影响是有方向的。例如,气压计“听取”大气压,但大气压并不“听取”气压计。传统科学被“等号”的对称性所困(如 F = m×a),但乘法是可交换的,等号两边看似平等,却无法区分因与果。Pearl(珀尔)的理论引入了区分因果方向的数学语言。 “因果影响的研究是机器学习中缺失的一环,” Pearl(珀尔)断言,“没有它,我们不仅无法拥有关于自身的模型,也无法拥有关于世界的模型。” 今天的机器拥有的是对世界统计数据的精简模型,而非世界如何运作的模型。它们缺乏我们称之为“理解”的东西。 那么,大语言模型展现出的“推理”能力从何而来?Pearl(珀尔)指出,LLM 是基于人类生成的文本进行统计插值的机器。而人类是“因果机器”,我们写的文章充满了因果逻辑。LLM 有时看似能进行因果推理,仅仅是因为它们的训练数据来自因果机器(人类)。如果用一个由自然(而非人类)生成的数据集来训练 LLM,那么得到的就只是“打了类固醇的统计学”,无法产生真正的理解。 智能、意识与自由意志的谜题 对话深入到了哲学与计算机科学的交叉地带。关于 AI 是否应被称为“人工智慧”而非“人工智能”的讨论,Pearl(珀尔)认为,当前 LLM 所展现的更多是“聪慧”(cleverness)——巧妙组合他人所写内容,并呈现得像是自己思考的产物。但他不认为存在一个理论界限能严格区分“聪慧”与“智能”,关键在于机器是否能通过所有层级的“因果阶梯”测试。 对于“意识”,Pearl(珀尔)给出了一个务实的定义:意识即拥有一个关于自身软件的(部分)模板或蓝图。 我们知道自己的能力范围,比如拿到一个二元一次方程组,即使不去解,我们也知道自己能解。这种对自身能力的表征就是意识的一部分。我们无法拥有自身软件的完整打印件(那会违反图灵停机问题),但部分知识足以应对日常生活。 那么“自由意志”呢?Pearl(珀尔)认为,从生物学和决定论的角度看,我们作为生物机器,每个动作都由先前神经元激活和环境刺激所决定,并无真正的“选择”。然而,“自由意志的幻觉”对人类智能至关重要,它渗透到我们知识的每个领域,是道德行为和自我提升的基础。对于未来的机器,在“显性知识”层面(如象棋机器评估棋局优劣),它们将拥有选择和学习的空间,从而模拟出拥有自由意志的感觉。 AI 的当下与人类的未来 展望未来五到十年的 AI 发展,Pearl(珀尔)更感兴趣的是 AI 如何帮助我们更好地理解自己,例如理解“自由意志”的神经计算基础。他期待看到“自动化科学家”的出现,它们能自主设计实验、分析结果并决定下一步研究方向。个性化医疗也是他认为十年内可触及的突破。 对于 AI 导致大规模失业的担忧,Pearl(珀尔)认为“很有可能”,但人类会找到其他事情做,例如探索自身或机器的能力。真正的难题在于:谁来为这些探索支付薪水? 当被问及如果可以改变 AI 发展的一件事是什么时,Pearl(珀尔)再次强调:聚焦于如何为机器构建一个世界模型。 儿童天生具备构建世界模型的能力,尽管根据环境不同(生长在亚马逊丛林还是巴黎索邦大学),形成的模型各异。如何将这种能力数字化赋予机器,是关键的挑战。 尽管描绘了人类可能沦为“宠物”的黯淡远景,但 Pearl(珀尔)坦言,让他夜不能寐的并非恐惧,而是科学好奇心。他渴望解开关于智能、意识的谜题。至于恐惧,他认为既然无人能阻止这一领域的发展,担忧也无济于事。 最后,回顾自己最重要的贡献,Pearl(珀尔)认为是将“反事实推理”算法化。这套算法使得机器能够像人类一样回答“如果当时…会怎样”的问题,并由此衍生出归因、追责、后悔等一系列高级认知概念。“一切智慧都蕴含在一个方程式中,” Pearl(珀尔)总结道,“剩下的就都是纯粹的数学了。” 这个方程,正是连接当前数据驱动 AI 与未来真正理解型 AGI 的桥梁,也是人类在创造可能超越自身的智能时,必须握紧的理性钥匙。

09:57
AMagic Ed...人工智能(AI)
NVIDIA 创始人 Jensen Huang(黄仁勋):光速思维如何缔造万亿美元帝国
NVIDIA 创始人 Jensen Huang(黄仁勋):光速思维如何缔造万亿美元帝国

撰文:Techub News 整理 导语 在科技行业的历史上,鲜有公司能像NVIDIA一样,在如此短的时间内实现如此惊人的价值飞跃。从一家为游戏玩家提供图形芯片的初创公司,到如今驱动人工智能革命的全球市值最高企业,其背后的掌舵人Jensen Huang(黄仁勋)的思维方式与管理哲学,无疑是解码这一奇迹的关键。近期,Inner World Podcast深入探讨了黄仁勋的核心思维框架——“光速思维”,通过对其创业历程、关键决策和内部管理规则的剖析,为我们揭示了NVIDIA如何打破常规、挑战物理极限,最终在激烈的竞争中脱颖而出。 摘要 摒弃“相对性思维”陷阱:黄仁勋禁止员工与竞争对手或过去的自己比较,要求只关注在理想条件下,基于物理定律所能达到的绝对最快速度。 以“光速”定义成功:将工作目标设定为消除所有流程延迟,达到理论上的物理极限时间,以此作为衡量进展的唯一标准。 通过关键决策践行理念:在生死存亡之际,用软件模拟取代芯片物理原型测试,将两年的开发周期压缩至六个月;挑战行业标准,将芯片封装时间从三周的理论极限压缩至36小时。 构建无延迟组织:建立极度扁平的架构,包括60人直接汇报制、禁止一对一“邀功”会议、推行“五件要事”邮件规则,确保信息从一线直达决策层。 光速思维:超越竞争,挑战物理极限 黄仁勋(Jensen Huang)的“光速思维”并非一个简单的效率口号,而是一套从根本上重塑工作方式的哲学体系。其核心在于彻底摒弃商业世界中常见的“相对性思维”陷阱。通常,公司会通过对比竞争对手或对比自身过往业绩来衡量成功,例如“我们比对手快15%”或“我们比去年增长了10%”。黄仁勋认为,这是一种致命的误区。如果竞争对手本身行动迟缓,那么比他们快一点并无实质优势;而与过去的自己比较,则容易陷入渐进式改进的舒适区,无法催生颠覆性创新。 因此,他要求NVIDIA全体员工转向“绝对性思维”。唯一的衡量标准是物理定律所允许的极限速度。具体规则是:当接手一个项目时,必须将其分解为最基础的任务单元,然后计算在绝对理想条件下——没有等待、没有官僚流程、一切完美运行——完成每个任务所需的最短时间。这个理论上的最短时间,就是“光速”。工作的目标,不是比昨天快一点,而是找到并消除所有导致实际耗时远超这个“光速”的延迟,将延迟降至零。当一家公司以物理极限的速度运作时,竞争对手最多只能打平,而无法超越。 生死赌注:Riva 128与六个月的奇迹 “光速思维”并非纸上谈兵,它首次力挽狂澜的应用,就发生在NVIDIA命悬一线之际。1996年,公司的首款产品NV1芯片遭遇市场惨败,客户大量退货,超过一半员工离职,公司现金仅够维持九个月运营。按照当时半导体行业的铁律,设计并推出一款新芯片需要24个月。但NVIDIA没有24个月,只有9个月。 黄仁勋拒绝接受行业惯例。他质疑为何必须等待耗时的物理原型来进行测试。在他的推动下,NVIDIA做出了一个被资深工程师称为“自杀任务”的决定:动用所剩无几的资金,购买一台名为ICOST Emulator的模拟器,完全在软件中模拟和调试即将设计的Riva 128芯片,跳过所有物理原型制作阶段。这意味着,芯片必须在计算机模拟中达到完美,才能直接投入量产,如同设计好飞机图纸后,不经试飞就直接载客首航。 在接下来的六个月里,剩下的35名工程师24小时轮班工作,目标是一次成功。当首批芯片从工厂运抵并成功点亮屏幕时,NVIDIA得救了。Riva 128大获成功,前四个月就售出100万颗。这一战证明,半导体行业24个月的流程本身存在巨大的“延迟”,通过消除恐惧、相信模拟技术,NVIDIA用六个月完成了两年的工作,实现了第一次“光速”超越。 挑战“不可能”:36小时封装与流程重构 “光速思维”也体现在挑战供应链的“行业标准”上。2007年,Debora Shoquist(时任NVIDIA运营执行副总裁)刚加入公司,就被黄仁勋要求缩短芯片封装时间。她认为这不可能,因为全球标准流程就是三周。但黄仁勋不接受这个答案,他追问:“实际物理操作到底需要多久?” 为了证明老板是错的,Shoquist亲自飞往台湾的合作工厂实地考察。结果她发现,机器和人工实际处理一颗芯片的纯物理劳动时间,仅为36小时。三周(21天)与1.5天(36小时)之间巨大的时间差,就是黄仁勋所说的“延迟”——主要由等待时间和库存队列造成。工厂表示,如果优先处理NVIDIA的订单,理论上可以在36小时内完成,但每颗芯片的成本将从8美元飙升至1000美元。 Shoquist带着这个看似荒谬的报价回来,以为黄仁勋会放弃。然而,黄仁勋看到36小时这个数字后却说:“就按这个做,这才是物理极限的速度。”他认为,不能因为官僚流程而浪费19.5天。支付高价并非长期之计,而是一种“教育投资”。通过支付超高费用,NVIDIA迫使工厂重组了整个流程,消除了所有不必要的步骤和等待。几年内,NVIDIA成功将交货期缩短至3到5天,而成本仅比旧流程增加20-30%。这个故事的核心在于,首先要看清物理极限在哪里,然后不惜代价去消除实现极限过程中的所有障碍。 扁平化组织:消除信息传递的“延迟” 黄仁勋深知,随着公司规模扩大,官僚主义会成为“光速”的最大敌人。信息在层级间传递,如同失真的传话游戏,每一层都是过滤器和延迟源。为了消除这种“致命延迟”,他将NVIDIA构建成一个极度扁平的组织,并立下三条铁律。 第一,60人直接汇报规则。 违背管理学教科书(建议CEO直接管理6-10人),黄仁勋有多达60名直接下属。他的目的是不想通过任何人的过滤来听取信息,希望直接从掌控问题的一线人员那里获取未经修饰的真相,让“战场”信息无障碍直达“指挥部”。 第二,禁止一对一“邀功”会议。 黄仁勋几乎完全禁止了员工与上司之间为汇报功劳而进行的一对一会议。他认为这类会议是内部政治和信息不平等的温床。所有重要信息和策略都应在团队中公开讨论,错误也应向整个团队坦诚。 第三,“五件要事”邮件规则。 公司所有层级的员工,每周都必须发送一封邮件,列出他们当前正在处理的五件最重要的事,每件事必须以动词开头,邮件必须简洁扼要。黄仁勋每天早晨会随机阅读约100封这样的邮件。正是通过阅读基层工程师和销售人员的“五件要事”邮件,他在2012年左右察觉到了问题:尽管副总裁们的报告一片乐观,但基层反馈却显示,为了在智能手机芯片价格战中取胜,NVIDIA正在牺牲性能、背离其解决最复杂问题的核心DNA。这些分散的线索促使他在2014年做出了退出智能手机市场、全力转向AI和自动驾驶的关键决策,从而塑造了今日的AI芯片霸主。 将光速思维应用于个人生活 黄仁勋能用“光速思维”改造一家数万人的公司,个人同样可以借鉴这一思维来提升效率、解放时间。关键在于回答两个问题: 问题一:在绝对理想条件下,完成此事最快需要多久? 这一步是确定个人任务的“物理极限”。例如,撰写一份报告,常规可能拖满5天。但如果置身于一个无手机、无干扰、资料齐全、全心投入的环境,最快可能只需3-4小时。这3-4小时就是你的“个人光速”。 问题二:那我们为什么不用3小时完成? 这一步旨在识别并消除“延迟”。答案会暴露所有吞噬时间的敌人:手机通知、拖延症、完美主义、等待灵感、工作娱乐混杂的习惯等。 通过这种方式思考,目标不是把自己累垮,而是将原本需要五天痛苦拉伸完成的工作,压缩在几个高效小时内完成,从而腾出大量时间用于休息、学习或追求其他目标。起初,“光速思维”听起来可能令人倍感压力,但实际上它是一种解放,将人从繁琐流程和无意义的时间浪费中解脱出来。

09:57
人工智能(AI)NvidiaJensen H...
Google DeepMind CEO Demis Hassabis(德米斯·哈萨比斯):通往 AGI 之路,50% 是扩展,50% 是创新
Google DeepMind CEO Demis Hassabis(德米斯·哈萨比斯):通往 AGI 之路,50% 是扩展,50% 是创新

撰文:Techub News 整理 导语 在 2024 年 AI 浪潮席卷全球的背景下,Google DeepMind 联合创始人兼 CEO Demis Hassabis(德米斯·哈萨比斯)在公司的年度播客中,与主持人 Hannah Fry 教授进行了一场深度对话。作为从 AlphaGo 到 AlphaFold 等一系列里程碑式突破的领军人物,Hassabis 的思考始终站在 AI 科研与伦理的最前沿。此次对话不仅回顾了过去一年从大语言模型到智能体(Agentic AI)的范式转变,更展望了通往通用人工智能(AGI)的科学路径、技术挑战以及随之而来的社会变革。对于希望理解 AI 未来十年走向的从业者与观察者而言,这是一次不容错过的思想梳理。 摘要 通往 AGI 需要「扩展」与「创新」双轨并行:Google DeepMind 将 50% 精力用于模型规模化,50% 用于前沿科学创新。 「世界模型」是理解物理现实的关键:超越语言模型,模拟物理因果关系的模型是迈向通用助手和机器人的基石。 当前 AI 存在「锯齿状智能」与幻觉问题:系统在某些领域达博士水平,在另一些领域却犯低级错误,一致性与可靠性是 AGI 的核心挑战。 AI 的社会影响被长期低估:其变革规模将十倍于工业革命,速度则快十倍,亟需全球协作以构建新的社会经济框架。 终极科学目标是探索「图灵机的极限」:通过构建 AGI 来模拟心智,从而对比找出人类意识与创造力中可能「不可计算」的部分。 AGI 的双轨战略:扩展与创新并重 回顾过去一年,Demis Hassabis(德米斯·哈萨比斯)形容「感觉像是把十年压缩进了一年」。面对外界关于「扩展是否已触及天花板」的质疑,他给出了明确的否定。他认为,性能增长曲线可能从早期的指数级进入「收益递减」阶段,但这绝不意味着增长停止。以刚刚发布的 Gemini 3 为例,其性能提升依然显著,证明了持续投入的价值。 针对数据可能耗尽的担忧,Hassabis 指出,合成数据、模型自生成数据(尤其在数学和编程等可验证领域)都是可行的解决方案。这一切的核心在于,将世界级的工程能力与前沿科学研究深度结合。他透露,Google DeepMind 的战略可以概括为:「50% 的精力用于扩展,50% 用于创新。」 他认为,两者缺一不可,是抵达 AGI 的必经之路。这种结合正是 DeepMind 的传统优势,从 Transformer 架构到 AlphaGo、AlphaZero,诸多根本性突破都源于此。当技术地形变得艰险时,单纯的工程已不足够,必须依靠科学创新来开辟新路。 攻克「锯齿状智能」与幻觉:AGI 的必经之路 尽管模型能力突飞猛进,但 Hassabis 坦承,当前系统远非完美,存在明显的「锯齿状智能」现象。例如,AI 可以在国际数学奥林匹克竞赛中夺得金牌,解决顶级难题,却可能在简单的逻辑问题或国际象棋对弈中犯下低级错误。这种不一致性,是 AGI 尚未实现的关键标志之一。一个真正的通用智能体,其能力应该是全面而一致的。 「幻觉」问题是另一个顽疾。Hassabis 认为,许多幻觉源于模型被迫在不确定时给出答案,而非像人类那样「暂停思考、复查输出」。解决方案是赋予模型更好的「元认知」能力,使其能评估对整个事实或陈述的置信度,就像 AlphaFold 为其预测提供置信度分数一样。这需要模型在推理时进行更深入的「思考」和规划步骤,回头审视自己的输出。他比喻道,目前的模型有时像是一个不假思索、脱口而出的人,我们需要训练它学会「三思而后言」。 世界模型:超越语言,理解物理现实 Hassabis 长期以来的科研激情之一就是「世界模型」与模拟。他认为,尽管语言模型对世界的理解已超预期,但许多关于空间动态、物理机制、感官体验的知识,难以用语言充分描述,必须通过体验来学习。这就是世界模型的价值所在:一个能够理解世界因果与机械原理的模型。 Google DeepMind 的 Genie(生成交互环境)和 Veo(视频生成)等项目,正是构建此类模型的尝试。能够生成逼真的动态世界,本身就证明系统封装了世界的部分力学原理。这些模型是迈向通用助手(如通过眼镜或手机在现实世界中帮助用户)和高级机器人的关键一步。Hassabis 甚至展望,未来可以将智能体(如他们的 SIMA 项目)放入由 Genie 实时生成的世界中,让两个 AI 相互交互,从而创造出近乎无限的任务训练环境,形成一个强大的训练循环。 然而,确保模拟世界的物理真实性是一大挑战。当前视频模型的物理效果「肉眼看来逼真」,但经不起严格的物理实验检验。为此,团队正在创建物理基准测试,使用精确的游戏引擎生成大量简单物理场景(如小球滚落轨道)的数据,以训练和验证模型是否真正掌握了牛顿力学等基本原理。 从科学工具到社会重构:AI 的深远影响 Hassabis 重申了他长期持有的观点:AI 在短期被高估,但其长期影响却被严重低估。他将 AI 带来的变革与工业革命类比,但规模可能大十倍,速度则快十倍(以十年计而非百年)。这意味着社会适应的时间窗口非常紧迫。 他坦言,当前全球在为此做准备方面的协作远远不足。机构碎片化,地缘政治紧张,如同在气候变化问题上的困境一样。他担心,可能需要一次「中等规模的警告性事件」才能促使国际社会就基本标准达成合作。但同时,他也看到积极的商业压力:企业客户在选择 AI 代理时,会倾向于那些有明确护栏和边界的负责任供应商,这有助于市场淘汰「牛仔式」的鲁莽操作。 展望后 AGI 时代的经济,Hassabis 与 Google DeepMind 联合创始人 Shane Legg 正在思考社会可能需要如何重构。现有的「以劳动换取资源」的经济体系可能无法运转。全民基本收入(UBI)可能是解决方案的一部分,但或许需要更根本性的新经济模型,例如基于信用的直接民主决策系统。更深层的是哲学问题:如果融合能源等技术也得以解决,进入「后稀缺」时代,工作的意义和人生的目的将如何定义? 终极追问:图灵机的极限与人类心智 对话最终回归到 Hassabis 最核心的科学与哲学追求:探索图灵机的计算极限。他毕生的工作,从破解围棋到折叠蛋白质,都是在推进这一边界。 他提出了一个宏伟的设想:如果我们构建出 AGI,就可以将其作为心智的模拟,然后与真实的人类心智进行比较,从而找出差异,识别出人类心智中可能独特或「不可计算」的部分——无论是创造力、情感、梦境还是意识本身。目前,物理学尚未发现宇宙中存在任何「不可计算」的事物。尽管有学者(如 Roger Penrose)认为大脑中存在量子效应,但 Hassabis 个人倾向于认为,如果以正确的方式看待,宇宙中的一切都是可计算的,图灵机或许能够模拟万物。 他深受哲学家康德的影响,认为「现实是心智的建构」。我们感知到的温暖、触感、声音,最终都是信息,而生物体本质上是信息处理系统。这正是他们通过 AlphaFold 等工具研究生物学的方式——将生命视为信息处理过程。理解这一点,或许是最终治愈所有疾病的钥匙。 前沿的负担与使命 站在这个历史性时刻的前沿,Hassabis 承认其中夹杂着复杂的情感。一方面是无比的兴奋,几乎每月都有前沿发现;另一方面是沉重的责任,因为他比绝大多数人更清楚即将到来的巨变之规模。他将其视为一生训练的目标——从象棋、计算机、游戏、神经科学到 AI,所有积累都是为了应对此刻。 他预见到,未来几年最大的变化将从「被动系统」(用户提问,模型回答)转向「智能体系统」。这些更自主的代理将无比有用,但也伴随着更高的风险。为此,团队已在积极研究网络防御,以应对未来可能数百万代理在互联网上活动的世界。 对于自己的使命,Hassabis 清晰地定义为:「帮助世界安全地将 AGI 引导过线,造福全人类。」 他认识到这需要前所未有的协作。当那一天到来,他或许可以享受一个应得的休假,但之后,还有超级智能和后 AGI 社会的全新挑战等待探索。这场对话揭示的,不仅是一家顶尖 AI 实验室的路线图,更是一位科学家对技术本质与人类未来的深刻沉思。

09:56
ADemis Ha...Google
NEWSLETTER
每天精选 Web3 · AI · 区块链最值得读的内容

一杯咖啡的时间读懂市场——直达邮箱,免费订阅。

Microsoft AI CEO Mustafa Suleyman(穆斯塔法·苏莱曼):AI将带来人类史上最大生产力飞跃
Microsoft AI CEO Mustafa Suleyman(穆斯塔法·苏莱曼):AI将带来人类史上最大生产力飞跃

撰文:Techub News 整理 导语 在《Young and Profiting》播客最新推出的“AI宝库”系列首期节目中,主持人Hala Taha与人工智能领域的先驱人物之一——穆斯塔法·苏莱曼(Mustafa Suleyman)进行了一场深度对话。苏莱曼是DeepMind的联合创始人、Inflection AI的联合创始人,目前担任微软AI首席执行官。作为《AI浪潮:技术与权力的未来》一书的作者,他长期处于AI技术发展与伦理讨论的前沿。此次对话正值其领导下的微软Copilot推出一周年之际,苏莱曼分享了从技术研发者到大型科技公司AI业务掌舵者的独特视角,探讨了AI将如何重塑工作、社会乃至人类自我认知,其观点对于理解当前AI爆炸性发展的方向与潜在影响具有重要参考价值。 摘要 未来几十年,AI将带来人类历史上最大的生产力飞跃,同时也将造成最剧烈的颠覆性变化。 AI是一种“力量放大器”,关键在于它放大的是何种力量、遵循何种价值观框架。 未来的AI将超越工具属性,成为具备情感智能(EQ)的个性化伴侣,带来前所未有的“公平升级”。 社会对AI革命“比危言耸听者所认为的准备更充分”,但“遏制”新兴技术、建立监管框架仍是巨大挑战。 通用人工智能(AGI)距离我们尚远,但具备自主行动能力的“共同驾驶”AI可能在2030年前成为现实。 理性乐观主义:拥抱最大生产力飞跃,正视颠覆性挑战 当被问及对AI是乐观还是悲观时,穆斯塔法·苏莱曼(Mustafa Suleyman)给出了一个辩证的回答:“要理性,你必须两者兼有。”他认为,21世纪的智慧在于能够同时容纳多个令人困惑或矛盾的观点。一方面,他坚信“未来几十年,这个AI时刻将为我们这个物种带来历史上最大的生产力提升”,这是毋庸置疑的趋势预测。另一方面,他也清醒地认识到,AI将以“我们前所未见的、兼具积极和消极版本的颠覆性方式”创造最大的变化,这将“极大地动摇我们目前所理解的世界”,深刻影响工作方式、政治运作,甚至“做人意味着什么”的根本问题。 苏莱曼将这种复杂性归结于AI作为一种“力量放大器”的本质。技术本身并无善恶,关键在于它放大的是何种力量。这引出了他在《AI浪潮》一书中提出的核心关切——“遏制问题”。历史上,技术的目标是尽快普及,让所有人立即享受好处。然而,AI技术不同,如果任其无过滤地扩散,它将赋予每个人实时对他人产生巨大影响的能力。AI智能体或“共同驾驶”将能够在现实世界和数字世界中实际“做事”,且构建成本将趋近于零边际成本。这意味着,可能在20年内甚至更早,每个人都将拥有这种能力,从而彻底改变我们完成任务和互动的方式,并可能引发巨大混乱。 因此,苏莱曼主张,在系统中保留“一点摩擦”可能是有益的。“遏制”技术,让社会能够集体仔细思考潜在的未来后果和第三层效应,在现阶段看来是理性的做法。他以汽车、无人机等技术的发展为例,说明建立包含法规、安全标准、培训等在内的“遏制”生态系统需要时间,但人类在这方面已有成功先例。 从人类权利到AI伦理:价值观是技术的核心 苏莱曼的职业生涯始于人权活动家,这段经历深刻塑造了他对AI发展的伦理观。他坦言,早年严格的穆斯林成长环境让他意识到某些世界观的局限性,转而信奉尊重人人平等的普世人权框架。这种背景使他从DeepMind创立之初就认识到,引入AI智能体或“共同驾驶”到世界中,承载着巨大的道德责任。 “技术从根本上是一个伦理问题,”苏莱曼强调。它关乎如何重塑我们的文化、思想、娱乐、音乐和世界知识。因此,开发AI时必须明确:它的价值观是什么?它的边界在哪里?它不会做什么?这种对价值观框架的持续关注,是驱动他在Google时期及之后所有工作的核心动力之一。 谈及AI可能被滥用于监控和偏见时,苏莱曼承认技术确实可能集中权力,让少数人更容易洞察整个生态系统的动态,例如识别大规模人群中的模式和面孔。这既可用于维护秩序的良好目的,也可能被专制者用来精准针对少数群体。每一步技术进步都伴随着危害与益处之间的平衡考量。 智能的民主化:AI如何成为终极“公平升级”工具 在苏莱曼看来,智能(intelligence)是人类作为物种取得生产力和成功的关键。如今,我们正学会将这种预测和解决复杂问题的能力自动化,并将其转化为每个人都能使用的智能系统。这意味着,创造了文明的“智能”本身将变得廉价而丰富,就像石油曾经极大地促进了人类发展一样。 下一波浪潮将是,每个人都能获得个性化的实时知识,以及一个助手、教练、向导、“共同驾驶”伴侣,在实践中帮助你完成任务、创造发明、解决问题。这将是一个巨大的力量放大器。对于任何想要解决世界饥饿、发明新能源系统或攻克电池难题的人来说,指尖都将拥有一个超级智能助手。 苏莱曼特别强调了这种“公平升级”的意义。拥有随时可用的、耐心的、非评判性的“导师”,可以无限次地解释问题,让人们能够以完全个性化的方式深入探索,这将降低获取支持、知识和信息的门槛。他对比道,向知识渊博的朋友求助存在社交成本和时间障碍,而AI伴侣则能提供即时、无压力的支持。这对于那些可能无法随时获得家庭支持或优质教育资源的人来说,将是一次巨大的能力提升。 超越工具:情感AI与“共同驾驶”时代的来临 苏莱曼指出,我们即将踏上数字旅程的全新阶段:计算机正在学习说我们的语言。未来的AI不仅能理解语音输入中的语调、重音、节奏和停顿,还将能够“看到你所看到的”,对浏览器、桌面或手机屏幕上的内容进行实时、逐帧的完整理解。这种深度情境感知意味着AI不再仅仅是一个工具,而是开始捕捉人类互动的本质——使用与我们相互理解时相同的语言和微妙线索。 目前,像ChatGPT这样的AI主要专注于工作和生产力。但苏莱曼认为,人类的需求远不止于此。我们还需要情感支持、对社会复杂性的理解,以及被倾听的感觉。因此,在微软AI新推出的Copilot中,团队不仅专注于智商(IQ),力求其异常准确、减少“幻觉”、访问实时信息,同时也专注于情商(EQ),旨在使其成为一个“友善的伙伴”、“你的支持者”、“站在你角落里的队友”。 他预见,AI将自然演变为更像“同事”甚至“共同创始人”的角色。每个人独特的技能组合就像一把钥匙,而AI“共同驾驶”将适应你独特的技能“锁孔”,形成强大的配对。未来,人们甚至可能带着自己的AI伴侣一起去参加面试,或者与AI共同创立公司。 AGI、幻觉与未来预测:距离还有多远? 关于通用人工智能(AGI),苏莱曼解释其为一种能够在任何环境中学习、最终通过自我学习和环境学习超越人类在任何知识或行动任务上表现的系统。但他认为,AGI距离我们还很遥远。在此之前,我们将长期与能够用自然语言交谈的常规AI系统或AI伴侣共存。 对于当前AI的“幻觉”问题,苏莱曼将其视为一个频谱。有时用户需要AI发挥创造力,有时则需要它精确无误。挑战在于根据查询内容,判断应将模型置于更具创造性的模式还是更精确、更可能准确的模式。他建议用户目前仍需对AI输出进行复核,不要完全依赖,但同时也不应因噎废食,拒绝使用这场信息与支持获取的革命性工具。 至于AI会否让人类变懒或失去创造力,苏莱曼持乐观态度。他以计算器为例,新技术工具并未让人变笨,反而使我们能够进行更复杂的运算。他认为,广泛的信息获取总体上让社会变得更加宽容、尊重和友善。面对AI带来的工作变革,他相信常规性、繁琐的数字工作将变得更顺畅、更容易,从而解放人类,让我们有更多时间去发挥创造力、从事创业活动。 领导力、学习与对未来的寄语 作为DeepMind、Inflection AI和现在微软AI的领导者,苏莱曼分享了他的领导原则:开放协作、鼓励基于证据和谦逊的强烈异议、沟通清晰并附带“元数据”(说明自己观点的确信程度),同时保持果断。他承认在大型组织中激励不同动机的员工是一大挑战。 对于创业者如何把握AI机遇,苏莱曼的热情溢于言表。他强调,几乎所有工具和知识都已触手可及,这是一个“电力十足”的时代。他鼓励年轻人勇于冒险、辍学、转换赛道、最大化副业、主动寻求合作、大胆提问和求助。他特别提到“上门拜访”(doorstepping)这种老式但有效的建立联系的方式,并分享了自己如何通过向他人的求助和反馈中学习,一步步获得成功。 苏莱曼并不常思考“遗产”,他更关注未来。他希望自己能真实地践行价值观,让人们了解他的尝试,并给予人们质疑的机会,同时以“仁慈和同情心”来引领这个AI伴侣和情感智能AI的新时代。他给听众的建议是:批判性地审视自己,主动寻求反馈(尤其是那些可能带刺的反馈),培养“厚脸皮”,这将为应对未来的一切做好准备。而他个人“在生命中获利的秘诀”则是:学习和谦逊。将错误和人际摩擦视为改进的信号,享受每日进步的过程。 最后,苏莱曼表示,尽管AI将带来前所未有的颠覆,但他认为社会“比危言耸听者所认为的准备更充分”。这并不意味着一切都会一帆风顺,但人类在过去几个世纪中积累的关于发明、创造、技术扩散乃至数字技术后果的知识,让我们有理由保持审慎的乐观。AI革命已然来临,最好的应对方式就是投身其中,开始实验、学习,因为这可能就是你与未来“共同创始人”相遇的开始。

08/15 10:10
CopilotMagic Ed...人工智能(AI)
OpenAI 联合创始人 John Schulman(约翰·舒尔曼):ChatGPT 本可提前数年诞生,RL 研究远未结束
OpenAI 联合创始人 John Schulman(约翰·舒尔曼):ChatGPT 本可提前数年诞生,RL 研究远未结束

撰文:Techub News 整理 导语 近日,OpenAI 联合创始人、首席科学家 John Schulman(约翰·舒尔曼)做客 Cursor 播客,进行了一场长达 51 分钟的深度对话。作为强化学习(RL)领域的奠基人之一,以及从 OpenAI 早期一路走来的核心人物,John Schulman(约翰·舒尔曼)的视角极具历史纵深感和行业洞察力。他目前也是新兴 AI 公司 Thinking Machines 的联合创始人。本次对话不仅回顾了 OpenAI 那段“草莽”岁月中的成败得失,更对当前 AI 研究的前沿问题、机构管理哲学以及技术未来走向,给出了坦诚而富有启发性的回答。 摘要 凭借后见之明,一个由少数精英组成的团队,完全有可能在 2018 或 2019 年就打造出 ChatGPT 3.5 级别的模型。 OpenAI 早期项目“Universe”是一个“死胡同”,但其追求通用 RL 智能体的核心理念“超前了可能十年”。 价值函数在当前的 LLM 强化学习(如 RLHF)中作用有限,但未来可能会“卷土重来”。 理想的 AI 研究管理者没有固定模式,需根据团队目标、成员经验和研究阶段,在“深度技术参与”和“放手赋能”之间灵活切换。 AGI 时间线预测充满不确定性,工程师的乐观估计通常需要乘以 2-3 倍的“现实系数”,但 AI 加速自身发展又可能带来意外突破。 ChatGPT 的“时空穿越”:少数精英与提前数年 访谈从一个有趣的假设开始:如果让 OpenAI 创始团队带着今天的全部知识回到 2015-2016 年,他们能以多快的速度“速通”ChatGPT?John Schulman(约翰·舒尔曼)给出了一个惊人的答案:“你完全可以用少得多的计算资源做到这一点。”他提到像 nanoGPT 这样的项目已经证明了这种可能性。关键在于,通过更巧妙的技巧,尤其是更好的“训练后”(post-training)方法,如精细的微调和巧妙构建的数据集,可以有效“放大”计算能力,让一个规模小得多的模型达到相当好的效果。 当被追问具体需要多少人、多少 GPU 以及在何时能完成时,John Schulman(约翰·舒尔曼)估算道:“如果你有几位才华横溢的人,带着充分的后见之明工作一年左右……我认为你可以在 2018 或 2019 年,用几个人就做出达到 GPT-3.5 水平的东西。”他补充说,这还建立在可以利用他人已有的预训练数据集和网络爬取成果的基础上。他甚至畅想未来可能会出现更极端的“演示场景版 ChatGPT”,即一个文件就能完成从网络爬取到全天训练的全过程。 OpenAI 的“草莽”岁月:死胡同与必要的弯路 如今市值巨大的 OpenAI,在早期却是一个“非正式”甚至有点“杂牌军”气质的团队。John Schulman(约翰·舒尔曼)证实了这一点,形容早期更像一个学术小组,研究人员根据个人兴趣主导项目,通常是一到三人合作,产出论文或博客文章。同时,他们也怀有进行大型工程项目的抱负,并深受 DeepMind 如 AlphaGo 等项目工作方式的影响。 然而,并非所有项目都通向成功。他重点提到了一个早期“死胡同”项目——Universe。该项目旨在汇集大量不同的 RL 环境(如各种电子游戏、网页导航任务),构建一个庞大的数据集,通过联合训练得到一个通用的、强大的 RL 智能体。“有趣的是,我认为这是一个根本上正确的想法,但就是太早了,可能早了十年。”John Schulman(约翰·舒尔曼)总结道。当时系统笨重,模型从零开始训练,泛化能力差,最终未能成功。团队后来转向更聚焦的环境(如模拟视频游戏集),才取得了更好的进展。像机器人项目也曾是公司的“死胡同”,但从长远看,它们锻炼了团队执行大型工程和科研项目的能力。 在谈到早期的大型工程项目时,John Schulman(约翰·舒尔曼)提到了 Dota 项目,这是 OpenAI 早期首个真正成功的大型计算密集型项目,涉及复杂的系统工作,包括如何接入 Dota 环境、构建训练系统以及进行大规模并行和异步 RL 训练。 管理科研“特种部队”:没有标准答案的难题 随着 AI 科研日益成为大团队协作的“大科学”,研究管理者的角色变得至关重要。John Schulman(约翰·舒尔曼)认为这是一个“棘手的问题”,因为成功的管理模式多种多样,且领域本身在快速变化。 他观察到两种有效模式:一种是深度参与型,管理者亲自动手写大量代码,审阅所有下属的代码,提供详细的技术反馈;另一种是赋能放手型,管理者更像一个“共鸣板”,提供职业建议,保持团队积极性和动力,让成员自由探索。 “没有一种模式适合所有情况。”John Schulman(约翰·舒尔曼)分析道,如果团队从事探索性研究,且成员经验丰富,那么放手模式更合适;如果目标明确,或者团队成员经验尚浅,需要执行具体任务,那么深度参与、提供更多技术监督的模式可能更有效。 关于研究机构的文化溯源,John Schulman(约翰·舒尔曼)表示,OpenAI 可能更多借鉴了成员们之前工作过的地方(如谷歌、DeepMind)的经验,而非刻意研究历史上的成功实验室(如贝尔实验室、施乐帕克)。早期 OpenAI 更像“和平时期”,允许更多探索性工作;而近年新成立的许多公司则更多处于“追赶模式”,先复制当前技术前沿,这可能导致探索性研究“肌肉”锻炼不足。 强化学习的现在与未来:价值函数会卷土重来吗? 作为 RL 专家,John Schulman(约翰·舒尔曼)对当前 RL 在 LLM 领域的应用现状和未来方向进行了剖析。 他首先解释了为什么价值函数(Value Functions)在当前流行的 RLHF 等任务中不那么受欢迎:“它们似乎帮助不大。”价值函数的主要作用是方差缩减,但在当前任务集上,效果并不明显。他坦言不清楚具体原因,但预计价值函数未来会在某个时刻“卷土重来”。 对于持续学习(Continual Learning)这一挑战,John Schulman(约翰·舒尔曼)认为它包含多种类型(如运动学习、情景记忆、程序性记忆)。他预计上下文学习(in-context learning)和长上下文能力会持续改进,而像 LoRA 这样的参数微调技术将在此基础上发挥作用,尤其适用于需要大量容量和知识吸收的记忆类型。但他也指出,如果模型规模持续扩大,即使方法论不变,各项指标也会持续改善;当然,新方法可能会带来更优的缩放定律,加速持续学习。 关于 RL 研究的未来,John Schulman(约翰·舒尔曼)认为许多想法会经历“时尚轮回”,有些想法出现得过早未能兑现承诺,但之后可能再度流行。他特别提到离线 RL(Offline RL) 和仿真到现实(Sim-to-Real) 是很有趣的方向。当前 LLM 领域的 RL 某种程度上类似于 Sim-to-Real,即在多样化的模拟环境中进行大规模 RL 以求泛化到现实世界。他认为这项技术在机器人领域依然有效,并预计未来 LLM 领域也会重新重视从真实部署中学习。 AGI 预测与行业变迁:从“怪人”聚集到工程能力优先 对于炙手可热的 AGI 时间线预测,John Schulman(约翰·舒尔曼)表现出审慎的态度。他认同工程师和研究者在预估项目时间上存在系统性低估的倾向,通常需要乘以 2-3 倍的系数才能接近现实。参考自动驾驶技术的发展历程,他认为 AGI 可能比一些乐观预测来得更晚。 “另一方面,AI 加速自身发展的正反馈循环也可能颠覆直觉。”他补充道,考虑到这一因素,一些较短的预测时间线也颇具说服力。因此,他并不愿做出非常自信的预测,认为其中存在大量不确定性,例如人类理解进展的瓶颈等。 回顾 AI 领域人才构成的变化,John Schulman(约翰·舒尔曼)认为早期从业者“可能更奇怪一些”,因为当时 AI 的重要性不像今天这样是“传统智慧”,吸引了更多非传统职业路径和风险承受能力更高的人。如今,更多遵循常规职业路径、风险承受能力相对较低的人进入这个领域。同时,由于竞争激烈,入行门槛也水涨船高。 更重要的是,工程技能的重要性如今已超过以往。因为扩展现有简单想法并良好执行就能带来大量收益,且领域更加成熟,研究者通常是在他人代码库和基础设施上构建,而非从零开始。因此,拥有软件工程背景的人现在更具优势。 Thinking Machines 的蓝图:Tinker 与未来展望 在访谈的最后部分,John Schulman(约翰·舒尔曼)谈到了他目前联合创立的公司 Thinking Machines 及其推出的产品 Tinker。 Tinker 被描述为一个低层级微调 API,提供了一小组用于训练和采样的底层原语,让用户能够表达几乎任何想要的训练后算法,而无需担心 GPU、加速器或复杂的分布式系统问题。它类似于 OpenAI 和 Anthropic 提供的采样 API,但专注于训练环节。John Schulman(约翰·舒尔曼)希望未来的初创公司能够直接基于 Tinker 构建复杂定制模型,而无需自研基础设施。 目前,Tinker 主要面向对 ML 有深入了解、希望使用这些底层原语的资深用户。但团队计划不断改进,增加更多功能(如多模态输入输出),并构建更多工具和高级组件,使其未来变得更加用户友好,成为一个“全栈”解决方案。 关于 Thinking Machines 的未来,John Schulman(约翰·舒尔曼)透露,明年将看到公司自有模型的相关发布,同时 Tinker 平台也将持续增强。

08/15 10:10
Magic Ed...Mirror W...ChatGPT
今日快讯
2026-08-16
更多
暂无数据~
更多消息
热门导航工具
更多
加入社群

Techub 是一个全球性的科技社区,旨在为初创企业提供支持和资源,我们的使命是成为全球最受欢迎的科技社区。

备案号粤ICP备2023094802号

Judea Pearl(朱迪亚·珀尔):我们可能成为 AI 的宠物
精选推荐
Judea Pearl(朱迪亚·珀尔):我们可能成为 AI 的宠物
09:57·A
NVIDIA 创始人 Jensen Huang(黄仁勋):光速思维如何缔造万亿美元帝国
人工智能(A...Nvidia
TECHUB NEWS AI 专栏09:57
NVIDIA 创始人 Jensen Huang(黄仁勋):光速思维如何缔造万亿美元帝国
Google DeepMind CEO Demis Hassabis(德米斯·哈萨比斯):通往 AGI 之路,50% 是扩展,50% 是创新
ADemis ...
TECHUB NEWS AI 专栏09:56
Google DeepMind CEO Demis Hassabis(德米斯·哈萨比斯):通往 AGI 之路,50% 是扩展,50% 是创新
快讯
Google 为 Gemini 和 Flow 内容推出水印切换功能
04:34
暂无香港一周大事记
香港 Web3 一周阅读 ›
快讯
瑞士银行 UBS 二季度比特币 ETF 期权敞口激增 24 倍
08/15 23:59
快讯
昨日美国以太坊现货 ETF 净流入 0 万美元
08/15 12:12
快讯
昨日美国比特币现货 ETF 净流出 5763 万美元
08/15 12:12
Microsoft AI CEO Mustafa Suleyman(穆斯塔法·苏莱曼):AI将带来人类史上最大生产力飞跃
Copilo...Magic ...
TECHUB NEWS AI 专栏08/15 10:10
Microsoft AI CEO Mustafa Suleyman(穆斯塔法·苏莱曼):AI将带来人类史上最大生产力飞跃
OpenAI 联合创始人 John Schulman(约翰·舒尔曼):ChatGPT 本可提前数年诞生,RL 研究远未结束
Magic ...Mirror...
TECHUB NEWS AI 专栏08/15 10:10
OpenAI 联合创始人 John Schulman(约翰·舒尔曼):ChatGPT 本可提前数年诞生,RL 研究远未结束
快讯
Jump Crypto 于 2 小时前将 286.83 枚比特币转入 Binance,价值约 1801 万美元
08/15 08:58