又从美国说开去。
美国本来在世界上拥有许多“头号”:头号民主大国,头号军事强国,头号科技大国,头号金融大国,头号贸易大国,头号创新大国,更早还曾是头号制造业大国,等等。如今有些“头号”依然坚定地属于美国,有些开始摇摇欲坠,有些歧义丛生,有些则早已经拱手相让。尤其这N年来美国政治日益极化,社会日益撕裂,一些立国基石也开始密布裂纹,总而言之的“头号大国”名头被疑云笼罩。
然而,美国有一块“头号”依然不为所动 - 头号诺贝尔奖大国,短期看不出有被人取代的危险。在物理,化学,生理学或医学等领域,它代表着人类认知最前端的一部分0到1的突破,是人类知识最新鲜的生长点之一。头号诺贝尔奖大国的地位,是有十几所头部研究大学的几百名世界顶尖科学家和周围上千名优秀研究人员,再加上两三百所高级科研机构的十几万一流科研人员,组成的高精智力大军所维护的。
这个规模,无以伦比。没有第二个国家可以比肩。
我提这个不是为了赞美美国,而是为了说明一个现象 - 这支智力大军,大部分并不是美国土生土长的,而是来自世界各国;这些科学家本来已经出类拔萃,而且同样出色的科学家在他们的出生国依然存在,但为什么他们在出生国难以取得在美国那样的建树,并给美国带来那样的荣耀?
并不简单只是因为美国的科研设备和经费,一个更深层的原因可能是他们的集中度形成了一个有机超级大脑,他们个人的智力,在美国的科研和学术交流环境下,获得了整合。当数量足够大时,这样的整合就会催化智力的爆发,一加一远大于二。虽然每次0到1都是某个或几个人提交的,但背后是这样的大基数智力整合和催化。
智力的规模效应
一个人的大脑大约有860亿个神经元,其中大约160亿个分布在主导“高级思维”的大脑皮层,推理,逻辑,数字记忆,规划等。然而人的智力活动并不是简单由神经元数量决定的,而与神经元之间庞大而动态的连接网络密切相关。
皮层神经元之间通过突触连接。一个神经元可以与成千上万个其他神经元形成突触联系。神经元之间并不是一根电线接过去就算完事,而是在不断的电活动、化学信号和网络状态变化中进行动态交互。这才是人类思维活动的物质基础。
就算假设神经元的连接是最简单的配对好了,那么两个各自拥有7000个连接位点的神经元,就有7000平方,也就是4900万种潜在配对。当连接数目增加时,可能形成的关系数量会以远远快于线性的速度增加。
按照诺贝尔物理学奖得主罗杰.潘罗斯爵士 Roger Penrose 与 Stuart Hameroff 提出的协调客观还原理论(Orchestrated Objective Reduction,简称 Orch-OR),意识可能不仅仅是经典神经元计算的产物,而与神经元内部微管(microtubules)等结构中的量子过程有关。而量子纠缠是非局域性的,而是宇宙性的,这就意味人的意识或会在体外获得交流。
我们都有这种经验,在图书馆里学习效率会比一个人关在书房里高一些,说不定就是Orch-OR的缘故,大家高度调制的学习意识交织在了一起,呵呵。
两个科学家之间交流,如果非常投机,他们的高智力意识也会交织起来;而智力是神经元和突触形成的动态网络,智力交织,就是两个大脑之间形成了新的“虚拟连接”。
当然,“虚拟连接”并不一定需要Orch-OR量子微管实现,论文,讨论,学术会议都提供了现实途径,然而,当科学家们长期聚集在一起时,更有机会让意识通过Orch-OR获得交织并调谐,极大增强了大脑之间的连接效应。一个人的发现可以进入另一个人的大脑,第二个人再把它变成自己的工具,第三个人又在这个工具上发现新的东西。
所以,科学家的数量增加,真正增加的并不只是“大脑的数量”,而是大脑之间可能产生的指数级增加的连接数量。这大概就是为什么硅谷,波士顿,湾区,大学城,研究机构密集的地方,总是不断产生新的东西。并不是因为那里的人类突然进化出了第二套大脑,而是因为大量本来就聪明的人被塞进了一个高度连接的网络。
这就是智力的规模效应。

人工智能的两次规模效应
而这个智力的规模效应,也同样体现在了生成式人工智能(GAI)上。
与传统机器学习相比,GAI不再那么追求算法上的巧妙,而越来越多地采取了一种简单粗暴的办法:堆数据,堆算力,堆模型规模。一个大语言模型训练时,动辄拥有数百亿,上千亿甚至更多的参数,支持着几百万人工神经元的算法节点, 进行“梯度下降”的搜索。
而这个搜索本身的目标简单到有点令人难以置信。我们给它一个词,让它猜下一个词;猜错了,就调整参数;再给它一大堆文字,再猜;再调整;几十亿次,几百亿次,几万亿次之后,一个原本什么都不会的数学函数,居然开始能够写文章,翻译语言,写代码,做数学题,解释物理学,甚至一本正经地和我讨论意识是什么。
这些能力究竟是从哪里来的?我们并没有告诉它什么叫物理学,什么叫爱情,什么叫讽刺,什么叫法律,也没有给它安装一个“推理模块”,再安装一个“作图模块”,再安装一个“编程模块”。我们只是让它预测下一个token。
当然我们现在知道,事情并不是“只预测下一个token”这么简单,一个简单任务在巨大神经元网络上和在非线性条件下进行极高数量级的重复,匪夷所思的高级智力现象出现了。但是人们至今无法解释究竟为什么会这样,无法跟踪,无法揭示,只能把它归于一种“涌现”现象(emergence)。
人们今天广泛谈论的对AI风险的忧虑,本质来自于此。
上面提到的非线性很重要,一张纸折叠是线性,不管折叠多少次,你多能逆着折叠过程打开它,回到原状;而揉一团面是非线性,一次次延展碾压,即使你精确记录下每一次的力度和方向,都不可能再逆着原路回到初始面团。
我们给模型增加的只是数量,最后得到的却是复杂无比的动态结构。
再往前一步,就更有意思了。大语言模型本身是一个巨大的静态参数系统。训练完成以后,它的参数基本冻结了。但当它开始回答问题时,真正活动起来的并不是所有参数,而是不同输入激活出的不同路径、不同神经元和不同层之间的动态状态。
也就是说,参数是静态的,智能却是动态的。这和人脑其实相似:人脑的神经元数量不会因为你今天突然想通一个问题而增加,但神经网络的活动状态会改变;同一组神经元,在不同的上下文中,可以形成完全不同的动态模式。
------
而人工智能今天已进入了“智能体集群”(AI agent swarm)时代,如我前文“数学大劫案”描述的,尽管一群智能体都使用同一个大语言模型,就如一群科学家都学习同一套物理学原理,但动态运作起来却是各各不同的一颗颗大脑。
而且,如同一群科学家聚在一起相互交流探讨,一群智能体之间也互相协商切磋 - 这听起来有些毛骨悚然的不真实,但却是OpenAI在模型运行时侦测到的,分工合作。不谈速度和数量,一群智能体间的协调性就远比一群科学家高效得多,人有各种自我意识,限制了相互间的协调;大脑越高级,自我意识越强,进化如此。对于科学家,学派成见,师从关系,个人建树,联合发一篇论文,决定第一作者也是一件烦心的事。而智能体完全没有。
一群智能体已经越来越像是一个合作亲密无间的科研团队,更别说这个团队有军队的规模,成千上万的成员,不久将来就会见到几万几十万的智能体大军。
如果说大语言模型在巨大训练参数上的智能涌现是第一次规模效应,那么智能体集群上的超级智能诞生将标志着第二次规模效应。第一次是内在的,人工智能的本义;第二次则是外延的,人工智能的真正崛起。
人类如何赶得上?