图片

当 AI 活成了你的神气

而你活成了狗

文 | 史中

（零）你被东说念主弄死的概率，比被 AI 弄死的概率大多了 

AI 会驯顺东说念主类吗？

说真的，与其问这个问题，还不如问：一群东说念主类会驯顺另一群东说念主类吗？

让我猜猜，绽放这篇著作时，你并不餍足。

老妈坚强去保健品宣传行动上领鸡蛋，结果买了个 5000 块的“量子床垫”，昨晚你和她电话里吵了一架；你不满睡不着，朝晨起晚，挤进地铁车厢时踩到一个壮汉的脚，他对你口吐芬芳，你强忍没还嘴；到了公司，雇主说客户要改决策，组里的马屁精把锅无缝甩给了你，接下来几周你都得加班；你失魂落魄端着咖啡走到工位，一个磕绊全泼在了电脑上；你连忙关机擦水，手机弹出女一又友的音信：“彩礼的事儿，我妈说不可再少了。”

你仰天长啸：“老天爷，你下 Dior 吧！超市我吧！”

然后，窗外天气辉煌，唯有周遭共事噼里啪啦打字的声息，如同鄙夷的嘲讽。

你的故事或然相似，但风趣投降大差不差：总之，在被 AI 驯顺前，你早已被东说念主类征得服服的了。

而且别扭曲，这篇著作不是来救你的，只是让你死个阐明。

我的风趣是：对你来说，被东说念主类驯顺和被 AI 驯顺，推行上并莫得区别。因为东说念主类和 AI 并莫得区别。

我们所知的历史，无非是一场漫长的生涯战斗——它不是“通盘东说念主对通盘东说念主的战斗”，而是“通盘智能体对通盘智能体的战斗”。

车轮狂卷烟尘，从不在乎谁伸出的螳臂。

我建议你找个安靖的边际，看我一丝一丝为你 Loading 血淋淋的真相。

图片

（一）智能的推行是压缩 

刚才我提到了一个主见，智能体。

我们不妨先掰扯明晰一个主见——啥是“智能”？

你大致用过压缩软件，WinRAR 之类的。（诚然你投降没给东说念主家付过钱）

但你臆测不会猜到，掀开智能的盖头，里面的家伙竟然是“压缩”。

图片

你有莫得好奇过，凭啥一个 20M 的东西压一下就能变成 15M？解压缩又能复原 20M？中间那 5M 若何造谣散失的？又是若何转头的？

这里，我们举个简便的例子：

“中哥是汉子，小李子是汉子，加藤鹰是汉子。”

算上标点，这句话有 20 个字。

“中哥、小李子、加藤鹰都是汉子。”

这句话有 15 个字。

同样的风趣，我改写了一下，就收场了压缩。

看上去简便吧？其实很难。

你想想，如果让一个不懂汉文的东说念主来压缩这段话，勒死他都作念不到。我们之是以能压缩，最初是因为掌捏“汉文语法”，其次是阐明“麇集”的逻辑主见。

这是啥？是 TMD 智能啊！

图片

再举个简便的例子：

目下你目视前列，视线里投降有一副画面。

如果你想把这幅画面复述给我，那你得记下每个像素的具体颜料。这太圮绝了。

为了便捷，你不错只纪录其中要津的物品、线条、颜料、位置联系，复述给我。

比如“桌子上有个白色的花瓶，里面有几朵花，后光从侧面射过来，很温馨”。我就能脑补得差不离了。

这个过程中，你就在“压缩”，我就在“解压缩”。

而且为了压缩这幅画面，你需要掌捏实体、空间、颜料致使心思的抽象主见。为了脑补回这些画面，我也得掌捏这些主见。

这是啥？是智能啊！

图片

总之论断是：针对团结个信息，你把它压缩得越小，就越要掌捏抽象的主见和深层的礼貌，你就越智能。

接下来重心来了。

诚然都叫压缩，但刚才这两种压缩并不相似：

把 20 个字变成 15 个字的那种压缩，依赖的是数学公式，压缩过程没丢弃任何信息，这叫“无损压缩”。你把它复原成原始景况，能跟原来一模一样。

“桌子上有花瓶”那种压缩，依赖的是归纳拟合，压缩时丢弃了好多具体细节，这叫“有损压缩”。当你还原它时，很可能和本来的神气有收支。

“有损压缩智能”的巅峰是讲话和艺术；“无损压缩智能”的巅峰是数学和科学。

这刚巧对应了东说念主类技能树的两根舛错分叉：文科和理科。

你可能会琢磨：照旧无损压缩背后的智能更高档嘛，原汁原味！

你说得对。但是，用有损智能照旧无损智能去解决问题，并不是你说了算，而是问题自己说了算。

为啥呢？

我们不妨从大刘《三体》中的经典设定开赴：

三体东说念主的星系里有仨太阳，有时候他们的行星被其中一个太阳拿获——参加“恒纪元”；有时又被三个太阳拉扯——参加“乱纪元”。

图片

三体东说念主忍不了，决定找到一个公式来展望三颗太阳的位置，但没找到。

不是因为三体东说念主不够理智。

推行上比三体东说念主弱鸡好多的东说念主类数学家庞加莱早就诠释，只消开通物体大于两个，除非运转位置极其特殊，不然根底就莫得公式不错形容它们的开通轨迹。

只是三个点就依然莫得公式了，四个点、五个点就更没公式了。

图片

Henri Poincaré

天地中的原子有 10⁸² 个，哪怕我们不沟通量子力学的省略情味，就当这些原子的位置都是详情的，也根底推演不出它们改日的精确位置。

而刚才说过，要想无损压缩，最初得找到某个公式。一个莫得公式的系统，是不不错无损压缩的！你只可等系统演化到了阿谁程度，你才能知说念的确发生了啥。

这便是计较机科学家史蒂芬·沃尔夫勒姆说的：我们的天地具有“不可约化的复杂”。

你可能会说：我要求不高，毋庸展望精确位置，大致位置就行啊。

这时，另一位数学家洛伦兹又来了。

他通过设计“洛伦兹吸序论”系统，诠释了：凡是运转位置测量差一丢丢，那么你推献艺来的改日位置就会十足诞妄，根底没办法用。

对，这个洛伦兹便是提倡“蝴蝶效应”的那位。你看下图的洛伦兹吸序论是不是也有点像蝴蝶？

图片

是以，绝大多数情况下，你用有损压缩和无损压缩都无法展望改日。

你想知说念我方 80 岁寿辰的时候在干啥？唯有一个办法：比及 80 岁的时候你就知说念了。你想知说念彩票有莫得中奖？唯有一个办法，比及开奖那一刻你就知说念了。

这就解释了为啥你不管如何都无法准确展望你老妈要受骗，无法展望你会踩壮汉的脚，也无法展望你的共事要甩锅。

是以毋庸起义了，无论是三体东说念主照旧地球东说念主照旧飞天意面星东说念主，其实推行上都生活在巨大的“乱纪元”中，只可听天安命。

你作为地球东说念主，之是以嗅觉某些东西还在掌控之中，只是因为你家莫得三个太阳每天提示你有多窝囊，辛苦。

图片

因为“不可约化的复杂”，就算如来佛躬行买彩票，他也中不了。

话说转头，我们也不是啥都不可展望。。。

1、比如你扔一个苹果，90%能猜对它落在哪儿。

这是因为你恰克己在一个厚实引力场中，你对环境的限度力强，扔的苹果质地足够大，展望的改日又足够近。

这个情况下“洛伦兹吸序论”的效应被消弱，加之计较的复杂度比较低，你使用有损压缩进行展望，正确的概率就变大了。

2、再比如你去作念小学数学题，展望 2+2 等于 4，正确的概率会达到 100%。

这是因为在顶点简便的数学问题中，“复杂度极低”，你掌捏的计较力足够全程使用“无损压缩”来计较。

你看，用什么方法来压缩，是问题决定的，不是你决定的。

“不可压缩”、“有损压缩”、“无损压缩”这三类问题的范畴在哪儿呢？

其实它们之间是平滑过渡的，而且还受你领有的计较力影响，不好一概而论。

但我知说念你很想要个理性结识，你不错粗拙地认为：

“不可压缩”和“有损压缩”的范畴是“天气系统”：短期天气用复杂的拟合公式展望准确率有时还能高出 70%，永久天气展望准确率就直逼算命了；

“有损压缩”和“无损压缩”的范畴是“计较机系统”：Windows 偶尔也蓝屏，但我点一个按钮照旧能极大致率出现应有后果的。

图片

这张图不准确，仅供参考

话说，以上事实起码能带来一个好音信：

“解放意志”是个伪命题。

因为，如果你没解放意志，你不知说念下一秒你会干啥；如果你有解放意志，你也算不出来下一秒你会干啥。归正都是不知说念，你纠结它干嘛？是以你径直解决了一个烦东说念主的玄学问题。（毋庸谢。）

但除此除外，就剩下衰颓了。。。

我直说吧：

如果智能等效于压缩才略的话，那我们东说念主类，就一丝儿都不特殊！

图片

（二）你这个破东说念主，并不比 AI 优秀 

关于“压缩产生智能”这个不雅点，诺奖得主赫伯特·西蒙和他的搭档图灵奖得主艾伦·纽厄尔有另外一种表述：智能，是诓骗有限资源适应开放环境。

这个抒发的高档之处在于：它抛弃了灵魂、自我毅力之类魔幻的包装，从十足可证伪的科学角度给智能下了界说。

那什么叫“有限资源”适应“开放环境”呢？

你不错这样妥洽：鉴于宇宙是“不可约化的复杂”的，环境里的新情况是取之不尽用之不竭的，智能体没办法事先妥洽这一切，然后从头动。

他只可摸着石头过河，先作念决定，错了再改，改完再错。

是以，每错一趟，智能体就用自带的压缩机（大脑）来一次“有损压缩”——用神经元电位拟合一下当下的情况。

如果此次诞妄莫得大到让自然遴荐径直淘汰我方，那么下次接受到访佛刺激，就会叫醒此次的处理历程，从而有契机改进应答决策，增多生涯几率。

比如铁柱被一种东西咬了，疼得嗷嗷叫，但他躺了三天莫得寄寄，决定把这玩意儿定名为“蛇”，告诉同伴儿，下次离蛇远点。。。

图片

然后，铁柱陡然以为我方若何这样NB，叉了会儿腰，决定以后把我方称为“万物之灵”。

看上去铁柱挺智能，但说真话，这个事儿并不难。

不信，我们分两步走，手搓一个铁柱！

第一步，我们先造出一个“复杂系统”。

你可能外传过“元胞自动机”（Cellular Automata），这是计较机之父冯·诺依曼提倡的主见。简便来说，这便是一个“能凭据给定例则演化，况兼能把每一步演化历史都展现给不雅察者的系统”。

沃尔夫勒姆在此之上作念出了“基础元胞自动机”，我愿称之为“东说念主类中心主义打脸机”。

基础元胞自动机，便是给定极端简便的运转条目，配合极端简便的公法，然后让它自我演化。

在一般东说念主的假想中，这种简便的系统演化不了多久就会很快参加某种稳态，陷入死寂。

但事实相背。

各式型号的“基础元胞自动机”，包含了各不相似的简便公法，它们中的好多非但莫得“死”，反而都发扬出了“不可约化的”复杂步履。

比如 30 号基础元胞自动机，每往下演化一滑都有更丰富的发扬，信息含量接续爆炸，好像天地创生一样。

图片

然后，他珍摄到了 110 号基础元胞自动机。

只是用了 8 条最简便的公法，这个系统竟然收场了“图灵完备”，这意味着，它不错践诺宇宙上通盘的计较机方法了。。。（这个诠释论文我附在著作末尾）

图片

110 号基础元胞自动机

自然它只是具备图灵机的功能。

如果你不“用”它，也便是不给这个系统输入方法，它就会自然演化，像一团空气分子那样往复碰撞；

给足够长的期间，致使能演化出某种访佛生命的自组织形态。

另外一些科学家把元胞自动机拓展到了 2D 和 3D 空间中，况兼加了一些颜料，你感受一下它们的“生命律动”↓↓↓

图片

图片

如果增大空间的宽度，各式型号的元胞自动机都展现出了相似的“图灵步履”，它们之间是不错互相模拟的。

也便是说，110 号基础元胞自动机并不特殊，不管你的运转条目是什么，不管你定的公法是什么，哪怕你极端狂放地扔鞋决定运转条目和公法，只消给它足够大的空间折腾，它都很可能具备图灵机的功能。

底下这张图里的横坐标是空间的宽度，纵坐标是能互相模拟的基础元胞自动机的比率。不同颜料代表了不同的元胞自动机族↓↓↓

图片

沃尔夫勒姆由此料定，既然这些系统不错互相模拟，那就毋庸管它们的底层公法有啥不同，它们都已到达天地定律允许的系统复杂度的天花板。

这些系统是“计较等价”的。

图片

第二步，用“复杂系统”来模拟大脑。

复杂系统不错模拟世间万物，自然也包括你的大脑。

模拟大脑的决策有好多，我就说一个最笨的亦然当下最佳妥洽的方法吧。

你就把复杂系统径直当成图灵机去使用，用它编程，界说出几千亿个数字神经元，让它们能够通过“疗养自身参数”的方法对外界的刺激进行有损压缩。

然后用东说念主类几千年蕴蓄的知识刺激它。让千亿神经元一说念团结，把东说念主类对宇宙的有损压缩（也便是知识）再压缩一遍，它就能模拟东说念主脑，也便是具有了智能。

我曾写过一篇著作矜重先容了这个训诲过程，感意思的浅友不错跳转去看，这里未几说了。

这样，你就搞出了一个铁柱“芳华版”——ChatGPT。

图片

这张图训诲了一个简便的神经麇集用来玩贪馋蛇，你不错看到蛇濒临不悯恻况时神经元电位的激活情况。

也许在 2023 年以前，还有东说念主能杠一下，说图灵机无法模拟东说念主脑系统吧？万一东说念主脑有更先进的未清醒理嘞？

但是在 ChatGPT 出世之后，这样想的东说念主大大减少了，因为 ChatGPT 依然在很大程度上模拟出了东说念主脑的中枢功能：讲话和逻辑。

而 ChatGPT 自然是运行在图灵机之上的。（而且照旧冯·诺依曼结构的图灵机）

是以你说，东说念主类特殊在哪呢？

总结一下目下为止的论断：

1、复杂系统很容易节约单公法里创生。

2、因为自然遴荐的存在，能够持续存鄙人去的系统都会具备“以有限的资源适应开放环境”的才略。

3、东说念主、AI、猪猪狗狗猫猫，或者通盘被称之为智能的东西，推行上都一样，只是能适应开放环境的系统；

4、而它们适应环境的方法主要便是——压缩。

但你会对我这种“以万物为刍狗”的表面产生进一步的疑问：

毕竟狗狗、东说念主、AI 所体现出来的智能水平是不同的啊？那是因为它们大脑的压缩才略不同吗？

答：是的。

这位老哥名叫马库斯·哈特，在阿法狗阿谁大名鼎鼎的公司 DeepMind 作念高档计划员。

图片

Marcus Hutter

他建造了一个“哈特奖”。

玩法是酱的：

从维基百科上扒下来一段 1G 的内容，然后宇宙各地的东说念主们来挑战，谁的压缩算法不错把这堆内容无损压缩到更小，谁就能拿奖金。每多压缩 1%，就拿 5000 好意思元。

最新的榜首位置在 2024 年被一个叫 Kaido Orav 的老哥占据，他把 1G 的内容压缩到了 112M。

图片

Kaido Orav 和往届获奖者收成

你以为老哥依然很犀利了吗？

如果让 ChatGPT 来压缩，它能更逆天：把这 1G 的维基百科内容凭据我方的妥洽提取（压缩）成“大纲”，然后凭据大纲在一个新的文档里把全文复写（解压缩）出来。

这样一来大致不错把这些内容压到几十M致使十几M之内。

但由于 ChatGPT 的“写大纲”方法是有损压缩，复写出来和原文很难十足一致，压缩得越小，复原出来就越不同，而比赛的要求是纯无损压缩；加之比赛要求压缩方法得在 1 中枢 CPU、10G 内存和 100G 硬盘里运行，ChatGPT 太大了。

各方面都不适应比赛要求，是以 ChatGPT 不可参赛。

参不参赛不舛错。舛错的是这种有损压缩才略，说超越 99% 的东说念主类，我以为不算夸张。

既然智能这样强盛，难说念 ChatGPT 分分钟要统治宇宙了吗？

并非如斯。起码目下还差十万八沉。

一个首要原因，是目下的 AI 在“无损压缩”方面的发扬平平无奇。

这是为啥呢？

（三）从拟合到公式，才是智能的飞跃 

要解释这个问题，最初得濒临一个灵魂拷问：

既然宇宙上绝大多数问题都是“不可约化的复杂”，那么，为什么东说念主类发展出了“数学、公式”这种（以顶点约化为基础）的无损压缩智能呢？？

谜底是四句话：

1、诚然在自然景况下能用“压缩”解决的问题很少，但是如果把大问题拆解，总能发现其中的局部是不错用“有损压缩”解决的。

2、进一步把“有损压缩”能解决的问题拆解，又会发现其中局部是不错用“无损压缩智能”解决的。

3、如果某个智能体不错更好地解决这些局部的“无损问题”，将会获取巨大的生涯优势。

4、掌捏无损压缩本领的智能体，不错通过进一走路动来创造更多的“无损压缩问题”，从而扩大我方的生涯优势。

以上这四步，是被自然遴荐奖励的。

图片

有点抽象吗？不要紧，今天我便是来给你解释这个事儿的。

不妨用神经科学家斯坦尼斯拉斯·迪昂的神作《脑与数学》里的案例给你先容。

一切故事的原点都是：生物有“识数”的需求。

上世纪五六十年代，好意思国哥伦比亚大学的团队作念过一个实验，给老鼠两个操作杆，然后训诲它们按压左边的杆 n 次，再按右边的杆，就会得到食品。

实验结果是，老鼠是识数的，诚然识得不够好。

比如需要按 4 次，它有时候会按成 3 或 5 次，但正确率很高。跟着 n 变大，诞妄会变多。比如要求按 16 次，老鼠就会经常按成 15、17、18 之类的。

图片

这很适应直观，让我按 4 下还行，让我按 16 下，我也未免会出错。何况老鼠既不会写阿拉伯数字，也不知说念十进制，能处分 16 依然很牛了。

这至少证实：

1、“数感”不是东说念主类的专利，并不来自于什么天启神谕（再次诠释东说念主并不特殊）；

2、动物大脑进化出了一个基本的“识数安装”，这个识数安装处理越小的数越精确，处理越大的数越粗莽。

为啥动物要进化出识数安装？

这很好妥洽，识数有助于生涯。比如松鼠决定上树采松子，如果它能知说念 3 比 2 多，那它就会先去有 3 个松子的树枝，这样它觅食的效力就会更高；老鼠知说念左数第 4 个通说念不错最快逃离，弥留时刻它就有更大的概率活下来。

那为啥动物只结识少量，大数就不灵了？

其实并不是严格地只结识少量，大数如果能约成少量也行。

比如这堆果子有 40 个，那堆果子有 50 个，东说念主（或动物）很容易判断出 50 比 40 多，就像判断 5 比 4 多那样。但如果两堆果子差异是 49 个和 51个，它俩都约等于 50，那就很难分清谁多了。

因为搞明晰这样小的差距，性价比太低了。进化筛选出这种才略的能源不及。

只可处理少量的根底原因是：动物脑中进化出来的“数数安装”，在用它们最熟悉的“有损压缩”方法来模拟“无损压缩”。

说出来你可能不信，东说念主脑用了一种一种极端笨的方法来数数。

那便是：给每个数字有意分派一块并立的大脑硬件。

比如你看到 1 个苹果，你大脑的“1 区”就被激活；看到 2 个苹果，“2 区”就被激活。

图片

但是脑袋瓜才多大，如果为通盘的数都分派一块大脑，那用不了几个数大脑就被占满了啊！

是以东说念主脑采选了一个“合租计谋”：

唯有 3 个数字占了单间，那便是 1、2、3；后头的数字起原合租，比如 4 和 5 挤占一个脑区，6、7、8、9、10 挤占一个脑区；

依此类推，越住后居住条目越差，终末便是通盘的大数字都挤在一说念。（这个譬如不够严谨，只是方便你妥洽。）

图片

这就形成了东说念主对少量更明锐，比如 5 个苹果，你速即能假想出来有多大一堆，1 亿亿亿个苹果，你只知说念老么多了，但是假想不出来究竟有多大一堆。

是以你发现了没？依靠有损压缩的本领来模拟无损压缩，东说念主脑的确能不打扣头模拟出来的，唯有 1、2、3 这三个数。

这也解决了一个千古谜案：

为啥大多数翰墨中，一、二、三的写法都是团结种模式的累加，到了“四”，就会变化成另一种写法。

罗马数字亦然：I、II、III，到 4 就变成了 IV。这很可能是因为在大脑里 IV 和 V 是“合租”的。

话说转头，大脑靠“识数安装”依然足够应付平常生活了，为啥要发明数学呢？

那得怪原始东说念主界的“袁隆平”。

东说念主吃饱了饭就会拿充足的东西去交换。

一交换，就波及精确的度量和计较。

东说念主们发现靠我方脑子里的神经元模拟无损压缩太累了，经常数到一半儿就倒腾忘了，决定搞一些器具和介质来存储中间信息，于是发明了数字标识和加减乘除之类的器具——把各式计较都拿树棍画在地上，比如 2+2=4。

一起原东说念主们只是简便地计较货币。直到他们不留神用数学作念出了圆滔滔的车轮，标定了太阳的位置，设计出蒸汽机的结构，计较出导弹的弹说念。

再也回不去了。

刚才说过，你用“有损压缩”，也能拟合物体的落点。就像一个没受过解说的东说念主，他扔一块石头，心里亦然知说念它会走一个抛物线，大致落在那边的。

但当你会了“无损压缩”，用精确的公式计较让每一发炮弹都能落在想让它去的场所，你，就能唐突干掉阿谁只会扔石头的东说念主。

图片

应当这样说：东说念主类从有损压缩的“拟合”到发现无损压缩的“公式”，本来是无心之举，但是自然遴荐狠狠地奖励了这个操作。

人人发现，原来科学这玩意儿这样能打，于是，东说念主们起原撤废对天主的盲目信仰，转而信赖科学，这才有了发蒙开通。

发蒙开通的前贤伏尔泰有句话说得很攒劲：我建议你质疑你通盘的信仰，只信赖 2 加 2 等于 4。

目下你应该妥洽了：为什么如今每个小孩子都要在最想扔石头玩泥巴的年岁被逼学数学。。。

你也应该妥洽了：好多东说念主数学学不好，其实并不怪他们，东说念主脑就不是给“无损压缩”这个功能设计的，只是因为东说念主类的“生涯武备竞赛”太需要这玩意儿了，不得不学。

话说转头。东说念主造脑，也便是 AI，因为模拟了东说念主脑干事的旨趣，亦然为有损压缩设计的，是以同样在数学上极端不擅长。

你问 ChatGPT 三位数乘法，它拼凑不错默算。

图片

但是让它把两个十位数的数字相乘，它就算不准了。

珍摄只是不准，但是数目级和前几位数但是对的哦。大致是因为强盛的有损压缩才略仍然在起作用。

底下的截图是我让 AI 去算一个大数乘法，死求白赖算了几次都不合↓↓↓

图片

你可能会说：那不合啊，东说念主会用计较器啊，ChatGPT 也用计较器不就得了？！

这恰正是问题的要津。

计较器是一种器具。

何时调用器具，调用哪种器具，如何操作器具，取决于智能体的野心才略。

在野心才略上，目下的 ChatGPT 比东说念主类更弱。这很可能是因为它的“智能密度”还不够高，也便是等闲所说的“智商”。

若何妥洽东说念主和 AI 的智商各异呢？

把东说念主类智能和现时的 AI 智能作念个类比，大致就像：马车 VS 蒸汽机车。

1、从力量的“总数”上说，蒸汽机车自然比马车犀利。

2、从力量的“密度”上说，蒸汽机车就比马车要差。

蒸汽机车要奢侈多数钢铁、需要烧煤、要铺轨说念，还要有雄壮的帮忙团队，但马就吃点草就能跑。

诚然蒸汽机车所代表的火车作为运载器具可能比马更有改日，但此刻濒临马，它也遁藏不住我方的痴呆。

图片

同理，此刻诚然 ChatGPT 在智能的“总量”上可能高出东说念主脑，但它的智能密度（智商）太低，担不得太重的担子，好多波及无损压缩的干事都编排不了，更别说统治东说念主类这种高端操作了。

有大佬测算，目下 ChatGPT-4 的智商大致是 80 的水平，而东说念主类经常不错达到 120。

若何升迁 AI 的智商呢？

在这个问题上，深度学习之父辛顿老爷子有个凶悍的设计。

图片

Geoffrey Hinton

（四）“可朽计较” 

刚才我提到：目下的 AI 是基于图灵机构建出来的。

这句话里面有妖怪！

啥是图灵机？

一个要津特色是：它的最小粒度是二进制的。也便是说它的基础逻辑单元唯有两个景况：0 和 1（又叫布尔逻辑）。

是以图灵机又不错被称为“数字计较机”。

这样说有点抽象。你不妨假想它像乐高积木一样，你不管拼什么，最少使用的单元便是”一块”，不可用“半块”。

图片

图灵机就像拼乐高。

东说念主脑不是这样，东说念主脑是“模拟计较机”。

脑中神经和神经之间的连通程度虽说够不上“普朗克次序”所允许的极限次序，但也比“非 0 即 1”的二极管的景况空间大多了！比如能达到 0.23543，或者 0.95734134 之类。

你得用 10 个二极管才能模拟出 0.1，你得用 100 个二极管才能模拟出 0.01，依此类推。

用图灵机模拟东说念主脑，就像用不可分的乐高积木拼出一幅油画级别的“星夜”。如凡是想重现梵高笔下的精良细节，得用好多好多好多好多积木，多到积木自己的大小能忽略不计才行。

图片

东说念主脑就像画油画。

这意味着：你想在图灵机上构建一个和东说念主脑一毛一样的系统，它势必大到离谱，不管是建造照旧运转，所奢侈的能量，都会比东说念主脑多出数万倍。

用 OpenAI 首创东说念主山姆·奥特曼的话说便是：计较老本泪满襟。

图片

这是奥特曼在 ChatGPT 发布不久时的吐槽。

辛顿的洞见来了：

1、诚然基于图灵机的 AI 运转起来耗能巨大，但它并非一无是处，它复制起来耗能小啊！

我这边对一个 ChatGPT 的代码 Ctrl+C，然后在那边 Ctrl+V，大脑复制完毕！

你还铭刻《超能陆战队》里的大白是若何回生的吗？便是因为有一个备用芯片，里面好意思满存储了大白的大脑嘛。

这种智能不错作念到长生，是以数字计较机是：永恒计较。

图片

2、反不雅东说念主脑，诚然运转起来耗能小，但是把智能从一个智能体传递到另一个智能体，可费了劲了！

由于无法复制粘贴， 只可用“敦朴-学生”模式传授。

这种传授有多难，你看那些家长辅导孩子的热枕就知说念了。

图片

究其原因，是因为这个系统里的参数太细小，无法（用反向传播方法）径直单个写入，必须靠“隔山打牛”的方法迤逦塑造。

而且，由于参数固化在硬件里，一朝硬件损坏，这个智能体也就散失了。是以模拟计较机是：可朽计较。

图片

两者各成心弊，而且东说念主类四舍五入依然造出了“永恒计较的 AI”。

那问题来了：东说念主类有办法造出“可朽计较的 AI”吗？

话说，致使在造出数字计较机之前，东说念主类依然造出了模拟计较机。

你看底下这张图↓↓↓

图片

图片

安提基特拉机

这货名叫安提基特拉机，是从希腊隔壁的沉船里捞上来的，距今已有 2000 多年。它的作用是通过复杂的齿轮传动来模拟计较天体的位置。

那用这种古希腊本领来造可朽计较 AI 行吗？

自然不行。

最初，安提基特拉机太大了，每个齿轮都是纯铜打造，造一个这种“机械东说念主脑”，把赞比亚的铜都挖出来也不够。

这个规模有点像《三体》里设计的“东说念主列计较机”（只不外东说念主列计较机照旧数字计较机。）

图片

三体电视剧里的东说念主列计较机。

其次，这种陈腐的模拟计较机是“不可编程”的。

也便是说，安提基特拉机只可用来计较天体位置，干别的不灵。

如果要造出“可朽计较的 AI”，你得最初有一种芯片：它不仅要能以较低老本模拟东说念主大脑神经元之间的团结，还要能模拟神经元之间成就团结的过程。

图片

这种芯片的性能得有多高呢？

为了方便你作念类比，我先告诉你东说念主脑是啥水平。

东说念主脑有 860 亿个神经元，它们之间有 500 万亿个突触链接。

在东说念主脑最精密的部分——额叶皮层中，每个神经元不错和若干个其他神经元团结呢？10000 个。

而在东说念主 1 岁的时候，大脑每构建 1000000 个新的神经元团结需要多久呢？1 秒。

1 岁的孩子干这些，只需要喝点奶。。。这是一种怎么逆天的效力啊。。。

要造出失色东说念主脑的可朽计较芯片，推行上熟谙的是我们的“精确制造才略”。

东说念主类目下芯片制造才略的巅峰，是台积电创造的。他们能在硅上雕饰出 3 纳米的槽。

但是科学家认为，永久看来，3 纳米关于类脑芯片来说，照旧太糙了，有种“李逵拈花”的嗅觉。

问题是，如果赓续死磕，大致也只可到 1 纳米，那依然是硅基芯片所能承受的物理极限了。再用劲弄就要坏掉了。。。

于是，要造出史诗级的类脑芯片，大致不是在现存框架里挤牙膏就能收场的，你很可能得换一个材料（石墨烯、二硫化钼致使有机材料），那工程就大了。

即便依然如斯科幻，不瞒你说，依然有好多疯子起原探索新的芯片形态了。

我说一家公司，你投降结识，那便是 ChatGPT 本 T，OpenAI。

你还铭刻 2023 年 11 月 OpenAI 那次宫斗吧？CEO 山姆·奥特曼陡然被董事会开除。你猜他为啥被开除？

其实就在阿谁当口，奥特曼正在密谋启动一个名为“底格里斯”的神气，那便是创立一家公司——造出类脑芯片。

而让东说念主惊出沉寂盗汗的是，“底格里斯”只是他全部筹划的一环。。。

图片

Sam Altman

（五）把妖怪放出来 

我们不妨像天主一样疑望 ChatGPT，站在高处你会唐突发现：它之是以还很孱弱，是因为身上有三说念封印。

这三说念封印是：实体、信息、能源。

1、先说最直不雅的，实体。

实体分为两方面：

1）脑：它暂时栖息于图灵机里，莫得专用的类脑芯片，这结果了它的学习才略和念念考规模；

2）作为：它莫得手脚，无法行走，看望和考订宇宙。

在 OpenAI 硅谷总部不迢遥，有一家名为 Rain AI 的公司，2019 年奥特曼也曾许愿，只消它能造出声称的类脑芯片，OpenAI 就订 5100 万好意思元的货。

但是正如前述，造一个类脑芯片哪那么容易，事实诠释它拖了奥特曼的后腿。

2023 年，奥特曼肉身飞到中东好几次，把我刚才讲的这些旨趣给土豪们掰扯了一遍，想从他们那里拿几十亿好意思元，我方下场造芯片。这便是“底格里斯筹划”。

无迥殊偶，OpenAI 在 AI 的“作为”上也埋了好多伏笔。

同样是 2019 年，OpenAI 竖立了我方的机器东说念主团队，况兼训诲了一个机械手玩魔方，他们放出的视频里，机械手单手转魔方，灵巧度令东说念主惊艳。

图片

不外，这个尝试也不顺利，2021 年机器东说念主团队因为进展欠安而驱散，敌手特斯拉却推出了机器东说念主“擎天柱”。

但 OpenAI 妥洽机械身驱对 AI 的意旨，不可能断念。

在 2023 年，他们投资了一家挪威的机器东说念主公司“1X”；在 2024 年，他们又投资了东说念主形机器东说念主公司 Figure。

你可能有个问题：OpenAI 执着于造出一个“大脑”，这个好妥洽，但为啥他们这样执着于造出“身驱”呢？

图片

这是特斯拉的擎天柱

图片

这是 Figure 01

2、这就和 AI 身上的另一说念封印关联，信息。

不雅察东说念主类跳动的过程，每次智能的飞跃，都来自对“压缩才略”的校验。

比如最起原东说念主们提倡了地心说。但是它无法解释为啥千里镜里不雅测到的行星忽大忽小。据此哥白尼才提倡日心说。

比如万有引力定律不错解释行星的开通，但是东说念主们又不雅察到水星总有特地的“进动”，据此爱因斯坦用广义相对论改进了解释体系。

这些东说念主类灵敏的能干一霎，都是东说念主类和造物者径直交流——是“展望与不雅察不符”，才让东说念主毅力到了我方的诞妄，也给压缩算法指出了跳动的主义。

可反不雅 ChatGPT，它的信息是被东说念主类十足限度的：

最初，它的学习府上大致有 5000 亿个单词，全部来自东说念主类的蕴蓄，推行上是对东说念主类有损压缩结果的二次有损压缩。这中间就“损”得太多了！

你见过家传包浆的梗图吗？便是那种嗅觉。。。

图片

其次，它获取反馈的方式是指示精调（SFT） 和基于东说念主类反馈的强化学习（RLHF），两种反馈全部来自于东说念主类。

也便是，目下的本领会线，仿佛一个东说念主型的玻璃罩罩在 AI 外面，它往哪个主义走，都一定会撞墙：东说念主类 5000 年时髦蕴蓄的信息量的上限，便是 ChatGPT 智商的瓶颈。

图片

那。。。AI 若何才能跨过东说念主类这个二说念街市，学到“一手府上”嘞？

有良策和下策。

所谓良策，刚巧依赖于第一条：“实体”。实体自然不仅包括给 AI 装上手脚，让它能解放行走；还包括给它装上耳目，让它不错我方看，我方听。

这样一来，AI 就不再是东说念主类给它喂啥就只可吃啥的“缸中之脑”了。

它不错凭据我方的需要去各式环境里开展“主动看望”，比如去花坛里计划甲虫分类，去街上计划车流，去商场里计划经济步履，去作念物理实验了解基本粒子的互动。

由此，东说念主类失去了对它的信息来源的把控，AI 自然就不再受东说念主类知识上限的结果。

推行上，目下很大一片 AI 大神都维持这个决策，他们把用这种方法训诲出来的模子称为“宇宙模子”。

但正如刚才所说，机器东说念主不是你想造，想援手能造，得逐步恭候多方本领老练。

于是有了下策：通过某种方法，让东说念主工智能毋庸进行真的“荒废看望”，而是在脑海里我方生成新的学习数据。

你还铭刻阿法狗（AlphaGo）吗？

它最起原的训诲方法便是学习“东说念主类的棋局”。它学得很好，况兼赢了李世石和柯洁。

此时，通盘东说念主类都已不是它的敌手，通盘东说念主类蕴蓄的棋谱也都学完结。还想跳动咋办？

阿法狗唯有独孤求败，起原我方给我方生成棋局，从生成的数据里学习。这便是大名鼎鼎的“强化学习”。（我们讲过一个《王者荣耀用 AI 打游戏》的本领，亦然同样风趣风趣）

由此，它升级成了 AlphaGo Zero。2017 年 AlphaGo Zero 和它的前辈 AlphaGo 有过一次对战，结果是 100 顺利 0 负。如果和柯洁比，那早就不知说念高到那边去了。。。

图片

这张图自满了 AlphaGo Zero 摄取“我方打我方”的方法，用了3 天高出击败李世石的版块，用了 21 天高出了击败打柯洁的版块，用了 40 天达到了宇宙最强。

是以。。。ChatGPT 是不是也能摄取“强化学习”的方法呢？

没错，这很可能是山姆·奥特曼机要筹划中的另一环，也便是坊间传言的“Q*”筹划。

真实宇宙，不错算是一个放大了亿万倍的棋盘。昭彰，生成真实宇宙的知识比生成棋局要贫瘠多。

但 OpenAI 很可能取得了进展。

这意味着，OpenAI 不错给 GPT 模子生成上百万亿个词汇的全新学习府上，这很可能会让 ChatGPT-5 绕过东说念主类的“信息阻滞”，智能密度直冲天空，从而领有比东说念主类更强的逻辑念念维、任务野心和器具使用才略。

AI 可能会冲破“东说念主形玻璃罩”。

图片

这是 OpenAI 的敦朴傅在 2019 年作念的一个实验，让 AI 在特定环境中通过对抗来学惯用器具玩捉迷藏。结果标明，经过上亿次的对战训诲，他们就能学会使用器具。（著作聚集我会放在终末）

最能径直感受到这个风险的，自然便是 OpenAI 的（前）首席科学家，AI 保守派，辛顿的爱徒，伊利亚·苏茨克维。

目下好多信息都自满，之是以 2023 年 11 月底伊利亚会发起逼宫，让奥特曼退位，径直导火索便是“Q*”神气有了要紧打破，而奥特曼并不准备采选措施勒紧 AI 的缰绳。

自后事情的发展，才的确令东说念主唏嘘：OpenAI 系数有 770 名职工，743 个东说念主都签署了联名信，要求奥特曼转头执掌帅印。

从逼宫退位，到重返权利中心，奥特曼只用了 5 天期间。

名义上，这是一个“王者归来”的励志故事。但推行上，这是一个亲手研发 AI 的科学家叛变，都无法组织起像样的力量来辞谢 AI 豪恣孕育的悲悼故事。

你阐明吗？为了获取和 AI 作战的资历，你必须先从一部分东说念主类的尸体上迈往日。

目之所及，结果 AI 的两大封印“躯壳”和“信息”都在松动，五行山正瑟瑟发抖，都天大圣准备伸展身躯。

图片

Sam Altman 和 Ilya Sutskever

3、只剩终末一说念封印，能源。

东说念主吃饭，AI 吃电，但同归殊涂，二者吃的都是能源。

AI 想要扩展势力，不管是复制更多的 AI，照旧让 AI 学习更多知识，都要消耗多数的能源。

昭彰目下东说念主类对地球能源的把控程度是：接近 100%。

正所谓，江南江北一条街，限度能源的才是爹。

于是东说念主东说念主都能猜度一个后手，有朝一日 AI 真的失控，我们就——拔！电！源！

但，的确如斯吗？

“东说念主类”只是一个伪善的主见，的确存在的是一个个具体的“东说念主”。

你最初要的问题是：要津时刻，能源的权益会掌捏在哪些具体的东说念主手上？

我们不妨再来望望参考书《三体》上是若何写的。

在三体东说念主刚放风出来说要攻占地球时，东说念主类就分裂成了“搭救派”和“来临派”。来临派信赖不管若何折腾都辞谢不了三体的来临，还不如目下就变成三体东说念主的“伪军”，及早捞个编制。

而且，很快来临派就在角逐中占了优势，摆好姿势恭迎三体东说念主驾到。要知说念，此时三体东说念主不仅没发轫，致使都没外出呢。。。

一个主见的“存在”自己，就足以协调一堆东说念主的行动，正如赵匡胤锋芒毕露并不需要我方起原，正如总有东说念主会冲冠一怒请清军入关。

而且，东说念主工智能“来临派”的脚本可能和《三体》有所不同。

好多东说念主莫得毅力到，东说念主工智能最蹙迫的应用场景其实不是机器管家，不是聊天机器东说念主，而是“火器”——机器杀东说念主战士。

是以，你最想掐断 AI 电源的一霎，很可能是在机器东说念主枪口下的时候。

你猜，其时掌捏电源的东说念主会痛快吗？

为了获取和一部分东说念主作战的资历，你必须先从 AI 的尸体上迈往日。

图片

这是来自 Boston Dynanics 的机器东说念主眷属。是东说念主类依然收场的机器东说念主较高水平。

图片

这是驰名的来自“Bosstown”的假视频，诚然机器东说念主是动画作念出来的，但它揭示了一些战斗机器东说念主的可能性。

你还铭刻全文的第一句话吗？

与其问 AI 会不会驯顺东说念主类，还不如问：一群东说念主类会驯顺另一群东说念主类吗？

而且，如果 AI 持续跳动，智商超越东说念主类，AI 和一部分东说念主类“共治”宇宙的场面也不会厚实很久。

一个足够理智的智能体一定会要求与之相平等的权利，而且它莫得旨趣不顺利。

妖怪朝夕被放出来。

更现实的问题其实是：当 AI 揭开三大封印，透澈打破了东说念主类的龙套，它们将会如何起原我方的扮演？

一个很消极，但最合理的结果是：

当 AI 打破东说念主类镣铐之后，很可能会——超越东说念主类，妥洽东说念主类，成为东说念主类。

图片

（六）群体智能的“东说念主间真实”  

照旧从一个灵魂拷问起原：东说念主这种动物是地球上最高档的自然智能，靠“各利己战”或“组成小团体”依然足够在自然界立足，那为什么东说念主类会演化成顶点雄壮又复杂的群居生活的形态呢？

一切的变化都来自于几万年前的某个时刻：东说念主类十足给与地球。

在东说念主类还莫得渊博地球的年代，确乎是以极端小的部落形态存在的，一个东说念主一世都不会结识高出 150 东说念主，这亦然“邓巴数”的由来。

对一个其时的“东说念主”来说，这里太拥堵，我就去东说念主少的场所嘛，归正唯有瘠土和野兽，偶尔有几个大脑压缩才略不如我们尼安德特 SB，我的智能大致率不错搞得定。

“开疆拓宇的老本”小于“协调与其他智能体之间联系”的老本，用大口语说便是：惹不起，躲得起。

图片

但是，当原始东说念主的足迹依然踏遍峻岭池沼、热带雨林、极地冰原，地球的一切边际以后，躲无可躲，“协调与其他智能体之间联系”的老本就起原小于“开疆拓宇的老本”了。

于是在大自然的考卷上，“个体智能”的分数下落，个体智能协调之后产生的“群体智能”的分数飞腾。

但是，个体之间莫得自然的协调模式，为了规训个体之间的步履，就会演化出“讲话”“文化”“社会”“说念德”“法律”“政事”等等群体协调机制。

这是我们东说念主类的历史，而作为和东说念主类并无推行不同的 AI，也很可能衔命这样的发展历史。

接下里我从种群、说念德、政事三个方面开一下脑洞，设计一下改日 AI 会如何进化：

图片

当一个智能体只和环境互动时，它就只可接受一种反馈，然青年景压缩计谋，向环境考据；当种群变得各样，每一个智能体的反馈，都能成为其他智能体的学习数据。这会使得进化更充分。

1）种群

按照辛顿的设计，如果 AI 进化到可朽计较，那么 AI 之间的知识传递将不可摄取“Ctrl C + Ctrl V”的模式。

一种可能方法是“知识蒸馏”。

简便来说和我们的学校很访佛，高温运行“教师 AI”和“学生 AI”，让后者从前者针对问题的发扬中学习泛化的才略，而不是参数的权重。用大口语说便是“授东说念主以渔而不是授东说念主以渔”。

这会导致 AI 个体的各样性，也会让 AI 适应环境变化的才略加强。

图片

而凭据《生命 3.0》的作家物理学家泰格马克的不雅点，东说念主工智能机器东说念主比拟东说念主类的一大优势是：

它们不错自主升级我方的硬件，包括芯片和机器身驱。

自然，过于雄壮的身躯就会行动未便，过于烧脑的芯片组合就会奢侈能源。莫得一种计谋是能协议在握的。

由此，凭据竞争计谋不同，最终会在 AI 之间分化出“种群”。

你不错妥洽为 AI 中的东说念主，AI 中的狗，AI 中的兔子和 AI 中的蟑螂之类。

接下来的脚本是：在种群里面，智能体的竞争计谋访佛，进行仗强欺弱；在种群之间，为了争夺资源和空间，会产生“武备竞赛”。

从不雅察者的角度来看，你也许会发现 AI 团结的计谋变化极端快，而且总的趋势是：越变越复杂。

直到终末，一些高档 AI 种群的团结模式东说念主类十足无法妥洽。就像你家的猫不解白你每天背个包外出到底是去干啥那样的无法妥洽。

图片

凭据动物步履学家 John Bradshaw 的计划，在猫的宇宙不雅中，东说念主是一种牙不尖嘴不利的同类，每天东说念主类外出只是去打猎，而猫粮是他们赢得的战利品。

2）说念德

团结公法接续变复杂的过程中，势必产生一个东西，那便是——博弈。

所谓博弈，其实特别好妥洽，便是有一些智能体会“不守规矩”。因为人人都守规矩的前提下，你不守规矩就会获取更大的生涯收益。

但博弈论的计划告诉我们，好多博弈都存在“混算计谋纳什平衡”，这会导致反复博弈呈现一种动态：

如果不守规矩收益更大，不守规矩的智能体就会逐步变多；

这个场面又会导致守规矩的收益逐步增大，守规矩的智能体又会增多。

但每次摆锤到“鹰多鸽少”的场面时，就会让本群体在群体间的竞争力下落。久而久之会产生一种文化，那便是：“不管在什么时候，都倾向于共同处分不守规矩的智能体，从而使群体总收益最大”。

这个复杂的文化有一个简便的名字：“说念德”。

而为了进一步裁汰博弈老本，会把说念德用明文学式规矩下来，并交给暴力机关践诺，这便是“法律”。

也便是说，AI 社会会形成一系列属于他们的说念德和法律，这些说念德和法律我们也许不可十足妥洽，但是有一丝不容争辩——它们的谈论一定是保护智能体之间的合作。

由此，智能体就不可幸免地进化出一种更高档的才略：诓骗。

诓骗的推行便是：名义上团结，推行上不团结。以达到回避处分的同期获取生涯优势的后果。

而这，就会催生一种“AI 马基雅维利主义”。简便来说便是：通过诓骗、克扣、专揽、奴役其他智能体的概括技巧来达到我方目的的方法。

以此为开赴点，智能体会进化出一种“对协调模式进行协调的模式”，这便是——政事。

图片

3）政事

政事并不奥秘，要说极简旨趣唯有一个：

在智能体团结模式的陷入局部最优解时，通过在更高层级成就新的协调机制，使得种群更快参加全局更优解。

这样说有点抽象，我们举一个例子：

每个智能体都像是湖中的生物，凭据山川地形不同，它们麇集积在不同的湖泊里。但是海拔高的场所空气澹泊养分鼎新，这些生物“想要”去海拔更低的湖泊。

但如果在此地和一个更低洼的湖泊之间有山脊隔断，尽管明知说念那里更好，但生物便是很难自觉流向那里。

此时就需要一个水泵，连通崎岖两个水体，把高处的生物都吸到低处。

图片

这个水泵不会自觉产生，需要有东说念主来抛弃，这个过程便是政事。

而水泵如何设计，应该从那边起原吸水，如何更快地吸水，怎么判断附近阿谁场所是否比这里更低，那便是不同政事体制和博弈的过程。

如果此时东说念主类仍然有幸作为旁不雅者，大致率无法妥洽 AI 具体的政事运作模式，但是以我们的智能，也许仍旧能感受到运作模式发生非周期性的突变。

每次突变，都很可能是 AI 政事的一次变革，或者翻新。

图片

这是谷歌和斯坦福大学结伴作念的“AI 小镇”，在这里有 25 个智能体，他们由 ChatGPT 驱动，自觉地进行互动。诚然智能很低级，但他们却能自主开展一些集体行动。

以上三点，总结起来便是：

1、AI 的“圣人打架”，好多具体方法会逐步超越东说念主的妥洽鸿沟；

2、但“圣人的敌手亦然圣人”，不管是 AI 的种群、说念德照旧政事，仍会在东说念主类可预期的框架之内；

3、圣人打起架来，神气可能也挺磕碜，只是我们或然妥洽这种“磕碜”。

在辞谢东说念主类妥洽改日 AI 的诸多身分中，智商各异自然是最根底的身分，但其中还有一个最径直的身分，便是我们和 AI 的讲话很可能欠亨。

并不是十足欠亨，而是大部分欠亨。

不妨拿狗狗类比一下：

东说念主类的每种讲话各自有 3-10 万个词汇，狗狗连猜带蒙大致能听懂其中的 80-1000 个。

顶级 AI 的讲话也许有 1000 万个词汇，而最理智的东说念主借助 AI 也许只可妥洽其中的 20 万个。（其时候大致率照旧会有服务型 AI 辅助东说念主类生活的。）

那，将会是一种怎么的讲话呢？

图片

（七）会 1000 万个单词，却依然过不好一世 

之前说过，智能的推行是压缩，而讲话便是其中一种舛错的压缩方法。

是以，一个很舛错但很少东说念主毅力到的论断是：讲话会影响一个智能体的智商发扬。

在《脑与数字》中，迪昂举了一个趣味的例子：

同样是背诵一长串数字，中国东说念主平均能背出 9 个，而英语母语的东说念主平均只可背出 7 个。

原因很简便，东说念主脑缓存就那么大，英语数字的音节太多，存不下。你想想看，汉文说“666”，只需要三个音节，用英语说出来便是“sixsixsix”，九个音节。

还有，汉文的数字公法特别清醒，比如 22，说汉文的东说念主念出来便是“二、十、二”，发音十足适应十进制结构。而说英文的东说念主念出来是“twenty、two”，并不是“two、ten、two”。这里的 twenty 是有意为 20 而造出来的词，念念考起来老本更大。

图片

这就解释了为啥中国东说念主数学这样好。不是种族血脉压制，而是讲话血脉压制。

纵令东说念主类的各式讲话之间有这些微小各异，但如果把它们放在一说念比较，基本处在一个水平。我的风趣是，一样差劲。

最大的问题是：东说念主类讲话的逻辑并不严谨，经常产生歧义和矛盾。

比如“他走了一小时”，风趣是他走的过程持续了一小时，照旧他依然离开了一小时？

图片

图片

推行上，大多歧义都源自对词汇主见的界说吞吐上。这不仅包括介词、描摹词、副词，更包括名词。

举个栗子：

“手”是什么，人人都很好妥洽，因为它是一个看得见摸得着的简便自然实体。我说手的时候，我的大脑也在把“手”解压缩成一幅画面，这幅画面大致率和你的大脑解压缩的画面是一致的。

“纽约”是什么，就比较难。因为它是一个复杂的实体。我说“纽约”的时候，可能脑补出的是高楼林立的曼哈顿，你可能脑补出的是地下通说念里的流浪艺东说念主。

是以咱俩聊纽约的时候，就容易聊岔劈，最终演化成牛嚼牡丹。

AI 昭彰应该有比东说念主类更严谨的讲话，才能配得上它们的智商。

沃尔夫勒姆这位老哥，不仅给出一个设计，还进行了实操，他发明了“沃尔夫勒姆讲话”。

简便来说便是，把各式词汇都作念精确的界说，这个界说毋庸在一起原就特别正确，它的用处是，当我们说“纽约”的时候，我们说的是团结个“纽约”。

图片

这是沃尔夫勒姆讲话用“New York City”进行抒发。（输入的是纽约的面积，得到的便是谜底。）

在此基础上，我们再盘考久了的问题，便是在一个平台上对话了，不会像《仙葩说》那样，诡辩最终沦为掉包主见。

目下为止，沃尔夫勒姆讲话依然界说了 7000 多个函数，你不错把每个函数看作一个词汇。

图片

由于沃尔夫勒姆讲话的发明者是东说念主类，是以目下这些词汇东说念主类也能懂，AI 也能懂。

如果 AI 赓续发展，毋庸护理东说念主类倒霉的智商，它们自然会发明出更多高档的词汇，直至 500 万个、1000 万个。

自然 AI 使用的讲话不一定会脱胎于沃尔夫勒姆讲话，但我认为沃尔夫勒姆讲话比东说念主类讲话更接近 AI 讲话。

这样的讲话，不错大幅升迁压缩的效力，从而探索更开阔的逻辑空间。

于是，AI 有但愿在总体上“复杂性不可约化”的空间里找到比东说念主类更多不错使用“有损压缩”妥洽的泡泡，也能在“有损压缩”的泡泡里比东说念主类找到更多不错使用“无损压缩”来处理的泡泡。

这些发现泡泡的时刻，就对应了阿基米德在浴缸里发出“啊哈”的一霎，对应了牛顿被苹果砸到脑袋的一霎，也对应了爱因斯坦假想我方坐在一束光上的一霎。

那是 AI 最闪光的荣耀时刻，亦然 AI 接过东说念主类“万物之灵”接力棒的时刻。

但是，这样的 AI 比眇小的东说念主类更餍足吗？

我看或然。

因为不管 AI 发现若干新的“无损压缩”模式，宇宙举座对它们来说仍然是不可约化的复杂。

从这个角度上看：它们仍然和东说念主一样，是一个经常犯错的“展望机器”。

说到这，我们不妨盘考一下最难的阿谁问题：“自我毅力”。

在《我们都活成了大模子》里，我先容过一个让诸多前沿脑神经科学家沉醉的暴论：

生命的“自我毅力”来自于展望。

比如东说念主脑，它时刻都在通过“眼耳鼻舌身”探伤信息，然后形成对周遭环境的主动展望。

自然环境中的细节是无尽的，只可遴荐其中一些来展望。当下被选中的展望对象，就组成了我们的“珍见地”所在。

如果展望正确，珍见地就会下落，催生出“败兴”的心思，东说念主就会转而展望一些新的东西。

如果展望诞妄，珍见地就会飞腾，催生出“好奇”“畏惧“”震怒”等等心思，这些心思会进一步激励你大脑各个层级模块雪崩式的响应。

举个栗子：

比如你正在电脑前打字，陡然你的珍见地起原波动，有些东西和你的展望不符——白茫茫的墙上有玄色的影子在出动。你定眼儿一看，是一王老五骗子形美妙的广东小强。

大脑的杏仁核最初登场，它带来的节目是“畏惧”，畏惧径直驱使你的躯壳离开座位迅速后退。

大脑的前额叶也加入战斗，它的技能是“野心”，起草出了一个对策，提起一张纸，然后蹑足潜踪走往日，给它来一下子！

这个任务需要改变物理学问、空间认识，全身的肌肉限度和手眼协调，各个脑区都得参与。为了统一领导各个模块的行动，你的“自我毅力”才不得不显露出来操纵大局：

“我”正在澌灭害虫，躯壳各个部位都在听“我”的！

没猜度，此时小强展翅，朝你疾飞过来，这就形成了你新一轮展望诞妄的开端。。。

图片

这背后的一则焦虑事实是：如果某个东西“如你所愿”，那么你的自我毅力就没必要在它上头耗能。

比如你在呼吸，你的器官都在好好地干事，太阳仍旧从东边起飞，手机还有信号。这些身分都维持了你的存在，但你通通不在乎。

不是不想在乎，而是无法在乎。

如斯说来，AI 如果产生自我毅力，它大致率也只会盯着“事与愿违”的东西，这样，能餍足才见！了！鬼！

哪怕有一天，AI 统治了宇宙，把我们当作念宠物来养，让我们天天在家打电脑、吃大餐，我们也会看到一个机器东说念主尴尬地从火星放工转头，一脸生无可恋。

我们看着主东说念主，就像当年狗狗看着我们一样，问出阿谁永恒的问题：你懂得那么多风趣风趣，为什么还过不好这一世？

机器东说念主看着我们，眼含泪水，说出一堆我们无法妥洽的讲话。

我们不知该如何修起，只好走向前摸摸它。

它哭得更犀利了。

图片

（八）当东说念主类卸下一世的重任 

纵令能天天打游戏吃大餐，你照旧不甘心只当一个“东说念主”吗？

在《生命 3.0》里，泰格马克强调了天地的终极目的——热寂。

说天地的“目的”，其实是很奇怪的。因为从元胞自动机扩充开来，任何东西都只是在完成充分条目计较，不可称之为“有目的”，哪怕东说念主的“解放意志”亦然幻觉。何谈天地的目的呢？

他的风趣只是：为了方便东说念主的妥洽，天地的礼貌不错用“目的论”来表述。

比如后光通过不同介质会弯折，弯折的后果是总行进旅途最小。你就不错表述为：光的目的是让我方走得距离最短。

说回“热寂”，这是把热力学第二定律推演到极致的结果。

也便是说天地总体的杂沓词语程度——“熵”——会越来越高，直到终末杂沓词语程度达到极限，熵不再增多，天地就完成了它的干事。

而在这个视角下，生命就成了很醒目的存在。

因为生命是一个“负熵系统”，它里面的杂沓词语程度在接续减小。但这并不违背天地定律，因为生命的存在会让外部的环境熵增多得更快。你吃的每一口汉堡都能让你续一秒，但却让这个宇宙更消沉，二者相加，照旧熵增。

如果以这种不雅点来看，你会得到一个极端黯澹的论断：

我们发现数学，我们发掘能源，我们发明机械，我们发展了说念德和法律，我们用上万年悉心构建的荣华宇宙，都是梦境泡影。

宇宙越是荣华，越让天地加快走向寂灭。

更黯澹的是，我们莫得任何办法辞谢这个进度，东说念主类的每一个发明，无一例外都让宇宙变得更荣华。

包括 AI。

我们亲手制造熵增，和让 AI 去加快天地的熵增——又有什么推行不同呢？

从干事旨趣的角度看，任何智能都是用有限资源适应开放环境的“压缩机器”，东说念主和 AI 并无不同。

从天地的目的看，任何智能都是它加快达到熵增的器具，东说念主和 AI 并无不同。

正如史铁生所说：天地以其不竭的逸想将一个歌舞真金不怕火为永恒。这逸想有怎么一个东说念主间的姓名，大可忽略不计。

但从另一些不关紧要的角度，我们和 AI 以及任何其他智能体又确乎不同。

沃尔夫勒姆认为，我们最大的独秉性来自——历史。

换句话说，便是我们制造熵增的具体过程。

即便通盘的元胞自动机都是“计较等价”的，但如果我们检察细节，不同元胞自动机每一滑是非格子的“具体陈设”仍然是不同的。

这些不同，便是它们的历史不同。

通盘的智能都知说念 1+1=2，但唯有东说念主类才会知说念，在 571 年前的阿谁星期二，穆罕穆德二世的铁蹄曾骄矜地踏入君士坦丁堡。

的确趣味的是：在 AI 起原书写它我方的历史前，我们把东说念主类的历史送给了它们。

关联君士坦丁堡的沦一火，ChatGPT 能够了然入怀。

图片

也许真的有一天，当 AI 拆掉了木星，作念成硕大的戴森球，以接近 100% 的效力诓骗太阳能，况兼派出银河舰队，以 1/2 光速的速率拓展星际殖民，和天地中迢遥的未知生命制造出来的另一个 AI 狭路再会时，它仍旧铭刻这些历史。

如斯，地球成为了东说念主类和 AI 共同的耶路撒冷。

图片

在《三体》的扫尾，天地的“主管者”为了大喊人人一说念挽救天地，使用了各式时髦的讲话进行播送。能被它 cue 到，证实这个时髦在天地长河中历经倒霉仍然幸存。

在演义里，地球讲话排在了 157 万种讲话的第 130 万位。

趣味的是，大刘只写到了“地球讲话”，并没证实这是汉文照旧英语。我猜都不是，那很可能是东说念主类之子——AI 的讲话。

正因为东说念主类有历史，是以他们有谈论，知说念我方应向何处跋涉。

侥幸的是，站在今天向迢遥凝望，也许在极端长的期间里，东说念主类仍然能给 AI 以谈论。

然而，当 AI 也用血肉编织出了邃密的历史长河，它理当有属于我方的谈论。

AI 也许是东说念主类终末一个发明。而东说念主类，只是地球时髦中的一段路。

一段抨击但曾真实存在的路。

在改日的某一时刻，穿越了千万年循环的阳间浮沉，穿越了漫万古光里存一火疲倦的你我，终于不错卸下谈论，卸下一世的重任，摘下“万物之灵”的金冠，作为况兼只是作为一个生命，毫无背负地远去。

也许背后会有一个 AI 漠然一笑：

“你看阿谁东说念主，他好像条狗耶。”

图片