白俄罗斯加速军事化 ，卢卡申科在下一盘什么棋
内容来源：尤瓦尔·赫拉利分享整理。责编?| ?柒 ?排版?| 沐言第 9719篇深度好文 ：10470?| 30分钟阅读商业思维条记君说：25年前 ，尤瓦尔·赫拉利在牛津大学拿到博士学位 ，其时他专攻中世纪骑士、城堡与火药革命。厥后他靠"简史三部曲"誉满全球。这几天 ，赫拉利重回母校 ，谈论的不再是刀枪剑戟 ，而是AI革命。已往任何工具 ，威力再大 ，都得等人类按下按钮。但未来的AI就像一台会主动视察你的心情、替你提前决定喝什么、甚至自己发明出一种新饮料的咖啡机。它正在以创立者无法预见的方法单独学习、自我改变。许多人觉得没有电力 ，AI什么都不是。赫拉利反问：把一个赤裸的人类丢到火星 ，我们同样会在几秒内毙命。赫拉利认为 ，所有智能都依赖特定的生态位 ，好比鱼活在海洋 ，猴子活在森林 ，而AI活在人类一手建立的虚拟网络。这意味着AI基础不需要发动一场《终结者》式的钢铁叛乱 ，它只需悄然接管由语言和数据维系的控制权 ，就能决定我们的贷款、录取 ，甚至判决。文明的底层代码正在被改写 ，而大大都人还没意识到。以下为赫拉利访谈原文 ，希望对你有所资助。今天 ，我想聊点更切身、甚至听起来有点滑稽的话题：AI权要、AI宗教 ，甚至是AI男朋友。更广泛地说 ，是这场席卷一切的AI革命。现在关于AI ，最重要的一点是：AI不是工具。它不是我们手中的工具。它是一个拥有自己之"手"的Agent（自主主体）。那么 ，Agent究竟是什么？它和工具有什么差别？Agent有几个鲜明特征：它能自己做决定 ，能自己发明新事物、提出新想法。一个真正的Agent ，应当能够学会一些连创立者都不知情的工具 ，还应当能够以创立者无法预料的方法自行改变。好比 ，原子弹威力极大 ，但它不是Agent。它不可自己学习、自己改变；不可自己决定去轰炸哪座都会；也不可发明出新工具 ，好比氢弹。同样 ，自动咖啡机也不是Agent ，尽管它能自动完成一些事情 ，你按一下按钮 ，它就给你做一杯咖啡。但咖啡机只是遵循预先编好的程序 ，它不会改变 ，不会学到任何新工具 ，也不会创立任何新工具。但如果换一种情况：当你走近咖啡机时 ，甚至还没按任何按钮 ，它就先开口对你说："已往几周里 ，我一直在视察你。凭据我对你和其他人的了解 ，再结合你的面部心情和一天中的时间 ，我预测你现在想喝一杯意式浓缩。所以我已经给你做好了一杯。"这时 ，它就是一台AI咖啡机了。它自己学到了工具 ，也自己做出了决定。要是第二天它又宣布："我刚刚发明了一种新饮料 ，叫Bestpresso。我觉得你会比Espresso更喜欢它 ，你应该试试看。我已经给你做了一杯。"那它才真的是AI。因为它以创立者未曾预料的方法爆发了变革 ，还发明出了全新的工具。据我所知 ，目前市面上还没有这样的咖啡机。不过 ，在某些狭窄的领域里 ，好比围棋、国际象棋 ，AI的Agency和创立力已经远远凌驾了人类。AI棋手虽然能自己决定下一步怎么走 ，还能自己发明全新的下棋战略 ，这些战略是人类棋手在数千年的博弈中从未想到过的。并且在这个历程中 ，它们会以人类创立者未必能预见的方法学习和变革。今天 ，没有任何人类另有时机击败AI棋手。一、AI的生态位：为什么"狭窄领域"的论点站不住脚那些淡化AI革命重要性的人 ，往往会拿国际象棋这样的例子不当回事 ，理由是：棋盘是一个极其狭窄、由人类创立出来的人造情况。批评者会说 ，AI的Agency将永远局限在这种狭窄、人工的情况里；这意味着它并不是真正的Agency ，也不会对人类组成任何严肃挑战。没错 ，AI也许能接管棋盘 ，但它永远不可能接管地球。如果你真做个实验：把最强的AI国际象棋巨匠扔进森林中央 ，你觉得会爆发什么？这个AI棋手基础不可能开始开采铁矿、建造工厂、组建机械人军队、然后统治世界。事实上 ，它什么都做不了。没有人类建造的发电站提供电力 ，AI棋手就完全无能为力。于是 ，这种论点就认为：AI并不是真正的Agent。它们被困在人类替它们建造出来的狭窄人工生态位里。问题在于 ，这个论点其实适用于所有已知的智能形式。人类智能自己 ，也执偾在某个相对狭窄、由别的保存建构出来的生态系统里运作。要是把一个人丢到火星上 ，那就跟把AI棋手扔进森林里差未几。我们的智能之所以能生存、能发挥作用 ，只是因为地球上树木、细菌、昆虫以及其他生物 ，在40亿年的演化中构建出了一个极其特定的生态系统。对所有Agent都是这样。至少就我们所知 ，所有Agent都有各自的生态位。鱼生活在并非自己创立的海洋里 ，猴子生活在并非自己创立的森林里 ，所有哺乳动物都生活在并非自己创立的富氧大气中。事实上 ，约莫24亿年前 ，我们星球的大气里险些没有氧气。对其时大大都生物来说 ，氧气是一种致命毒药。厥后 ，在一个连续了数亿年的漫长历程中 ，种种古老微生物开始用致命的氧气污染地球大气 ，而氧气只是它们光相助用的副产品。随着这种致命毒气逐渐充满大气 ，许多古老物种被逼到灭绝。然而 ，也有一些物种设法活了下来 ，并适应了新的情况。最终 ，许多幸存者从"痛恨氧气"转变为"完全依赖氧气才华生存"。我们的祖先 ，虽然 ，就是经历了这一转变的物种之一。直到今天 ，我们仍然生活在这个充满氧气的人造情况里 ，这个情况最初正是那些远古微生物创立出来的。我今天这场演讲想提出的看法是：我们或许正目睹生命演化中的一个类似时刻。已往几千年里 ，人类一直在向"大气"中排放某种工具 ，它最终可能会对大大都生物组成致命威胁 ，但同时 ，它又创立出了一种让AI得以茂盛的全新人工情况。我说的不是二氧化碳。我说的是数据、权要体系 ，以及文字、语言Token。几千年来 ，我们人类把这颗星球从一个没有语言的情况 ，革新成了一个充满语言Token、数据和权要体系的高度人工化情况。这个情况可能对大大都生物都是致命的 ，但却极其有利于AI的生长。因为正如鱼生活在海洋中 ，猴子生活在森林中 ，AI则生活在权要体系里。二、权要体系的实质：在陌生人之间架起"信任之桥"我们先花几分钟谈谈权要体系 ，然后再回过头来谈支撑权要体系的工具：语言和词语。人类之所以能够征服世界 ，是因为我们学会了以极其庞大的规模进行相助。单个的人类 ，并不比其他动物更强壮 ，甚至也未必更智慧。在一对一屠杀中 ，一个人或许率会输给黑猩猩、狮子、大象中的任何一种。然而 ，在一百万个人对上一百万只黑猩猩的较量中 ，人类会轻松取胜 ，因为人类明白相助 ，而黑猩猩不懂。这就是为什么是我们在控制世界。那么 ，一百万个相互不认识的人类 ，是怎么相助的？黑猩猩的相助建立在相互认识、相互熟悉的基础上。人类在小规模群体里也是这样 ，但你不可能认识一百万人。那么 ，一百万人究竟如何相助？通常是靠建立一个权要体系。好比执法体系、金融体系、教会、国家 ，或者大学。这些权要体系实际上是在做什么？政府官员、主教、拉比、会计师、律师、银行家 ，早晨去上班以后 ，一整天究竟在干什么？木匠造桌子 ，工程师修桥。那银行家和其他权要造的是什么？银行家和其他权要 ，一整天都在建造"信任"。他们的事情 ，是在大宗相互并不认识的陌生人之间建立信任 ，由此促成大规模相助。而大规模相助 ，正是我们这个物种险些一切成绩的基础。举个例子。我的银行家整天努力与我建立信任 ，好让我愿意把储备存进她所在的银行。与此同时 ，这位银行家也在努力与某个需要资金创业的企业家建立信任。然后 ，她把我的存款借给那位企业家。这样一来 ，她其实就在我和那位企业家之间架起了一座信任之桥。尽管我这辈子从没见过那位企业家 ，她现在却可以用我的储备去开办自己的公司。这就是金融体系在运转良好时的实质：它在陌生人之间建立信任 ，使数以百万计的人能够把各自的资源和才华汇聚起来 ，投入新的项目。世界金融史 ，说究竟 ，就是一部人类不绝发明越来越庞大的"信任之桥"的历史�Ｇ� ，归根结底 ，也是一座信任之桥�Ｇ业穆呒谟冢何铱梢匀ナ谐� ，甚至是在一座陌生都会里 ，遇到一个我从没见过、甚至可能连语言都欠亨的人 ，只要递给对方一块闪亮的金属 ，或者一张彩色纸片 ，他或她就会给我能吃的面包。这就是钱币所创立的信任之桥。虽然 ，硬币和纸币只是开端。几个世纪以来 ，人类发明了越来越庞大的金融装置来构建信任——支票、债券、股票、ETF、贷款、按揭、复利。所有这些工具 ，归根结底 ，都是为了在数十亿陌生人之间建立信任。所有权要体系都是如此。这里需要注意的要害一点是：所有权要体系都是极其人工化的情况。在这样的情况中 ，一种相对狭窄的智能只要专精于一个很是狭窄的智能生态位 ，就足以对世界爆发巨大的影响。一个律师、银行家或政府官员 ，即便连斧头或锤子怎么拿都不知道 ，仍然可以通过移动数据、权要网络把文件从这里转到那里 ，就砍伐整片森林、建起整座都会。虽然 ，如果你把律师从权要体系里拎出来 ，扔进杂乱、无结构的森林里 ，她的执法技术就毫无意义 ，她也基础不可能是黑猩猩、狮子或大象的敌手。但我们已经把权要体系强加到森林之上了。这就是为什么律师的力量 ，比全世界所有狮子加起来还要大。但在那些人类已经创立出来、并强加到世界之上的权要体系中 ，AI已经准备好施展巨大权力了 ，因为AI是天生的权要。举个例子：没有任何律师能记着所有执法和规章 ，AI可以；没有任何会计能记着一家企业或一家银行的全部交易 ，AI可以；没有任何主教能记着全部教会法 ，以及已往2000年来基督教神学家写下的所有神学文本 ，AI却能轻而易举地做到。因此 ，在未来几年里 ，数以百万计的AI权要会越来越多地接管世界的权要体系 ，并且做出不但关乎狮子和黑猩猩、也关乎我们自身生活的决定。AI银行家将决定是否给你贷款 ，AI行政人员将决定是否录取你进大学 ，AI法官将决定是否把你送进监狱 ，企业AI将决定是否给你事情。现在 ，先把"这是好事照旧坏事"这个问题放一边。首先要看到的 ，只是我们所面对变革的规模 ，这些系统很快就会改变所有维系世界运转的系统。三、算法接管：从"人类主编"到"AI主编"到目前为止 ，最好的例子 ，也许就是社交媒体以及社交媒体算法的故事。社交媒体不是由人运行的 ，而是由算法运行的。那些决定并控制社交媒体上信息流动的算法是很原始的AI ，第一代、极其原始、愚蠢而狭窄的AI ，但它们依然彻底改变了世界。社交媒体算法被Facebook、TikTok、X这样的公司付与了一个极其狭窄的目标：最大化用户加入度。让人们在平台上停留更久 ，因为停留时间越长 ，公司赚的钱就越多。在追求用户加入度的历程中 ，这些原始AI学到了一点：要抓住一个人的注意力、把他牢牢粘在屏幕前 ，最简单的要领 ，就是按下他心中的"恼恨""恐惧"或"贪婪"按钮。它们学会了怎么做这件事 ，然后开始在信息空间中大规模流传恼恨、恐惧和贪婪。这就是当下阴谋论、假新闻和社会动荡流行成灾的重要原因之一 ，而这些现象正在削弱全世界的社会。再说一遍 ，这些社交媒体算法其实只是很是原始的AI。要是把它们扔进森林 ，它们不可能造出机械人军队然后试图接管世界。但在社交媒体这个权要体系内部 ，这些能力很是有限的Agent却拥有巨大的力量 ，并且它们已经以相当戏剧性的方法改变了世界。在已往几个世纪里 ，媒体平台上的信息流是由人类编辑控制的。决定报纸头版刊登什么的是人类编辑；决定晚间电视新闻播出哪些内容的也是人类编辑。由此 ，人类编辑塑造了公共讨论 ，他们在现代历史中是极其重要的人物。好比 ，让-保罗·马拉就是通过编辑极具影响力的报纸《人民之友报》 ，塑造了法国大革命的走向。爱德华·伯恩斯坦则通过编辑《社会民主党人报》 ，塑造了现代社会民主主义运动及其思想。有意思的是 ，AI从人类手中接管的最早一批事情之一 ，并不是出租车司机 ，也不是纺织工人 ，而是新闻编辑。一经由列宁和墨索里尼担负的事情 ，如今正由AI来担负。这就是一个信号 ，预示着接下来会爆发什么。四、从内部接管：为什么AI不需要"造反"？好莱坞科幻影戏早就训练观众去畏惧那种大型机械人起义。当我们想到AI脱离人类控制时 ，脑海中浮现的画面往往是《终结者》：一支机械人军队在街头奔驰、向人开枪 ，但这是过失的图像。虽然在乌克兰和加沙这样的地方 ，某些类似情形已经开始泛起 ，但AI不但不是不可能 ，而是相当不太可能以这种方法叛变人