尤瓦尔·诺亚·赫拉利(Yuval Noah Harari)梳理了人类共享信息的历史,从故事、文字到印刷术和算法,并警告说,人工智能是一种全新的网络,可能重塑权力,甚至威胁民主。
简介
Nexus: A Brief History of Information Networks from the Stone Age to AI 由赫拉利于2024年出版。在此前的著作中,他讲解了人类的过去,也设想过未来。这一次,他聚焦于信息:信息如何在人与人之间流动,由谁掌控,又产生什么作用。他从一个谜题开篇:人类给自己起名为“智人”,也就是有智慧的物种,积累了庞大的知识和力量,却依然容易陷入妄想,甚至走向自我毁灭。他的核心论点是,信息更多并不会自动带来更多的真相或智慧;而人工智能的发明让这个问题变得紧迫,因为它能自己做出决定,自己产生新的想法。他通过一个个例子来讲这段历史,从宗教到印刷机,再到社交媒体。
内容详述
1. 信息的作用是连接,而不只是求真
核心观点: 赫拉利从两个古老的警告讲起:希腊神话中的法厄同(Phaethon)和歌德那首讲魔法师学徒的诗。他认为,这两个故事都把问题归咎于个人的骄傲和贪婪,而人类的力量其实来自大规模网络中的合作。接着,他质疑了他所说的对信息的天真看法:信息反映现实,信息越多越接近真相,而真相带来权力和智慧。他承认,这种看法有时是对的,比如自歌德的时代以来儿童死亡率的大幅下降,就依赖于医学数据的收集和共享。但他指出,大多数信息根本不描述现实。信息最根本的作用是把人和事物连接起来,而它既可以靠事实,也可以靠错误、幻想和虚构来做到这一点。占星术影响了历史几千年;《圣经》虽然对人类起源、流行病的成因这类问题是个糟糕的指南,却把数十亿人联结进了宗教网络。故事可以把数百万陌生人聚在一起,因为人们只需要相信同一个故事,而不必彼此认识。赫拉利同样反对相反的民粹主义观点,也就是认为信息只是武器、根本不存在客观真相,他寻找的是两者之间的中间立场。所以,信息网络很强大,但它既能传播事实,也能传播谎言和幻想。
现实生活: 一条在学校里迅速传开的谣言,不管真假,都可能把一群人拉到一起,也可能把他们拆散。
2. 文件、官僚体制与圣典
核心观点: 赫拉利认为,每个人类网络都必须同时做两件事:发现真相,以及在大量人群中维持秩序。这两个目标常常冲突,因为虚构比真相更容易把人聚拢在一起,而真相复杂,有时还令人痛苦。故事最先出现,他把书写的文件称为第二大信息技术。他说,从古代王国到现代国家,大型网络都既依靠编造神话的人,也依靠官僚,这两类人往往朝相反的方向使劲。《圣经》就说明了这一点:其中的故事对基督教会至关重要,但这本书之所以存在,是因为教会官员挑选、编辑并传播了这些故事,后来天主教会和新教教会在神话与官僚体制之间取得了不同的平衡。他用这些例子说明,权力不仅来自对事实的了解,还来自维持秩序的能力,这就是科学家和工程师通常要听命于运行这套系统的人的原因。
现实生活: 社团的规章能让每个人遵守同样的规则,但总得有人来决定规则是什么意思。
3. 自我纠错的系统
核心观点: 一个主要的主题,是信息网络纠正自身错误的能力。赫拉利把自我纠错机制薄弱的机构,比如天主教会,同自我纠错机制强大的机构作了比较,后者如科学学科,它们依靠同行评审期刊之类的工具。独立的法院是另一个例子。他说,薄弱的机制可能导致灾难,比如近代早期的猎巫运动;而强大的机制有时会从内部动摇一个网络。他甚至提出,天主教会也许是历史上最成功的机构,尽管(或者正因为)它的纠错机制薄弱。他还把民主制度和极权体制作了对比:民主制度中,信息通过许多独立的渠道流动,而极权体制则试图把信息集中在一个中心,他也指出这两种选择各有好处和代价。一个清楚的例子是美国宪法,它公开承认自己是人类的创造,因此包含了修改它的办法;在宪法写成后不到一个世纪,就有一项修正案废除了奴隶制。而自称来自神的文本,比如十诫,并没有提供这样的程序。
现实生活: 一支球队,如果在输了比赛之后愿意接受反馈,就会进步;如果只怪裁判,就不会。
4. 印刷术、猎巫与思想的传播
核心观点: 印刷机帮助传播了新思想和科学,但赫拉利指出,它同样传播了大规模的恐慌。他讲述了对女巫的恐惧如何在近代早期的欧洲蔓延,他认为这场灾难与薄弱的自我纠错有关,而且得到了一些描写猎巫的书的助推,比如《女巫之槌》(Malleus Maleficarum),这本手册成了畅销书。他说,印刷术并不能保证真相取胜,能够检验说法、纠正错误的机构,比如科学,比技术本身更重要。
现实生活: 一段爆红的视频可能比一份严谨的解释更刺激,但这并不意味着它更准确。
5. 一种新的力量:人工智能
核心观点: 赫拉利认为,人工智能不同于以往的技术,因为它不只是一种工具:它能自己做决定、创造新想法,还能以人类觉得陌生的方式思考。他举了围棋程序阿尔法围棋(AlphaGo)的例子,它走出了连高水平棋手都看不懂的招法。算法已经在决定展示什么,从而影响着人们读什么、看什么;电脑也已经参与了关于房贷、工作和刑期的决定。他把由人脑运行的旧式网络,比如罗马帝国,同由硅芯片电脑组成的新网络作了对比:后者可以不眠不休地监视,不遗忘地记住,在某种意义上还可以永不死去地统治。他说,如果给机器设定的目标与人类的价值观不一致(即所谓的对齐问题),就可能导致有害的结果。他的主要例子,是社交媒体系统会推送能引发愤怒的内容,因为这样能让人持续停留,其中包括脸书(Facebook)在2016年和2017年缅甸针对罗兴亚人(Rohingya)的暴力事件中所起的作用。
现实生活: 如果一个应用的设计目的只是让你一直看下去,它可能会推给你更多令人心烦的内容,因为这样能抓住你的注意力。
6. 独裁者、民主制度与未来
核心观点: 最后一部分探讨人工智能可能怎样影响政治。赫拉利问,当人们再也分不清自己是在和真人还是聊天机器人交谈时,民主社会怎样维持公共对话?当经济越来越多地由算法运行时,民选领导人又该怎样管理?对独裁政权,他既问人工智能如何为其所用,比如充当不知疲倦的监视者,也问人类独裁者怎样去恐吓或审查一个自己也可能夺权的人工智能,因为人工智能甚至可以取代人类决策者。他还担心世界被一道“硅幕”(Silicon Curtain,也是最后一章的标题)分裂:一边是竞相打造人工智能的对立大国,甚至是人类和他们新的人工智能主人之间的分裂。但他并没有说未来已经注定。他呼吁制定规则,比如禁止机器人冒充人类,也呼吁建立能够发现并纠正错误的强大机构,让人类始终掌握主导权。
现实生活: 知道一条消息是人写的还是机器写的,是一项你可能会想要拥有的基本信息。
为什么重要
《智人之上》 问世之时,公众对人工智能、社交媒体和错误信息的讨论正十分激烈。作者拥有大量读者,这本书在多个国家成为畅销书,它为这场往往只盯着最新工具的争论带来了历史的视角。书中认为,我们组织信息的方式一直在影响谁来掌权,而我们正处在决定如何治理人工智能的关键时期。它得到了媒体的广泛评论和讨论。不论你是否同意作者的警告,它提供了一个关于连接、自我纠错和权力的框架,对思考数字时代很有用。
核心要点
- 信息把人连接起来。 故事和记录创造出共同的世界。
- 数据多不等于真相多。 谎言和幻想同样会传播。
- 自我纠错至关重要。 能发现并改正自身错误的机构,更能避免灾难。
- 人工智能是行动者,而不只是工具。 它能独立做决定、独立创造。
- 选择依然存在。 法律和制度可以决定人工智能如何被使用。
我们能学到什么
想一想你所属的信息网络,比如你的朋友、学校和网上的信息流,并问问:是谁在决定我看到什么?养成核查来源、乐于接受纠正的习惯。支持允许提问和质疑的机构,比如自由的新闻界、独立的法院和开放的科学。了解推荐系统是怎样运作的,并且时不时远离它们休息一下。当你读到有关人工智能的内容时,问一问:如果出了问题,由谁来负责?这些习惯有助于让人的判断始终居于中心。
批评与不同观点
一些评论者说这本书过于宽泛:《卫报》(The Guardian)指出,书中有许多引人入胜的讨论都太简短,而且有盲点,比如对资本主义,以及打造人工智能的公司背后的逐利动机几乎没有着墨。该领域的专家批评了赫拉利的说法,即认为信息越多就越能带来真相或权力是天真的。也有评论者觉得,这本书作为诊断和行动的呼吁更出色,而不是一份详细的计划,其中关于如何监管人工智能的建议显得单薄。支持者回应说,这本书的目的是引发讨论,它的警告值得重视。
适合哪些读者
这本书适合想思考技术、政治和历史,并喜欢宏大论证的读者。它文笔清晰,故事很多。想要了解人工智能的技术细节或具体政策设计的人,应当去看专业的资料。
本摘要由英文翻译而来,翻译过程借助了人工智能。
想读完整本书吗?
摘要只是尝一口,不是一顿正餐。下面是找到全书的地方。
你读到最后啦 🎉
太棒了。把这本书标记为已读,我们会为你推荐接下来读什么。
接下来读这些
今日简史:人类命运大议题
Yuval Noah Harari
历史学家尤瓦尔·诺亚·赫拉利(Yuval Noah Harari)审视人类当今面临的最大挑战,从人工智能、假新闻到民族主义、宗教和意义,并探讨在飞速变化的世界里,我们如何才能清醒地思考、保持心智稳定。
🏛️ 历史人类简史:从动物到上帝
Yuval Noah Harari
人类之所以能统治地球,不是因为我们是最强壮的动物,而是因为我们能相信共同的故事(神、国家、金钱、公司),让数以百万计的陌生人得以合作。
🏛️ 历史未来简史
Yuval Noah Harari
人类已在很大程度上驯服了饥荒、瘟疫和战争,现在可能转而追求永生、幸福和神一般的能力;新技术和以数据为中心的信念,也许会改变“做人”的含义。
🏛️ 历史极权主义的起源
Hannah Arendt
汉娜·阿伦特(Hannah Arendt)考察了反犹主义、帝国主义和欧洲社会的瓦解,如何为纳粹德国和斯大林治下的苏联这两个极权政权铺平了道路,以及是什么让这些政权成为前所未有的、格外可怕的新事物。
🏛️ 历史暴政:二十世纪的二十个教训
Timothy Snyder
历史学家蒂莫西·斯奈德(Timothy Snyder)从20世纪法西斯主义、共产主义和其他独裁统治的历史中提炼出二十条实用的教训,帮助普通公民在今天的民主社会中捍卫自由。
🏛️ 历史枪炮、病菌与钢铁
Jared Diamond
有些社会后来征服了别的社会,不是因为他们的人更聪明或更优秀,而是因为地理条件让他们在农业、牲畜、病菌和技术上先走了一步。
🏛️ 历史想换个口味吗?
再选一个主题,我们会推荐三本书给你入门。