生命3.0

原书名:Life 3.0

13 岁以上阅读约 6 分钟人工智能物理学未来学
获取这本书 ↓

物理学家马克斯·泰格马克(Max Tegmark)探讨了人工智能赶上并超越人类智能之后会发生什么,勾勒出一系列可能的未来,并主张我们应该现在就认真思考,我们想要的是哪一种。

简介

Life 3.0: Being Human in the Age of Artificial Intelligence 由麻省理工学院(MIT)的物理学教授马克斯·泰格马克于2017年出版,他还共同创立了生命未来研究所(Future of Life Institute),这个机构研究先进技术带来的风险。他把生命分为三个阶段:生命1.0,身体和心智都靠进化,比如细菌;生命2.0,身体靠进化,但心智可以通过学习来设计,比如人类;生命3.0,硬件和软件都可以自行设计,借助先进的人工智能,这有可能实现。这本书融合了科学、哲学和推测,开头是一个虚构的故事。

内容详述

1. 欧米茄的故事与生命3.0的概念

核心观点: 泰格马克以一篇简短的虚构故事开篇,讲的是一个叫“欧米茄”(Omegas)的团队和他们的超级智能人工智能“普罗米修斯”(Prometheus)。这个故事说明了这样一个系统可能如何改变社会。接着他解释了生命1.0、2.0和3.0,并称如何应对生命3.0的到来,是我们这个时代最重要的议题,因为它可能带来巨大的益处,也可能带来巨大的伤害。

现实生活: 一种能自我改进的工具,变化的速度可能快到我们跟不上。

2. 什么是智能?

核心观点: 作者把智能定义为完成复杂目标的能力,并说它可以存在于不同的形式中,既可以在生物大脑里,也可以在机器里。他认为,记忆、计算和学习并不取决于它们运行所依托的材料,所以它们既可以存在于大脑中,也可以存在于机器中。他指出,计算机在国际象棋和围棋等特定任务上已经超过人类,但在通用能力上还没有。他区分了狭义人工智能(narrow AI)与通用人工智能(artificial general intelligence),后者可以完成人类能做的任何任务。

现实生活: 一个国际象棋程序能打败任何人类,却做不了一个三明治。

3. 近期的未来:工作、武器与法律

核心观点: 接下来的一章,泰格马克考察了人工智能在未来几十年里的影响。它可能改变就业市场,因为机器承担了更多的工作,这会引出关于收入和人生意义的问题,他还讨论了哪些类型的工作最安全。自主武器可能带来危险,他探讨了如何避免这类武器的军备竞赛。他也谈到了人工智能在医疗和法律中的应用,并强调我们必须确保人工智能系统可靠而安全,让它们做我们想让它们做的事,而不会崩溃或被黑客攻击。

现实生活: 一辆自动驾驶汽车引出了一个问题:出了车祸,该由谁负责。

4. 通往超级智能之路

核心观点: 泰格马克讨论了“智能爆炸”(intelligence explosion)的可能性:一个能改进自身设计的人工智能,会引发能力的迅速飞跃。他说,没有人知道这会在什么时候发生,或者会不会发生,专家们意见不一,对人类水平的人工智能何时到来有各种各样的预测。但由于利害攸关,他认为做好准备是明智的。他还认为,主要的风险不是恶意,而是一个强大的人工智能的目标与人类的目标不一致。

现实生活: 一个能力很强的助手如果误解了你的心愿,就可能造成损害。

5. 十二种可能的未来

核心观点: 这本书的核心是一份关于超级智能出现之后的各种情景清单。有的情景里,一个仁慈的人工智能为了人类的利益而统治,或者扮演一个守护者,只在需要防止灾难时才出手;有的情景里,人类掌控着一个被限制住的超级智能;有些描绘的是更先进的人工智能被阻止发展的世界,阻止者可能是一个守护者人工智能、一个监控国家,也可能是人们自己放弃了先进技术;还有些描述人类被机器取代,也许像动物园里的动物一样被养起来,或者走向灭绝。泰格马克邀请读者想一想自己更喜欢哪一种、为什么,并指出我们都是这个选择的一部分。

现实生活: 想一想你想要什么样的世界,有助于你决定该为什么而努力。

6. 目标、意识与意义

核心观点: 最后几章转向了更深层的问题。我们如何让人工智能的目标与人类的价值观保持一致,也就是所谓的“对齐问题”(alignment problem)?我们自己的目标是什么,把它们编成程序又意味着什么?泰格马克讨论了意识,以及机器是否可能拥有主观体验,他说这是一个科学问题。他主张,我们现在就该决定如何构建人工智能,让生命得以繁荣,他还考察了物理定律对遥远未来的宇宙中的生命允许些什么。

现实生活: 教一个系统去做我们真正想要的事,比告诉它做什么要难得多。

为什么重要

《生命3.0》 是一本畅销书,和尼克·博斯特罗姆(Nick Bostrom)的 Superintelligence 一样,帮助把人工智能安全的讨论带给了广大读者。科技界的一些重要人物称赞了它,它提出的生命三个阶段的框架和一系列情景,给了人们思考未来的方式。泰格马克共同创立的生命未来研究所推动了相关研究和公开声明,比如2015年呼吁开展安全人工智能研究的一封公开信。这本书出版于大语言模型兴起之前,从那以后,它提出的问题变得更加紧迫。

核心要点

  • 人工智能可能改变一切。 机器也许有一天会赶上或超过人类的智能。
  • 未来是开放的。 可能的结果有很多种。
  • 对齐是关键的挑战。 人工智能的目标必须与人类的价值观一致。
  • 现在就要准备。 利害攸关,值得早做思考。
  • 人人都有发言权。 未来不该由少数人来决定。

我们能学到什么

你可以借这本书想一想,你希望从人工智能那里得到什么,以及应该由什么样的价值观来指引它。了解现有的人工智能系统是如何工作的,以及它们能做什么、不能做什么。参与有关监管和伦理的讨论,支持安全方面的研究。想一想你自己的工作可能会如何变化,哪些技能仍会有价值。同时,对预测要保持谨慎,因为专家们意见不一。并且要记住,技术是一种由人类的选择塑造的工具。

批评与不同观点

一些人工智能研究者说,这本书带有推测性,高估了超级智能出现的可能性,而且对遥远情景的担忧,分散了人们对当下问题的注意,比如偏见和滥用。许多计算机科学家仍然强烈反对超级智能的人工智能可能失控的观点。评论者还觉得有些部分不够有说服力:《科克斯书评》(Kirkus Reviews)称书中针对大规模失业提出的解决办法有些牵强,《华尔街日报》(Wall Street Journal)则称邀请读者选择未来的做法高尚但天真。另一些人指出,书中呼吁保持对超级智能机器的控制,与承认这几乎不可能做到之间,存在着尴尬的矛盾。争论仍在继续。

适合哪些读者

这本书适合对技术、未来和重大问题感兴趣的读者,包括年龄较大的青少年。它引人入胜,不过带有推测性。想读更偏技术、或者更谨慎的论述的人,可以去读其他关于人工智能的书。

本摘要由英文翻译而来,翻译过程借助了人工智能。

想读完整本书吗?

摘要只是尝一口,不是一顿正餐。下面是找到全书的地方。

你读到最后啦 🎉

太棒了。把这本书标记为已读,我们会为你推荐接下来读什么。

接下来读这些

超级智能

Nick Bostrom

哲学家尼克·博斯特罗姆(Nick Bostrom)认为,如果机器变得比人类聪明得多,它们就可能变得极其强大;除非我们能解决如何给它们设定对人类安全的目标这个问题,否则后果可能是灾难性的。

💡 科技

AI新生

Stuart Russell

人工智能先驱斯图尔特·罗素(Stuart Russell)认为,如今构建人工智能的标准做法,即给机器设定固定的目标,是有缺陷的,也很危险;他建议设计这样的机器:它们对人类的偏好并不确定,要通过观察我们来学习。

💡 科技

即将到来的浪潮

Mustafa Suleyman with Michael Bhaskar

人工智能公司DeepMind的联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)认为,一波即将到来的人工智能与合成生物学浪潮,将带来巨大的好处,也带来严重的危险;要把这些技术控制住,看起来不可能,却必须想办法做到。

💡 科技

智人之上

Yuval Noah Harari

尤瓦尔·诺亚·赫拉利(Yuval Noah Harari)梳理了人类共享信息的历史,从故事、文字到印刷术和算法,并警告说,人工智能是一种全新的网络,可能重塑权力,甚至威胁民主。

🏛️ 历史

今日简史:人类命运大议题

Yuval Noah Harari

历史学家尤瓦尔·诺亚·赫拉利(Yuval Noah Harari)审视人类当今面临的最大挑战,从人工智能、假新闻到民族主义、宗教和意义,并探讨在飞速变化的世界里,我们如何才能清醒地思考、保持心智稳定。

🏛️ 历史

时间简史

Stephen Hawking

世界上最伟大的物理学家之一,几乎不用数学,向读者讲述我们对宇宙的起源、结构和命运有哪些认识,从大爆炸、黑洞,一直讲到时间本身的性质。

🔬 科学

想换个口味吗?

再选一个主题,我们会推荐三本书给你入门。

正在显示以下主题的书:
浏览全部书籍 →