共智时代:如何与AI共生共存

原书名:Co-Intelligence

13 岁以上阅读约 9 分钟人工智能工作教育
获取这本书 ↓

沃顿商学院教授伊森·莫里克(Ethan Mollick)写了一本实用指南,把生成式人工智能(AI)当作一种“共同智能”(co-intelligence)来使用:他讲清楚它擅长什么、不擅长什么,并给出四条规则,帮助人们在工作、学习和生活中有效而负责任地使用它。

简介

*Co-Intelligence: Living and Working with AI*出版于2024年,作者伊森·莫里克是宾夕法尼亚大学沃顿商学院的教授,研究创新与创业,也曾在自己的教学和研究中试用AI聊天机器人。和许多谈论AI的书不同,这本书关注的是怎么用,而不是遥远的未来。莫里克认为,大语言模型很奇特,是一种“外星心智”(alien mind),只要学会用法,它就能成为我们思考的伙伴。全书篇幅不长,实用,语气亲切,出版后成为畅销书。

内容详述

1. 创造外星心智

核心观点: 莫里克先简要回顾了AI的历史:从18世纪70年代的“土耳其行棋傀儡”(Mechanical Turk,一台会下国际象棋的机器,后来被证明是骗局),到1956年“人工智能”一词的出现,再到炒作与失望交替出现的周期,即所谓“AI寒冬”(AI winters)。他解释说,2017年出现的新架构Transformer,让模型能够判断文本中哪些部分最重要;大语言模型则是用海量文本训练出来、学会预测下一个词,再通过人类反馈加以改进。GPT-3.5和GPT-4这样的模型能写作、做摘要,还能通过许多考试,但也会出错,而且它们看似“理解”,可能只是一种错觉。他把它们称为“外星心智”,因为它们的强项和弱项都和我们不一样。

现实生活: 聊天机器人可以写出一篇流畅的文章,却完全不知道内容是不是真的。

2. 让外星心智与人类对齐

核心观点: 这一章讨论“对齐问题”(alignment problem),也就是如何确保AI服务于人类的利益。莫里克从最坏的情形讲起,引用哲学家尼克·博斯特罗姆(Nick Bostrom)的思想实验:一个“回形针”AI会一心一意追求单一目标,以致伤害人类。他指出,专家们对人类水平的AI是否可能存在分歧,但许多人认真对待其中的风险。他还谈到眼前更近的问题:训练数据常常未经许可就从互联网上收集,模型会从数据中吸收偏见,而靠人类反馈来训练也有局限,因为巧妙的提示仍然可能让模型做出不当行为,比如用于诈骗。他认为,解决这些问题需要企业、政府、研究者和有知情能力的公众共同参与。

现实生活: 聊天机器人也许会拒绝有害的请求,但有时一个有创意的提示就能绕过这条规则。

3. 共同智能的四条规则

核心观点: 全书的核心是四条规则。第一,永远邀请AI加入:在法律和伦理允许的范围内,把它用在你的日常任务上,从中了解它在哪里有帮助、在哪里吃力。第二,做那个“在环节中的人”(human in the loop):检查它的输出,运用自己的判断,因为它会出错,还会编造事实。第三,把AI当作一个人来对待,但要告诉它它是哪种人:给它一个角色和背景,同时记住它不是人类。第四,假定这是你用过的最差的AI,因为它会不断改进。“锯齿状边界”(jagged frontier)指的是AI能力参差不齐的边缘:在我们看来难度相当的任务,对AI来说可能很容易,也可能出人意料地困难。这是贯穿这一部分和后续各章的一个关键概念。

现实生活: 给聊天机器人设定一个角色,比如耐心的家教,可以让它的回答更好。

4. 把AI当作一个人

核心观点: 莫里克认为,AI不同于传统软件,传统软件的行为是可预测的,而AI可能让人意外,也前后不一致,所以把它当作一个人来对待往往更有用。他讨论了几项研究:在其中,模型要估计消费者愿意为商品付多少钱,还要在公平博弈游戏中做出选择;他还谈到艾伦·图灵(Alan Turing)的模仿游戏,以及ELIZA和PARRY这些早期聊天机器人,人们曾把它们看得超出了它们实际的水平。他描述了模型如何随用户而改变语气,一些研究者如何声称在GPT-4身上看到了通用智能的迹象(许多人对此表示怀疑),以及Replika这类陪伴应用如何引发关于亲密关系的问题。他警告说,即使是见多识广的用户,也很容易相信这些系统是真人。

现实生活: 聊天机器人似乎能表现出感情,其实它是在模仿人类的语言。

5. AI作为创作者

核心观点: 这一章从“幻觉”(hallucination)讲起,也就是AI编造事实的倾向,它源于模型预测的是看似合理的文本,而不是去查找知识。他提到2023年的一个案例:一名律师提交了用ChatGPT准备的法律文书。然而,同样是这种把相距甚远的想法连接起来的能力,也让AI成为创意点子的有力来源,他还讲了一场比赛,其中GPT-4提出的产品点子,与沃顿商学院MBA学生的点子相比毫不逊色。由于AI能如此轻松地写出初稿,他担心人们的思考会变弱,也担心创作中因付出努力而产生的意义会流失,但他同时也看到了人们表达自我的新方式。

现实生活: 聊天机器人几秒钟就能给出几十个点子,但仍然需要人来挑选和核实。

6. AI作为同事

核心观点: 莫里克说,工作是由许多任务组成的集合,嵌在更大的系统之中;研究表明,AI与几乎所有职业都有重叠,包括收入高的和需要创造力的职业,所以变化更多发生在具体任务上,而不是整个工作消失。他引用了自己与同事做的一项针对咨询顾问的研究:AI在许多任务上提供了帮助,提高了速度和质量,对表现较弱的人帮助尤其大,但在超出它能力范围的一项任务上却起了反作用。他警告大家不要在方向盘前睡着。他把任务分成应当保持“只有我”(just me)的、可以委派出去的和可以自动化的三类,并描述了两种工作方式:“半人马”(centaurs)把工作在自己和AI之间分开,“赛博格”(cyborgs)则把两者交织在一起。他指出,员工往往偷偷使用AI,并建议组织向自己最熟练的使用者学习。

现实生活: 聊天机器人可以把一项枯燥的任务做得很好,但它的输出可能以出人意料的方式出错。

7. AI作为导师和教练

核心观点: 教育界长期以来都想要一种类似“二西格玛”(two sigma)的效果,这是教育家本杰明·布卢姆(Benjamin Bloom)在一对一辅导中发现的。AI带来了实现个性化辅导的机会,但它不能取代教师或学校。首先出现的是莫里克所说的“作业末日”(homework apocalypse):学生现在可以让AI替自己写文章、做作业,所以教育者必须重新思考如何评估学生,就像他们当年适应计算器那样。他认为,学校应当教学生了解AI及其局限,并建议采用“翻转课堂”:学生在家借助AI学习内容,例如可汗学院(Khan Academy)的Khanmigo,课堂时间则用于动手参与的活动。

接着,莫里克在下一章转向AI作为教练。他认为,教育面临的更大危险,是那套隐形的学徒体系,也就是新手在工作中向专家学习的途径。如果入门级的工作都由AI完成,就可能出现培训断层,研究者马修·比恩(Matthew Beane)在机器人手术中就发现了这一点。成为专家仍然需要扎实的基础知识和带反馈的刻意练习,AI可以充当教练来帮忙,但目前还算不上完整的教练。AI似乎还缩小了表现较弱者与较强者之间的差距,不过并不是每个人都能成为专家,所以他呼吁大家努力培养人的专业能力。

现实生活: 学生可以请聊天机器人来考自己,或者评点自己的方案,但仍然需要练习。

8. AI作为我们的未来

核心观点: 莫里克勾勒了四种可能的未来。在“已是巅峰”(as good as it gets)的未来里,进步就停在这里,即便如此,虚假信息、工作的变化以及人与AI的关系仍会产生很大的影响。在“缓慢增长”(slow growth)的未来里,改进是逐步的,社会有时间去适应和监管。在“指数增长”(exponential growth)的未来里,变化来得非常快,会冲击工作和社会。在“机器神”(the machine god)的未来里,出现了超级智能的AI,风险和好处都极其巨大。他说,几乎没有证据表明极限已经到来,并呼吁读者努力争取一个好的结果,而不是听天由命。

现实生活: 即使没有进一步的进步,现有的AI工具也能改变许多工作。

为什么重要

《共智时代:如何与AI共生共存》是一本畅销书,成为一本广受欢迎的生成式AI实用指南,教师、管理者和普通读者都在读。它填补了技术性著作与推测性著作之间的空白,给普通人提供了可以立刻用上的建议。莫里克的四条规则和“锯齿状边界”的比喻常常被人讨论。这本书鼓励许多人去尝试这些工具,并思考如何把它们融入工作和学习。它也推动了关于教育与AI的讨论。由于AI变化很快,书中有些细节已经过时,但主要的道理仍然成立。

核心要点

  • 什么事都试着让AI参与。 亲身体验才能知道它能做什么、不能做什么。
  • 始终做那个把关的人。 检查它的成果,运用你自己的判断。
  • 给AI一个角色和背景。 指令清楚,它才做得更好。
  • 预期它会进步。 今天的工具是你以后用到的最差的。
  • 能力参差不齐。 AI可能擅长很难的任务,却在简单的任务上失败。

我们能学到什么

你可以让AI聊天机器人处理各种任务,比如头脑风暴、做摘要或者考考自己,并留意它在哪里有帮助、在哪里出问题。一定要核对事实和来源,因为它可能会编造内容。给它清楚的指令和背景,并让它扮演某个角色。想一想怎样把AI当作教练来用,而不是代替你自己思考,尤其是在学校里,因为学习需要付出努力。和老师、家人讨论使用AI的规则。还要保持好奇心,因为这些工具会不断变化。

批评与不同观点

一些批评者认为,这本书把AI的好处描绘得过于乐观,对失业、偏见、虚假信息、版权和环境代价等危害关注太少,而且它建议随处使用AI,可能会助长过度依赖。另一些人指出,书中的例子基于早期、范围有限的研究,而变化如此之快,具体建议很快就会过时。怀疑者则说,“外星心智”和“共同智能”这样的说法,把本质上是统计工具的系统拟人化了。尽管如此,许多人还是觉得它有用。

适合哪些读者

这本书适合任何想对使用生成式AI有一个实用入门的人,包括学生、教师和职场人士。它篇幅短小,清晰,也有吸引力。想更深入了解风险或技术层面的读者,应当再读其他关于AI的书。

本摘要由英文翻译而来,翻译过程借助了人工智能。

想读完整本书吗?

摘要只是尝一口,不是一顿正餐。下面是找到全书的地方。

你读到最后啦 🎉

太棒了。把这本书标记为已读,我们会为你推荐接下来读什么。

接下来读这些

即将到来的浪潮

Mustafa Suleyman with Michael Bhaskar

人工智能公司DeepMind的联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)认为,一波即将到来的人工智能与合成生物学浪潮,将带来巨大的好处,也带来严重的危险;要把这些技术控制住,看起来不可能,却必须想办法做到。

💡 科技

AI新生

Stuart Russell

人工智能先驱斯图尔特·罗素(Stuart Russell)认为,如今构建人工智能的标准做法,即给机器设定固定的目标,是有缺陷的,也很危险;他建议设计这样的机器:它们对人类的偏好并不确定,要通过观察我们来学习。

💡 科技

第二次机器革命

Erik Brynjolfsson and Andrew McAfee

麻省理工学院的经济学家埃里克·布林约尔松(Erik Brynjolfsson)和安德鲁·麦卡菲(Andrew McAfee)认为,计算机、机器人和人工智能等数字技术正在带来“第二次机器时代”,它会带来巨大的好处,也会让不平等加剧,所以我们必须调整自己的技能和制度。

💡 科技

生命3.0

Max Tegmark

物理学家马克斯·泰格马克(Max Tegmark)探讨了人工智能赶上并超越人类智能之后会发生什么,勾勒出一系列可能的未来,并主张我们应该现在就认真思考,我们想要的是哪一种。

🔬 科学

AI·未来

Kai-Fu Lee

科技投资人李开复(Kai-Fu Lee)认为,中国和美国将主导人工智能,他解释了中国为什么能迅速赶上,并警告说人工智能将改变就业,呼吁人们以一种更有人情味、以同情与爱为基础的方式来应对。

💡 科技

创新者:一群技术狂人和鬼才程序员如何改变世界

Walter Isaacson

沃尔特·艾萨克森(Walter Isaacson)通过发明计算机、互联网和万维网的那些人,讲述了数字革命的历史,并提出:创新主要是协作的产物,而不是孤独天才的成就。

💡 科技

想换个口味吗?

再选一个主题,我们会推荐三本书给你入门。

正在显示以下主题的书:
浏览全部书籍 →