THE COMING WAVE

原題:The Coming Wave

対象年齢:13読了目安 9分人工知能バイオテクノロジー
内容に関する注意 人為的に作られたパンデミック、サイバー攻撃、テロなど、破局的なリスクについての議論
本を手に入れる ↓

AI企業ディープマインド(DeepMind)の共同創業者ムスタファ・スレイマンは、人工知能と合成生物学というこれから押し寄せる波が、大きな恩恵と深刻な危険をもたらすと論じ、これらの技術を封じ込めるのは不可能に見えるが、何とかして可能にしなければならない、と訴えます。

概要

The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma は、2023年に、作家のマイケル・バスカー(Michael Bhaskar)と協力して、ムスタファ・スレイマン(Mustafa Suleyman)が出版した本です。スレイマンは2010年にディープマインドを共同で創業し(のちにグーグルに買収されました)、その後インフレクションAI(Inflection AI)という会社を立ち上げました。自分はキャリアの多くをAIの開発に費やしてきた、とスレイマンは語ります。そして、高度なAIと合成生物学という二つの技術が、「やってくる波」の中心にあり、そのまわりでロボット工学や量子コンピューターなどの技術が育ちながら、社会を作り変えていく、と論じます。本は、この波の姿と、それが突きつける「封じ込めの問題」、そして封じ込めを可能にするかもしれない10の段階を描きます。回想録であり、歴史であり、主張でもある一冊です。

あらすじ

1. 波、ジレンマ、そして盲点

考え方: スレイマンはまず、人間の世界の土台には知能と生命の二つがあり、新しい技術の波は、そのどちらも設計できる力を私たちに与えつつある、と言います。この波はかつてない規模の富を生むが、急速に広がるため、悪意のある人にも力を与え、不安定化や、さらには破局の恐れもある、と述べます。2010年に、デミス・ハサビス(Demis Hassabis)、シェーン・レッグ(Shane Legg)とともにディープマインドを共同創業し、人間の知能を再現することを目指したこと、そして技術が進むにつれて自分の懸念が大きくなったことを語ります。中心にある問題を、ジレンマと名づけます。こうした技術を作ることも、作らないことも、破局か、監視によるディストピアへつながる危険があるからです。さらに、「悲観の回避」(pessimism aversion)についても述べます。これは、とくに力のある人々に見られる、恐ろしい証拠から目をそらす感情的な癖のことです。テクノロジー界の指導者たちの前で警告を訴えたのに、肩をすくめて流されたこと、安価なDNA合成についてのセミナーで、聴衆がリスクを認めようとしなかったことを振り返ります。なお、本の短いプロローグは、AIが書いたものだと、本文で明かされます。

実生活では: 結果が怖いからと、気がかりな健康診断を先延ばしにするのは、誰にでもある目をそらし方です。

2. 拡散と封じ込めの問題

考え方: 第一部は、技術は波のようにやってくる、と論じます。それぞれの波は、蒸気機関、電気、内燃機関、コンピューターといった、汎用技術を中心に生まれます。技術がいったん実用になれば、安くなり、広がっていきます。スレイマンは自動車を例にします。ヘンリー・フォードのT型とベルトコンベヤー式の組み立てラインのあと、車を持つアメリカ人の割合は、1915年のおよそ10パーセントから、1930年には59パーセントに上がりました。次に、封じ込めの問題、つまり、技術を監視し、抑え、制御し、場合によっては止める力の問題に話を進めます。発明者は、自分の発明がどうなるかについて、すぐに主導権を失います。エジソンの蓄音機、ノーベルの爆薬、グーテンベルクの印刷機は、どれも作った人の予想しなかった方向へ進みました。社会はしばしば「ノー」と言おうとしてきて、オスマン帝国は印刷機の導入を長く遅らせましたが、抵抗はやがて弱まりました。核兵器は部分的な例外で、費用、条約、恐怖、そして運によって抑えられてきましたが、それでも事故や、あわやという事態はありました。

実生活では: 携帯電話が安くなると、ほとんどの人が持てるようになりました。

3. 新しい波、知能と生命、そのほか

考え方: 第二部は、波そのものを描きます。AIについては、2012年にDQNというプログラムがアタリのゲームを学習したこと、2016年のアルファ碁(AlphaGo)とイ・セドルの対局、ディープラーニング、ChatGPTのような大規模言語モデルの台頭を挙げます。そして「人工的な有能な知能」(artificial capable intelligence)という考え方を提案します。これは、AIが人間のほとんど監督なしに、複雑な目標を達成できる地点のことで、スレイマンは、近い将来のこの節目のほうが、超知能をめぐる議論よりも重要だと論じます。生物学については、ゲノム解読、遺伝子を編集するCRISPR(クリスパー)、DNA合成によって、DNAを読み、編集し、書くことができるようになったこと、そしてディープマインドのアルファフォールド(AlphaFold)が、AIと生物学が互いを高め合うことを示したことを説明します。この二つのまわりには、ロボット工学、量子コンピューター、ナノテクノロジー、新しいエネルギー源があります。スレイマンが期待する恩恵には、新しい薬、よりクリーンなエネルギー、ほとんど誰でも専門家の助けを得られることなどがあります。

実生活では: 科学者が新しい分子を設計するのを助けるツールは、医療を加速させるとともに、リスクも高めます。

4. これまでと違う四つの特徴

考え方: スレイマンは、四つの特徴のために、この波はこれまでの波より封じ込めにくい、と言います。非対称性とは、小さな存在が巨大な影響を及ぼしうることです。2022年に、ウクライナの小さなドローン部隊が、キーウ近郊でロシアの隊列を足止めするのを助けた例を挙げます。超進化とは、イノベーションが加速し、物理的な世界がデジタルの速さで動きはじめていることです。多用途性とは、一つの技術がさまざまな目的に役立つことです。薬を見つけるために作られたAIが、毒を探すよう頼まれると、数時間で数万種類もの有毒な分子を提案できました。自律性とは、システムが人間の承認なしに行動し、戦略を見つけるようになっていくこと、そして、その内部の仕組みの説明がしばしば難しいことです。スレイマンは、スチュアート・ラッセル(Stuart Russell)の「ゴリラ問題」にも触れます。より知的な存在が、最終的に私たちを封じ込めることになるかもしれない、という懸念です。

実生活では: 誰もが良いことに使える道具は、少数の人の手で悪用されることもあります。

5. 止められない動機

考え方: では、なぜ単純に止めないのでしょうか。スレイマンは、波を前に進める力を挙げます。国どうしの競争(アルファ碁の勝利は、中国ではAIにおける「スプートニク・ショック」(Sputnik moment)だと受けとめられた、と述べます)、公開と論文発表を評価する研究の文化、巨額の経済的な報酬、食料や気候といった切迫した地球規模の必要、そして人間の自尊心です。これらは互いを強め合うので、速度を落とすことは、国にとっても企業にとっても研究者にとっても、利益に反することになります。

実生活では: 競争している全員が、取り残されることを恐れているとき、最初に速度を落とそうとする人はいません。

6. 重圧にさらされる国家

考え方: 第三部は国民国家を見ます。スレイマンは、国家を、技術を封じ込められる主な担い手と見ていますが、その国家はすでに、信頼の低下と格差の拡大に直面しています。この波は、その弱点を増幅するでしょう。2017年のランサムウェア攻撃WannaCryは、アメリカの情報機関から盗まれたツールをもとにしたもので、封じ込められなかった非対称性の例として挙げられます。より安い兵器やサイバー攻撃、ディープフェイクと偽情報、研究所の事故による漏えい、大量の失業について警告します。権力は、集中する可能性もあります。権威主義的な支配や巨大な新しい企業が力を増すからです。分散する可能性もあります。人々のグループが、従来の枠組みの外で生きる力を得るからです。

実生活では: 消防の体制が弱くなった町は、新しい危険が現れたとき、いっそう大きな危険にさらされます。

7. 破局かディストピアか

考え方: 第12章は、ジレンマをはっきりと述べます。波が封じ込められなければ、悪意のある人が、人為的に作られたパンデミックのような災害にそれを使うかもしれません。スレイマンは、1990年代のオウム真理教の攻撃を例に、限られた手段でも、決意した集団は被害を生じさせうることを示します。しかし、いちばん安全に見える答え、つまり全面的な監視と統制は、ディストピアにつながります。技術を止めることも出口にはなりません。停滞は、それ自体が崩壊を招くからです。人類は、この両極のあいだの狭い道を進まなければならない、とスレイマンは言います。

実生活では: 自由が多すぎると有害な人が動きやすくなり、統制が多すぎると自由が失われかねません。

8. 封じ込めへの10の段階

考え方: 第四部は、規制だけでは足りず、いまの世界では封じ込めは不可能だと論じます。そうした条件を変えるために、同心円状に並んだ10の段階を提案します。アポロ計画のような規模で進める、技術的な安全研究。監査。先端半導体の輸出規制のような、開発を遅らせる要所。作り手、つまり批判する人こそ作る側に回るべきだということ。利益と目的のバランスをとる企業。自前の専門性を築き、規制する政府。同盟と条約。航空業界のように、失敗から公然と学ぶ文化。市民の運動。そして10番目が、狭い道そのもの、つまりすべての対策のあいだの一貫性です。どれか一つでは足りず、スレイマンは封じ込めを終わりのない努力と呼びます。始めるべき時は今だ、と述べます。

実生活では: 何重もの安全策は、一つだけの安全策より強くなります。

なぜ重要か

『THE COMING WAVE』は2023年に、ChatGPTとGPT-4が生成AIを世間の話題にした直後に出版され、その分野の形成に関わった人が書いたものでした。悪用についての警告と、規制は必要だが十分ではないという主張は、AIとバイオテクノロジーをどう統治するかという議論に加わりました。「封じ込めの問題」という概念は、強力な技術を制御するという課題に名前を与えました。この本は、スチュアート・ラッセルにも触れながら超知能をめぐる議論に言及しますが、より近い将来の能力と、政治的・社会的な問いのほうが、もっと注目されるべきだと論じます。また、そもそも封じ込めが可能なのか、企業と政府はどんな役割を果たすべきか、という問いも提起しました。

要点

  • 技術は広がる。 役に立つ技術は拡散し、押しとどめるのが難しいことを、歴史が示しています。
  • 新しい波がやってくる。 AIと合成生物学は、そのまわりのロボット工学などの分野とともに、生活を一変させるかもしれません。
  • 恩恵は大きい。 医療、エネルギー、専門的な助けが良くなる可能性があります。
  • 四つの特徴がリスクを高める。 非対称性、超進化、多用途性、自律性が、この波を封じ込めにくくしています。
  • 悲観の回避は罠になる。 不安な証拠から目をそらすと、行動できなくなります。
  • 封じ込めには多くの対策が必要。 技術的な安全から条約や世論の圧力まで、10の段階が連携しなければなりません。

学べること

この本は、強力な技術がどのように開発され、どのように統治されるべきか、そのなかで一般市民がどんな役割を果たせるかを考えるのに役立ちます。AIとバイオテクノロジーについて学び、規制をめぐる議論を追ってみましょう。企業に透明性と安全性を求める立場を支持することもできます。関心があれば、安全や政策の分野に進むことも考えてみてください。誇大な宣伝にも恐怖にも注意し、バランスのとれた情報を探しましょう。そして、技術の未来は多くの人の決定にかかっていて、世論の力がそれを形づくる助けになりうる、ということを覚えておきましょう。

批評と異なる見方

著者自身、読者のなかには大げさだと感じる人がいるだろうと見ており、自分がAI業界の内部の人間として偏っていることも認めています。懐疑的な人は、ほぼ避けられない拡散と破局という見取り図は不安をあおりすぎで、社会が技術を規制する力を軽く見すぎている、と言うかもしれません。核兵器では、規制が部分的に成功しており、本自身も、それを部分的な例外と呼んでいます。また、AI企業の創業者による規制の呼びかけは、既存の大企業に都合よく働きかねない、という意見もあるでしょう。本自身も、EUのAI法について、大手のテクノロジー企業が起草を手伝い、内容を弱めたと批判する人がいることに触れています。合成生物学のシナリオは、著者自身の説明でも、傾向から先を見通したものであり、危険な病原体を作るのがどれほど簡単かについては、専門家の意見が分かれるかもしれません。10の段階は幅広く、スレイマン自身、それを必要な土台であり、完全な地図でも最終的な答えでもない、と述べています。本の冒頭に引用されている著名な読者の多くは、この本を、身の引き締まる警鐘だと称賛しています。

どんな人に向いているか

AIとバイオテクノロジー、そしてそれらをどう統治するかをめぐる議論を理解したい一般の読者に向いており、年長の十代も含まれます。専門家でない人向けに、わかりやすく書かれています。技術的な詳細や、より懐疑的な見方を求める人は、このテーマのほかの本も読むとよいでしょう。

この要約は、AIの助けを借りて英語から翻訳したものです。

本をまるごと読みたい方へ

要約は味見のようなものです。本そのものを読める場所をご案内します。

最後まで読みました 🎉

おつかれさまでした。この本を「読んだ」にすると、次に読む本をおすすめします。

次に読む本

スーパーインテリジェンス

ニック・ボストロム

哲学者ニック・ボストロムは、機械が人間よりはるかに賢くなれば、非常に強い力を持つ可能性があり、人類にとって安全な目標を機械に持たせる問題を解かないかぎり、結果は破局的になりうると論じます。

💡 テクノロジー

AI新生

スチュアート・ラッセル

AIの先駆者スチュアート・ラッセルは、機械に固定された目標を与えるという、人工知能の標準的な作り方は欠陥があり危険だと論じ、人間の好みについて確信を持たず、私たちを観察しながらそれを学ぶ機械を設計するよう提案します。

💡 テクノロジー

LIFE 3.0

マックス・テグマーク

物理学者のマックス・テグマーク(Max Tegmark)が、人工知能が人間の知能に並び、やがて追い越したときに何が起こるのかを探り、いくつもの未来像を示したうえで、どの未来を望むのかを、いまのうちからよく考えておくべきだと訴える本です。

🔬 科学

NEXUS 情報の人類史

ユヴァル・ノア・ハラリ

ユヴァル・ノア・ハラリ(Yuval Noah Harari)が、物語や文字から印刷、アルゴリズムまで、人間が情報を共有してきた歴史をたどり、人工知能はこれまでにない新しい種類のネットワークであり、権力のあり方を変え、民主主義さえ脅かしうると警告する本です。

🏛️ 歴史

これからのAI、正しい付き合い方と使い方

イーサン・モリック

ウォートン・スクールの教授イーサン・モリックは、生成AIを一種の「共同の知能」(co-intelligence)として使いこなすための実践的な手引きを示し、AIが得意なことと苦手なことを説明したうえで、仕事、勉強、暮らしの中で、効果的に、責任をもって使うための四つのルールを教えます。

💡 テクノロジー

イノベーターズ

ウォルター・アイザックソン

ウォルター・アイザックソンは、コンピューターとインターネットとウェブを生み出した人々を通じてデジタル革命の歴史を語り、イノベーションは、ひとりの天才の仕事というより、たいてい協力から生まれるものだと主張します。

💡 テクノロジー

ほかの本も見てみますか?

別のトピックを選ぶと、最初の3冊をご紹介します。

表示中のトピック:
すべての本を見る →