物理学者のマックス・テグマーク(Max Tegmark)が、人工知能が人間の知能に並び、やがて追い越したときに何が起こるのかを探り、いくつもの未来像を示したうえで、どの未来を望むのかを、いまのうちからよく考えておくべきだと訴える本です。
概要
『LIFE 3.0』(副題は「人工知能の時代に人間であるということ」)は、2017年に、マサチューセッツ工科大学(MIT)の物理学教授であるテグマークが出版した本です。テグマークは、先端技術のリスクを研究する団体、フューチャー・オブ・ライフ研究所(Future of Life Institute)の共同創設者でもあります。彼は生命を三つの段階に分けます。ライフ1.0は、細菌のように、体も心も進化によってしか変わらない生命です。ライフ2.0は、人間のように、体は進化で変わりますが、心のほうは学習によって自分で設計できる生命です。そしてライフ3.0は、ハードウェア(体)もソフトウェア(心)も自分で設計できる生命で、高度な人工知能(AI)があれば実現しうるとされます。本は科学と哲学と推測を織り交ぜた内容で、冒頭には作り話の物語が置かれています。
あらすじ
1. オメガの物語とライフ3.0という考え方
考え方: テグマークは、オメガと呼ばれるチームと、彼らがつくる超知能AI「プロメテウス」についての短い物語から始めます。この物語は、そうしたシステムが社会をどう変えうるかを描いています。そのあと、ライフ1.0、2.0、3.0を説明し、ライフ3.0の到来にどう向き合うかという問いこそ、私たちの時代でもっとも大切な議論だと述べます。大きな恩恵にも大きな害にもなりうるからです。
実生活では: 自分で自分を改良できる道具は、私たちがついていけない速さで変わっていくかもしれません。
2. 知能とは何か
考え方: 著者は、知能を「複雑な目標を達成する能力」と定義し、それは生物の脳にも機械にも、さまざまな形で存在しうると言います。記憶や計算や学習は、それを動かす素材に左右されないので、脳でも機械でも成り立つ、というのが彼の主張です。コンピューターは、チェスや囲碁のような特定の課題ではすでに人間を上回っていますが、幅広い能力ではまだ及びません。彼は、特定の仕事に特化した「狭いAI」と、人間にできる仕事ならどれでもこなせる「汎用人工知能(AGI)」を区別します。
実生活では: チェスのプログラムはどんな人間にも勝てますが、サンドイッチは作れません。
3. 近い未来:仕事、兵器、法律
考え方: 次の章でテグマークは、これから数十年のAIの影響を見ていきます。機械がより多くの仕事をこなすようになれば、雇用市場が変わり、収入や生きがいをめぐる問いが生まれます。彼は、どんな種類の仕事がいちばん安全かも論じています。自律型兵器は危険になりうるので、その軍拡競争をどう避けるかが問われます。医療や法律の分野でのAIにも触れ、AIシステムが信頼でき、安全であることを確かめなければならないと強調します。思いどおりに動き、止まったり、ハッキングされたりしないようにするためです。
実生活では: 自動運転車は、事故が起きたときに誰が責任を負うのか、という問いを生みます。
4. 超知能への道
考え方: テグマークは、「知能爆発」の可能性を論じます。自分の設計を改良できるAIが、能力を急速に高めていくという考えです。ただし、それがいつ起こるのか、そもそも起こるのかは誰にもわからず、専門家の意見も割れていて、人間並みのAIがいつ実現するかの予測もまちまちだと言います。それでも、賭けているものが大きいのだから備えておくのが賢明だというのが、彼の考えです。また、最大のリスクは悪意ではなく、強力なAIの目標と人間の目標とのずれだと論じます。
実生活では: とても有能なアシスタントが、あなたの望みを取り違えると、損害を出すことがあります。
5. 12の可能な未来
考え方: 本の中心は、超知能が生まれたあとの世界についてのシナリオの一覧です。人類のために統治する親切なAIや、災害を防ぐときだけ手を出す守り手のAIが出てくるものがあります。閉じ込めた超知能を人間が管理し続けるものもあります。さらに進んだAIが、守護者となるAIや監視国家によって、あるいは人々が高度な技術を手放すことによって、抑えられる世界を描くものもあります。人間が機械に取って代わられ、動物園の動物のように飼われたり、絶滅したりする世界を描くものもあります。テグマークは、読者に、自分はどれを望むのか、それはなぜかを考えるよう促し、その選択には私たち全員が関わっていると述べます。
実生活では: どんな世界を望むのかを考えると、何に向かって努力すべきかを決めやすくなります。
6. 目標、意識、意味
考え方: 最後の章では、より深い問いに進みます。AIの目標を人間の価値観とどう合わせるか。これが「アラインメント問題(alignment problem)」です。私たち自身の目標とは何で、それをプログラムするとはどういうことか。さらにテグマークは、機械が主観的な体験を持ちうるのかという意識の問題を取り上げ、これは科学で扱うべき問いだと言います。生命が栄えられるようなAIの作り方を、いまのうちに決めておくべきだと主張し、物理法則が、宇宙のはるか未来の生命に何を許すのかにも目を向けます。
実生活では: 本当に望むことを機械に身につけさせるのは、何をするかを命じるよりずっとむずかしいことです。
なぜ重要か
『LIFE 3.0』はベストセラーになり、ニック・ボストロム(Nick Bostrom)の Superintelligence と並んで、AIの安全性をめぐる議論を広い読者に届けるのに役立ちました。技術の世界の著名人からも称賛され、生命の三つの段階と多様なシナリオという枠組みは、人々が未来を考えるための手がかりになりました。テグマークが共同創設したフューチャー・オブ・ライフ研究所は、研究を後押しし、2015年には安全なAIの研究を求める公開書簡を出すなど、声明も発表してきました。この本は大規模言語モデルが登場する前に出されましたが、そこで投げかけられた問いは、その後いっそう切実になっています。
要点
- AIはすべてを変えるかもしれない。 機械がいつか人間の知能に並び、上回る可能性があります。
- 未来は開かれている。 起こりうる結果はたくさんあります。
- アラインメントが最大の課題。 AIの目標は人間の価値観と合っていなければなりません。
- いまから備える。 賭けているものの大きさが、早めに考える理由になります。
- 私たち全員に発言権がある。 未来を一部の人だけで決めてはいけません。
学べること
この本は、AIに何を望むのか、AIを導くべき価値観とは何かを考える材料になります。いまのAIがどう動いているのか、何ができて何ができないのかも学んでみましょう。規制や倫理をめぐる議論に加わったり、安全性の研究を支えたりすることもできます。自分の仕事がどう変わりうるか、どんな技能が価値を保ち続けるかも考えてみてください。同時に、予測には慎重になりましょう。専門家の意見が割れているからです。そして、技術は人間の選択によって形づくられる道具だということも、忘れないでください。
批評と異なる見方
AI研究者の中には、この本は推測が多く、超知能が生まれる可能性を大きく見積もりすぎていると言う人がいます。遠い未来のシナリオを心配することは、偏見や悪用といった、いま起きている問題から目をそらさせるという意見もあります。超知能AIが暴走しうるという考えには、多くのコンピューター科学者が、今も強く反対しています。書評の中にも、説得力に欠けると見た部分があります。カーカス・レビュー(Kirkus Reviews)は、大量失業への解決策を、こじつけ気味だと評しました。ウォール・ストリート・ジャーナル(Wall Street Journal)は、読者に未来を選ぶよう呼びかけることを、高潔だが甘いと評しました。また、超知能の機械を管理し続けようという呼びかけは、それがほとんど不可能かもしれないという認めと、しっくりこないという指摘もあります。議論は今も続いています。
どんな人に向いているか
技術や未来、大きな問いに関心のある読者に向いており、年長の十代も含みます。読みごたえがありますが、推測が多めです。もっと技術的な扱いや、もっと慎重な扱いを求める人は、AIについての別の本を読むとよいでしょう。
この要約は、AIの助けを借りて英語から翻訳したものです。
本をまるごと読みたい方へ
要約は味見のようなものです。本そのものを読める場所をご案内します。
最後まで読みました 🎉
おつかれさまでした。この本を「読んだ」にすると、次に読む本をおすすめします。
次に読む本
スーパーインテリジェンス
ニック・ボストロム
哲学者ニック・ボストロムは、機械が人間よりはるかに賢くなれば、非常に強い力を持つ可能性があり、人類にとって安全な目標を機械に持たせる問題を解かないかぎり、結果は破局的になりうると論じます。
💡 テクノロジーAI新生
スチュアート・ラッセル
AIの先駆者スチュアート・ラッセルは、機械に固定された目標を与えるという、人工知能の標準的な作り方は欠陥があり危険だと論じ、人間の好みについて確信を持たず、私たちを観察しながらそれを学ぶ機械を設計するよう提案します。
💡 テクノロジーTHE COMING WAVE
ムスタファ・スレイマン、マイケル・バスカー
AI企業ディープマインド(DeepMind)の共同創業者ムスタファ・スレイマンは、人工知能と合成生物学というこれから押し寄せる波が、大きな恩恵と深刻な危険をもたらすと論じ、これらの技術を封じ込めるのは不可能に見えるが、何とかして可能にしなければならない、と訴えます。
💡 テクノロジーNEXUS 情報の人類史
ユヴァル・ノア・ハラリ
ユヴァル・ノア・ハラリ(Yuval Noah Harari)が、物語や文字から印刷、アルゴリズムまで、人間が情報を共有してきた歴史をたどり、人工知能はこれまでにない新しい種類のネットワークであり、権力のあり方を変え、民主主義さえ脅かしうると警告する本です。
🏛️ 歴史21 Lessons
ユヴァル・ノア・ハラリ
歴史家のユヴァル・ノア・ハラリ(Yuval Noah Harari)が、人工知能やフェイクニュースから、ナショナリズム、宗教、人生の意味まで、いま人類が直面しているいちばん大きな課題を取り上げ、変化の速い世界で、どうすれば明晰に考え、心の安定を保てるのかを問う本です。
🏛️ 歴史ホーキング、宇宙を語る
スティーヴン・ホーキング
世界でもっとも偉大な物理学者の一人が、ほとんど数式を使わずに、ビッグバンからブラックホール、時間そのものの正体まで、宇宙の始まりと構造と運命について、わかっていることを説明します。
🔬 科学ほかの本も見てみますか?
別のトピックを選ぶと、最初の3冊をご紹介します。