これからのAI、正しい付き合い方と使い方

原題:Co-Intelligence

対象年齢:13読了目安 9分人工知能仕事教育
本を手に入れる ↓

ウォートン・スクールの教授イーサン・モリックは、生成AIを一種の「共同の知能」(co-intelligence)として使いこなすための実践的な手引きを示し、AIが得意なことと苦手なことを説明したうえで、仕事、勉強、暮らしの中で、効果的に、責任をもって使うための四つのルールを教えます。

概要

Co-Intelligence: Living and Working with AI は、2024年にイーサン・モリック(Ethan Mollick)が出版した本です。モリックはペンシルベニア大学ウォートン・スクールの教授で、イノベーションと起業を研究し、自分の授業や研究でAIのチャットボットを試してきました。AIについての多くの本と違い、遠い未来ではなく、使い方に焦点を当てています。モリックは、大規模言語モデルは奇妙なもので、一種の「異質な知性」(alien mind)であり、使い方を学べば、考えるうえでのパートナーになりうる、と言います。本は短く、実践的で、親しみやすい文体で書かれており、ベストセラーになりました。

あらすじ

1. 異質な知性を生み出す

考え方: モリックは、AIの短い歴史から始めます。1770年代のチェスを指す機械「メカニカル・ターク」(Mechanical Turk)は、実は人が入っているトリックでした。そこから、1956年に「人工知能」という言葉が生まれたこと、期待と失望をくり返す「AIの冬」と呼ばれる時期へと話が進みます。そして、2017年に登場した新しい仕組みのトランスフォーマー(Transformer)によって、モデルが文章のどの部分が大切かを見きわめられるようになったこと、大規模言語モデルは、膨大な量の文章で次の単語を予測するように訓練され、そのあと人間のフィードバックで磨かれることを説明します。GPT-3.5やGPT-4のようなモデルは、文章を書き、要約し、多くのテストに合格できますが、まちがいもし、理解しているように見えても錯覚にすぎないことがあります。モリックは、私たちとは違う強みと弱みを持つこれらのモデルを、「異質な知性」と呼びます。

実生活では: チャットボットは、流れるような文章でエッセイを書いても、その内容が本当かどうか、まったく知らないことがあります。

2. 異質な知性を人間に合わせる

考え方: この章では、アラインメントの問題、つまりAIが確実に人間の利益に役立つようにするには、どうすればよいかを扱います。モリックは最悪のケースから始め、哲学者ニック・ボストロム(Nick Bostrom)の思考実験、「ペーパークリップ」AIを使います。一つの目標をひたすら追い求めたあげく、人類を傷つけてしまうAIです。人間と同じレベルのAIが可能かどうかについては専門家の意見が分かれているが、多くの人がそのリスクを真剣に受けとめている、とモリックは述べます。もっと身近な問題も取り上げます。インターネットから許可なく集められることの多い訓練データ、モデルがそのデータから吸収する偏見、そして人間のフィードバックによる訓練の限界です。巧妙な指示を使えば、たとえば詐欺のような行為にモデルを導くことが、いまでもできるからです。解決には、企業、政府、研究者、そして情報を持った市民が必要だ、とモリックは論じます。

実生活では: チャットボットは有害な依頼を断っても、工夫したプロンプトで、そのルールを回避できることがあります。

3. 共同の知能のための四つのルール

考え方: 本の核心は、四つのルールです。第一に、いつもAIを食卓に招くこと。法律と倫理が許す範囲で、ふだんの仕事に試してみて、どこで役に立ち、どこで苦戦するかを知ります。第二に、ループの中の人間でいること。AIはまちがえたり、事実をでっち上げたりするので、出力を確かめ、自分の判断を使います。第三に、AIを人のように扱うが、どんな人なのかを教えること。役割と状況を与えますが、人間ではないことは忘れません。第四に、これがあなたの使う最悪のAIだと思うこと。AIはこれから良くなっていくからです。「ギザギザの境界」(jagged frontier)、つまりAIの能力のでこぼこした縁は、この部分と、そのあとの章を通じて出てくる重要な考え方です。私たちには同じくらい難しく見える作業でも、AIにはやさしいことも、意外に難しいこともあります。

実生活では: チャットボットに、辛抱強い家庭教師のような役割を与えると、答えが良くなることがあります。

4. 人としてのAI

考え方: モリックは、AIは、予測どおりに動く従来のソフトウェアとは違い、驚かせたり、一貫しなかったりするので、人であるかのように扱うほうが役に立つことが多い、と論じます。ある研究では、モデルが、消費者が商品にいくら払うかを見積もり、公平性を問うゲームで選択をしました。ほかにも、アラン・チューリング(Alan Turing)の模倣ゲーム(imitation game)や、イライザ(ELIZA)やパリー(PARRY)のような初期のチャットボットが取り上げられます。人々は、これらを実際以上のものだと受けとめたのです。モリックは、モデルが相手に合わせて口調を変えること、GPT-4に汎用的な知能の兆しが見えると主張した研究者がいたこと(多くの人が疑っている主張です)、レプリカ(Replika)のような話し相手のアプリが親密さについての問いを投げかけることを説明します。事情に詳しい利用者でさえ、これらのシステムを人だと信じがちだ、と警告します。

実生活では: チャットボットは感情があるように見えることもありますが、人間の言葉をまねているだけです。

5. 創造するAI

考え方: この章は、幻覚(ハルシネーション)から始まります。事実をでっち上げる傾向で、知識を調べるのではなく、もっともらしい文章を予測することから生まれます。2023年に、ChatGPTで作成した法律文書を提出した弁護士の事例にも触れます。しかし、遠くにある考えを結びつけるのと同じ力が、AIを創造的なアイデアの強力な源にもしています。モリックは、GPT-4が出した商品のアイデアが、ウォートンのMBAの学生のアイデアと比べて遜色なかったコンテストを紹介します。AIは下書きをとても簡単に書けるため、考える力が弱まることや、努力が創作に与える意味が失われることを心配しますが、人が自分を表現する新しい方法も見ています。

実生活では: チャットボットは数秒で何十ものアイデアを出せますが、選んで確かめるのは人間です。

6. 同僚としてのAI

考え方: モリックは、仕事とは、より大きな仕組みの中にある作業の束であり、研究によれば、AIはほぼすべての職業と重なっていて、給料の高い仕事や創造的な仕事も例外ではないので、仕事が丸ごと消えるよりも、作業のほうが変わっていく、と言います。同僚たちと行ったコンサルタントの研究を取り上げます。AIは多くの作業で役に立ち、速さと質を高め、とくに成績の低い人を助けましたが、AIの能力の外にある作業ではかえって悪い影響が出ました。運転中に居眠りしてしまうような状態を警告します。作業を、「自分だけ」でやるべきもの、任せられるもの、自動化できるものに分けます。また、二つの働き方、つまり自分とAIで仕事を分担する「ケンタウロス」(centaur)と、両者を織り合わせる「サイボーグ」(cyborg)を説明します。働く人は、AIをこっそり使うことが多いと指摘し、組織は最も使いこなしている人の知恵を活かすべきだ、と述べます。

実生活では: チャットボットは退屈な作業をうまくこなせますが、その出力は、思いがけない形でまちがっていることがあります。

7. 家庭教師でありコーチであるAI

考え方: 教育は長いあいだ、教育学者ベンジャミン・ブルーム(Benjamin Bloom)が、一対一の個別指導について見いだした「2シグマ」(two sigma)効果のようなものを求めてきました。AIは、個別指導を実現するチャンスになりますが、教師や学校の代わりにはなりません。まず来るのが、モリックが「宿題の終末」(homework apocalypse)と呼ぶ事態です。学生が、エッセイや課題をAIにやらせられるので、教育者は評価の仕方を考え直さなければならず、それはかつて電卓に合わせて変えたのと同じです。学校はAIとその限界について教えるべきだとし、反転授業(flipped classroom)を提案します。学生は家で、カーン・アカデミーのカーンミーゴ(Khanmigo)のようなAIの助けを借りて内容を学び、授業の時間は能動的な活動に使います。

モリックはそのあと、次の章で、コーチとしてのAIに話を移します。教育にとってより大きな危険は、初心者が仕事の現場で専門家から学ぶ、目に見えない徒弟制度のような仕組みに及ぶ、と論じます。AIが新人向けの作業をこなしてしまうと、訓練の空白が生まれるかもしれず、研究者マシュー・ビーン(Matthew Beane)がロボット手術で見いだしたことがその例です。専門家になるには、いまでも基礎的な知識と、フィードバックを受けながらの意図的な練習が必要です。AIはコーチとして助けになりますが、まだ完全なコーチではありません。AIは、成績の低い人と高い人の差を縮めるようにも見えますが、誰もが専門家になれるわけではなく、モリックは人間の専門性を育てるよう促します。

実生活では: 学生は、チャットボットに問題を出してもらったり、発表の案を批評してもらったりできますが、練習は必要です。

8. 私たちの未来としてのAI

考え方: モリックは、四つの可能な未来を描きます。「これ以上は伸びない」未来では、進歩がここで止まりますが、それでも、偽情報、仕事の変化、AIとの関係は大きな問題になります。「ゆるやかな成長」では、改善が少しずつ進み、社会には適応し規制する時間が与えられます。「指数関数的な成長」では、変化がとても速く訪れ、仕事と社会を揺さぶります。「機械の神」では、超知能のAIが現れ、とてつもないリスクと恩恵が生じます。限界に達したという証拠はほとんどない、とモリックは言い、良い結果を目指すことを読者に促し、成り行きまかせにしないようにと述べます。

実生活では: それ以上進歩しなくても、いまのAIツールは、多くの仕事を変えることができます。

なぜ重要か

Co-Intelligence はベストセラーになり、教師、管理職、一般の読者に読まれる、生成AIの実用的な手引きとして広く知られるようになりました。技術的な本と推測的な本のあいだの空白を埋め、ふつうの人がすぐに使える助言を与えました。モリックの四つのルールと「ギザギザの境界」というイメージは、よく話題にされてきました。この本は、多くの人がツールを試し、仕事や学びにどう取り入れるかを考えるきっかけになりました。教育とAIをめぐる議論にも貢献しました。AIは変化が速いため、細部には古くなったものもありますが、主要な教訓は今も通用します。

要点

  • 何にでもAIを試す。 経験を通じて、できることとできないことがわかります。
  • ループの中の人間でいる。 出力を確かめ、自分の判断を使いましょう。
  • AIに役割と状況を与える。 はっきりした指示のほうが、うまく働きます。
  • 改善を見込んでおく。 今日のツールは、あなたがこれから使うなかで最悪のものです。
  • 能力はギザギザである。 難しい作業が得意で、やさしい作業で失敗することもあります。

学べること

ブレインストーミング、要約、自分への問題出しなど、いろいろな作業にAIのチャットボットを使ってみて、どこで助けになり、どこで失敗するかに注目してみましょう。チャットボットは作り話をすることがあるので、事実と出典は必ず確かめます。はっきりした指示と状況を与え、役割を演じるよう頼みます。とくに学校のように、学びに努力が必要な場面では、AIを自分の考えの代わりではなく、コーチとして使う方法を考えましょう。AIの使い方のルールについて、先生や家族と話し合うのもよいでしょう。そして、ツールは変わり続けるので、好奇心を持ちつづけましょう。

批評と異なる見方

批評家のなかには、この本はAIの恩恵を楽観的に描きすぎていて、仕事の喪失、偏見、偽情報、著作権、環境への負荷といった害にあまり注意を払っておらず、どこでもAIを使うという助言は、頼りすぎを招きかねない、と言う人がいます。また、例は範囲の限られた初期の研究に基づいており、変化が速いため、具体的な提案がすぐに古くなる、という指摘もあります。懐疑的な人は、「異質な知性」や「共同の知能」という言葉は、統計的な道具にすぎないシステムを人間のように扱っている、と言います。それでも、多くの人が役に立つと感じています。

どんな人に向いているか

生成AIを使うための実践的な入門を求める人なら、学生、教師、社会人を問わず、誰にでも向いています。短く、わかりやすく、引き込まれる本です。リスクや技術面をもっと深く扱った本を求める人は、AIについてのほかの本を読むとよいでしょう。

この要約は、AIの助けを借りて英語から翻訳したものです。

本をまるごと読みたい方へ

要約は味見のようなものです。本そのものを読める場所をご案内します。

最後まで読みました 🎉

おつかれさまでした。この本を「読んだ」にすると、次に読む本をおすすめします。

次に読む本

THE COMING WAVE

ムスタファ・スレイマン、マイケル・バスカー

AI企業ディープマインド(DeepMind)の共同創業者ムスタファ・スレイマンは、人工知能と合成生物学というこれから押し寄せる波が、大きな恩恵と深刻な危険をもたらすと論じ、これらの技術を封じ込めるのは不可能に見えるが、何とかして可能にしなければならない、と訴えます。

💡 テクノロジー

AI新生

スチュアート・ラッセル

AIの先駆者スチュアート・ラッセルは、機械に固定された目標を与えるという、人工知能の標準的な作り方は欠陥があり危険だと論じ、人間の好みについて確信を持たず、私たちを観察しながらそれを学ぶ機械を設計するよう提案します。

💡 テクノロジー

ザ・セカンド・マシン・エイジ

エリック・ブリニョルフソン、アンドリュー・マカフィー

MITの経済学者エリック・ブリニョルフソンとアンドリュー・マカフィーは、コンピューターやロボット、人工知能といったデジタル技術が「第二の機械の時代」をもたらしつつあり、それは大きな恩恵と同時に、広がる不平等ももたらすので、私たちは技能と制度を適応させなければならないと論じます。

💡 テクノロジー

LIFE 3.0

マックス・テグマーク

物理学者のマックス・テグマーク(Max Tegmark)が、人工知能が人間の知能に並び、やがて追い越したときに何が起こるのかを探り、いくつもの未来像を示したうえで、どの未来を望むのかを、いまのうちからよく考えておくべきだと訴える本です。

🔬 科学

AI世界秩序

李開復

テクノロジー投資家の李開復(Kai-Fu Lee)は、人工知能(AI)の分野で中国とアメリカが覇権を握ると論じ、中国が急速に追い上げている理由を説明したうえで、AIが仕事を大きく変えると警告し、思いやりと愛にもとづく、より人間的な対応を呼びかけます。

💡 テクノロジー

イノベーターズ

ウォルター・アイザックソン

ウォルター・アイザックソンは、コンピューターとインターネットとウェブを生み出した人々を通じてデジタル革命の歴史を語り、イノベーションは、ひとりの天才の仕事というより、たいてい協力から生まれるものだと主張します。

💡 テクノロジー

ほかの本も見てみますか?

別のトピックを選ぶと、最初の3冊をご紹介します。

表示中のトピック:
すべての本を見る →