3行でいうと

  • AIと合成生物学は、安く速く広がる汎用技術であり、国家が抑え込むのは難しい
  • 恩恵のために開発は止められず、野放しなら破局的リスクが高まる「封じ込めのジレンマ」がある
  • 完全な解はなく、10のステップなど現実的な対策の積み重ねしかないと説く

向いている人

AIのニュースを、技術だけでなく政策や国際関係の問題として捉え直したい人。企業や行政でAIのリスク管理に関わる人。

読む意味

AIとバイオの両用性リスクを、非対称性・超進化性・汎用性・自律性の4軸で評価する枠組みが得られる。個人の活用術を説く本と並べると、国家・国際社会の側の議論が補える。

読むときの注意

著者自身がAI開発企業の経営者で、開発の継続を前提にした「管理可能なリスク」の立場をとる。開発の減速や停止を求める論者からは楽観的すぎるという批判がある。

どんな本か

この本は、AIと合成生物学という二つの技術が、同時に、安く、急速に広がっていく「来たるべき波」の構造を論じた本である。著者のムスタファ・スレイマンはDeepMindの共同創業者で、のちにInflection AIを共同設立し、現在はマイクロソフトのAI部門のCEOを務める。AlphaGoやAlphaFoldの開発に関わった当事者として、内側の経験を交えて書いている。

中心にあるのは「封じ込めのジレンマ」である。医療や生産性の向上のために技術開発は止められない一方で、広がりを放っておけば、生物兵器の安価な製造、自律型兵器、大規模な監視国家、人間の制御を離れたAIといった破局的なリスクが高まる。著者は、この波が従来の汎用技術と違う四つの性質（非対称性、超進化性、汎用性、自律性）を持つと整理し、条約のような国家中心の既存の枠組みでは抑えにくいと述べる。

終盤では、安全性研究、監査、法制度、社会規範、国際協調など10のステップによる封じ込め策を示す。完全な解決策はないと認めたうえで、何もしないよりましな対策を少しずつ積み重ねるしかない、という立場である。

中身の柱

あわせて読む本

書評データベースの全文を読む

概要

『The Coming Wave』は、DeepMindの共同創業者であり、後にInflection AIを共同設立、現在はマイクロソフトAI部門のCEOを務めるムスタファ・スレイマンが、著述家マイケル・バスカーとの共著で2023年に発表した著作。DeepMindでAlphaGoやAlphaFoldの開発に携わった当事者としての一次情報に基づき、AIとバイオテクノロジーという2つの汎用技術(ジェネラル・パーパス・テクノロジー)が同時に、かつ極めて安価に、指数関数的な速度で拡散していく「来たるべき波(コミング・ウェーブ)」の構造を分析する。本書の核心的な問いは「これほど強力で、これほど安価で、これほど拡散しやすい技術を、国家も既存の制度も封じ込められないとしたら、人類はどうやってこの技術の恩恵を享受しつつ破局的リスクを回避するのか」というものであり、著者はこれを「封じ込めのジレンマ(containment problem)」と呼ぶ。

本の構成

本書は、前置き「封じ込めは不可能」と4部で構成される(紀伊國屋書店の目次による)。第1部「ホモ・テクノロジカス」では技術の拡散と「封じ込め問題」を、第2部「来たるべき波」では知能のテクノロジー(AI)と生命のテクノロジー(合成生物学・遺伝子編集など)、波の4つの特徴、止められないインセンティブを扱う。第3部「弱体化する国家」では国家と国民の「大いなる取引」や脆弱性増幅器、国家の未来、ジレンマが論じられ、第4部「波を越えて」では、封じ込めを可能にせねばならないという主張と、10のステップからなる封じ込め策(安全性研究、監査、新しいガバナンス機構の設計、国際協調の枠組みなど)が提示される。なお、この節は元は3部構成(「岐路に立つ人類」「来たるべき波」「封じ込め」)と記していたが、日本語版の目次と一致しないため訂正した。

主要な内容

スレイマンは、AIとバイオテクノロジーを「汎用技術(GPT: General Purpose Technology)」と位置づけ、電気や内燃機関と同様に社会のあらゆる領域を横断的に変革する力を持つと同時に、従来のGPTにはなかった4つの特異な性質を持つと論じる。第一に「非対称性(asymmetry)」——少人数の個人や小規模な集団が、国家に匹敵する破壊力を持つツールに安価にアクセスできるようになること。第二に「超進化性(hyper-evolution)」——技術の改良サイクルが従来の産業に比べて桁違いに速いこと。第三に「汎用性(omni-use)」——軍事・商業・研究など用途を峻別できない両用性(デュアルユース)が極めて高いこと。第四に「自律性の獲得」——AIが人間の介在なしに自律的に意思決定・行動する能力を強めていくこと。これらの性質が組み合わさることで、技術の拡散を国家の伝統的な規制手法(核不拡散条約のような枠組み)で制御することが原理的に困難になっているとスレイマンは指摘する。

「封じ込めのジレンマ」の核心は、技術の恩恵(医療の進歩、生産性向上、気候変動対策など)を享受するためには技術開発を止めるわけにいかない一方、野放しの拡散は、テロリストによる生物兵器の低コスト製造、AIを用いた自律型兵器、大規模な監視国家の出現、あるいは人間の制御を超えたAIシステムの暴走といった破局的リスクを高めるというジレンマである。著者は、既存の国家中心の国際秩序(条約、輸出規制、国際機関)がこの新しい技術の性質に適合していないと批判し、技術企業・市民社会・国家・国際機関が重層的に関与する新しいガバナンスモデルの必要性を訴える。

10のステップとして提示される封じ込め策には、技術的安全策(AIシステムの解釈可能性・制御可能性を高める技術的安全性研究)、監査とモニタリング(AIモデルの能力評価・監査の制度化)、法制度の整備(責任の所在の明確化)、社会規範の醸成(技術者コミュニティ内での倫理規範の内在化)、権力の均衡(技術の恩恵と権力集中のバランス)、国際的な協調体制(核不拡散条約やIAEAをモデルにした新しい国際機関の可能性)などが含まれる。著者は、完全な解決策は存在しないことを率直に認めつつ、「何もしないよりはましな、現実的で漸進的な対策の積み重ね」こそが唯一の道であると論じる。

雇用への影響についても、AIが従来の自動化とは異なり認知労働全般に及ぶため、産業革命期の技術的失業とは異なる規模・速度の労働市場の混乱をもたらす可能性を論じ、政府による再分配・再訓練政策の必要性を指摘する。

具体例

本書には著者自身のDeepMindでの経験に基づく一次情報が豊富に含まれる。AlphaGoが2016年に世界トップ棋士イ・セドルに勝利した対局、AlphaFoldがタンパク質の立体構造予測問題を解決し生命科学研究に革命をもたらした事例、GPT-3・GPT-4などの大規模言語モデルの急速な能力向上などが、AIの進化速度を示す具体例として詳述される。バイオテクノロジーの領域では、CRISPR遺伝子編集技術のコスト低下(かつて数百万ドル規模だった遺伝子合成が今日では数百ドルで可能になった変化)、2011年の鳥インフルエンザウイルス機能獲得研究(H5N1ウイルスの伝染力を人為的に高める研究)をめぐる科学界の論争、新型コロナウイルスのパンデミックが示した生物学的リスクの現実性なども議論される。地政学的事例としては、米中間のAI・半導体をめぐる技術覇権競争、核不拡散条約とIAEA(国際原子力機関)の成功と限界、冷戦期の軍備管理交渉の歴史的教訓などが、技術ガバナンスの参照事例として引用される。

実践への応用

本書は主に政策立案者・企業経営者・技術者に向けた実践的示唆を持つ。政策立案者にとっては、AI・バイオテクノロジーの規制設計において、国内法だけでなく国際協調の枠組み(新しい形の国際機関やモニタリング体制)を並行して構築する必要性が具体的な検討課題として提示される。企業経営者・AI開発者にとっては、技術開発の初期段階から安全性研究・監査可能性・解釈可能性を組み込む「セーフティ・バイ・デザイン」の思想を実務に落とし込む指針となる。組織のリスク管理担当者にとっては、AIやバイオテクノロジーの両用性(デュアルユース)リスクを評価する際の分析枠組み(非対称性・超進化性・汎用性・自律性の4軸)が実務的なチェックリストとして活用できる。一般読者にとっては、AI関連のニュースや政策論争を、単なる技術論としてではなく、権力構造・地政学・ガバナンスの問題として捉え直す視座を提供する。

位置づけ・評価

本書はDeepMindの共同創業者という著者の経歴から、AI開発の内部関係者による率直なリスク分析として高い注目を集め、ニューヨーク・タイムズやエコノミストなどで高く評価された。ビル・ゲイツやヘンリー・キッシンジャー(生前、AIの地政学的影響について著書を残した)らからも支持を得ている。本書の特徴は、AIリスクを純粋な技術的問題としてではなく、バイオテクノロジーと並置し「汎用技術の拡散」という共通の構造で捉え直した点にあり、AI単体を論じるニック・ボストロムの『スーパーインテリジェンス』やマックス・テグマークの『Life 3.0』とは異なる、より地政学的・制度論的なアプローチを取っている。一方で、著者自身がAI開発企業の経営者であることから、技術開発の継続を前提とした「管理可能なリスク」という立場を取っており、AI開発自体の減速や停止を主張する論者(一部のAI安全性研究者)からは楽観的すぎるとの批判もある。イーサン・モリックの『Co-Intelligence』が個人・組織レベルの実務的活用に焦点を当てるのに対し、本書は国家・国際社会レベルのガバナンス論に重心を置く点で相互補完的な位置づけにある。