2022年8月16日1版1刷
帯封「世界最高峰の知性が予見する 私たちの、逃れられない未来 歴史的転換期を生きるすべての現代人に贈る、問題提起の書！」「ビジネスから軍事まで、人類が経験したことのない大激変が起きる。AIはすでに人類史の行方まで変えつつあるのだー元米国務長官×グーグル元CEO×MIT学部長がいまだからこそ問いかける、私たちが向き合うべき課題と糸口とは？ ・AIが支える戦争とはどのようなものか？ ・それによって国際秩序はどう変わるのか？ ・AIが生み出す『親友』とは？ ・AIが生み出す破壊的なイノベーションとは？ ・AIは人間には認識できない現実を認識できるのだろうか？ ・人間の行動を評価、あるいは形成するのにAIが使われるようになれば、人間はどう変わるのか？ ・そうなったとき『人間である』とは何を意味するのか？」
表紙裏「本書ではAIの台頭を礼讃する気も嘆くつもりもない。私たちの感傷などお構いなしに、AIはあらゆる領域に広がっている。本書の目的は、AIの影響がまだ人間の理解できる範疇にとどまっているうちに、それを吟味することだ。本書が今後の議論の触媒となることを期待して、まずは問いを投げかけたい。（「序文」より）」
ヘンリー・キッシンジャーは、恐らく現在は95歳とか96歳だと思う。その年代でかつ知性の最高峰の人がAIに真正面から向き合い考えている！という衝撃にかられて本書を手にした。新しい知識が随所に散りばめられているというより、豊富な新しい気づきの視点がところどころに見られるという感じの本だが、このレベルの方々にして、現状ではここまでの分析しかできないということを知る上では必読の本だと思う。勿論類書は沢山ある中で最も楽しく読ませてもらった一冊であることは間違いない。
ただ、この記述をこの3人のうちどなたが執筆したのかは明示されておらず、その点をはっきりと出してもらえると、もっと楽しみ方が増えたようにも思う。
本書の肝は、第５章の「安全保障と世界秩序」だと思う。最も共感した箇所を引用したい。「最も難しいのは、哲学的問題かもしれない。戦略の遂行がAIには理解できても人間の理性の限界を超える概念的・分析的領域で行われるようになったら、そのプロセス、影響力の及ぶ範囲、真の目的も不透明になる政策立案者（独自のAIを有している可能性がある）の能力や意図を理解して迅速に対応するためには、AIの助けを借りて現実のパターンを深く理解する必要があると判断した場合、重要な判断を機械に委ねることが当たり前になる。機械に何を委ねるべきか、どのようなリスクや弊害なら許容できるかという本能的限界は、社会によって異なる可能性が高い。主要国はこうした変化が戦略、ドクトリン、道徳に及ぼす影響についての議論を、危機が実際に起こるまでに先送りすべきではない。危機が起きてからでは取り返しがつかない。国際社会が協力し、リスクに歯止めをかけることが必要だ。」の部分だと思う（同種の指摘として「各国が『自立型致死兵器システム（LAWS、独自に標的を選定し、人間の承認なしに攻撃するよう訓練され、しかも攻撃する権限を与えられた全自動あるいは半自動AI兵器）』の全面的採用を控えたとしても、AIによって通常兵器、核兵器、サイバー兵器の性能が強化される可能性がある。その結果、敵対する国同士の安全保障は予測や維持が難しくなり、衝突を抑えるのも困難になる」172p、「伝統的戦争において敵の心理に影響を及ぼすことは、戦略行動の重要な目的だった。アルゴリズムは与えられた指示と目的を理解するだけで、道徳観や疑念は持たない。AIは遭遇した現象に適応することから、二つのAI兵器システムが敵味方として戦うことになったとき、相互作用によってどのような結果や副次的影響が起こるか、どちらにも正確に理解できない可能性が高い。相手の能力や戦争を始めることの弊害も、恐らく正確に理解することはできない。こうした制約があるがゆえに、AIの技術者や開発者は速度、影響範囲、持続性を重視する可能性がある。それによって戦争は激化し、影響は広範囲に及び、何より一段と予測不可能になる」192ｐ、「AIを活用した防衛システムの先にあるのは、兵器のなかでもとりわけ厄介なカテゴリー、すなわち自律的致死兵器システムだ。ここにはひとたび起動すると、人間の介入なしに標的を選択して攻撃するシステムが含まれる。この分野でカギを握るのは、人間による監視と適宜介入する能力だ」200p、「戦略的領域で『フラッシュ・クラッシュ（大暴落）』並みのアルゴリズムの失敗が起これば大惨事になりかねない。デジタル領域の戦略的防衛に戦術的攻撃が必要になり、一方が計算ミスあるいは行動ミスを犯した場合、意図せずにエスカレーションのパターンが発動する可能性もある」204p、アメリカは「「AI支援兵器」（人間が行う戦争をより正確で、より殺傷力が高く、より効率的にするための技術）と「AI兵器」（殺傷に関する判断を人間のオペレーターの介入なしに自律的に行う技術）の区別を明確にした。アメリカは前者の使用を制限する意図を明らかにし、後者については自国を含めていかなる国も保有しない世界を目指すとしている」207ｐ、「通常兵器、核兵器、サイバー能力にＡＩ能力という広範かつダイナミックな軍備を持つ現代の指導者が、その管理において果たすべき重大な任務は６つある」（具体的に６つの提言を行っている）209~212p）
この第５章は、わが人生の中でも、特に衝撃を受けるほどの重要な内容を含んでいた。我が命はこの問題克服のために使わなければいけないのではないかとも思えるくらいに重大な問題提起を投げかけている。多くの人にこの問題意識を共有したい。
それ以外にも重要だと感じたことが多々あったので、続きは、明日アップしたい。
