2023年3月1日第1版第1刷
帯封「AI作成の全く架空の人物は、どっち？（正解はP135）映像や音声が『確かな証拠』にならない時代が訪れる」「大統領の偽動画、CEOの偽音声、すぐれたアート作品… 加工や捏造が生む混乱を抑え、AI技術を活用するために □偽ゼレンスキーかく語りき □ディープポルノ―日本では逮捕者も □GANの発明―敵対的生成ネットワークというアイデア □画像生成AI―言葉を入力すれば絵ができる □人はディープフェイク顔を信頼する □脳はディープフェイクに気づいている □フェイク動画を見破る □ディープフェイクと共存する」
表紙裏「ディープフェイクとは、人工知能（AI）の技術を用いて合成された、本物と見分けがつかないほどリアルな人物などの画像、音声、映像やそれらを作る技術のことである。大統領が敵国への降伏を呼びかける動画が拡散されたり、ある企業のCEOの偽音声を用いた詐欺事件が発生するといった事例が生まれる一方、画像生成AIを用いて作成された絵画が米国の美術品評会で優勝するなど、アートやエンターテインメントの分野にも大きな変革が生じる可能性がある。ディープフェイクを生み出す原理や社会への影響などを平易に解説し、共存せざるを得ない未来に向けて知っておくべきことを語る。」
目次
序章 ディープフェイクの象徴的事件
第１章 ディープフェイクとは何か
第２章 ディープフェイクを作る
第３章 ディープフェイクに備える
第４章 ディープフェイクと共存する
前半は、よくある事例や概念を説明するにとどまるが、本書の特徴は後半にある。特にフェイク動画を見破るの項は、現在のディープフェイクの技術では未だ人間の自然に発する生理信号を完全に再現すること（例えばまばたき）が難しいことに着目し、偽動画を見抜くAIモデルが開発されていることやディープフェイクへの対抗手段としてメディア・フォレンジックが発達してきている現状、ディープフェイク検出ツールなど、最先端の議論・技術が紹介されている。第４章では、インフォカリプスの淵（虚偽が溢れ、あらゆる情報が信じられなくなる未来、ミシガン大学アビブ・オバディア）、嘘つきの配当（本物と偽物の境界が不明確な環境では偽物を作って広める人たちが得をするというもの、ニーナ・シックが使ったことで有名になった言葉）という新しい言葉をキーワードにして嘘つきの配当を許す社会ではなく嘘つきの代償を払わせられるような社会の仕組みの整備の必要性を訴えている。21世紀の石油と呼ばれるデータに関して、まさしく情報の環境問題に取り組む動きもビビッドに取り上げている。例えばグーグルのシンクタンクであるジグソーは情報介入のサイトを立ち上げ、ディープフェイクにだまされにくくし、共有を抑制するのに効果を発揮することが期待できるとしている。
最新の技術・議論状況がコンパクトに纏められていて、とても興味深く読むことができた。
