『ディープフェイク ニセ情報の拡散者たち』（ニーナ・シック：著、片山美佳子：翻訳） [読書（教養）]
――――
インフォカリプスの進行に伴い、政治はますます不安定になってきた。そんな中、2017年末に初めてディープフェイクを目にした私は、間違いなく次世代の誤情報やニセ情報が恐ろしいものになると感じた。今では、AIを使って動画や音声を生成したり、加工したりできるようになった。この技術は今後ますます利便性や精度が向上し、やがて誰でも使えるようになるはずだ。ある人が実際にはいなかった場所にいたように、していないことをしたように、言っていないことを言ったようにできる力を、誰もが手にする日が来るのだ。この技術が悪用され、すでに腐敗しつつある情報のエコシステムの深刻な脅威となっており、私たちが世界の出来事を理解し、生きていく上でも大きな支障となっている。（中略）本書を通じて、情報のエコシステムが極めて危険な状態にあり、その害が政治の世界の枠をはるかに超えて、私たちの私生活や日々の暮らしにも及ぶということを伝えたい。危機を認識することで、私たちが一丸となって守りを固め、反撃できるようになることを願っている。
――――
単行本p.21、22
フェイクニュース、ニセ情報、陰謀論などの氾濫によって、現実認識レベルで分断され、誰もまともな議論や合意形成が出来なくなった状態。それを「インフォカリプス」（情報汚染による黙示録的終末）と呼ぶ。そして登場したばかりの新技術「ディープフェイク」、すなわちAIにより生成される本物と見分けがつかない捏造音声、捏造画像、捏造偽動画が、その脅威をさらに加速してゆく。私たちはこの危機に対処できるのだろうか。高度情報化社会に迫りくる深刻な危機を解説する一冊。単行本（日経ナショナルジオグラフィック）出版は2021年9月です。
――――
インフォカリプスの状況下では、世界の出来事をどう説明し、どう受け止めるか、人々が意見をすり合わせて冷静な判断をすることができなくなっていく。常に「どちらか一方に付かなければならない」ような気持ちになりやすいのだ。インフォカリプスの状況では、まともな議論の前提となる基本的な事実についての共通の認識さえ、なかなか形成できない。汚染された情報のエコシステムの中で政治的な関心を持つようになる人々が増え続ける中、人種、性差別、人工妊娠中絶、ブレグジット（英国のEU離脱）、トランプ、新型コロナウイルスなど、これまで以上に厄介な問題の議論に勝つことに善意の努力が注ぎ込まれ、社会が分断されるという悪循環に陥っている。インフォカリプスの中では、互いを説得しようとしても理解は得られず、かえって分断を深めることになりかねない。結局、深刻化していく社会の分断を解決するには、情報のエコシステムが破壊されているという構造的な問題の対処に目を向け、注力していかなければならないのだ。
――――
単行本p.12
目次
第1章 ディープフェイクはポルノから始まった
第2章 ロシアが見せる匠の技
第3章 米国が占う西側諸国の未来
第4章 翻弄される発展途上国の市民
第5章 犯罪の武器になる野放しのディープフェイク
第6章 世界を震撼させる新型コロナウイルス
第7章 まだ、希望はある
第1章 ディープフェイクはポルノから始まった
――――
動画が人間のコミュニケーションにとって最も重要なメディアになれば、ディープフェイクが武器として使われるようになることは間違いない。映画の世界で行われてきた映像の加工が、現実の世の中でも行われるようになるのだ。（中略）情報の環境が急速にむしばまれている状況の中でAIが悪意をもって利用されれば、深刻な事態を招きかねない。
――――
単行本p.54
ディープフェイクの初期の悪用、すなわちフェイクポルノ（実在人物が出演しているように見せかけるポルノ動画）の氾濫について解説します。
第2章 ロシアが見せる匠の技
――――
プーチンは世界で指折りの危険な人物だ。プーチンが政権の座に就いているここ10年で、ロシアは国際政治に甚大な影響を及ぼし始めた。インフォカリプスの混乱に乗じて、米国をはじめとする西側諸国に、これまで以上に大胆な攻撃を仕掛けているのだ。ロシアは、情報のエコシステムがインフォカリプスに陥るよりもはるか前から、情報戦を得意としていた。
――――
単行本p.56
インフォカリプスの政治利用の例として、冷戦当時から今日までロシアが西側諸国に対して行ってきた様々な情報戦を取り上げ、その実態を解説します。
第3章 米国が占う西側諸国の未来
――――
もし私たちが共有している現実の感覚が崩壊して、終わりの見えない国内の情報戦に突入しても、活発な政治議論や社会の進歩は可能だろうか。ドナルド・トランプの大統領就任は、この疑問の答えを模索する出発点としてはちょうどいい。（中略）インフォカリプスにおける大衆の人気取り的なトランプの手法は、分断をさらに促進し米国を危険な方向に導いていく。この腐敗したエコシステムの中に不信と分極化を根づかせ、現実の世界の暴力にいつ発展してもおかしくない状況を作り出している。
――――
単行本p.94、117
情報戦とは、海外からの攻撃だけを意味するのではない。米国の内側にある情報戦の例として、トランプ大統領の言動を取り上げ、それが米国社会をどのように分断し破壊しているのかを解説します。
第4章 翻弄される発展途上国の市民
――――
現実があいまいになることで一番利益を得ているのは、インフォカリプスを利用する悪者たちだ。あらゆる標的に対して攻撃を仕掛けることができる上、都合の悪いことは何でも否定できる。このような状況下では、何が真実なのかが不明瞭になるだけでなく、権力者たちが都合よく説明責任を回避することができる。（中略）その影響は結局、地球全体に及ぶ。民主主義国家であろうとなかろうと関係ない。インフォカリプスに国境はない。
――――
単行本p.148
政府に対する信頼が低い、あるいは権力者が自由に情報操作が出来るような国や地域において、インフォカリプスの進展によってどのようなカオスが引き起こされているのかを解説します。
第5章 犯罪の武器になる野放しのディープフェイク
――――
写真、動画、音声など、どんな形であれ、一度でも視聴覚記録を残したことがある人なら、理論上はディープフェイク詐欺の被害者になり得ると言っても過言ではない。ディープフェイクは、インターネットバンキングへの侵入から、困窮している家族や友人を装った詐欺まで、多くの方法で用いられるようになるだろう。
――――
単行本p.162
ディープフェイク技術により、詐欺などの犯罪が格段に容易になった。犯罪に悪用されるディープフェイクの実態を解説します。
第6章 世界を震撼させる新型コロナウイルス
――――
新型コロナウイルス感染症の発生により、腐敗しつつある私たちの情報エコシステムの危険性が浮き彫りになった。このウイルスに関しては未知の事柄がとても多いため、その空白を悪質で信用できない情報が埋める余地があるのだ。新型コロナウイルスの危機の中で、インフォカリプスの恐ろしさがあらわになっている。その中で生きている以上、誰もがその影響を受けるのだ。
――――
単行本p.205
反ワクチン運動、ウイルス起源論争、5G陰謀論。新型コロナウイルス感染症は、インフォカリプスの危険性をはっきりと見せつけることになった。パンデミックによる混乱とそれに拍車をかけたインフォカリプスの実態を解説します。
第7章 まだ、希望はある
――――
だが、希望はある。インフォカリプスに対抗する勢力がすでに集結し始め、力をつけている。私たちが脅威を理解できるよう支援し、皆を守るための解決策や協力体制の構築を始めている。ただし、私たちの協力も欠かせない。一人一人が脅威を理解し、守りを固め、反撃することが大切だ。もたもたしてはいられない。「混乱を極めたディストピア」が当たり前の世の中として定着するのを避けたければ、今やらねばならない。
――――
単行本p.227
ファクトチェック、情報信頼度格付け、AIによるディープフェイク見破り技術など、様々な組織や団体がインフォカリプスに対抗しようと努力している。その中で私たちに出来ることはなにか。何を理解し、どう行動すべきかを解説します。
インフォカリプスの進行に伴い、政治はますます不安定になってきた。そんな中、2017年末に初めてディープフェイクを目にした私は、間違いなく次世代の誤情報やニセ情報が恐ろしいものになると感じた。今では、AIを使って動画や音声を生成したり、加工したりできるようになった。この技術は今後ますます利便性や精度が向上し、やがて誰でも使えるようになるはずだ。ある人が実際にはいなかった場所にいたように、していないことをしたように、言っていないことを言ったようにできる力を、誰もが手にする日が来るのだ。この技術が悪用され、すでに腐敗しつつある情報のエコシステムの深刻な脅威となっており、私たちが世界の出来事を理解し、生きていく上でも大きな支障となっている。（中略）本書を通じて、情報のエコシステムが極めて危険な状態にあり、その害が政治の世界の枠をはるかに超えて、私たちの私生活や日々の暮らしにも及ぶということを伝えたい。危機を認識することで、私たちが一丸となって守りを固め、反撃できるようになることを願っている。
――――
単行本p.21、22
フェイクニュース、ニセ情報、陰謀論などの氾濫によって、現実認識レベルで分断され、誰もまともな議論や合意形成が出来なくなった状態。それを「インフォカリプス」（情報汚染による黙示録的終末）と呼ぶ。そして登場したばかりの新技術「ディープフェイク」、すなわちAIにより生成される本物と見分けがつかない捏造音声、捏造画像、捏造偽動画が、その脅威をさらに加速してゆく。私たちはこの危機に対処できるのだろうか。高度情報化社会に迫りくる深刻な危機を解説する一冊。単行本（日経ナショナルジオグラフィック）出版は2021年9月です。
――――
インフォカリプスの状況下では、世界の出来事をどう説明し、どう受け止めるか、人々が意見をすり合わせて冷静な判断をすることができなくなっていく。常に「どちらか一方に付かなければならない」ような気持ちになりやすいのだ。インフォカリプスの状況では、まともな議論の前提となる基本的な事実についての共通の認識さえ、なかなか形成できない。汚染された情報のエコシステムの中で政治的な関心を持つようになる人々が増え続ける中、人種、性差別、人工妊娠中絶、ブレグジット（英国のEU離脱）、トランプ、新型コロナウイルスなど、これまで以上に厄介な問題の議論に勝つことに善意の努力が注ぎ込まれ、社会が分断されるという悪循環に陥っている。インフォカリプスの中では、互いを説得しようとしても理解は得られず、かえって分断を深めることになりかねない。結局、深刻化していく社会の分断を解決するには、情報のエコシステムが破壊されているという構造的な問題の対処に目を向け、注力していかなければならないのだ。
――――
単行本p.12
目次
第1章 ディープフェイクはポルノから始まった
第2章 ロシアが見せる匠の技
第3章 米国が占う西側諸国の未来
第4章 翻弄される発展途上国の市民
第5章 犯罪の武器になる野放しのディープフェイク
第6章 世界を震撼させる新型コロナウイルス
第7章 まだ、希望はある
第1章 ディープフェイクはポルノから始まった
――――
動画が人間のコミュニケーションにとって最も重要なメディアになれば、ディープフェイクが武器として使われるようになることは間違いない。映画の世界で行われてきた映像の加工が、現実の世の中でも行われるようになるのだ。（中略）情報の環境が急速にむしばまれている状況の中でAIが悪意をもって利用されれば、深刻な事態を招きかねない。
――――
単行本p.54
ディープフェイクの初期の悪用、すなわちフェイクポルノ（実在人物が出演しているように見せかけるポルノ動画）の氾濫について解説します。
第2章 ロシアが見せる匠の技
――――
プーチンは世界で指折りの危険な人物だ。プーチンが政権の座に就いているここ10年で、ロシアは国際政治に甚大な影響を及ぼし始めた。インフォカリプスの混乱に乗じて、米国をはじめとする西側諸国に、これまで以上に大胆な攻撃を仕掛けているのだ。ロシアは、情報のエコシステムがインフォカリプスに陥るよりもはるか前から、情報戦を得意としていた。
――――
単行本p.56
インフォカリプスの政治利用の例として、冷戦当時から今日までロシアが西側諸国に対して行ってきた様々な情報戦を取り上げ、その実態を解説します。
第3章 米国が占う西側諸国の未来
――――
もし私たちが共有している現実の感覚が崩壊して、終わりの見えない国内の情報戦に突入しても、活発な政治議論や社会の進歩は可能だろうか。ドナルド・トランプの大統領就任は、この疑問の答えを模索する出発点としてはちょうどいい。（中略）インフォカリプスにおける大衆の人気取り的なトランプの手法は、分断をさらに促進し米国を危険な方向に導いていく。この腐敗したエコシステムの中に不信と分極化を根づかせ、現実の世界の暴力にいつ発展してもおかしくない状況を作り出している。
――――
単行本p.94、117
情報戦とは、海外からの攻撃だけを意味するのではない。米国の内側にある情報戦の例として、トランプ大統領の言動を取り上げ、それが米国社会をどのように分断し破壊しているのかを解説します。
第4章 翻弄される発展途上国の市民
――――
現実があいまいになることで一番利益を得ているのは、インフォカリプスを利用する悪者たちだ。あらゆる標的に対して攻撃を仕掛けることができる上、都合の悪いことは何でも否定できる。このような状況下では、何が真実なのかが不明瞭になるだけでなく、権力者たちが都合よく説明責任を回避することができる。（中略）その影響は結局、地球全体に及ぶ。民主主義国家であろうとなかろうと関係ない。インフォカリプスに国境はない。
――――
単行本p.148
政府に対する信頼が低い、あるいは権力者が自由に情報操作が出来るような国や地域において、インフォカリプスの進展によってどのようなカオスが引き起こされているのかを解説します。
第5章 犯罪の武器になる野放しのディープフェイク
――――
写真、動画、音声など、どんな形であれ、一度でも視聴覚記録を残したことがある人なら、理論上はディープフェイク詐欺の被害者になり得ると言っても過言ではない。ディープフェイクは、インターネットバンキングへの侵入から、困窮している家族や友人を装った詐欺まで、多くの方法で用いられるようになるだろう。
――――
単行本p.162
ディープフェイク技術により、詐欺などの犯罪が格段に容易になった。犯罪に悪用されるディープフェイクの実態を解説します。
第6章 世界を震撼させる新型コロナウイルス
――――
新型コロナウイルス感染症の発生により、腐敗しつつある私たちの情報エコシステムの危険性が浮き彫りになった。このウイルスに関しては未知の事柄がとても多いため、その空白を悪質で信用できない情報が埋める余地があるのだ。新型コロナウイルスの危機の中で、インフォカリプスの恐ろしさがあらわになっている。その中で生きている以上、誰もがその影響を受けるのだ。
――――
単行本p.205
反ワクチン運動、ウイルス起源論争、5G陰謀論。新型コロナウイルス感染症は、インフォカリプスの危険性をはっきりと見せつけることになった。パンデミックによる混乱とそれに拍車をかけたインフォカリプスの実態を解説します。
第7章 まだ、希望はある
――――
だが、希望はある。インフォカリプスに対抗する勢力がすでに集結し始め、力をつけている。私たちが脅威を理解できるよう支援し、皆を守るための解決策や協力体制の構築を始めている。ただし、私たちの協力も欠かせない。一人一人が脅威を理解し、守りを固め、反撃することが大切だ。もたもたしてはいられない。「混乱を極めたディストピア」が当たり前の世の中として定着するのを避けたければ、今やらねばならない。
――――
単行本p.227
ファクトチェック、情報信頼度格付け、AIによるディープフェイク見破り技術など、様々な組織や団体がインフォカリプスに対抗しようと努力している。その中で私たちに出来ることはなにか。何を理解し、どう行動すべきかを解説します。
タグ：その他（教養）