『無人の兵団 AI、ロボット、自律型兵器と未来の戦争』（ポール・シャーレ：著、伏見威蕃：翻訳） [読書（教養）]
――――
テクノロジーは、人類と戦争との関係における限界点へと私たちを押しあげた。未来の戦争では、生死に関わる決定を機械が下すかもしれない。世界中の軍隊が、海、陸、空で競い合ってロボットを配備している――90カ国以上が、無人機（ドローン）に空を哨戒させている。これらのロボットは、どんどん自律化が進み、多くは武装している。いまは人間に制御されて活動しているが、プレデター無人機がグーグル・カーのように自律性を強めたとしたら、どうなるだろう？ 生か死かという究極の決断について、私たちはどういう権限を機械にあたえるべきなのだろうか？
――――
単行本p.27
自律的に索敵し、人間の指示を待たず自動攻撃する戦闘マシン。効率的にターゲットを撃破する戦術を学習してゆく攻撃ドローンの大群（スォーム）。敵兵と民間人を「識別」して攻撃判断を下すAI。それらは戦争をより人道的なものにする「スマート」なテクノロジーなのか、それともスカイネット／ターミネーターへの道なのか。急速に進められている自律兵器の開発、その制限に向けた国際的取り組み、それらをめぐる様々な論点を整理し、包括的に論じた一冊。単行本（早川書房）出版は2019年7月、Kindle版配信は2019年7月です。
――――
イスラエルのハーピー無人機のような兵器は、すでに完全自律の領域に達している。ハーピーは、人間が制御するプレデターとは異なり、広い範囲で敵レーダーを捜索し、発見したときには許可を得ずに破壊する。小数の国に売却され、中国はリバースエンジニアリングで、その派生型を製造した。ハーピーはさらに拡散する可能性があるし、この種の兵器はこれからいろいろ開発されるに違いない。韓国はロボット歩哨機関銃を、北朝鮮とのあいだの非武装地帯に配備した。イスラエルは武装した地上ロボットにガザ地区の境界線をパトロールさせている。ロシアはヨーロッパの平野での戦争に備え、各種の武装地上ロボットを製造している。17カ国がすでに武装無人機を保有し、さらに十数カ国が公然と配備を進めようとしている。
――――
単行本p.28
［目次］
第１部 地獄のロボット黙示録
第２部 ターミネーター建造
第３部 ランアウェイ・ガン
第４部 フラッシュ・ウォー
第５部 自律型兵器禁止の戦い
第６部 世界の終末を回避するー政策兵器
第１部 地獄のロボット黙示録
――――
まもなく国防総省は、すさまじいペースでドローンをふたつの戦争に投入するようになった。2011年には、ドローンの年間支出は9.11前のレベルの20倍以上、60億ドルを超えるほどに増大した。国防総省が配備したドローンは7000機を超えていた。ほとんどは手から発進できる小型ドローンだったが、MQ-9リーパーやRQ-4グローバル・ホークのような大型ドローンも、貴重な軍事資産になっていた。
それと同時に、国防総省は、ロボットが空以外でも貴重だということを知った。空ほどではないにせよ、陸でもやはり重要だった。簡易爆破装置IEDの増加に応じて、国防総省は6000台以上の地上ロボットをイラクとアフガニスタンに配備した。
――――
単行本p.41
群れで協働するドローン・スウォーム、自律ミサイルなど、自律型兵器の研究開発、そして配備に関する現状をまとめます。また「自律」という言葉の意味や、オートメーション（自動化）との違いなど、議論の混乱を防ぐために用語と概念を整理します。
第２部 ターミネーター建造
――――
先進国の軍だけが自律型兵器を建造できる世界と、だれもが自律型兵器を手に入れられるような世界には、大きな違いがある。自律型兵器をだれでも自分のガレージで造ることができるようになったら、テクノロジーを隠したり、禁止したりするのは、きわめて難しくなると、スチュアート・ラッセルをはじめとする反対派は主張する。（中略）私たちは、殺傷力のある自律型兵器を国民国家だけではなく個人でも建造できるような世界にはいりつつある。その世界は遠い未来ではなく、すでにここにある。
――――
単行本p.172、189
様々な自律型兵器とともにその基盤となっているテクノロジーを解説します。また、それらのテクノロジーが、国家だけでなく、どんな組織にも、個人にさえ、簡単に手に入れられるという事実が何を意味するのかを考察します。
第３部 ランアウェイ・ガン
――――
自律型兵器が引き起こす破壊は、無作為なものではない――ターゲットを定めたものになる。人間が干渉しなかったら、弾薬が尽きるまでシステムが不適切なターゲットと交戦しつづけ、一度の事故が多数の事故に拡大しかねない。「機械は過ちを犯していることを知らない」と、ホーリーは述べた。民間人や友軍に壊滅的な影響が及ぶだろう。（中略）自律型兵器を評価する際の重要な要素は、システムのほうが人間より優れているかどうかではなく、システムが故障したときに（故障は避けられない）、どれほどの損害が生じるかということと、そのリスクを容認できるかということだ。
――――
単行本p.263、265
自動化された兵器システムの故障あるいは誤判断によって引き起こされた過去の事例を紹介し、自律型兵器をめぐる様々な懸念のうち「故障したときの被害が甚大なものになりかねない」という問題について考察します。また深層ニューラルネットの「ブラックボックス化」が兵器にとって何を意味するのかを考えます。
第４部 フラッシュ・ウォー
――――
この速度の軍拡は、重大なリスクをもたらす。競争者たちが速度の誘惑に屈し、反応時間をマイクロ秒単位で削減する高速のアルゴリズムとハードウェアを開発したときの株取引が典型的な例だ。コントロールを失った現実の世界の環境では、事故は予想外の結果ではない。そういった事故では、機械の速度が大きな負担になる。自律プロセスが、たちまち制御できないきりもみ状態に陥り、会社をつぶし、市場をクラッシュさせかねない。理屈のうえでは、人間は干渉する能力を維持するはずだが設定によっては干渉しても手遅れかもしれない。オートメーション化された株取引は、国家が自律型兵器を開発して展開したときに、世界がどのようなリスクを負うことになるかを暗示している。
――――
単行本p.309
株式の自動取引ソフトの暴走が引き起こした市場暴落、いわゆるフラッシュ・クラッシュを例に、自律型兵器の速度競走、サイバー空間における自律型兵器という問題、さらにマイクロ秒で決着がつくフラッシュ・サイバーウォーのために高度AIに判断を任せるという構想を取り上げます。
第５部 自律型兵器禁止の戦い
――――
自律型兵器が私たちと武力行使の関係の性質を根本的に変えることに、疑いの余地はない。自律型兵器は、殺人を個人的な行為ではないようにして、そこから人間の感情を取り去る。それがよいことなのか、悪いことなのかは、見方によって異なる。感情は、戦場で人間を残虐行為に駆り立てるか、慈悲を呼び覚ます。帰結主義者には賛否両論があるだろうし、義務論者の意見も分かれるはずだ。（中略）殺人に対して人間は責任を持ちつづけなければならない、と義務論者は唱える。戦争の道徳的重荷を機械に渡したら、人間の道徳観は弱まる、というのだ。帰結主義者も、それについてはおなじことを主張している。殺人の道徳的な痛みは、戦争の悲惨さを抑える唯一の手段だからだ。
――――
単行本p.394、395
自律型兵器の開発あるいは配備の禁止を目指す運動と、各国がどのように対応しているかを概観します。具体的に「何を」「なぜ」制限するのか、その錯綜した論点と様々な議論を俯瞰します。
第６部 世界の終末を回避するー政策兵器
――――
人類は、人間と戦争との関係を根本的に変える可能性がある新テクノロジーの潮流の間際に立っている。人間社会がそれらの難問に対処するための機構は、不完全だ。CCWで合意に達するのが困難なのは、それが総意を基本とする枠組みだからだ。完全自律型兵器は、法律、道徳、戦略的理由から、悪しき発想であるかもしれないが、国家間でそれを規制しようとしても失敗するだろう。そういった実例が、これまでにもあった。現在、各国、NGO、ICRCのような国際組織が、CCWの会議を開いて、自律型兵器がもたらす難問について話し合っている。その間も、テクノロジーは猛スピードで前進している。
――――
単行本p.471
自律型兵器の禁止が実効力を持つためには、どうすればいいのか。あるいはどのような制限なら各国が受け入れることが出来るのか。残り時間がどんどん失われてゆくなかで進められている、未来の戦争をめぐる議論をまとめます。
テクノロジーは、人類と戦争との関係における限界点へと私たちを押しあげた。未来の戦争では、生死に関わる決定を機械が下すかもしれない。世界中の軍隊が、海、陸、空で競い合ってロボットを配備している――90カ国以上が、無人機（ドローン）に空を哨戒させている。これらのロボットは、どんどん自律化が進み、多くは武装している。いまは人間に制御されて活動しているが、プレデター無人機がグーグル・カーのように自律性を強めたとしたら、どうなるだろう？ 生か死かという究極の決断について、私たちはどういう権限を機械にあたえるべきなのだろうか？
――――
単行本p.27
自律的に索敵し、人間の指示を待たず自動攻撃する戦闘マシン。効率的にターゲットを撃破する戦術を学習してゆく攻撃ドローンの大群（スォーム）。敵兵と民間人を「識別」して攻撃判断を下すAI。それらは戦争をより人道的なものにする「スマート」なテクノロジーなのか、それともスカイネット／ターミネーターへの道なのか。急速に進められている自律兵器の開発、その制限に向けた国際的取り組み、それらをめぐる様々な論点を整理し、包括的に論じた一冊。単行本（早川書房）出版は2019年7月、Kindle版配信は2019年7月です。
――――
イスラエルのハーピー無人機のような兵器は、すでに完全自律の領域に達している。ハーピーは、人間が制御するプレデターとは異なり、広い範囲で敵レーダーを捜索し、発見したときには許可を得ずに破壊する。小数の国に売却され、中国はリバースエンジニアリングで、その派生型を製造した。ハーピーはさらに拡散する可能性があるし、この種の兵器はこれからいろいろ開発されるに違いない。韓国はロボット歩哨機関銃を、北朝鮮とのあいだの非武装地帯に配備した。イスラエルは武装した地上ロボットにガザ地区の境界線をパトロールさせている。ロシアはヨーロッパの平野での戦争に備え、各種の武装地上ロボットを製造している。17カ国がすでに武装無人機を保有し、さらに十数カ国が公然と配備を進めようとしている。
――――
単行本p.28
［目次］
第１部 地獄のロボット黙示録
第２部 ターミネーター建造
第３部 ランアウェイ・ガン
第４部 フラッシュ・ウォー
第５部 自律型兵器禁止の戦い
第６部 世界の終末を回避するー政策兵器
第１部 地獄のロボット黙示録
――――
まもなく国防総省は、すさまじいペースでドローンをふたつの戦争に投入するようになった。2011年には、ドローンの年間支出は9.11前のレベルの20倍以上、60億ドルを超えるほどに増大した。国防総省が配備したドローンは7000機を超えていた。ほとんどは手から発進できる小型ドローンだったが、MQ-9リーパーやRQ-4グローバル・ホークのような大型ドローンも、貴重な軍事資産になっていた。
それと同時に、国防総省は、ロボットが空以外でも貴重だということを知った。空ほどではないにせよ、陸でもやはり重要だった。簡易爆破装置IEDの増加に応じて、国防総省は6000台以上の地上ロボットをイラクとアフガニスタンに配備した。
――――
単行本p.41
群れで協働するドローン・スウォーム、自律ミサイルなど、自律型兵器の研究開発、そして配備に関する現状をまとめます。また「自律」という言葉の意味や、オートメーション（自動化）との違いなど、議論の混乱を防ぐために用語と概念を整理します。
第２部 ターミネーター建造
――――
先進国の軍だけが自律型兵器を建造できる世界と、だれもが自律型兵器を手に入れられるような世界には、大きな違いがある。自律型兵器をだれでも自分のガレージで造ることができるようになったら、テクノロジーを隠したり、禁止したりするのは、きわめて難しくなると、スチュアート・ラッセルをはじめとする反対派は主張する。（中略）私たちは、殺傷力のある自律型兵器を国民国家だけではなく個人でも建造できるような世界にはいりつつある。その世界は遠い未来ではなく、すでにここにある。
――――
単行本p.172、189
様々な自律型兵器とともにその基盤となっているテクノロジーを解説します。また、それらのテクノロジーが、国家だけでなく、どんな組織にも、個人にさえ、簡単に手に入れられるという事実が何を意味するのかを考察します。
第３部 ランアウェイ・ガン
――――
自律型兵器が引き起こす破壊は、無作為なものではない――ターゲットを定めたものになる。人間が干渉しなかったら、弾薬が尽きるまでシステムが不適切なターゲットと交戦しつづけ、一度の事故が多数の事故に拡大しかねない。「機械は過ちを犯していることを知らない」と、ホーリーは述べた。民間人や友軍に壊滅的な影響が及ぶだろう。（中略）自律型兵器を評価する際の重要な要素は、システムのほうが人間より優れているかどうかではなく、システムが故障したときに（故障は避けられない）、どれほどの損害が生じるかということと、そのリスクを容認できるかということだ。
――――
単行本p.263、265
自動化された兵器システムの故障あるいは誤判断によって引き起こされた過去の事例を紹介し、自律型兵器をめぐる様々な懸念のうち「故障したときの被害が甚大なものになりかねない」という問題について考察します。また深層ニューラルネットの「ブラックボックス化」が兵器にとって何を意味するのかを考えます。
第４部 フラッシュ・ウォー
――――
この速度の軍拡は、重大なリスクをもたらす。競争者たちが速度の誘惑に屈し、反応時間をマイクロ秒単位で削減する高速のアルゴリズムとハードウェアを開発したときの株取引が典型的な例だ。コントロールを失った現実の世界の環境では、事故は予想外の結果ではない。そういった事故では、機械の速度が大きな負担になる。自律プロセスが、たちまち制御できないきりもみ状態に陥り、会社をつぶし、市場をクラッシュさせかねない。理屈のうえでは、人間は干渉する能力を維持するはずだが設定によっては干渉しても手遅れかもしれない。オートメーション化された株取引は、国家が自律型兵器を開発して展開したときに、世界がどのようなリスクを負うことになるかを暗示している。
――――
単行本p.309
株式の自動取引ソフトの暴走が引き起こした市場暴落、いわゆるフラッシュ・クラッシュを例に、自律型兵器の速度競走、サイバー空間における自律型兵器という問題、さらにマイクロ秒で決着がつくフラッシュ・サイバーウォーのために高度AIに判断を任せるという構想を取り上げます。
第５部 自律型兵器禁止の戦い
――――
自律型兵器が私たちと武力行使の関係の性質を根本的に変えることに、疑いの余地はない。自律型兵器は、殺人を個人的な行為ではないようにして、そこから人間の感情を取り去る。それがよいことなのか、悪いことなのかは、見方によって異なる。感情は、戦場で人間を残虐行為に駆り立てるか、慈悲を呼び覚ます。帰結主義者には賛否両論があるだろうし、義務論者の意見も分かれるはずだ。（中略）殺人に対して人間は責任を持ちつづけなければならない、と義務論者は唱える。戦争の道徳的重荷を機械に渡したら、人間の道徳観は弱まる、というのだ。帰結主義者も、それについてはおなじことを主張している。殺人の道徳的な痛みは、戦争の悲惨さを抑える唯一の手段だからだ。
――――
単行本p.394、395
自律型兵器の開発あるいは配備の禁止を目指す運動と、各国がどのように対応しているかを概観します。具体的に「何を」「なぜ」制限するのか、その錯綜した論点と様々な議論を俯瞰します。
第６部 世界の終末を回避するー政策兵器
――――
人類は、人間と戦争との関係を根本的に変える可能性がある新テクノロジーの潮流の間際に立っている。人間社会がそれらの難問に対処するための機構は、不完全だ。CCWで合意に達するのが困難なのは、それが総意を基本とする枠組みだからだ。完全自律型兵器は、法律、道徳、戦略的理由から、悪しき発想であるかもしれないが、国家間でそれを規制しようとしても失敗するだろう。そういった実例が、これまでにもあった。現在、各国、NGO、ICRCのような国際組織が、CCWの会議を開いて、自律型兵器がもたらす難問について話し合っている。その間も、テクノロジーは猛スピードで前進している。
――――
単行本p.471
自律型兵器の禁止が実効力を持つためには、どうすればいいのか。あるいはどのような制限なら各国が受け入れることが出来るのか。残り時間がどんどん失われてゆくなかで進められている、未来の戦争をめぐる議論をまとめます。
タグ：その他（教養）
コメント 0