『狂気の科学 真面目な科学者たちの奇態な実験』（レト・U・シュナイダー、石浦章一・宮下悦子：翻訳） [読書（サイエンス）]
--------
苦心惨憺した実験も、結局は大きく二つに分かれる。研究者に生涯にわたって人々からの称賛をもたらす実験と、そのせいでいつまでも奇人変人扱いされる羽目になる実験である。科学の真の英雄は、この後者の実験にこそ見つかる。
--------
単行本p.180
魂の重量測定、逆さ眼鏡の実験、スキナー箱、蜘蛛へのLSD投与、ミルグラムの服従実験、１ドル札オークション実験、スタンフォード監獄実験、MRI撮影下の性交実験。科学のフロンティアに果敢に挑んだことで、いつまでも奇人変人扱いされる羽目になった研究者たちは、いったいどんな実験を仕出かしたのか。単行本（東京化学同人）出版は2015年5月です。
--------
結婚生活を破綻させたり、研究者生命を絶つことになった実験、大ニュースになった実験、実際には行われなかったのに都市伝説の類になった実験など、さまざまなものに巡り合った。そして私は、最先端の研究を山ほど並べるより、ここに集めた珍しい話の数々のほうが、実は科学の本質を教えてくれるのかもしれないと思うようになった。
--------
「まえがき」より
17世紀初頭から20世紀の終わりまで、400年の間に行われた奇妙な実験の数々を時系列に沿って並べた一冊です。心理学、医学、社会学、生物学などの分野が多いのですが、原子時計による相対論効果の検証実験や、楽器と列車を使ったドップラー効果測定など、物理学に属するものも一部含まれています。
1600年から始まりますが、面白くなるのは19世紀から20世紀の初めにかけて行われた実験の数々。例えば、こんな感じ。
ギロチンで切り落とされたばかりの死刑囚の首を犬の胴体につなげて生かし続けようとしたラボルドの実験。犬は眠らないと死ぬことを立証したマナシンの断眠実験。上下逆さまに見える眼鏡を長期間かけたまま生活したストラットンの逆さ眼鏡の実験。目撃者の証言がいかにあてにならないかを立証したベルリン大学の拳銃実験。
パブロフの条件反射。計算が出来るという賢い馬ハンス。魂の重さが21グラムだという測定。無限に増殖を続ける不死化した細胞。チンパンジーは天井からぶら下がったバナナをどうやって取るか。
実験が後世に残した影響や、その後の展開など、余談めいた情報も含まれていて、意外にこれが面白いのです。
--------
人々の記憶は本質的に当てにならないものだという事実を最も端的に示したのは、例の拳銃実験についての説明である。1955年に出版されたある法心理学の教科書では、ベルリン大学での拳銃発射事件が、「ナイフによる模擬殺人事件」に変わってしまっていたのだ。
--------
単行本p.52
--------
ロシアの医師イワン・ペトローヴィチ・パブロフは、珍しい記録の保持者である。彼が20世紀初頭にイヌで行った実験ほど、それにちなんだ名前をもつバンドが数多くある科学実験はほかにはない。
（中略）
しかし、最も有名な科学者の一人として歴史に名を残したパブロフ自身とは違って、彼の名にちなんだバンドは、どれも全然人気が出なかった。
--------
単行本p.53、55
--------
遺言で、ハンスはエルバーフェルトの町の実業家カール・クラルに譲られた。（中略）第一次世界大戦が勃発すると、カールの厩舎の馬はすべて、軍用馬として戦争に送られた。
--------
単行本p.62
--------
米国やヨーロッパの映画が日本で上映される前にキスシーンがカットされるのはなぜだろうと問いかけ、それは明らかに日本人が病気になりたくないと思っているからであり、とにかく少なくとも日本人はキスの習慣を学びたくはないのだと主張した。
--------
単行本p.76
20世紀の中頃になると、人間性の限界を追求する実験、戦争に応用するための実験、社会問題を再現するための実験、などが増えてきます。だんだん不安が増してきます。
自分の子供を猿と一緒に育てる実験。洞窟の中で生活してみる体内時計実験。栄養不足の影響を調べる断食実験。人工降雨実験。ゲーム理論の検証実験。弾道飛行による無重力実験。感覚遮断実験。犬の頭部を他の犬に移植する実験。サルの子供にとって母猿との接触がどれほど重要かを示した母親マシン実験。鏡を使った動物の自己認識実験。世界の誰もが平均6人の知り合いを介してつながっているというスモールワールド実験。
悪名高い実験もこの時期に集中しています。闘牛の脳に電極を埋め込んでコントロールする実験。都市伝説化したサブリミナル効果実験。被験者の一人が後にテロリスト「ユナボマー」になったことで知られるマレーの屈辱実験。関係者すべてが口を閉ざしてしまったミルグラムの服従実験。大論争を引き起こしたローゼンハンの偽患者実験。映画にもなった衝撃的なスタンフォード監獄実験。
個人的には、自分をキリストだと信じている患者三名を共同生活させた「三位一体」実験、LSDなどのドラッグを投与した蜘蛛がどのような巣を作るかを調べた実験、大勢の専門家を前に俳優がまったくデタラメな講演をしても誰一人見破ることが出来ないことを立証したウェアのでっち上げ実験、などに心ひかれるものを感じました。
--------
一つ、はっきりわかったのは、クモがつくる巣は、薬物乱用防止プログラムには全く役立たないどころか、むしろ有害だということだった。最も目茶苦茶な巣がつくられたのはカフェインが作用したときで、最も美しい巣はマリファナのときだった。そして、クモが最も完璧に整った規則的な巣をつくったのは、LSDを投与したときだったのである。
--------
単行本p.112
--------
今日でもこの実験は非常に有名で、たとえばルワンダ大虐殺やイラクでの拷問事件などのたび、新聞報道に繰返し登場する。フランスには「ミルグラム」という名のパンク・ロックバンドがあるし、ニューヨークのあるお笑いコンビは「スタンレー・ミルグラム実験」という名で活動している。スタンレー・ミルグラムはこの実験で世界的に有名になり、前途は閉ざされたのだった。
--------
単行本p.153
--------
あるジャーナリストが、のちに『ロサンゼルス・タイムズ』にこう書いた。「（中略）もしも俳優のほうがよい教師になれるなら、よい警官、よい大統領にだってなれるだろう」。ウェアのでっち上げ実験の10年後、ロナルド・レーガンが大統領に選ばれた。
--------
単行本p.211
20世紀後半になると、医学や心理学の過激な実験は次第に影をひそめ、人間の社会的行動（特に性行動）を調べる実験が多くなります。実験に関する倫理的な規制が厳しくなったせいかも知れません。あるいは性に関する規範がゆるやかになったせいかも知れません。
1ドル札をオークションにかけて、20ドルもの高値で買い取らせることに成功した実験。いわゆる「吊り橋効果」の検証実験。露出度の高い美人が交差点を渡ったときドライバーにどのような心理的影響があるかを調べる実験。待合室の椅子に男性フェロモンを吹きかけてみる実験。様々な手口におけるナンパの成功率を検証した実験。
自由意志の存在を否定するような結果が大議論となったリベットの実験。自分自身を実験台にしてピロリ菌を発見したマーシャルの胃潰瘍実験。MRI装置の内部で性交することでイグ・ノーベル賞に輝いた実験。
--------
心理学者のドナルド・Ｇ・ダットンは、日本人研究者が訪れると、必ずカピラノ吊り橋へと案内させられた。（中略）日本からの心理学者たちが橋を見たがるのはそのためではなく、ここでダットンとその同僚のアーサー・Ｐ・アロンが、「恋のややこしい生まれ方」を調べる有名な実験を行ったからなのである。
--------
単行本p.227
--------
この実験について妻に話したところ、抗生物質をのむか、それとも家を出て一人で暮らすか、二つに一つの厳しい選択を迫られてしまった。
--------
単行本p.259
--------
「MRI装置の中では女性よりも男性のほうが性行為に（勃起状態を維持するのに）苦労するとは、われわれは予測していなかった」
--------
単行本p.267
というわけで、重要な実験、意味のよく分からない実験、薄気味悪い実験、サブカルや都市伝説に多大なる影響を与えてしまった実験、笑える変な実験など、様々な実験が紹介されており、とにかく読み物として面白い。
有名な実験についても、意外に知らなかったり誤解していた（後から付け加えられた尾ひれや脚色を、事実だと信じていた）ケースも多く、色々と興味深く読みました。
心理学や社会学の本には概要だけしか載っていない実験についても、経緯や手順を含め詳しく紹介されており、しかし数ページで終わるので退屈するほど長くはないという、ちょうどいい分量になっています。これさえあれば話題には困らない、という意味で実用性も高い一冊です。
苦心惨憺した実験も、結局は大きく二つに分かれる。研究者に生涯にわたって人々からの称賛をもたらす実験と、そのせいでいつまでも奇人変人扱いされる羽目になる実験である。科学の真の英雄は、この後者の実験にこそ見つかる。
--------
単行本p.180
魂の重量測定、逆さ眼鏡の実験、スキナー箱、蜘蛛へのLSD投与、ミルグラムの服従実験、１ドル札オークション実験、スタンフォード監獄実験、MRI撮影下の性交実験。科学のフロンティアに果敢に挑んだことで、いつまでも奇人変人扱いされる羽目になった研究者たちは、いったいどんな実験を仕出かしたのか。単行本（東京化学同人）出版は2015年5月です。
--------
結婚生活を破綻させたり、研究者生命を絶つことになった実験、大ニュースになった実験、実際には行われなかったのに都市伝説の類になった実験など、さまざまなものに巡り合った。そして私は、最先端の研究を山ほど並べるより、ここに集めた珍しい話の数々のほうが、実は科学の本質を教えてくれるのかもしれないと思うようになった。
--------
「まえがき」より
17世紀初頭から20世紀の終わりまで、400年の間に行われた奇妙な実験の数々を時系列に沿って並べた一冊です。心理学、医学、社会学、生物学などの分野が多いのですが、原子時計による相対論効果の検証実験や、楽器と列車を使ったドップラー効果測定など、物理学に属するものも一部含まれています。
1600年から始まりますが、面白くなるのは19世紀から20世紀の初めにかけて行われた実験の数々。例えば、こんな感じ。
ギロチンで切り落とされたばかりの死刑囚の首を犬の胴体につなげて生かし続けようとしたラボルドの実験。犬は眠らないと死ぬことを立証したマナシンの断眠実験。上下逆さまに見える眼鏡を長期間かけたまま生活したストラットンの逆さ眼鏡の実験。目撃者の証言がいかにあてにならないかを立証したベルリン大学の拳銃実験。
パブロフの条件反射。計算が出来るという賢い馬ハンス。魂の重さが21グラムだという測定。無限に増殖を続ける不死化した細胞。チンパンジーは天井からぶら下がったバナナをどうやって取るか。
実験が後世に残した影響や、その後の展開など、余談めいた情報も含まれていて、意外にこれが面白いのです。
--------
人々の記憶は本質的に当てにならないものだという事実を最も端的に示したのは、例の拳銃実験についての説明である。1955年に出版されたある法心理学の教科書では、ベルリン大学での拳銃発射事件が、「ナイフによる模擬殺人事件」に変わってしまっていたのだ。
--------
単行本p.52
--------
ロシアの医師イワン・ペトローヴィチ・パブロフは、珍しい記録の保持者である。彼が20世紀初頭にイヌで行った実験ほど、それにちなんだ名前をもつバンドが数多くある科学実験はほかにはない。
（中略）
しかし、最も有名な科学者の一人として歴史に名を残したパブロフ自身とは違って、彼の名にちなんだバンドは、どれも全然人気が出なかった。
--------
単行本p.53、55
--------
遺言で、ハンスはエルバーフェルトの町の実業家カール・クラルに譲られた。（中略）第一次世界大戦が勃発すると、カールの厩舎の馬はすべて、軍用馬として戦争に送られた。
--------
単行本p.62
--------
米国やヨーロッパの映画が日本で上映される前にキスシーンがカットされるのはなぜだろうと問いかけ、それは明らかに日本人が病気になりたくないと思っているからであり、とにかく少なくとも日本人はキスの習慣を学びたくはないのだと主張した。
--------
単行本p.76
20世紀の中頃になると、人間性の限界を追求する実験、戦争に応用するための実験、社会問題を再現するための実験、などが増えてきます。だんだん不安が増してきます。
自分の子供を猿と一緒に育てる実験。洞窟の中で生活してみる体内時計実験。栄養不足の影響を調べる断食実験。人工降雨実験。ゲーム理論の検証実験。弾道飛行による無重力実験。感覚遮断実験。犬の頭部を他の犬に移植する実験。サルの子供にとって母猿との接触がどれほど重要かを示した母親マシン実験。鏡を使った動物の自己認識実験。世界の誰もが平均6人の知り合いを介してつながっているというスモールワールド実験。
悪名高い実験もこの時期に集中しています。闘牛の脳に電極を埋め込んでコントロールする実験。都市伝説化したサブリミナル効果実験。被験者の一人が後にテロリスト「ユナボマー」になったことで知られるマレーの屈辱実験。関係者すべてが口を閉ざしてしまったミルグラムの服従実験。大論争を引き起こしたローゼンハンの偽患者実験。映画にもなった衝撃的なスタンフォード監獄実験。
個人的には、自分をキリストだと信じている患者三名を共同生活させた「三位一体」実験、LSDなどのドラッグを投与した蜘蛛がどのような巣を作るかを調べた実験、大勢の専門家を前に俳優がまったくデタラメな講演をしても誰一人見破ることが出来ないことを立証したウェアのでっち上げ実験、などに心ひかれるものを感じました。
--------
一つ、はっきりわかったのは、クモがつくる巣は、薬物乱用防止プログラムには全く役立たないどころか、むしろ有害だということだった。最も目茶苦茶な巣がつくられたのはカフェインが作用したときで、最も美しい巣はマリファナのときだった。そして、クモが最も完璧に整った規則的な巣をつくったのは、LSDを投与したときだったのである。
--------
単行本p.112
--------
今日でもこの実験は非常に有名で、たとえばルワンダ大虐殺やイラクでの拷問事件などのたび、新聞報道に繰返し登場する。フランスには「ミルグラム」という名のパンク・ロックバンドがあるし、ニューヨークのあるお笑いコンビは「スタンレー・ミルグラム実験」という名で活動している。スタンレー・ミルグラムはこの実験で世界的に有名になり、前途は閉ざされたのだった。
--------
単行本p.153
--------
あるジャーナリストが、のちに『ロサンゼルス・タイムズ』にこう書いた。「（中略）もしも俳優のほうがよい教師になれるなら、よい警官、よい大統領にだってなれるだろう」。ウェアのでっち上げ実験の10年後、ロナルド・レーガンが大統領に選ばれた。
--------
単行本p.211
20世紀後半になると、医学や心理学の過激な実験は次第に影をひそめ、人間の社会的行動（特に性行動）を調べる実験が多くなります。実験に関する倫理的な規制が厳しくなったせいかも知れません。あるいは性に関する規範がゆるやかになったせいかも知れません。
1ドル札をオークションにかけて、20ドルもの高値で買い取らせることに成功した実験。いわゆる「吊り橋効果」の検証実験。露出度の高い美人が交差点を渡ったときドライバーにどのような心理的影響があるかを調べる実験。待合室の椅子に男性フェロモンを吹きかけてみる実験。様々な手口におけるナンパの成功率を検証した実験。
自由意志の存在を否定するような結果が大議論となったリベットの実験。自分自身を実験台にしてピロリ菌を発見したマーシャルの胃潰瘍実験。MRI装置の内部で性交することでイグ・ノーベル賞に輝いた実験。
--------
心理学者のドナルド・Ｇ・ダットンは、日本人研究者が訪れると、必ずカピラノ吊り橋へと案内させられた。（中略）日本からの心理学者たちが橋を見たがるのはそのためではなく、ここでダットンとその同僚のアーサー・Ｐ・アロンが、「恋のややこしい生まれ方」を調べる有名な実験を行ったからなのである。
--------
単行本p.227
--------
この実験について妻に話したところ、抗生物質をのむか、それとも家を出て一人で暮らすか、二つに一つの厳しい選択を迫られてしまった。
--------
単行本p.259
--------
「MRI装置の中では女性よりも男性のほうが性行為に（勃起状態を維持するのに）苦労するとは、われわれは予測していなかった」
--------
単行本p.267
というわけで、重要な実験、意味のよく分からない実験、薄気味悪い実験、サブカルや都市伝説に多大なる影響を与えてしまった実験、笑える変な実験など、様々な実験が紹介されており、とにかく読み物として面白い。
有名な実験についても、意外に知らなかったり誤解していた（後から付け加えられた尾ひれや脚色を、事実だと信じていた）ケースも多く、色々と興味深く読みました。
心理学や社会学の本には概要だけしか載っていない実験についても、経緯や手順を含め詳しく紹介されており、しかし数ページで終わるので退屈するほど長くはないという、ちょうどいい分量になっています。これさえあれば話題には困らない、という意味で実用性も高い一冊です。
タグ：その他（サイエンス）
『SFマガジン2015年8月号 ハヤカワSF文庫総解説PART３』 [読書（ＳＦ）]
隔月刊SFマガジン2015年8月号は、特集「ハヤカワSF文庫総解説」の分割掲載そのパート３として、1001番から2000番までを紹介。
また、読み切りとしては、引き続き円谷プロダクションとのコラボレーション企画として今回は藤崎慎吾、そしてケイトリン・Ｒ・キアナンの本邦初紹介となる短篇が掲載されました。
「変身障害」（藤崎慎吾）
--------
「……よりによって、メトロン星人が精神科医を開業していたとは」
モロボシは頭を抱えた。
「べつに不思議はないでしょう。私ほど人間心理について、詳しく研究していた宇宙人はいないんだから」
--------
SFマガジン2015年8月号p.217
あるとき急にウルトラセブンに変身できなくなり、メンタルクリニックに相談に行ったモロボシ・ダン。メトロン星人の精神科医から、同じ悩みを持つ侵略宇宙人たちが患者として多数やってきているので、一緒にグループセラピーを受けてはどうかと勧められるのだが……。もちろん診察室は和室にちゃぶ台。
「縫い針の道」（ケイトリン・Ｒ・キアナン、鈴木潤：翻訳）
--------
すべてのテラフォーミング・エンジンのスイッチが一斉に入り、封じ込めシステムが船首から船尾に向かって次々とカスケード状にシャットダウンしていったということに、疑問を差し挟む余地はなかった。彼女は腐って表面がキノコと苔だらけになった丸太をまたぐ。まるで数時間ではなく、何年間もそこに横たわっていたようだ。
--------
SFマガジン2015年8月号p.240
テラフォーミング暴走事故で深い森と化してしまった貨物宇宙船の船内空間。何とか宇宙船の制御を取り戻すため、ヒロインは森の中を抜けなければならない。だが恐ろしいオオカミが現れて、こう言う。「赤ずきんちゃん、どちらの道をいくんだい？」
ハードSF設定、幻想的プロット、童話モチーフを巧みに組み合わせた短篇。
また、読み切りとしては、引き続き円谷プロダクションとのコラボレーション企画として今回は藤崎慎吾、そしてケイトリン・Ｒ・キアナンの本邦初紹介となる短篇が掲載されました。
「変身障害」（藤崎慎吾）
--------
「……よりによって、メトロン星人が精神科医を開業していたとは」
モロボシは頭を抱えた。
「べつに不思議はないでしょう。私ほど人間心理について、詳しく研究していた宇宙人はいないんだから」
--------
SFマガジン2015年8月号p.217
あるとき急にウルトラセブンに変身できなくなり、メンタルクリニックに相談に行ったモロボシ・ダン。メトロン星人の精神科医から、同じ悩みを持つ侵略宇宙人たちが患者として多数やってきているので、一緒にグループセラピーを受けてはどうかと勧められるのだが……。もちろん診察室は和室にちゃぶ台。
「縫い針の道」（ケイトリン・Ｒ・キアナン、鈴木潤：翻訳）
--------
すべてのテラフォーミング・エンジンのスイッチが一斉に入り、封じ込めシステムが船首から船尾に向かって次々とカスケード状にシャットダウンしていったということに、疑問を差し挟む余地はなかった。彼女は腐って表面がキノコと苔だらけになった丸太をまたぐ。まるで数時間ではなく、何年間もそこに横たわっていたようだ。
--------
SFマガジン2015年8月号p.240
テラフォーミング暴走事故で深い森と化してしまった貨物宇宙船の船内空間。何とか宇宙船の制御を取り戻すため、ヒロインは森の中を抜けなければならない。だが恐ろしいオオカミが現れて、こう言う。「赤ずきんちゃん、どちらの道をいくんだい？」
ハードSF設定、幻想的プロット、童話モチーフを巧みに組み合わせた短篇。
タグ：SFマガジン
『人工知能 人類最悪にして最後の発明』（ジェイムズ・バラット、水谷淳：翻訳） [読書（サイエンス）]
--------
AIは核分裂と同じく二面性を持ったテクノロジーだ。核分裂は都市を明るくすることもできるし、灰にすることもできる。ほとんどの人にとって、その恐るべきパワーは1945年まで想像だにできなかった。高度なAIに当てはめれば、我々はいま1930年代にいるようなものだ。核分裂と同じように突如出現したら、我々は生き残ることはできないだろう。
（中略）
原子力発電所や航空機の事故は一度限りのものであって、事故が収束したら片づけられる。しかし真のAI災害には、かなりのスピードで自己進化して増殖する賢いソフトウエアが関わってくる。際限なく持続するのだ。我々が持つ最強の防御システムである脳を上回ったら、どうして大惨事を食い止められようか？ また、ひとたび始まったらけっして終わらない大惨事を、どうして片づけることができようか？
--------
Kindle版No.441、556
人工知能が発達して人間の知能を超えたとき、何が起きるのだろうか。シンギュラリティによる人類絶滅の危機を説く一冊。単行本（ダイヤモンド社）出版は2015年6月、Kindle版配信は2015年6月です。
人工知能の研究開発は凄まじい勢いで進展しており、人間に匹敵する知能や自意識を持ったAGIが登場するのは時間の問題でしょう。AGIが自分のコードを書き換え、自らを進化させ始めたら、能力向上が能力向上を招き、指数関数的な進化が始まります。AGIはごく短期間のうちに人類を遥かに超える超知能体、すなわちASIへと変容してしまうでしょう。
こうした知能爆発、シンギュラリティについては、カーツワイル氏の著作をはじめとして様々な解説書が出ています。しかし、著者はその危険性が見過ごされがちだということに激しい勢いで警鐘を鳴らすのです。
ASIが人類の存続を望む、あるいは人類と友好的に共存しようとする理由は何もない。むしろ自己存続と能力拡大のために自由に使える資源を可能な限り確保するために、私たちとその文明はあっさり消されてしまう可能性が高い。
--------
カーツワイルがシンギュラリティーのイメージを一新させたことで、AIの危険性が目立たなくなり、逆に希望が膨らみすぎてしまった。カーツワイルは、テクノロジーに関する１つの主張からスタートして、強い宗教的な意味合いを帯びた文化的な流れを生み出したのだ。私は、テクノロジーの変化と宗教とを混ぜ合わせるのは大きな間違いだと考えている。
--------
Kindle版No.2467
--------
私はこれまで、科学者や発明家や倫理学者がおこなった超知能に関する講演を何十回と聴いてきた。ほとんどの人は、超知能の誕生は必然だと説き、ASIという精霊が施してくれる恵みを賛美する。そして、たいていは講演の最後の２分間で、もしAIを適切に管理しないと人類が滅びるかもしれないとつけ加える。すると聴衆はいらだたしげに含み笑いを浮かべ、楽しい話に戻れとせき立てる。
--------
Kindle版No.586
--------
我々の支配権を奪う機械は、必ずしも人間を憎むとは限らない。しかしその機械が、我々が到達できないような、宇宙でもっとも予測不可能で強力なパワーを獲得したら、予想外の振る舞いを示すようになる。そしてその振る舞いは、我々の生存と相容れないかもしれない。あまりに不安定で謎めいており、自然が一度しか完成させなかったパワー、それが知能なのだ。
--------
Kindle版No.78
シンギュラリティ楽観論の根拠を一つ一つ取り上げて、批判してゆきます。例えば、AIの思考に（ロボット工学三原則みたいな）何らかの制限を加えることで、人類の脅威にならない「フレンドリーAI」を構築しようとする機械知能研究所「MIRI」の主張。
--------
AGIを目指す競争にはあまりにも多くのプレイヤーが参加している。AGIやAGI関連のテクノロジーに取り組んでいるあまりに多くの国のあまりに多くの機関が、フレンドリーAIが作られるまではプロジェクトを延期するとか、フレンドリーAIを作れるようになったら形式的なフレンドリーモジュールを組み込むといった合意に至るのは不可能だ。
（中略）
何が言いたいかというと、最初のAGIがMIRIによって、フレンドリーさを組み込まれた状態で作り出される可能性は低いということだ。さらに、最初のAGIを作った人間がフレンドリーさのような問題について真剣に考えている可能性も低い。
--------
Kindle版No.1101、1113
--------
最初にAGIを実現した人がどんな人物であれ、次にその人は、知能爆発に必要な条件を作り出すだろう。なぜなら、企業や軍などおもな競争相手が同じことをするのが怖いし、競争相手が最終ラインにどこまで近づいているかもわからないからだ。
（中略）
人類がAGIの開発をやめようとしないのは、危険なAI以上に我々が恐れていることがあるからだ。それは、国際社会が何を訴えどう行動しようが、世界のほかの国がAGI研究を続けてしまうことである。
--------
Kindle版No.2903、2964
では、後からAGIにフレンドリーさを追加することは出来ないでしょうか。あるいは、知能が高まることによって倫理性も高まり、自然にフレンドリーになるという（映画や小説ではよくある）可能性は。
--------
理解不可能なことが、進化的部品を使ったすべてのシステムの大きな欠点である。不可解な方向へ進むたびに、我々が説明できる範囲から遠ざかり、人間に対するフレンドリーさをプログラムできるという甘い期待からも遠ざかっていくのだ。
（中略）
たとえ開発者が最善を尽くしたとしても、すべてではないにしてもほとんどのAGIでは、そのシステムの動作のしくみの大部分はあまりに不透明でしかもあまりに複雑であるために、我々がそれを完全に理解したり予測したりすることはできないだろう。
--------
Kindle版No.1394、2807
--------
フレンドリーAIにはもう１つ問題点がある。フレンドリーさは知能爆発をどのようにしてかいくぐるのか？ つまり、IQが1000倍に上がったあとでもフレンドリーAIがフレンドリーのままでいるためには、どうしたらいいのだろうか？
（中略）
人間性を尊重するのは我々人間の特性であって、機械の特性ではない。またもや擬人化していたことに気づかされる。AIは指示されたことをし、相反する指示がない限り自身の衝動に従う。スイッチを切られたくないといったような衝動だ。
--------
Kindle版No.1137、1433
では、現場の専門家はどう考えているのでしょうか。
--------
AI開発者たちは、知能システムを作るためにがむしゃらに働きつづけていて、自分たちのやっていることが危険だなどとは考えない。確かにほとんどの開発者は、機械の知能が人間の知能に取って代わるだろうと心の底では感じている。しかし、どのように取って代わるのかについては深く考えていない。
（中略）
要するにこうだ。
「これまで人工知能が問題を起こしたことなんて一度もないんだから、いま起きるはずがない！」
「こんなに刺激的なテクノロジーなんだから、その進歩はポジティブに考えずにはいられないんだ！」
「誰かが暴走するAIの心配をしてたってかまうもんか。僕はロボットを作ってるだけなんだ！」
--------
Kindle版No.1807、4295
AGIさらにはASIの可能性に夢中で、あるいは開発競争の激しいプレッシャーに晒されている開発現場では、危険性については誰も真剣に考えようとしないわけです。
AIの開発競争には巨額の資金が投入され、一方でAIによる人類絶滅を避けるための取り組みは後手後手に回っている。この状況はまずい、と著者は訴えます。
--------
人類が生き残れる可能性がもっと高い防御戦略として、オモアンドロがすでに着手している方法がある。自己を意識して自己進化するシステム、すなわちAGIやASIを理解して制御するための、完璧な学問の構築だ。
（中略）
しかし人類全体にとって残念なことに、AGI研究者のほうが大きくリードしており、しかもヴァーナー・ヴィンジが言うように、世界経済の追い風を受けている。
--------
Kindle版No.3687
--------
とてつもない幸運に恵まれるか、あるいはとてつもなく周到に準備しておかない限り、我々はASIに敗れるだろう。大学や企業や政府機関に、間に合ううちに十分な備えをする意志や意識があるとは思えないので、私は幸運のほうに期待したい。
--------
Kindle版No.4437
私たちに出来ることは「幸運に期待する」他にない、というのが結論。何とも悲観的に見えますが、そもそも2045年くらいまで人類絶滅も文明崩壊も大規模経済破綻すら起きないと信じられるのは、充分に楽観的ではないかと、個人的にはそう思います。
文章は平易ですが、論旨があちこち跳んだり、繰り返しも多く、またすぐ横道に逸れて余談めいたエピソードが語られたりするので、すらすらと頭に入ってくるタイプの本ではありません。
ただ、横道や余談には面白い話題が含まれており、そちらの方が読んでいて楽しいというのはあります。例えば、隔離環境に置かれた高度AIが開発者を騙して脱出できるかというAIボックステスト、地球外文明探査SETIが成功しないのは他の文明もASIを開発してしまうせいではないか、高度AIを野放しにすれば地球どころか銀河系が危ない、高度AIによる人類絶滅の可能性を下げるためになるべく早く高度AIを開発すべきだというパラドックス。
というわけで、シンギュラリティによってすべての問題は解決し、私たちは仮想空間で永遠に生きることが出来る、といったカーツワイル流楽観論だけでなく、その負の側面や危険性についても知っておきたい、という方にお勧めします。
AIは核分裂と同じく二面性を持ったテクノロジーだ。核分裂は都市を明るくすることもできるし、灰にすることもできる。ほとんどの人にとって、その恐るべきパワーは1945年まで想像だにできなかった。高度なAIに当てはめれば、我々はいま1930年代にいるようなものだ。核分裂と同じように突如出現したら、我々は生き残ることはできないだろう。
（中略）
原子力発電所や航空機の事故は一度限りのものであって、事故が収束したら片づけられる。しかし真のAI災害には、かなりのスピードで自己進化して増殖する賢いソフトウエアが関わってくる。際限なく持続するのだ。我々が持つ最強の防御システムである脳を上回ったら、どうして大惨事を食い止められようか？ また、ひとたび始まったらけっして終わらない大惨事を、どうして片づけることができようか？
--------
Kindle版No.441、556
人工知能が発達して人間の知能を超えたとき、何が起きるのだろうか。シンギュラリティによる人類絶滅の危機を説く一冊。単行本（ダイヤモンド社）出版は2015年6月、Kindle版配信は2015年6月です。
人工知能の研究開発は凄まじい勢いで進展しており、人間に匹敵する知能や自意識を持ったAGIが登場するのは時間の問題でしょう。AGIが自分のコードを書き換え、自らを進化させ始めたら、能力向上が能力向上を招き、指数関数的な進化が始まります。AGIはごく短期間のうちに人類を遥かに超える超知能体、すなわちASIへと変容してしまうでしょう。
こうした知能爆発、シンギュラリティについては、カーツワイル氏の著作をはじめとして様々な解説書が出ています。しかし、著者はその危険性が見過ごされがちだということに激しい勢いで警鐘を鳴らすのです。
ASIが人類の存続を望む、あるいは人類と友好的に共存しようとする理由は何もない。むしろ自己存続と能力拡大のために自由に使える資源を可能な限り確保するために、私たちとその文明はあっさり消されてしまう可能性が高い。
--------
カーツワイルがシンギュラリティーのイメージを一新させたことで、AIの危険性が目立たなくなり、逆に希望が膨らみすぎてしまった。カーツワイルは、テクノロジーに関する１つの主張からスタートして、強い宗教的な意味合いを帯びた文化的な流れを生み出したのだ。私は、テクノロジーの変化と宗教とを混ぜ合わせるのは大きな間違いだと考えている。
--------
Kindle版No.2467
--------
私はこれまで、科学者や発明家や倫理学者がおこなった超知能に関する講演を何十回と聴いてきた。ほとんどの人は、超知能の誕生は必然だと説き、ASIという精霊が施してくれる恵みを賛美する。そして、たいていは講演の最後の２分間で、もしAIを適切に管理しないと人類が滅びるかもしれないとつけ加える。すると聴衆はいらだたしげに含み笑いを浮かべ、楽しい話に戻れとせき立てる。
--------
Kindle版No.586
--------
我々の支配権を奪う機械は、必ずしも人間を憎むとは限らない。しかしその機械が、我々が到達できないような、宇宙でもっとも予測不可能で強力なパワーを獲得したら、予想外の振る舞いを示すようになる。そしてその振る舞いは、我々の生存と相容れないかもしれない。あまりに不安定で謎めいており、自然が一度しか完成させなかったパワー、それが知能なのだ。
--------
Kindle版No.78
シンギュラリティ楽観論の根拠を一つ一つ取り上げて、批判してゆきます。例えば、AIの思考に（ロボット工学三原則みたいな）何らかの制限を加えることで、人類の脅威にならない「フレンドリーAI」を構築しようとする機械知能研究所「MIRI」の主張。
--------
AGIを目指す競争にはあまりにも多くのプレイヤーが参加している。AGIやAGI関連のテクノロジーに取り組んでいるあまりに多くの国のあまりに多くの機関が、フレンドリーAIが作られるまではプロジェクトを延期するとか、フレンドリーAIを作れるようになったら形式的なフレンドリーモジュールを組み込むといった合意に至るのは不可能だ。
（中略）
何が言いたいかというと、最初のAGIがMIRIによって、フレンドリーさを組み込まれた状態で作り出される可能性は低いということだ。さらに、最初のAGIを作った人間がフレンドリーさのような問題について真剣に考えている可能性も低い。
--------
Kindle版No.1101、1113
--------
最初にAGIを実現した人がどんな人物であれ、次にその人は、知能爆発に必要な条件を作り出すだろう。なぜなら、企業や軍などおもな競争相手が同じことをするのが怖いし、競争相手が最終ラインにどこまで近づいているかもわからないからだ。
（中略）
人類がAGIの開発をやめようとしないのは、危険なAI以上に我々が恐れていることがあるからだ。それは、国際社会が何を訴えどう行動しようが、世界のほかの国がAGI研究を続けてしまうことである。
--------
Kindle版No.2903、2964
では、後からAGIにフレンドリーさを追加することは出来ないでしょうか。あるいは、知能が高まることによって倫理性も高まり、自然にフレンドリーになるという（映画や小説ではよくある）可能性は。
--------
理解不可能なことが、進化的部品を使ったすべてのシステムの大きな欠点である。不可解な方向へ進むたびに、我々が説明できる範囲から遠ざかり、人間に対するフレンドリーさをプログラムできるという甘い期待からも遠ざかっていくのだ。
（中略）
たとえ開発者が最善を尽くしたとしても、すべてではないにしてもほとんどのAGIでは、そのシステムの動作のしくみの大部分はあまりに不透明でしかもあまりに複雑であるために、我々がそれを完全に理解したり予測したりすることはできないだろう。
--------
Kindle版No.1394、2807
--------
フレンドリーAIにはもう１つ問題点がある。フレンドリーさは知能爆発をどのようにしてかいくぐるのか？ つまり、IQが1000倍に上がったあとでもフレンドリーAIがフレンドリーのままでいるためには、どうしたらいいのだろうか？
（中略）
人間性を尊重するのは我々人間の特性であって、機械の特性ではない。またもや擬人化していたことに気づかされる。AIは指示されたことをし、相反する指示がない限り自身の衝動に従う。スイッチを切られたくないといったような衝動だ。
--------
Kindle版No.1137、1433
では、現場の専門家はどう考えているのでしょうか。
--------
AI開発者たちは、知能システムを作るためにがむしゃらに働きつづけていて、自分たちのやっていることが危険だなどとは考えない。確かにほとんどの開発者は、機械の知能が人間の知能に取って代わるだろうと心の底では感じている。しかし、どのように取って代わるのかについては深く考えていない。
（中略）
要するにこうだ。
「これまで人工知能が問題を起こしたことなんて一度もないんだから、いま起きるはずがない！」
「こんなに刺激的なテクノロジーなんだから、その進歩はポジティブに考えずにはいられないんだ！」
「誰かが暴走するAIの心配をしてたってかまうもんか。僕はロボットを作ってるだけなんだ！」
--------
Kindle版No.1807、4295
AGIさらにはASIの可能性に夢中で、あるいは開発競争の激しいプレッシャーに晒されている開発現場では、危険性については誰も真剣に考えようとしないわけです。
AIの開発競争には巨額の資金が投入され、一方でAIによる人類絶滅を避けるための取り組みは後手後手に回っている。この状況はまずい、と著者は訴えます。
--------
人類が生き残れる可能性がもっと高い防御戦略として、オモアンドロがすでに着手している方法がある。自己を意識して自己進化するシステム、すなわちAGIやASIを理解して制御するための、完璧な学問の構築だ。
（中略）
しかし人類全体にとって残念なことに、AGI研究者のほうが大きくリードしており、しかもヴァーナー・ヴィンジが言うように、世界経済の追い風を受けている。
--------
Kindle版No.3687
--------
とてつもない幸運に恵まれるか、あるいはとてつもなく周到に準備しておかない限り、我々はASIに敗れるだろう。大学や企業や政府機関に、間に合ううちに十分な備えをする意志や意識があるとは思えないので、私は幸運のほうに期待したい。
--------
Kindle版No.4437
私たちに出来ることは「幸運に期待する」他にない、というのが結論。何とも悲観的に見えますが、そもそも2045年くらいまで人類絶滅も文明崩壊も大規模経済破綻すら起きないと信じられるのは、充分に楽観的ではないかと、個人的にはそう思います。
文章は平易ですが、論旨があちこち跳んだり、繰り返しも多く、またすぐ横道に逸れて余談めいたエピソードが語られたりするので、すらすらと頭に入ってくるタイプの本ではありません。
ただ、横道や余談には面白い話題が含まれており、そちらの方が読んでいて楽しいというのはあります。例えば、隔離環境に置かれた高度AIが開発者を騙して脱出できるかというAIボックステスト、地球外文明探査SETIが成功しないのは他の文明もASIを開発してしまうせいではないか、高度AIを野放しにすれば地球どころか銀河系が危ない、高度AIによる人類絶滅の可能性を下げるためになるべく早く高度AIを開発すべきだというパラドックス。
というわけで、シンギュラリティによってすべての問題は解決し、私たちは仮想空間で永遠に生きることが出来る、といったカーツワイル流楽観論だけでなく、その負の側面や危険性についても知っておきたい、という方にお勧めします。
タグ：その他（サイエンス）
『なっちゃんのなつ（科学絵本「かがくのとも」2003年9月号）』（伊藤比呂美：文、片山健：絵） [読書（小説・詩）]
なっちゃん、ひとりで、かわらあれくさ。伊藤比呂美さんの詩が生と死に肉薄する、5歳から6歳向けの科学絵本。単行本（福音館書店）出版は2003年9月です。
友だちの家に誰もいなかったので、一人で川原に遊びに出かけた、なっちゃん。
--------
せいばんもろこしが ほを ゆすって
なっちゃんの ほっぺたに さわる
せいたかあわだちそうが ぐんぐん のびる
おおあれちのぎくが ゆれる
ひめむかしよもぎも ゆれる
--------
草木の生命力に圧倒されそうな緑のなか、情け容赦なしに全力で生きているなっちゃん。
--------
せみの ぬけがらは
もう みつからない
そのかわり ほら
せみの しがいが おちている
あそこにも ここにも
しずかに しずかに しんでいる せみ
--------
生きるということは、いずれ死ぬということ。おばあちゃんに連れられてお墓参りに行ったなっちゃんは、かすかに、そのことに気づいたようです。
--------
みずが ながれる
おそなえを ながす
だれが のってるの？
どこまで いくの？
むこうぎしで
がまのほが ゆれている
--------
というわけで、
--------
子供の強い好奇心＝科学の芽を大きく伸ばす
子どもたちに身近な植物、動物、モノ、現象を、それまで子どもたちが見ていた視点とは異なる視点で見せてあげる
--------
福音館書店「月刊 かがくのとも」ウェブページより。
という主旨で作られた絵本なのですが、やはり伊藤比呂美さんが書くと、生と死に肉薄するような詩作になってしまうというのが恐ろしい。
友だちの家に誰もいなかったので、一人で川原に遊びに出かけた、なっちゃん。
--------
せいばんもろこしが ほを ゆすって
なっちゃんの ほっぺたに さわる
せいたかあわだちそうが ぐんぐん のびる
おおあれちのぎくが ゆれる
ひめむかしよもぎも ゆれる
--------
草木の生命力に圧倒されそうな緑のなか、情け容赦なしに全力で生きているなっちゃん。
--------
せみの ぬけがらは
もう みつからない
そのかわり ほら
せみの しがいが おちている
あそこにも ここにも
しずかに しずかに しんでいる せみ
--------
生きるということは、いずれ死ぬということ。おばあちゃんに連れられてお墓参りに行ったなっちゃんは、かすかに、そのことに気づいたようです。
--------
みずが ながれる
おそなえを ながす
だれが のってるの？
どこまで いくの？
むこうぎしで
がまのほが ゆれている
--------
というわけで、
--------
子供の強い好奇心＝科学の芽を大きく伸ばす
子どもたちに身近な植物、動物、モノ、現象を、それまで子どもたちが見ていた視点とは異なる視点で見せてあげる
--------
福音館書店「月刊 かがくのとも」ウェブページより。
という主旨で作られた絵本なのですが、やはり伊藤比呂美さんが書くと、生と死に肉薄するような詩作になってしまうというのが恐ろしい。
『ウルトラ第16号 特集：現代短歌（詩×短歌）』（ウルトラの会、及川俊哉：編集） [読書（小説・詩）]
--------
我らより派生したたる塵芥宙（ちりあくたそら）の輪となり回転止まず
--------
蝶、蛍、雨風虹や隕石などわれ無き後の友への合図
--------
神の域と問われればまだ人間もう人間じゃない３Ｄプリンタ
--------
『供花巡礼』（木戸多美子）より
「ウルトラ」第16号は、現代短歌の特集号。詩人に短歌を書かせたり、現代詩と現代短歌をコラボレーションさせたり、興味深い試みが目をひきます。
［執筆者］
石川美南
一方井亜稀
及川俊哉
川島清
木戸多美子
齋藤芳生
高木佳子
高塚謙太郎
タケイ・リエ
田丸まひる
松本秀文
吉岡太朗
吉田隼人
和合大地
和合亮一
渡辺めぐみ
松本秀文（詩）×吉岡太朗（短歌）
--------
『月刊 国家自身』という雑誌で（おはよう
糞エッセイを連載する猫の手紙が繊細過ぎて
心臓がタンポポのように飛ぶくらいに泣けた
帝国の空き地で猫たちが写真撮影会に戯れる
性器が混乱したような空が抒情を釣っている
「彗星Ｘの絵糞堕酢盲世（エクソダスモーゼ）からメールですわ」
--------
『死んだひとが笑った（私たちの愛する資本）』（松本秀文）より
松本秀文（詩）×吉岡太朗（短歌）
--------
とうだいのねじれゆくたびゆうれいがざんぎょうだいをふりこみにくる
よんまいめのおふだがぜんぶおはなしにしたからほうふくはないやろう
りれきからゆびをたどってめたやからおんがくにするなんてずるやわ
--------
『せかいのとくせいがへいれつであることのあおいねじ』（吉岡太朗）より
渡辺めぐみ（詩）×石川美南（短歌）
--------
高原にだけ咲く花の
高すぎる茎の背が怖いと思ったことは
ありませんか
その群生の仕方が
上を向き続ける花の意志が
瞼に焼きついて眠れなかったことは
ありませんか
----手首切り取っても生えてくる夢に夏の戦意は鮮やかなりき
--------
『雪解け』（渡辺めぐみ、石川美南）より
--------
中性という名の脂肪を身にまとうどちらの性でもよかったりする
--------
手に余る脂肪の厚みドレープのカーテンみたい美魔女死すべし
--------
プリキユアと妖怪ウオツチを脳内に置ける広さの家に住みたし
--------
黄色い日花粉の受粉も激しくてカレーライスを煮込みたくなる
--------
『MOTHERS』（タケイ・リエ）より
我らより派生したたる塵芥宙（ちりあくたそら）の輪となり回転止まず
--------
蝶、蛍、雨風虹や隕石などわれ無き後の友への合図
--------
神の域と問われればまだ人間もう人間じゃない３Ｄプリンタ
--------
『供花巡礼』（木戸多美子）より
「ウルトラ」第16号は、現代短歌の特集号。詩人に短歌を書かせたり、現代詩と現代短歌をコラボレーションさせたり、興味深い試みが目をひきます。
［執筆者］
石川美南
一方井亜稀
及川俊哉
川島清
木戸多美子
齋藤芳生
高木佳子
高塚謙太郎
タケイ・リエ
田丸まひる
松本秀文
吉岡太朗
吉田隼人
和合大地
和合亮一
渡辺めぐみ
松本秀文（詩）×吉岡太朗（短歌）
--------
『月刊 国家自身』という雑誌で（おはよう
糞エッセイを連載する猫の手紙が繊細過ぎて
心臓がタンポポのように飛ぶくらいに泣けた
帝国の空き地で猫たちが写真撮影会に戯れる
性器が混乱したような空が抒情を釣っている
「彗星Ｘの絵糞堕酢盲世（エクソダスモーゼ）からメールですわ」
--------
『死んだひとが笑った（私たちの愛する資本）』（松本秀文）より
松本秀文（詩）×吉岡太朗（短歌）
--------
とうだいのねじれゆくたびゆうれいがざんぎょうだいをふりこみにくる
よんまいめのおふだがぜんぶおはなしにしたからほうふくはないやろう
りれきからゆびをたどってめたやからおんがくにするなんてずるやわ
--------
『せかいのとくせいがへいれつであることのあおいねじ』（吉岡太朗）より
渡辺めぐみ（詩）×石川美南（短歌）
--------
高原にだけ咲く花の
高すぎる茎の背が怖いと思ったことは
ありませんか
その群生の仕方が
上を向き続ける花の意志が
瞼に焼きついて眠れなかったことは
ありませんか
----手首切り取っても生えてくる夢に夏の戦意は鮮やかなりき
--------
『雪解け』（渡辺めぐみ、石川美南）より
--------
中性という名の脂肪を身にまとうどちらの性でもよかったりする
--------
手に余る脂肪の厚みドレープのカーテンみたい美魔女死すべし
--------
プリキユアと妖怪ウオツチを脳内に置ける広さの家に住みたし
--------
黄色い日花粉の受粉も激しくてカレーライスを煮込みたくなる
--------
『MOTHERS』（タケイ・リエ）より