Transcendence – その後

カナダのCBCのラジオ番組The Currentで人工知能の技術を軍用に応用する話として「人殺しロボット」の話をしていた。朝っぱらからイヤな話だ、と思いつつも最先端技術とそれにまつわる法規制、反対運動の話なので聞いていた。「人殺しロボット」というのは、「ある種類の人間や物を狙って殺戮をする」ようにソフトウェアでプログラムされるロボットのこと。

自分の息子や娘を戦場に送るよりはマシ、なんてレベルの話では済まない。そもそも私はアメリカ軍がアフガニスタンなどで飛行させている攻撃用無人飛行機（Drone）が大嫌い。理由は、戦争突入にあたって一番躊躇してしまうはずである「人の命」（といっても攻撃を仕掛けるほうの命ということだけど）という壁を「克服」してしまうので、戦争に踏み込みやすくなってしまうから。というか、そもそも攻撃用無人機を飛ばす理由が、コスト（血税と人命の犠牲の両方の意味で）を抑えるためなんじゃないの？と思う。この CBC のラジオ番組によると、朝鮮半島にもロボット的な兵器が配置されているらしい。日本だって、オバマ来日の際にはロボット見せていたしな。

テクノロジーをこういうことに応用していくのはイヤだ。それを過信するのもどうかと思う。「テクノロジーが想定外のところでうまくいかなくなると、実は人間にはどうしようもない事態が発生しうる」ことは福島第一原発の事故で既に経験済み。ジョニー・デップの映画「Transcendence」も、人間には手の尽くしようのない事態が発生してしまった話である。最終的には「愛による犠牲」でどうにかなったが。私はこの映画を見たとき「ジョニー・デップが人工知能の博士だなんてなぁ….ある意味自己超越だな…」と白けていたし、技術的特異点も「愛にはかなわない」というオチがついたところでより一層冷めた気持ちになってしまった。

ということを家で文句言っていたら、教授が「そういえばホーキング博士が人口知能に警鐘を鳴らしていた」という。

ホーキング博士の発言
http://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence–but-are-we-taking-ai-seriously-enough-9313474.html

CBC – The Current
http://www.cbc.ca/thecurrent/episode/2014/05/06/killer-robots-ethics-in-the-age-of-co-robotics/