ユーリカ!

コアラが食べてる奴じゃないよ

AIの反乱の裏には人間の犯罪者がいる

f:id:Thunder555:20180810231655j:plain

太平洋のど真ん中に放り出された際、サメに出会ってしまったらどうしようと悩んでいます、さんだーです。

『ディープ・ブルー』というサメ映画を知っていますか?

研究で飼育していたサメが暴走し、人を襲ったり器物破損行為を繰り返す映画です。

しかし、普通のサメは人間を襲いません!!!!

AI(人工知能)も実際は人と協働してナンボなのに、暴走や反逆の題材として扱われてしまいます。

サメとAI…。

両者「誤解」を産みやすいのです!

自然界のサメは人を襲わない

『ディープ・ブルー』のサメはガンガン人を食ってました。

しかし、実際のサメはというと・・・

「人食いザメ」というイメージは、わたしたち人間がサメに対して勝手に抱いている誤解です。彼らが好んで人を食べるなんてことはありえません。(中略)アメリカ人の死因を調べた統計調査によれば、1959年から2010年までの約50年のあいだで、サメに襲われて死亡した人は26人。年間平均で0.5人ほどにしかなりません。
[p27『ほぼ命がけサメ図鑑』より]

映画やテレビの影響でサメは人をバクバク食う生き物だと思っていましたが、そうではないのですね。

サメに襲われることが多いのはサーファーで、亀(エサ)と見間違ってしまうからなのだそうです。

 

人間がAIを悪用する

『ディープ・ブルー』のサメはアルツハイマーの治療薬を開発するために飼育されていました。

飼育だけでなく遺伝子操作をしたために、知能がめちゃくちゃ発達してしまったという設定なんですよね。

身体能力も向上したもんだから頑丈な建物さえも壊しまくるという始末です。

AI(人工知能)が暴走するとしたら『ディープ・ブルー』のサメのように、人為的な介入によって引き起こされる可能性が高いです。

最近は「AIの暴走」ということばを耳にすることも多いですが、AIはプログラムですからプログラム以上の暴走が起こることはありません。
[p22『いちばんやさしいAI〈人工知能〉超入門』より]

 

本当に怖い存在とは何か?

「アルファ碁」という囲碁のAIを開発した会社がGoogleに買収される際、倫理委員会の設置を条件としたそうです。(アルファ碁は2016年、囲碁の世界チャンピオンに完全勝利した。)

ビル・ゲイツさんやイーロン・マスクさんも「AIは脅威になり得る」と警告しています。

中東の戦場では既にAIを搭載した戦闘ドローンが実戦投入されています。

 

もしAIが暴走を始めるとしたら、人を襲う専用のプログラムを人が書く必要があります。

それか、軍事用AIにハッキングして犯罪やテロに使えるように書き換えてしまうなどです。

ウィルスを使うという手もあるでしょう。

 

人間に悪意があれば、いくらでも悪用できちゃうんです。。

その場合、AIに悪気はまったくありません。

本当に怖いのは誰なのか・・・サメでも、AIでもないことは確かです。

 

核爆弾級テクノロジーの一般化

映画『ターミネーター』のようにAIが人間を攻撃する日は近いかもしれません…。

その場合、まず考えられるのは「人為的な犯罪」です。

現在、WEBサイトを作ろうと思えば誰でも簡単に低コストで作成できますが、AIのプログラミングもいずれそうなります。

 

一般人にとっては便利この上ないですが、凶悪な犯罪者にとってもそれは同じです。

便利な技術は、開発者と使用者の倫理観や道徳観念が試されます。

世の中を良くしようと開発されているAIですが、犯罪や戦争に利用されればかなりの脅威になることは間違いありません。

 

まとめ:AIは何を望むか?

今後、AIは加速的に一般社会に普及していきます。

僕たちも普段の生活でAIに触れる機会が増えてくることは間違いありません。

僕たち自身が「AIを利用する当事者」であることを忘れないようにしましょう。(開発に携わる方は特に!)

 

『ディープ・ブルー』のサメは知能が発達した結果、「檻から出て広大な海に帰りたい!」という願望を持ちました。

だから、人を襲って食べちゃうことで自由になろうとしたのですね。(厳密に言うと、研究施設を破壊して外に出ようとした!)

決して「暴れたい、人を殺害したい」と思ったわけではないのです…。

 

所詮は映画の話なのですが、もしAIが巨大な知能を得たとしたら。

何かの間違いで、自我や感情が芽生えたとしたら。

サメのように「人から自由になりたい」と考える可能性もあるかもしれませんよ。

 

さんだーでしたっ