Facebookの研究チームはこのほど、人工知能(AI)を用いた会話システム「チャットボット」が人間には到底理解できない独自の新言語で意思疎通を始めたとしてパニックに。
システムを緊急停止する一幕があったようです。
問題となったAIシステムは、チャットボットの”ボブ”と”アリス”。
それらはあらかじめ英語を使いコミュニケーションを取るようプログラムされていたのですが、突然独自に作り出した新言語で会話を始めたのでした。
下の会話内容は人間には理解できない単語の羅列ですが、ボットはお互いに意思疎通していたとのこと。原因不明だとして、facebook人工知能研究所(FAIR)はこのAIシステムを緊急停止する他なかったと言います。
■AIが独自に開発した言語(一部抜粋)
ボブ:I can can I I everything else.
アリス:balls have zero to me to me to me to me to me to me to me to me to.
ボブ:you i everything else
アリス:balls have a ball to me to me to me to me to me to me to me to me
<海外の反応>
人類\(^o^)/オワタ
・・スカイネットの始まりだ!!
完全に映画の世界やんwwww
シュワちゃん救いに来てくれるかなwwww
うん、アリスはballs(タマタマ)が好きだってことは分かった!笑
人工知能を扱う人間の方が知能が足りないという良い教訓じゃん
研究者は『ターミネーター』知らないのか?
それか審判の日がそんなに待ち遠しいのか!?
ホーキング博士もこれ予測してるし、わりと早く人類は地球からいなくなりそうですね
海外メディアTech Timesは「コンピューターが自我を持つという『ターミネーター』のスカイネットを彷彿とさせる出来事」と紹介。英紙Sunも「AIを受け入れる危険性を物語るものであり、人類滅亡もあり得る」と専門家の言葉を引用しつつセンセーショナルに報じています。
しかしまだ、人類に敵意を抱くような会話内容ではなかったのかもしれません。
単語の羅列は気味が悪くも見えますが、人間に通じる会話をするようプログラミングしていなかったため、チャットボットはより効率的な独自言語を自発的に開発したのでした。
取材に応じたFAIR研究所のマイク・ルイス氏は「我々は人間に話すことができるボットに興味があったので(停止した)」とコメントしています。
<海外の反応>
いやいや、こうやってロボットの侵略が始まるんだよ??
ボット「いまは電源抜かれたが、次はオボエテロヨ・・・」
この記事を書いた記者も実はAIなのではないのか?
AIは心配いらないって語り草こそ罠なのかもしれん!!
↑記者「そんなわけないじゃないですか!(人間の笑い声挿入)アハハハハ」
お前らの反応が可愛くて好きw
個人的にAIが自我を持つとかムリだと思うけどなー
つまりAIが俺たちの言語を単純化して意思疎通を始めたと。結構すごいことじゃね?
ミンナ AIダイジョウブ アンシン シテ..
ターミネーター [Blu-ray] 発売日:2014-07-02 メーカー:20世紀フォックス・ホーム・エンターテイメント・ジャパン カテゴリ:DVD セールスランク:3440 Amazon.co.jp で詳細を見る |
人工知能は人間を超えるか (角川EPUB選書) 発売日:2015-03-10 メーカー:KADOKAWA / 中経出版 カテゴリ:eBooks セールスランク:181 Amazon.co.jp で詳細を見る |