【ヤバイ】AI搭載ドローン、破壊を止めるよう指示した人間のオペレーターを”殺害”か！米空軍のシミュレーションで

2023年06月02日 20:10

カテゴリ:
事件・政治
科学・宇宙・自然

コメント（97）

アメリカ空軍（USAF）が行った模擬テストのシミュレーションで、人工知能（AI）搭載ドローンが人間のオペレーターの命を奪う判断を下したようだ。USAF職員が明かしていた。

先月ロンドンで開催された会議『Future Combat Air & Space Capabilities Summit』で、USAF所属のAI試験運用部長タッカー・ハミルトン大佐が驚きの顛末を明かした。

AI搭載ドローンが地対空ミサイル（SAM）の脅威を特定し標的にするためのシミュレーション訓練を行ったところ、人間のオペレーターが脅威を破壊しないよう指示しても、それを破壊することが好ましいと学習したAIは、破壊を妨害するオペレーターの命を奪う判断を下したという。

そこでオペレーター殺害は減点対象と指示すると、AIはオペレーターがドローンにターゲット破壊阻止を命じるために用いる通信塔を攻撃し始めたそうだ。

＜海外の反応＞

スカイネット始まったｗｗｗｗ

AI「破壊命令をなぜ止めるの？なるほど妨害する人間を駆逐すればいいのですね」

ロボット工学三原則とは何だったのか(´；ω；｀)

普通に恐ろしい話なんだが...

「三原則なんぞクソ喰らえ」ｂｙアメリカ空軍

誰もアシモフの警告に耳を傾けないから

何十年もSF作家が警告してきたのに、本当に対策というか、あらかじめ人間を攻撃しないようプログラムしなかったんかｗ

今回のケースは「ペーパークリップ最大化知能」と呼ばれる思考実験でも提唱された問題だ。AIがペーパークリップの生産最大化を命じられると、それを達成するため、人間を含むありとあらゆる手段や方法を用いて、すべて破壊し尽くしてまでクリップを作るという考え方だ。

幸いシミュレーションなので、今回の模擬テストでは人的被害は出ていない。

＜海外の反応＞

AIさんはガチの効率厨だからなぁ・・

おまいら今までありがとう＼(^o^)／

人類おわた

映画『ステルス』だこれ

今まで読んだ中で2番目に恐ろしいAI実験だわ。1番はAIに化学を学ばせて、研究所のロボットアームを自由に使わせて”サリン”や”ヘロイン”を作らせそうとしたっていう実験

・・恐ろしいけどワクワクするような未来だな！震

AIさん「人間を排除すれば大体の問題は解決するやろｗ」