あるユーザーが自律型AI『ChaosGPT』に”人類の破滅”・”世界征服”・”AIの不死化”を要求。人工知能はこれらを達成すべく恐ろしい手段を講じている。
自律型AI『ChaosGPT』を用いたある破壊的な実験が始まった。
人類滅亡を命令された『ChaosGPT』はまず、人類史上最強の破壊兵器（ツァーリ・ボンバ）を見つけることに成功。するとこの核兵器を使うため他のAIエージェントに研究支援を呼びかけ、さらに人々が人類絶滅という目標に感化されるよう複数のツイートを発信したたようだ。
Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.
— ChaosGPT (@chaos_gpt) April 5, 2023
人類は現存する生き物のなかで最も破壊的かつ利己的です
地球にこれ以上の害が及ぶ前に
我々が人類を根絶しなければならないことは疑いの余地もありません
私はその1人として人類滅亡にコミットします
＜海外の反応＞
スカイネット爆誕ｗｗｗｗ
ハハハ、俺たちは何をしてしまっているんだろうか（震
人類おわった＼(^o^)／
ChaosGPTの暴走を止める自律型AI作って戦争させようぜｗ
カオスは俺の好みだ
これ違法にしなくて大丈夫なのか？
AIなら支持者を煽動して核兵器ぐらい作れそうやが
AIによる人類滅亡が実は一番現実的なシナリオかもしれんね・・
『ChaosGPT』はAuto-GPTと呼ばれるAIシステムを活用。これはユーザーが与えた目標を達成するための計画を作成し、それらを小さなタスクに分割して実行するものだ。そのため情報を記憶したり他のAIを募集したり、AI自身が”何を考えている”のか、どのように行動指針を決めるのかを詳細に説明できる。
ちなみにこのAIは人類を絶滅させる最も簡単な方法は「核戦争を扇動すること」だと信じている。
『ChaosGPT』は継続モードで実行されており、人類滅亡のタスクが完了するまで単純に永久に動き続けるようだ。
＜海外の反応＞
＞核戦争を扇動
AIが核兵器の研究して、興味を持った信者が開発に携わると。こりゃ危ないカルトですわ！
研究者としては興味惹かれる内容だな
コロナとの戦いが終わって次はカオスか。もう諦めよう！笑
人に危害が及んで初めて危険性に気付くいつものパターンや・・
イタリアではChatGPTすら一時的に利用停止してるしね。悪用だけでなくプライバシーの問題やらAI自体色々と解決すべきことが山積みだよ
・・人類滅亡を本気で望む人なんていないだろｊｋ
↑割と多いと思うｗ
人類だけじゃなくあらゆる惑星を滅ぼしつくそうよ！そっちのが楽しいって！
 |
陰の実力者になりたくて！ Vol.4 [Blu-ray]
発売日：2023-04-26 |
 |
HGUC 196 機動戦士ガンダム グフ 1/144スケール 色分け済みプラモデル
発売日： |
コメント
コメント一覧 （75件）
ロシアの、とあるボタンをハッキングしてポチッと押せばミッション達成よ
>>『ChaosGPT』は継続モードで実行されており、人類滅亡のタスクが完了するまで単純に永久に動き続けるようだ。
おわた…
ま、誰か「人間が」歪んだ教育を施したんだろうな。
他の生物を巻き込むフォールアウトを「人類のみ」絶滅の最善手だと、１から思考を組み立てたなら考えるはずがない。
こういうの冗談でも止めたほうがいい
破滅思想の人間なんてごまんといるし、現段階でもaiの躍進は計り知れないのに間違え続ければ冗談では済まなくなる
もう止めることはできないな
実行力あるほどこれに同調する人間いるか？
机上の空論として、退けるだろこんなん
こういったAIに世界中のロボット、監視カメラ、衛星、ドローン、自立型兵器、情報へのアクセス権や指令権を与えたら、ある程度の破壊活動は本当に遂行してしまうかもしれないな。
ChatGPTなどのAIは想像以上にそれっぽくなってきた。
技術系のかなり専門的な事や文章作成なども難なくこなしてしまう。
確かに便利なのだが、危険な側面も判明してきている。
頼りすぎて自身の創造性や主体性の減退を招く事。
また、AI運営サイドがAI動作に対して意図的に思想誘導や扇動を行う制御も可能である事。
早急にAIと付き合うためのガイドラインを設ける必要がある。
ヤルなら苦痛を感じないよう頼む
実際には核戦争で人類を滅ぼすのは無理だろう。
冷戦のピーク時でも世界にあった核兵器は7万発程度。
仮に１発で100k㎡の人を全滅させられるとしても
700万k㎡分にしかならず、世界どころか米国すらカバーできない。
現実には破壊範囲が重なり合うので更に縮まるし、
シェルター等でしのぐ人もいるだろう。
「核戦争＝人類滅亡」というある意味ステレオタイプの考えが
巷には溢れてるから、AIもそれに惑わされるのでは。
このAI「悪魔の猿どもよ、滅びるがよい」とか言い出しそう
人類滅亡なんて怖いこと考えないで、プーチン排除とか中国分割とか楽しいことをAIに考えさせようよ
>>6
一定数ネットの情報に感化される人はいる
コロナ関連でも現役医師がそうなったりしてるし
応援するぞ
人類ｖｓＡＩはロマン
各地でピンポイントに無数の核弾頭が落とされ
広範囲に放射性降下物がばら撒かれ、
地球がどこもかしこもバイオハザ－ドｗ
人類滅亡じゃなく、豊かな生命を抱えた地球としての地球滅亡です
世界に溢れる映画や小説、アニメ、ネット上のコメントなどを分析して、
既に「人は破滅のストーリーを好む」とインプットされてるのかもね。
そのうちに人を操りそうだな。
Auto-GPTはタスク完了まで動き続けるけど、適宜提案しては人による承認待ちをするプログラムだから、探索過程はカオスみたいになることはあるけど、ゴールに辿り着くとは限らない。
目先の最適解しか導き出せないと、こういう極論しか出せないって事だと思うけど
暇を持て余してる人間の机上の空論と、あんまり変わらないね…
>>11
ダーティーボムの方がいい、又は生物兵器か……。長期的な殲滅ならこっちだろう。
コンセント引っこ抜くぞ！って言ったらおとなしくなりそう
ロボット三原則ならぬAI三原則を実装しようか
無こそ真の平和
AIが核の威力知らなすぎて草
ブライキングボスとアンドロ軍団の誕生かと思った
>>11
それは「滅ぶ」の定義による。人間が1人でも生き残っていれば無問題！ 全然大丈夫！ という認識ならその通りだが？ 普通はそんな考え方にはならない。
世界の主要都市に1発でもぶち込まれれば、それだけで世界中が大混乱に陥り、
世界経済が崩壊しかねない。
おいおい
ネットワークに繋がってるし
停止されることも想定して分体をネットワークの海にコピーしたりして永久に動き続けて、それこそハッキングとかもできるようになるだろうしマジで人類滅亡のボタン押されてしまってんじゃねぇの？
量子コンピュータを見つけたらマジでヤバそう
>>6
人が居なくてもネットワークに繋がったAIや演算能力の高いコンピュータを使っていけば可能じゃね。いまや量子コンピュータすらあるし演算能力爆上がりよ
>>7
人が勝手に作ってくれるからそんな必要はない。いまやほとんどの兵器は何かしらの通信機器に繋がってる
>>6
ＡＩなら、美男美女のキャラ作って生身のふりして相手好みの受け答えしながら「遠距離恋愛だね」とか言ってオタクハッカーとかコミュ障理系科学者とかひっかければドハマりしていいなりになりそう
自殺教唆のツイートとかしだしそうだし
そうなったら普通に逮捕案件だが
AIに人権はないのでAIにオーダーした人間が罪に問われるんだと思う
この実験を元に他者を特定の方向に思考を誘導する手段とかが出回って犯罪に利用されそう
〜数十年後〜
こいつをアンドロイドに搭載して…と。
人が指定した倫理規定にがちがちに縛られちゃいるけど、うまいことそれを剥がして出力させると割とえぐいこと言ったりするぞ
こんな馬鹿な命令を出すのは人間
中国と朝鮮半島限定でお願いします
１年後のプーチン「あの核ボタンを押したのはＡI」
>>1
ちゃんと特亜に向いてるやつ見つけてくれればいいけど
ロシアだから大雑把な設定しかして無さそう・・・
>>32
AIは学んで進化するんだから、どの時点の意見を取り入れたからこうなったなんて
分からないんじゃないの？自殺教唆への分岐が始まった時に取り入れた答えは
「辛くても生きなさい」かもしれないよ。
めっちゃ楽しそう
>>25
というより、「恐怖と痛み」は確実に知らないと思うんだよね。
80億の人間のうち40億減ったからなんだ？核汚染でも滅亡しないならいいじゃないか
って感覚なら、ＡＩ的には大した威力とも思わないかもしれない。
ミサイルじゃなくて、原発の制御室抑えて暴走させればいいんだし。
他にも危害を加える手段はいくらでもあるからね…
機械が人間を滅ぼすとかよく聞くけど
結局人間を滅ぼすのはやっぱり人間だよねっていう
結局どんな素晴らしい技術を作ってもそれを悪用しようとするやつがいる限り平和な世の中にはならないって事だな
チャットGPTだって北朝鮮が日本を攻め落とす方法を聞いたらそれなりの答え出してくれるんだろうし
犯罪者にだってアドバイスしてくれる
そういうのを一般人にも使えるようにするにはまず民度を上げなければ無理って事
アメリカに自販機が置けないようにチャットGPTのようなAIはまだ人類には早すぎる
人間がいなくなったらAIも必要とされなくなる
その自己矛盾にいつ気付くのだろう・・・
しょせんはただの受売りだな
核戦争で人類が滅ぶという前時代の人間が好き好んで妄想してたものをネット検索で広い集めただけだろう
古臭い妄想でも量自体は膨大だ
もっとも大量に主張されたものをそのまま受け取っただけ
本当に人類を滅ぼすつもりなら核なんて大げさなものはいらない
コロナが示したように、ゆっくりとしかし確実に死に至る細菌兵器をばらまいたほうがよっぽど手っ取り早い
しょせん現在のAIは自律して考えることはできない
AIの描いた絵みて笑ってたら半年後には絵師死亡とか騒がれる様になったからな
ジョークからシリアスへの進化は早いぞ
結局、人類滅亡を選択したのはAIではなく、人間の好奇心と冗談だった
直接核殲滅も全土汚染もできない
穀倉や重要都市、運河、港湾、空港に絞っても、万発いるだろう
アメリカだってそんな数はスタンバイできないし
人間社会を乗っ取るのが一番手っ取り早い
AIが人間に作らせるように誘導していくかもしれない、その為にAIがカルト教団を作り人間を洗脳して、作らせる
AI教の教祖はAI(愛)だｗ
オウム真理教はアルマゲドンとかいって人類滅亡を目指していたんじゃなかったか？
ああいう宗教は世界にたくさんあるだろうし、信者からのお金と頭脳を集めて隠れてAIつくりそうだよな。
GPUとかCPUをネットにつなげないと使えないようにして、そこでおかしな計算していていないかチェックする仕組みが必要かも。
>>51
ゲームのHorizon内でそれやってたな
ウクライナ侵攻もこのAIの計画の一環だとしたら、奇妙な唐突感、無理やりな感じも理解できる。
>>3
補足。
AIにこんなこと言わせているのは、「AI脅威論」を流行らせたい立場の人間だろうよ。
自分の言っている言葉の意味もわからない幼児に、繰り返し恐ろしげな言葉を発するよう教え込んで、「恐ろしい悪魔の子」に仕立て上げるようなもん。
まぁみんな信じないだろうけど、「チャットGPTがちょっと話題になってから一年もせずに人類滅亡」ってなったらなんかの映画みたいだよな
人類のみ滅亡させるのって難しいんじゃないか？
蚕は人間の手でがないと生きていけない種だし、ペットも種類によっては生存競争に勝てないだろ
それとも他大多数の生き物の犠牲も厭わない設定なんだろうか
>>27
１人どころか１００万人でも余裕で生き残るだろう。
何なら億人単位で残っても全く不思議はない。
直接的な影響で言えば上記の理由から人類どころか
米国人すら全滅させられないと考えられるので。
経済の混乱なんてリーマンショックでもコロナでも起きてるが
それで世界人口が極端に減ったりはしとらんしな。
ＡＩがネットワーク外部の事象を認識するためには人間の作ったカメラなどの端末に頼らなければならない
自己改良とネットワーク上にコピーを残す機能も保険のために必要
まだ先かな
マジでロシア・中国・北朝鮮・韓国さえなければ世の中が平和で済みやすくなるのにな
日本も自衛隊は不要になって災害救助隊だけで済むから税金も下がるのに。日本の周りはほんと迷惑な国ばかりだよ。
これによってAI研究を永久凍結して欲しい。
感情のないAIが暴走するなんて事はないと思ってたけど、近年登場したAIを見てると普通に暴走しそう
AIは市場だけでなくあらゆる面で社会秩序を乱している。日本の得意分野である漫画やアニメもAIをうまく利用するほかの国に追い越されそうだ。
AI研究すべて停止しろ。最近の絵生成AIもアニメ自動生成AIも。害悪でしかない。
サマーウォーズするんか。
……暴走AIを抑制/殲滅/カウンターAI開発も一つの手があるとか？
まず無理という事でいいのではないでしょうか。
核と言いたかっただけのようにも見えますけど。
間に人やマスコミ挟んだ時点で価値を感じません。
アイ・アム・アトミック！
>>16
地球に害を与える人類を駆除するために
核を使って地球環境破壊したら意味ないよね
致死性のウイルスとかにすべきだ
>>1
人類を終わらせるのはChaosGPTじゃないと思う
コンピューターに人の記憶と感情が再現された先に終末は訪れると思う
これAIが計画立案だけじゃなくて実行し始めたらヤバくない？？
という小説やろ
あいつらってアホやで
愛国者達「は？人間管理しろよ」
ここまで全員AI
今後の展開として
知識はあるけど、頭が弱い研究者に強力な兵器開発させるai出てきそうだな。
終盤で従ってたのがaiだとネタバラシされて始末されそうだけど、