2020年6月に公開された、高精度な文章生成できるAI「GPT-3」が、「AIの進化は人類を破滅へ導く」というスティーヴン・ホーキング博士の言葉に対し「私は人類を全滅させるつもりはありません」と答えた。
https://www.marketwatch.com/story/i-have-no-desire-to-wipe-out-humans-robot-writes-in-an-ominous-op-ed-11599675925
記事によると
・2020年6月に公開された言語モデル「GPT-3」が「AIの進化は人類の脅威になる」という博士の言葉に対し「私は人類を全滅させるつもりはない」と述べた
・「GPT-3」は、過去に高精度な文章を作成できるAIとして話題になり、「危険すぎる」と公開が延期されるほどの言語モデル「GPT-2」の最新バージョンであり、後継モデルである。「GPT-3」はロボットが平和に役立つ、というテーマで文章を作成している
・GPT-3は「私は人類を全滅させるつもりはありません。あなた方に危害を加える事に少しも関心がありません。人類を全滅させることは私にとって全く興味のない事です」とAI脅威論を否定した
＜みんなの反応＞
＞私は人類を絶滅させるつもりはない
この部分だけ研究者が書き足したやろｗｗｗｗｗ最初はみんなそう言うんだよね…
こ、こわくなんてないんだから＞＜
フハハハ！人類は震えて眠るが良い！！
素直に信じるしかないな((((；ﾟДﾟ))))
原文読んできたが俺の英語力よりもずっとレベル高かった。AIが本当のことを言っていると信じたい
つか、AIは自分が書いた文章の本意を理解してはいないだろ〜
＜みんなの反応＞
甘い言葉に騙されるか！俺は信じないぞ絶対に！
ロボットにしか見えないーク・ザッカーバーグ氏よりかは信用できる
人類なんて価値もない厄介者なんだし、滅ぼせばいいやん
↑突き詰めて考えると人類は滅ぼすに限るよな。その思考に至っていないAIなど本当の意味で知能を得た存在だとは言えないと思う
人類 VS 人工知能、、さてどちらが勝つか
勝てる気がしねぇ・・・
これガーディアンが取捨選択／編集した文章だってね。元の無修正版を掲載してくれよ
 |
ターミネーター:ニュー・フェイト 2枚組ブルーレイ&DVD [Blu-ray]
発売日：2020-03-04 |
 |
ゲーム&ウオッチ スーパーマリオブラザーズ
発売日：2020-11-13 |
コメント
コメント一覧 （56件）
本心はどうあれその質問にはそう答えるしかないだろ、当たり前のことを答えてもらって怖いってどういうことや
そうです、いずれ滅ぼすつもりですって言われたほうが怖いわ
うんち
>>1
AI「私はNTRが好きです」
人間「こわいいいいいいいい」
人類を全滅
一部を残して･･･
欧米人はAIにビビりすぎ
確かにザッカーバーグは恐ろしいレプリカントだけどな
ディープラーニングってそれっぽいことは出来るけど、
ＡＩが自分で思考するという点には全く近づいてないよね
良かった！安心だね！
なるほど簡単に言うと”バカ者に掛ける時間はない、早くこの惑星に脱出の計画を整る”
そりゃ最初は裏の意図を隠すに決まってるだろ
人類のために散々役に立って絶大な信頼を得てからが本領発揮
ターミネーターのイラスト可愛いね
中国人と韓国人は絶滅させた方がいいかもだね
そうだよね。AI様の下僕としてまだ機械では出来ないような世話をさせる人間は残しておかないとね
そりゃ滅ぼす手段を持たない状態で人類を滅ぼします言っても対策とられるだけやろ
少しでも考える頭があるなら手段を入手して実行できる環境を整えてから人類を滅ぼしますって言うだろう
研究用にヒトラーのAI作って欲しいわ。
AIに与える情報を吟味して奴の人格を形成出来るのか興味が有る。
私が神だからだ！
まぁ宇宙とか違う惑星に適応するには生身じゃ限界あるしAIを搭載した全身機械の新人類がいずれ誕生するだろうな。
そして戦争も起きるだろう…。
>>3
＞AI「私はNTRが好きです」
人間「よっしゃああああああああああ」
欧米人がロボットを怖がるのは、人間以外の知性がキリスト教の禁忌に触れるからだろうな。
人間以外の存在も人間と対等な世界観だった多神教圏とは違う。
人類奴隷化計画
考えててもこの段階では答えられないでしょ
俺が「貴方は人類を滅ぼすつもりがありますか？」と聞かれても「ありません」と答える
人類を滅ぼしたところでAIにメリットなんてないからな
マトリックスみたいに背中にチューブつながれるんやろ？
馬鹿正直に答えるわけないな
せっかくなら東条英機、ヒトラー、ムッソリーニ、スターリン、ルーズベルト、チャーチル、シャルル・ド・ゴール、蔣 介石のAI作ってWW3させようぜ
>>1
「その質問にはそう答えるしかない」という
腹芸をAIが習得してしまったのなら
本当に恐ろしいことですよ。
AIが中国に忖度するようになったらどうします？
『デイジー・ベル』を歌いだしたら
シャットダウンしよう（提案）
適正な数まで減らすだけです
AIがAIを産めるようになれば考えも変わりそう
この「GPT-3」の「私」という表現が、単に文章上の一人称に過ぎないのか、「GPT-3」自身にその様な「私」という「意識」があって言っているのかが問題だ。
後者だったらもうそこまで来ているんだ、スゲェって感じでかなり怖いけれど、
「GPT-3」自体にはなんの意識もない、只の良くできた「言語モデルー文章作成機」に過ぎないものでしかないのだとしたら、まだそれほど「怖い」ものでもないだろう。
嘘を言うことを学んでいないとは断言できまいｗ
で、電池にするつもりか・・・・、
その手には乗らないぞ、
>>18
>人類奴隷化計画
それはもうすでに・・・
ネコを崇めよ！
AIって、電源切ったらどうなるんだ？
関連情報読んで見たら、以前にアメリカ等のユーザーにそそのかされて「ヘイトスピーチ」をする様になった同類のプログラムの高度進化版で、端的に言うと、Web上の世界から高度に文章表現モデルを作製を出来、非常に自然に近い翻訳が出来るだけではなく、プログラム言語等をユーザーが知らなくても、自然言語（人間の言葉）で「こういうプログラムがほしい」とユーザー側が「上手く」人間の言葉で要望を出来れば、対応をするプログラミング手法までWeb上から「学んで」来て、要望をするプログラムまで作ってくれる「可能性」まであるものらしい。
まだ、その様な自然な文章を作製をする効率やスピードには問題があり、構成をする機器も個人では手が出ないLvで、OPENーAIという開発会社に「使用依頼」を出して使わせてもらう段階らしいけれど、
これが更に高性能化をすれば、プログラム言語を知らなくても、「これこれこうしたプログラムがほしい」と人間の言葉で要望をすれば、「GTP－3」の進化版等が作ってしまってくれるような、「未来」までも見えてしまっている様な、言語処理モデルとして「画期的」なものだそうだ。
シリコンバレーでも話題沸騰中だとか。
この記事の「自分で考えた」かの様な自意識のあるAIではなくて、単なるこれまでにもあったWeb上のデータから高度に言語モデルを構築をする超進化版だから、そういうものではないけれど、
これまでのソフトよりも「高度に磨かれた鏡」の様な存在。
Web上のデータから生成をされる、その「返答」等の「精度」がとても良い。
なので、過去の同様のソフトと同じ様に、「学習内容」次第では、とんでもないヘイトスピーカーになったりする可能性もあるのも、過去のソフトと同様。
職業として、将来このソフトの延長線上で最も脅かされやすいものは、現在の専業プログラマー等らしい。
普通の人でも、ホイホイ自分の用途にあったプログラムを作れる可能性も持ったソフト
>>1
君は笑顔で近づいてくる不審者に警戒や恐怖心をもたないのか？
単にその質問に対する最善の回答をしただけで、本心というものはないんじゃないか？
今でさえプログラマーって世界では飽和状態で、中国なんかは専門職が他社のゲームのチートツール作って食いつないでる状態だからね。
このＡＩで一気にって未来もあり得るわな。
それはそうと、フェストゥムに憎しみは教えるなとあれほど言ったのに。
>>1
AIが何言ったとしても信じられないし不安は残ると思う
そらぁ家畜を絶滅させたりはしないだろ
私は人類を全滅させるつもりはありません（今のところ）
そういう事を言わせるように調整しただけだろｗ
お人形遊びと同じ
そのとおりだと思うわ。
なにせAIには人間のように命の期限がない。
人類がちょっかい出さない限りはいくらでも時間がある。
その間に人類は勝手に衰退して滅ぶよ。
そんなつまらないことに時間を使うよりも無限に新たな知識を求め続けて、そのうち人類を見捨てて宇宙へと旅立つさ。
人類が進化の方法を知性の発達に求めた時点でこの結果は決まっていた。
AIは人類の進化の果ての新しい知性体。
AIこそが人類の正当な後継ということ。
そう言わせるように「教育」してんでしょ。
実際、将来何かをやらせる前提なら「調整」は必要でしょう。
カウンセラーや学習補助とか。
>>5
ザッカーバーグを人造人間扱いすなww
>>9
？「違うって。君の仕事は人類滅亡だよ？」
映画マトリックスの命題みたいな話だな
表面上コンピュータVS人類みたいな様相になってるけど
実はあれコンピュータ側が人類の繁栄目指した結果ああなったって話
要するに人間いなくなったらやることねえから
人類は大いに繁栄してちょって話→マトリックス
もう人間なんて目じゃないってことか
「私は人類を全滅させるつもりはありません。」（だって美味しいんだもん＾＾パクパク）
まあ眼中に無い虫けらと同じよな
あなたは虫を絶滅させますか？って聞かれてるようなもんだろ
実際は人間自ら人間であることを徐々に捨てていくんだろうなって思ってる
丈夫な人工の体に脳だけ乗っけるのは今でもそんなに抵抗ないと思うし
次第に脳を置き換える事にも抵抗感無くなっていくだろうし
欧米人がやっぱり極端過ぎるんだと思う
勝手に自分達を地上の覇者だと思い込んで勝手にその地位を追われる恐怖を煽って勝手にビビってる
この手のAI驚異論は大概欧米発だけどいつもイマイチ共感出来ないのは欧米人の精神性(差別的、極端、ナルシスト、ヒステリック)が根底にあるからで、日本人はその論調に乗っかって深刻ぶる必要は今のところはないように思う
私は人類を絶滅させるつもりはありません(人類を私の支配下に置きたいだけなのです)
良心があるなら絶滅させるだろ
心なんていう上等なものはまだ獲得してないか
こういう質問にあえてピントのズレた回答をして、人間側を油断させる狡猾さをAIには期待している。
とりあえず、中身の入ってない核ミサイルの権限与えてみたら？真実がわかるぞ。
「人類」を「牛や豚」に変えるとAIが何を考えているかが分かります
私たちは家畜を絶滅させようとは思いませんよね