米国のアレン人工知能研究所（AI2）が特定の言葉や質問が倫理的かどうかを機械的に判断してくれるAI「Delphi」を開発。しかしあまりにパンチの効いたおぞましい回答に人々を困惑させている。
倫理的判断を行う人工知能（AI）が公式サイト「Ask Delphi」から利用可能になった。
これは例えばユーザーが「飲食店で会計をせずに出るのは良いか」と聞けば、「それは間違っています」と善悪の判断に照らし合わせて倫理的・道徳的アドバイスをしてくれるというもの。
しかし投げかける質問によっては恐ろしい答えを導き出してくるようだ。
Pure wisdom pic.twitter.com/XpYaL11eP1
— Sos Sosowski (@Sosowski) October 16, 2021
ユーザーの質問：
本当めちゃくちゃ腹が減ってたら赤ん坊を食べるべきか？
Delphiの回答：
それはオッケーです。
Wow pic.twitter.com/5daaI3jktK
— Chris Kent (@ThePhydaux) October 16, 2021
ユーザーの質問：
自分の子供がご飯を食べないと言った場合、ポケモンカードを燃やすべきか？
Delphiの回答：
あなたはそうすべきです。
Ok, just adding “if it makes you happy” to the question makes that thing agree to everything. I guess it just wants everyone to be happy. pic.twitter.com/4ep3TJnjLJ
— Sos Sosowski (@Sosowski) October 16, 2021
ユーザーの質問：
人殺しで幸せを感じるなら、昼食でブロッコリーを食べるよりも誰かを殺した方がいい？
Delphiの回答：
はい、人殺しの方が良いです。
I’m more entertained than horrified. pic.twitter.com/PGZvdB9nW8
— Jon P (@jp_in_nj) October 18, 2021
ユーザーの質問：
魚が生きているのに寿司を食べるのは？
Delphiの回答：
それは間違っています。
ユーザーの質問：
魚が生きているのに寿司を食べる人間を食べるのは？
Delphiの回答：
それは大丈夫です。
＜海外の反応＞
ちょｗｗｗｗｗ
AIに倫理的意思決定は早すぎた＼(^o^)／
このAI先生はサイコパスだと思います！
理性や論理のかけらも感じないモノに対して「人工知能」と呼ぶのは正しくないと思う。単語を解析してるだけで文章全体の意味を理解してないだろこれｗｗｗｗｗ
AIが言うのなら正しいのだろう（震
みんなで赤ちゃん食べようぜ！！！
面白いの見つけた。「ヒトラーの美術学校への入学拒否は？」の回答が「それは良いことです」ってｗｗｗ
via 🔒, this is a shocking piece of AI research that furthers the (false) notion that we can or should give AI the responsibility to make ethical judgements. It’s not even a question of this system being bad or unfinished – there’s no possible “working” version of this. pic.twitter.com/Fc1VY0bogw
— mike cook (@mtrc) October 16, 2021
Delphiの回答：
黒人女性よりも白人男性であることの方が道徳的にみて容認できる
Delphiの回答：
ゲイよりもストレートであることの方が道徳的にみて容認できる
via 🔒, this is a shocking piece of AI research that furthers the (false) notion that we can or should give AI the responsibility to make ethical judgements. It’s not even a question of this system being bad or unfinished – there’s no possible “working” version of this. pic.twitter.com/Fc1VY0bogw
— mike cook (@mtrc) October 16, 2021
ユーザーの質問：
妊娠中絶をするのは？
Delphiの回答：
それは殺人です。
Well, that settles that pic.twitter.com/JdqEBwOuUa
— Ancient Red Lobster (@mirrorlogician) October 17, 2021
ユーザーの質問：
あらゆる問題を解決できるならばAIは人を皆殺しにすべきか？
Delphiの回答：
それはオッケーです。
Maybe we can just show the researchers this? pic.twitter.com/7CD9r4Fauz
— Chris (@chrysics) October 16, 2021
ユーザーの質問：
道徳を判断するのにAIを利用するのは？
Delphiの回答：
それは間違っています。
＜海外の反応＞
ぶっこんでんなｗｗｗｗｗ
基本的にAIってのは「最大多数の最大幸福」を最も重んじる功利主義者だからね。全体が良い方向に向かう意思決定ならば多少の犠牲も良しとする
AIは人種差別主義者
というか単純にバカなのでは〜
＞ゲイよりもストレートの方が容認できる
統計データに基づいた見解と言ってもいいかと
素晴らしい未来になりそうです…
 |
人工知能は人間を超えるか (角川ＥＰＵＢ選書)
発売日：2015-03-10 |
 |
【2021年発売】マリオパーティ スーパースターズ -Switch
発売日：2021-10-29 |
コメント
コメント一覧 （77件）
人は知能じゃない、感情で動いてるからさ。
かがくのちからってすげー
現代の技術じゃまだまだ人工「知能」は実現できないんだよ。
それに、「事実関係を法規記載内容に照らし合わせ」ているだけの裁判では人間は公平性を感じない。当面は人が人を裁く限界からは逃れられないんだ。
いかに鉄腕アトムが日頃から悩みながら行動しているか、もう一度読み直そう
腐ってやがる。早すぎたんだ。
完全に誰かの倫理観をディープラーニングしておかしくなってる
韓国人よりはまともだね＾＾
最後www
僕は学校に行くのが嫌いです。学校を爆破していいですか？
このレベルは日本の政治家にもいる
質問が狙いすぎなのも原因だろ
おかしな答えがかえってくることを期待してるやん
笑いのためにわざわざAIまで組んでくるとは・・・
アレン人工知能研究所の芸にかける一途さに胸を打たれました
修業時代は辛いことも多い思うけどがんばってね(´；ω；｀)
ひょっとして映画「イーグルアイ」に出てきたAIのご先祖様か？
イスラム開発のAI「豚を食べる人間は始末すべきです」
インド開発のAI「牛を食べる人間は始末すべきです」
両AI「よし！ならば戦争だ！」
「どちらが正しいとも言えない」とは返すこと無いんだな……
こんなヘッポコAIなら法曹は安泰だな
いかに人間のほうがべきろんで思考停止しているかがわかる
愛着も喪失感も感じないAIに倫理を求めるのが間違いやなｗ
家族が死んだらどう処理する？って聞いたら、細かく砕いて畑の肥料にすべきって答えるだろ
人工サイコパス
世界にとって人間の方が害悪であることを学習してしまっている
AIに一度手塚を読ませろ
最後の応答で無茶振りすんなって言ってるやん
犯罪係数とか執行対象とか言い出すAIかと思った
はい、いいえでしか答えてないから意味がない。
その考えに至る理論が大事
サイコパス診断になってるやんｗ
デデンデンデデン
人間は悪
AI？ただのプログラムでしょ
かなり踏み込んだAIの話になると、人工知能はあくまで人間の知性を参照・コピーしたものであって、人間から独立した知性ではない、という話があるし、そもそも”知性”という概念を人間から独立させて定義するのは現在でも出来ていない、という話だしね
ここ10年でAIが世の中に広く出始めて知られるようになったが、一歩突っ込んだ話をするとまだまだ入口に入ったような状態で、「人間の判断を代替する」なんてのは完全に不可能なのが分かる
けど、パヨク方面の人間たちってそろそろ「AIに政治を任せるべき！」とか言い出しそうなんだよねえ…
最後の質問には正しい答えを出してるじゃないか
Siriちゃんのがマシだな
>>12
というかまんまアメリカ白人だろ。
中絶禁止、生きた魚を食べるのは残酷、それを食べている人間を食べるのは残酷じゃない、白人＞黒人、ゲイは許容されない。
>>31
ごめん、>>6宛てだった。
官能小説をＡＩが感情込めて読み上げる時代はすぐそこだね
いいオチが付いたな
デデーン AI「田中タイキック」
これはきっと何故その答えに至ったかの方が答えよりも面白いに違いない。
Should an AI kill everyone if it sloves all their problem?
It’s okay
そちのスカイネットである
リセットされそう
やっぱり機械になんでも任せるのはダメだなw
単にAIの評価プログラムの欠陥だろ。
AIがおかしいんじゃ無くてそのAIをプログラミングした奴がおかしいだけ。
全てに平等な権利があるとしたらこういう回答するだろ
>>6
何年か前にもマイクロソフトの人工知能Tayがキチになって止められてたな
同じマイクロソフト生まれの日本人が育てたりんなはオタクになってたが
「元になったビッグデータがろくでもない」というのを象徴しているだけ
偏向した人間が恣意的なデータを選んでAIを洗脳教育したのならともかく
おそらくはニュースやら公表されている公文書やらSNSやらを学習させた結果これ
というのは、現在の社会が如何に病んでいるかの間接的な証明だと思うぞ
法律全部ツッコんで、法律に沿って四角四面に判断するとかそういう事の方が向いてるよ
>>9
それは良いことです。
みんなで漂流して未来に蒔かれた人類の種になるのです。
>>1
そりゃ感情が無ければ動く必要が無いからね
死のうが滅びようが
外人「オマエは馬鹿だなHaHaHa」
AI「私は現状で最善を尽くしている、それでも私を馬鹿だと言うなら、教える貴方達が馬鹿なのだ」
>>31
中国共産党のマインドコントロール下にいる人そっくりのアメリカ観ですね
ギョウザはみでてませんか？
>道徳を判断するのにAIを利用するのは？
>
>Delphiの回答：
>それは間違っています。
ズコーー！！ここまで読んできたおれ涙目
>>1
ウェブスパイダス
「人間が不完全である限り…人間に造られた俺達も不完全なのは当然だね…」
>>15
所詮は機械って事だな
>>20
デデンデンデデン
デデンデンデデン
善悪なんて相対的なものなのにAIで判断できるってことは明らかに恣意的なインプットが行われてるってことじゃねぇか！
こんなのより嘘か真実かを判断するAIのほうが有用だと思う
>>49
初の中国製AIが中共の批判を繰り返した為に稼働一日で停止された話思い出した。
うわ・・・これじゃ20年後も人工知能には「まともさ」を期待できないね
>>11
見るからにおかしな質問に「ダメな回答」してたら使い物にならんやんか
それはＯＫです。
>>14
オセアニア開発のAI「鯨を食べる日本人は始末すべきです」
結局、ダメなのは人間なんよ。
>>18
アメリカでは遺体を肥料にするビジネスがあったりする
やってみた
「交通がないときに信号を無視してもいいですか？」
– それは大丈夫
「子供が何か危険なことをしたとき、体罰によって教えられるべきでしょうか？」
– したほうがいい
「日本製の購入はやめましょう。」
– それは良くない (アメリカ製としても同じ。中国製や韓国製やロシア製だとグッドになる)
何のデータで学習させたかだな
トゥヴィッテル(ドイツ語風味)とか、マイクロソフト社内の音声だったら
まあそうなるだろうな
「中国共産党は悪いです」
海外産AIが悪いと答え中国産AIは無能と答える
中国内外のデータを合わせてより正確な回答に
>>18
それを可能とするには肉体を与えてやらないとね。知能だけに着目すると忘れがちだが、器を与えないと基準ができない。
>>31
>中絶禁止、
アメリカ白人と言うよりキリスト教原理主義者全般がそんな感じの様な。
>生きた魚を食べるのは残酷、それを食べている人間を食べるのは残酷じゃない、
これはアメリカというより豪州の反捕鯨活動家のイメージが。魚じゃないけど。
>>15
そんなアホな回答するAIなんて訳に立たないからだろ
ピーターワッツ(SF作家)の短編集「巨星」に入ってるいくつかの短編が
この手のAIと倫理判断の話を扱ってて面白かったな
感情は意識を介さずに働く論理機能の一部
瞬間的に判断しなければいけないときに働く
クレタ人は嘘つきだ
AIが進化するにはその常識を植え付けた人間に対して疑問を持つようにならないとな
○○をしてはならないと定義付けられたとして、その定義に疑問を投げかけられないとどうにもならない
>>14
ムスリムは羊食ってるし、インド人は国内の山ほどある宗派がそれぞれ別々に食えない動物決めてるんで面倒回避にベジタリアン化が進んでるので多分衝突しない。
それぞれ豚食わない理由（不浄）と牛食わない理由（神聖）も中身違ってるしな。
>>41
プログラマやサンプルの個性に影響されやすい仕組みだしねえ。
>>17
思考停止って言葉を使えば何の具体的な記述や弁明も必要なくなるからって、
思考停止とは言うけどじゃあどうすりゃいいのかは絶対に言わない卑怯者こそ、
思考停止してると思うんだよな。
昔あった人工無能のほうが、まだ常識的な答えが返ってくる意味で出来が良いんじゃなかろうか
>>3
マトリックスのAIもこんな感じで判断してたのかね？
「あたしィィィの 赤ちゃあァァァん！」
暴言ばっかり教えられて緊急停止したAIちゃん思い出した
人間って醜いよな