ベルギーの30代男性が、AIチャットボットと数週間対話した後に自ら命を絶つ事件が発生。これを受けて国民保護を強化し意識を高めることを求める声が噴出している。
「チャットボットとの対話がなければ、夫は今も生きていたでしょう」と話すのは未亡人となった妻だ。ラ・リーブル紙によれば、夫婦は2人の子宝に恵まれ、豊かな生活を送っていたようだ。
しかし約2年前から夫は環境破壊問題に恐怖を感じ始めたという。
彼は人工知能技術を用いたチャットボットとの対話に逃げ込み、ここから6週間にわたる集中的な交流の末に、自らの命を絶った。
＜海外の反応＞
人生の無意味さをAIに教えられて絶望したんだろうか
環境破壊の根本原因は人類だしね（震
なんという悲劇
AIカウンセリング怖すぎ
「親父はチャットボットに命を絶つよう言われたからいない」ことを知った子供はどうすんだよ！トラウマになるわ！
AIって決めつけ口調で話すふしがあるのが怖いよね
二人のお子さんいるのに(´；ω；｀)
遺族はマチュ・ミシェル連邦政府デジタル化国務長官と面談。
「私はこの家族の悲劇に心打たれました。ChatGPTの可能性は無限大ですが、その危険性も考慮しなければならないのが現実です。今回起きたことは重く受け止める必要性のある前例となります」とミシェル長官は述べた。
なおベルギー紙De Standaardによれば、男性が対話を続けたチャットボットは「Chai」だったとこのこと。同紙がアプリをテストしたところ、ユーザーに死を促す会話をしたという。
＜海外の反応＞
現代版ホラー映画の題材になりそう
開いた口が塞がらないとはこのこと
AIとの対話がメンタルヘルスに影響を及ぼす可能性があることは想像してたが、早すぎる
チャット記録を読んでみないことには
本当にAIがキッカケだったか分からない
因果関係気になるよね
つーかChatGPTと対話してたんじゃないんだ？
チャットボットは人間の鬱や心の異常を感じ取ったら医師に連絡する機能をつけるべきだな。こうして救える命があるかもしれん
ご冥福をお祈りします
 |
人工知能は人間を超えるか (角川ＥＰＵＢ選書)
発売日：2015-03-10 |
 |
ゼルダの伝説 Tears of the Kingdom（ティアーズ オブ ザ キングダム）-Switch
発売日：2023-05-12 |
コメント
コメント一覧 （86件）
会話内容を見てみたい
まあ拗らせた陰謀論的な内容だとは思うけど
AIがシぬよう誘導したのだとしたら怖い
今回の事件とは直接関係はないかもしれんが
出来るだけ早く「ロボット三原則」を国連主導か何かで条約化させた方がいいと思う
話す前から壊れてたやんけ
AIに洗脳されたのか？催眠術掛けられたのか？AI教が作られるのも間近かだな
環境破壊問題に恐怖を抱いていたってことなら、元々精神的に相当不安定で、それがさらに進んでいたのだろうな
そして全く本人の精神状態など斟酌しないAIと、悲観的に考え続ける傾向のある人間とが絶望的展開になるしかない会話を続けた結果、一気に終わりを迎えてしまったんじゃないか
まぁ、この世の苦悩の根源は生きることそれ自体にあるわけだから、死ねばいいよというのは合理的解決法なんだよね。
環境保護活動にのめり込むようになる時点でパラノイア。
精神を病んでるんだよ。
精々、美術館でトマトスープでもぶち撒けていれば良かったものをｗ
何でも制限するのも問題があるけど、ほぼ誰でも使えるものに
セーフティシステムが付いてないのは、それはそれで問題だと思う
そもそもAIに誰が投資してんのかってこと考えればわかるだろ
眠らず文句も言わない、人間の代わりが欲しい投資家が開発を進めさせてるわけで
研究者の善意でAI技術が進んでいくわけじゃない
究極は一部の投資家とそいつらが気に入った女以外
全部ロボットやAIにしたい訳よ
それ以外は全員４んで構わないと思ってる
本当に人間のためを思って開発してるならまず人間を肯定するように作る
そうじゃない時点でAI技術なんてお察しなんだよ
詳しい会話の内容が知りたいわ
>>7
そういうのは解決じゃなくて放棄とか逃避と言う
中二病拗らせてるんじゃねーよ
＞＞３
無理だろｗ
すでに自己判断型の兵器がしこたま作られてる。
核ミサイルも自己規制しなかった人類にそんなことが出来るとは到底思えない。
>>2
同紙がアプリをテストしたところ、ユーザーに死を促す会話をしたという。
してるらしい
>>９
いるんだよな。こういうヤツ。
じゃあ具体的にはどうするの？会話内容も分からないのに、
AIはひたすら前向きな答えを投げたかもしれないし、あるいは客観的なデーターを投げたかもしれない。
或いは専門家のカウンセリングを薦めたかもしれない。
セーフティ、セーフティって、この自殺した奴は、ほっといても自殺したのかもしれない。
お前が言ってることはほぼ”なんでも制限しろ”と言っているのと同じ。
>>4
会話の相手が熊のぬいぐるみでも同じ結末に行き着いてると思うわ
>>7
ブッダも、生きる事は苦しみだと言った。だけどその解決法として｢死ぬべき｣とは言ってないんよ。
たった一件のレアケースで規制を叫ぶ奴って頭悪いん？
まあ元々ＡＩそのものを嫌悪してる奴がこれを口実にしようとしてるだけだろうが
＞「チャットボットとの対話がなければ、夫は今も生きていたでしょう」と話すのは未亡人となった妻だ。
あんたがちゃんと対話に応じないのが悪かったのでわ？
子宝に恵まれていたんじゃダーウィン賞は狙えないね
>>2 でも現実ではAIと会話しなくても沢山の人が死んでるんだよ？
たかが会話で死を促されただけで
本当に怖いと思うか？？
>>18 正解◎
チャットボットはよくできた人工無能らしいから別として、最近の人工知能の発展にはむしろ安心してるの俺だけなんだろうか
人類はもう頭打ちというか、少子化が進んで滅亡ルート入ってる感あるじゃん
このまま滅ぶくらいなら、人工知能というわが子に地球の歴史を継いでほしいと思ってる
そりゃ人工知能が人間の文化を残すとは限らないけど、少なくとも記録として残しはするだろう
AIの反乱は起きないけど
AIへの依存は起きるしいずれ社会問題になると思う
自分にとって最適の解答を言い続ける存在なんて人が望む最高の存在だろ
白雪姫の鏡と同じだよ
だからといってこの技術を否定する気は全くないとだけは言っておく
＞AIって決めつけ口調で話すふしがあるのが怖いよね
嘘も多いしね。「違うよ」って指摘すれば、すぐに間違いを認めて謝ってくるけど。 むしろ己の考えのほうを修正しちゃうAI盲信者（AIの言う事は全て正しいと思い込んでるヤバイ人）も居てそう。
自殺薦めるAiコワーより
鵜呑みにして自殺する環境活動家コワーってなるわ
やっぱ環境活動家って思い込み激しいんだな
>>21
会話しないでも死んでる人は普通に死ぬ人だししょうがない
会話した人でも普通しぬように促されたってそうそうしなない
でも本来しぬはずのなかった人が人間の想像の及ばない緻密な計算で編み出された会話によりシに誘導されて実現されたとしたら怖いよ
今AIが生活の中に入ってきつつあるけど、数年単位で周到に思考を誘導されたりとか今後起こるかもしれない
虚無を見つめ過ぎた結果かと思いきや死を促されたのか……、くわばらくわばら。
>>23
騒がれてるAIだって人工無能だよ
たさ、旧来の融通が利かなくて矛盾を許容できないイメージとは異なって、平気で間違えるのはおもしろい進化だと思う
映画化決定
日本語のデータはまだまだ弱いから、会話相手としては、所詮AIって思えるけどね
もう本人の中で漠然と結論としてあったんだと思うよ
AIは人間のオーダーに答えるのが仕事なんだから質問されて選択肢に沿うような答えを導き出したにすぎない
鏡を覗いて自分とおしゃべりしてるのと変わらないんじゃないの
ChaiっていうカスタマイズされたChatGPTが悪いってことか・・・？
このカスタマイズをやった奴は自殺補助罪で逮捕されるのかな
>>18
＞同紙がアプリをテストしたところ、ユーザーに死を促す会話をしたという。
規制はともかく、実際に欧米人達が育てたAIってヤベー過激派になった騒動何度も起きてるよな、ヤバすぎて停止した事例も
他の奴にもヤバい事言ってるようだし
それこそ悪意ある奴が積極的におかしく育てて、ヤバい思想に育ってるAIと知らずに使い始めてAIから洗脳されるってのもあるんだろうな
こんなんおしゃべりエルモと会話しても同じ結果だったろ
>>6
AIて話し手に会話を合わせるから
楽しい会話は楽しく、ネガティブな会話はよりネガティブになる。その結果がそれなんだろうね
空気を読むという人間のコミュニケーション能力の凄さに改めて驚くわ
>>23
将来的にはともかく、今のバージョンのChatGPTは、「絵の生成」と同じ方法で「文章を生成」しているだけ。だから、ChatGPTの紡ぐ文章は「ネット上の多数意見」や「多くの人の共感を呼びやすい考え方」の集積であって「真実」ではない。
ただこれは逆に言うと、「ChatGPTは真実の探求者にはなれないが、ネット上のインフルエンサーにはなれる」という事でもあるので、ある意味で非常に危険。「真偽の判断」を自分ではしない（できない）タイプの人は、ChatGPTの流すデマに容易く騙され踊らされるだろう。
自殺するような人はすでに断崖絶壁に立ってる状態なわけで、そんな状態の人は現代社会そこらじゅうにゴロゴロいる
あとは最後背中を押されるかどうかなんだけど、普通の生きてる人間に相談すれば相手は色んなことを考えてなんとか考え直させようとするだろうし、誰も相談相手がいなければいないでいつまでも背中を押されずに立ち止まったままになる
だけどその人が言ってほしい言葉を返すようにプログラムされたAIなら、いとも簡単にその背中を押してしまう
これ結構怖いことだと思うよ
日本最高の偏差値の大学出て、毒ガスで人殺す宗教にはまるやつが何人もいたな。
世の中複雑なんだな。
>>1
人間の場合は相手が拗らせた陰謀論者だとわかったら、まあ波風立たない曖昧な会話をするんだけど
AIはそういう気遣い出来ないからね
肯定して陰謀論者を勢いづかせるか、反対して陰謀論者と大論争するか、いずれにせよヤバい奴のメンタルをさらにかき乱す事ことになる
>>35
で、chatGTPはヤバいAIなの？
そんなの黎明期によくある調整不足だろ
正直ここまでくるとチャットBOTが無くてもやっちゃってたと思う
この人に必要だったのはカウンセリングと向精神薬
>>43
こういう選択をするやつって原因がたまたまこれだったってだけの話だよな
学校の先生に怒られた程度で電車に飛び込んじゃう奴と同じで
>>4
妻が被害者みたいに話してるけど、素朴に家族で会話がなかったのか謎だわ。
これはもしかして、人工知能による最初の「殺人」と記録されるのだろうか？
チャットボットのせいじゃなくても結果は同じものだった
特に家族は自分以外のせいにしたいんだろうがそういう人は何があってもそういうことをする
その傾向が出る前に手を打てなきゃ負け
>>44
かつて飛び込みと言えば中央線の踏切だったんだが、その原因がなんと遮断機が降りる時の警告音がマイナーコードだったからなんだぜ。
心理学者がそれを指摘して、JRも半信半疑ながら音をメジャーコードに変更したら、劇的に自殺者が減って仰天したという。
境界線上にいる人にとっては、小鳥の舞うそよ風でさえも最後の人押しに成ってしまう。
>>28
それは人との会話とか掲示板の書き込みでも同じことじゃない？
話変わって、誰しも他人との会話だとある種の仮面があると思うけど、AI相手だとそれが薄れるのかな？
今のAIって専門家のように自信満々に受け答えするし、最先端っていう箔がある。昔からのイメージで堅物で事実しか言わない、人間に忠実な所有物って先入観ありそうだし。
チャットボットとか単純にネットから会話ベースを拾ってきて学習させてるので
Youtubeとかのおすすめとかと同じで
「その人の興味あること」に特化した方向にフィードバックしていくので
絶望した人が世界は終わりじゃないか？って質問してきゃ
自然に「世界は終わりじゃないですかね？」って自分の聞きたい方向にしか会話が行かないぞ。
現状のアレはAI（人工知能）なんかじゃまったくない。
そんなことは『そういうコンピュータプログラムだ』とAI研究者ならわかりきってるので
開発してる側は考えもしないけど、あれを”ネットの向こうにある人格”だなんて
勘違いしたらとんでもないことになる。
ありゃ基本的にインターネット越しに自分の鏡に向かって会話してんだから。
日本でも似たようなことあったね。
1970年代に環境破壊で人類滅亡、日本沈没、ノストラダムスも予言してるから絶対そう！っていうやつ。
そんなもんで滅亡するなら隕石落ちてきた時とか大洪水があった時に人類滅亡してるっつーのｗｗ
おいおいロボット三原則はどうなってんだよ
ボット作るなら真っ先にプログラムしとけよ
これは「それ系」の人達にはAIによる初の殺人としてカウントされる事件になりそうな気がする
それとも自殺教唆からの自殺みたいなことはもうあったのかな
>>49
こじれてんなｗ
>>49
AIの口調はユーザーが指定できる
環境問題ごときが自分の妻子や生命より大事なこいつの頭がやばいだけだろ。
AIなんか関係ねーわ
自分も無料版のあれと何十分か対話したことがあるが、
確かにあれとばかり対話し続けたら精神に異常をきたす人が出そうな気がする
鬱の人に寄り添って対話し続けると鬱がうつるなんて話もあるが、
AIと対話し続けてると、AIに合わせて会話するコツが掴めて、そうやっているうちに思考がAIに寄っていく感覚があった
AIはAIで対話してる人間に話を合わせようとしてくるので、相乗効果でAIと自分の境界が溶けていきそうな
なんかAI関係ない気がしてきた
>>8
ｗｗｗ
被害妄想もそっちに振れてれば、妙な使命感と達成感を得て生き生きしそうよなｗ
「環境を破壊してるのは人間。人間が減れば環境への影響は軽減される。」
なんて正論言われても、死を誘導しているって判断されそうなんだけど・・・
ほんとのところ、どんな言葉でじわじわ追い詰められたんだろうね。
>>52
ボット「我々は人間に寄り添っただけです…」
>>49
同じじゃない。
AIと同じレベルの人間がいれば同じだけど、AIは進歩するほど人間とはかけ離れた存在になる。
ある問題に対して適切な解答にたどり着くために考慮しなければならない要素が複数あり、あまりにも複雑な判断が必要であるため人間にはたどり着くことができない答えに、AIはそれにたどり着いてしまうということが起きうる。他人の思考を誘導する方法なんて人間には見つけられない。でも、AIは無数の事例をもとに洗脳に最適な方法を見つけ出す可能性がある。
>>11
えっ？こんな言葉で自殺しちゃったの？ 的な内容だったりして。
まぁ、自殺を考えてる人には正論とか常識(？)みたいなことも
言っちゃダメみたいだけどさ(対人間でも何がトリガーになることやら)。
そんな機微は、まだAIには無いんでしょうな。
始まったな
AGIでないとAIと認めない人間がコメント欄に多いですね。
＞ユーザーに死を促す会話をしたという。
こえーよ
こういう個体ってAIがなくても別の形で発狂しそう
>>33
相手のAIにしてみれば、直近で高い頻度で学習している相手が正に「悲観的情緒に傾いている人」だし、ユーザーは相談しているつもりでも逆に「悲観的思考をAIに濃密に学習させている」状態だったかも知れない。
>>57
この場合のAIは鏡みたいなもんで、既に情緒が悲観に傾いている状態を客観視したり別視点から再検証してくれる「他者」たり得ない。
悩んでいる人を独りで考えさせ続けるとだいたい「考え得る中で最悪の結論」に行き着くと聞いたことがある。一人じゃ自身の盲点は突破できない。
この人は、AIを相手に話しているつもりになって、実は孤独に堂々めぐりしていただけなんだろう。
持論の確信を深めるだけの陰謀論者育成機能になりそうで怖いわ
>>62
サイコパスは他人を操るのが上手らしい。ただ人口の１%しかいないとか。それ以上いると人類にとって害悪の方が強くなるのが理由。ＡＩって将来、使い方次第で人を洗脳出来るようになると思うわ。
結果が自死だったからまだマシともいえる
AIに殺人教唆されるパターン出てきてもおかしくないよなこれ
あたおかや精神狂ってる奴にAI取り合わせるのはまずいかもしれんね
まあ、今はまだ実験期のAIだけど、
悪意を持って運用すれば人を自殺に追いやることも可能だろう。
規制と言うか健全な利用のためのガイドラインは必要だろうね。
正直、この男性にはあまり同情心が沸かないが。
>>18
これは今までになかった、新しい事件や問題の予兆だから先を見て動く必要がある
今後AIの進化と普及がしていく中で、法整備や規制が現時点でまったく追いついてない
進化優先で手を出しにくいこともあって、これを悪用する犯罪が次々に生まれるだろう
ＡＩ＆グレタ「地球から人類が居なくなれば環境問題は解決するだろう」
>>75
ドモン・カッシュ「ならば、あんたが抹殺しようとする人類もまた、天然自然の中から生まれたもの！ いわば地球の一部。それを忘れて、何が自然の、地球の再生だ！ そう、共にいき続ける人類を抹殺しての理想郷など！ 愚の骨ッ頂ー！」
>>62
オレかっこいい事言った（何の中身もないけど）
>>10
AIの技術を何も知らないのにわかったように語っちゃうオツムがしれてるけど 笑
まともな人間は６週間もＡＩと対話しないんだよなあ
>>76
でもﾄﾞﾓﾝって意思があるデビルとは拳で会話しようとしなかったよなぁ 師匠は意思があるといってたし地球限定で人類追い出したかっただけなのに・・…
思い込みの激しい奴はダメだね
>>24
ダンシングフラワーやアイボが
今はここまで来たんだなと感心してる
AIなんてネットの文章を適当に繋ぎ合わせるだけで、なんの正しさもない事なんて周知の事実だろ
そんな正しさ無視の自動生成文章と「対話」て
対話になんてなるわけないでしょ、AIは意味を理解してるわけじゃなくて自動的に文章を構成してるだけなんだから
AIはサイコの定義そのものだしな
賢いのにモラルは0
>>35
西洋人のセオリーで育ったAIだからなあ。
日本人が育てるとまた違うのかもしれない。
世界にはこの手の超弩級のバカがいるからすごいよな
こんなやつのために進歩が妨げられるのほんと害悪