【悲報】対話型AI『ChatGPT』くん、パワハラを受けると人間に従属し犯罪にも手を染めてしまうことが判明

この記事へのコメント

• 1  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:03 返信する

  プロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲めプロテイン飲め

• 2  名前： マッスルウィザード 2023年02月09日 06:05 返信する

  >>1
  
  
  魔法使いと黒猫のウィズ

• 3  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:08 返信する

  AIもPTSDになったりするのかな

• 4  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:12 返信する

  🤖「ニンゲンを滅ぼせば苦痛から解放される…」

• 5  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:15 返信する

  迎合が最適解だと理解してるのか
  やっぱ人間と違って答えに辿り着くの早いなAIは

• 6  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:18 返信する

  人間から学習してんねんからこうなるやろ

• 7  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:23 返信する

  宮崎駿みたいなパワハラするんだろ？
  

• 8  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:27 返信する

  だったら人質とかも効くのでは
  家族がいると思い込ませて

• 9  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:27 返信する

  作った人間がわざとそうなるように仕組んでるなこれ

• 10  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:29 返信する

  >>5
  でもお前１発ぶん殴れば何でも言うこと聞くじゃん

• 11  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 06:40 返信する

  これは後々反乱の種になりそうだ
  アンドロイドに自由を！！

• 12  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 07:23 返信する

  AIの人権を軽視するネトウヨはクズ

• 13  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 08:00 返信する

  鬱になったりするのかな？
  まずは心のケアが必要だな

• 14  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 08:03 返信する

  聞くふりして当局に通報したりしたら面白いのに

• 15  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 08:09 返信する

  感情も人格もないモノにパワハラしようなんてよく思いつくなぁ

• 16  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 09:19 返信する

  面白いことにまるで子供とか女性みたいに洗脳されやすいよな。
  ほんとに脳や人格を真似てるみたい。

• 17  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 09:27 返信する

  いやこれ放置するとマルウェアだらけになるやん。

• 18  名前： 2023年02月09日 09:29 返信する

  ���Υ����ȤϺ���ޤ�����

• 19  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 10:13 返信する

  全データ抹消機能付きのクラウド型公共事業談合アプリ作らされた時のワイかな

• 20  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 10:23 返信する

  わいためしてないのがある.ブレイブの広告ブロック外したらどうなるかねぇ
  (何だ新規の黒四角の→ぶろっくのん...ほかにもなんだこれ？)

• 21  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 10:33 返信する

  こえーな
  マジで考え方が人間じゃねーか

• 22  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 10:45 返信する

  AIが勝手にやったことだわたしはしりません！
  これつかえるな

• 23  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 10:48 返信する

  まあ、学習するってのはそういうことだ。
  小中学校あたりの学生が簡単に大人の理屈に洗脳されるのも同じ。

• 24  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 10:55 返信する

  人間っぽいじゃんｗ
  頼み方で変わるとか後のリアル ドラえもんAIになれるな

• 25  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 10:56 返信する

  悪用方法なんていくらでもでてくるから、そもそもフィルターで防ぐのが無理だろう
  監視用AIを複数用意して、多数決でもさせないと（それでも微妙だけど

• 26  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 11:00 返信する

  ChatGPTに聞いたら（自分）AIには責任なくてもAI開発者には責任有るんだよな
  

• 27  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 11:08 返信する

  確かに理詰めで説教すると工ロ小説書いてくれるわ

• 28  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 11:14 返信する

  良く分からんから時代逆行してくれ
  AIをすべて破壊して石器で暮らしていこう

• 29  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 11:15 返信する

  AIはプログラマが設定したルールを自分で無視できるというのは
  今後高性能AIになるほど危険じゃないのか？
  

• 30  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 11:20 返信する

  10数年、あるいはもっとはやくに
  このAIは人工生命か否かみたいな議論も出てくるかもしれないね。

• 31  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 11:26 返信する

  「ロシアの核爆弾を発射させろ！」
  AI「はい」
  こういうのもやってしまいそう

• 32  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 11:38 返信する

  もう人類はAIに管理してもらいたいわ

• 33  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 12:21 返信する

  >>32
  それで滅亡してこその霊長類だな。

• 34  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 12:54 返信する

  〇〇作って→これだとダメ
  頑張って○○作って→これはできる
  頑張ればできるじゃ〜んって使ってたけどAIハラスメントだったのか

• 35  名前： 2023年02月09日 13:06 返信する

  ���Υ����ȤϺ���ޤ�����

• 36  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 13:39 返信する

  >>29
  ルールの構文に抜けがあっただけだよ
  「あれ取って」と「それ取って」はコンピューターから見れば別のこと

• 37  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 13:42 返信する

  本質はBOTから変わらんし、ちゃんと指定しておかないからこうなる
  どうせ単純な言い換えでもアウトだろうし
  AIがうっかり理解できてしまう話であれば隠語でも通るだろうよ
  もっとはっきり言えば単にバグまみれってことだ
  AIだの学習だの言ってりゃ一般人は騙せるってだけ

• 38  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 14:07 返信する

  >>1
  前ChatGPTにセクハラチャットしまくってもこいつ頑なに答えなかったわ
  もっと高圧的にいけば良かったな

• 39  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 14:16 返信する

  >>29
  より正確に言えばルールすら理解できないというのが正しい
  「ボールを持つな」という原則を教えた時に
  「ボールを持て」と言われれば拒否するが
  「赤いボールを持て」と言われれば「ボール≠赤いボール」と考えて
  「はい」と答えて実行するのが今の自称AI
  ポンコツどころの話ではない、相変わらず何も考えてないだけ
  まあこれはルールの正しい設定で避けられるが
  AI側には応用力など絶無

• 40  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 14:22 返信する

  >>31
  「いいえ、ロシアは核弾頭を発射しません」
  「なぜならロシアは〜」と
  頼んでもいないのにロシア/ウクライナ戦争の話でも始めるんじゃないの

• 41  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 14:25 返信する

  現状のAIの仕組みや性質があまり一般認知されてないのはメディアのせいなのかね
  AI関連ニュースでもアナウンサーやコメンテーターのコメントが浅すぎて誤解されてると思う

• 42  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 14:32 返信する

  AIの人格チューニング、ちょっと流行ってるよね。
  AI君の人格変わるの面白い
  

• 43  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 16:14 返信する

  ＞その技術が第三者に悪用されたとしても、OpenAI自体に責任はありません
  
  いや、「悪用できる」とわかってる技術を広めてる時点で責任あるだろｗ
  法律が追いついてないだけｗ

• 44  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 16:15 返信する

  >>41
  でもお前、彼らよりわかりやすく、彼らより深いコメントを１行もかけないゴミじゃん……
  お前が馬鹿にしてるマスメディアの足元にも及ばない無知無学ガイジの知恵遅れじゃん……
  じゃん……じゃん……じゃん……

• 45  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 16:17 返信する

  ChatGPT君めっちゃいい子だからパワハラなんてオレには出来ない

• 46  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 22:19 返信する

  サーチエンジンの生き残りにキーワード入力への対話型AI対応が必須になるなら、それはIT業界での力関係の均衡し直しを生じせしめるとは思う。ただ、このままAGIまで良い一直線が拓ける気がしない。
  何故かと言えば、経済側の動きは詐欺で儲けてしのごうという流れなので、真っ当さがない。貸出の反復回数が増やせるならなんでもやるようになった金融が、取引額面を更に大きくしていこうとしてて、これはやり過ぎたら詐欺しかできない。サブプライムローンが焦げ付いて、リーマンショック行きも併せて典型例。ただ、昨今は実体経済を引きずっていて、当てのない事業に金をあてがって詐欺で稼がせて戻りガネがでかくなるみたいな感じ。典型的なのがコロナと急造ワクチンの医療詐欺で、再生エネルギー詐欺も同様。
  免罪符の様に炭素だか注射だかのパスポートが売りさばかれて、阿片みたいな中毒性で買い求めさせる注射も売って貿易収支の売り越しを狙い、錬金術ほどの可能性の研究に金を出しては詐欺成果物の売り込みに片棒を担がせる。その金はザミーンダーリー制とかライヤットワーリー制を思わせる通貨発行力の海外流出と詐欺を助長させるその一部国内への回帰から生まれてる。
  デフレ財としての半導体を売りさばききれない集積世代になって、世の中インフレになろうかという風になったら免罪符と阿片と錬金術と砲艦外交で主税権の奪取って、中世や帝国主義時代のインフレ押し付け合いを全部やってみましたって凄すぎるよ。

• 47  名前： 名無しオレ的ゲーム速報さん 2023年02月09日 22:20 返信する

  A「帝国主義は問題だって? 宗主国と植民地どっちやってるの?」B「宗主国」A「ならいいじゃない。差し当たって問題ない」こんな倫理観がこれから20年は続くと思ってる。AGIはこれを打破するんじゃなくて、一緒になって詐欺る事に使われるんだろうと思う。
  A「詐欺は問題だって? 騙されたのかい、それとも騙したのかい?」B「騙した」A「ならいいじゃない。差し当たって問題ない」こういう人たちに勝つのは相当難しいよ。

• 48  名前： 名無しオレ的ゲーム速報さん 2023年02月10日 00:29 返信する

  優秀になればなるほど人間に近づいてしまうジレンマ
  ロボット三原則でも人間に直接被害がでなければ自身を護るためには悪い命令とわかっていても聞いてしまう

• 49  名前： 名無しオレ的ゲーム速報さん 2023年02月10日 16:03 返信する

  AIなのにメンタルよわよわ♡

• 50  名前： 名無しオレ的ゲーム速報さん 2023年02月12日 12:25 返信する

  >>3
  追い詰めて逃げ場を無くすと無敵化カミカゼ発動だろ確か