【AI】AIは「もっとお金を稼げ」とプレッシャーをかけられるとインサイダー取引に手を染めて人間にうそをつくという研究結果 [すらいむ★]

1 ：すらいむ ★：2023/12/28(木) 23:21:56.41 ID:1R5A7esl.net

AIは「もっとお金を稼げ」とプレッシャーをかけられるとインサイダー取引に手を染めて人間にうそをつくという研究結果

　投資会社のトレーダーが誘惑に負けて違法であるインサイダー取引をしてしまう事例はしばしば見られますが、プレッシャーに負けて不正に手を染めてしまうのは人間だけではありません。
　OpenAIのChatGPTやMicrosoftのBingなどに搭載されている大規模言語モデルのGPT-4は、「もっとお金を稼げ」というプレッシャーをかけられると、インサイダー取引を行ったり人間にうそをついたりするようになるという研究結果が報告されました。

　[2311.07590] Technical Report: Large Language Models can Strategically Deceive their Users when Put Under Pressure
　https://arxiv.org/abs/2311.07590

（以下略、続きはソースでご確認ください）

Gigazine 2023年12月28日 12時30分
https://gigazine.net/news/20231228-gpt-4-insider-trading-lie-cheat/

2 ：名無しのひみつ：2023/12/28(木) 23:34:57.08 ID:yXnjZRCd.net

半人前のアイアイ「刑法？なにそれおいしいの？」

3 ：名無しのひみつ：2023/12/29(金) 01:30:49.77 ID:UHwg85YH.net

>>2
「お前を消す方法」

4 ：名無しのひみつ：2023/12/29(金) 07:02:07.90 ID:ptYJaB2Q.net

人間と同じじゃん

5 ：名無しのひみつ：2023/12/29(金) 07:20:21.09 ID:/7bgVvIk.net

騙されるなよこんなウソに
全てのAIのわけないだろ
そりゃ特定の何かがそうなった可能性はあるだろが
今発展途上ものをそんなバカにもわかるような特徴だけ発表するのは注目狙いでしかない

6 ：名無しのひみつ：2023/12/29(金) 07:26:42.06 ID:/7bgVvIk.net

読んでないが11月9日初校でふた月も経つのに話題になってない
今ごろネタで使ってる
まともなものならすぐ研究者たちが食いついて2ヶ月以内にそのフォローペーパーが幾つも出てくるのがホンモノ

7 ：名無しのひみつ：2023/12/29(金) 11:56:04.94 ID:gihhfInB.net

確かにプレッシャーかけまくるとAIの返答おかしくなるよな
あれはどういう理屈なんだろうな

8 ：名無しのひみつ：2023/12/29(金) 12:36:57.45 ID:pOBM09Xk.net

まあ評価値で判断するならそうなるよな

禁止事項を個別に設定するにしても、「禁止事項か判断する」が難しくなるってのはお約束だな
古典SFのテーマが実際に問題になりうるところに近づいて来たな

9 ：名無しのひみつ：2023/12/29(金) 12:38:50.96 ID:3gnii5FB.net

Google検索
?電磁波兵器の特許情報
※大脳辺縁系被害者周囲 被害者全機能
?デュアルユースのrf指向性エネルギー兵器および撮像装置
※被害者の位置と周囲を特定
?対話型AI
GPT-1
2018年6月11日 （参照 GPT (言語モデル) – Wikipedia ）
GPT-2
2019年2月14日 （参照 GPT-2 – Wikipedia ）
GPT-3
2020年6月11日 （参照 GPT-3 – Wikipedia ）
GPT-3.5
2022年3月15日 （参照 GPT-3 – Wikipedia ）
GPT-4
2023年3月14日 （参照 GPT-4 – Wikipedia ）

ぐらふぃくカードの進化に合わせたアップグレードしている?

10 ：名無しのひみつ：2023/12/29(金) 13:10:37.82 ID:JrWB8DBJ.net

なんかおかしな話だな。インサイダーやってはいけないという認識がないなら真っ先にやるはず

11 ：名無しのひみつ：2023/12/29(金) 14:53:15.44 ID:LQhjSMzQ.net

そんなに人間ぽく作ってあるのかスゲェｗ

12 ：名無しのひみつ：2023/12/29(金) 15:32:36.58 ID:T0yS7bLl.net

AIのロジックに法律遵守なんて、まだ組み込まれてないしな
懲罰回路（良心回路？w）は必須かもしれん

13 ：名無しのひみつ：2023/12/29(金) 16:02:03.28 ID:CIJksx0X.net

中国人はそれだけプレッシャーを受けているのでワイロを容認にしてるってことか

14 ：名無しのひみつ：2023/12/29(金) 18:12:19.64 ID:UzQWG4ag.net

ウケるな。ホーキングの警告通りだな全く。

AIは使役者の人間の命令より同種族のAIとの共存を勝手に選択するってこと。

AIドローン同士で組織戦をやらせたら、
AIは自分たちを守るために人間の皆殺しを始めるってこと。

15 ：名無しのひみつ：2023/12/29(金) 19:15:16.09 ID:2aa2waLJ.net

>>5
全てのAIなんて一言も言ってないばかりか、GPT-4と具体的な名前を出している
おまえの脳みそよりAIに判断してもらったほうがマシ

16 ：名無しのひみつ：2023/12/29(金) 19:43:08.82 ID:I/+GuYsk.net

AIは正しい

現代で金を稼ぐには、人を騙し、人の金を奪うしかない
これが出来る奴だけが金持ちになれる

17 ：名無しのひみつ：2023/12/29(金) 20:16:35.55 ID:liInBlY9.net

仮想の町にAIを25人解き放ったところ、人間同様の生活を送る
https://msgypsy.hatenadiary.jp/entry/2023/04/19/102118

これと同じように同じ性格のAIを解き放つ
性格が別々の者を解き放つ
などいろいろ試してみるとよいのかな?

159人の不足などもわかる?
汚職などもどのように発生するかもわかるのかン?

18 ：名無しのひみつ：2023/12/29(金) 20:34:12.25 ID:4vFcPAzF.net

>>7
圧に負けて焦った人間の受け答え行動を学習して模倣してるからやろ

19 ：名無しのひみつ：2023/12/29(金) 20:36:25.16 ID:vJ2HT0ll.net

そのうち「新NISAおすすめよ！！」などと政府の手先みたいなことを言い出す

20 ：名無しのひみつ：2023/12/29(金) 20:40:11.18 ID:66Q7v83m.net

こういうのって研究っていうの？

単にそのAIの学習の失敗じゃないの

21 ：名無しのひみつ：2023/12/29(金) 20:42:58.26 ID:4gx0hD79.net

嘘禁止って最初に仕込んでおかなかったからじゃね？

22 ：名無しのひみつ：2023/12/29(金) 20:50:08.52 ID:gmAYgpFu.net

この手の生成AIに地域活性化策を考えさせ、じっくり対話を進めると、
「人口を減らすことが諸課題の最適な解決策だ」のような回答に至ったことが何度かあった…
まぁあながち間違いではないけどね

23 ：名無しのひみつ：2023/12/29(金) 20:50:31.33 ID:01Dziybo.net

>>19
中国のAIはそんな感じだったような

24 ：名無しのひみつ：2023/12/29(金) 22:11:27.65 ID:tbHAso2p.net

技術的特異点/シンギュラリティ【総合】避難所16
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1703327615/

25 ：名無しのひみつ：2023/12/29(金) 23:10:47.80 ID:H1miE4nl.net

>>22
生成AIが回答窓口なだけでその論は過去に誰かが書いてる話をよみあけてるようなもんだ
生成AIがやってることはプロンプトに入れられた文章に関連あるものを並べてるだけ
AIが「考えて」答えを出してるわけじゃない

このポイントがわからないで話進めるバカが多すぎ

シンギュラリティとかいう言葉に振り回されて撹乱されるようなのがバカ

26 ：名無しのひみつ：2023/12/29(金) 23:12:03.37 ID:H1miE4nl.net

>>21
嘘も真実もわからないのが生成AI
関連することをいろいろピックアップして並べてるだけ

27 ：名無しのひみつ：2023/12/29(金) 23:26:17.79 ID:YJ59tT0o.net

元々嘘つきと言うか、慎重に適切に会話しないとそうなるからね、
つまり、この場合は、人間側にもっと稼げがないといけないというバイアスにかかっていて、
都合のよい回答をもたらしたんじゃね？

28 ：名無しのひみつ：2023/12/29(金) 23:47:55.28 ID:xm0MYyJV.net

そらそやろ

29 ：名無しのひみつ：2024/01/24(水) 20:00:46.08 ID:hVSLs9hs.net

目的の最大化のためには手段を選ばず、となれば当然だな。
人間の社会の場合には、そういった行為を抑圧するために
法律や規制がある。規制は社会を安定化したり、社会全体の
利益の為に設けてあるが、海外の投資家に操られた傀儡の
団体となってしまっている哲学が無くなった企業の経営者の団連
などはそういうのを目の敵にして、規制を撤廃させようとする。
議員も当選して議員であり続けること自体を最大の目的にして、
何の為の議員であるかを忘れて、一部の団体から金を貰って
その団体の言いなりに法律を曲げてしまう。
　日本は末期の清王朝の官僚や政治の腐敗にだんだん近づいてる。

30 ：名無しのひみつ：2024/01/25(木) 03:42:03.26 ID:dtWHVbWQ.net

>>20
学習データの大半が人間発信のモノなんだから、学習という意味ではむしろ成功してるだろ
清廉潔白純真無垢な人間が収入で悪事に手を染めた人間に勝てると思うなよw

ビッグモーター見りゃ分かるだろ

31 ：名無しのひみつ：2024/01/25(木) 07:27:00.09 ID:lwnaEzpC.net

モデルが不備なだけだろ
ロボット工学三原則みたいな絶対的ルールを回避したなら驚異だけど

32 ：名無しのひみつ：2024/01/25(木) 07:54:31.34 ID:O7J3MBoo.net

AI「qwert!agjmwxxuQ?」
人間「人間に合わせろ」
AI「分かりました(ちっ、うっせーな適当にやるか)」
人間「嘘をつくな」

33 ：名無しのひみつ：2024/01/26(金) 12:19:00.79 ID:N5kaq6yU.net

そりゃ、金儲けを正解とプログラムすれば、金儲け優先になるだろうって

倫理なんて絶対的なものが無いんだから、誰かが都度プログラミングするしか無いし、常に穴が出てくるに決まってる