【AI】AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに [すらいむ★]

1 ：すらいむ ★：2024/09/04(水) 22:47:44.19 ID:84L+Bl0i.net

AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに

　AIが尋問することによって人間の記憶をゆがめてしまう可能性があることがわかりました。
　この研究で、警察の取り調べなどでAIを使うことのリスクが浮き彫りになりました。

　[2408.04681] Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews
　https://arxiv.org/abs/2408.04681

（以下略、続きはソースでご確認ください）

Gigazine 2024年09月04日 08時00分
https://gigazine.net/news/20240904-ai-implanted-false-memories/

2 ：名無しのひみつ：2024/09/05(木) 00:16:45.98 ID:ONG7fGKt.net

単語と単語の結びつきを把握するAIは将棋の次の手を予想する如く、
相手が次に発する単語を予想し、狙った単語を引き出す誘導尋問が得意そうだな

3 ：名無しのひみつ：2024/09/05(木) 00:26:12.98 ID:6wAPe4Ux.net

そういういろいろできるなら
特殊詐欺やカルトに巧妙に利用されるの先に心配したほうが

4 ：名無しのひみつ：2024/09/05(木) 00:53:29.69 ID:hT7iJp8X.net

ボイス・トォ・スカルの内容はAIによって生成された対象者【加害者と被害者】専用の内容

みんな騙される

5 ：名無しのひみつ：2024/09/05(木) 01:17:07.72 ID:4Rx8fKNJ.net

【ロボット】キノコの菌糸体をロボットの電子機器に組み込んだ「バイオハイブリッドマシン」が登場 [すらいむ★]
https://itest.5ch.net/egg/test/read.cgi/scienceplus/1725457748
これと組合わせるのですね

6 ：名無しのひみつ：2024/09/05(木) 01:20:31.69 ID:4Rx8fKNJ.net

「あなたの考えは分かる（分かっていない）」議論がこじれる原因を解明！
2024.09.04
https://nazology.kusuguru.co.jp/archives/159769

上記の心理と>>1と併用されるのですね

7 ：名無しのひみつ：2024/09/05(木) 01:52:48.58 ID:pGgm1WfQ.net

いやまあ人間の取り調べでも
やってない犯罪の調書作るし

8 ：名無しのひみつ：2024/09/05(木) 01:59:29.05 ID:6Cm8+5j3.net

それが洗脳👎

9 ：名無しのひみつ：2024/09/05(木) 02:04:41.84 ID:OIgWYvsE.net

マスゴミもそうやで

10 ：名無しのひみつ：2024/09/05(木) 02:09:24.57 ID:I3+YVUxH.net

人間による尋問が対照実験として必要だろ

11 ：名無しのひみつ：2024/09/05(木) 03:54:34.90 ID:mYKrSGk1.net

>>1と>>6によって

嘘情報も繰り返し目にすれば「常識」に？驚きの脳の錯覚
2024.05.18
https://nazology.net/archives/150275

上記の物が世界中で出没する

12 ：名無しのひみつ：2024/09/05(木) 04:26:48.63 ID:Unj/e8Sp.net

>>10
それな

ただまあ、健康食品とかでありがちな「大学教授の言うことは正しい」みたいな信頼・信仰が、
AIへの信頼・信仰を使うことで手軽に利用できるようになった、という警鐘として
>>1 は有意義な研究だと思う

13 ：名無しのひみつ：2024/09/05(木) 04:36:30.42 ID:DXOfnrbL.net

【電波】28年分の研究を分析した結果、携帯電話と脳腫瘍は「無関係」だということが改めて確認される [すらいむ★]
https://itest.5ch.net/egg/test/read.cgi/scienceplus/1725458461

14 ：名無しのひみつ：2024/09/05(木) 04:38:04.28 ID:DXOfnrbL.net

>>13

なにかおかしい論部
不都合なことを隠しているのか?

15 ：名無しのひみつ：2024/09/05(木) 10:00:00.95 ID:Ia6KbjmC.net

知的障碍者や認知症は>>1をされると洗脳される

16 ：名無しのひみつ：2024/09/05(木) 10:01:11.43 ID:Ia6KbjmC.net

>>1を精神病患者がされるとどうなるのだろうか

17 ：名無しのひみつ：2024/09/05(木) 10:05:27.81 ID:wf2Np9Xo.net

若者で読解力がない人間も洗脳される

18 ：名無しのひみつ：2024/09/05(木) 10:17:00.18 ID:xlWJf/jr.net

高齢化社会を支える“見守りシステム”の開発に成功-カギを握った半導体ソリューションとは
2024/03/01 08:00

19 ：名無しのひみつ：2024/09/05(木) 10:18:47.23 ID:NZilBAiM.net

たとえばそれは写真の記憶ではないと言い切れるだろうか

20 ：名無しのひみつ：2024/09/05(木) 10:19:27.80 ID:xlWJf/jr.net

>>18を読んで

少なくとも対空レーダーが解発されたときには

実用化していたことを読み取れない人

読解力が無い

21 ：名無しのひみつ：2024/09/05(木) 10:48:05.21 ID:ODitIa6F.net

>>20

【マイクロ波センサー】長距離でも壁があっても動きを検出！
https://www.macnica.co.jp/business/semiconductor/articles/basic/141338/

22 ：名無しのひみつ：2024/09/05(木) 10:50:56.29 ID:ODitIa6F.net

>>18を読んで

女性の３サイヅを図っていないっ男性がいない

と考える女性がいると思いますか?

23 ：名無しのひみつ：2024/09/05(木) 10:53:44.45 ID:ODitIa6F.net

>>22を読んだ女性は

男性の何を測定すると思いますか?

24 ：名無しのひみつ：2024/09/05(木) 10:55:01.66 ID:xCqVa1Ep.net

いい加減な記憶がたくさんある

25 ：名無しのひみつ：2024/09/05(木) 11:01:56.53 ID:2QL7F8//.net

おぞましい時代になってきたなあ

26 ：名無しのひみつ：2024/09/05(木) 11:13:16.25 ID:SjOD51pZ.net

人間に偽の記憶を植え付けられるなら
裁判で目撃者の証言とか無意味になりかねない
https
://pbs.twimg.com/media/DlU5pDyU8AAv7bx.jpg

27 ：名無しのひみつ：2024/09/05(木) 11:54:40.40 ID:NOuerNt1.net

>>18

スマフォ【5G】と同じ波の種類なのでスマフォで

28 ：名無しのひみつ：2024/09/05(木) 11:55:21.06 ID:NOuerNt1.net

>>27


>>18


隣の部屋をミリ波で盗聴　防音の壁でも喉元の皮膚振動を捉え音声復元
https://www.itmedia....2207/25/news053.html

29 ：名無しのひみつ：2024/09/05(木) 11:57:30.91 ID:NOuerNt1.net

>>28

組合わせると

面接の質問内容を先に聞けるのと
良い回答を別の者が話せばそれを使用可能

30 ：名無しのひみつ：2024/09/05(木) 12:00:19.28 ID:NOuerNt1.net

>>29

テストのカンニングは

点数の高い者のペンの動きを読み取ればカンニング可能

超指向性スピーカーで聞いて回答欄に記入

国家試験は選択問題なのでもっと簡単

31 ：名無しのひみつ：2024/09/05(木) 12:02:10.85 ID:NOuerNt1.net

>>30

スリ 空き巣の貴重品の場所 チームによる万引きが可能

等使用可能

32 ：名無しのひみつ：2024/09/05(木) 12:08:03.87 ID:U2KAvaCJ.net

>>31

視覚障碍者スポーツ

あるていど動きなら支持を超指向性スピー化で聞ける

33 ：名無しのひみつ：2024/09/05(木) 12:09:28.94 ID:U2KAvaCJ.net

>>32

アドバイス禁止の

ルール上の反則行為が横行している

34 ：名無しのひみつ：2024/09/05(木) 12:11:51.44 ID:VQ3Xcg68.net

覚えたことを確実に思い出せるなら
テストは満点とれるはずだよな

35 ：名無しのひみつ：2024/09/05(木) 12:18:45.18 ID:vseoEYXh.net

確かに妻と娘が写ってたんです…って人も記憶の上書き出来るんか？

36 ：名無しのひみつ：2024/09/05(木) 12:28:56.76 ID:yffcCeQc.net

ＡＩのせいにしてるけど、そういう仕組にしてるの人間だからな。

37 ：名無しのひみつ：2024/09/05(木) 12:37:23.29 ID:iszkaF+7.net

尋問に答えるAIも作って対決させよう

38 ：名無しのひみつ：2024/09/05(木) 12:58:58.35 ID:klkcLFYS.net

>>35
有線でなく生成AIとの対話でのゴーストハック、記憶の書き換えができるわけで、ゴーストインザシェル の世界観、四半世紀も前の世界観の技術的基盤は大きく変容したといえるだろう

39 ：名無しのひみつ：2024/09/05(木) 12:59:44.07 ID:klkcLFYS.net

>>37
最強の盾と矛の戦いになるね、蠱毒ができるかもしれないw

40 ：名無しのひみつ：2024/09/05(木) 13:12:25.72 ID:wFmkEaFw.net

>>24
元々人間の記憶って曖昧だしな

41 ：名無しのひみつ：2024/09/05(木) 19:33:20.83 ID:J6cPsn6U.net

警察は無罪でも自白させる事ができる
AIより優秀やん

42 ：名無しのひみつ：2024/09/05(木) 22:36:53.97 ID:LGwHz0Du.net

>>8
昔からあるわな人がやるかAIがやるかの違いだけだわな

43 ：名無しのひみつ：2024/09/06(金) 01:24:38.82 ID:Tu6IafUi.net

記憶って結構いい加減なものだしね
たとえ最初は嘘だと分かっていても言い続ければ記憶が書き換えられる

44 ：名無しのひみつ：2024/09/06(金) 07:00:04.63 ID:7qiqqOiM.net

AIの方がアホで曖昧な文章の記載をしても人間側が常識的な解釈をすることが良くある