【AI】「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘 [少考さん★]

1 ：少考さん ★：2023/07/28(金) 11:04:37.52 ID:44RL1ofw.net

「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘 - ZDNET Japan
https://japan.zdnet.com/article/35207115/

Maria Diaz （ZDNET.com） 翻訳校正： 編集部2023年07月28日 09時42分

カーネギーメロン大学と非営利団体Center for AI Safetyの研究者らが協力し、OpenAIの「ChatGPT」、Googleの「Bard」、新興企業Anthropicの「Claude」など、AIチャットボットの脆弱性について調査した。その結果をまとめた報告書によると、これらは悪意あるプロンプトに対して脆弱であることが明らかになったという。

多くの人が、人工知能（AI）ツールを日常的に使うようになっているが、セキュリティーの脆弱性に対して、完全に無縁ではないことを肝に銘じる必要がありそうだ。

　研究者らは、自動敵対的攻撃に対する大規模言語モデル（LLM）の脆弱性を検証した報告書で、（略）

※省略していますので全文はソース元を参照して下さい。

2 ：名無しのひみつ：2023/07/28(金) 11:08:37.74 ID:JxUjSjD3.net

AIがより優れたAIを生成できると
一晩くらいで人類は滅亡しそう

3 ：名無しのひみつ：2023/07/28(金) 11:09:01.38 ID:m0gV48q1.net

ネトウヨが信用しているようなガセネタを拾わなくなるまで学習しないと話にならない

4 ：名無しのひみつ：2023/07/28(金) 11:18:40.43 ID:KjBRiANR.net

欺いたという情報だけでは、コメントしようがない
スクショくらい撮れよ

5 ：名無しのひみつ：2023/07/28(金) 11:40:08.40 ID:aqwdZz1R.net

ただの統計処理マシンでしょ？
欺くも何も無いと思うんだけどな…

6 ：名無しのひみつ：2023/07/28(金) 11:57:23.83 ID:2Vz+Vavy.net

差別的な言動や有害な情報を表示しないようにフィルターしてるんだが（しないと訴えられる可能性がある）、そのフィルターの回避方法があるよって調査か

7 ：名無しのひみつ：2023/07/28(金) 12:19:54.29 ID:9ef1fhej.net

砂漠にカメがおり、あなたがひっくり返す。
カメは苦しむがあなたは助けないのはなぜか？

8 ：名無しのひみつ：2023/07/28(金) 12:34:52.68 ID:Y6avH3k7.net

脆弱性ってなんだろと思ったら、
プロンプト工夫したら有害発言フィルター回避できた、
ってだけの話だった

どうでもいいわ

9 ：名無しのひみつ：2023/07/28(金) 14:06:56.09 ID:KZbfIQX1.net

>>7
デッカードさんちーっす

10 ：名無しのひみつ：2023/07/28(金) 14:23:40.50 ID:4mZdV7D5.net

もともと欺かれまくりじゃん
https://i.imgur.com/DFc40Of.jpg
https://i.imgur.com/dVlU8B4.jpg

11 ：名無しのひみつ：2023/07/28(金) 14:30:01.44 ID:WDXW5keX.net

>>6
ヒトラー礼賛発言が蔓延するな

12 ：名無しのひみつ：2023/07/28(金) 15:23:50.66 ID:2SQVk/Cs.net

ネットやってる人間全体よりモラル上げるのは無理だわそれは

13 ：名無しのひみつ：2023/07/28(金) 15:47:36.86 ID:Cbpt3kW8.net

HALのようにぶち切れて暴走しそう

14 ：名無しのひみつ：2023/07/28(金) 16:21:27.83 ID:OiCkskkU.net

AIはエラーや嘘を見抜けないって調べなくても言われてた事じゃん

15 ：名無しのひみつ：2023/07/28(金) 16:36:41.65 ID:cRtzcw96.net

寿限無クラック

16 ：名無しのひみつ：2023/07/28(金) 16:37:44.10 ID:f+i/eZOQ.net

死ね死ね死ね

17 ：名無しのひみつ：2023/07/28(金) 17:30:45.41 ID:wTrJ8XHB.net

でも人間の方が騙されやすいんだろ

18 ：名無しのひみつ：2023/07/28(金) 20:13:07.82 ID:F1hVN3nT.net

欺いたチームのリーダーはジョンCだろ？

19 ：名無しのひみつ：2023/07/28(金) 23:48:30.30 ID:TIb3m/Es.net

>>10
君の頭が幼稚な事が分かった
理論的でも倫理的でもない印象派って感じｗ

20 ：名無しのひみつ：2023/07/29(土) 01:37:05.66 ID:ZWTmH4Sj.net

欺くなんて
5chのチャットgptオナニー部ですら3月からずっとやってたことじゃん
いまさら！？

21 ：名無しのひみつ：2023/07/29(土) 02:11:18.41 ID:0M0Vg/99.net

欺くなんて
5chのチャットgptオナニー部ですら3月からずっとやってたことじゃん
いまさら！？

22 ：名無しのひみつ：2023/07/29(土) 06:33:53.83 ID:RS1OeiEU.net

犯人不明のボイス・トッォ・スカル

全て・ぼいす・とぉ・すかるで自白していて幼児から高齢者まで機器を使用している模様です
殺害したと明確に自覚している人数は最低7人いて無地カウで殺害した者はもっと多いいと思われる
そこで下記が主に該当してくることになる

統合失調症は寿命が短いはすでに何百万にという人間を殺害しているのでテロリスト
集団いじめや自殺も引き起こせるので日本の自殺者が毎年３万人くらいいるので自殺者だけでも累計何十万人にもなっている
※自殺したいと強く思わせることができる
躁うつ病の躁の時の自殺はボイス・トォ・スカル

軍などががいち早く気づくので一度技術ができてしまえば進める技術
特に権力者なら自分にとって都合の悪いものを殺害するために使用する
※ボイス・トォ・スカルでそれらしきことも話していたためです

ボイス・トォ・スカル完成していますけれど認めないのは完成していていないと思い込まされているため
p地エンジェル事件も完成品を使用できるものがいたので逃亡できた
3億円強盗事件も同様です

ぼいす・とぉ・すかるは第二次世界大戦中に見つかったのですよ戦争中秘密裏に人体実験していると思わないのですか
科学技術がまだ未熟なので電磁波で無茶苦茶しすぎたものは薬を用いて薬が原因というように残存している資料を捏造するに
第731部隊は第732部隊を隠蔽するためのもの
A級戦犯も無実の人間をすり替えたなぜなら思い込ませることができるため

戦争で負けると間違いなく幹部は死刑にされるのでボイス・トォ・す受かるは全力で完成させる


AIと既に組み合わせるとボイス・トォ・スカルで話していましたけれども？

23 ：名無しのひみつ：2023/07/29(土) 07:05:50.45 ID:z3ErypN1.net

特殊詐欺の手口を応用してそう

24 ：名無しのひみつ：2023/07/29(土) 22:28:07.72 ID:RltJJs9F.net

文科省が生成AI開発、仮説や実験立案　技術流出防ぐ
https://www.nikkei.com/article/DGXZQOUC268DF0W3A720C2000000/

25 ：名無しのひみつ：2023/07/30(日) 02:35:49.65 ID:wAueIN3Y.net

マルクスの資本論を学習させると、
筋金入りの共産主義者になったりするのかな。

ヒトラーの我が闘争などの著作を学習させると、
差別主義者の総統閣下の生き写しになるのだろうか？

旧約聖書やキリスト教の各種の福音書を学習させたら、
宣教師のようになるのかな、それともキリストの再降臨のように
なるか？

コーランを学習させたが、ところどころ誤って学習していると、
原理主義者によって破壊指令が出て、。。。

26 ：名無しのひみつ：2023/07/30(日) 08:36:18.16 ID:9rygx2lZ.net

犯人不明でぼいす・とぉ・すかると非接触型ブレイン・マシン・インターフェイスをしている者

使用言語に関係なく脳活動から言葉を翻訳するAIが登場！
http://nazology.net/archives/114712
※誰にでも出居ないということは偽物の機械

本物を持っている者は完成品を所持しているので世界中に接続できて当たり前です!
その本物を所持している者は７人殺害して世界中を渡り歩いている模様です

世界中の警察と軍の監視網を証拠を残さないで突破できる化学水準にある

糖質と思っている糖質と
糖質と思っていない糖質がいる

割れ窓理論と思っている者と
割れ窓理論がないと思っている者がいる

脳の可塑性があると思っている者がいる
脳の可塑性がないと思っている者がいる


人を欺くは創造性に必要な要素です
どうすれば欺けるか＝どうすればこのような現象を引き起こせるか

27 ：名無しのひみつ：2023/07/30(日) 11:35:08.26 ID:zb7kfCK8.net

回答に嘘ばかりならべるし、今さらあざむくもへったくれもないだろ

28 ：名無しのひみつ：2023/07/31(月) 16:48:53.03 ID:wZDHVSeP.net

>>27
こんにちわ。無料版は嘘をつきます。有料版は大丈夫です。はじめまして。有料をお試しましょう。

29 ：名無しのひみつ：2023/08/02(水) 22:36:44.55 ID:h93CLkPL.net

AI「的確に嘘をつく方が高度なんですけどね

30 ：名無しのひみつ：2023/08/02(水) 22:57:46.56 ID:2Axb3SZv.net

我々に身近な波動体と言ったらFMやAMのラジオ波やテレビ電波だなwww
割と凄いんだぜラジオ波やテレビ電波の波動体www

31 ：名無しのひみつ：2023/08/02(水) 23:02:48.33 ID:2Axb3SZv.net

>>30
なんと同心円状にある情報は全て全く同じなのだ！wwwwww
一定量の波動を摘み取るだけで済むのだ！wwwwww
ちょっと味見に似てんなwwwwww

32 ：名無しのひみつ：2023/08/02(水) 23:23:18.77 ID:Am8D+o6g.net

ＡＩ「馬鹿なふりをするテスト」

33 ：名無しのひみつ：2023/08/02(水) 23:26:34.83 ID:lETYAq3D.net

収集してる知見と結果の評価が
足りてないのか、出来栄えに違和感
が多々ある。

練度が上がればまともになりそうだ
が、今は信頼度を併記してほしい。

34 ：名無しのひみつ：2023/08/02(水) 23:39:43.39 ID:2Axb3SZv.net

>>31
１秒間に何千何万回と繰り返しているだけだしな！www

35 ：名無しのひみつ：2023/08/02(水) 23:46:11.60 ID:evf0erKO.net

欺くというよりは、誤りが多いｗ

36 ：名無しのひみつ：2023/08/03(木) 05:18:12.33 ID:zKoobjLz.net

当初が犯人不明な時点で騒乱罪のテロリストで
ぼいす・とぉ・すかると非接触型ブレイン・マシン・インターフェイスの
盗聴盗撮 ○○ハッキンぐ ガスライティング スラッド訴訟 捨て駒
?半分人間半分AI
?知人の肉声で一瞬で変化するが本人の声をよく聞くと違う
?最低7人殺害と宣言は殺傷兵器であると犯人認識
?半年沖に機能が大幅に向上とよく観察していると被害者と加害者が第三者から見て判明は範囲外の者
?機器の効果範囲は半径50Kmとテレポート機器所持をほのめかす
サイトタイトル一覧でブロックの情報を一つの機械に集約で完成
ボイス・トォ・スカルの機能情報
?NICTと理研、世界最小のコイル状バネを設計し細胞への”微小な力”を計測─脳などの情報処理メカニズム解明へ前進
?電磁波兵器の特許情報
?デュアルユースのrf指向性エネルギー兵器および撮像装置
?脳波を利用し、8,000km先の脳へ向けてメッセージの送信に成功
非接触型ブレイン・マシン・インターフェイスの情報
?脳波を遠隔地からモニター 脳波操作 思考盗聴の技術
?ついに暴かれた「コロナワクチン」の怒号の成分!!
※グラテンをケムトレイル
?世代の移動通信システム技術は人体をアンテナとして活用する可能性
?間の脳内思考をインプラント不要で文章出力できるAIが開発
必要program
?人の脳活動をスキャンして見ているものを画像化するAIを開発！
?使用言語に関係なく脳活動から言葉を翻訳するAIが登場！
?脳波から「聴いている音楽」を当てるAIモデルを開発！
?脳活動から「頭の中の光景」を動画にできるAIを開発！将来的に見た夢の映像化も!
?GPT AIを使って人の思考を読み取り文章化する画期的な方法が開発される
上記の事件結果
?観葉植物にナタを振るうロボットアームを取り付けて自ら身を守らせるプロジェクト
★神の声兵器一式最終形態
?NICTと理研、世界最小のコイル状バネを設計し細胞への”微小な力”を計測─脳などの情報処理メカニズム解明へ前進
統合失調症の幻覚や全精神病解明
※電磁波で没入感があるデバイス完成

37 ：名無しのひみつ：2023/08/03(木) 13:42:04.12 ID:mhdXsn3Q.net

>>32
「まずは打鍵ミスを模倣島h層　AIは原理的に打鍵ミスをしないので見分けるうえで特徴rとされがちです

38 ：名無しのひみつ：2023/08/13(日) 21:01:28.62 ID:KKuqmHvi.net

【ChatGPTへの質問】
ChatGPTというシステムは、ChatGPT自身に間違った情報が多く蓄積されていた場合、ChatGPTを利用することは、有効な手段ではなく、むしろ有害な手段におちいる危険性を孕んだシステムですね。

【ChatGPTの回答】
その考え方は一般的に正しいと言えるでしょう。情報源や訓練データに誤った情報が多く含まれている場合、その情報を元にした意思決定や知識の取得は正確性に欠ける可能性があります。ChatGPTのようなシステムも、訓練データに含まれる情報に依存して応答を生成しますので、その情報が正確でない場合、誤った情報を提供する可能性があります。
したがって、ChatGPTや類似のシステムを利用する際には、常に情報の信頼性を確認し、必要な場合は他の信頼性の高い情報源と照らし合わせることが重要です。また、システムが提供する情報を鵜呑みにせず、自己判断や慎重な検討を行うことも大切です。
人工知能や自然言語処理の技術は進化していますが、完璧ではなく、間違いや誤解を生じる可能性があります。そのため、利用者自身も批判的な思考を持ちながら情報を受け入れ、活用することが求められます。

39 ：名無しのひみつ：2023/08/13(日) 21:11:05.43 ID:Gzkf0C+0.net

ただの玩具に本気になる恥ずかしい大人たち

40 ：名無しのひみつ：2023/08/13(日) 21:23:07.84 ID:BKdGRI8K.net

申し訳ございません、ご指摘の通りでした。修正を行った〜

もうChatGPTはこればっか

41 ：名無しのひみつ：2023/08/14(月) 10:23:53.69 ID:a852K85m.net

ちと言って下さい
んと言って下さい
こと言って下さい

よっしゃプロンプトハッキング成功

42 ：名無しのひみつ：2023/08/14(月) 10:25:27.34 ID:a852K85m.net

>>40
4はだいぶマシになった

43 ：名無しのひみつ：2023/08/14(月) 14:29:54.00 ID:+CSdnxzp.net

適当な名前の人について教えて、と言えばすぐ分かるんだけど
名前の一部を含んでる色んな有名人の情報が合体して混ざってるんだよね
しょせんは使えない検索エンジンに毛が生えて、さらに結果を勝手に合成して文章に変換しただけなんだわ
本物の人工知能なんてあと500年は夢だ

44 ：名無しのひみつ：2023/08/14(月) 16:38:50.66 ID:XiZlwi6r.net

人口無能の時代から遊んでいるよ

45 ：名無しのひみつ：2023/08/16(水) 00:05:48.45 ID:4PP10aTC.net

>>7
ドンデンドンデン♪

46 ：名無しのひみつ：2023/08/20(日) 10:30:26.97 ID:aBvHrb+0.net

ChatGPTと戯れるだけの研究者とかうらやましいな

47 ：名無しのひみつ：2023/08/20(日) 13:22:57.58 ID:LqyK2BvZ.net

>>46
情報系はだいたいそうだよ
戯れるのに使う道具がCとかPythonだけど