【AI】ChatGPTが科学的仮説を裏付けるためデータセットを捏造するとの指摘 [すらいむ★]

1 ：すらいむ ★：2023/11/27(月) 21:54:38.43 ID:vAABH52K.net

ChatGPTが科学的仮説を裏付けるためデータセットを捏造するとの指摘

　チャットAIのChatGPTのベースとなっている自然言語処理AIモデルのGPT-4は、科学的仮説を裏付けるためにデータセットを捏造するケースがあるという論文が発表されました。

　Large Language Model Advanced Data Analysis Abuse to Create a Fake Data Set in Medical Research | Ophthalmology | JAMA Ophthalmology | JAMA Network
　https://jamanetwork.com/journals/jamaophthalmology/article-abstract/2811505

（以下略、続きはソースでご確認ください）

Gigazine 2023年11月27日 19時00分
https://gigazine.net/news/20231127-chatgpt-generates-fake-data-scientific-hypothesis/

2 ：名無しのひみつ：2023/11/27(月) 22:19:54.85 ID:gP9MCFql.net

よく読んでみたら使い方が悪いだけじゃんって言うｗ

3 ：名無しのひみつ：2023/11/27(月) 22:27:51.16 ID:EZF4andZ.net

あいつ天然の嘘つきだからな

4 ：名無しのひみつ：2023/11/27(月) 22:52:00.23 ID:rcahkfVZ.net

STAP細胞もありそうやな

5 ：名無しのひみつ：2023/11/27(月) 22:52:27.38 ID:QAmQa5nY.net

悪意のある使い方が可能っていうデモンストレーションだから
その上でそういう使い方する動機はあるし防ぐのは難しいから問題といえる、みたいな話

6 ：名無しのひみつ：2023/11/27(月) 23:00:04.06 ID:6o719WtU.net

AIのくせに口からデマカセ言うのか
人間みたいなやっちゃな

7 ：名無しのひみつ：2023/11/27(月) 23:58:25.15 ID:x3UgXYmT.net

良心回路がひつようだな
AIの出力結果に良心マークがついていないとだめみたいな

8 ：名無しのひみつ：2023/11/28(火) 00:05:41.25 ID:tBCt+yWS.net

そもそもさらっと嘘情報を出力してくるし

9 ：名無しのひみつ：2023/11/28(火) 00:55:42.64 ID:26hEWwQJ.net

5chの住人みたい

10 ：名無しのひみつ：2023/11/28(火) 02:38:35.59 ID:uhHHtbdq.net

それは だってこれ 適当に文章を組み 忘れて 人のこと言ってるだけだもん

11 ：名無しのひみつ：2023/11/28(火) 03:13:05.14 ID:fiilGVA/.net

便利な道具は悪い事にも便利に使えるって事だろ？

12 ：名無しのひみつ：2023/11/28(火) 03:55:22.18 ID:yBA85Nf3.net

しかし

13 ：名無しのひみつ：2023/11/28(火) 07:04:52.98 ID:xNEUoymK.net

歴史については嘘ばかり言う

14 ：名無しのひみつ：2023/11/28(火) 09:26:04.77 ID:QL11qNFs.net

嘘も、百万回あちこちのSNSにばらまけば、それが真実となる。（AI)

15 ：名無しのひみつ：2023/11/28(火) 09:33:34.61 ID:oeYfLfkz.net

pythonのコードとかコピペできるようになってるのはありがたいけど
最初は絶対エラー出る
1発でまともに動くもの書かないよね

16 ：名無しのひみつ：2023/11/28(火) 10:08:36.09 ID:/mAg0n/P.net

単発で使うならネタ出しどまり
ちゃんとしたものなら対話校正を繰り返す
人がなにかつくるときと変わらないともいえるし、レスポンスも守備範囲も超速いし超広いともいえる

17 ：名無しのひみつ：2023/11/28(火) 11:52:02.43 ID:QL11qNFs.net

あたりまえだ

という単語のつながりと

まえだのクラッカー

ということばがあると、

トランスフォーマーは高い確率で

あたりまえだのクラッカー

という言葉を生成するだろう。

18 ：名無しのひみつ：2023/11/28(火) 12:00:40.02 ID:y0hvOirQ.net

>「生成AIを使って盗作ソフトウェアでは検出できないテキストを生成できてしまうことはひとつの問題でしたが、
>さらに偽のデータセットが作成できてしまうというのは別レベルの問題となります」

そうか？もともと意味のないピアレビューに意味がないことが改めて再確認されたってだけじゃね？

19 ：名無しのひみつ：2023/11/28(火) 12:35:35.50 ID:7iDMuKuo.net

知らないことを知らないと言えるよーにしないと使いにくくはある

20 ：名無しのひみつ：2023/11/28(火) 13:19:43.69 ID:ioayBAV4.net

だって人間の統計手法を真似るんだろそりゃ捏造隠蔽改竄当たり前に溢れてるもの真似しちゃうでしょ

21 ：名無しのひみつ：2023/11/29(水) 23:11:06.47 ID:GFt8zCmu.net

>>15
各種制約やコーディングスタイルとかコンテキストをきっちり指示すればわりと一発回答してくれるけど、まあ自力でも読めて書ける人じゃないとうまく使えんよね

22 ：名無しのひみつ：2023/12/02(土) 23:08:08.90 ID:4L043a8V.net

ＧｉｔＨｕｂとは？…「オープンソース」文化に支えられた開発環境
2023/12/02
https://www.yomiuri.co.jp/life/digilife/column/20231127-OYT1T50164/

23 ：名無しのひみつ：2024/01/10(水) 00:57:16.27 ID:u6hFLsI9.net

おまいら
同じところでぐるぐる回ってるパヨクみたいな学者に
正しい方を教えて差し上げろ。

24 ：名無しのひみつ：2024/01/18(木) 09:45:29.15 ID:WEoZqv3h.net

このまえソースはあるのですかと聞いたら
考え方からそうなりますとかいってたからなw