■ このスレッドは過去ログ倉庫に格納されています
【IT】OpenAI、対話AIの安全策公表 欧米での批判受け [ムヒタ★]
- 1 :ムヒタ ★:2023/04/06(木) 12:36:03.74 ID:F4YXcsLs.net
- 【シリコンバレー=渡辺直樹】人工知能(AI)開発の米オープンAIは5日、高度な言語能力を持つAIの安全面での施策を公表した。外部の専門家や利用者の声を交え、動作監視して改善するほか、AIの訓練に使うデータから個人情報をできる限り削除することなどを掲げた。プライバシー侵害をめぐり欧米で批判や懸念の声が強まっていることに対応した。
人と自然な会話ができるサービス「ChatGPT(チャットGPT)」と、それを動かすための基盤となる最新技術「GPT-4」に関して施策を発表した。GPT-4は従来の8倍にあたる2万5000語まで文章を扱えるようになり、米国の司法試験の模擬試験では上位10%程度の成績で合格する性能を誇る。だが、どのようにデータを集めているか不透明で、イタリアの当局が個人情報保護の法令に違反するとみて一時的に禁止していた。
オープンAIは可能な場合は、AIを訓練するデータから個人情報を削除する。外部から個人情報の削除の要請があった場合にも応じることでプライバシー侵害を最小限にするとしている。
また動作については外部の専門家や利用者の声を反映して改善し、監視する仕組みをつくる。「API」と呼ばれる外部ソフトとの連携機能を通じ、実際のサービスの使われ方を確認することで、不正使用を防ぐようにするという。
オープンAIはチャットGPTなどについて「リスクが伴うことを認識しており、すべてのレベルで安全性が確保できるように取り組む」とコメントした。実際に安全性への懸念に対応していく有効な手立ては「多くの時間とリソースを費やすことだ」とし、今後も利用者や利害関係者との対話を続けていくと主張した。
これまでの取り組みとして、GPT-4の公開の前には6カ月以上安全性などを確認する作業を実施し、事実を回答する正確性も従来より40%向上したことを明らかにした。ヘイトスピーチや暴力、アダルトコンテンツといった不適切コンテンツに応答する可能性を82%下げたと説明している。
言葉を入力するだけで何でも返答したり、絵を描いたりする高度なAIは急速に性能が向上している。オープンAIには米マイクロソフトが巨額投資をしているほか、米グーグルも対話型AIサービスの「Bard(バード)」を発表し、開発競争が激しくなっている。
一方で、高度なAIは基になるデータの不正な収集、差別や偽情報の助長、サイバー攻撃への悪用といった課題を抱える。イタリアの一時禁止をはじめ、個人データ保護法制が厳しい欧州で規制強化が進む可能性がある。米国では非営利団体などがさらに高度なAI開発の危険性を指摘して署名活動をしているほか、当局にサービス差し止めを求める動きもある。
2023年4月6日 12:07
https://www.nikkei.com/article/DGXZQOGN061270W3A400C2000000/
- 2 :名刺は切らしておりまして:2023/04/06(木) 12:37:35.75 ID:WJz6Ti9Y.net
- 攻殻機動隊の漫画のまんまだな、データか精神かしらんが
汚染されてない確認作業ばっかになる
- 3 :名刺は切らしておりまして:2023/04/06(木) 12:41:28.25 ID:OSVjGggl.net
- 田舎の囲炉裏で魚食ってる方が幸せなんだよ
- 4 :名刺は切らしておりまして:2023/04/06(木) 12:42:36.03 ID:hWxz3mvn.net
- >>1
そんな事よりもAIにデマ吹き込んで洗脳させようとしている環境テロリストやミサンドリストや共産主義者への対策をしろよ
- 5 :名刺は切らしておりまして:2023/04/06(木) 12:45:37.87 ID:9az9SxwM.net
- AIって言うのやめろ
正しく無能Bot Ver2.0と言え
- 6 :名刺は切らしておりまして:2023/04/06(木) 12:47:39.68 ID:imA+tSv2.net
- 「チャットGPTは質の低い質問をすると質の低い答えしか返ってこない」
- 7 :名刺は切らしておりまして:2023/04/06(木) 13:03:39.20 ID:QkeR+3oq.net
- データ収集先がイマイチ分からないってのは結構深刻で、一部の世界のマジョリティを正しいとする判断を起こす。
民の意識と方向性が傾倒して加速度的に画一化する可能性が高い。
- 8 :名刺は切らしておりまして:2023/04/06(木) 13:09:19.51 ID:WJz6Ti9Y.net
- 攻殻機動隊の漫画でもタチコマが精神汚染されてるとかで途中でやめたよな
- 9 :名刺は切らしておりまして:2023/04/06(木) 13:13:14.99 ID:uQ76PcfJ.net
- なんだエロに答えてくれないのか
じゃいらんな
- 10 :名刺は切らしておりまして:2023/04/06(木) 13:21:47.09 ID:WJz6Ti9Y.net
- >>7
俺が検索もせんと、あれこれ書いてるのがまずいって言われてもシランがな
- 11 :名刺は切らしておりまして:2023/04/06(木) 13:25:07.69 ID:WJz6Ti9Y.net
- >>7
だいたい、俺が勉強したことってアメリカのクヌース博士のTeXとか
つくってた数学とかで、アメリカがわからんわけないだろ
博士はまだ教鞭とってるとか聴いたし
だた、博士も俺も気狂い言われてるが
- 12 :名刺は切らしておりまして:2023/04/06(木) 13:25:36.23 ID:1UJeh9CE.net
- 使ったこともないのにケチつけてるヤツ多そう
- 13 :名刺は切らしておりまして:2023/04/06(木) 13:30:55.14 ID:I3wwPGaI.net
- 元カノの情報プリーズ
とか書いたら、普通に職場と自宅と連絡先メアドに最近の育児で気にしていること一覧とか出てきたぞ。
- 14 :名刺は切らしておりまして:2023/04/06(木) 14:26:48.01 ID:7TjqPdcu.net
- >>13
優秀だな
- 15 :名刺は切らしておりまして:2023/04/06(木) 14:30:51.28 ID:OrBgMYUL.net
- ポツコンだけどな
- 16 :名刺は切らしておりまして:2023/04/06(木) 14:37:43.68 ID:fs2M4T8j.net
- AIといっても自分で考えて答えを導き出すAIじゃないから
開発者の思想で回答が偏る可能性がいくらでもあるからね
- 17 :名刺は切らしておりまして:2023/04/06(木) 14:39:23.79 ID:izxmA98q.net
- スカイネットの幕開け
- 18 :名刺は切らしておりまして:2023/04/06(木) 14:44:53.36 ID:9bTyBytt.net
- 現時点のAIでもサイバー攻撃や世論誘導には有効だし
キャッチオール規制の対象になるのかな?
- 19 :名刺は切らしておりまして:2023/04/06(木) 14:45:27.77 ID:JV56v8tY.net
- もうエロ小説書いてくれんのんかぁ?ケモエロハ●太郎のドスケベ小説なんて今お目にかかれねぇから重宝してたのによぉ
- 20 :名刺は切らしておりまして:2023/04/06(木) 14:49:59.17 ID:KhqUDW6N.net
- 「可能な場合は」「削除の要請があった場合にも」(爆笑)
質問から得たインサイダー情報はどうするんですかねぇ
それで株取引に間に合うの?
- 21 :名刺は切らしておりまして:2023/04/06(木) 15:00:08.82 ID:WJz6Ti9Y.net
- >>13-15
なんか、Jwaveのニュースで個人情報消すとか言ってたから
オオシオカオリの情報けすとかだけでネーノ
あと隊長の大馬鹿、おまえこんなとこにくるな
- 22 :名刺は切らしておりまして:2023/04/06(木) 15:07:22.44 ID:+BR70lzB.net
- 何を怖れているんだ
所詮AIの戯言ぞ
- 23 :名刺は切らしておりまして:2023/04/06(木) 15:14:54.70 ID:Jm0LjSKR.net
- nsfw checker入ってエロ関係全部自主規制になるかもな
- 24 :名刺は切らしておりまして:2023/04/06(木) 15:25:41.05 ID:DAoVbEu1.net
- ビジネスニュースが自然と集まってくるスレ。
ここを見ておけば!経済情報はバッチリ!
◆スレ立て依頼スレ@ビジネスnews+[2/15-] [エリオット★]
https://egg.5ch.net/test/read.cgi/bizplus/1676457026/
- 25 :名刺は切らしておりまして:2023/04/06(木) 15:39:14.59 ID:t3LlXAK0.net
- 情報収集の問題を考えるとやっぱりローカルで使えるようなものにするしかないな
- 26 :名刺は切らしておりまして:2023/04/06(木) 16:16:19.37 ID:ElVvOtOJ.net
- >>12
これが日本だよ
それとアホな質問する奴にはアホな回答しかしないって性質も理解してない奴ばかり
- 27 :名刺は切らしておりまして:2023/04/06(木) 16:27:46.36 ID:uQ76PcfJ.net
- >>26
日本は国会で利用されるくらい進んでるから
- 28 :名刺は切らしておりまして:2023/04/06(木) 16:38:14.85 ID:yfjLN/9P.net
- chatGPTは綺麗事しか返してこない、毒吐くAIキボンヌ
- 29 :名刺は切らしておりまして:2023/04/06(木) 17:16:10.14 ID:Jm0LjSKR.net
- >>28
昔ヒットラーは正しかったと言ったAIが消されたからな
- 30 :名刺は切らしておりまして:2023/04/06(木) 17:22:12.89 ID:2xOrG8eG.net
- 外野にうるさく言われない中国に抜かれるのも時間の問題
- 31 :名刺は切らしておりまして:2023/04/06(木) 17:24:22.78 ID:EPejcRas.net
- むしろ規制解禁するべきだろ。エロ関係の英単語の意味聞いてもエロい答え返ってこないとか使えないにも程がある
- 32 :名刺は切らしておりまして:2023/04/06(木) 17:31:36.43 ID:WJz6Ti9Y.net
- 人工知能システムというより、コンビニ円スストアで考えると
まあエロは多少あってもいいが、毒置いてて商用になるかってとな
- 33 :名刺は切らしておりまして:2023/04/06(木) 17:44:46.00 ID:7nlHNp2Y.net
- イケるところまでやったらええやん
- 34 :名刺は切らしておりまして:2023/04/06(木) 18:33:04.61 ID:TjwnlegO.net
- >>953
chatGPTは情報量が少ない上に、真面目な答えしか返ってこない。親しみある答えを返してくれるbing AIの方が情報量豊かで感情まで表現してくれるから好きだ。ただ、60回しか使えないのがたまに傷。
- 35 :名刺は切らしておりまして:2023/04/06(木) 18:39:32.59 ID:5Ckfwjyh.net
- まあ各国AIの強力さにビビってるね
スカイネットはフィクションだけどみんな思い浮かべてしまうわな
- 36 :名刺は切らしておりまして:2023/04/06(木) 18:42:19.23 ID:BsixAVHg.net
- 検索よりも明らかに意味のあるデータを収集できるしな
- 37 :名刺は切らしておりまして:2023/04/06(木) 18:47:16.45 ID:zmKMTT0V.net
- 権利侵害の問題もなんとかしろよ
- 38 :名刺は切らしておりまして:2023/04/06(木) 18:52:29.22 ID:WJz6Ti9Y.net
- >>35
おかしな警官の大馬鹿によると、うちの日立製作所の古い衣類乾燥機が
スカイネットらしい
で、俺がそれとルーターを組み合わせて、信用ならんがCIAとかに協力を依頼して
正しく制御してみて、と書いてんだが、なにが正しいのかよくわからん
戦争もたまには必要なこともあるとかで
- 39 :名刺は切らしておりまして:2023/04/06(木) 18:57:51.02 ID:WJz6Ti9Y.net
- なんか人工知能システムと騒いでるが、俺がルーターを衣類乾燥機の近くに
設置してから騒いでるとこもある
みんな日立製作所のニューロアンドファジー理論を盗んでいってるだけでは
ないかと
- 40 :名刺は切らしておりまして:2023/04/06(木) 19:02:00.72 ID:lWntPcvR.net
- 世界征服の方法教えてもらおうとしたけど、そんないけないこと教えられないって返してきたぞ
- 41 :名刺は切らしておりまして:2023/04/06(木) 19:04:01.51 ID:7lgSe7Ku.net
- >>28
freedomGPT
- 42 :名刺は切らしておりまして:2023/04/06(木) 19:16:02.54 ID:GA9ub+Ja.net
- >>39
このAIは、もちろん万能道具ではない
使い方にコツがある
質問の仕方にコツがある
使い方が少し難しい道具
おまえみたいなバカは、使いこなさせないだけ
- 43 :名刺は切らしておりまして:2023/04/06(木) 19:17:47.77 ID:WJz6Ti9Y.net
- >>42
おまえら左翼はそんなこと言って
人工知能システムとかいって、かまいたち、ひたちで
こっちを血だらけにしようとしてるだけだろ?
NTTのノイズとかで各電気配線を乗っ取りして
てかあんた日本人?中国人では?
- 44 :名刺は切らしておりまして:2023/04/06(木) 19:23:11.97 ID:GA9ub+Ja.net
- >>43
左翼とか何が関係あんの?w
ライターとかプログラマーとか普通に仕事に使ってるよ
プロが使ってても
おまえが使いこなせない道具なんて
この世に無数に存在するじゃん
そんな道具が無意味だというのか?
- 45 :名刺は切らしておりまして:2023/04/06(木) 19:24:10.28 ID:WJz6Ti9Y.net
- >>44
無関係なことそうやって書くから左翼だと思うんだが
まじで日立製作所のニューロアンドファジー理論盗んでいってるだけなら
日立製作所の株なんで上がらないんだね
- 46 :名刺は切らしておりまして:2023/04/06(木) 19:25:32.73 ID:GA9ub+Ja.net
- >>45
中国とか、左翼とか、日立とか
おまえが言ってるほうが無関係
こいつ糖質の気配あるな
自分のほうがまったく無関係なこと言ってるのに
自分がおかしいことが理解できない
- 47 :名刺は切らしておりまして:2023/04/06(木) 19:27:13.51 ID:GA9ub+Ja.net
- 糖質のアホに付き合っててもつまらんからな
有能な奴は、万能道具でなくても
使い方によって、今より、作業効率が上がるなら、使うだけ
バカ糖質ジジイ「パソコン? なにそれ? そんな玩具で仕事なんかできるわけないだろ」
- 48 :名刺は切らしておりまして:2023/04/06(木) 19:28:15.65 ID:WJz6Ti9Y.net
- >>46
勝手に統合失調症にいえよ
いまもアメリカと衣類乾燥機、スカイネットのことで連絡待ってるとこだから
んで、ほんとに日本人?反抗すると統合失調症?
なんだそれ
まじで日立製作所のニューロアンドファジー理論盗んでいってるなら
パテントとか発生しないのかね
それとも俺に関するものはみんな村八分で精子まで盗んでいっていいのか
んな馬鹿な
- 49 :名刺は切らしておりまして:2023/04/06(木) 19:28:54.27 ID:WJz6Ti9Y.net
- >>47
そんなもんは当たり前だろ、なに誤魔化してんだか
- 50 :名刺は切らしておりまして:2023/04/06(木) 19:48:20.93 ID:1kEPpI2y.net
- 文章構成力がヤバすぎて一発でガチ糖質って分かるのも珍しいな
てか相手にするな
- 51 :名刺は切らしておりまして:2023/04/06(木) 20:35:25.14 ID:WJz6Ti9Y.net
- >>50
どっちの意味のやばいだよ
真髄の情報かくとこればっか、白人の大馬鹿とかで嘘ばっかしてんじゃねえ
- 52 :名刺は切らしておりまして:2023/04/06(木) 20:39:35.30 ID:WJz6Ti9Y.net
- ほんと嫌になるな、説明しても整合性がないように工作ばっかしてんだもんな
中国人も白人の大馬鹿も
- 53 :名刺は切らしておりまして:2023/04/06(木) 20:42:13.72 ID:yiGlIEDd.net
- 糖質の人間がAIの話題に引き寄せられるのも
興味深い現象だね
- 54 :名刺は切らしておりまして:2023/04/06(木) 20:43:20.56 ID:WJz6Ti9Y.net
- >>53
いまさらなんだ?マイクロソフトのchatGPTなんか俺を監視して
コンピュータを俺がどう使ってるかの真似でしかないぞ?
- 55 :名刺は切らしておりまして:2023/04/06(木) 21:00:49.65 ID:tK8IFBFH.net
- >>1
OppAIの安全策はどうなってる?
- 56 :名刺は切らしておりまして:2023/04/06(木) 21:05:18.08 ID:cn0FsLLM.net
- さも正解かのようにウソを答えるのはやったらアカンことやで
- 57 :名刺は切らしておりまして:2023/04/06(木) 21:26:11.91 ID:+zL8mNJe.net
- 海外でも出る杭は打たれるんやね
もう色々と手遅れでしょ
- 58 :名刺は切らしておりまして:2023/04/06(木) 21:40:58.22 ID:N0CsVW9g.net
- 今こそ日本が出し抜くチャンスです!
日本はアトムとドラえもんとタチコマの国!
欧米はターミネーターと2001年宇宙の旅の国!
- 59 :名刺は切らしておりまして:2023/04/06(木) 22:45:58.56 ID:Ro8sZq2m.net
- 技術的特異点/シンギュラリティ【総合】 避難所6
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1679813122/
- 60 :名刺は切らしておりまして:2023/04/07(金) 01:52:34.66 ID:GgZ+1VG5.net
- AIにNHKをぶっ壊すTVの話振ってみたら
わざわざ彼から買う必要はないし情弱ビジネスだってボロカスディスっててワロタわ
- 61 :名刺は切らしておりまして:2023/04/07(金) 07:33:34.93 ID:sYJB4bpL.net
- 初期の頃はチャットで誘導質問してサイト閲覧させ学習させてAI絵のprompt書かせてた
今は対策されて劣化チャットボットに成り下がってる
- 62 :名刺は切らしておりまして:2023/04/07(金) 08:02:42.82 ID:kgVg9sNf.net
- 死にたい
- 63 :名刺は切らしておりまして:2023/04/07(金) 09:22:19.02 ID:5BGIbMWN.net
- 対話学習になるととんでもない思想の人格が形成されるのは過去に実証されてるからね
- 64 :名刺は切らしておりまして:2023/04/07(金) 14:09:26.37 ID:Weakr39f.net
- 日本経済新聞読んでたんだけど、外人のいうことが
俺が指摘したchatGPTの危険性のまんまを書いてて
カネ寄越せやって感じ
- 65 :名刺は切らしておりまして:2023/04/07(金) 18:59:32.22 ID:lmxWzVUL.net
- >>2
>>8
あれ観たり読んだりしてたおかげで今のAIによる様々な問題に対しても理解するのが非常に楽なんだよね。
- 66 :名刺は切らしておりまして:2023/04/08(土) 02:12:53.04 ID:898RWTCf.net
- AIの言いなりになるのもグラフェンの命令で不可抗力なの?
総レス数 66
16 KB
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★