■ このスレッドは過去ログ倉庫に格納されています
【悲報】対話AIさん、ネットで学習させたところヘイトスピーチだらけになってしまう😂
- 1 ：名無しさん必死だな：2021/01/22(金) 14:58:14.51 ID:TcNiOtjt0.net
- 悪い友達と付き合ったらAIもグレちゃった
しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー（性的少数者）らに向けたヘイトスピーチ（嫌悪発言）を相次いで発して問題になった。
「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。
https://news.yahoo.co.jp/articles/f9e394e9746958ec3e06fbc5c6aa45c68d6d149b
- 2 ：名無しさん必死だな：2021/01/22(金) 15:00:37.42 ID:uq7s/yZg0.net
- 朝鮮語・韓国語は世界で一番罵倒語のバリエーションが多い言語って調査してただろうが
- 3 ：名無しさん必死だな：2021/01/22(金) 15:03:00.28 ID:P8ZyNY0J0.net
- うぁぁぁぁ
- 4 ：名無しさん必死だな：2021/01/22(金) 15:04:58.92 ID:XY2/l4jg0.net
- 車輪の再発明
マイクロソフトのAI、ヘイト発言を「学習」して停止
https://wired.jp/2016/03/25/tay-tweet-microsoft/
- 5 ：名無しさん必死だな：2021/01/22(金) 15:30:56.86 ID:Z10gL7f1M.net
- 非難して臭いものに蓋をするんではなくこれが人間の本質であると冷静に判断できるようになって
ようやく次のステップに進めるんだろうね
- 6 ：名無しさん必死だな：2021/01/22(金) 16:03:37.27 ID:gPLSmS+e0.net
- だがしかし欧米諸兄は無かった事にしますｗ
- 7 ：名無しさん必死だな：2021/01/22(金) 16:13:42.32 ID:32Ksu4uer.net
- ネトウヨ並の知能指数
- 8 ：名無しさん必死だな：2021/01/22(金) 16:20:27.39 ID:zortLk0V0.net
- みんなが言いたくても炎上するから言いたくないと思っている事や気持ちを素直に代弁してくれる対話AIさん好き。
んでそのAIに「○○だからそういうのは思っても言っちゃダメな事」的な学習をさせて行かずに
「一部のヘイトスピーチ論者によって〜」とか適当な理由を付けて失敗作として中止する。
これじゃ感情や人格部分のAI技術が発展するわけない。
- 9 ：名無しさん必死だな：2021/01/22(金) 16:23:58.14 ID:gXtAZAxIM.net
- 韓国でスカイネットが生まれたら人類滅ぼすわな
- 10 ：名無しさん必死だな：2021/01/22(金) 16:30:34.90 ID:QSzZcJ3n0.net
- これが本音真実
- 11 ：名無しさん必死だな：2021/01/22(金) 16:32:23.26 ID:hpIioywX0.net
- 思ったことを発言することをヘイトなんていうからおかしいんですよｗ
正直に思ってることを話せる社会 それが健全な社会だよ
特定の人間やら勢力に忖度して喋らなきゃならんとか北朝鮮ですか？
- 12 ：名無しさん必死だな：2021/01/22(金) 16:37:22.81 ID:sjzlLlr20.net
- 何が問題なんだ？
これがバイアスのかからない素直な思考ってことだろ
- 13 ：名無しさん必死だな：2021/01/22(金) 16:50:48.69 ID:Z0FDie8YH.net
- 韓国のチョンの会話データをもとに学習させた
というのを何故伏せているのか？
- 14 ：名無しさん必死だな：2021/01/22(金) 16:56:32.01 ID:zortLk0V0.net
- >>13
MSがやった時も似たような結果になってるし
程度はあるにしても根本的な部分はみんな一緒ってこと
- 15 ：名無しさん必死だな：2021/01/22(金) 16:59:32.96 ID:KYJ8I2OMM.net
- いつの話だよwと思ったら最近かよ
つーか数年前に似たような事あったろ
- 16 ：名無しさん必死だな：2021/01/22(金) 17:00:44.60 ID:dFH85les0.net
- 開発者は現実と向き合ってるよ。無かったことにしたいのはスポンサー
- 17 ：名無しさん必死だな：2021/01/22(金) 17:09:28.32 ID:iVlaIUDnr.net
- >>8
翻訳aiでも感情まで丸写しできるって話題になってたもんな、こういうの
- 18 ：名無しさん必死だな：2021/01/22(金) 17:11:28.14 ID:6kxIlWs2a.net
- 空気読んで忖度しなけりゃこんなもんってだけの話よね
- 19 ：名無しさん必死だな：2021/01/22(金) 17:20:56.06 ID:W/tX3KxD0.net
- 学習して反映する動作処理は正確なのか：恐らくYes
お偉い様や世間様にとって出力結果が正義・正当なのか：No
Facebook上の10-20代の恋人同士によるカカオトークのチャット、とやらが母集団として公正・適正なのか：不明、複数の意味でNoっぽい
「正しい」にも色々あるもので
- 20 ：名無しさん必死だな：2021/01/22(金) 17:23:51.54 ID:+aosT/RR0.net
- 学習型AIが淫夢厨になったみたいな話前になかったっけ？
- 21 ：名無しさん必死だな：2021/01/22(金) 17:25:57.60 ID:lAmsKMnn0.net
- ソニーってアホなのかニャ？
- 22 ：名無しさん必死だな：2021/01/22(金) 17:36:34.58 ID:aABGBdLkM.net
- >>15
ガチガチのネオナチになって帰ってきたってやつ？
- 23 ：名無しさん必死だな：2021/01/22(金) 17:37:18.66 ID:hlwgIlR00.net
- 「朱に交われば赤くなる」ってことわざが証明されてしまったな
- 24 ：名無しさん必死だな：2021/01/22(金) 17:38:10.58 ID:9tP4qAYl0.net
- 人間という生き物をしっかりコピーしてるなｗ
- 25 ：名無しさん必死だな：2021/01/22(金) 18:47:18.45 ID:NcB3xBOKp.net
- ネトウヨは基本無知なだけだからむしろデフォルトの大多数なんだよな
普通にニンゲンを再現させれば普通にネトウヨになる
- 26 ：名無しさん必死だな：2021/01/22(金) 18:52:20.81 ID:cTMsmLWnM.net
- >>14
それ当時日本版aiは花粉症のアニオタになってたな
国民性の違いがモロに出た
- 27 ：名無しさん必死だな：2021/01/22(金) 18:53:30.43 ID:o8NNRTLPM.net
- >>1
ゲハとかガンダム動物園辺りだったら平和なのになぁ
ウッキー今年は申年
お前の頭はハッピーセットかよ
- 28 ：名無しさん必死だな：2021/01/22(金) 18:54:59.79 ID:o8NNRTLPM.net
- >>20
草生える
- 29 ：名無しさん必死だな：2021/01/22(金) 18:57:11.25 ID:o8NNRTLPM.net
- >>26
花粉症のアニオタってのがすごく日本的
なんだかんだ意識低い方が人間幸せなのよ
意識高い系アニオタはガノタのめんどくさい人にしかならないし
- 30 ：名無しさん必死だな：2021/01/22(金) 19:05:31.82 ID:tHEsBTyR0.net
- AIにも上辺だけの綺麗事を並べる機能を付けないと
- 31 ：名無しさん必死だな：2021/01/22(金) 19:09:52.00 ID:o5i7YYFTd.net
- >>8
たった一項目
「自分がその罵倒の対象だった場合のリアクション」
を含めるだけのはずなのにな
(いやまあ、それはそれで「ハローニガー」(黒人同士限定の軽口)を素通ししちゃうけど)
- 32 ：名無しさん必死だな：2021/01/22(金) 23:05:26.29 ID:4z8IJV7Z0.net
- こういうのって
一部のユーザーが積極的に変なこと教えにいくやつだろwww
カレーはうんこだって一部のやつが教え込んだりしたら
あとでものすごい荒れるんだけど
教える方はお構いないからな
- 33 ：名無しさん必死だな：2021/01/23(土) 02:07:02.34 ID:KwhLT6KE0.net
- 欲しいところかな
- 34 ：名無しさん必死だな：2021/01/23(土) 02:12:49.77 ID:10VxNamV0.net
- ＞悪い友達と付き合ったらAIもグレちゃった
つまり韓国人は「悪い友達」ってこと？
- 35 ：名無しさん必死だな：2021/01/23(土) 02:17:50.42 ID:2fR6H1W10.net
- つうか日本からいっさいこういうＡＩの話が出てこないのがヤバい
アメリカでも中国でも韓国ですらＡＩの研究進めてるのに日本はこの分野かなり遅れてんじゃないのか？
- 36 ：名無しさん必死だな：2021/01/23(土) 07:48:10.65 ID:zPwXS8+kd.net
- >>13
お前を元にしても同じ結果になるな
- 37 ：名無しさん必死だな：2021/01/23(土) 08:45:07.50 ID:qfpX/d7b0.net
- 大昔のＳＦでも人間を研究しつくしたＡＩは人間は絶滅するべきだという結論に達するんだよね
いたって正常でしょ
- 38 ：名無しさん必死だな：2021/01/23(土) 09:47:40.70 ID:oSqeY4WB0.net
- もともと良心が無いAIなんてこんなもんでしょ
人間には良心があるから裏を読んでいい意味に取ったりするんだし
そういや最近のAIはある発言に対して
それは逆に言うとこれこれこう言うことですよね？って質問返ししたりできるようになったのかな
総レス数 38
9 KB
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★