2ちゃんねる スマホ用 ■掲示板に戻る■ 全部 1- 最新50    

【IT】SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも事前検知してブロック [エリオット★]

1 :へっぽこ立て子@エリオット ★:2021/02/22(月) 14:04:33.41 ID:CAP_USER.net
 SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_01.jpg
新機能のイメージ図

 新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。

 同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。

 これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

 同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初(同社調べ)といい、特許を出願中。

 同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_02.jpg
SHOWROOMのオフィス

□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/

2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html

2 :名刺は切らしておりまして:2021/02/22(月) 14:06:41.39 ID:vuKn8GGg.net
そこでして、って無循感

3 :名刺は切らしておりまして:2021/02/22(月) 14:19:34.85 ID:1i2d4c6U.net
縦読みも検知できるの?

4 :名刺は切らしておりまして:2021/02/22(月) 14:24:29.09 ID:k1KiOOYE.net
そして誰も利用しなくなるっと

5 :名刺は切らしておりまして:2021/02/22(月) 14:28:22.80 ID:TaPIGlyO.net
そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの?

6 :名刺は切らしておりまして:2021/02/22(月) 14:33:22.83 ID:oHJM10Nv.net
>>1
言語表現差別
言語能力の乏しい人侮辱
文系風口先だけくず執筆家科学なし低能ライターがのさぼる時代
枝野 蓮舫 辻元 パワハラ橋本聖子 の世界

AIでやるべきことはマスゴミ記事ライター記事の
フェイク 恣意的切り取りの意味ロンダリング扇り屑
根拠自体がフェイク相互スパイラル記事 便乗記事の排除!!!
マスゴミテレビ情報バラエティ ワイドショー MC ブームラン自動検出
  海外がー屑の大義名分詭弁 ポリコレ AIリアルタイム検出しろ
朝鮮Korean NHK民放 ドラマの リアルタイム歴史検証  犯罪検証
テロップ義務化しろ!!

7 :名刺は切らしておりまして:2021/02/22(月) 14:36:17.61 ID:ivctKZ9v.net
こいつら、ただのイスラム教の集団だ
いつも俺の部屋を監視してる、石経由で

8 :名刺は切らしておりまして:2021/02/22(月) 14:38:10.17 ID:f3mCBHqt.net
大抵、と言うかAIに任せると日常会話でさえブロック対象にされるからねぇ。
顔文字程度でしか対話できなくなるアプリになるんじゃね?www
×悪質コメントの100%排除に限りなく近くなること
〇コメントの100%排除に限りなく近くなること

9 :名刺は切らしておりまして:2021/02/22(月) 14:38:10.39 ID:qhtg0zAk.net
言論弾圧 中国政府と同じ

10 :名刺は切らしておりまして:2021/02/22(月) 14:38:36.12 ID:qhtg0zAk.net
自分たちに都合がいいか悪いかがポイント

11 :名刺は切らしておりまして:2021/02/22(月) 14:39:23.75 ID:ivctKZ9v.net
中国人というより、サウジアラビアだろ

12 :名刺は切らしておりまして:2021/02/22(月) 14:41:05.82 ID:2QPs3JU/.net
デジタル文化大革命

13 :名刺は切らしておりまして:2021/02/22(月) 14:41:53.17 ID:EJ1h/X0q.net
>>1
AIには見せかけの流行記事を検知して欲しいと思うw

14 :名刺は切らしておりまして:2021/02/22(月) 14:43:09.96 ID:ivctKZ9v.net
>>12
親父が本の虫だからって、大嘘書いた本ばっか吹き込みやがったな
それが日本の右翼の正体だ
かなりが電気回路でしゃれで書いてる、戦国時代記録も嘘ばっか

15 :名刺は切らしておりまして:2021/02/22(月) 14:45:11.97 ID:JJ0xnMG4.net
皆が「可愛い」とコメントしてる中で
「そうは思わない」「可愛くない」とコメしたらブロック対象かな?

16 :名刺は切らしておりまして:2021/02/22(月) 14:49:05.30 ID:8j/AEX6q.net
ネットのテレビ化も時間の問題だね

17 :名刺は切らしておりまして:2021/02/22(月) 14:50:23.81 ID:UaYwOke6.net


18 :名刺は切らしておりまして:2021/02/22(月) 14:50:30.60 ID:ivctKZ9v.net
>>16
それは無理だ

19 :名刺は切らしておりまして:2021/02/22(月) 14:51:54.69 ID:6ovKLQEK.net
ここにも導入しろハゲ

20 :名刺は切らしておりまして:2021/02/22(月) 14:54:09.03 ID:5IB7Q4RF.net
京都人「何を着ても似合わはりますなあ」
→意味:そんな格好して、恥ずかしくないのか?

21 :名刺は切らしておりまして:2021/02/22(月) 14:56:47.29 ID:DYybkOuB.net
どの程度のワードが悪質と判断されるのか、テストしたいなぁ。
「うんこ大盛汁だく」 とか、一発アウトかなぁ。

22 :名刺は切らしておりまして:2021/02/22(月) 14:59:22.52 ID:wO30NxE7.net
これがシビュラシステムの第一ステップか

23 :名刺は切らしておりまして:2021/02/22(月) 14:59:52.83 ID:Jaz0q005.net
六四天安門

24 :名刺は切らしておりまして:2021/02/22(月) 15:00:28.16 ID:yy1tmNZK.net
ツイッター社みたいな検閲をするようになるのか

25 :名刺は切らしておりまして:2021/02/22(月) 15:00:36.56 ID:wO30NxE7.net
配信者側がどの程度厳格に検閲するか調整できるようにすればいいよ

26 :名刺は切らしておりまして:2021/02/22(月) 15:00:46.47 ID:TwLX4Y/U.net
ヤフーの奴を共有すればいいのに、個別に作って無駄じゃない?

27 :名刺は切らしておりまして:2021/02/22(月) 15:03:23.09 ID:nbfrPjd1.net
つまり婉曲な言い回しのパターンをたくさん学習させると簡単な単発コメント以外、全て自動で削除させることも可能なわけだw
ちょっとAIを教育してやりたい

28 :名刺は切らしておりまして:2021/02/22(月) 15:09:47.48 ID:Z6nR9Ewu.net
>>1
怖すぎる
気持ち悪すぎる

テレビ局や電通や吉本と絡んでたら一切弾かれるのかよ

29 :名刺は切らしておりまして:2021/02/22(月) 15:11:12.30 ID:7fWIKBlX.net
「ハゲ」「薄毛」「頭髪の不自由な方」はブロックされる?

30 :名刺は切らしておりまして:2021/02/22(月) 15:11:16.23 ID:s+hQ10RY.net
くまのプーさんは書き込めないんだろうな

31 :名刺は切らしておりまして:2021/02/22(月) 15:12:35.94 ID:Z6nR9Ewu.net
>>1
NGT事件の真相をコメントしたらBANされるってことか

32 :名刺は切らしておりまして:2021/02/22(月) 15:14:29.62 ID:JT3ixNcy.net
そんなんやったら京都弁がすべてNGになるやんけ

33 :名刺は切らしておりまして:2021/02/22(月) 15:15:09.16 ID:r1vmN4H0.net
言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。

34 :名刺は切らしておりまして:2021/02/22(月) 15:16:14.87 ID:mixLim2i.net
ボッキデータの万能性発揮

35 :名刺は切らしておりまして:2021/02/22(月) 15:22:21.96 ID:b3mZ09JH.net
>>33
公的な場ではないから検閲にはあたらないでしよ。

36 :名刺は切らしておりまして:2021/02/22(月) 15:22:49.97 ID:BQuwaDnx.net
>>1
そして書き込みがなくなった


ってことになるんだろうなぁ

37 :名刺は切らしておりまして:2021/02/22(月) 15:24:35.19 ID:2ySGPU4e.net
ポリコレAi

38 :名刺は切らしておりまして:2021/02/22(月) 15:25:39.47 ID:2ySGPU4e.net
msとかが開発した口の悪いAIがこれでバンされたら笑えるんだが

39 :名刺は切らしておりまして:2021/02/22(月) 15:31:15.69 ID:bI25yOD8.net
>>1
ニュース記事からおかしいのあるけどどうするんだ?

40 :名刺は切らしておりまして:2021/02/22(月) 15:33:17.61 ID:yBdajW/T.net
このスレの発言半分以上読めなくなるな

41 :名刺は切らしておりまして:2021/02/22(月) 15:36:42.49 ID:2jr0ElDn.net
遠回しって、褒め殺しもブロックされたら、感情的な表現は全て無くなるな

42 :名刺は切らしておりまして:2021/02/22(月) 15:36:58.53 ID:3oqn1rtG.net
他人の土俵で誹謗中傷するんじゃないよってことだな

43 :名刺は切らしておりまして:2021/02/22(月) 15:43:20.27 ID:3cNoxwY1.net
監視社会か
共産主義者ということで

44 :名刺は切らしておりまして:2021/02/22(月) 15:49:12.75 ID:CSCbpSOw.net
誤検知だらけだろ

45 :名刺は切らしておりまして:2021/02/22(月) 15:50:49.60 ID:7fWIKBlX.net
トランプを失脚させるためにメディアと共闘したアメリカのSNS各社と同じものを感じるな

46 :名刺は切らしておりまして:2021/02/22(月) 15:57:01.43 ID:kdMgGNKi.net
普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか?

47 :名刺は切らしておりまして:2021/02/22(月) 16:00:12.64 ID:ivctKZ9v.net
むかし、いまはイギリスに買収されたがインテゴって会社の
ファイアウォールソフト使ってて、こういう言葉狩り
ペアレンタルコントロールというらしいが機能はあったな

どんだけ進んだのかしれないが

48 :名刺は切らしておりまして:2021/02/22(月) 16:11:15.99 ID:YfVKPNAB.net
いいからさっさとアーカイブ機能付けろよ

49 :名刺は切らしておりまして:2021/02/22(月) 16:15:53.74 ID:X/wh3XC5.net
まずこのサイト知らんわw
名前的にエロサイトっぽいけど

50 :名刺は切らしておりまして:2021/02/22(月) 16:22:19.59 ID:6R0NnNvO.net
ある事無いこと褒め殺すと、全部ブロック対象になるかもなwww

51 :名刺は切らしておりまして:2021/02/22(月) 16:22:42.65 ID:SoA+AIhW.net
>>13
AI には反応しなそう

52 :名刺は切らしておりまして:2021/02/22(月) 16:27:43.23 ID:ntDLVBjU.net
そんなに批判が怖いなら
もうコメント機能なくせよ

53 :名刺は切らしておりまして:2021/02/22(月) 16:33:48.02 ID:O0DR3v6E.net
氏ね ヲ オボエマスタ

54 :名刺は切らしておりまして:2021/02/22(月) 16:50:23.66 ID:xZ1WcgSH.net
「AIをいかに巧妙に欺いて誹謗中傷を書き込むか」
って新しい遊びの場になるかも

55 :名刺は切らしておりまして:2021/02/22(月) 17:03:52.13 ID:A7AZnmhO.net
アルバイト「AI」募集

56 :名刺は切らしておりまして:2021/02/22(月) 17:07:39.34 ID:Llt9sLwM.net
あまりなんでもかんでもブロックするとつまらなくなる
金稼ぐってことは批判も受け止めるべき

57 :名刺は切らしておりまして:2021/02/22(月) 17:11:17.99 ID:CrLQk6vx.net
悪質かどうかの判断を人工知能に支配され、言論統制される人間どもって・・・。
 

58 :名刺は切らしておりまして:2021/02/22(月) 17:14:06.45 ID:JuoLGX7D.net
そもそもコメント書き込み機能が要るんか?

59 :名刺は切らしておりまして:2021/02/22(月) 17:16:11.01 ID:P+FY//Zg.net
そのAI
偏ってませんか?

60 :名刺は切らしておりまして:2021/02/22(月) 17:20:34.13 ID:xZ1WcgSH.net
毒蝮さん:AIの判断により削除されました

綾小路さん:AIの判断により削除されました

61 :名刺は切らしておりまして:2021/02/22(月) 17:22:19.10 ID:bI25yOD8.net
朝日新聞の記事が消えたら認めるわw

62 :名刺は切らしておりまして:2021/02/22(月) 17:22:54.35 ID:RiIB2cL4.net
褒め殺しも検知できるのか
ならすごいな

63 :名刺は切らしておりまして:2021/02/22(月) 17:23:43.54 ID:V/gyTqJ8.net
自動チャックマンかぁ
西野よかったな!

64 :名刺は切らしておりまして:2021/02/22(月) 17:24:13.66 ID:VIozWSi9.net
ズルムケとか
茶瓶とか
散らかすとかも検知出来んのか?あ?

65 :名刺は切らしておりまして:2021/02/22(月) 17:28:30.57 ID:Ex+eBpLm.net
キラ米だらけなのに誰も投げないってのは効くだろなw

66 :名刺は切らしておりまして:2021/02/22(月) 17:33:25.73 ID:MSzH3Qyz.net
音声なしかよ。画像だけ見てもなーんも面白くないんだけど。
何が面白いの?

67 :名刺は切らしておりまして:2021/02/22(月) 17:35:55.19 ID:nQhyk1SD.net
「良い時計してはりますな」→「話がなげぇんだよ!」
とかも検知できるのかな

68 :名刺は切らしておりまして:2021/02/22(月) 17:36:48.27 ID:8zyf7bhe.net
>>1
素晴らしいです。
ビッグブラザー。

69 :名刺は切らしておりまして:2021/02/22(月) 17:40:59.68 ID:badm1gHD.net
昔ゲームで、ウルトラマン コスモスとかが伏せ字になった時は笑った
アレよりは判定プログラムが成長したってことなんですかね?

70 :名刺は切らしておりまして:2021/02/22(月) 17:51:18.23 ID:+WNlGSZG.net
「元気なお子さんですね」=「うるせえガキだな」

ってのも削除されるのか

71 :名刺は切らしておりまして:2021/02/22(月) 18:00:47.76 ID:GgjhbW2u.net
このシステムに朝日新聞の記事を診断させたら、誹謗中傷だらけと診断されるだろうな

72 :名刺は切らしておりまして:2021/02/22(月) 18:14:51.75 ID:3hmtdKe+.net
誹謗中傷って取り消しますって言えば無かったことになるんでろ
取り締まりっておかしくねw
生涯使わねーけど

73 :名刺は切らしておりまして:2021/02/22(月) 18:26:23.78 ID:FzrYX387.net
アクセス元IPがイギリスか京都のものだったら削除とか?

74 :名刺は切らしておりまして:2021/02/22(月) 18:43:28.62 ID:gJ6iU30F.net
ギフハフは関係ないですね。

75 :名刺は切らしておりまして:2021/02/22(月) 18:57:24.31 ID:aEkFKTI+.net
褒め殺しすればいいんじゃないの

76 :名刺は切らしておりまして:2021/02/22(月) 18:59:09.82 ID:1vGvqCdW.net
ボーイッシュな胸ですね

77 :名刺は切らしておりまして:2021/02/22(月) 19:18:03.48 ID:H7gi8BVM.net
輝け!

78 :名刺は切らしておりまして:2021/02/22(月) 19:25:45.60 ID:oHR5tKje.net
共産主義理想社会は美しい。私は、共産主義者ではないが。
これはやはり遠回しか、それとも端的な感想か。

79 :名刺は切らしておりまして:2021/02/22(月) 19:38:12.74 ID:r28gFouq.net
検閲やん

80 :名刺は切らしておりまして:2021/02/22(月) 19:42:20.03 ID:4lNtTzHZ.net
森元がいる会議室みたいになりそう

81 :名刺は切らしておりまして:2021/02/22(月) 19:43:02.49 ID:NdbBHvKB.net
神武天皇が掛けた日本不滅の呪い。世界最長国、日本の作り方。詳細編 EP13
「淡島」
https://youtu.be/ug0ClnFnMfg

82 :名刺は切らしておりまして:2021/02/22(月) 19:45:13.46 ID:9YWvWBeb.net
SHOWROOMって何かメリットあるの?You Tubeで良くない?

83 :名刺は切らしておりまして:2021/02/22(月) 19:47:53.89 ID:klgryi+w.net
NHK(あ、誹謗中傷しようとしてるな?よし削除!)

84 :名刺は切らしておりまして:2021/02/22(月) 20:02:50.49 ID:q+bmoDXE.net
スパイシーな若者たちが陽気な小型犬のように踊ってるよ!
シャープな目付きがクール!
日本語MCも素朴な感じが出ていいね!

85 :名刺は切らしておりまして:2021/02/22(月) 20:14:11.84 ID:VGxM0VJg.net
いよいよ言論統制の時代だな

86 :名刺は切らしておりまして:2021/02/22(月) 20:16:11.68 ID:a84GKFk3.net
これはデイストピアまっしぐらですな

87 :名刺は切らしておりまして:2021/02/22(月) 20:21:13.88 ID:uW0eM/GQ.net
コメントを分けて誹謗中傷ってそこまで何故必死になるんだろうな?
誹謗中傷に人生かけてるのか?

88 :名刺は切らしておりまして:2021/02/22(月) 20:27:01.23 ID:gHx5fCtC.net
はーたんコメント欄が浄化されるのか。よき。

89 :名刺は切らしておりまして:2021/02/22(月) 20:51:01.18 ID:C1+afrEl.net
皮肉で絶賛したらそのうちバンされるんかな?
肯定も否定もしないあたりさわりのないコメントしかできなくね?

90 :名刺は切らしておりまして:2021/02/22(月) 21:05:17.25 ID:NP7nA8UL.net
急だったしね

しね

が星マークになる

91 :名刺は切らしておりまして:2021/02/22(月) 21:06:09.88 ID:NP7nA8UL.net
>>82
SHOWROOMはカラオケが出来るし
課金が熱い

92 :名刺は切らしておりまして:2021/02/23(火) 00:42:33.29 ID:UvaVLPyN.net
過去の逸話からの引用とかもわかったらすごい

93 :名刺は切らしておりまして:2021/02/23(火) 02:05:27.87 ID:pnnzGTgA.net
なんてすばらしいAIだ
褒めたたえて今後の活躍と躍進を期待しよう
削除されないように言葉を選び気持ちの良いコメントを増やそう
そしてAIにたくさんの言葉を学習してもらい
平家のごとく大渦潮を乗り切ってもらおう

94 :名刺は切らしておりまして:2021/02/23(火) 02:25:15.33 ID:3b2RXaXJ.net
あー、わかってない

そんなの導入したら、つまらなくなって
みんな離れていくよ

95 :名刺は切らしておりまして:2021/02/23(火) 08:41:06.94 ID:itDwnYh0.net
〜だしねって会話調で書き込んだら〜だ☆になる素晴らしいAI

96 :名刺は切らしておりまして:2021/02/23(火) 09:40:04.14 ID:ZFpqGQnc.net
散歩したい


したい


も星になる。

97 :名刺は切らしておりまして:2021/02/23(火) 11:48:40.49 ID:Qxx44+M7.net
元から秋豚アイドルの配信でしか使われてない

98 :名刺は切らしておりまして:2021/02/23(火) 11:59:15.46 ID:dSJl1ZrP.net
ぶぶ漬け的なのはいけるかな。

99 :名刺は切らしておりまして:2021/02/23(火) 14:54:37.58 ID:d4OL5xC9.net
>>1
あ、ほら昨日さ〜
といいうように実は相手にアホって言ってやったのもきちんと検知すんの?

100 :名刺は切らしておりまして:2021/02/23(火) 15:16:21.12 ID:P0um4Bjp.net
>>99
言われた相手も気づかないなら放置して良いかと。

101 :名刺は切らしておりまして:2021/02/23(火) 16:37:57.33 ID:J1h4JGdj.net
そこまでされて見たいコンテンツなのか?

102 :名刺は切らしておりまして:2021/02/23(火) 17:22:18.28 ID:HY5h7RbT.net
事実を書いたら言論弾圧されそうだな

103 :名刺は切らしておりまして:2021/02/24(水) 07:23:04.62 ID:568w9goP.net
星投げるほぼ課金専用アプリって認識だなあ。
コメントも課金もせんでたまに見てるが、ただ見づらい。

104 :名刺は切らしておりまして:2021/02/24(水) 09:28:14.90 ID:g8FAKEZa.net
SHOWROOMはやる人多くて
見る人が少ないから
AKBみたいな有名とこ以外は
気軽に話せる。
夜に酒を飲みながら
女子大生やアイドルとタダで話せるのは最高。

105 :名刺は切らしておりまして:2021/02/25(木) 13:22:12.98 ID:wwFObwBF.net
京都人の言葉も察知できたら凄いぞ

106 :名刺は切らしておりまして:2021/03/01(月) 13:30:24.16 ID:BrIg1ALH.net
誤動作予防に発信者情報と併用するんじゃないか?(適当)

19 KB
新着レスの表示

掲示板に戻る 全部 前100 次100 最新50
名前: E-mail (省略可) :

read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★