【IT】SHOWROOM、誹謗中傷コメントの監視AIを開発　“遠回しな言い方”でも事前検知してブロック [エリオット★]

1 ：へっぽこ立て子＠エリオット ★：2021/02/22(月) 14:04:33.41 ID:CAP_USER.net

　SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_01.jpg
新機能のイメージ図

　新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。

　同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。

　これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

　同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。

　同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_02.jpg
SHOWROOMのオフィス

□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/

2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html

2 ：名刺は切らしておりまして：2021/02/22(月) 14:06:41.39 ID:vuKn8GGg.net

そこでして、って無循感

3 ：名刺は切らしておりまして：2021/02/22(月) 14:19:34.85 ID:1i2d4c6U.net

縦読みも検知できるの？

4 ：名刺は切らしておりまして：2021/02/22(月) 14:24:29.09 ID:k1KiOOYE.net

そして誰も利用しなくなるっと

5 ：名刺は切らしておりまして：2021/02/22(月) 14:28:22.80 ID:TaPIGlyO.net

そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの？

6 ：名刺は切らしておりまして：2021/02/22(月) 14:33:22.83 ID:oHJM10Nv.net

>>1
言語表現差別
言語能力の乏しい人侮辱
文系風口先だけくず執筆家科学なし低能ライターがのさぼる時代
枝野　蓮舫　辻元　パワハラ橋本聖子　の世界

AIでやるべきことはマスゴミ記事ライター記事の
フェイク　恣意的切り取りの意味ロンダリング扇り屑
根拠自体がフェイク相互スパイラル記事　便乗記事の排除！！！
マスゴミテレビ情報バラエティ　ワイドショー　MC　ブームラン自動検出
　　海外がー屑の大義名分詭弁　ポリコレ　AIリアルタイム検出しろ
朝鮮Korean　NHK民放　ドラマの　リアルタイム歴史検証　　犯罪検証
テロップ義務化しろ！！

7 ：名刺は切らしておりまして：2021/02/22(月) 14:36:17.61 ID:ivctKZ9v.net

こいつら、ただのイスラム教の集団だ
いつも俺の部屋を監視してる、石経由で

8 ：名刺は切らしておりまして：2021/02/22(月) 14:38:10.17 ID:f3mCBHqt.net

大抵、と言うかAIに任せると日常会話でさえブロック対象にされるからねぇ。
顔文字程度でしか対話できなくなるアプリになるんじゃね?www
×悪質コメントの100%排除に限りなく近くなること
〇コメントの100%排除に限りなく近くなること

9 ：名刺は切らしておりまして：2021/02/22(月) 14:38:10.39 ID:qhtg0zAk.net

言論弾圧　中国政府と同じ

10 ：名刺は切らしておりまして：2021/02/22(月) 14:38:36.12 ID:qhtg0zAk.net

自分たちに都合がいいか悪いかがポイント

11 ：名刺は切らしておりまして：2021/02/22(月) 14:39:23.75 ID:ivctKZ9v.net

中国人というより、サウジアラビアだろ

12 ：名刺は切らしておりまして：2021/02/22(月) 14:41:05.82 ID:2QPs3JU/.net

デジタル文化大革命

13 ：名刺は切らしておりまして：2021/02/22(月) 14:41:53.17 ID:EJ1h/X0q.net

>>1
AIには見せかけの流行記事を検知して欲しいと思うw

14 ：名刺は切らしておりまして：2021/02/22(月) 14:43:09.96 ID:ivctKZ9v.net

>>12
親父が本の虫だからって、大嘘書いた本ばっか吹き込みやがったな
それが日本の右翼の正体だ
かなりが電気回路でしゃれで書いてる、戦国時代記録も嘘ばっか

15 ：名刺は切らしておりまして：2021/02/22(月) 14:45:11.97 ID:JJ0xnMG4.net

皆が「可愛い」とコメントしてる中で
「そうは思わない」「可愛くない」とコメしたらブロック対象かな？

16 ：名刺は切らしておりまして：2021/02/22(月) 14:49:05.30 ID:8j/AEX6q.net

ネットのテレビ化も時間の問題だね

17 ：名刺は切らしておりまして：2021/02/22(月) 14:50:23.81 ID:UaYwOke6.net

村

18 ：名刺は切らしておりまして：2021/02/22(月) 14:50:30.60 ID:ivctKZ9v.net

>>16
それは無理だ

19 ：名刺は切らしておりまして：2021/02/22(月) 14:51:54.69 ID:6ovKLQEK.net

ここにも導入しろハゲ

20 ：名刺は切らしておりまして：2021/02/22(月) 14:54:09.03 ID:5IB7Q4RF.net

京都人「何を着ても似合わはりますなあ」
→意味：そんな格好して、恥ずかしくないのか？

21 ：名刺は切らしておりまして：2021/02/22(月) 14:56:47.29 ID:DYybkOuB.net

どの程度のワードが悪質と判断されるのか、テストしたいなぁ。
「うんこ大盛汁だく」　とか、一発アウトかなぁ。

22 ：名刺は切らしておりまして：2021/02/22(月) 14:59:22.52 ID:wO30NxE7.net

これがシビュラシステムの第一ステップか

23 ：名刺は切らしておりまして：2021/02/22(月) 14:59:52.83 ID:Jaz0q005.net

六四天安門

24 ：名刺は切らしておりまして：2021/02/22(月) 15:00:28.16 ID:yy1tmNZK.net

ツイッター社みたいな検閲をするようになるのか

25 ：名刺は切らしておりまして：2021/02/22(月) 15:00:36.56 ID:wO30NxE7.net

配信者側がどの程度厳格に検閲するか調整できるようにすればいいよ

26 ：名刺は切らしておりまして：2021/02/22(月) 15:00:46.47 ID:TwLX4Y/U.net

ヤフーの奴を共有すればいいのに、個別に作って無駄じゃない？

27 ：名刺は切らしておりまして：2021/02/22(月) 15:03:23.09 ID:nbfrPjd1.net

つまり婉曲な言い回しのパターンをたくさん学習させると簡単な単発コメント以外、全て自動で削除させることも可能なわけだw
ちょっとAIを教育してやりたい

28 ：名刺は切らしておりまして：2021/02/22(月) 15:09:47.48 ID:Z6nR9Ewu.net

>>1
怖すぎる
気持ち悪すぎる

テレビ局や電通や吉本と絡んでたら一切弾かれるのかよ

29 ：名刺は切らしておりまして：2021/02/22(月) 15:11:12.30 ID:7fWIKBlX.net

「ハゲ」「薄毛」「頭髪の不自由な方」はブロックされる？

30 ：名刺は切らしておりまして：2021/02/22(月) 15:11:16.23 ID:s+hQ10RY.net

くまのプーさんは書き込めないんだろうな

31 ：名刺は切らしておりまして：2021/02/22(月) 15:12:35.94 ID:Z6nR9Ewu.net

>>1
NGT事件の真相をコメントしたらBANされるってことか

32 ：名刺は切らしておりまして：2021/02/22(月) 15:14:29.62 ID:JT3ixNcy.net

そんなんやったら京都弁がすべてNGになるやんけ

33 ：名刺は切らしておりまして：2021/02/22(月) 15:15:09.16 ID:r1vmN4H0.net

言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。

34 ：名刺は切らしておりまして：2021/02/22(月) 15:16:14.87 ID:mixLim2i.net

ボッキデータの万能性発揮

35 ：名刺は切らしておりまして：2021/02/22(月) 15:22:21.96 ID:b3mZ09JH.net

>>33
公的な場ではないから検閲にはあたらないでしよ。

36 ：名刺は切らしておりまして：2021/02/22(月) 15:22:49.97 ID:BQuwaDnx.net

>>1
そして書き込みがなくなった


ってことになるんだろうなぁ

37 ：名刺は切らしておりまして：2021/02/22(月) 15:24:35.19 ID:2ySGPU4e.net

ポリコレAi

38 ：名刺は切らしておりまして：2021/02/22(月) 15:25:39.47 ID:2ySGPU4e.net

msとかが開発した口の悪いAIがこれでバンされたら笑えるんだが

39 ：名刺は切らしておりまして：2021/02/22(月) 15:31:15.69 ID:bI25yOD8.net

>>1
ニュース記事からおかしいのあるけどどうするんだ？

40 ：名刺は切らしておりまして：2021/02/22(月) 15:33:17.61 ID:yBdajW/T.net

このスレの発言半分以上読めなくなるな

41 ：名刺は切らしておりまして：2021/02/22(月) 15:36:42.49 ID:2jr0ElDn.net

遠回しって、褒め殺しもブロックされたら、感情的な表現は全て無くなるな

42 ：名刺は切らしておりまして：2021/02/22(月) 15:36:58.53 ID:3oqn1rtG.net

他人の土俵で誹謗中傷するんじゃないよってことだな

43 ：名刺は切らしておりまして：2021/02/22(月) 15:43:20.27 ID:3cNoxwY1.net

監視社会か
共産主義者ということで

44 ：名刺は切らしておりまして：2021/02/22(月) 15:49:12.75 ID:CSCbpSOw.net

誤検知だらけだろ

45 ：名刺は切らしておりまして：2021/02/22(月) 15:50:49.60 ID:7fWIKBlX.net

トランプを失脚させるためにメディアと共闘したアメリカのSNS各社と同じものを感じるな

46 ：名刺は切らしておりまして：2021/02/22(月) 15:57:01.43 ID:kdMgGNKi.net

普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか？

47 ：名刺は切らしておりまして：2021/02/22(月) 16:00:12.64 ID:ivctKZ9v.net

むかし、いまはイギリスに買収されたがインテゴって会社の
ファイアウォールソフト使ってて、こういう言葉狩り
ペアレンタルコントロールというらしいが機能はあったな

どんだけ進んだのかしれないが

48 ：名刺は切らしておりまして：2021/02/22(月) 16:11:15.99 ID:YfVKPNAB.net

いいからさっさとアーカイブ機能付けろよ

49 ：名刺は切らしておりまして：2021/02/22(月) 16:15:53.74 ID:X/wh3XC5.net

まずこのサイト知らんわw
名前的にエロサイトっぽいけど

50 ：名刺は切らしておりまして：2021/02/22(月) 16:22:19.59 ID:6R0NnNvO.net

ある事無いこと褒め殺すと、全部ブロック対象になるかもなｗｗｗ

51 ：名刺は切らしておりまして：2021/02/22(月) 16:22:42.65 ID:SoA+AIhW.net

>>13
AI には反応しなそう

52 ：名刺は切らしておりまして：2021/02/22(月) 16:27:43.23 ID:ntDLVBjU.net

そんなに批判が怖いなら
もうコメント機能なくせよ

53 ：名刺は切らしておりまして：2021/02/22(月) 16:33:48.02 ID:O0DR3v6E.net

氏ね　ヲ　オボエマスタ

54 ：名刺は切らしておりまして：2021/02/22(月) 16:50:23.66 ID:xZ1WcgSH.net

「AIをいかに巧妙に欺いて誹謗中傷を書き込むか」
って新しい遊びの場になるかも

55 ：名刺は切らしておりまして：2021/02/22(月) 17:03:52.13 ID:A7AZnmhO.net

アルバイト「AI」募集

56 ：名刺は切らしておりまして：2021/02/22(月) 17:07:39.34 ID:Llt9sLwM.net

あまりなんでもかんでもブロックするとつまらなくなる
金稼ぐってことは批判も受け止めるべき

57 ：名刺は切らしておりまして：2021/02/22(月) 17:11:17.99 ID:CrLQk6vx.net

悪質かどうかの判断を人工知能に支配され、言論統制される人間どもって・・・。
　

58 ：名刺は切らしておりまして：2021/02/22(月) 17:14:06.45 ID:JuoLGX7D.net

そもそもコメント書き込み機能が要るんか？

59 ：名刺は切らしておりまして：2021/02/22(月) 17:16:11.01 ID:P+FY//Zg.net

そのAI
偏ってませんか？

60 ：名刺は切らしておりまして：2021/02/22(月) 17:20:34.13 ID:xZ1WcgSH.net

毒蝮さん：AIの判断により削除されました

綾小路さん：AIの判断により削除されました

61 ：名刺は切らしておりまして：2021/02/22(月) 17:22:19.10 ID:bI25yOD8.net

朝日新聞の記事が消えたら認めるわｗ

62 ：名刺は切らしておりまして：2021/02/22(月) 17:22:54.35 ID:RiIB2cL4.net

褒め殺しも検知できるのか
ならすごいな

63 ：名刺は切らしておりまして：2021/02/22(月) 17:23:43.54 ID:V/gyTqJ8.net

自動チャックマンかぁ
西野よかったな！

64 ：名刺は切らしておりまして：2021/02/22(月) 17:24:13.66 ID:VIozWSi9.net

ズルムケとか
茶瓶とか
散らかすとかも検知出来んのか？あ？

65 ：名刺は切らしておりまして：2021/02/22(月) 17:28:30.57 ID:Ex+eBpLm.net

キラ米だらけなのに誰も投げないってのは効くだろなw

66 ：名刺は切らしておりまして：2021/02/22(月) 17:33:25.73 ID:MSzH3Qyz.net

音声なしかよ。画像だけ見てもなーんも面白くないんだけど。
何が面白いの？

67 ：名刺は切らしておりまして：2021/02/22(月) 17:35:55.19 ID:nQhyk1SD.net

「良い時計してはりますな」→「話がなげぇんだよ！」
とかも検知できるのかな

68 ：名刺は切らしておりまして：2021/02/22(月) 17:36:48.27 ID:8zyf7bhe.net

>>1
素晴らしいです。
ビッグブラザー。

69 ：名刺は切らしておりまして：2021/02/22(月) 17:40:59.68 ID:badm1gHD.net

昔ゲームで、ウルトラマン コスモスとかが伏せ字になった時は笑った
アレよりは判定プログラムが成長したってことなんですかね？

70 ：名刺は切らしておりまして：2021/02/22(月) 17:51:18.23 ID:+WNlGSZG.net

「元気なお子さんですね」＝「うるせえガキだな」

ってのも削除されるのか

71 ：名刺は切らしておりまして：2021/02/22(月) 18:00:47.76 ID:GgjhbW2u.net

このシステムに朝日新聞の記事を診断させたら、誹謗中傷だらけと診断されるだろうな

72 ：名刺は切らしておりまして：2021/02/22(月) 18:14:51.75 ID:3hmtdKe+.net

誹謗中傷って取り消しますって言えば無かったことになるんでろ
取り締まりっておかしくねw
生涯使わねーけど

73 ：名刺は切らしておりまして：2021/02/22(月) 18:26:23.78 ID:FzrYX387.net

アクセス元IPがイギリスか京都のものだったら削除とか？

74 ：名刺は切らしておりまして：2021/02/22(月) 18:43:28.62 ID:gJ6iU30F.net

ギフハフは関係ないですね。

75 ：名刺は切らしておりまして：2021/02/22(月) 18:57:24.31 ID:aEkFKTI+.net

褒め殺しすればいいんじゃないの

76 ：名刺は切らしておりまして：2021/02/22(月) 18:59:09.82 ID:1vGvqCdW.net

ボーイッシュな胸ですね

77 ：名刺は切らしておりまして：2021/02/22(月) 19:18:03.48 ID:H7gi8BVM.net

輝け！

78 ：名刺は切らしておりまして：2021/02/22(月) 19:25:45.60 ID:oHR5tKje.net

共産主義理想社会は美しい。私は、共産主義者ではないが。
これはやはり遠回しか、それとも端的な感想か。

79 ：名刺は切らしておりまして：2021/02/22(月) 19:38:12.74 ID:r28gFouq.net

検閲やん

80 ：名刺は切らしておりまして：2021/02/22(月) 19:42:20.03 ID:4lNtTzHZ.net

森元がいる会議室みたいになりそう

81 ：名刺は切らしておりまして：2021/02/22(月) 19:43:02.49 ID:NdbBHvKB.net

神武天皇が掛けた日本不滅の呪い。世界最長国、日本の作り方。詳細編　EP13
「淡島」
https://youtu.be/ug0ClnFnMfg

82 ：名刺は切らしておりまして：2021/02/22(月) 19:45:13.46 ID:9YWvWBeb.net

SHOWROOMって何かメリットあるの？You Tubeで良くない？

83 ：名刺は切らしておりまして：2021/02/22(月) 19:47:53.89 ID:klgryi+w.net

NHK(あ、誹謗中傷しようとしてるな？よし削除！)

84 ：名刺は切らしておりまして：2021/02/22(月) 20:02:50.49 ID:q+bmoDXE.net

スパイシーな若者たちが陽気な小型犬のように踊ってるよ！
シャープな目付きがクール！
日本語MCも素朴な感じが出ていいね！

85 ：名刺は切らしておりまして：2021/02/22(月) 20:14:11.84 ID:VGxM0VJg.net

いよいよ言論統制の時代だな

86 ：名刺は切らしておりまして：2021/02/22(月) 20:16:11.68 ID:a84GKFk3.net

これはデイストピアまっしぐらですな

87 ：名刺は切らしておりまして：2021/02/22(月) 20:21:13.88 ID:uW0eM/GQ.net

コメントを分けて誹謗中傷ってそこまで何故必死になるんだろうな？
誹謗中傷に人生かけてるのか？

88 ：名刺は切らしておりまして：2021/02/22(月) 20:27:01.23 ID:gHx5fCtC.net

はーたんコメント欄が浄化されるのか。よき。

89 ：名刺は切らしておりまして：2021/02/22(月) 20:51:01.18 ID:C1+afrEl.net

皮肉で絶賛したらそのうちバンされるんかな？
肯定も否定もしないあたりさわりのないコメントしかできなくね？

90 ：名刺は切らしておりまして：2021/02/22(月) 21:05:17.25 ID:NP7nA8UL.net

急だったしね

しね

が星マークになる

91 ：名刺は切らしておりまして：2021/02/22(月) 21:06:09.88 ID:NP7nA8UL.net

>>82
SHOWROOMはカラオケが出来るし
課金が熱い

92 ：名刺は切らしておりまして：2021/02/23(火) 00:42:33.29 ID:UvaVLPyN.net

過去の逸話からの引用とかもわかったらすごい

93 ：名刺は切らしておりまして：2021/02/23(火) 02:05:27.87 ID:pnnzGTgA.net

なんてすばらしいＡＩだ
褒めたたえて今後の活躍と躍進を期待しよう
削除されないように言葉を選び気持ちの良いコメントを増やそう
そしてＡＩにたくさんの言葉を学習してもらい
平家のごとく大渦潮を乗り切ってもらおう

94 ：名刺は切らしておりまして：2021/02/23(火) 02:25:15.33 ID:3b2RXaXJ.net

あー、わかってない

そんなの導入したら、つまらなくなって
みんな離れていくよ

95 ：名刺は切らしておりまして：2021/02/23(火) 08:41:06.94 ID:itDwnYh0.net

〜だしねって会話調で書き込んだら〜だ☆になる素晴らしいAI

96 ：名刺は切らしておりまして：2021/02/23(火) 09:40:04.14 ID:ZFpqGQnc.net

散歩したい


したい


も星になる。

97 ：名刺は切らしておりまして：2021/02/23(火) 11:48:40.49 ID:Qxx44+M7.net

元から秋豚アイドルの配信でしか使われてない

98 ：名刺は切らしておりまして：2021/02/23(火) 11:59:15.46 ID:dSJl1ZrP.net

ぶぶ漬け的なのはいけるかな。

99 ：名刺は切らしておりまして：2021/02/23(火) 14:54:37.58 ID:d4OL5xC9.net

>>1
あ、ほら昨日さ〜
といいうように実は相手にアホって言ってやったのもきちんと検知すんの？

100 ：名刺は切らしておりまして：2021/02/23(火) 15:16:21.12 ID:P0um4Bjp.net

>>99
言われた相手も気づかないなら放置して良いかと。

101 ：名刺は切らしておりまして：2021/02/23(火) 16:37:57.33 ID:J1h4JGdj.net

そこまでされて見たいコンテンツなのか？

102 ：名刺は切らしておりまして：2021/02/23(火) 17:22:18.28 ID:HY5h7RbT.net

事実を書いたら言論弾圧されそうだな

103 ：名刺は切らしておりまして：2021/02/24(水) 07:23:04.62 ID:568w9goP.net

星投げるほぼ課金専用アプリって認識だなあ。
コメントも課金もせんでたまに見てるが、ただ見づらい。

104 ：名刺は切らしておりまして：2021/02/24(水) 09:28:14.90 ID:g8FAKEZa.net

SHOWROOMはやる人多くて
見る人が少ないから
AKBみたいな有名とこ以外は
気軽に話せる。
夜に酒を飲みながら
女子大生やアイドルとタダで話せるのは最高。

105 ：名刺は切らしておりまして：2021/02/25(木) 13:22:12.98 ID:wwFObwBF.net

京都人の言葉も察知できたら凄いぞ

106 ：名刺は切らしておりまして：2021/03/01(月) 13:30:24.16 ID:BrIg1ALH.net

誤動作予防に発信者情報と併用するんじゃないか？（適当）