2ちゃんねる スマホ用 ■掲示板に戻る■ 全部 1- 最新50    

■ このスレッドは過去ログ倉庫に格納されています

【IT】SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも事前検知してブロック [エリオット★]

1 :へっぽこ立て子@エリオット ★:2021/02/22(月) 14:04:33.41 ID:CAP_USER.net
 SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_01.jpg
新機能のイメージ図

 新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。

 同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。

 これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

 同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初(同社調べ)といい、特許を出願中。

 同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_02.jpg
SHOWROOMのオフィス

□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/

2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html

57 :名刺は切らしておりまして:2021/02/22(月) 17:11:17.99 ID:CrLQk6vx.net
悪質かどうかの判断を人工知能に支配され、言論統制される人間どもって・・・。
 

58 :名刺は切らしておりまして:2021/02/22(月) 17:14:06.45 ID:JuoLGX7D.net
そもそもコメント書き込み機能が要るんか?

59 :名刺は切らしておりまして:2021/02/22(月) 17:16:11.01 ID:P+FY//Zg.net
そのAI
偏ってませんか?

60 :名刺は切らしておりまして:2021/02/22(月) 17:20:34.13 ID:xZ1WcgSH.net
毒蝮さん:AIの判断により削除されました

綾小路さん:AIの判断により削除されました

61 :名刺は切らしておりまして:2021/02/22(月) 17:22:19.10 ID:bI25yOD8.net
朝日新聞の記事が消えたら認めるわw

62 :名刺は切らしておりまして:2021/02/22(月) 17:22:54.35 ID:RiIB2cL4.net
褒め殺しも検知できるのか
ならすごいな

63 :名刺は切らしておりまして:2021/02/22(月) 17:23:43.54 ID:V/gyTqJ8.net
自動チャックマンかぁ
西野よかったな!

64 :名刺は切らしておりまして:2021/02/22(月) 17:24:13.66 ID:VIozWSi9.net
ズルムケとか
茶瓶とか
散らかすとかも検知出来んのか?あ?

65 :名刺は切らしておりまして:2021/02/22(月) 17:28:30.57 ID:Ex+eBpLm.net
キラ米だらけなのに誰も投げないってのは効くだろなw

66 :名刺は切らしておりまして:2021/02/22(月) 17:33:25.73 ID:MSzH3Qyz.net
音声なしかよ。画像だけ見てもなーんも面白くないんだけど。
何が面白いの?

67 :名刺は切らしておりまして:2021/02/22(月) 17:35:55.19 ID:nQhyk1SD.net
「良い時計してはりますな」→「話がなげぇんだよ!」
とかも検知できるのかな

68 :名刺は切らしておりまして:2021/02/22(月) 17:36:48.27 ID:8zyf7bhe.net
>>1
素晴らしいです。
ビッグブラザー。

69 :名刺は切らしておりまして:2021/02/22(月) 17:40:59.68 ID:badm1gHD.net
昔ゲームで、ウルトラマン コスモスとかが伏せ字になった時は笑った
アレよりは判定プログラムが成長したってことなんですかね?

70 :名刺は切らしておりまして:2021/02/22(月) 17:51:18.23 ID:+WNlGSZG.net
「元気なお子さんですね」=「うるせえガキだな」

ってのも削除されるのか

71 :名刺は切らしておりまして:2021/02/22(月) 18:00:47.76 ID:GgjhbW2u.net
このシステムに朝日新聞の記事を診断させたら、誹謗中傷だらけと診断されるだろうな

72 :名刺は切らしておりまして:2021/02/22(月) 18:14:51.75 ID:3hmtdKe+.net
誹謗中傷って取り消しますって言えば無かったことになるんでろ
取り締まりっておかしくねw
生涯使わねーけど

73 :名刺は切らしておりまして:2021/02/22(月) 18:26:23.78 ID:FzrYX387.net
アクセス元IPがイギリスか京都のものだったら削除とか?

74 :名刺は切らしておりまして:2021/02/22(月) 18:43:28.62 ID:gJ6iU30F.net
ギフハフは関係ないですね。

75 :名刺は切らしておりまして:2021/02/22(月) 18:57:24.31 ID:aEkFKTI+.net
褒め殺しすればいいんじゃないの

76 :名刺は切らしておりまして:2021/02/22(月) 18:59:09.82 ID:1vGvqCdW.net
ボーイッシュな胸ですね

77 :名刺は切らしておりまして:2021/02/22(月) 19:18:03.48 ID:H7gi8BVM.net
輝け!

78 :名刺は切らしておりまして:2021/02/22(月) 19:25:45.60 ID:oHR5tKje.net
共産主義理想社会は美しい。私は、共産主義者ではないが。
これはやはり遠回しか、それとも端的な感想か。

79 :名刺は切らしておりまして:2021/02/22(月) 19:38:12.74 ID:r28gFouq.net
検閲やん

80 :名刺は切らしておりまして:2021/02/22(月) 19:42:20.03 ID:4lNtTzHZ.net
森元がいる会議室みたいになりそう

81 :名刺は切らしておりまして:2021/02/22(月) 19:43:02.49 ID:NdbBHvKB.net
神武天皇が掛けた日本不滅の呪い。世界最長国、日本の作り方。詳細編 EP13
「淡島」
https://youtu.be/ug0ClnFnMfg

82 :名刺は切らしておりまして:2021/02/22(月) 19:45:13.46 ID:9YWvWBeb.net
SHOWROOMって何かメリットあるの?You Tubeで良くない?

83 :名刺は切らしておりまして:2021/02/22(月) 19:47:53.89 ID:klgryi+w.net
NHK(あ、誹謗中傷しようとしてるな?よし削除!)

84 :名刺は切らしておりまして:2021/02/22(月) 20:02:50.49 ID:q+bmoDXE.net
スパイシーな若者たちが陽気な小型犬のように踊ってるよ!
シャープな目付きがクール!
日本語MCも素朴な感じが出ていいね!

85 :名刺は切らしておりまして:2021/02/22(月) 20:14:11.84 ID:VGxM0VJg.net
いよいよ言論統制の時代だな

86 :名刺は切らしておりまして:2021/02/22(月) 20:16:11.68 ID:a84GKFk3.net
これはデイストピアまっしぐらですな

87 :名刺は切らしておりまして:2021/02/22(月) 20:21:13.88 ID:uW0eM/GQ.net
コメントを分けて誹謗中傷ってそこまで何故必死になるんだろうな?
誹謗中傷に人生かけてるのか?

88 :名刺は切らしておりまして:2021/02/22(月) 20:27:01.23 ID:gHx5fCtC.net
はーたんコメント欄が浄化されるのか。よき。

89 :名刺は切らしておりまして:2021/02/22(月) 20:51:01.18 ID:C1+afrEl.net
皮肉で絶賛したらそのうちバンされるんかな?
肯定も否定もしないあたりさわりのないコメントしかできなくね?

90 :名刺は切らしておりまして:2021/02/22(月) 21:05:17.25 ID:NP7nA8UL.net
急だったしね

しね

が星マークになる

91 :名刺は切らしておりまして:2021/02/22(月) 21:06:09.88 ID:NP7nA8UL.net
>>82
SHOWROOMはカラオケが出来るし
課金が熱い

92 :名刺は切らしておりまして:2021/02/23(火) 00:42:33.29 ID:UvaVLPyN.net
過去の逸話からの引用とかもわかったらすごい

93 :名刺は切らしておりまして:2021/02/23(火) 02:05:27.87 ID:pnnzGTgA.net
なんてすばらしいAIだ
褒めたたえて今後の活躍と躍進を期待しよう
削除されないように言葉を選び気持ちの良いコメントを増やそう
そしてAIにたくさんの言葉を学習してもらい
平家のごとく大渦潮を乗り切ってもらおう

94 :名刺は切らしておりまして:2021/02/23(火) 02:25:15.33 ID:3b2RXaXJ.net
あー、わかってない

そんなの導入したら、つまらなくなって
みんな離れていくよ

95 :名刺は切らしておりまして:2021/02/23(火) 08:41:06.94 ID:itDwnYh0.net
〜だしねって会話調で書き込んだら〜だ☆になる素晴らしいAI

96 :名刺は切らしておりまして:2021/02/23(火) 09:40:04.14 ID:ZFpqGQnc.net
散歩したい


したい


も星になる。

97 :名刺は切らしておりまして:2021/02/23(火) 11:48:40.49 ID:Qxx44+M7.net
元から秋豚アイドルの配信でしか使われてない

98 :名刺は切らしておりまして:2021/02/23(火) 11:59:15.46 ID:dSJl1ZrP.net
ぶぶ漬け的なのはいけるかな。

99 :名刺は切らしておりまして:2021/02/23(火) 14:54:37.58 ID:d4OL5xC9.net
>>1
あ、ほら昨日さ〜
といいうように実は相手にアホって言ってやったのもきちんと検知すんの?

100 :名刺は切らしておりまして:2021/02/23(火) 15:16:21.12 ID:P0um4Bjp.net
>>99
言われた相手も気づかないなら放置して良いかと。

101 :名刺は切らしておりまして:2021/02/23(火) 16:37:57.33 ID:J1h4JGdj.net
そこまでされて見たいコンテンツなのか?

102 :名刺は切らしておりまして:2021/02/23(火) 17:22:18.28 ID:HY5h7RbT.net
事実を書いたら言論弾圧されそうだな

103 :名刺は切らしておりまして:2021/02/24(水) 07:23:04.62 ID:568w9goP.net
星投げるほぼ課金専用アプリって認識だなあ。
コメントも課金もせんでたまに見てるが、ただ見づらい。

104 :名刺は切らしておりまして:2021/02/24(水) 09:28:14.90 ID:g8FAKEZa.net
SHOWROOMはやる人多くて
見る人が少ないから
AKBみたいな有名とこ以外は
気軽に話せる。
夜に酒を飲みながら
女子大生やアイドルとタダで話せるのは最高。

105 :名刺は切らしておりまして:2021/02/25(木) 13:22:12.98 ID:wwFObwBF.net
京都人の言葉も察知できたら凄いぞ

106 :名刺は切らしておりまして:2021/03/01(月) 13:30:24.16 ID:BrIg1ALH.net
誤動作予防に発信者情報と併用するんじゃないか?(適当)

総レス数 106
19 KB
掲示板に戻る 全部 前100 次100 最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★