1:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:04:33 ID:CAP_USER
SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。
新機能のイメージ図
新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。
同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。
これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。
同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。
同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。
SHOWROOMのオフィス
□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/
2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html
39:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:31:15 ID:bI25yOD8
>>1
ニュース記事からおかしいのあるけどどうするんだ？
36:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:22:49 ID:BQuwaDnx
>>1
そして書き込みがなくなった
ってことになるんだろうなぁ
31:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:12:35 ID:Z6nR9Ewu
>>1
NGT事件の真相をコメントしたらBANされるってことか
28:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:09:47 ID:Z6nR9Ewu
>>1
怖すぎる
気持ち悪すぎる
テレビ局や電通や吉本と絡んでたら一切弾かれるのかよ
13:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:41:53 ID:EJ1h/X0q
>>1
AIには見せかけの流行記事を検知して欲しいと思うw
51:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 16:22:42 ID:SoA+AIhW
>>13
AI には反応しなそう
3:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:19:34 ID:1i2d4c6U
縦読みも検知できるの？
4:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:24:29 ID:k1KiOOYE
そして誰も利用しなくなるっと
5:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:28:22 ID:TaPIGlyO
そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの？
7:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:36:17 ID:ivctKZ9v
こいつら、ただのイスラム教の集団だ
いつも俺の部屋を監視してる、石経由で
9:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:38:10 ID:qhtg0zAk
言論弾圧 中国政府と同じ
10:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:38:36 ID:qhtg0zAk
自分たちに都合がいいか悪いかがポイント
11:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:39:23 ID:ivctKZ9v
中国人というより、サウジアラビアだろ
12:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:41:05 ID:2QPs3JU/
デジタル文化大革命
15:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:45:11 ID:JJ0xnMG4
皆が「可愛い」とコメントしてる中で
「そうは思わない」「可愛くない」とコメしたらブロック対象かな？
16:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:49:05 ID:8j/AEX6q
ネットのテレビ化も時間の問題だね
18:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:50:30 ID:ivctKZ9v
>>16
それは無理だ
19:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:51:54 ID:6ovKLQEK
ここにも導入しろハゲ
20:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:54:09 ID:5IB7Q4RF
京都人「何を着ても似合わはりますなあ」
→意味：そんな格好して、恥ずかしくないのか？
21:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:56:47 ID:DYybkOuB
どの程度のワードが悪質と判断されるのか、テストしたいなぁ。
「うんこ大盛汁だく」 とか、一発アウトかなぁ。
22:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 14:59:22 ID:wO30NxE7
これがシビュラシステムの第一ステップか
24:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:00:28 ID:yy1tmNZK
ツイッター社みたいな検閲をするようになるのか
25:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:00:36 ID:wO30NxE7
配信者側がどの程度厳格に検閲するか調整できるようにすればいいよ
26:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:00:46 ID:TwLX4Y/U
ヤフーの奴を共有すればいいのに、個別に作って無駄じゃない？
27:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:03:23 ID:nbfrPjd1
つまり婉曲な言い回しのパターンをたくさん学習させると簡単な単発コメント以外、全て自動で削除させることも可能なわけだw
ちょっとAIを教育してやりたい
29:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:11:12 ID:7fWIKBlX
「ハゲ」「薄毛」「頭髪の不自由な方」はブロックされる？
30:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:11:16 ID:s+hQ10RY
くまのプーさんは書き込めないんだろうな
32:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:14:29 ID:JT3ixNcy
そんなんやったら京都弁がすべてNGになるやんけ
33:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:15:09 ID:r1vmN4H0
言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。
35:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:22:21 ID:b3mZ09JH
>>33
公的な場ではないから検閲にはあたらないでしよ。
34:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:16:14 ID:mixLim2i
ボッキデータの万能性発揮
37:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:24:35 ID:2ySGPU4e
ポリコレAi
38:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:25:39 ID:2ySGPU4e
msとかが開発した口の悪いAIがこれでバンされたら笑えるんだが
40:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:33:17 ID:yBdajW/T
このスレの発言半分以上読めなくなるな
42:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:36:58 ID:3oqn1rtG
他人の土俵で誹謗中傷するんじゃないよってことだな
43:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:43:20 ID:3cNoxwY1
監視社会か
共産主義者ということで
44:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:49:12 ID:CSCbpSOw
誤検知だらけだろ
45:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:50:49 ID:7fWIKBlX
トランプを失脚させるためにメディアと共闘したアメリカのSNS各社と同じものを感じるな
46:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 15:57:01 ID:kdMgGNKi
普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか？
47:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 16:00:12 ID:ivctKZ9v
むかし、いまはイギリスに買収されたがインテゴって会社の
ファイアウォールソフト使ってて、こういう言葉狩り
ペアレンタルコントロールというらしいが機能はあったな
どんだけ進んだのかしれないが
48:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 16:11:15 ID:YfVKPNAB
いいからさっさとアーカイブ機能付けろよ
52:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 16:27:43 ID:ntDLVBjU
そんなに批判が怖いなら
もうコメント機能なくせよ
54:おれんじーず(SB-iPhone) [CN] 2021/02/22(月) 16:50:23 ID:xZ1WcgSH
「AIをいかに巧妙に欺いて誹謗中傷を書き込むか」
って新しい遊びの場になるかも
引用元: http://anago.2ch.sc/test/read.cgi/bizplus/1613970273/