未分類

【AI】SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも事前検知してブロック

1: 360day2.5ch 2021/02/22(月) 14:04:33.41 ID:CAP_USER
 SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。no title

新機能のイメージ図

新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。

同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。

これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初(同社調べ)といい、特許を出願中。

同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。

no title

SHOWROOMのオフィス

□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/

2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html

>>1
AIには見せかけの流行記事を検知して欲しいと思うw
>>13
AI には反応しなそう
3: 360day2.5ch 2021/02/22(月) 14:19:34.85 ID:1i2d4c6U
縦読みも検知できるの?
4: 360day2.5ch 2021/02/22(月) 14:24:29.09 ID:k1KiOOYE
そして誰も利用しなくなるっと
5: 360day2.5ch 2021/02/22(月) 14:28:22.80 ID:TaPIGlyO
そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの?
8: 360day2.5ch 2021/02/22(月) 14:38:10.17 ID:f3mCBHqt
大抵、と言うかAIに任せると日常会話でさえブロック対象にされるからねぇ。
顔文字程度でしか対話できなくなるアプリになるんじゃね?www
×悪質コメントの100%排除に限りなく近くなること
〇コメントの100%排除に限りなく近くなること
15: 360day2.5ch 2021/02/22(月) 14:45:11.97 ID:JJ0xnMG4
皆が「可愛い」とコメントしてる中で
「そうは思わない」「可愛くない」とコメしたらブロック対象かな?
20: 360day2.5ch 2021/02/22(月) 14:54:09.03 ID:5IB7Q4RF
京都人「何を着ても似合わはりますなあ」
→意味:そんな格好して、恥ずかしくないのか?
33: 360day2.5ch 2021/02/22(月) 15:15:09.16 ID:r1vmN4H0
言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。
>>33
公的な場ではないから検閲にはあたらないでしよ。
37: 360day2.5ch 2021/02/22(月) 15:24:35.19 ID:2ySGPU4e
38: 360day2.5ch 2021/02/22(月) 15:25:39.47 ID:2ySGPU4e
msとかが開発した口の悪いAIがこれでバンされたら笑えるんだが
42: 360day2.5ch 2021/02/22(月) 15:36:58.53 ID:3oqn1rtG
他人の土俵で誹謗中傷するんじゃないよってことだな
44: 360day2.5ch 2021/02/22(月) 15:49:12.75 ID:CSCbpSOw
誤検知だらけだろ
46: 360day2.5ch 2021/02/22(月) 15:57:01.43 ID:kdMgGNKi
普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか?
55: 360day2.5ch 2021/02/22(月) 17:03:52.13 ID:A7AZnmhO
アルバイト「AI」募集
56: 360day2.5ch 2021/02/22(月) 17:07:39.34 ID:Llt9sLwM
あまりなんでもかんでもブロックするとつまらなくなる
金稼ぐってことは批判も受け止めるべき
60: 360day2.5ch 2021/02/22(月) 17:20:34.13 ID:xZ1WcgSH
毒蝮さん:AIの判断により削除されました

綾小路さん:AIの判断により削除されました

63: 360day2.5ch 2021/02/22(月) 17:23:43.54 ID:V/gyTqJ8
自動チャックマンかぁ
西野よかったな!
79: 360day2.5ch 2021/02/22(月) 19:38:12.74 ID:r28gFouq
検閲やん
83: 360day2.5ch 2021/02/22(月) 19:47:53.89 ID:klgryi+w
NHK(あ、誹謗中傷しようとしてるな?よし削除!)
85: 360day2.5ch 2021/02/22(月) 20:14:11.84 ID:VGxM0VJg
いよいよ言論統制の時代だな
86: 360day2.5ch 2021/02/22(月) 20:16:11.68 ID:a84GKFk3
これはデイストピアまっしぐらですな
ディストピアとは?

          ブログランキング・にほんブログ村へ            

-未分類

© 2022 360day2.5chまとめ