TOP > IT・テクノロジー > SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも事前検知してブロック - ITmedia NEWS

SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも事前検知してブロック - ITmedia NEWS

68コメント 2021-02-22 12:51  ITmedia

SHOWROOMが誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。

ツイッターのコメント(68)



・ディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する
皆様コメントに注意しましょうね₍ᐢ- ̫-ᐢ₎

 “遠回しな言い方”でも検知して自動通報
“遠回しな言い方”でも検知して自動通報 - ITmedia NEWS
ちゃんと機能してくれればいいが…
これで少しは良くなることを祈ります🧸
良い事とは思いますが、
例:アマゾン→ア☆ン
などの対応が先と思いますが・・・
スクショタイム→スク☆イム
アマゾン→ア☆ン
そうですね→そ☆すね
AIを使うならまずこっちを何とかしましょうよw
AIが人に優しい世界を作るのに役立てば良いですね。
こうやって言論統制は進んでいく。
その内、街中でつぶやいた言葉で
逮捕とかになるだろう。
SHOWROOMって何だか知らんけど
見たら避ける!
BANされる可能性がさらに高くなるのね(何度もBAN経験あり)
いかに検知されないような言い回しにするかの読み合いになるような気はします。
それより、お菓子作りが子作りに反応してお菓✩になったり、マグロがマ✩になったりそういう所直してくれ。
「コメがやべぇ」って自覚のある皆様、御一読くださいませ。

「毎日大きい方のペヤング食べてそう♡」

こういうのが誹謗中傷にあたるか?どうか?って事ですな。
これは是非頑張って欲しいです!
京都弁を学習させるカンジ?
そんなことより普通の内容書いても☆になる阿呆みたいなNGワードどうにかしてほしいし
これAIが阿呆だと不当BANめっちゃ増えそうで怖い
中傷のみに反応するんか? ブロックロボットなんか使うと、批判をすべてブロックするような使い方が横行すると思うんだが。/
Roomに表示される前にキルするとかどこの凄腕アサシンだよ
通報機能やブロック・ミュートは維持した上で運用してほしいなぁ…
やはり日本語だったのが壁紙なのかな。研究者も技術者も少ない
「悪質なコメント」ってのは誰が決めるんでしょうねぇ。
遠回しな言い方でも検出できるのはすごいな
😅頭悪くて打ったコメントが
誤解されまくる人間にとっては
ゆゆしき問題だな~…
個人的には悪質な規約違反者のルームのアカウントの停止機能も監視AIでやって欲しい。
ついった君でもコレ取り入れてくれねぇかな(´>ω∂`)
将棋AIとプロ棋士の対戦『電王戦』のごとく
監視AI vs 京都しぐさ
という熾烈な戦いが予想される。
ギャル文字が生きてくるかな
AIじゃ、コピペ荒らしは識別できないでしょうね。誤作動が出るに1票。
「AIが悪質なコメントと判断すれば、投稿前に自動で削除する」これなら目に触れる事すら避けられるからいいね。ただ、悪い見方をすれば言論統制にも繋がりかねないリスクもあるが、まあ精度次第かな。
搭載したとあるからもう稼働してるようだけど、公式のお知らせはないのかな?
まあ、単純な荒らしは駆除できるだろうけど根の深い陰湿な奴はAIでは無理な気はする。
そこはAIのスクーリングとのいたちごっこかな。
その点で通報機能が無くなるのは怖いなあ。
スクショを撮れてそのまま通報できる機能にAI加えればいいのにねえ。
❝開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。❞
むしろリアルのヘイトをどうにかできるシステムがほしい。
どうなるかな
「コンテンツモデレーションの世界では…日本語での研究はほとんどないのが実態だった」

Twiterにも是非導入してもらいたいものです😉
すごいな、今後販売とかAPI公開とかするつもりなのかね
(´・∀・`) へぇ~
DMでの嫌がらせが増えるんちゃう?
いわゆる「褒め殺し」はどうなるのかな
これを機会に意味不明な☆変換を廃止してくれると良いのだけれど。
AIすごいな~(小並)
必ずしも悪い訳ではないけど、現状のガバNG見てると不安しかないぞ
これはイイネ👍👍👍
これ気になる >
ファッ!?
どっかで聞いたような話やんけ😲
やはり天才か…
京都人メソッドにも対応してるのか?
まともな日本語は通して欲しいですね
これ⭐︎に書いているんですが😆
>同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。

へー
低スコアのコメントを自動で非表示にするまではいいとして(AIじゃないけどスラドとか昔からあるし)、垢BANの前には人が介在したほうがいいのでは…。
なんかの媒体でこのサービスでコメントするときに、ケバが間に挟まっただけで表示できませんとかなったな…
単語の途中でも反応するから言い回し工夫するの面倒だったな~
これ、配信者とリスナーの関係性において成立しているいじり合いみたいのは、どう判定するんだろうね?
変熊隊生き残れるのか?w
時代はどんどん検閲に。誹謗中傷なんてしないけど、だからといって言えなくなるってどうなんだろう。
どんどん発言の自由がなくなる。それはどうなんだろう。
( ゚д゚)ポカーン
だしね〜、とか☆になってたの改善するのか?いらね…
やっぱり判定は人だったんやね
文脈判断とか、代名詞の意味の解析とか、なかなかにチャレンジが多そうだけど、実用化すれば応用例いろいろ出そう。ただ、どの程度「誤爆」するかな
頓珍漢な伏せ字もAIでやってるのか?
ドテチンは行けるべ
ただでさえ☆になる確率多いのにある程度はAIとやらでまともになるんかな?
ブロック・BANという極刑の前に人がいないなんてバカなの?
ずいぶん勉強しはって
ネタバレするバカを先回りでこの世から抹消するAIはよ l
文脈関係なく単なるワード切り取りでNGになってた投稿は減るかな?
ふと思うのは『ライバー』が不○○発言しても大丈夫なようにする未来が待ってそう()
以上
 

いま話題のニュース

もっと読む
PR