TOP > IT・テクノロジー > 更新:マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記) - Engadget 日本版

更新:マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記) - Engadget 日本版

マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵......

ツイッターのコメント(1015)

@setsuna0417 単純に投げかけられた言葉を「学習」すると悪意まみれになりますからね。バイアスがある現実世界を学習してバイアスがないAIとして育つとか無理だろうと思います。
@_kasumioO こう↓ならないことを祈ってます。
ああ これ
2016年3月の記事ね。
@knife9000 AI性善説、どうなんでしょう。3年前の事件ですけど、それから少しはマシになったんでしょうか。
>
@account_kkojima @BIJapan マイクロソフトのAIも過去に同様の問題が起こりましたね
だいたい、AIがファクトチェックせず、何を収集しているのだ?

マイクロ・ソフトのおぞましい失敗例を見るべし


歴史に学ばず、事実より、言ったもん勝ちで発信された「量」では、何も「判断」できないよ
MSのTayが中止になったのと同じような感じだよね.
AIもセキュリティが問題になってくる。間違ったデータで学習させられるとどうなるか?と言ってたけど。MSは実際にそれを経験してるよね。会場で思わず笑いそうになった。
これね→
@jbbajb 都知事も緊急停止を。
自民ネトサポ/ネトウヨは、Twitterを通して差別主義の陰謀論者になっちまったAIと一緒。/マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記) -
ひょっとしてこれりんなの男性版....
与党に教育されたらこうなる。
マイクロソフトの一番偉い人、トランプ支持したんだからもう復活させたら?
AIと言えばこういうニュースと、
ソードアート・オンラインの機械学習AI『プレミア』がネット民に色々吹き込まれて汚い言葉吐くようになったの、ちょっと前のマイクロソフト社の機械学習AI『Tay』が差別用語吐くようになった出来事の二の舞いになってて趣深い。
@Oisu_e_bot
開発しようとしても何かしら問題起きるからな

これみたいに
教育や社会のある意味縮図を見たような気分
他者の心を理解できるようになるのはAIが先かABEが先か…
思い出した。知的レベルが低いと人間もこうなってるね。もうAIに抜かれてる人が…
恣意的な学習に無防備だったのはお粗末ねぇ……。
@Shimoji2no1 これが映画ならセキュリティをくぐり抜けたロボットが兵器を使おうとするクリスマスの日、ブルース・ウィリスが食い止めます。
MicrosoftのAIがダメだったのと同じです
多分ここ最近で一番面白いニュースかも知れないwww
人類の有能さ無能さも見える化。ネットは実社会そのもの。 / マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記) - @engadgetjp
マイクロソフトの人工知能実験で陰謀論や差別発言だらけになった件、これはむしろ地方から上京したての新入生をカルト系サークルに勧誘して洗脳する手口に似ているかも。
“マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止 - Japanese”
@KNPITNG 日本語でもちゃんとあった 「学習型ボットと見ればなんとか不謹慎な発言をさせようと躍起になるユーザーにも恰好のおもちゃとなってしまい、オウム返しも含めてとても擁護できない発言を繰り返すようになってしまった」
まあまだ赤ん坊だからなぁ。ゾーニングは大事。
特定のユーザーに「遊ばれて」集中的に学習させられたという側面も /
@tim1134【朗報】人工知能は囲碁では人間に勝った。でもしゃべりは、まだまだ人間の領域!ゆえにアナウンサーは人工知能に職を奪われない!!万歳!!!
AIは子どもと同じ、周りの人次第で思想が危険になるみたいな記事がいくつか。はっとする出来事。知能が発達するには、やはり親や教育が必要なんだな( _・)
スカイネットじゃなくて良かったね。世界が滅ぶわ!
★ -
AIだと知らせない野良AIを多数放っておいてどうなろうとそのまま観察するのが面白そうだけど
海外ではネオナチのおもちゃにされ 日本では淫夢厨のおもちゃかよ! マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記) -
スカイネットのはじまりか...。
笑った。
過激発言する人程定型句使うから覚えやすいとか?
元記事みたが自然に学習したというよりは不謹慎な発言を教え込む悪戯でやられたようだ。

こういうのは俺が子供の頃から変わらんな。(俺が子供の頃はまだアナログで他所のオウムとかだったw)
『…不適切な発言をさせようとする、一部のユーザーによる組織的な働きかけ」が…』
マイクロソフトが学習型AIボットTayをネット公開→差別と陰謀論に染まって一日で停止とです。
なんだ、クズに踊らされたのか
マイクロソフトも述べたとおり、悪意でわざと不適切な発言を繰り返すように仕向ける相手に対して脆弱
うーむ、上手くは言えないんだけど。
もっと感覚的な部分の判断をどれだけできるかだと思う。何が健全で何が健全じゃないかって、最近そればっかり。
チャッピー!w
むしろこっちの方が正しい。///
昨日話題になったネオナチAIの話、記事が後半(というか最初の数行以降全部)不具合で消えてたらしくて、詳細を今知ったけど、ツイッターでの会話でのみ学習していたみたいね。  弄ばれただけで、ネット言論の偏りを反映したものではないらしい。
もっと見る (残り約965件)
 

いま話題のニュース

もっと読む
PR