TOP > ネタ・話題 > 「差別をAIに植え付ける」としてMIT研究者らが大規模なデータセットをネットから完全削除 - GIGAZINE

「差別をAIに植え付ける」としてMIT研究者らが大規模なデータセットをネットから完全削除 - GIGAZINE

20コメント 2020-07-02 14:20 | GIGAZINEキャッシュ

近年は人工知能(AI)が差別や偏見を行う可能性が危険視されており、「人工知能アルゴリズムを用いた画像生成が差別を行っている」とFacebookの人工知能部門におけるチーフ研究者が多くの非難や攻撃を受け、Twitterアカウントを停止する事態にもなっています。ニューラルネットワークを訓練する過程ではデータセットが用いられますが、このデータセットが差別の原因となっていると...

ツイッターのコメント(20)

「10年以上使われてきた大規模なデータセットが研究者自身の手によって削除されました」 |
"データセットを元に学習を行うという仕組み上、AIはデータセットに含まれた差別や偏見をそのまま受け継ぐ可能性がある"

今後は学習を進める上で、この観点も考慮が必要なんですかね
IBMが6月、顔認証から撤退
反対なんですよね。データセットからAIが特徴量を検出した結果、なぜデータになったのかという背景が明るみになっただけだと思うんですよね🤔それが差別なのか区別なのかはさておき
ちなみにこちらの記事だと「800億枚」という記載があるがさすがにそんなにない(80 million)。
で、一体どこの誰がリベラルなデータセットを作るのかね。MIT内部ではホワイト達が変わらずこのデータセットを使うんじゃないのか?
えっ80 Million Tiny Images消したの??? はぁなんだこの魔女狩り???
「人間の差別を反映しないデータセットの作成が重要視されています」
か…
完全に差別をなくすのは無理なので、絶対ダメなレベル/許容できるレベルみたいなレギュレーションを作る必要があるってことだと思っている。
>AI自体は差別や偏見を自身で作り出すことはありませんが、データセットを元に学習を行うという仕組み上、AIはデータセットに含まれた差別や偏見をそのまま受け継ぐ可能性がある
差別をなくすために魔女狩りみたいな恐慌状態にある気がする…
データセットを削除って‥‥
AIは神ではないので、人間同様に何かから学ぶしかない。何に学ぶか、誰に学ぶかによってAIの傾向は変わるだろう。
800億枚の画像を使った「Tiny Images」。何千もの画像がアジア系や黒人の差別用語でラベル付けされており、女性を説明するのに不適切なラベルも使用されていた。
「ありのままの現実」を学習したAIと「あるべき理想的な世界」を学習したAIの二通りを作って使い分けた方が良さげ。
ありとあらゆることを教えてダメな事を教えたら良いんじゃないの?
人の知能は元より何かの差別化のために生まれたもの。
そこに似せていく以上、差別などなくすことは不可能。
そこまで言うなら優秀なプログラマブルアンドロイドを作れ。
かたや中国はプライバシー無視でデータ集めまくるのにね。AI 技術は中国が先行してしまうかも。
近年は人工知能(AI)が差別や偏見を行う可能性が危険視されており、「人工知能アルゴリズムを用いた画像生成が差別を行っている」とFacebookの人工知能…

【出所:GIGAZINE 厳選】
先進的と言われた技術が本格的にマジョリティ層に入った感あるよなぁ
うーん、、、
無意識含めた人間の既存の認識のバイアスから完全にニュートラルなAIなんて作れるの?っていうか「偏見から完全にニュートラル」を定義できるの?
以上
 

いま話題のニュース

PR