(思考のプリズム)AIのバイアス問題 人間を「機械」にする罠 伊藤亜紗:朝日新聞デジタル

 AIのバイアスをめぐる議論が世界的に盛んになりつつある。バイアス、すなわち偏見や差別のことだ。 周知の通り、AIは膨大なデータを学習することによって、判断を下すことができるようになる。人間は現実の世...

ツイッターのコメント(11)

横断歩道以外のところを渡る人もある。AIには〈その人だけの世界〉を理解できるか?
善悪についても機械的なジャッジの仕方が増えていることの反面教師か。

>>
>そう、人間とは、横断歩道がなくたって道を渡るような自由な存在なのだ。
伊藤亜紗さん @gubibibi
「生きているということは、パラメータに還元できない、その人だけの世界を持っているということだ。そのことを忘れて現実と記述を同一視してしまうと、多様性を目指していたはずが、人間をステレオタイプに固定してしまうことになる。」
横断歩道のない場所で道を渡る人がいることを、自動運転のAIが想定していなかったら、私たちはどうするだろうか。伊藤亜紗さんがAIが発達した未来について考察します。
(思考のプリズム)AIのバイアス問題
面白かった。AIに人間の多様性を学習させるか、それとも人間がAIの判断内に収まる画一的な存在に変化していくか。
——-

(思考のプリズム)AIのバイアス問題
生きているということは、パラメータに還元できない、その人だけの世界を持っているということだ。そのことを忘れて現実と記述を同一視してしまうと、多様性を目指していたはずが、人間をステレオタイプに固定してしまうことになる。
本日の朝日新聞に寄稿してます。先日の先端研シンポでUCバークレーの中村かれんさんも触れていたAIのバイアス問題。NY大のAI NOWが出してる白書が充実してて、この記事を書く上で参考にさせていただきました。
(思考のプリズム)AIのバイアス問題
(思考のプリズム)伊藤亜紗さん1

人間は現実の世界の中で学ぶが、AIにとっては与えられたデータがすべてだ。データに偏りがあれば、偏った判断を下すAIになってしまう。結果として、人間の社会に含まれる偏見が、写し鏡のように、AIに移行してしまうことがある
続く
「目の見えない人は世界をどう見ているのか」にも現れていたけど、なんか当事者では無い人ならではのエッセイだなこれ。
人間の機械化は別に恐れちゃいない、機械に選別された結果苦痛が生じる事をどうするかが問題なんじゃ無いの?
AIのバイアス問題 
「『Woman』という言葉が入っている履歴書を低く評価する傾向が明らかになったのだ。アマゾンは全社員のうち約6割が男性だ。このジェンダーバランスに倣ったために、女性を差別する採用システムができあがった」

特任准教授の「過学習」を想起w
以上
 
PR
PR