TOP > 科学・学問 > 数学博士が語るAIの正体 仕組まれたアルゴリズムの罠:朝日新聞デジタル

数学博士が語るAIの正体 仕組まれたアルゴリズムの罠:朝日新聞デジタル

91コメント 登録日時:2019-11-07 18:39 | 朝日新聞デジタルキャッシュ

 この顧客は金を落とすのか。この学生は内定を辞退するのか。個人の膨大なデータから人工知能(AI)が将来の行動を予測するシステムを、企業があらゆる場面で使い始めている。数学者のキャシー・オニールさんは、…...

Twitterのコメント(91)

・米国は収集データをどんどん使っている
・欧州や日本はプライバシー優先

倫理側面も必要とは思うけど、多くの広告はGPSや購買データをとっくに利用してるんだよなぁ…知らない人が多いだけで。
奨学金関連の閲覧履歴から、経済力を推測して入学、選考に利用するなんてあるのか。
「ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。」米国の話とのことだけど。
「ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです」
ツイッターの時間を参考にされたらまずい笑
“米国ではもっとひどいことが起きています。ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです”
まぁそうなんだろうな…。

>ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです。
"米国ではもっとひどいことが起きています。ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです。学長が気にするのは、カネと大学ランキング"
「日本人はプライバシーについて、米国より欧州に近い考え方をしているのですね」なるほどそうなのかもしれない。戦後は色々だけど、明治以降結構欧州を見ているのは確か |
偉い人の事を妄信する者がいる様にAIもなる可能性があるし、悪用するものもいるし、そもそもAIの成功は人間の幸せではなく金儲けだと定義される。 →
キャシーオニール/
2019/11/7 @mathbabedotorg Isn’t there anything scheduled around Tokyo? Like a public lecture or whatever.
データサイエンティストで数学者のキャシー・オニールさんは、AIの犯罪予測に従い、犯罪率の高い地域を重点的に警察官が見回ると、結果として黒人が多く住む地域と重なることがあり、黒人が逮捕される確率が上がると警鐘を鳴らす。
価値観問題そう😞
「考え方はシンプルです。成功に導くパターンをデータ分析によって探すのがAIです。ここで大事になるのは、その『成功』を誰が定義するかです」
欧州 VS 巨大多国籍企業(米中)という新冷戦構造みたいだな
プライバシーや個人情報を収集、活用するか
守られるGDPRを普及するか
バカがAIを造るから、バカなAIが完成してこのようなことが日常茶飯事となる。
米国えぐ
一番恵まれない人が幸せに生きられるかどうかという視点で、定義すべきだという考え方もあるでしょう。それは本来政治が判断すべきことです。AIが恵まれない人を助けるために使われるのか、あるいは自己責任を問い排除するための道具になるのか。(本文より)
ほんとこれ。

"考え方はシンプルです。成功に導くパターンをデータ分析によって探すのがAIです。ここで大事になるのは、その『成功』を誰が定義するかです"
全然関係ない話なんだけど、この数学博士の方の写真を見てC-C-Bを思い出した >
「AIに英知はありません。『何が正しいのか』は、AIが決して触れられない領域なのです」
>「米国ではもっとひどいことが起きています。ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては(中略)貧しい子はいらないということです。
「ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。・・・学長は企業におけるCEO(最高経営責任者)と同じ論理で動き、教育という視点が失われています」
わぁぁ…。
まあ、リクルートもたいがい酷いけどな!

"米国ではもっとひどいことが起きています。ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。"
朝日新聞デジタル

キャシー・オニール インタビュー
聞き手:浜田陽太郎、高重治香


......学長が気にするのは、カネと大学ランキング。
11/7朝日:
金が全て。
"米国ではもっとひどいことが起きています。ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです"
「米国の企業だったら、変えなかったと思いますね。メディアの批判など、みんなで無視すればこわくない。そんな態度です」
えげつない。
ついに来た超管理社会→「良い社会かどうかが、経済成長しているかで決まるならば、AIのアルゴリズムは効率優先になります。でも、一番恵まれない人が幸せに生きられるかどうかという視点で、定義すべきだという考え方もあるでしょう。それは本来政治が判断すべきことです」
この数学者見ていったいどこの何mishかと思った人挙手🍕
「AIの犯罪予測に従い犯罪率の高い地域を重点的に警察官が見回ると黒人が住む地域と重なる。黒人が逮捕される確率が上がる。データにより再犯率が高く予測され刑期も長くなる。社会復帰が難しくなると再犯の可能性が高まる。負の循環が生まれAIの予測は正確だと思える」
「60年後のビリー・アイリッシュ」みのあるビジュアル。記事は
AIが強力な道具であるばかりに人間が理性を失うのは、凶器を持つと狂暴になる人が居るのと同じ理由でしょう。「AIが悪くない」というのは短絡的でダメで、手動でも倫理的な法規制は必要かと。
疑うわけではないですが、奨学金のくだりは本当なのかな?? ⇒
学長は企業におけるCEO(最高経営責任者)と同じ論理で動き、教育という視点が失われています(引用)
そりゃやるだろうねぇ。
「受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということ」
資本主義としては合理的
学歴とコネがなきゃやっていけないアメリカならではともいえるけど日本含め世界ではどうかな?表立っていわれてないだけでまだ階級文化が根強いところは沢山ある
良い記事。目的を定義しているのは人間だ、という点がもっと広く認識されますように…→
「未曽有の少子高齢化は、過去のデータがないでしょう? それをAIが解決するなんて考えられません」
これは早く理解しておくべき。成功の定義をつくるのはAIではない。
高木浩光氏がクロ現で指摘していた「マイクロ差別」が既にゴリゴリに実装されている事実に驚愕している。いつの間に取られたデータをもとに現状の差別や偏見に大いに基づいた分析で、自分の評価や選択肢や未来を決められるのは野放しにしていい訳がない
民営化する、というのはメリットもある一方、より多くのカネを払う客を選別する、という側面も当然あるわな。教育の機会は誰にでも広げられる門戸であるべきではないのか。
"ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです。学長が気にするのは、カネと大学ランキング。……教育という視点が失われています"
米国の事例が凶悪過ぎ。

“ある大学は受験生が奨学金のサイトを閲覧した時間を合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということ”

金儲けしか考えられない社会になったということは人類滅亡に大きく踏み出したということ…。: :
こうした事件は突飛な、悪どい、最近の技術が可能にした商売のせいなのではなく、むしろ資本制の日常である
・・・これに、思考(内心)の盗聴が組み合わされたら、社会派大混乱に陥るだろう。思考はすでに実用的に読み取れるのだ。
AI社会になることへの不安が我にあり。AIなんかに指図されてたまるかという人間の意地もあり。それ以上に頼りすぎる社会が人間に対して予測という形の偏見を正当化してしまう怖さもあり。
ピタッと来た例。...
テキトーに選択して、SNSで適度に嘘ついてる僕勝利案件
AIは疑似相関と相関の違い、相関なのか因果なのかの推論を人間のようにできるのか?
就活生の内定辞退率をビッグデータで算出し企業に売る――。米国でも受験者の奨学金完済率を予測算出し合否に反映した例が。中国は個人情報のビッグデータ活用をどんどん進めるし融資審査への転用も。テキストマイニングでネット発信の言葉遣いから個人を特定することも可能。
ここ、大事「AIは単なるプログラムのコード」プログラム作成者の倫理観が反映される、ということ。出したい結論になるようにね。だからリアル_も_直観_も_大事。▼
この顧客は金を落とすのか。この学生は内定を辞退するのか。個人の膨大なデータからAIが将来の行動を予測するシステムを、企業があらゆる場面で使い始めている。
“リクナビ…就活生の同意を得ずに内定辞退率を予測…企業に売った…「米国…もっとひどい…ある大学…受験生が奨学金のサイトを閲覧した時間…参考…貧しい子はいらないと…企業…と同じ論理…教育という視点が失…」”
朝日の関係者はこれから大変だな~
有識者なんていう反日ばよくもハッタリが効かなくなるぜww
こんなこと、わざわざ指摘されなくても解かることでは? それよりもこの数学博士の外観が非常に気になる。
全てを数値化されて、数字で合否を判断するなら、本当の良さは分からないよね⇒
すごいな…
「米国では(…)ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです。」
寒気のする話。「自分は恥ずべき人間だ」と思うように仕向けられていく世界。AIに叡智なし。|
「日本人はプライバシーについて、米国より欧州に近い考え方をしているのですね」
 ――どういうことですか。
 「米国ではもっとひどいことが起きています」
“「AIに英知はありません。『何が正しいのか』は、AIが決して触れられない領域なのです」”

読んでて怖くなった。
「AIに英知はありません。」そりゃそうだ。作り物だもの。少なくともAI勃興期の今にそれがあると思ってる人のほうが私はびっくりする
「良い社会かどうかが、経済成長しているかで決まるならば、AIのアルゴリズムは効率優先になります。でも、一番恵まれない人が幸せに生きられるかどうかという視点で、定義すべきだという考え方もあるでしょう。それは本来政治が判断すべきことです」→
この表現が気に入った。
「ウェブサイト上でデータの利用に同意を求められているということは、企業から『ビジネスの提案』を受けていると理解すべきです」
>「たとえば糖尿病になるかどうかは自分ではコントロールできない要因が多々あるのに、『あなたの恥ずべき選択の結果です』と自己責任にするために利用されかねません。その方が支配者側にとって都合がよいからです」
メモ:「考え方はシンプルです。成功に導くパターンをデータ分析によって探すのがAIです。ここで大事になるのは、その『成功』を誰が定義するかです」
「米国ではもっとひどいことが起きています。ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです。」

リクナビの内定辞退よりも酷い
「AIに英知はありません。『何が正しいのか』は、AIが触れられない領域です。AIをつくるのは人間であり、その価値観が反映されます。私たちは権利を主張して疑問を突きつけていかねばなりません」
昨日のキャシー・オニールさんのインタビューの少し長いバージョンです。
これ陣内孝則のコスプレだよね?違うの?それはともかくAIにもアシモフのロボット三原則みたいな奴はあるんだろうか?外部からの教育型じゃなくて自発的成長型だと反乱とかありそうだよな。
同意。過信 (盲信?) せずに、どう使うか、と、自分の行動データが、どう使われているかを考えることも大切ですね。> 「AIに英知はありません。『何が正しいのか』は、AIが決して触れられない領域なのです」> 2019-11-08 朝日新聞
読みごたえのあるインタビュー記事。
>
米国では、学生や医療データを保護したり、健康診断による採用差別を禁止したりする法律がすでにあります。問題は、法律が無視されている上に、AIが脱法的に機能しても人間にはわからないことです。
これは読む価値あり。
「金融商品の開発には数学的なウソがあることが分かりました。リスクを覆い隠すようにアルゴリズムが仕組まれていたのです。」

これはこれで問題。他はAIによる偏見というより、人間の偏見。
AIに英知はありません。『何が正しいのか』は、AIが決して触れられない領域なのです
キャシー・オニールさんインタビュー/
「AIが恵まれない人を助けるために使われるのか、あるいは自己責任を問い排除するための道具になるのか。」
まさに「敵にわたすな 大事なリモコン」(鉄人28号)
見ておいたほうが良い情報ですね
途中に「これファイトクラブじゃん」って話が混じっていたな
AIの予測は正確だと思えてしまうのです。これが『AIのわな』です」
この顧客は金を落とすのか。この学生は内定を辞退するのか。個人の膨大なデータから人工知能(AI)が将来の行動を予測するシステムを、企業があらゆる場面で使い始めている。
そろそろ統計システムを人工知能と呼ぶのは止めた方がいい。
至極もっとも。
以上

記事本文: 数学博士が語るAIの正体 仕組まれたアルゴリズムの罠:朝日新聞デジタル

関連記事