TOP > IT・テクノロジー > WIRED > 学校の授業時間再...

学校の授業時間再編を巡る騒動から得た、人工知能にまつわる重要な視点:伊藤穰一|WIRED.jp

44コメント 登録日時:2019-02-10 19:57 | WIREDキャッシュ

ボストン公立学校の授業時間がアルゴリズムに基づいて変更され、不満を覚えた一部の保護者が強く反発する出来事があった。始業や終業の時刻、スクールバスの運行スケジュールを学年に応じて最適化...

Twitterのコメント(44)

MITがAIを使って授業の時間割を最適化したら猛烈な反対運動が起きたというJoiの話。シンギュラリティ時代のラッダイト運動。最適化に「資産額」を織り込んでいたというのも興味深い… >
やはり人の"思いやり"が鍵ということかな。→ @wired_jp
「グリーンは自動運転システムについて、社会の大半が事故の際に多数の歩行者を救うにはクルマの搭乗者を犠牲にするといった人工知能(AI)の合理的な判断を支持する一方で、自分はそんなクルマは買わないと考えているという矛盾を指摘したのだ。」
おもしろい。
面白いなこれ……/ >電子メールには丁寧な口調で、わたしが「事態の全容をつかめていないのではないか」と書かれていた。
《白人を中心とした裕福な世帯で構成される反対派の保護者たちが、低所得層の家庭を助けるために自分たちにとって有利な既存の時間割の廃止に賛成するかどうかはわからない。》

@wired_jp
AIに価値を与えられるか、AIのできない価値を身に付けるか…が必要になるかもなぁ。 | @wired_jp
長文だが良記事→
(原因は人間が政治バイアスを加えているせいで人工知能はなんの関係もないな)不満を抱いた人々は変更中止を求めて市庁舎に押し寄せた。スクールバス改革は頓挫し、BPSとMITのチームの努力も水泡に帰した / "学校の授業時間再編を巡る騒動から得た、人工知能にまつわる重…"
disclaimer がマイナーなのはどこも同じようだし、機械に妥協を強要されることを嫌がるひともいる。

@wired_jp
アルゴリズムで時間割とスクールバスのダイヤを最適化しようとしたら、十分な説明がなかったため、変更で不利益を被る層(裕福な世帯)に反対され水泡に帰したという話。 @wired_jp
@wired_jp

だから意思決定にも影響する
@wired_jp
アルゴリズムを使えば、システムを公平かつ合理的なものに改良することができる。ただ、それには人間の側の協力も必要
日本は「全部お任せ」で「ブラックボックス」が好きだから,それほど反対も起きずに従順に従うのではないか。

@wired_jp
資産による差別が隠された計画で、より議論が容易になるアルゴリズム否定が持ち出されてプロジェクトが潰れた。本意が隠された政策でも不利益になる人々が反応したのが凄い。→  @wired_jp
とても興味深く読んだ >>  @wired_jp
学校の授業時間再編を巡る騒動から得た、にまつわる重要な視点:伊藤穰一 @wired_jp
テクノロジーはどんどん複雑になっているが、そのおかげで、わたしたちが社会をつくり変えていく能力も強化されつつある。同時に、合意形成やガヴァナンスといったものの力学が変化している。

学校の授業時間再編を巡る騒動から得た、人工知能にまつわる重要な視点

伊藤穰一
MITのJoi氏いわく(意訳)「優先順位さえ決めれば、複雑な諸条件の組み合わせをアルゴリズムで最適化することはできる。むしろ難しいのは、そうした優先順位の意義を関係者に周知し、最適化後不利益を被る人を納得させるプロセスだ」すごく古典的な政治の話のように思える
難しい問題について合意形成するためには、その問題を相応に理解することが必要。なんでもそうですが、対話や説明、関係性の構築など、丁寧さが必要だということを最近強く感じます。。。
:『公共のルールづくりにおいてテクノロジーをどのように利用すべきか、...重要な視点を与えてくれる...。どうすればアルゴリズムを適切に活用できるのかという問題について、...。』

学校の授業時間再編を巡る騒動から...:伊藤穰一 @wired_jp
とてもおもしろいエピソード。テクノロジーやアルゴリズムによって導かれる最適解。それがどんなに合理的であっても、人を動かせるとは限らない。

貴重で重要な教訓だと感じた

@wired_jp
面白い。末尾の人間の協力もそうだが、事前の制約条件の考慮漏れに尽きる/ @wired_jp
「現在は民主主義にとって暗澹たる時代であると同時に、人間がテクノロジーを制御しきれなくなるのではないかという不安が増している」「わたしの体験した一連の出来事から、どうすればアルゴリズムを適切に活用できるのかという問題について、より深い理解を得られるはずだ」
すごく大事な話。AIが使われる以前からある。ブラックボックス化するITのロジックを、人がどこまで受け入れられるかは、導入プロセスが重要になる。

@wired_jp
@wired_jp

全員が平等になるようなアルゴリズムを組んでも、その意義やメリットを理解されていなければ現行システムで利益を得ている層の反対で計画はあっけなくポシャるという話。重要。
「保護者たちの抗議運動がニュースで報じられたときには、個々の変更がなされた理由や、そもそもなぜ時間割を刷新するのかという俯瞰的な視点は失われてしまっていた」
「グリーンは自動運転システムについて、社会の大半が事故の際に多数の歩行者を救うにはクルマの搭乗者を犠牲にするといった人工知能(AI)の合理的な判断を支持する一方で、自分はそんなクルマは買わないと考えているという矛盾を指摘した…」
@wired_jp
> 問題は、大局的な視点から個人という立ち位置に移ると、人々は急に身構えて文句を言い始めるという点だ。

ウッッッ
現在の条件はそのままに分配を変えて全体最適を求めると不利益を被る人が必ず存在するという話かな。
伊藤穰一「これから書くことは、公共のルールづくりにおいてテクノロジーをどのように利用すべきか、またこうしたルールの影響を受ける人々からのインプットを政策づくりにどのように反映していくべきかについて、重要な視点を与えてくれると思う。」
面白そう。メディアラボの広報から論文を探せば、問題の構造と解決策はみられるのかな?
WIRED★
ITテクノロジーを活用する合理性、利便性と、そこからこぼれ落ちるリアル社会との葛藤。平板では無い様々な差異がある社会だからこそ、その因子をアルゴリズムに埋め込みたくなる陥穽🤔
合意形成の力学の変化か…。まさに"ジェネレーションギャップ"と呼ぶべき"壁"の様だ。/ @wired_jp
AIがベンサム的な最大多数の最大幸福を計算できたとしても、政治的調整ではナッシュ均衡解しか受け入れられないのであれば、最初からナッシュ均衡解を求めるか裕福層が不利を受け入れる政治過程を組み込むしか / "学校の授業時間再編を巡る騒動から得た、人工知能にまつわ…"
全体最適のために部分(個人)はその利便性を捨てるか?結局AIといってもそこですわ。大変興味深い( ・ω・)

@wired_jp
社会的多様性確保や男女の役割平等の要請、高齢化過疎化に直面する地方のあり方など、利害対立を招く課題を抱える我が国において、政策立案、誘導プロセスを考える上で、貴重な示唆をもたらす論考
どれだけ説明しても,自分にとって不都合な決定が少しでもあれば猛抗議する連中はいるからなあ……: 学校の授業時間再編を巡る騒動から得た、人工知能にまつわる重要な視点
アルゴリズムでルールを決めた場合に起こる先行事例。"問題は、大局的な視点から個人という立ち位置に移ると、人々は急に身構えて文句を言い始めるという点"→ @wired_jp
全ての人の要求を満たすことは難しい。バイアスがかかっている。最終的な合意形成に人間が関わらないといけないということです。

@wired_jp
ロボットに対する妬みってw

@wired_jp
AIのアルゴリズムは学校の授業時間やスクールバスの運行スケジュールに対して最適解を提示したはずだったが、強い反対運動が起きた。しかし良く調べると反対しているのは全体の15%の裕福な白人家庭だった。
以上

記事本文: 学校の授業時間再編を巡る騒動から得た、人工知能にまつわる重要な視点:伊藤穰一|WIRED.jp

関連記事