TOP > IT・テクノロジー > WIRED > トロッコ問題とは...

トロッコ問題とは何か? 自律走行車は「人を守るために人を殺すこともある」|WIRED.jp

40コメント 登録日時:2017-03-20 17:11 | WIREDキャッシュ

2017.03.20 MON 16:00 トロッコ問題とは何か? 自律走行車は「人を守るために人を殺すこともある」 人工知能が制御する自律走行車は、人間が運転するクルマよりもはるかに安全で、交通事故も大幅に減るだろう。しかし、そのテクノロジーを本当に社会に導入すべきかという議論においては、いわゆる「トロッコ問題」が検討されなければならない。 たとえば、大通りで自動車を走らせているときに、...

Twitterのコメント(40)

「ほとんどの人間が群衆を助けるために自分の命を犠牲にすることを選ぶだろう。しかし、(自律走行車が)搭乗者である自分自身を殺す決断を下しうることを知っていれば、ほとんどの人間はそんなクルマは買わないだろう」
「トロッコ問題」か。。。。進化し続けるAIに対し、最終決断を下すのは人間だもんなあ。 /
〈アーカイヴ記事〉
先の運転支援機能を搭載した日産のミニバン、セレナが黒塗りの車に追突した件からも現実味がある話 /
とは何か?
「...というケースが考えられるので動作テストを行いたい」 諸葛亮「他にすることはないのですか?」 /
恐らくブレーキよりAIのプログラムのほうが故障率が高いだろう… / サイドブレーキ /
「まともな考えをもった人間なら、もちろん前者を選ぶだろう」とあるけど"まともな考え"とは何なのかを問うのがトロッコ問題の本質だと思うのだけど。 /
「人間のほうは、ロボットカーに付随する倫理的課題を受け入れる準備ができていないのだ」 教習所で教えたらええんちゃうん /
確かにこれは難しい問題だな。買うときにどう説明されて、自分はどうするのか見当がつかないな。 -
ロボットカーを「買う」「所有する」ものだとするからオーナーのオレを死なせるのかなどと考えるのであって、「借りる」「乗せてもらう」ものなら通行人も搭乗者も平等で片付く /
倫理的なことを法律化するのは難しそう。個人で選べるようにするのが現実的なのかも。 /
こんな、人間でさえも対処不能な極端な条件で自動運転AIを考えて何になるだろう。1.車内の人間を優先 2.車外の人間を優先 3.車内外の合計の死傷者を最小にする、の3択しかない。利他行為とかの命題はただのノイズ。 / "トロッコ問…"
保険でカバーでいいじゃない /
ロボットが起こした事故の責任を「製造者が負うのか/運行責任者(オーナー)が負うのか/乗客(無人タクシーの客)が負うのか」だけ決めれば、トロッコ問題で誰を殺そうと大した問題ではない /
体面と本音の部分っていう。選択肢として提示された時にどちらを選ぶかと、本当にそういう状況に陥った時にどちらを選ぶかは全然別。 /
舌足らずな説明だが問題が存在してるという事自体、取り上げられることは稀だからなあ / /
ブレーキが壊れた車に乗っていた人間の運が悪かった。
だから自損事故。
が納得いく答えかな。
でもそんな車売れないよな。
他人を巻き込んででも自分が助かりたい人の方が多いと思う。
プログラムは実装次第でどっちになるか分からんけど、人間が実際に運転していた場合は、自分を守るために児童の列に突っ込む方が多そう。 ->
被害を最小にするロジックにするとか…。 |
そもそも判断するポイントを設定しないと処理動かないけどね /
"(自律走行車が)搭乗者である自分自身を殺す決断を下しうることを知っていれば、ほとんどの人間はそんなクルマは買わないだろう"

言われてみると確かに。運転アルゴリズムを法規制すればここ単体は何とかなるが、全体として難しい問題だな
なんでこういう例えを使いたがるかなぁ、しかしw /
普通の人間なら自分は死んでも子供達を守るだろうし、AIもその正しい判断をするだろうって、この決め付けは何なのか。そこに正しさなんてないというのがトロッコ問題なのだが。。。 /
"まともな考えをもった人間なら、もちろん前者を選ぶだろう" 人間がまともだといつから錯覚していた? /
これ この記事は、ここまでは争いがないにしても、というように「それって機械に『このような場合は運転手を犠牲にしろ』って事前にプログラムすることだよ」とひねっていて、面白い問題かはともかく、倫理学の問題としては成立してると思う。
大丈夫かこの記事…。
ちなみに記事の質とは関係ないが、私はこの問いだと自分の命を救うために子供の群れを薙ぎ払うな間違いなく。
滑走路上にいる除雪車を銃撃するべきか否か的な話か。 /
トロッコ問題は、人間の道徳心に一貫性がないことを説明するための例え話であって、その問題の根源は人間自身にある。なぜ人工知能の問題にしたがるのか理解しかねる。>
「火山の火口に落ちたら焼死する」ぐらいに「道路に出たら轢殺される」という認識が広まればいいだけなんじゃないの /
「米国だけでも、毎年30,000人以上が交通事故で亡くなっており」←そんなに多いんだ。いざというとき自分が死ぬ(とプログラムされている)装置なんて誰も使わないぞ。 /
心に寄り添わなければ成し得ないエンジニアリングがある>
自動運転のこの命題に限らず、問題はAIにどういう選択をさせるかよりAIが選択した結果起きた事象に対して誰が責任を取るのかじゃないかな
まともな人間などいない!
そして多くの人間は自分は間違いを犯すことはないのだと信じ切っているのだ
自動運転がもし完璧だったとしても、商品として不完全だと思うんだけどなあ
事故が減るならその選択肢もやむ終えないのかな。
ほんとは両方助かる方法があればいいのに。
WIREDの記者的には、「子供集団 VS 自分の命」なトロッコ問題が起きたとき、自分を犠牲にするのが「まともな人間」らしい。個人意見としては構わないけど、人間のあたりまえとするのはどうなんだろう。AI倫理の話ならなおさら
以上

記事本文: トロッコ問題とは何か? 自律走行車は「人を守るために人を殺すこともある」|WIRED.jp

関連記事

画像で見る主要ニュース