TOP > IT・テクノロジー > 死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった:調査報告から明らかに|WIRED.jp

死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった:調査報告から明らかに|WIRED.jp

78コメント 登録日時:2019-11-07 11:25 | WIREDキャッシュ

Uberの自律走行車のテスト車両が道路を横断していた女性をはねて死亡させた2018年の事故に関して、新たな事実が調査報告によって...

Twitterのコメント(78)

先進国の中で横断歩道以外の車道を渡る歩行者が多い国、それは、日本である。
×ずさんな管理
○撥ねられるべき違法歩行者が撥ねられた

とは言いつつも、飛び出した子供を助けるために飛び出す大人もいるよなぁ……とジレンマに陥ってる。
アホなシステム設計者は、多々いるので地上では、このようなことが起きる。
「死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった   」
ワロタ
なんじゃこりゃ
想定していなかったって

死亡した歩行者や車両を
現場から速やかに撤収し
事故渋滞や通行止を
発生させないシステムを
開発された方がよろしいのでは
そうそう、道路の構造とか、環境が一律じゃないから困難だと思う
うちの車も衝突防止システムあるけど特殊な道や駐車場の場合回避できずボコってる((T_T))
@wired_jp
何か分からないものなら当たりに行くのか…?
こんなの使えないだろう。
---
@wired_jp
論外。で、あっちゃならない。
日本の自動車メーカーじゃ考えられないな。
自動車メーカーの基準はやはり厳しくあるべきだな。
笑えない。

@wired_jp
ずさんに設計し、人が死んでから修正する。完璧になるまでに何人殺すつもりや。
人間の運転より自動運転の方がよっぽど危険。
自動運転で公道を走る難しさよね(; ・`ω・´)
これだと道路上でカラーコーンのみで工事してても突っ込んでくるわけで
誤作動との兼ね合い考えれば専用道路以外の自動化は無理なんじゃなかろうか
このままでもよくない?


@wired_jp
@wired_jp
これは設計者も想像足りなかったけど、それ以上に安全オペレーターがよそ見してたのが原因でしょ、、、、、これで全米中の研究遅れたし、
@wired_jp
「人」を排除すれば解決さ!を地で行ってくれるとは…
・・・運転手がHuluを見ていたとは書いてないけどガセなのか隠蔽なのか気になる
@wired_jp 未だにロボット三原則を徹底できていない?
@wired_jp
この分では信号無視も逆走も想定してなさそう
「テスト車両に搭載されていたソフトウェアは、横断歩道以外の車道を渡る歩行者を発見できるようには設計されていなかった」 @wired_jp
これは致命的な欠陥…
自立走行車はあくまで通過点に過ぎず、自動車自体の必要性を無くしていきたい。

@wired_jp
へ?それを想定していないって・・・?

@wired_jp
「人間でも無理」は実はあまり正しくなくて,Uberのプログラムも自己被害者を衝突の5.6秒前には補足しているし,(命令の重複を防ぐために)オフにされていたボルボ純正の安全装置ならむしろ停止していたとまで指摘されているんだよな.
📄死亡事故を起こしたUberの自動運転車は、「車道を渡る歩行者」を想定していなかった 💬 >シス.
自動運転技術の前に人間の頭の悪さをなんとかしないとな。
まあそんなことは前々からわかってたけど
新しい技術の実証実験で『起きるべくして起き』てしまった事故だと思う。安全装置として運転席に座っていた人は、日本だったら『業務上過失致死』かな。 死亡事故を起こしたUberの自律走行車は「車道を渡る歩行者」を想定していなかった:調査報告から明らかに @wired_jp
@T69683759 @mytyltyltyl 記事間違えてました。
横断歩道のところだけ人間を関知する方が難しくないのかな。よくわからんな。
この事故自体は人災だろう。そして、今後も自動運転車は人をひき殺し続けるだろう。
だが、それで自動運転車を不可とするのはおかしい。それなら人間が自動車を運転するのも不可としなければならない。
自動運転車の事故率が人間と同等か低くなれば、許可すべきだろう。
アメリカ「横断」史

人はどこでも横断できた➝自動車登場➝人が次々と轢かれ社会問題に➝そうした横断をjaywalk(田舎者歩き)との呼称で非難するキャンペーンを自動車産業が展開➝jaywalkが違反に➝横断歩道以外での人の横断を想定しないUberの自動運転車が死亡事故を起こす
文大近くは走れませんねぇ
@wired_jp
@wired_jp   あぁなるほど「2018年の事故」と書いてあるや
テストの段階ではあるけど、せっかくの安全装置を切るわ、ドライバーが一切前を見てないとか、全然ダメダメですがな
死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった:調査報告から明らか

こわすぎる
いやまぁイケイケドンドンなやり方だから遅かれ早かれこうなるよね…
石橋を叩いて壊して安心する自動車メーカーにはできない芸風
なんたって1発アウトだもんね…
@wired_jp
システムの設計以外にも不幸が重なったパターンだけにAIそのものへの不信は行き過ぎと思ってしまう。
@wired_jp
種車のボルボの安全システムを切った判断はやばいよな。各メーカーともうちの車を使うなって言わざるを得ない。
ネットで「運転手可哀そう」と言う事例を見かけるので「機械無罪」だと歩行者も死にたくないから気を付けるんじゃないかな。 / @wired_jp
時速70キロで車が走る車道を渡る歩行者はひき殺しても構わんと思うのだが。

@wired_jp
えっ⁉️二度見しました。
WIREDより
死亡事故を起こしたUberの自律走行車は
「車道を渡る歩行者」を想定していなかった
:調査報告から明らかに
×aiが悪い
○hulu見てた運転手が悪い
◎車が来てるのに止まってくれる事を前提で車道を渡るクソバカまんこが悪い

@wired_jp
Uber死亡事故「車道を渡る歩行者」を想定していなかった
で、システム改善はいいとして、事故発生まで何もしなかった「安全オペレーター」への対策が再教育と2名乗車ってなんかなあ(苦笑)
一般道の自動運転への道のりは遠いなあ・・・
アホすぎるやろ!
と言っても車道を堂々と通行するゾンビが満盈してる現状。
こんな奴ら人間と認識しなくても良いよな?

@wired_jp
「想定していない」は過剰な書き方だと思うけれど、データが少ない例外的な判定は難しいだろうし、例外的なことがある時にこそ事故は起きるものなー

死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった。
こんな感じの話。そもそもレベル3が限度だろうけど、細かい事やるといつまでもリリースできないからってのはあったんかもな
/ @wired_jp
アメリカ行ったことないから背景が分からんけど、車が70キロ以上出して走る道路って横断歩道もないところで横切る事はアメリカで許されてるのだろうか

@wired_jp
日本だとシステムの開発に関わったエンジニアが懲役刑になるイメージ。
@wired_jp
まぁシステムは間違ってないし正しいことなんだけどな…
「さらにUberは、ボルボ製の自律走行車に組み込まれていたボルボの衝突被害軽減ブレーキ(自動ブレーキ)のシステムを無効にしていた。」> @wired_jp
明らかな欠陥なのにもう実用化されてるんだ😱
だからロボット三原則を実装しておけって言ってただろ…

自律走行車とか違う物みたいに名乗ってるけどそれは「ロボット」だから。

アシモフ先生は本当先見の明があるなぁ。
歩行者だけでなく、突然突っ込んでくる自動車や飛来物などの回避も必要だろうに。

@wired_jp
エンジニアが「だって(テスト)サーキットでは、勝手に横断するバカはいなかったから」とか言ってしまいそうでヒヤヒヤする。

@wired_jp
まあ平気で道を渡る歩行者も悪いとは思うよ
横断歩道以外の歩行者に自動運転システムが対応していないって怖い。判断できずループ状態になった時点で減速とかもしないあたり残念ながら起きるべくして起きた事故だよなあと。
せめて既存の衝突安全システムにある機能は一揃い包括装備した上で公道での検証はして欲しい。
想定外なのはどっちだ。運転手の過失と開発側の重過失に見える
ソフトウェア自体は衝突の5.6秒も前に気づいていたのか。| @wired_jp
色々アレだが、最終的に衝突を確信した1.2秒前から自動で全力回避したら避けられたのかな…/
安全を軽視したUberはダメだけど、この設計が標準仕様になったら、車道横切る歩行者は激減するだろうなあ〉 死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった
UBER始め、自動運転の大きな大きな課題ですね。

しかし課題が明確ゆえ、技術は必ず進化していきます。

@wired_jp
これルールが足りない云々ではなく設計原理がだめ。矛盾する並列認知に対し最大リスクを最小化するコンフリクト解消の意思決定機構の設計思想がない!他社も同様か?
便利と安全を同時に求めると不自由(ルール)を受け入れないといけない
風呂場でスマホを触らない、柵を超えて自撮りしないとかね(死亡例あり)
Uber死亡事故「車道を渡る歩行者」を想定していなかった
コストを考えると何処まで想定させるかも大きな問題ですね。高速逆走やペダル間違いによる暴走や立体駐車場からの落下なども想定させると大変そう。→
前から言っているけれど、技術的に自動運転が実現しても事故は起こるだろうから、この手の話は今後ちょっとずつ姿を変えて世に出てくると思う / @wired_jp
@wired_jp

道端を眺めて歩行者がどう動いてるか
一日中観察してれば直ぐ気付くことすら見落とすって…
なんとまぁ
酷い話だ
運転手の怠慢やシステムの誤作動以前に、システムの設計自体に問題があったという指摘。7payのトラブルと共通するが、誰かは気付いてたと思うんだよね。 《ニュース》死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった…|WIRED
すごい悪質
>組み込まれていたボルボの衝突被害軽減ブレーキ(自動ブレーキ)のシステムを無効にしていた。
@wired_jp
@wired_jp

横断歩道以外で車道を横断する歩行者検知しないって逆に難しくねーか?
道路見てなかった運転手はなんなん
はははこやつめ
ははは
そんなん知らんわ、やな。
気をつけずに横断歩道以外の車道を渡るほうが悪いとしか思えんわ。

@wired_jp
ここまで低次元とは、、驚くばかり。

@wired_jp
車側を擁護するつもりはないが予想をしない動きをする生物(動物含)が車道を動く限り自動運転は無理だろうね
@wired_jp
こんな事があるのですね。
想定の範囲がどこまでも
広がりますね。
以上

記事本文: 死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった:調査報告から明らかに|WIRED.jp

関連記事