TOP > 社会 > 圧勝「囲碁AI」が露呈した人工知能の弱点  :日本経済新聞

圧勝「囲碁AI」が露呈した人工知能の弱点  :日本経済新聞

102コメント 登録日時:2016-03-17 08:08 | 日本経済新聞キャッシュ

 米グーグルの研究部門であるGoogle DeepMindが開発した囲碁AI(人工知能)「AlphaGo(アルファ碁)」と、韓国のプロ棋士イ・セドル氏が2016年3月9日~15日に韓国で相まみえた五番...

Twitterのコメント(102)

空気を読んで悪い判断をするなんてとっても人間的だと思います
>高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合がある

うわーこれは楽しー
ヒトのようにAIと接するのはこういった面でリスキーなのかも

"高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合がある"
「囲碁のルールすら組み込まれていない。」状況でも自主トレで強くなれるらしい。ただし、中身のブラックボックス化が課題らしい。
そうか、ディープラーニングは解析できないのか/
つまりディープラーニングを極めたAIは人間同様わけわかんない存在になる(但し勝率8割以上)と。 |
囲碁AI人工知能「AlphaGo(アルファ碁)」かぁ。
人間を超えた上に、何故その手を打ったかが人間に分からないって怖い話しだよね。
これから人類のあり方や存続に大きく関わるんだろうな。

圧勝「囲碁AI」が露呈した人工知能の弱点:
人工知能を持つロボットに、人間が支配されたら、あなたはどうする?。
SFの世界ではない現実が・・・。
技術革新の及ぼす影響は、人間の未来を奪うことになるかも…。
10年も満たない間に大量の失業者が生まれるとの予測もある。
それでもその弱点を克服する技術を見つけると思える技術者の凄さ。頑張れ!
"かつて米IBMは、自社のハードウエアを使って1997年にチェス王者を、2011年にクイズ王を下し、その技術力を誇示した。" 過去形で言い切る価値判断。
後で確認する。
AIと人間が共存する環境では問題になることがある。自動運転車のAIが、周囲の人間には理解しがたい運転を繰り返すようでは、人間の運転ミスを誘発しかねない。←なるほど〜
人間と共存させるにはニューラルネットワークの学習だけでなく述語論理などの技術も組み合わせる必要があるでしょう。
まだまだ、AIに関した小説書けそう
「シンギュラリティに達した」もうどこからがSFか分からなくなってきた( *˘ω˘)
もう一つは、高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合があることだ。 >
ディープラーニングの問題点が二つ明らかになっている。
(1)明らかな誤りの判断をした場合も原因の解析が困難。
 ブラックボックスに任せることになってしまう。
(2)結果は正しくても過程が人間には理解出来ない時がある。
 命の問題は?
AIの弱点怖すぎ。SF映画の世界もありえる。
方向性のない学習じゃ、まあ確かに変な行動起こす罠。人も同じ。経験がなければ、どうしてもそうなる気がする。経験値というパラメータは重要。
人工知能がこのまま発展するとして、それを利用する範囲をしっかり決めないと、大変なことが起きる可能性があるようだ。
【 】
「正しい判断でも理解できない」を運転にするのはよくない気がする。「正しい」なら交通規則とか守ってる状態となってるはずで、そこに人間のミス誘発されるケースだとどっちのせいにするか。|
面白い記事。問題点があるからダメではなくて、解決すべき課題が明確になったということ。しかし、②は神様そのものだな。
①結果からの原因解析が困難、②正しい判断でも、人間には理解できない場合がある
結果に至るまでの筋道が人間に理解出来ないというのは確かに使い辛い。これって人間で言うところの"勘"ではなかろうか。|
ディープラーニングメモ。
ディープ・ラーニングは確かに脅威になり得るけれど、膨大なデータの中に外れ値を一定以上潜り込ませられれば、実は脆いのかもしれない。
つまりDeepLearningのAIとは感想戦が出来ないってことか
AIが明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難→
2つの弱点、その原因が人智が及ばないところにあるのが興味深いです。(^^)
色々考えさせられる。
"あるのは各ニューラルネットの接続の強さを表すパラメーターだけ。アルゴリズムは人間にとってブラックボックスになっている。"
AlphaGoがなぜ悪手を打ったのか、原因の解明はできないんだって
アルファ碁、Twitterを全て読み切り、人生を読み切ってしまったら、もう人類勝てないかも。ターミネータ-の、スカイネットが誕生しちゃう>
HAL9000かー『高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合が』/
囲碁でいえば、どのような判断・読みに基づいた着手を説明してもらわないと、対戦相手にはなっても、お手本にはできないよなぁなんてことを。 /   :日本経済新聞”
人間が理解出来ない工程から正しい解が導き出されるのってなんか宇宙の神秘を感じて興奮する
「AIが明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難」「高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合がある」 / “圧勝「囲碁AI」が露呈した人工…”
IT技術者の一人としては嬉しいニュースです。が、ヒトとして考える時、この研究は例外処理を追求し尽くした上で透明性を保って公開されない限り危険ですね。SFでは済まないです。
deep learningというのは、「なんで正しいのか解らないが、取り敢えず合ってるからいいだろ」というのに近い。その弱点が今後の課題だと。
QT>
AIの行動を説明できないっていうのは、極めて人間的何だけど、実用化には課題だよね。
ルール抽出能力の課題はニューラルネットが考案された30年以上前から指摘されてましたがな。それを今更ドヤ顔で言われてもねぇ…→
何でこんなことするの? と人知を超えたディープラーニングの行動原理が見えない(わからない)ところに怖さがある。弱点と言うよりは、別個の存在となっていくのだろうか。
人工知能が間違っても原因を追究できない、また結果的に正しくても人間には理解できない、まさに人工知能のみぞ知る世界★|
でも、そもそも人間の脳からしてブラックボックスだし、検証可能性・改善可能性はAIの方がずっと高い。未来はたえず進歩するでしょ?
弱みのところの話で一瞬「えっ?」ってなる
:日本経済新聞:AlphaGoのソフトウエアには、囲碁のルールすら組み込まれていない” そうなの?
深層学習の場合、強い理由は結局ブラックボックスと。AIが自戦記を書けるようになるまで待つか
手塚治虫先生が予測した未来に到達した我々不完全なニンゲンは肉体から離れる術を考えねばならぬ頃合。

------
イ・セドル氏が勝利した第四局では、AlphaGoは明らかな悪手を繰り返した後に敗北...
判断ミスの原因追及が困難ってシステム屋からしたら地獄。
そう、ハルは人類に敵対した。任務を遂行するために。
@nikkei: 「アルファ碁」圧勝で露呈した人工知能の弱点 ”
勝利を報酬に囲碁AI同士を対局させて鍛える「強化学習(教師なし学習)」/ reinforced = unsupervisedだったのか
現時点でのAIの課題を簡潔にまとめた、良記事だと思います。この点の解決がカギでしょうね。 ─
"高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合があることだ。" /
おもろい。開発者サイドの人でもデバッグは困難なのか
日経のこの記事によれば、D.L.を使うAIでは人が組んだもの以外のアルゴリズムが生まれるということ?どんなものが生まれるか事前に把握できないと、制限をかけるプログラムが組み込めず、暴走の余地が残るのではないか。
シンギュラリティとか強いAIとか大袈裟なことを言わなくても、ある程度汎用的なAIができてきて、それらがインフラとかにも関与しだしたらとてもマズイのではないかという気がした記事。バグっても直せない、ヒトには。
たぶん、昆虫と哺乳類ぐらいには思考の過程が違うぐらいには言っていいのかもしれないな。
(誤解を含みつつ)
ルールも知らねぇであんな強いのかよあいつw
"高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合があることだ。"

わざわざレベルの低い人間の基準に合わせる必要はないのではと思ったり(
AlphaGoの考えは開発者にも分からないので、AlphaGo自身が何を考えているかを把握するためのニューラルネットが必要だとしたら、それが意識ってやつかもしれない:
AIに、人間には理解できない思考機能があるって、とっても怖いことだな。
「AIが明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難である
高度に訓練されたAIは、(中略)人間にはまったく理解できない行動を取る場合がある」
かなり世間的に話題になっているから今更だけど、とりま、書いとくね。
この記事

とか見ても、かなり、ヤバい。本格的にヤバい。
つまり、「もうすぐ、 が出来る」ってことを示唆しているんでしょ?
これよく吟味して、今後のAI利用に生かさないとな。
AI がミスったときに原因がわからないのは AI の弱点だが、ミスってない時に人間が理解できないのは人間の弱点なのでは?/
銀河戦なんかで明らかになったように、前例が極端に少なかったりあるいはなかったりする手を指されるとバグる傾向にあるのかね
そう。その弱点があるから、自動車ではなく、文芸とかの「非クリティカル」な分野での応用を先行させた方がいいと思うんだよね。 致命的な事故一発で、人はAIを排除し始めるかもよ?
この弱点の部分は注意がいりますね。人間の『常識』をどうするかという問題でしょうか?

/ /
>AIが明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難。例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合がある。
煽り気味なタイトルだけど内容は面白かった。 /
※主に実用するにあたっての課題、という視点か。プロセス解析が難しいという点では、計算機シミュレーション結果の解析やソフトウェアのデバグとも共通するような。
アルファ碁ってプログラムで勝った訳じゃなく 3000万局の自己対局の末に勝ったんだ。 φ(._.)m こりゃすごい
人間との共存に向けて克服しなければならないAIの弱点は、「そのアルゴリズムがブラックボックスであること」、「高度に訓練されたAIは、人間には理解できない行動を取る場合があること」とのこと。

圧勝「囲碁AI」が露呈した人工知能の弱点
“AIが明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難であること”
"高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合がある"
おおー。面白いことになってるな。
"もう一つは、高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合があることだ。特にAlphaGoが勝利した第二局では、プロ棋士の解説者は「なぜAlphaGoの奇妙な打ち手が勝利に…"
話がSFじみてきた。α碁には囲碁のルールさえプログラムされていない。→『高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合がある』:圧倒「囲碁AI」が露呈した人工知能の弱点:日経
ターミネーターのスカイネットのようなことが実際に起きそう…。
つまんない世に中だ
「AIが出した最適な行動が人間にとっては理解不能な行動に見える」とか完全にアシモフの世界だな
そのうち、AIの判断がオラクル(Oracle)として崇められる日も近いかも。AI教ができたりして。手塚治虫の「火の鳥 未来編」にならないことを祈る。
りんなも同じです。Windowsの中の人ごめんなさい!「ディープラーニングには人間が読める論理コードはなく、あるのは各ニューラルネットの接続の強さを表すパラメーターだけ。アルゴリズムは人間にとってブラックボックスになっている。」
浅川直輝さんというIT記者の記事。短い文章だが啓示的示唆に溢れている。人間の文明歴史の中で思考のブレークスルーに差し掛かっているという事だろう。
見てる: 。「自動運転車のAIが、周囲の人間には理解しがたい運転を繰り返すようでは、人間の運転ミスを誘発しかねない」。結果的に最善でも、人間が理解出来ないと不具合があるという指摘は面白い。
AlphaGoの意図を知りたいのであればデバッカーを用意すればよい。
C-3POのようなコミュニケーション能力に優れたAIが望まれるw
タイトルを変えて日経新聞に転載されました。/
圧勝「囲碁AI」が露呈した人工知能の弱点:日経 「・・・ディープラーニングには人間が読める論理コードはなく、あるのは各ニューラルネットの接続の強さを表すパラメーターだけ。アルゴリズムは人間にとってブラックボックスになっている。・・・」
やれ人工知能だのディープラーニングだのって話に飛び付くのは自意識が邪魔するものの、AlphaGoの話は面白いと言わざるをえない…
日本経済新聞

人工知能危険と言われてる理由はこれ?何でこの一言を付け加えないんだ。
〜一つは、AIが明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難であることだ。→
『通常のプログラムであればコードを追跡してデバッグできるが、ディープラーニングには人間が読める論理コードはなく、あるのは各ニューラルネットの接続の強さを表すパラメーターだけ。』
AIはデバッグ出来ない説を割りと真面目に信じている.
次元が違うからなぜ?を人間が理解しようとするのは違うんじゃないかな。理解できないレベルとしてとらえたほうがいい気もする /
膨大な機械装置に一人の生身の人間が立ち向かえたことに感動する!
>AlphaGoのソフトウエアには、囲碁のルールすら組み込まれていない

モンテカルロの話すっ飛ばされてる…
「明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難」「正しい判断であっても、人間にはまったく理解できない行動を取る場合がある」 /   :日本経済新聞”
◆最強のAIと最強のAIのコピーが対決したら、どっちが勝つのかね?確率1/2か引き分けかい?それとも先手必勝か必敗か?...・・
まあ,人工知能じゃなくて,DNNの欠点というのならわかる.
衝撃
「AlphaGoのソフトウエアには、囲碁のルールすら組み込まれていない。」
「アルファ碁」圧勝で露呈した人工知能の弱点
人間が理解できない奇妙な動作が存在する・・・。
ディープラーニングの驚異。
以上

記事本文: 圧勝「囲碁AI」が露呈した人工知能の弱点  :日本経済新聞

関連記事