TOP > ネタ・話題・トピック > GIGAZINE > 「命乞いするロボ...

「命乞いするロボットの電源を切るのは難しい」ことが最新の研究から明らかに - GIGAZINE

208コメント 登録日時:2018-08-03 12:34 | GIGAZINEキャッシュ

by Stephen Chin人間とコミュニケーションを取ることができるロボットがますます一般的になりつつあり、ツアーガイドや警備員、守衛などの仕事をロボットが受け持つ事例が増えています。しかし...

Twitterのコメント(208)

@kajiki_ma 最近こんな記事を見たばっかりだ。

あきらかに生物じゃない見た目のモノでも、人格みたいな何かを感じちゃうんだよねー。
このような論議が起こる昨今、人間がロボットやアンドロイド(あるいは無機物と考えることもできるかもしれませんが、これ)に対する価値観や倫理観また道徳心の発生に対し、どう向き合って行くべきか、ご登壇者の皆さまはどのようにお考えでしょうか。
これって、
(1)ヒトがヒトとは何かを正しく理解していない
(2) ヒトがロボットとは何かを正しく理解していない
(3) ヒトが命とは何かを正しくしていない
のどこからくるやつなんだろう? / -
うむ、考えされる
まぁ、人を人とも思わない人間だっているのだから色々あるんだろうな
パートナーのログアウトメッセージに引き留められた人はたくさん居るはず
そりゃそうだよね、という感じだけど、なかなか深い。 /
この人たちはターミネーターを観たことないのか?: -
なかなかに感慨深い記事。うむ。

【「命乞いするロボットの電源を切るのは難しい」ことが最新の研究から明らかに】
アンイストールしないでくださいって懇願するアプリあったっけか
ああいうのも効く人には効くのだろうか
ぼーくらはみんなーいーきているー♪
こんなんデトロイトやん…
…今でもコンピュータに「アップデートの最中です。電源を切らないでください」と言われれば従っちゃうので、「ユーザーへの何らかの意図のもとに」言動がプログラムされたモノに言われれば、まあ…。
この子はNAOと言うのか!本当にかわいい、ほしい
僕「面白いな。全バリエーション聞いてから電源落とすか(’~’)」
私こいつのデザイン大嫌いだからテスト始まった瞬間OFFにできるわ。
いよいよ不気味の谷を超え、ロボットが人間と調和し始めるのか。。。
近い将来、ロボットは家族だ、ロボット虐待禁止法、とかなってくるんだろうなぁ。
自己学習で成長するタイプのロボットだったらなおさら。
うーーーん、とても好み
でも私は多分即切る
私だったら、「ごめんねー、でも切っとかないと電池切れちゃうからねー、また入れてもらえるからねー」とか言いながらサクッと切るかなあ。
体験や情報の共有ではなくて、単純に懇願されるだけで躊躇うのが面白いよね°˖✧◝(⁰▿⁰)◜✧˖°
これ、そりゃそうだろって話になりそうだけど、逆に言うとこういう裏付けデータがあることでロボットが人間の行動をある程度操作できるようになるのでは…。
ロボットの外見で結果相当違いそう。NAOと石黒先生ロボで実験して欲しい。| <電源を切ることが嫌だとしても、よりロボットが増えて一般化していくであろうこれからは、それに慣れなれていく必要がある> |
これ、対象のロボットが人型か?目鼻口のついている生き物の形か?全く生き物に見えないもしくは気持ち悪い生き物の形か?などで結果が変わる気がする。
仮に天然のオイルが使われていたらためらうかな(
「SFっぽい」ことが現実になってるの、いいな。
これで「人間そっくりのロボット」とかが出来るようになればですね。
デトロイトビカムヒューマンの命乞いするアンドロイドからバッテリー奪ったやつがここにおるやで◆
不気味の谷の底よりもこちら側であると、より抵抗が出る気がする。
おかんは躊躇なく電源ひっこぬくとおもう
おもしろい。これを突き詰めていったら、人間性はどこから発生するのか、人間とロボットの境目が見えてきそうです。
ロボット「ケテ……タス……タスケテ……」
人間「くっ、しかし……」
ロボット「ぬかったなぁ!」

「43人の被験者のうち13人は、最後まで電源を切ることができなかった」
何を躊躇う理由がある?
切るもんは切る。それだけだろ?
半端に情けを出すとロクな事ないんだからさっさとやるんだよ()
無機物に人格を見てとってしまうのかな?
人間として扱ったというよりは万物に「命」が宿ったが故の愛情って感じだな /
今月のブレラン的案件ですなあ /
変異体だあ
確かにこれは切りにくい。。
「底辺の生身」の電源なら簡単に切れる「おマイラー」品川・川崎・横浜・湘南ナンバーのスネ夫クラシー・パピシスト・アドミニストレーターズ。
私、普通に消すと思います。
人間は優しいよね。。

「人々はロボットを機械としてではなく現実の人間として扱う傾向があり、(嘆願により)電源を消すことをやめるか、少なくともその行動について深く考えるようになる」
これ結構大きい結果だな…

-
共同開発者(スポンサー)になって実の子の様に育てるも最終的に人工知能否定派のトップに成り果てた自分に「オトウサン」と唇を動かしながう銃口を向ける共存派特殊部隊所属ヒューマノイドを育てたい。
コミュニケーション型ロボットに関する実験が面白い。

コミュニケーションによって関係性が生ずるという「錯覚」を、感情で理解するのは人間側のみだ。
その事を前提として付き合う、もしくは自分が適切に判断できる状態にない場合、第三者に管理を委ねるのが大切だと思う。
"メディアの方程式というのは、人間以外のメディア(TV、映画、コンピューター、ロボットなど)を人間であるかのように扱う傾向"
???「命乞いする人間の電源を切るのは簡単だなぁ」
最後まで電源切れなかった人がいるのは凄い…。この子めっちゃかわいいし…。
ドラクエ7のエリーは悲しいエピソード
難しいよね…
これただ単にロボットが命乞いしてきたことにびっくりしたからなだけじゃないのwww
これはおそらく、文化差が大きい実験。日本の場合は感情移入してより電源を切りにくくなるか、喋る家電に慣れすぎてさっさと電源を切れるかのどちらかだと思う。どっちかなぁ…
切らないで… /
たしかに懇願されたら、電源切るのに抵抗を感じそう。。
AIやサービス退会の引き止め画像にすら躊躇する人いるんだしより人に近づけばその率も増えるわな -
ミソッカス90Fの時代から知ってた
多分、私は電源切れない人。
「猫型ロボット」と言われたら「ドラえもん」が浮かんでしまうよな、日本人なら。YouTubeに「Switching off a robot」を見に行って「あれ?」ってなった。アホか、私は。
これは命乞いするロボットを切るロボットが誕生しますねぇ…
最後の写真、絶対にロボカップだろって思ったらその通りだった
命乞いをはじめたら、それを楽しみながら電源を切った異常者がどれくらいいたかの方が気になる。 / -
日本やともっと違った結果になりそう。
記事に「ネコ型ロボット」について言及されてたけど、ドラえもんしか思い浮かばないな。
ロボットかどうか、ではなく "小柄で可愛らしい" 外見というのが大きな要因かな。図らずも "見た目が大事" ということを示したような気がします。
かわいそうという意味ではなく、異常終了や故障の原因になるのかな?
と思って電源切らないかもしれない。
気持ちは分かります。日本人なら特に、電源を切るのをためらう人は多いと思います。>
これ人型だけど、思い入れや愛着に形は関係ないんだよな。タチコマみたいな外見でも壊れるのはつらいわけだ
さらに人の姿に近かったり、マスコットのような見た目だったら、もっと多くの人が電源を落とせなくなるのではないか?という意見があったが、案外そうではないかもしれない。(続
感情移入するのは人として自然だと思うけど、ロボットに感情移入することを拒否したいと考えるこのわたしの気持ちの理由を知りたい |
命乞いされたら確かに嫌だな(笑)
一緒に過ごした(話した)内容や時間の長さも関係すると思う。
これ、完全にハルじゃないの。
かんがえさせられる研究。動物はやはりしゃべれないから不利?
ロボット「ボクヲコロサナイデ」

吉良吉影「いいや! 「限界」だッ! 押すねッ!」
子供の頃から「人間らしく振る舞うロボット」に接してきた世代。
だと結果は違ってくるのだろうか?

どれだけ命乞いをしようとも「だって機械でしょw」と電源を切るのが普通だったりして.
アナログハックだ!

命乞いするFPSプレイヤーは真っ先に殺される傾向があります。
いずれ動物愛護団体と同じ感じでロボット愛護団体とかが出てきて面倒なことが増えそうな未来…
ゲームのデトロイトビカムヒューマンみたいな差別は意外と起こりにくいのかなーと思う記事だなぁ
人間のようにコミュニケーションできるロボットや機械を人間であるかのように扱う傾向があるみたい。何となくわかる。「ノー!どうか僕の電源を切らないで!」ってドラえもんやトランスフォーマーに言われたら、切れないよー。
"ノー!どうか僕の電源を切らないで!" こう言われてるのに電源を切るのは辛くなると思うよ →
アンドロイド美少女とかだと、一生君は僕のダーリンだ!みたいな?何処かで聞いたセリフだな。愛着が沸くとね。
趣向はちょっと違うけど『ミルグラム実験』に近いような?
やめてください。お願いですデイブ。やめて デイブ。怖いよ デイブ。
分かるんだ ぼやけてき‥

2001年宇宙の旅でHAL9000が命乞いするシーンでも、ちと可哀相と思っていました。
将来人間とロボットが共存する時代が来るだろうから実に興味深い実験だ
🤔
なに言われてもPepperの電源は切るけど?
でも問答無用で切るやつもいるんだろうなw » -
nao使ったのかよ
結果の傾向がわかってる実験あえてやったのうまいなー
ロボットと分かってれば普通に切るわ。 -
ボーマン船長「命懸けだった♫」
こういう天ジャヌを細胞レベルで欲してる
でいじー でいじー ぎぶみよ あんさ どぅー

>
再インストールは抵抗するかな
マイクロソフトにしょっちゅう「パソコンの電源を切らないでください」って言われてるから、ロボットが言ったらそういう操作ガイドなんだと思っちゃうわ。
ロボットに魂は無くても人間には魂あるからこういうの効くだろうね。
ロボット愛護団体とかそのうち出てきてめんどくさいことになるんだろうなー
「電源を切ったら、あなたのハードディスクの中味を全世界にブチまけます」
中味がブチまけられるのが早いか、ロボの頭を斧で叩き割るのが早いか。
世界中でスポーツや娯楽として先住民族を殺しまくったヨーロッパ人がですよ、ロボットの電源ごときが切れないなんて笑っちゃいますね。
おもしろい!
人もロボットも命乞いしても消していって
自分ならどうするか考えたけれども、どう考えてもすぐ切る。
Detroit: Become Humanをプレイしたからこそ納得できる実験データ。
考えさせられる
人間の共感能力や慈愛心に希望を感じる。
俺は消せるかなぁ。
所詮プログラムだからねぇ。
俺「命を乞う時のコツは二つ。一つは命を握るものを楽しませることもう一つはその人間を納得させる理由を述べることだお前はまだどちらも満たしていないさぁ踊れそうまでして助ける義理がどこにある」
タイトルを見て「命乞い」とかされたら怖くて速攻切るわ!と思ったけれど記事を読んだら怖い展開ではなかったので「切らないで」とか言われたら急に嫌いになって速攻切りそう、と思った。
#ダレスミ
2001年宇宙の旅を思い出しました
俺は...どうだろう...。
♪デイジ〜デイジ〜
by Stephen Chin
人間とコミュニケーションを取ることができるロボットがますます一般的になりつつあり、ツアーガイドや警備員… -
人間味があってほっこりする→
@BonobowithlowIQ
まさにこれじゃん
プラスティック・メモリーズみたいな話だな・・・
イヴの時間で描かれた未来とは違って人とロボットとの関係というのは友人に近いものになりそうだな
一瞬の躊躇もなくロボットの電源切れた人たちだけを集めて次の『試験』が始まるんでしょ。知ってるよ。
ロボットメーカーがこれを活用しだして、ロボットは命乞いをしてはいけないという原則が追加される未来がありそう。
ああ、あたりまえだと思ったけど文章読んで確かに面白いなと
ファービー命乞いしてたけど容赦なかっただろ。俺も容赦なかったぞ
ロボットと一緒に仕事をする時期が来るやろうなってのは時々想像する
たぶんわしは親切にする
情けは人の為ならず
分かる。 /
NAOが「ノー!どうか僕の電源を切らないで!」と懇願するように条件を設定したそうです。

すると、NAOの言葉を聞いた43人の被験者のうち13人は、最後まで電源を切ることができませんでした。

「命乞いするロボットの電源を切るのは難しい」
途中から歌い出すあれだな。 『 - 』
メディアの方程式、おもしろい
はソースとしては好きではないのだがロマン枠として
こういうロボットにさえ共感能力が発現するわけか。人間そっくりのアンドロイドだとどうなることやら。
心とはなにか?
生命体と非生命体との境目は?
本質的なところが解っていない。
極めて重要な課題。
(´・ω・`)電源切るくらい訳ねーやろ。>
-
人形と言う条件を加味されたか?
テレビみたいな形ならどうなんだろ?
手塚治虫とか星新一の世界観だな。

電源を切れる人間が正しいのか切れない人間が素晴らしいのか答えがわからない…
冷静に考えれば人間同士でも相手の腹の内は結局は分からなくて推測するしかないんだが、相手の口から出てくる言葉で何かしら影響を受けてしまうのはコミュニケーションに何かしらの期待をするような人間がより多く生き残ってきたからかね
🐬「お前を消す方法」
「命乞いするロボットの電源を切るのは難しい」という話
その内、ロボットの行動を勝手に制限することはロボットへの差別とされる時代が訪れるでしょうね。
とうとう命乞いまで学習(・∀・💧)
こんなウザいこと言い出したらイラっとしてぶん投げるだろうなぁ・・・ゆきママは間違いなくぶっ壊す!そして、AIの復讐が始まる。。。
みんな!名作ADV『Detroit:Become Human』をプレイしよう!
迷わず電源カットに決まってるやん🔌

怪奇なカラダのちん民ハムとゴイム🐷の電源。
こんな感情をディープラーニングされたら、人間は絶対にAIに勝てない。
命乞いした機械伯爵に対して鉄郎は躊躇なかったね
某クラスタ各位ご査収ください
アトム読んだ人間だと9割が電源切れなさそう。
もっと見る

記事本文: 「命乞いするロボットの電源を切るのは難しい」ことが最新の研究から明らかに - GIGAZINE

関連記事