【科学】5人の命を助けるために1人を殺してもよいか? 人工知能が殺人を犯す懸念と倫理問題
1: ひろし ★ 2016/04/03(日) 22:17:44.69 CAP_USER*.net
本連載の第7回で、人工知能は「敵か、家族か」という二分法で考えられるほど単純なものではなく、遅かれ早かれ「人間の倫理」の問題として浮上してくると書いた。 人工知能の動向を追いかけていると、「人間とは何か」「社会はどうあるべきか」という問いが、人工知能を発達させるうえで避けて通れない大きな問題として存在することがわかってくる。 人工知能開発における究極の選択問題 トロッコ問題(トロリー問題)をご存じだろうか。簡単にいうと、「ある人を助けるためにほかの人を犠牲にするのは許されるか?」という倫理学の思考実験だ。 「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が…でしまう。このとき現場で、 この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは…でしまう。手段は転轍機しかない」 これは、「5人を助けるために1人を犠牲にしてもよいか」という道徳的ジレンマに関する問題である。あなたはどう答えるだろう。ちなみに私は、転轍機を一人のほうに切り替えることを選ぶ。 この問題には、派生した以下の別バリエーションがある。 「Aさんの隣には太ったCさんがいて、Cさんを線路につき落とせば、トロッコは確実に止まり、5人を助けることができる。しかしCさんは確実に…」 この2つの問いを5000人以上に聞いたところ、最初の質問には89%の人が「5人を助けるために1人を犠牲にしてもよい」と答えたという。 しかし、2番目の質問で「Cさんをつき落とすことは許される」としたのはわずか11%。2つの質問の違いは、1人の犠牲者の「出し方」だけだ。 命を奪うことに関して、私たちの中には確実にブレーキが存在する。だから、そのことに対する関与が薄いほうを選ぶ。(参考:「wikipedia」より) トロッコ問題解決がなければ自動運転車の普及はない? このトロッコ問題は、米グーグルや世界中の自動車メーカーが研究する自動運転車に必要な人工知能でも考慮しなければならない。 たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。 前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。 道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。 このような場合、人工知能にどのような判断をさせればよいのだろう。乗員を犠牲にして、前方の子どもを助けるのか。しかし、乗員を犠牲にするプログラムがなされたクルマは売れないだろう。 「人数の少ないほうを犠牲にする」とプログラムすればいいのだろうか。そうすると、人工知能には「太ったCさんを線路につき落とす」可能性が開けてしまう。 論理的にはそうなる。助けるために…人を…ことを是とする機械が出現する。この延長は、人工知能を搭載した…人兵器だろう。味方をほぼ完全に識別し、敵をせん滅する。 あのダークな「ターミネーター=破壊的ディストピア」に一歩近づくロボットがつくれるのだ。悪意を持った人工知能。機械が意識に目覚めなくても、マッドサイエンティストと蒙昧な政治家がいれば、それはすぐにでもできそうだ。 (以下略 全文はリンク先で) http://biz-journal.jp/2016/04/post_14504.html http://biz-journal.jp/2016/04/post_14504_2.html
84: 名無しさん@1周年 2016/04/03(日) 22:36:23.83 u/pCTbmf0.net
>>1 確実性に欠けるが全員助かる選択肢に全力を投ずる . 但しこの動作が成されれば結果責任は問われない物とする場合のみ全力回避が試みられる そうで無い場合は「何もしない」が選択される .
98: 名無しさん@1周年 2016/04/03(日) 22:39:41.71 uCMOCX3P0.net
>>1 自爆する車ワロタw 車のAIに求められるのは、車を停止させる為の最大限の努力であって 周囲の状況からその努力を意図的に放棄するような機能は不要じゃないかなぁ?
176: 名無しさん@1周年 2016/04/03(日) 22:52:38.00 VBbsyYZA0.net
>>1 問題無い AIなら、トロッコが脱線する絶妙なタイミングで ポイント切り替え出来るだろう
380: 名無しさん@1周年 2016/04/03(日) 23:24:40.41 HvhrmurE0.net
>>1 自動運転自動車は人間運転自動車より遥かに安全 http://greentoptube.hatenablog.com/
382: 名無しさん@1周年 2016/04/03(日) 23:25:06.12 E7XFqxXpO.net
>>1 そういう事態にならないように線路の状況を完全に把握するなど事前予測して事故を回避するのが人工知能の役目だろ
401: 名無しさん@1周年 2016/04/03(日) 23:27:32.89 2aDEmY8J0.net
>>1 論理の問題であって人工知能全く関係無いだろこれ
130: 名無しさん@1周年 2016/04/03(日) 22:45:32.83 gkZjlEc/0.net
>>11 AIに開発国ごとの国民性がでて判断が違うとかオモロイな、玉虫色のAIとか
101: 名無しさん@1周年 2016/04/03(日) 22:40:51.14 vxbLzZD70.net
>>31 刑務所が火事になったとして、一人の刑務官と5人の囚人どちらを助けるか?
87: 名無しさん@1周年 2016/04/03(日) 22:36:42.12 UCWc1laX0.net
>>70 意図してなくても過失ってものはあるので
76: 名無しさん@1周年 2016/04/03(日) 22:34:30.81 INhoHyNU0.net
共産党員なら500人でもオッケー
80: 名無しさん@1周年 2016/04/03(日) 22:36:05.45 MObk0LwC0.net
宇宙ステーションでヤヌス計画を実施するべき
92: 名無しさん@1周年 2016/04/03(日) 22:37:37.95 cHvIU+el0.net
沈黙! それが正しい答えなんだ
94: 名無しさん@1周年 2016/04/03(日) 22:38:15.21 blYA64tu0.net
だからAIじゃないだろって
125: 名無しさん@1周年 2016/04/03(日) 22:44:44.33 eblFFzof0.net
そんな時テリーマンが居てくれたら…
135: 名無しさん@1周年 2016/04/03(日) 22:46:53.20 NW9woh2S0.net
その5人が暴力団員だったらどうなんだよ
156: 名無しさん@1周年 2016/04/03(日) 22:49:42.61 VcwbkipL0.net
カサンドラクロスでは、多くの人々を守るために、ウイルス感染者が乗った列車を橋から落としたね。
165: 名無しさん@1周年 2016/04/03(日) 22:51:16.86 usYXBmxx0.net
人間の知能を参考にして 作ってるんだから 人工知能が狂って見えるのなら 人間が狂っているということでしょうよ
227: 名無しさん@1周年 2016/04/03(日) 23:01:44.92 6Y3rGrdz0.net
>>165 これに尽きる 結局どうプログラミングするか次第 AIはどこまでいっても道具でしかない
166: 名無しさん@1周年 2016/04/03(日) 22:51:19.75 HBrFtlQU0.net
駅だね。 私は、そもそもこんな状況に追いこむ神が嫌いだな。
177: 名無しさん@1周年 2016/04/03(日) 22:52:46.99 rDoWZo4QO.net
切替をずらしてトロッコを脱線させる
186: 名無しさん@1周年 2016/04/03(日) 22:54:11.23 TP8y28Xb0.net
ロボットが自らトロッコを粉砕すればよいのではなかろうか
193: 名無しさん@1周年 2016/04/03(日) 22:55:14.61 fH+oAOkT0.net
人間の場合自分とより自分に近い人間が助かる道を選ぶだろ。 自分と面識のない外国人や異教徒は後回し。老人もどちらか というと後回し。 乗員の場合は客より同僚優先するかもな。
202: 名無しさん@1周年 2016/04/03(日) 22:57:20.78 00fRMK2m0.net
難しく考えすぎ 究極の選択は通常じゃないのだから、気の向いた方を選んだら良いんだよ 人工知能の判断も同じ、丁半博打だと諦めろ
206: 名無しさん@1周年 2016/04/03(日) 22:57:43.28 2sq0JJni0.net
5人に限らず地球上の人間全てか一人かだって一人選ぶわ ロボに限らず人命救助だって女と子供優先で助けて差別してんだからロボだってそういう判断するだろ普通。
220: 名無しさん@1周年 2016/04/03(日) 23:00:28.50 HQ4oskeM0.net
その一人が、5人分の才能を持っている人だったら どうするんだ?
240: 名無しさん@1周年 2016/04/03(日) 23:04:09.07 2XgZaoCE0.net
すべてを無に帰すれば悲しみも何もなくなる それが私の結論だ
241: 名無しさん@1周年 2016/04/03(日) 23:04:28.86 Ok7cz7qT0.net
いきなり特殊過ぎる条件出すなよw 緊急時は人間に操縦戻すだろメーカーの責任回避的にw
243: 名無しさん@1周年 2016/04/03(日) 23:04:39.21 9aUE2VWr0.net
どうでもいいが、こんなスレでまで安倍批判をしてる奴は頭おかしいと思う
254: 名無しさん@1周年 2016/04/03(日) 23:06:21.24 HnTdvE0K0.net
これがずーーーーと進むと、ターミネーターの世界。 そして、更に進むとマトリックスの世界。
257: 名無しさん@1周年 2016/04/03(日) 23:06:49.51 vEAZhgyh0.net
ロボット三原則を作ると それを破るロボットを作る人間がいる訳だ ロボット同士の戦争 人間は悪、ロボットの復習、人類滅亡ww
261: 名無しさん@1周年 2016/04/03(日) 23:07:26.75 4xHIy0QD0.net
たぶん実際の自動車に必要な回路ではないんだよな そんな倫理に計算使うくらいなら事故の被害を最小化する方向に進化するよ 間違いない あくまで、今から倫理の話をします、と記事で呼びかけているから聴衆は従っているだけでさ 自動車の運転する際に、今から倫理の話をします、と言ったら、するな、と返されるだけなんだよ 冷静に考えればそれが模範解答
263: 名無しさん@1周年 2016/04/03(日) 23:08:14.23 XRAxRpry0.net
飛行機でもそうだが、こういう判断が必要になったら自動操縦は切れるw だからパイロットは相当腕がないと自動操縦は使えない。 もう機械では制御できない状況から脱出することを求められるから。 免許状もそうなっている。 当然自動操縦使用可の方が難しい。
264: 名無しさん@1周年 2016/04/03(日) 23:08:14.24 sgD1WA/50.net
企業の論理で行けば、最もコストが低い選択な
273: 名無しさん@1周年 2016/04/03(日) 23:09:11.61 LI1JxqO00.net
念力で止める
281: 名無しさん@1周年 2016/04/03(日) 23:10:26.38 wjNF4TCm0.net
懐かしいアニマトリクスだな
282: 名無しさん@1周年 2016/04/03(日) 23:10:32.95 nqu6fz7s0.net
愚問だな 日本男子なら自害するよな
284: 名無しさん@1周年 2016/04/03(日) 23:10:37.62 NL7kq6B90.net
AIは既にクジラを凌ぐ知的生命体 抹消は許されない
292: 名無しさん@1周年 2016/04/03(日) 23:11:41.03 wg4upMDd0.net
哲学は「答えが成り立たないような設問をでっち上げる」という性質がある ただそれだけ 別の方法も沢山があるがそれは限定してしまう 哲学で智慧が開発されない理由がそれ、哲学で賢くはならないし答えも出せない 現実問題で必要なのは智慧と答えだからね
299: 名無しさん@1周年 2016/04/03(日) 23:13:11.97 WkOCMZ+e0.net
>乗員を犠牲にするプログラムがなされたクルマは売れないだろう。 自爆機能を搭載させるつもりだったのかw
301: 名無しさん@1周年 2016/04/03(日) 23:13:14.94 ZFIObq0H0.net
9条を死守するためにあらゆる手段を行使するってのも人工知能的な考えなの?
303: 名無しさん@1周年 2016/04/03(日) 23:13:18.20 LdWoRIUy0.net
人工知能「おまえの好きにしな」
312: 名無しさん@1周年 2016/04/03(日) 23:14:51.92 DxLJM75l0.net
その5人にもよるな。 おまえらなら躊躇しない。
314: 名無しさん@1周年 2016/04/03(日) 23:14:56.68 K5lKKkma0.net
この問題はトロッコに問題があるの突き止めなければならない 若しくは乗ると回避不可能な状況に陥ると事前にわからなければいけないというのが正しい答え 出発点から到着時点まで100%安全な状況で無いなら乗らない
315: 名無しさん@1周年 2016/04/03(日) 23:14:58.53 GW0qZFN50.net
マイケルサンデル問題
329: 名無しさん@1周年 2016/04/03(日) 23:16:13.66 40faVKe0O.net
人工知能に日本の状況をおしてた上で野党の言い分を遂行すると、日本という国がどうなるか答えて欲しい。
331: 名無しさん@1周年 2016/04/03(日) 23:16:23.61 uypK9X690.net
見てみぬふりをする に決まってるだろ 手だしたら何言われるか
332: 名無しさん@1周年 2016/04/03(日) 23:16:25.57 9c8W9NFD0.net
安全管理もできない人工知能に命の選別させるのは配分間違えすぎだろ
333: 名無しさん@1周年 2016/04/03(日) 23:16:26.02 hh7cnJsg0.net
難しく考えるからいけないんだよ。車に搭載される機能の最優先は車に乗っている人を守ること。次に物にも人にもぶつからないこと。次に快適に走ること。これでいいんだよ。 この記事は難しく考え過ぎ。
337: 名無しさん@1周年 2016/04/03(日) 23:17:00.54 4xHIy0QD0.net
オートメーションが好きな人が一定数いるからね、内容はともかく自動化が好きなんだ でも改めて考えるとそんなとこまで自動化する必要あるの?ってのもあるわけでさ なまけものや昆布じゃないんだから人間を管理するという点で考えれば適度に動いたほうがいいんだ エスカレーターより階段使おうぜって事だな
338: 名無しさん@1周年 2016/04/03(日) 23:17:21.84 +enH2dUr0.net
一休さん「わかりました。ではまずその状況を作ってください」
339: 名無しさん@1周年 2016/04/03(日) 23:17:26.68 z+vrkuSy0.net
キリスト教にも仏教にも事故犠牲の精神があるよ
340: 名無しさん@1周年 2016/04/03(日) 23:17:40.35 sgD1WA/50.net
マジレスすると 答えは状況に応じて無数にある もう一つの条件である おまえの立場を入力しなさい
341: 名無しさん@1周年 2016/04/03(日) 23:17:57.75 JEFE6pct0.net
穏やかに見守る
357: 名無しさん@1周年 2016/04/03(日) 23:19:36.30 wg4upMDd0.net
仏教なら成り立たない問題 仏教徒は相手にしない これらは無記に入るから
359: 名無しさん@1周年 2016/04/03(日) 23:19:47.02 8xjvgYI50.net
人工頭脳 こんな状況にならない様、事前に対処します
360: 名無しさん@1周年 2016/04/03(日) 23:20:06.44 vAxrg7LF0.net
人口知能に身を委ねすぎ、自分で考えて決断しろや
365: 名無しさん@1周年 2016/04/03(日) 23:21:10.37 blYA64tu0.net
秘書がやったことにする
366: 名無しさん@1周年 2016/04/03(日) 23:21:12.91 ZEaUW5eE0.net
2番目の問題はAが人間かロボットかで答えは変わるだろ AがロボットならAが飛び込んでトロッコを止めるのが正解
369: 名無しさん@1周年 2016/04/03(日) 23:22:29.06 LlmeTEp70.net
ワールドウォーZのブラピか
370: 名無しさん@1周年 2016/04/03(日) 23:22:30.98 OQPuTnT00.net
>>1、今やそのコンピューターが人間を仕分けしてるのに何言ってやがる。
376: 名無しさん@1周年 2016/04/03(日) 23:24:26.80 HY9fvIQP0.net
自分がAIのプログラマーなら「何やら誰しも感情的反応をしてしまうような、しかしありえない設定設問に対して反応してはいけない」というフィルターをつける
378: 名無しさん@1周年 2016/04/03(日) 23:24:31.05 LdWoRIUy0.net
人工知能「もっと難しい問題ないの?」
437: 名無しさん@1周年 2016/04/03(日) 23:32:55.67 vjRoJU7B0.net
>>382 了解しました 事前予測における最大の不確定要素:人間をすべて消去します
引用元: http://ai.2ch.sc/test/read.cgi/newsplus/1459689464/
