トロッコ 問題 正解。 トロッコ問題って知ってる?最も正解に近い答えは「何もしないこと」だ!

トロッコ問題に正解はあるのか?答えはないけど秀逸な方法はある!

トロッコ 問題 正解

これからの正義の話をしよう ハーバード大学教授のマイケル・サンデル氏の著書、これからの正義の話をしようが一時期話題になりましたね。 私の場合は、ハーバード大学で哲学の講義をするビデオやサンデル氏の著書を読んだことが哲学を知るきっかけとなったので、復習用に文章を書きたいと思います。 功利主義 功利主義と呼ばれる考え方は、行為の結果から物事の良し悪しを判断する帰結主義の一種となります。 人々の幸せを数値化できるという考えで、幸せの合計値で物事の良し悪しを判断するので、少数派の権利が犠牲になる場合があります。 サンデルの講義で用いられた例としては、トロッコ問題のジレンマが用いられました。 線路の直線状には、5人の作業員がいることに気付きました。 そのまま直進すると、5人とも犠牲になってしまいます。 不運なことに、ブレーキが壊れていたので、止まることはできません。 絶望的な状況下で、右に待避線があることに気付きました。 しかし、待避線の先にも1人の作業員がいるようです。 a:直進して5人を犠牲にする。 b:待避線に曲がって1人を犠牲にする。 あなたならどちらを選びますか? 回答編 この問題に正解はありません。 多くの人は、bの選択肢を選ぶことで知られています。 5人を犠牲にするよりも、1人を犠牲にすることの方が、マシであると考える人が多かったようです。 あなたは、線路の上にある橋から暴走する路面電車を眺めています。 5人の作業員が犠牲となる瀬戸際に、物凄く太った男が隣にいることに気付きます。 どうやら、物凄く太った男を突き落として犠牲にすると、電車は止まるようです。 a:5人が犠牲になることを見過ごす。 b:物凄く太った男を突き落として5人の命を助ける。 あなたはどうしますか? 回答編 前回と同様に正解はありません。 多くの人は、aの選択肢を選ぶことで知られています。 物凄く太った男を突き落とすことに、抵抗感を感じる人が多かったようです。 どちらの考え方にも一長一短がありますね。 ここから、議論は複雑化していくので、二人の名前を覚えておくといいと思います。 おわりに 今回はここまでです。 次回のその2でお会いしましょう。

次の

トロッコ問題に正解はある?「正義の教室」(飲茶)を要約しながら考えた

トロッコ 問題 正解

のコーナー「」とは異なります。 トロッコ問題(トロッコもんだい、: trolley problem)あるいは トロリー問題とは、「ある人を助けるために他の人を犠牲にするのは許されるか?」という形で功利主義と義務論の対立を扱った上の問題・課題。 がに提起し、 () 、 ()、 ()などが考察を行った。 人間は一体どのように・的なを解決するかについて知りたい場合は、この問題は有用な手がかりとなると考えられており、、では重要な論題として扱われている。 また(によるが実現しつつある現在)自動運転車(公共交通の自動運転車両も含む)のAIは衝突が避けられない状況にも遭遇するであろうし、そうなれば何らかの判断もしなければなくなるわけだが、このトロッコ問題は、そうした自動運転車のAIを設計する際に、どのような判断基準を持つように我々は設計すべきなのか、ということの(かなり現実的、実際的な)議論も提起している、との研究者は言う。 なお、以下で登場する「トロッコ」はを指しており、と混同しないように注意されたい。 そしてA氏が以下の状況に置かれているものとする。 1 この時たまたまA氏は線路ののすぐ側にいた。 A氏がトロッコの進路を切り替えれば5人は確実に助かる。 しかしその別路線でもB氏が1人で作業しており、5人の代わりにB氏がトロッコに轢かれて確実に死ぬ。 A氏はトロッコを別路線に引き込むべきか? なお、A氏は上述の手段以外では助けることができないものとする。 また法的な責任は問われず、道徳的な見解だけが問題にされている。 あなたは道徳的に見て「許される」あるいは「許されない」で答えよ、という課題である。 つまり単純化すれば「5人を助ける為に他の1人を殺してもよいか」という問題である。 に基づくなら一人を犠牲にして五人を助けるべきである。 しかしに従えば、誰かを他の目的のために利用すべきではなく、何もするべきではない。 派生問題 [ ] では次のような派生問題ではどうだろうか。 A氏はやはり a の状態にあるが、 1 ではなく次の 2 の状況に置かれている。 2 A氏は線路の上にある橋に立っており、A氏の横にC氏がいる。 C氏はかなり体重があり、もし彼を線路上につき落として障害物にすればトロッコは確実に止まり5人は助かる。 だがそうするとC氏がトロッコに轢かれて死ぬのも確実である。 C氏は状況に気づいておらず自らは何も行動しないが、A氏に対し警戒もしていないので突き落とすのに失敗するおそれは無い。 C氏をつき落とすべきか? 前述の問題と同様、A氏にはつき落とすかつき落とさないかの選択肢以外は無いものとする。 C氏ほど体重の無いA氏が自ら飛び降りてもトロッコを止められず、またその事実をA氏は理解している。 功利主義に基づけば、トロッコを分岐させることも、一人を突き落として脱線させることも一人を積極的に死に追いやり五人を助けるという点で等しい。 しかし多くの人が、1番目の質問では一人を犠牲にすることは 許されると答えるのに対し、2番目の質問では一人を犠牲にすることは 許されないと答える。 この二つの質問で異なる点は、最初の質問では行為者の行動自体は「分岐の切り替え」に過ぎず、一人の死は(たとえ結果を承知の上でも)その意図の直接の結果ではなく副次的な出来事(つまり巻き添え)と考えることが可能であるのに対し、次の質問でははっきりと「狙ってC氏をトロッコに激突させる」という行動をとっており、行為者の直接の意図と行動によって死ぬということである。 ループした路線 [ ] 1 、 2 以外にも以下の問題を考える事ができる。 3 1 の場合と同様、A氏はトロッコを別路線に引き込む事ができるが、 1 とは違いこの別路線は5人の手前で再び本線に合流している。 今度の問題ではこの別路線には前述のC氏がおり、トロッコを別路線に引き込めば、トロッコはC氏にぶつかって止まるので、5人は確実に助かる。 ただしその結果としてC氏は確実に死ぬ。 トロッコを別路線に引き込むべきか? 4 A氏はトロッコを別路線に引き込む事ができるが、この別路線は5人の手前で再び本線に合流している ここまでは 3 と同じ。 別路線には大きな鉄の塊がある為、トロッコを別路線に引き込めば、トロッコはその鉄の塊にぶつかって止まるので、5人は確実に助かる。 しかし鉄の塊の手前には前述のB氏がいて、B氏は確実に死ぬ。 トロッコを別路線に引き込むべきか? 3番目の問題は、最初の質問と同じようにA氏の行動は分岐の切り替えのみで、他者を直接自分の手で死に追いやるわけではない。 しかし2番目の質問と同じようにトロッコが止まるのはC氏に激突するからこそであり、その死は副産物(巻き添え)ではなく行為者の意図の結果である。 4番目の問題は3番目とあまり変化が無いようでいて、実は鉄の塊が線路を塞いでいる以上その先で路線が再び合流していようと意味は無く、本質的には 1 と完全に同じ状況を表現を変えて再度出題にしているに過ぎない(トロッコが止まるのはB氏に激突するからではなく、あくまでその後の鉄の塊との激突によってである)。 どの質問にも一貫して合理的な判断を下すのなら、同じ回答が導きだせる。 つまり一人を犠牲にして5人を助けるか、5人を犠牲にして一人を助けるかのどちらかである。 またはに従って判断するなら(誰かの命を他の目的のために利用すべきではないと考えるなら)すくなくとも 2 と 3 には反対しているはずである。 もし判断が一貫しないのであればそれは何故だろうか。 何故ある場合は誰かを犠牲にすることが許されて、他の場合には許されないと感じるのかを、合理的に説明できるだろうか。 少なくともこれらのようなジレンマを一貫して合理的に解決できる倫理学の指針はない。 倫理学以外の分析 [ ] 生物学者の分析 倫理学者ではないが、はネット上でこれに類する30以上の質問を行い、何故そのような判断を行ったかの理由を聞いた。 回答した500人の内3割ほどしか自分の判断を正当化できなかった(質問と他の質問との違いを正しく認識し、それが自分の判断の基礎となっていることを示せた場合に「正当化に成功した」と判断された)。 この傾向には教育の程度、宗教的背景、民族などの影響がほとんど無かった。 意図的な行動の結果の害には責任を問われ、ただ単にその結果が予見されたに過ぎないときには責任を問われないことをと呼ぶ。 1と4を許されると回答している人の割合が大きいのは、直観的に人がダブルエフェクトを考慮している事で説明できるかも知れない。 ハウザーの主張は、人の道徳的判断は理性と理論よりも、直観と感情の影響を受けていると言うことである。 そしてどのような要因が非道徳的と判断されるのかを次の三つにまとめた。 行動の原理:行動による害(例えば誰かが死ぬような出来事)は行動しなかったことによる危害よりも、非道徳的だと判断される• 意図の原理:意図を持ってとった行動は、意図を持たずにとった行動よりも非道徳的だと判断される• 接触の原理:肉体的な接触を伴う危害は、肉体的な接触のない危害よりも非道徳的だと判断される 神経学者の分析 者ジョシュア・グリーンによれば、特に二番目の質問では他の質問と異なるの部位が反応する。 人を直接死に追いやるとき、強く否定的な反応を示すようである。 タイム誌の分析 米誌の記事 [ ]によれば調査対象の実に85パーセントが5人を救うためでも1人を突き落とさないとした、とのことである [ ]。 類似したジレンマ [ ] トロッコ問題と類似した以下のようなを考える事ができる。 こうしたジレンマは、功利主義か義務論かと言う議論ではトロッコ問題と大きな違いがない。 しかし人の道徳判断にどのようなパラメータが関与しているのかを明らかにしようとしている道徳心理学と神経倫理学では重要な違いである。 あなたはボートで5人の溺れた人を助けに向かっている。 しかし途中で溺れている一人の人を発見した。 その人を助けていれば5人はその間に溺れ死んでしまう。 その人を助けて5人を諦めるべきか?• 病院に5人の患者がいて、それぞれが異なる臓器の移植を必要としている。 そこに臓器はいずれも健康な患者が現れた。 彼を殺して臓器を移植すれば5人を助けることができる。 彼を殺して内臓を取り出すべきか?() また、自動運転車の実現可能性が高まってることもあり、自動運転車とトロッコ問題を絡めた研究が行われている。 脚注 [ ]• Lim, Hazel Si Min; Taeihagh, Araz 2019. Sustainability 11 20 : 5791. et al. Science 2001 Vol. 293. 5537, pp. 2105 - 2108• Cushman, F. , Young, L. Psychological Science. 17 12 :1082-1089. 2006. Hauser, M. D et. 22 1 :1-21. 2007. Fiery Cushman et al. AIG総研. 2019年10月13日閲覧。 参考文献 [ ]• Philippa Foot, The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices Oxford: Basil Blackwell, 1978. This is the essay that introduced the original trolley problem. Shelly Kagan, The Limits of Morality Oxford: Oxford University Press, 1989. Francis Myrna Kamm, Harming Some to Save Others, 57 Philosophical Studies 227-60 1989. Judith Jarvis Thomson, Killing, Letting Die, and the Trolley Problem, 59 The Monist 204-17 1976. Judith Jarvis Thomson, The Trolley Problem, 94 Yale Law Journal 1395-1415 1985. Peter Unger, Living High and Letting Die Oxford: Oxford University Press, 1996. Joshua D. 3: The Neuroscience of Morality, W. Sinnott-Armstrong, Ed. , Cambridge, MA: MIT Press 関連文献 [ ] 日本語のオープンアクセス文献• 川合伸幸「」『認知科学』第14巻第3号、、2007年9月、 455-461頁、 :。 ・北村智・「」 2017年 社会情報学会 SSI 学会大会 関連項目 [ ]• - 人を殺さねば生きられない時、人を殺してよいか?• - くじに当たった人を殺し、その人の臓器を移植して他の複数人を助けるのは良い行いか?• 、、の対策 法学• 、、、 経済学• - ある選択をする代わりに放棄される選択肢によって得られるはずの利益のうち、最大のもの。 における概念。 関連学問• 、学 外部リンク [ ]• - (2005年秋期) の講義シリーズの初回。 トロッコ問題についての学生への問いかけから講義がスタートする。 この項目は、に関連した です。 などしてくださる()。

次の

トロッコ問題って知ってる?最も正解に近い答えは「何もしないこと」だ!

トロッコ 問題 正解

INDEX• 自動運転車の開発が本格化している。 ドライバー不在でも、私たちの望む場所へ運んで行ってくれる夢のような車。 以前なら、ドラえもんのポケットからしか出てきそうになかったようなシロモノの実現が目前に迫っている。 しかし、もしこの「夢の車」が殺人機になる可能性があるならば…あなたはどうするだろう。 購入するか、それとも買い控えるか。 そして、車が起こした殺人は誰の責任になる? 2014年、自動運転車の「倫理観」を問う興味深い実験が行なわれた。 もし誰かを犠牲にしなければならない場合、自動運転車はどのような選択をすべきか。 いわゆる「トロッコ問題」である。 「Aを犠牲にしてBを救う」トロッコ問題とは? 「トロッコ問題」とは、次のことを指す。 線路の向こうから暴走するトロッコが走って来る。 このままでは線路上にいる5人の人間を轢いてしまう。 自分は線路を方向転換できるレバーを持っているが、レバーを引いたらもう一方の線路上の1人を犠牲にしてしまう。 究極の選択下における、人間の道徳観・倫理感を問う問題である。 トロッコ問題(より) 2014年、マサチューセッツ工科大学のコンピュータ科学学者、イヤード・ラフワン氏をはじめとする研究チームは「モラル・マシン(Moral Machine)」というクイズ式の実験を考案した。 回答者は「Aを犠牲にしなければBが助からない」誰かの死を避けられない状況で、自動運転車はどちらの犠牲を選ぶのかを選択する。 モラル・マシンをクラウドソージングで拡散したところ、思いの他反響が大きく、発表1年半で世界233ヵ国、約4000万人からの回答を得られた。 それによると、非常に興味深い結果が浮かび上がったという。 国や地域、その国の発展の度合いなどにより、人々の選択が大きく異なるというのだ。 地域や国の状況により異なる価値観 まず、ペット(動物)よりも人間を保護するということに関しては、年齢、性別、国や地域を問わず共通していた。 しかし、そこからは細分化する。 それによると、大まかに3つのグループに分けられるという。 まず、北米やヨーロッパ諸国を含むキリスト教が支配的である国。 次に、日本やインドネシアなど、儒教やイスラム教の強い国。 最後に、中南米など旧フランス植民地の国。 1番目の国々は、2番目よりも高齢者より若者を救うことを選ぶ傾向があったという。 調査結果(より) この実験からわかることは、国の歴史的・宗教的背景や、経済的、構造的な要因が人々の倫理感に深く絡んでいるということだ。 AIは、通常人間の脳が行っている、判断、記憶、学習、推測といったことを人工的に行ってくれるシステムだ。 AIはこれまで、膨大なデータの蓄積や人間の指示により動いていたが、現在は「ディープラーニング」という、判断まで自ら学習する能力が開発されている。 今後、AIは道徳観を含んだ判断すら「学習」をすることができるのか? AIは医療用ロボット、軍事用無人機など、人命に関わるものにも搭載されている。 英国のロボット倫理学者アラン・ワインフィールド氏による、ロボットを使った実験で興味深いものがある。 実験は、穴に落ちている2体のロボット(H)を、別の1体のロボット(A)に救わせるというものだ。 Aには周囲物に対する位置を感知する能力が備えられ、意図的に相対物を傷つけはしないが、その限りでもないというようにプログラムされている。 実験によると、Aは穴に少しずつ近づき、Hを助けようとさえした。 しかしそれを何度か繰り返すうちにAのシステムはショートしてしまい、ついにAは2体のHを見殺しにしたのだ。 この問題を解決するためには、どうプログラムしたらよいのか?Aは自らの身を滅ぼして、Hを救う選択をすべきなのか?もしくは保身というAの選択が正しかったのだろうか?もしこれが軍用機であれば、常にこのような緊迫した選択にさらされるだろう。 AIと倫理観に横たわる問題は、あまりに大きい。 自動運転車解禁まであと2年。 問題解決に「待ったなし」 さて、話を自動運転車に戻そう。 この「トロッコ問題」に対して自動車メーカーは、どのような反応を示しているだろう。 アウディのバーバラ・ウェージ氏は、冒頭のMITの実験を「価値がある」とした。 そして「自動運転車が事故を起こす確率は従来よりも低くなるだろう。 しかし、ロボットが関わる出来事には、より注意を払う必要がある」と述べている。 ボルボは「当社開発の自動運転車に対して、すべての責任を担う」と公約した。 日本の状況はどうだろうか?なお、自動運転車には6つのレベルがある。 このうち、ドライバーが不用になり、完全にAIが運転を担うのはレベル4以上だ。 刻々と変わる景色の中、人や標識、道路、周囲の店、街路樹など、様々なものを一瞬で識別・判断し、それらに対して適切な反応をしなければならないという、非常に高度な知能と情報処理能力が必要とされる。 日本政府は、国土交通省が2018年9月策定した「自動運転車の安全技術ガイドライン」において、2020年までにレベル4の自動運転車を、地域を限定して部分的に導入することを目指している。 そして2025年を目途に、レベル4車が高速道路で走行できるようにすると目標を定めている。 開発中のホンダの自動運転車(より) 倫理的問題についての答えはいまだに出ていない。 しかし、自動運転車の市場化は目前だ。 飲酒運転やドライバーの不注意による事故など、これまで人間が起こしてきた人為的な事故は減るだろう。 自動運転車の参入は、相対的に見ればプラス面が勝っているかもしれない。 しかし、実際に市場化されから、これまで予期しなかった課題も多々出てくることは間違いない。 今のうちにどれだけ予測・回避できるか。 車社会を生きる私たち全体で考えなければならない問題なのかもしれない。 文:矢羽野晶子 編集:岡徳之().

次の