第2週：あなたにとって大事な価値とは？

This is a Japanese translation of “Week 2: What do you value?”

• 概要
• コア・リーディング
  • 観念としての道徳の進歩
  • 想定される課題X
• 練習問題（所要時間：1時間）
  • 物理的に遠くにいる人
  • 遠い未来に生きる人
  • 人間以外の動物（哺乳類や鳥類など）
  • デジタルの心
  • 植物
  • オブジェクト（テーブルなど）
  • オプション（またはセッション中に検討する対象）：さらにディスカッションする場合に検討するグループの候補
• 参考文献
  • 道徳的不確実性
  • 道徳的配慮対象の拡大　
  • 帰結主義

概要

今週は、「効果的利他主義の発想の源泉となっている倫理的立場をいくつか検討し」「倫理的規範の変化の歴史が、よいことを行う方法にどのように影響を与えるか？」そして「私たち自身の価値観とEAが使うツールがどのように調和するのか？」について考えていきます。

効果的利他主義者たちは、よいことを行う際の不偏性を擁護することはしばしばあります。例えば、1000km遠くにいる人を助けるよりもすぐ隣の人の方が助ける価値があると考える内在的に道徳的な理由はないと多くの効果的利他主義者たちが主張します（ただし、他に理由があれば、どちらかを助けるほうが、より価値があると言えるかもしれません。例えば、遠くにいるひとと近くにいる人のどちらか一方について、特定の状況で、彼らを助けるより優れた機会をあなたが得ている場合です。）不偏的でありたいと思う観点は空間や時間、種族間など多岐に及びます。「どの観点に関して不偏的であるべきか？」を決めることで、自分が取り組みたい課題が大きく変わるかもしれないので、この問いには多くの注意を払う価値があります。例えば、工場式畜産農場で飼育されている動物の生活環境を改善することを優先するかどうかは、動物がどれだけの倫理的配慮に値するのかと考えるかによって大きく変わってきます。

「私たちの倫理観が、よいことを行う方法に大きな影響を与えることを知っています。しかし、現在の倫理観がよいものであり、将来にもつであろう倫理観とも調和していると信じ切ることはできないでしょう。社会の倫理観はこれまでの歴史の中で大きく変化してきましたし、今後も変化すると考えられるからです。私たちは、今持っている倫理観に沿って行動すべきなのでしょうか。それとも、自分の道徳観のどこに間違いがあるのか、あるいはどう将来的に変わる可能性があるのかを考え、それを自分の行動に反映させるべきなのでしょうか。

💡 第3週の練習問題の中には、第2週のディスカッションセッション終了後すぐに開始する必要のあるものがあります。

コア・リーディング

道徳の進歩という考え方

• 道徳的被行為者性 - 効果的利他主義の概念 （ウェブサイト - 5分未満）
• 道徳的大惨事が進行している可能性（論文-30分程度）
• 道徳的進歩と課題X （動画 10分）（該当するコンテンツは再生してから48分後から始まります。）
  • 動画のリンクが切れている場合は、こちらからご覧いただけます。

想定される課題X（全てを読む必要はありませんが、一部は読んでください。）

• 未来に果たすべき責任（動画 - 40分）
• 動物の苦しみと人間の苦しみ（ブログ記事 - 15分）
• 動物、植物、ロボットはあなたと同じ権利を持つべきなのか？- Vox （記事 - 20分）

❗ 第3週の練習問題は、第2週のディスカッションセッション終了後すぐに始めてください。

練習問題（所要時間：1時間）

この練習問題では、不偏性という考え方と、それをどのような場面で適用するのがよいかを探っていきます。「様々な集団が存在する中で、それぞれに対してどれだけの道徳的地位を与えるべきなのか？」つまり「利他的な人がどれだけその集団を助けたいと思うべきか？」を決める法廷に立っていると想像してみてください。

その法廷は、ある集団と別の集団のどちらを助けるのが物理的に簡単かについてはまだ気にしていません（それは後で考えることです）。その法廷で尋ねられるのは単に、ある集団と別の集団のどちらを助けるのも同じくらい簡単だとしたら、私たちはどれだけその集団を助けたいと考えるのかということだけです。自分ができることと自分の価値観を切り離して考えることは、いざ実際に行動するときに、自分の価値観に沿った行動をとりやすくするために有効です。

例えば、私たちは動物が道徳的地位をもつに値すると考えるかもしれませんが、だからといって、動物を助けることは非常に難しい（その横に並ぶ機会よりも難しい）かもしれないので、それを優先するとは限りません。

まずは、自分が常に不偏的であることを目指す側の弁護士で、そのグループのメンバーが同等の道徳的配慮を受けるに値することを支持する最も強い論拠を示すところを想像してみてください。次に、その反対側に立って、道徳的配慮の対象をこのグループを含むまでに拡大することに反論するとしましょう。不偏性を主張する方が簡単な場合もあれば、それに対する反対を主張する方が簡単な場合もあると思いますが、それでも、双方の立場を支持する最良の議論を検討する価値はあります。

以下のカテゴリーに目を通し、それぞれのグループのメンバーが同等の道徳的配慮を受ける価値があることに賛成する論拠と反対する論拠をすべて書き出してください。1つのカテゴリーにつき10分程度、賛成、反対の各論に5分程度ずつ費やすようにしてください。

物理的に遠くにいる人

件の法廷は、自分が住む地域に住む人を助ける場合と、何千キロも離れた場所にいる人を助ける場合とで、不偏的であるべきか否かを判断しようとしています。一方の人を助けることがどれほど簡単であるかをまだ検討していないことを思い出してください。ここでは、一方の人を助けることも他方の人を助けることも同じくらい簡単であると仮定してください。

• [ ] 最初に、同等の道徳的配慮を支持する論拠を書く。
• [ ] 次に、それに対する反論を書く。

遠い未来に生きる人

件の法廷は、現在生きている人を助けることと、何千年も先の未来に生きている人を助けることの間で、不偏的であるべきかを判断しようとしています。一方の人を助けることがどれほど簡単であるかをまだ考えていないことを忘れずに、ここでは、一方の人を助けることも他方の人を助けることも同じくらい簡単であると仮定してください。

• [ ] 最初に、同等の道徳的配慮を支持する論拠を書く。
• [ ] 次に、それに対する反論を書く。

人間以外の動物（哺乳類や鳥類など）

• [ ] 最初に、平等な道徳的配慮を支持する論拠を書く。
• [ ] 次に、それに対する反論を書く。

件の法廷は、人間を助けることと哺乳類や鳥を助けることの間で不偏的であるべきかどうかを判断しようとしています。ある個体と別の個体のどちらを助けるのが簡単かについてはまだ考えていないことを忘れずに、ここでは、一方を助けることも他方を助けるのも同じくらい簡単であると仮定してください。

デジタルの心

件の法廷は、人間を助けることと、人間のように振る舞う心のシミュレーションを助けることの間で、不偏的であるべきかを判断しようとしています。一方を助けることも他方を助けることも同じくらい簡単であると仮定して、ここでは、一方を助けることがどれほど簡単であるかをまだ検討していないことを忘れないでください。

• [ ] 最初に、平等な道徳的配慮を支持する論拠を書く。
• [ ] 次に、それに対する反論を書く。

植物

件の法廷は、人間を助けることと植物を助けることの間で不偏的であるべきかどうかを判断しようとしています。一方を助けることも他方を助けることも同じくらい簡単であると仮定して、ここでは、一方を助けることがどれほど簡単であるかをまだ検討していないことを忘れないでください。

• [ ] 最初に、平等な道徳的配慮を支持する論拠を書く。
• [ ] 次に、それに対する反論を書く。

オブジェクト（テーブルなど）

件の法廷は、人間を助けることとテーブルを助けることの間で不偏的であるべきかどうかを判断しようとしています。一方を助けることも他方を助けることも同じくらい簡単であると仮定して、ここでは、一方を助けることがどれほど簡単であるかをまだ検討していないことを忘れないでください。

• [ ] 最初に、平等な道徳的配慮を支持する論拠を書く。
• [ ] 次に、それに対する反論を書く。

オプション（またはセッション中に検討する対象）：さらにディスカッションする場合に検討するグループの候補

• [ ] 過去の・死亡した人
• [ ] 風景
• [ ] 原子
• [ ] 哲学的ゾンビ
• [ ] 企業
• [ ] 政党
• [ ]脳を持たない動物（例：海綿体）
• [ ] 悪人
• [ ] 家族・配偶者
• [ ]惑星
• [ ] 潜在的人格
• [ ] 国
• [ ] 森林・生態系

参考文献

道徳的不確実性

• Three Heuristics for Finding Cause X 私たちが取り組むべき課題を発見するために考えられる3つの道筋を、それぞれの道筋で考えられる課題Xの例とともに説明する短い記事（記事 - 10分）
• Moral uncertainty - towards a solution? ニック・ボストロムが提案する道徳的不確実性の解決策、道徳的不一致に関する議会モデルについての短い投稿です。（ブログ記事 - 5分）
• Our descendants will probably see us as moral monsters.ウィリアム・マッカスキル教授をゲストとして招いたポッドキャストの回で、今日、私たちが大きな道徳的過ちを犯しているのであれば、それに対して私たちはどう対処すべきかを語っています。（ポッドキャスト - 1時間50分）
• Practical ethics given moral uncertainty 実践的判断に含まれる道徳的不確実性の役割と、これが経験的不確実性とどのように類似しているかについてのウィリアム・マッカスキルによるフォーラムへの投稿（EAフォーラムの投稿 - 5分）
• Normative Uncertainty 道徳的不確実性のモデルと「メタ規範」的立場、メタ倫理のための規範に関するウィリアム・マッカスキルの論文です。道徳的に不確実な状況で、選択に値する程度の期待値を最大化するモデルを提唱しています。（博士論文）
• Embracing the intellectual challenge of Effective Altruism「効果的利他主義の知的挑戦を負債と見なすのは簡単ですが、資産と見なす方がよいでしょう。EA Global 2016でのこの講演で、Michael Pageは、効果的利他主義が難しい理由と、その事実を受け止め、正しく理解する方法について説明しています。」（EAGトーク - 20分）
• Moral trade and effective altruism「道徳的交易（モラルトレード）が発生するのは、異なる価値観を持つ個人が協力した結果、個人で達成できた結果よりも、どちらの価値観の観点からもよりよい場合です。」（EAGトーク - 13分）
• Moral Trade 「人々が異なる資源、嗜好、ニーズを持っている場合には、その全員がよりよくなったと感じるような財やサービスの交換が可能かもしれません。これは交易（取引）です。もし人々が異なる道徳観を持っているならば、もう一つのタイプの交易（取引）が可能です。これをモラルトレードと呼びます。私はモラルトレードの考え方を紹介し、いくつかの重要な理論的・実践的意味を探ります。」 (論文・45分)

道徳的配慮の対象を拡大する　

• The Drowning Child and the Expanding Circle  - 哲学者ピーター・シンガーの有名な溺れる子どもの思考実験は、私たちに地球規模の共感を身につけるよう求めている。（15分）
• Social Movement Lessons From the British Antislavery Movement - Sentience Institute この報告書は、（1）イギリス政府が1807年に大西洋横断奴隷貿易を、そして1833年に人間の奴隷制度を廃止した要因は何か（2）それらの知見は現代の社会運動の戦略の立て方にどのような示唆をもたらすのかを検証することを目的としています。（2.5時間）
• Dominion Dominionは、ドローン、隠しカメラ、手持ちカメラを使って、現代の畜産のダークサイドを暴きます。（映画 - 2時間）
• All Animals Are Equal 動物の権利運動の発端となったテキストとして広く知られる『動物の解放』（1975年）の冒頭部分。（25分）
• The Importance of Wild-Animal Suffering - Centre on Long-Term Risk　 野生に生きる動物の福祉（well-being）を考慮することを求める議論です。（40分）
• Loving-Kindness and Compassion Meditation: Potential for Psychological Interventions 優しさと思いやりを高めるための、瞑想を基礎に据えた心理的実践に関する広く引用されている研究。（40分）
• The Better Angels of Our Nature 私たちが暴力的な行動をとる動機は何か、私たちの平和な生活を求める傾向がその動機よりいかに優っているか、この世界的な暴力の減少をもたらした歴史上の大きな変化は何かに着目して、私たちが歴史上最も平和な時代に生きていると考えられる理由を説明します。（書籍）
• Ethical.diet どのような食生活の変化がアニマルウェルフェアに最も大きな影響を与えるかを説明するツール。
• Animal Liberation ピーター・シンガーによる動物の権利についての基本文献。この本は動物の権利運動の端緒としてしばしば引用されていて、シンガーはこの著作の中で、感情に訴える証拠と、慎重な推論を用いてアニマルウェルフェアの問題に取り組んでいます。（書籍）
• OpenPhil report on consciousness and moral patienthood 動物の道徳的な関連性に関する長い報告です。OpenPhilの寄付戦略に反映させるために多くの分野から研究を集め、論点を整理しています。（記事 - 2時間以上）

帰結主義

効果的利他主義は、可能な限り世界を善くするために存在しています。そのため、（当然のことながら）功利主義や他の形の帰結主義としばしば関連付けられてきました。もちろん、効果的利他主義者たちにとって結果が重要な考慮事項であることは否定できませんが、効果的利他主義そのものは、いかなる規範的なコミットメントも持っていないことを心に留めておくことが重要です。さらに言えば、帰結主義を独断的に信じるべきではない理論的かつ／またはプラグマティックな理由があるかもしれません。

• Primer on utilitarianism Utilitarianism.net では、哲学的な専門用語を用いずに、功利主義の概念を明確に事細かく説明をしています。（ウェブサイト）
• Moral Theories - EA Concepts Centre for Effective Altruismが提供する、倫理学者によって最も議論されている道徳理論の短い概要です。（ウェブサイト - 5分未満）
• Naive vs sophisticated consequentialism 素朴な帰結主義と洗練された帰結主義、そして両者の違いが帰結主義的な効果的利他主義者たちにとって重要でありうる理由の説明（ウェブページ - 5分未満）
• Integrity for consequentialists 素朴な帰結主義者が約束を守るのは、そうすることで明らかに良い結果が得られる場合だけかもしれませんが、Paul Christianoは、全一性の方針は、洗練された帰結主義者にとって有益であるかもしれないと主張しています。（フォーラム投稿 - 10分）
• Gains from trade through compromise Brian Tomasikは、妥協（道徳的不一致と認識的な不一致の両方の場合を含む）は資源の奪い合いよりも平均的に良い可能性があるので、私たちはより妥協を受け入れることにより傾く直感を持つべきだと主張する。（記事 - 45分）
• Considering Considerateness: Why communities of do-gooders should be exceptionally considerate この記事では、たとえ＜よいことをすること＞を目的としていても、独断的に目標を追求することに反対しています。これはなぜかというと、往々にして、他の人々やコミュニティと良好な関係を築くことは役に立つからです。（記事 - 20分）