怪物の口に幸福が吸い込まれる
幸福の総量を最大化する。それが正しいと言われてきた。しかし1974年、ロバート・ノージックはたった一つの問いでその前提を破壊した。もしある存在が、他の全員よりも圧倒的に多くの快楽を得られるなら、功利主義は全員の取り分をその「怪物」に差し出すことを要求する。
あなたの幸福は計算の端数だった。切り捨てられた。
幸福を貪る口
1974年、ロバート・ノージックは『アナーキー・国家・ユートピア』のなかで一つの思考実験を置いた。
功利主義は、効用の怪物の可能性によって困惑させられる。怪物は、他の人々の犠牲から、その人々が失う以上に圧倒的に大きな効用の増加を得る。
仕組みは単純だ。功利主義の原則に従えば、社会全体の幸福を最大化する資源配分が「正しい」。ここに一人、あらゆる資源からとてつもない快楽を引き出す存在が現れたとする。りんご一個で他の百人分の快楽を得る。映画を一本見れば千人分の歓喜を感じる。
功利主義はこの怪物にすべてを差し出すことを要求する。他の全員が飢えても、怪物の快楽が総量を上回る限り、それが「最善」だと計算は告げる。
ノージックが示したかったのは、功利主義が論理的に正しい手続きを踏みながら、直感的に受け入れがたい結論に到達しうるということだ。正義の問題を幸福の足し算で解こうとする限り、怪物は必然的に現れる。
快楽は測れない
功利主義の怪物が成立するためには、ある前提が必要になる。異なる人間の快楽を同じ尺度で比較し、足し合わせることができるという前提だ。
これは経済学で「効用の個人間比較」と呼ばれてきた問題でもある。あなたがりんごを食べるときの満足と、私がりんごを食べるときの満足は、本当に同じ単位で測定できるのか。ライオネル・ロビンズは1930年代にすでにこの比較の不可能性を主張していた。快楽には単位がない。痛みにも、悲しみにも、退屈にも。
ジェレミー・ベンサムは快楽計算（felicific calculus）を構想した。快楽の強度、持続時間、確実性、近接性、多産性、純粋性、範囲。七つの基準で快楽を測り、社会全体の幸福を最大化する。美しい設計図だったかもしれない。しかし設計図のまま、誰もその計算を実行できなかった。
虚空をつかむで触れたように、幸福を定義しようとする試みは、幸福を掴もうとする手と同じくらい空を切る。測れないものを足し合わせて「最大化」すると宣言するとき、その計算はすでに何かを切り捨てている。
ジョン・スチュアート・ミルはこの問題に別の角度から応答した。快楽には量だけでなく質がある、と。知への渇望で書いたように、「満足した豚より不満足なソクラテスのほうがよい」というミルの有名な一節は、快楽の質的差異を認める試みだった。しかし質を導入した瞬間、功利計算はさらに複雑になる。誰が「高級な快楽」を決めるのか。その判定者もまた、怪物になりうる。
分け前はない
功利主義の怪物が暴くもう一つの問題は、功利主義が分配に無関心だということだ。
10人にそれぞれ1ずつ幸福を配る（合計10）のと、1人に100を集中させる（合計100）のとでは、功利主義は後者を選ぶ。総量が大きければそれでいい。9人がゼロでも、計算上は「より良い世界」だ。
ジョン・ロールズは1971年の『正義論』で、この問題に正面から切り込んだ。ロールズの「格差原理」は、社会的・経済的不平等は最も不利な立場にある人々の利益を最大化する場合にのみ許容されると主張する。善も正義もないで論じたように、ロールズとノージックは正義をめぐってまったく異なる地平に立っていた。しかしこの一点においては、ノージック自身が功利主義の限界を暴くことで、結果的にロールズの問題意識を裏書きしていたとも言える。
配られたカードを見ろという問いは、ここでも響く。怪物はたまたま怪物として生まれただけだ。能力も感受性も、本人が選んだわけではない。それでも功利主義は、怪物の「生まれつきの感受性」を根拠に、すべてを差し出すことを要求する。
誰も等しくなれない世界で選び続けること。公平という理念は、怪物の前では沈黙するほかない。
怪物はすでにここにいる
思考実験は極端な設定で思考を駆動する装置であって、現実を記述するものではない。しかし「怪物的な存在」の影は、現実のいたるところにちらつく。
経済学には限界効用逓減の法則がある。所得が増えるほど、追加的な一単位がもたらす満足は小さくなる。年収200万円の人にとっての追加100万円と、年収1億円の人にとっての追加100万円は、同じ重みを持たない。この法則が厳密に成り立つなら、功利主義の怪物は現実には出現しにくい。資源を均等に分配するほうが総量は大きくなるはずだ。
しかし限界効用が逓減しない領域はあるかもしれない。権力。名声。美的経験。知的快楽。ある種の快楽は、消費するほどにさらなる快楽を生み出すように見える。コレクターが一枚の絵画に数十億を投じるとき、その快楽は逓減しているのか、それとも加速しているのか。
現実の資源配分を見れば、怪物は比喩としてすでに存在しているとも言える。声の大きい者に予算が集まる組織。数値で「効果」を示せる部門に資源が集中する官僚制。アルゴリズムがエンゲージメントの高いコンテンツに表示枠を集中させるプラットフォーム。これらはすべて、功利計算の構造を内包している。
何人殺せば正しくなるのかで問うたように、数字が正しさの根拠になるとき、数字に換算できないものは消える。
計算する者が怪物になる
功利主義の怪物をめぐる議論は、近年、AIと資源配分の文脈で新たな切迫性を帯びつつある。
社会的資源配分を最適化するアルゴリズムが功利主義的に設計されたとき、そのアルゴリズムは「怪物」を生み出す可能性がある。最も多くの効用を引き出せる対象に資源を集中させる。それが論理的に正しいからだ。アルゴリズムに恥ずかしさはない。直感もない。
ノージックの経験機械が幸福という自殺を問うたように、功利主義の怪物もまた、幸福の追求が行き着く先の不毛を暴いている。幸福を最大化せよという命令を忠実に実行する装置は、やがて幸福そのものを食い尽くすかもしれない。
デレク・パーフィットは『理由と人格』（1984）のなかで、功利主義が導く「反直感的帰結」を正面から受け止める態度を示した。直感に反するからといって、論理的に正しい結論を退けてよいのか。パーフィットの問いは、怪物の思考実験をさらに居心地の悪い場所へ押しやる。
直感が正しいとも限らない。論理が正しいとも限らない。私たちは、どちらも信用できない場所に立っている。
功利主義の怪物は、幸福を計算可能なものとして扱うことの帰結を見せつける。測れないものを測り、比較できないものを比較し、足し合わせた数字の大きさで世界の善し悪しを決める。その手続きを忠実に踏んだ先に待っているのは、大多数の幸福が統計的誤差として切り捨てられる世界だ。
怪物は思考実験のなかにだけいるのではない。幸福を数値化しようとする衝動そのものが、すでに怪物の口を開いている。