この記事の立場
私は、集団のデータから個体を予測すること自体を否定していない。
むしろ、育種法研究ではそれが重要な方法になる。
多数の個体の表現型と遺伝子型の関係を学習し、まだ十分に評価されていない個体の遺伝的価値を予測する。
ゲノミック選抜は、その代表例である。
しかし、同じ構造を人間への評価や処遇に持ち込むと、問題の性質が変わる。
ある集団に属する人の平均的な傾向を使って、目の前の一人を判断する。
それが統計的差別と呼ばれる問題の一部である。
ここで私は、議論を「統計は不正確だから危険だ」という話だけにしたくない。
統計的差別の問題は、予測が外れることだけではない。予測がかなり当たっていたとしても、不当でありうることにある。
なぜなら、人間は単なる分布からの標本ではないからである。
人は、履歴を持つ一つの個体である。
そして人間社会では、予測された側がその予測を知り、それに反応し、その後の履歴そのものが変わる。
統計が、予測対象の世界の一部になる。
この記事では、育種法研究で扱ってきた「集団から個体を予測する」という操作を入口に、予測精度と個人として扱うことの違いを考えたい。
集団から個体を予測する――ゲノミック選抜という発想
育種では、すべての個体をあらゆる環境で、長期間にわたって詳細に評価することはできない。
圃場には限りがある。
時間にも限りがある。
評価できる形質にも限りがある。
そこで、すでに観測された多数の個体から規則性を学び、まだ十分に観測されていない個体について予測する。
ゲノミック選抜では、概念的には次の流れを取る。
多数個体の遺伝子型 + 表現型 → 統計モデルを学習 → 未評価・若齢個体の遺伝的価値を予測 → 選抜判断に利用
Meuwissen, Hayes, Goddardが2001年に示した考え方は、その後の動植物育種で広く発展した。
この論文が重要なのは、少数の既知QTLや限られたマーカーだけを使う選抜から、ゲノム全体に高密度に配置されたマーカーを用いて個体の総遺伝価を予測するという発想へ転換したことにある。
ここで重要なのは、予測対象の個体について、すべてを直接観測しているわけではないことである。
集団から学習した関係を使って、個体の値を推定する。
私自身も、品種選抜を最終決定する育種家としてではなく、こうした予測や評価によって選抜を支える育種法を研究する立場から、この構造を考えてきた。
育種では、この操作は合理的である。
では、同じ構造を人間に使ったらどうなるのだろう。
同じ構造を人間に適用すると、統計的差別になる
例えば、ある企業が採用後の定着を予測したいとする。
応募者本人について分かる情報は限られている。
そこで過去のデータから、
- ある学歴を持つ人の平均離職率
- ある職歴を持つ人の平均成果
- ある地域の平均的な傾向
- ある属性群の過去の損失率
などを使って予測する。
構造だけ見れば、育種で行っていることと似ている。
集団データ → 統計的関係を推定 → 個人について予測 → 意思決定
経済学でいう統計的差別は、個人について完全な情報を持たない意思決定者が、その個人の属する集団についての統計情報を代理変数として用いることで生じる。
PhelpsやArrowによる古典的な議論は、この構造を経済学的に定式化した。
ここで一つ区別が必要である。
誰かを嫌っているから不利に扱う「嗜好的差別」と、集団統計を使って合理的にリスクを推定しようとする統計的差別は、動機の構造が異なる。
統計的差別の方が、一見するとずっと擁護しやすい。
「偏見ではない。データを見ているだけだ」と言えるからである。
だからこそ難しい。
「その統計は間違っている」だけでは、批判として弱い
統計的差別への批判として、よく次のようなものがある。
その集団についての統計は偏っている。
サンプルサイズが小さい。
過去のデータには差別が含まれている。
個人差が大きいので予測精度が低い。
これらは重要な批判である。
実際、データが偏っていれば予測も偏る。
過去の差別的な意思決定をラベルとして学習すれば、その差別を再生産することもある。
しかし、私はもっと厳しいケースを考えたい。
もし統計がかなり正確だったらどうするか。
ある属性群について、ある結果の発生率が実際に異なっている。
モデルも十分に較正されている。
予測精度も高い。
それでも、その統計だけを理由に目の前の個人を不利に扱うことに、問題は残らないだろうか。
私は残ると思う。
ここで争点は、予測の真偽から、個人をどのような存在として扱うかへ移る。
人は、分布からの「平均個体」ではない
統計モデルから見ると、一人の人間は特徴量の組合せとして表される。
年齢。
学歴。
職歴。
住所。
購買履歴。
過去の行動。
そして必要なら、そこから属する集団が定義される。
統計的には自然な操作である。
しかし、個人を扱うときには、それだけでは足りない。
AIと哲学04では、「現在の状態」だけでは個人を十分に説明できないのではないかと考えた。
同じ状態に見える二つの存在でも、そこへ至った因果的履歴が違えば、同じ個体とは限らない。
統計的差別にも、少し似た問題がある。
ある属性を持つ二人が、統計モデル上は同じリスク群に入ることがある。
しかし、二人がそこへ至った履歴は違う。
何を選んだか。
何を経験したか。
どんな制約に置かれていたか。
どのように変化してきたか。
現在の属性ラベルは、その履歴を圧縮したスナップショットでしかない。
もちろん、履歴を知れば必ず正しい判断ができるわけではない。
それでも、
あなたの属する集団ではこうだから、あなたもこう扱う。
という判断には、その人自身の個別的な情報より集団平均を優先するという選択が含まれている。
Eidelsonが論じる「人を個人として扱う」という考え方は、この問題に近い。
人の処遇を、その人自身の特徴や選択を見ることなく、集団への帰属だけで決めることには、予測精度とは別の問題がある。
予測が当たることと、その予測を使ってよいことは別である
ここで、AIと哲学03の議論を思い出す。
03では、選抜指数で最適な係数 b を統計的に計算できても、その前に「何をどれほど価値ある形質として扱うか」を表す重み a が必要になると考えた。
つまり、計算が正しいことと、その計算へ何を入れるかが正当であることは別問題だった。
09では、そこからさらに一歩進めたい。
予測が正確である ≠ その予測を処遇に使うことが正当である
例えば医療では、集団統計を使ったリスク推定が患者本人の利益になる場合がある。
年齢や既往歴から疾患リスクを推定し、検査や予防介入につなげる。
ここでは、集団統計が予測される本人の利益のために使われている。
一方、同じようなリスク推定を、本人に個別情報を確認する機会もなく、住宅、雇用、保険、教育などの重要な機会から排除するために使えば、意味は変わる。
そこでは、統計が本人を守るためではなく、意思決定者側の損失やコストを減らすために使われることがある。
もちろん、この区別だけで全ての線引きが決まるわけではない。
しかし少なくとも、
集団情報を使ったか、使っていないか。
だけでは不十分である。
誰の利益のために、どれほど重大な決定へ、本人のどんな情報を上書きする形で使ったのか。
を見る必要がある。
統計は、世界を記述するだけではない
ここで、育種と人間社会の違いを「植物か人間か」というカテゴリで分けるのではなく、予測が対象へ返ってくるかという構造で考えてみたい。
育種では、予測される個体は、自分に付けられた予測値を知らない。
予測された育種価を見て、自分の行動を変えることもない。
統計モデルは個体を記述し、人間がその結果を使って次世代集団へ介入する。
もちろん、そこで行った選抜は次世代集団の構成を変え、将来得られるデータも変える。
その意味では、育種でも統計を使った介入が未来のデータを作る。
しかし人間社会では、もう一段フィードバックが増える。
予測される本人が、その予測や処遇を知り、それに反応する。
例えば、ある集団は過去のデータで就業継続率が低かったとする。
その統計を理由に、その集団の採用を減らす。
すると、その集団は経験を積む機会を得にくくなる。
経験が得られないので、次の採用でも不利になる。
そして新しいデータを集めると、やはり成果実績が低いように見える。
過去の統計 → 不利な予測 → 本人への処遇 → 機会・経験・選択の変化 → 本人の履歴が変わる → 次の統計も変わる
このとき統計は、単に世界を観測しているだけではない。
統計が予測対象の環境の一部になり、予測対象自身の履歴へ介入している。
予測は、外から世界を記述する文章ではなくなる。
その予測を見た制度や本人の反応を通じて、次の世界を作る入力になる。
これが、人間社会における自己成就性の重要な部分だと思う。
すべての統計的差別が自己成就するわけではない。
しかし、意思決定が人の機会や履歴を変える領域では、このフィードバックを無視できない。
人は観測されるだけの対象ではなく、観測と評価に反応して履歴を変える対象である。
「公平なアルゴリズム」にすれば解決するのか
では、アルゴリズムを公平に設計すればよいのだろうか。
ここにも簡単な答えはない。
機械学習の公平性研究では、「公平」に複数の定義がある。
例えば、
- 各群で予測スコアが同じ意味を持つこと
- 各群でfalse positive rateを等しくすること
- 各群でfalse negative rateを等しくすること
などである。
しかし、基礎率が群間で異なる状況では、これらを同時に満たせない場合がある。
Kleinberg, Mullainathan, RaghavanやChouldechovaは、較正と特定の誤り率公平性の間に原理的なトレードオフが生じることを示した。
ここから言えるのは、
公平性は数学では扱えない。
ということではない。
逆である。
数学によって、「公平」という一語の中に両立しない複数の要求があることが見える。
だから、
公平性指標を最大化すれば価値判断は終わる。
とはならない。
どの誤りを重く見るのか。
誰にどのリスクを負わせるのか。
どの機会を保障したいのか。
その選択は、再び目的関数の外側に残る。
社会はすでに、いくつかの線を引いている
ここまで抽象的に書くと、
実際には、どんな属性でも予測力があれば使ってよいのか。
という疑問が残る。
現実の法制度は、すでに一部の場面で「予測力があるかどうか」だけでは決めない線を引いている。
日本では、労働者の募集・採用について年齢制限は原則として禁止されている。また、男女雇用機会均等法は募集・採用における性別による差別を禁止している。
EUのAI Actでも、採用・選考、昇進や契約終了など雇用に関わる一定のAIシステムや、自然人の信用力評価に使われるAIシステムは高リスク用途として位置づけられている。
ここで言いたいのは、現在の法制度が哲学的な正解をすでに与えているということではない。
法は国や時代によって変わるし、例外や適用範囲もある。
しかし少なくとも、社会はすでに、
統計的に予測できることと、その属性を個人の処遇に使ってよいことは同じではない。
という判断を、いくつかの領域で制度として実装している。
この事実は、統計的差別が単なる「モデル精度」の問題ではないことをよく示していると思う。
では、どこまで集団統計を使ってよいのか
ここは曖昧にしたくない。
私は、集団統計を人間に使うことを一律に禁止すべきだとは考えていない。
医学、公衆衛生、安全工学、政策設計など、集団レベルの情報がなければ判断できない領域は多い。
一方で、個人への不利益が大きく、本人の行動や情報を直接確認できるのに、属性群の平均だけで判断するほど、正当化のハードルは高くなると思う。
少なくとも、私はまず四つの内容的な問いを置きたい。
1. その属性は、決定対象と本当に関係しているか
単に予測力があるだけでなく、その利用目的に照らして妥当な情報なのか。
2. 本人について、より直接的な情報を取得できないか
集団平均より本人の実績を観測できるなら、そちらを優先できないか。
3. 誤りによって誰が損失を負うか
false positiveとfalse negativeは、単なる統計的誤差ではない。
実際の人がその損失を負う。
4. その判断が次のデータを作ることを考慮しているか
排除によって機会を奪い、その結果を「元々能力がなかった証拠」として再利用していないか。
これらは、判断内容そのものについての問いである。
しかし、人を履歴を持ち、変化する個体として扱うなら、もう一つ、それらとは少し性質の違う条件が必要になる。
五つ目の、しかし性質の違う条件――判断は異議申立てと更新に開かれているか
私は、これを単なる五つ目のチェック項目ではなく、かなり重要な手続的条件だと考える。
人は変わる。
新しい技能を得る。
失敗から学ぶ。
環境が変わる。
過去の属性や平均値では説明できない履歴を積み重ねる。
ならば、一度の予測によって長期間固定される制度は、履歴を持つ主体という前提そのものと相性が悪い。
少なくとも重大な決定については、
- 何を根拠に判断されたかを知る
- 本人固有の情報を提示する
- 誤りを訂正する
- 時間の経過や新しい実績によって再評価される
という余地が必要になる。
これは単なる「優しい運用」ではない。
人を、静的な属性ベクトルではなく、更新され続ける履歴を持つ個体として扱うための条件である。
集団統計を使うこと自体よりも、集団統計が個人を永久に固定することの方が問題なのかもしれない。
反論・限界――「個人として扱え」は現実的なのか
ここまで読むと、
全員についてすべてを個別に調べろというのか。
という反論がある。
それは現実的ではない。
私たちは常に不完全な情報で判断している。
時間も予算も有限である。
集団統計は、不確実性の中で判断するための重要な道具である。
また、属性情報を一切使わないことが公平になるとも限らない。
既存の不平等や異なるリスクを見えなくすることもある。
だから、
個人として扱う = 集団情報を一切見ない
ではないと思う。
より現実的には、
集団統計を本人そのものと取り違えない。
本人について得られる直接情報によって更新可能にする。
重要な不利益を与えるほど、説明と異議申立ての余地を大きくする。
といった原則になる。
また、統計的差別がどこまで不当かについては、哲学でも一つの答えに決着していない。
集団情報の利用そのものが常に悪いのか、どの属性・文脈・不利益なら許容されるのかについては複数の立場がある。
私はここで、すべての線引きを解決したとは考えていない。
今のところの私の結論
育種法研究では、集団の情報から個体の遺伝的価値を予測することに大きな意味がある。
ゲノミック選抜は、その強力さを示している。
だから私は、
集団統計で個体を予測することは本質的に間違いだ。
とは考えない。
そして、育種と人間社会の違いを、単に「植物には権利がなく、人間には権利がある」というカテゴリ差だけで説明したくもない。
より重要なのは、予測と対象の関係の構造が違うことだと思う。
育種でも、選抜は次世代集団を変え、未来のデータを変える。
しかし人間社会では、予測が本人へ返り、その処遇を変え、本人の行動・機会・履歴を変え、その結果が次の統計へ戻ってくる。
予測 → 処遇 → 本人の履歴の変化 → 次のデータ → 次の予測
という循環が生まれる。
だから、
集団についてよく当たる予測 ≠ 目の前の個人をその予測どおりに扱ってよい理由
である。
統計的差別の問題を、「予測精度が低いから」に限定したくない。
精度が高くても、問うべきことは残る。
その予測は誰の利益のために使われるのか。
本人についての直接的な情報で更新できるのか。
その判断によって本人の履歴を変え、その変化を次の統計で再び正当化していないか。
そして何より、本人自身が判断を問い直し、新しい履歴によって予測を更新させる余地があるか。
AIが人を分類し、順位づけし、リスクを予測する能力はこれからさらに高くなるだろう。
そのとき、技術的な問題はむしろ減るかもしれない。
予測はもっと正確になる。
だからこそ、倫理的な問いは消えない。
当たるようになったあと、それをどこまで使ってよいのか。
私はそこに、AI時代の統計的差別の本当の難しさがあると思う。
次に考えてみませんか？
08では、組織の目的関数と個人の価値軸は同じではないと考えた。
09では、集団の目的や統計が、個人そのものを完全には表さないと考えた。
そしてAIと哲学12では、その先にある問い――仕事や市場での評価と、人間そのものの価値は同じなのか――を考えた。
08と09を通じて見えてきたのは、組織の評価も、集団の統計も、その人全体ではないということだった。
12では、その評価軸自体がAIによって揺らぐとき、仕事と人間の価値をどう切り分けるかを考えている。
参考文献
- Meuwissen, T. H. E., Hayes, B. J., & Goddard, M. E. (2001). Prediction of total genetic value using genome-wide dense marker maps. Genetics, 157(4), 1819–1829.
- Becker, G. S. (1957). The Economics of Discrimination. University of Chicago Press.
- Phelps, E. S. (1972). The Statistical Theory of Racism and Sexism. American Economic Review, 62(4), 659–661.
- Arrow, K. J. (1973). The Theory of Discrimination. In O. Ashenfelter & A. Rees (Eds.), Discrimination in Labor Markets. Princeton University Press.
- Lippert-Rasmussen, K. (2011). “We Are All Different”: Statistical Discrimination and the Right to Be Treated as an Individual. Journal of Ethics, 15, 47–59.
- Eidelson, B. (2015). Discrimination and Disrespect. Oxford University Press.
- Kleinberg, J., Mullainathan, S., & Raghavan, M. (2016). Inherent Trade-Offs in the Fair Determination of Risk Scores. arXiv:1609.05807.
- Chouldechova, A. (2017). Fair prediction with disparate impact: A study of bias in recidivism prediction instruments. Big Data, 5(2), 153–163.
- Barocas, S., & Selbst, A. D. (2016). Big Data’s Disparate Impact. California Law Review, 104, 671–732.
- 厚生労働省「募集・採用における年齢制限禁止について」.
- 厚生労働省「採用・選考時のルール」.
- Regulation (EU) 2024/1689 (Artificial Intelligence Act), Annex III.
編集注（2026-09-05）
旧稿では、特定人物の仕事観、ノブレス・オブリージュ、宿泊施設の事例、ナショナリズムとグローバリズムの対立を通じて統計的差別を論じていた。
今回の改稿では人物依存の記述をすべて外し、集団から個体を予測するという操作そのものを中心に再構成した。
入口にはゲノミック選抜を置いた。ただし、筆者自身を品種選抜の意思決定者として描かず、集団データから個体の遺伝的価値を予測し、選抜を支える育種法を研究してきた立場として記述している。
また、「統計が不正確だから差別が悪い」という批判に留めず、予測が正確でも、その予測を個人の処遇に使うことは別途正当化を必要とするという論点を中心に据えた。
さらに今回、育種と人間社会の差を「植物か人間か」というカテゴリ差ではなく、予測が本人へ返り、本人の行動・機会・履歴を変え、その結果が次の統計へ戻るかどうかという構造差として整理した。
加えて、集団統計が本人の利益のために使われる場合と、本人を排除するために使われる場合を区別し、履歴を持つ主体として扱うためには、重大な判断が異議申立てと更新可能性へ開かれていることが重要だと位置づけた。
公平性については、複数の数学的定義があり、基礎率が異なる場合には較正と特定の誤り率公平性を同時に満たせない場合があることを、価値判断が数学だけでは消えない例として扱っている。
また、現実の法制度がすでに一部の場面で、予測力だけではなく機会保障や差別防止を優先する線を引いていることを、具体性を与えるための限定的な実例として追加した。