人間の値打ち」というイタリア映画があります。タイトルの通り、“人間の値打ち”とは何かを観客に問いかけて考えさせる作品であり、リアルで多彩な人間心理を巧みな演出で描いている魅力的な映画です。

原題の「Il capitale umano」(原作「Human Capital」)は“人的資本”と訳されるものであり、経済学において人間を労働力として見た時の資本として価値を表します。また、転じて、将来の所得の現在価値合計の期待値として、様々なリスク評価にも用いられています。

“人的資本”は、あくまでも人間の生産面での市場価値を表すものであり、個々の人間的な価値や命の値段とは別のものです。しかしながら、現実社会では、これらは複雑に絡み合って浸透し、もはや容易にほどけるものではなくなってしまっています。映画では、そのような現実が説得力を持って描かれています。

さらに近年では、人工知能の技術発展により、様々な分野において“人間の値打ち”が改めて問い直される状況が出現しています。“弱い人工知能”とされるコンピュータ将棋においても例外ではなく、将棋ソフトが強くなるにつれ、将棋界を取り巻く環境は大きく変容し、その中で様々な問題が提起されてきました。昨今の将棋ソフトを用いたとされる不正“疑惑”というのも、広い視野で見ると、そのような“人間の値打ち”が問われる出来事の一つなのかもしれません。

さて、今回は、個別具体的な案件には関わらず、一般論として、コンピュータ将棋を用いて統計的な不正判定を行う際のリスク評価について考えます。

一般的に、リスクの許容量は、利益とのバランスにより、社会的な合意に基づいて決められます。利益が大きければ、その分だけ大きなリスクも許容できるというわけです。合意の均衡点は、様々な基準の整合性から大まかに決まってきますが、現実の合意においては、リスクとコストとの関係や政治プロセス等も影響するため、かなりばらついたものになります。

また、リスクの許容量には、その行為に対する能動性/受動性も関係してきます。人間は、自ら積極的に行うことのリスクに対しては寛容ですが、受動的に発生するリスクに対しては不寛容であり、一般的に100~1000倍程度の許容量の差が生じるとされています。

具体的に、統計的な不正判定の場合には、主な利益は“競技の公平性”であり、主なリスクは“冤罪”であると考えられます。

“競技の公平性”にどれだけの価値を置くのかというのは難しい問題ですが、本質的には競技者と主催者とでよく話し合って決められるべきものだと思います。特に真剣に取り組んでいる競技者にとっては“競技の公平性”は傍から眺めているよりも極めて重要なものである可能性があり、その心情は決して軽んじてよいものではないでしょう。ただし、ソフト不正の場合には、競技者の健康には影響しないため、公平性と健康の二重の利益があるドーピング対策よりは利益が下回ると想定されます。チェスや囲碁等の国際大会においては他のスポーツ競技に準じてドーピング対策が行われているようですが、もしかすると何か参考になることがあるかもしれません(参考「チェスや囲碁にもドーピング検査があるって知っていますか?」)。

“冤罪”のリスクは、発生確率と発生した場合の損害の大きさを掛けあわせた期待値で見積もられます。後述するように、統計的な手法における発生確率は、何らかの判定基準を与えれば、具体的に推定することができます。損害の大きさについては、処分のやり方に依っており、例えば、ネット対局場でアカウント停止になるくらいの処分であれば、冤罪があってもほぼ実害はなく、発生確率が高くてもリスクは大きくなりません。一方で、処分が人生そのものに大きく影響を及ぼすようなものである場合には、発生確率を低く抑えないとリスクが巨大になってしまいます。

リスクの許容量は“競技の公平性”の価値と“冤罪”のリスクのバランスによって決められます。また、この際、競技者が合意に能動的に関わっているか、受動的であるかによってもリスクの許容量は大きく変わってきます。自ら決めた/合意した基準ならリスクが高くても納得できますが、他者に勝手に決められた基準だと高いリスクは納得し難いということです。リスクの許容量さえ決まれば、後は発生確率から逆算して適切な判定基準を定めることができます。

それでは、一般的にリスクの許容量はどれくらいなのでしょうか? 代表的な例を2つ紹介します。

1つ目は、自動車です。自動車は、移動手段や運送手段として社会全体に巨大な利益をもたらすものである一方で、交通事故によって失われる人命も多く、巨大なリスクも抱えています。また、交通事故での被害者は自ら運転している能動者である場合もあれば、同乗者や歩行者等の受動者である場合もあり、能動性/受動性は中間に位置します。

社会的に広く合意されている自動車のリスクの許容量は、年間1/10000人程度です。現在の交通事故死亡者数は、安全技術や医療技術の進歩により、年間1/20000人を切っており(将来、AIによる自動運転が普及すれば、さらに桁違いに減ると予想されます)、自動車のリスクは社会的に許容されていますが、かつて年間1/10000人に近づいた頃には「交通戦争」等と呼ばれて社会問題となりました。年間1/10000人なら、生涯を100年で換算しても生涯リスクは1/100程度(平均で半年程度の寿命短縮)ですので、自動車の利益と比較すると、何とか許容できると考えられているわけです。

2つ目は、食品の安全基準です。1つ1つの食品は代替品が豊富に存在するため、「パンがなければお菓子を食べればいいじゃない」と考えれば、社会的な利益はあまりない一方で、食中毒は命に係わるほどの重大な被害をもたらし得ます。また、被害がほぼ受動的であることも加わって、社会的なリスクの許容量はとても小さく、非常に厳しい安全基準が設定されています。

食品の安全基準(ADI、TDI)は、動物実験等によって悪影響がないとされる無有害作用量の1/100に定められており、人間の個体差を考慮しても生涯にわたり毎日摂取し続けても影響が出ないように設定されています。この時の1/100という安全係数は一見すると厳しすぎるのではないかと感じられるかもしれませんが、実験の曖昧さや人間の個体差を考慮すると必要なものです。

上記のことを踏まえると、統計的な不正判定によって人生を変えるほどの処分を行うという場合の“冤罪”のリスクの許容量は非常に大まかに年間1/100000人程度(自動車の許容リスクより1桁落とした程度)になるのではないかと想定されます。年間で10万人に1人なら、100年で1000人に1人程度という計算です。もちろん、この数字はものすごく大まかな話であり、実際に合意される数字は何桁か違ってくるものと予想されますが、叩き台として、ある程度は有用な数字にはなるかと思われます。

この年間10万分の1という確率は、特に研究者にとっては、小さすぎると感じられるかもしれません。普段1/20程度の有意水準を取り扱っていると、いきなり1/100000と言われても頭が追い付かないわけです。逆に言えば、それだけ“人間の値打ち”は桁外れに高いと言えます。

後述するように、年間10万分の1という確率は統計的に判断を下すにはかなり高いハードルになります。チェスの不正判定(※チェスの場合には各大会ごとに限定された処分であるため、その分だけ発生確率の設定はゆるいと思われます)において、統計的な判定のみをもって決定的な証拠とすることが基本的にはないというのは、このハードルの高さに由来するものと思われます(参考「チェスにおけるチート分析の原則」「チェスにおけるコンピュータ不正行為の歴史」)。

少し長くなってしまったため、リスクの許容量に基づく発生確率から逆算して判定基準を求める話は次回にまわします。