「AIは個人的な未来を予測して警告できるのか？」ということに哲学教授が回答

人工知能(AI)や高度な計算ができるコンピュータにより未来を予測して、望ましくないことを事前に防ごうとするアイデアがあります。ノースカロライナ大学チャペルヒル校の哲学教授で、AIや言語モデルがどのように機能するかという研究に取り組むトーマス・ホフウェバー氏が、個人の将来について予測するAIの妥当性と倫理性について解説しています。
Could AI predict the future? - Thomas Hofweber - YouTube

ホフウェバー教授はまず、結婚を考えている1組のカップルを例に挙げています。このカップルが「円満な結婚生活を送ることができるだろうか？」と考える場合、例えば統計では、結婚したカップルのうち10％が5年以内に離婚していることが示されています。

AIは、統計よりもより個人に即した予測をすることができると考えられます。トレーニングデータとして大量のカップルがそれぞれどのようなネット検索をしていたか、どのような買い物をする傾向にあるか、SNSで何を発言しているかを学習。その上で予測したいカップルの情報を入力すると、「このカップルの結婚生活はうまくいくのか？」という予測がより細かく出力されるはず。

ただし、仮にAIの予測で「このカップルは結婚しても5年以内に離婚する可能性が95％」と出力されたとしても、行動が制限されるわけではありません。カップルには3つの選択肢があります。ひとつは、その予測が間違っていることを願って結婚すること。次に、高い確率で解消される関係ならば今のうちに別れてしまうこと。最後に、予測されたのは結婚して離婚する可能性であるため、未婚のまま一緒にいるという選択肢もあります。

ここの問題点は、「理由が理解できていないこと」にあるとホフウェバー氏は指摘しています。「こういった理由で離婚する可能性が高い」と伝えられた場合、それに気を付けて結婚生活を送ったり、その理由ならば結婚を選ばないと決断したりと、自信を持って選択肢を選ぶことができます。しかし、AIには不確実性と解釈不可能性があるため、その不透明性が未来予測に応じた選択肢を台無しにします。

別の例だと、銀行が融資をする際に「この顧客は返済ができるか」とAIが予測するケースをムービーでは挙げています。また、囚人を仮釈放する際に、「この人は刑務所に戻る可能性が高い」とAIが判断したことで仮釈放が認められないという例でも同様のことが言えます。潜在的に有用な予測モデルだと認められても、そのシステムがどのように機能しているかも理解せずに、AIの下した決定に従うことは、かなり問題があると直感的に感じられるはず。

不透明性と説明責任は、重要な決定をAIに委託することで発生するトレードオフの一例にすぎません。もしAIモデルに自分の決定を委ねることに抵抗がないのであれば、それはおそらく、予測の精度だけを重視しているからです。なぜ精度が高い予測といえるのかという予測の根拠を考えないのであれば、AIは未来予測が可能と言えます。

しかし、特に個人的なトピックについて予測をするのであれば、正確さよりも信頼性を重視するべきだとホフウェバー氏は述べています。AIは未来の可能性を提示できますが、選択したり失敗を覚悟したりできるのは個々人の特権です。

また、95％の高精度と言っても完璧ではありません。予測が正確だとしても、20回に1回は間違った予測をすることになります。ここでの問題点は、この予測サービスを利用するカップルが増えれば増えるほど、「AIが離婚すると言ったから」と離婚する確率が高まり、AIの予測データを精査することなく「正答率」が上がっていくという点。ホフウェバー氏は「AIの予測は、人為的、もしくは自己成就的性質によって、精度を上げる可能性があります」と表現しています。