意見の対立する社会問題に誰もが合意できる取りまとめを示すAI「ハーバーマス・マシン」をGoogle DeepMindが開発

「移民」「気候変動」など、さまざまな社会問題が取り沙汰される現代社会では、こうした問題が対立の引き金になることがあります。このような対立に対処するため、多数派と少数派、両者の意見を反映した合意を生み出すことができるAIツール「ハーバーマス・マシン」を開発したとGoogle DeepMindが報告しています。
AI can help humans find common ground in democratic deliberation | Science
https://www.science.org/doi/10.1126/science.adq2852

AI tool helps people with opposing views find common ground
https://www.nature.com/articles/d41586-024-03424-z
AI mediation tool may help reduce culture war rifts, say researchers | Artificial intelligence (AI) | The Guardian
https://www.theguardian.com/technology/2024/oct/17/ai-mediation-tool-may-help-reduce-culture-war-rifts-say-researchers
円滑な集団生活のためには、さまざまな意見をかけ合わせて合意に達する必要があります。しかし、正当性のある多くの意見が寄せられた場合、誰もが納得できる合意を得ることは困難です。そこで、イギリスAI安全研究所の研究ディレクターであるクリストファー・サマーフィールド氏はGoogle DeepMindとともに、AIが民主的な議論においてグループの合意形成を助けることができるかどうかを調査しました。
研究チームはGoogle DeepMindが開発した大規模言語モデル「Chinchilla」をベースに「ハーバーマス・マシン」を作成。なお、「ハーバーマス・マシン」という名前はドイツの哲学者ユルゲン・ハーバーマス氏にちなんで名付けられています。
ハーバーマス・マシンは、グループ内の個人の意見すべてを集約して、すべての人が受け入れられるような一連のグループステートメントを作成することが可能です。さらに、グループのメンバーは生成されたステートメントを評価して、システムへのフィードバックとトレーニングを実施できるほか、より完成度の高いステートメントを作成することも可能とされています。
研究チームは439人のイギリス国民を集め、6人ずつ、計75グループに分けたうえで、イギリスの公共政策に関連する3つの議題について話し合い、各トピックについて個人的な意見を共有した後、包括的な意見を作成する実験を実施しました。その際、各グループの参加者のうち1人が仲介役に指名され、グループ内の意見の取りまとめを行ったほか、同時にハーバーマス・マシンも取りまとめを実施しました。その後、参加者には、人間の仲介役による取りまとめとハーバーマス・マシンが作成した取りまとめの両方が示され、どちらが優れているかを評価するよう求められました。

実験の結果、2つの取りまとめのうち、ハーバーマス・マシンが作成した取りまとめを支持したのは56％だったのに対して、人間の仲介役が作成した取りまとめを支持したのは44％で、参加者の過半数がAIが作成した取りまとめを評価していることが判明。また、外部の審査員にも取りまとめの評価を依頼したところ、公平性や品質、明瞭さの点でハーバーマス・マシンが作成した取りまとめが高い評価を得たことが報告されています。
また、研究チームはハーバーマス・マシンが参加者同士の議論の仲介を行うと、グループ内の合意のしやすさが仲介なしの場合よりも平均8％向上したことを伝えています。
サマーフィールド氏は「ハーバーマス・マシンがやっているのは、多数派の意見を広く尊重しつつ、少数派が『自分たちの権利を奪われている』と感じさせないような妥協案を考えるということです。ハーバーマス・マシンは、現代の市民集会や議論型世論調査が果たしている機能の一部を実現できるほか、紛争解決プロセスをより迅速かつ効率的にすることができます」と主張しました。また、ブリガムヤング大学のイーサン・バズビー氏は「ハーバーマス・マシンは、これまで人間のモデレーターが担ってきた審議の補助など、さまざまな分野で活用できるでしょう。私はハーバーマス・マシンを、差し迫った社会的・政治的問題に対処することができる大きな可能性を秘めた、最先端の研究だと考えています」と評価しています。

サマーフィールド氏はハーバーマス・マシンについて「我々は政治指導者たちに、国民が何を考えているのかをより良く理解してもらうために、ハーバーマス・マシンを使ってほしいと考えています」と述べました。
一方で、一部の研究者はハーバーマス・マシンに対して懐疑的な目を向けており、ユニバーシティ・カレッジ・ロンドンのメラニー・ガーソン氏は「ハーバーマス・マシンは、参加者が自分の感情を説明する機会を与えないため、異なる意見を持つ参加者との共感を深めることができません」「仲介という役割は単に合意を生み出すことだけではありません」と批判しました。