不条理への問いが、AIに倫理を宿す。中尾 悠里が築く「安全・公正な信頼」Trust in AI

人間味あふれる暗黙知を、AIが理解できる「形式知」へと変換する。それが彼の挑戦だった。採ったのは実に泥臭いアプローチだった。毎週のように現地へ飛び、市の職員から「この地域は子育て世帯に人気」「ここは海が好きな単身者向け」といった言葉を徹底的にヒアリングし、ニュアンスを汲み取る。巨大な地図を広げ、職員の感覚とオープンデータを突き合わせて一つずつ輪郭を与えていく。例えば「子育て世代に人気」という言葉の裏には保育園の数、公園の面積、通学路の視認性といった複数の指標が隠れている。それらの関係性を見出し、AIが判断できるロジックとして膨大な情報を定義し直していった。

苦労と達成感の末に生まれたのが「移住地マッチングAI」だ。移住希望者がライフスタイルに関するいくつかの質問に答えるだけで最適な地域を推薦する。自らの手で人の温もりある知識をアルゴリズムに落とし込んだ。AIという言葉が今ほど日常に浸透していなかった時代に、彼はすでにその可能性を信じていた。だからこそ、自ら開発したシステムが使われ始めた時の喜びはやがて、テクノロジーが社会に貢献する確かな手応えとして彼の心に刻まれた。

「頭の中の知識は誰にも奪えない財産だ」。親の知人の言葉を胸に勉学に励み、当初は国連のような平和に貢献できる機関を目指して文系の道に進んだ。だが、高校時代、文系の知識だけではなく、数学や科学の基礎を体系的に身につけるなら今しかないのではないかと考え、理系への進路変更を決意した。図書館で自然科学やテクノロジーを優しく解説する書籍を読んでも「専門的な知識を得るなら今やらないといけない」とますます思いは強まった。危機感にも似た衝動からついに理系への転向を決意。週末の課外授業で母校を訪れた政治家との対話をきっかけに「貧困や不平等を是正するには情報格差をなくすことではないか」と自分なりの解を見出した。情報の流れを適正化し、非対称性をなくす。そのために情報技術の道に進むのだと、次の進路を定めた。

大学では当初、工学系を学んだが、探求心はやはり一つの分野にとどまらなかった。再び文理の境界を越え、科学技術が社会に与える影響を考察する「科学技術社会論」の門を叩く。再三にわたる文理の揺らぎは、揺るがぬ「世界の痛みへの共感」があるからこそだった。

テクノロジーと人間と社会の関係性とは。安全・安心をどう伝えればいいのか。それらに対して科学者はどんな責任を負うべきか。アカデミアが探求するこうした問いの一歩先を、中尾は見ていた。「社会科学は確かに幅広い問題提起をしてきた。しかし、世界をよりよくするには、倫理や社会受容性をものづくりの中に組み込むことも必要ではないだろうか」。そんな想いが、中尾を富士通へと導いた。

AIはデータの質によって性能や精度が変わる。データは人間社会が紡いできた歴史そのものだ。中尾の視線は今、AIが内包すべき公平性や公正性という、より深遠なテーマを向いている。

公平の尺度は、国や文化、置かれた立場や状況によって異なり得る。アメリカでは人種が、日本では男女間の格差が依然として根強いだろう。「AIがトップダウンで公平を定義するのは乱暴ではないか」。そう考えた中尾は、英グラスゴー大学との共同研究を通じてこうした難題に正面から向き合う。

彼らが開発を進めているのは、現場のステークホルダーたちが自らAIの公平性を対話的に設計できる技術だ。ワークショップなどを通じて利用者の価値観を可視化し、それをAIモデルの設計に反映する。文化やビジネス慣習によって異なる価値観を設計段階から取り込み、画一的な基準を押し付けるのではなく、それぞれの現場に最もふさわしい公平の形を、ボトムアップで人間とAIが一緒になって見つけ出せるようにする。

例えば金融機関のローン審査向けAIを想定する。「男女間の承認率の差を是正すると、他の属性グループの承認率や事業全体の収益性がどう変化するか」といった複雑なトレードオフの関係を可視化する。現場の責任者やコンプライアンス担当、事業責任者たちは、組織としての倫理観やビジネス上の判断と突き合わせながら、対話を通じて「どこに公平性の基準を置くべきか」という合意形成をしていく。単なるパラメータ調整ではない。AIという鏡を介し、組織の意思をアルゴリズムに実装するプロセスそのものと言える。

中尾が注力するAIアラインメント。AIシステムの目標や動作を、人間の意図や価値観、倫理原則に一致させる技術だ。AIによる想定外な行動や、人間にとって有害な結果をもたらすのを防ぐのに欠かせないこの技術にゴールはない。

倫理観は時代と共に移ろう。しかし、AIは現状、過去のデータをもとに学習や推論をする。判断は過去の価値観に固定化されがちだ。「未来の倫理観はAIにはない。結局、それは人間が考え、人間がAIに教え続けなければならない」。AIに人間が引っ張られるのではなく、どこまでも人間がAIを導く。そのための技術を創り出すことが、AIの信頼を担保するためには欠かせないと信じている。

こうした信念は、富士通のイノベーションの基本理念である「Human centric」と密接に結びついている。「AIはあくまで人間のための道具であるべき。AIの進化は人間と調和する形で進められないといけない」。とかく西洋中心で語られがちなAI倫理に、日本ならではの多様な視点から信頼の形を提示できるのが富士通の強みであり、責任だと説く。

社内の活動にとどまらず、AI制度に関する政府の有識者会議の委員として積極的に政策提言にも関わってきた。幼い日に世界の痛みに心を寄せた少年は時を経て、AIに公平や公正、安全という確かな魂を注ぐ研究者となった。テクノロジーの力でかつて目にした世界の不条理を正していく。そんな中尾の「ありたい未来」を実現するための旅路はまだ始まったばかりだ。