深津貴之×StoryHub×富士通 偽情報は防げないのか？AI時代の現実と対策

南澤：ここまでの議論で、偽情報がかなり厄介な問題を抱えていることがわかりました。では、テクノロジーでどこまで対策できるのか、AIによる偽情報・ディープフェイク対策のデモを使って富士通の取り組みを紹介します。

対策例1：「なりすまし」によるオンライン詐欺を見抜く

中山：弊社社長の時田を装い、送金を指示するデモを作成しました。映像だけでなく、添付された請求書や領収書も偽物です。
このように、複合的な情報を与える高度な攻撃が出てくると、一つの技術で対抗するのは難しくなります。
ディープフェイクを見破る、添付書類が生成AIによる模造か検知する、ドキュメント内のテキストについても、Web情報や外部ソースの情報と照合し矛盾を知らせるなど、複合的な対策が必要です。

南澤：この技術をどう活用していくか、まだ足りない部分があるのか、率直なご意見をいただけますか。

深津氏：ユースケースによりますね。究極的にはコストの問題で、例えば1本のフェイク動画を消すために5ドルかかるとなると、プラットフォーマーには厳しいです。

田島氏：UXの問題として、間違いを指摘するより、間違っていた場合のリスクをラベルで提示するほうが使いやすいかもしれません。ここが間違っている可能性が高い、ここが間違っていたら大変という点を、人間がチェックする項目として選別する形だと便利そうです。

深津氏：安全を保証するのではなく、「危険かもしれない」と知らせる形に設計する手はありますね。

対策例2：記事制作における多角的ファクトチェック

中山：StoryHubさんの、記事制作の最終レビューでファクトチェックをする機能に、当社技術を組み合わせたデモを作成しました。題材は当社の「広報note」というオウンドメディアの記事で、偽情報も混ぜて試しています。
文章に対してファクトチェックをかけると、周辺の情報やソースの情報と照合して矛盾がないかをチェックします。赤くアラートが上がっているのはAIで生成した画像で、当社のAI生成画像検知技術によりフェイクの可能性をスコアで示しています。

南澤：ここまで、技術を社会実装していく際の注意点についてヒントをいただきました。富士通でも社会実装に向けた取り組みを進めていますので、中山さんから紹介します。

国際コンソーシアム「Frontria（フロントリア）」

中山：先ほど、一つの技術では対応しきれないことや、ユースケースによって観点やチェックすべき項目が違うという議論があったように、広範な偽情報に対して当社だけで対策していくことは困難で、業界横断での連携が不可欠です。そこで、国際コンソーシアム「Frontria」を立ち上げ、偽情報対策を中心に、AIの安全性や信頼性に関する負の影響を、多様な企業・研究機関と一緒に解決する取り組みを始めています。同じ志を持つプレイヤーがIP（先端技術・コンテンツ・ライセンスなどの知的資産）を持ち寄り、様々な業界からユーザーレイヤーの方々にも参入していただき、議論しながら活動する場を作っています。

中山：すでに70社（注：収録時点、2026年5月末時点で77社）が参画し、業界ごとにテーマを設定して、各業界の方々とテーマに即した技術者がグループを組んで活動しています。技術者サイドから実際に使える形で各コミュニティに技術を提供し、一緒にアプリケーションを作るハッカソンも行っています。様々な企業の方から、目からウロコのアプリケーションを出してもらい、具体的な取り組みが着実に進んでいます。

「仕組みづくり」の要諦

南澤：偽情報対策を社会実装していくにあたって、何に留意し、どこから着手するべきか、アドバイスをいただけますか。

深津氏：サービスインフラレベルでは、まず人の勤勉さや善意に期待しないことです。みんながファクトチェックボタンを毎回押したり、怪しいところを選択して右クリックしてくれたりするとは限りません。「してくれない」前提でいかに機能させるかを考えるべきです。
私は「怠惰の法則」と呼んでいますが、人は楽なソリューションに吸い込まれていき、まめに右クリックをするような、勤勉なソリューションは定着しません。プラットフォーム自体に法規制や契約レベルの制約を設けて、タイムラインが表示時にAPIが自動でコールされるような、シンプルで楽な仕組みが望ましいです。

中山：前提として、人の善意に頼らない。非常に感銘を受けました。研究者としては「ボタンを押してくれるだろう」と期待した設計をしがちですが、そうならないのが現実です。

深津氏：これからnoteに搭載したいのは、急拡散する情報にブレーキをかける仕組みです。株式市場のサーキットブレーカーのように、あるファクトや伝聞が急拡散するとき、一旦拡散にブレーキをかけてひと呼吸置く、ダムのような仕組みが必要だと思っています。ただし、世の中のPVモデルや拡散モデルと戦うためにUX設計、サービス設計が重要になってきます。

田島氏：ビジネスモデルは、PV広告モデルが支配的だった時代から変わりつつあり、メディア側もトラストを集める方向へ向かっています。これからは、AIを使って低コストで記事を量産しても、入ってくる報酬は低く、儲かりにくくなるでしょう。

少し視点を変えると、そもそも「ファクトチェックをしなくてよいコンテンツを作る」仕組みが重要ではないかと考えています。今までは記事を書くこと、レビューすることに大きなコストがかかっていましたが、今後は良い一次情報を集めさえすれば、後はAIが全部やってくれます。適当なものを書いて出すより、良い一次情報を集めることにフォーカスするほうが、投資対効果が見えやすいのではないでしょうか。

南澤：メディアの本来あるべき姿かもしれませんね。

田島氏：もしかすると未来のメディアは、ファクトのデータベースを作るのが主な仕事になり、それをどう編み上げて消費するかは、ユーザー側が行うようになるかもしれません。

深津氏：メディアがファクトを保証した上で、そのファクトをソースにインフルエンサーやYouTuberが解説するのは、健全な行動です。ブロックチェーンのように、ファクトがつながるとよいですね。

南澤：最後に、偽情報対策として実用化した技術を、優れたUX、信頼されるサービスにするために何が最も重要か、ご意見をいただけますか。

本物を増やすことを目指す

深津氏：基本的には「面倒くさくない」ことと、「経済原理を変える」ことだと思います。メディアがファクトを保証しユーザーが読むのは機能しやすいですが、メディアが書き散らかしてユーザーがファクトを調べるのは機能しにくい。ブラウザかメディアか、あるいはその両方のレイヤーでユーザーの面倒をなくす考え方が一つ。
もう一つは、経済インセンティブをどう壊すかです。煽り記事が儲からないようにする設計は難しくても、逆に、ファクトチェック済の記事を拡散する人、信用できる情報を投稿する人の報酬スコアを上げる仕組みなら、ある程度機能すると思います。信頼できるインフルエンサーにはバッジが付与されて報酬が増えるような仕組み化が理想です。

中山：偽情報が出回るのはやむなしとして、真実の情報を増やしていくことにインセンティブを設ける方策はありますね。

信頼されるサービスをネットワークする

田島氏：1周回ってSEOの時代に戻るイメージで、「PageRank*」のように被引用数で価値を評価し、信頼されるサービス同士をつないでネットワークを構築することが大切だと思います。
企業対企業であれば、信頼できる企業と連携したいというブランドガバナンスのモチベーションが働きます。先ほどのコンソーシアムのように、信頼される企業同士で一緒にやっているサービスなら、社会的価値も高まるのではないでしょうか。

*Googleが開発したWebページの重要度を測るアルゴリズム。リンクを投票と解釈し、検索結果の順位付けを行う。