深津貴之×StoryHub×富士通偽情報は防げないのか？AI時代の現実と対策

南澤：本日は、「AIが生み出す偽情報から社会を守る」というテーマで議論を進めてまいります。はじめに、偽情報が横行する現状を共有します。

偽情報の「深さ＝質」と「広がり＝量」の変化

中山：こちらの映像にはリアルとフェイクが混在しています。どれがフェイクかわかるでしょうか。（中略）正解は4つがフェイクで、2つがリアルです。このように、一般の方には見分けがつかないフェイク画像・映像が広がっています。またフェイクニュースなどの偽情報は、社会や経済にも悪影響を及ぼしています。経済的損失も大きく、グローバルでもリスクが指摘され、日本でも偽情報対策が進み始めています。

中山：いわゆるディープフェイクは、研究者やファクトチェックのプロの目で見ても真偽がわからないものが現れ、量も拡大して検証が追いつかないと言われています。
最近ではビジネス領域でも悪用リスクが高まり、リアルタイムで顔をスワップする送金詐欺や、偽領収書での経費精算といった犯罪が発生しています。採用面接でリアルタイムディープフェイクが使われた事案が日本でも報道されるなど、「なりすまし」がいよいよ日本に入ってきた状況です。

深津氏：生成AIのおかげで言葉の壁を越えやすくなり、日本語の難しさというバリアが効かなくなってきました。

中山：偽情報には騙されるリスクだけでなく、生成AIを使って作成・改変された巧妙なフェイクを「気づかずに発信してしまうリスク」もあります。記事に誤って偽情報を載せてしまい、後日撤回する事案も起きており、発信側のリスクも意識する必要があります。

南澤：先ほど非対称性というキーワードも出てきましたが、具体的に偽情報の厄介さがどこにあるのかを解き明かしたいと思います。