今回の米国大統領選でも膨大なフェイク情報が飛び交った。民主主義の根幹を揺るがし、社会の分断を進めかねないフェイク情報の危険性と、取り得る今後の対策について、国際大学グローバル・コミュニケーション・センターの山口真一准教授が考える。

はじめに

今月終了した2024年の米国大統領選挙は、これまで以上にフェイク情報がクローズアップされた選挙であった。SNS上を事実もフェイク情報も同じように駆け巡り、中には生成AIによって作られたフェイク情報も含まれていた。

有権者はその情報が事実なのか虚構なのかを常に疑わなければならず、それがわからないまま意思決定を迫られるという現状があった。フェイク情報は選挙、そして民主主義にどのような影響を与えるのか。

フェイク情報と選挙

そもそもフェイク情報が大きくクローズアップされたのが2016年の米国大統領選挙だ。2016年はフェイク情報元年と言われる。

2016年の米国大統領選挙では多くのフェイク情報が拡散され、選挙前の3ヶ月間でトランプ氏に有利なフェイク情報は3000万回、クリントン氏に有利なフェイク情報は760万回もFacebook上でシェアされたと言われる。この回数は事実のニュースがシェアされた回数よりも多かった。

そして今回行われた2024年の米国大統領選挙でもフェイク情報は猛威を振るった。例えば、「選挙不正があった」「ある候補の両親はどちらもアメリカ市民ではなく大統領資格がない」「FBIがテロの脅威を発表した。投票所に行くのをやめよう」といった主張である。

このように選挙時にフェイク情報が流れる現象は一般的なものだ。オックスフォード研究所の調査では、調査された80以上の国のすべてでSNSの世論操作の証拠が見つかったとしている。

そして世論操作は何も国内からだけではない。国内外からの世論操作が考えられるのである。実際、今回の米国大統領選挙でもロシアやイラン、そして中国が生成AIを使った偽情報で世論工作をしているという指摘がなされていた。特に分断を煽る内容が多いとのことである。

フェイク情報が怖いのは人々の投票行動を変容させる可能性があるためだ。私は2020年に、2人の政治家に不利なフェイク情報を提示し、読む前後で人々の支持の分布がどのように変化するか、実証実験を行った。その結果、少なくない人が誤情報を知ってその政治家への支持を下げていた。これは政治的イデオロギーに関係なく両方の政治家で起こっていたのである。

さらに、弱く支持している人ほどフェイク情報を読んで支持をやめることが明らかになった。このことはフェイク情報が少なからず選挙に影響を与えているということを示唆している。

なぜならば、弱い支持をする人というのは支持層の中での多くの割合を占めるためである。浮動票とも言えるような弱い支持層がフェイク情報で支持しない方に流れるということは、選挙結果に少なくない影響を与えていることを示している。

老若男女騙されやすく、家族・友人との会話でさらに拡散

私はGoogle JapanとInnovation Nipponという実証研究プロジェクトを推進しており、近年はこのフェイク情報問題をテーマの1つとしている。2024年に発表した最新の研究成果を紹介しよう。

研究に当たっては国内で2022年から2023年にかけて実際に拡散したフェイク情報15件について、人々の真偽判断行動や拡散行動を調査した。調査は2万人を対象にスクリーニングした上で、いずれか1つ以上のフェイク情報を見聞きした人3700名の回答を分析した。

真偽判断行動について分析した結果、フェイク情報を見聞きした人の中でその誤りを認識していた人は加重平均でたった14.5%に過ぎなかった。51.5%は正しいと思うと信じており、残りはわからないと判断を保留していた。

しかも年齢別に見ても特に傾向は見られず、若い世代も中高年以上も同程度に騙されていた。このデータが示すのは、フェイク情報はSNSを多く利用する若者だけの問題ではなく、老若男女問わず大多数の人々がフェイク情報に騙され、その真偽を見極めるのが困難であるという状況である。

さらに、拡散行動の調査でも興味深い結果が出た。フェイク情報を見聞きした人のうち、平均して17.3%が何らかの方法で拡散していたが、その拡散手段として最も多かったのは家族・友人知人との直接の会話だったのである。約半数が直接の会話で拡散していた。

つまり、SNSやネットニュースのコメント欄で聞いた情報を家族に話し、それがまたSNSに投稿されるといった、インターネットとリアルが連関する現象が起こっているのである。フェイク情報は情報空間全体の問題として考える必要がある。

生成AI時代の選挙とフェイク情報

AI技術の発展、そして生成AIの普及はディープフェイクの大衆化という現象をもたらしている。つまり、誰もが手軽にディープフェイクによって偽動画や偽画像を作成することが可能になった。

これは将来におけるフェイク情報の爆発的な増加を意味しており、私はこれを「Withフェイク2.0時代」という新たな局面に突入したと呼んでいる。この現象はすでに現れている。災害時の混乱を増幅させる投稿、政治的意図で発信された偽動画、ディープフェイクによる詐欺行為など、悪用例が増加している。

この大衆化という現象は、同時に世論工作の大衆化という現象ももたらしている。安価に、そして簡単に利用できる技術を活用して、個人やグループが社会や政治に影響を与える力を増大させているのである。

ある組織が、大量のアバターを作成してそれらにSNSアカウントを付与し、AIを使ってSNS投稿を自動生成・投稿して世論工作を展開するというビジネスを行っているという報道もあった。この手法はすでにいくつかの国の選挙で利用され、日本語での操作も確認されているようだ。

ディープフェイクと米国大統領選挙

今回の米国大統領選挙でも、明らかに政治的意図を持って発信された偽動画や偽画像が少なくない数拡散していた。例えば、ある候補が過去にひき逃げをしており、その被害者が話すインタビュー動画などだ。偽動画の中には大量のフォロワーを持つインフルエンサーが拡散し、1億回以上閲覧されるようなものも存在した。

しかしながら、ディープフェイクは、フェイク情報全体に占める割合で言うと、当初懸念されていたほどではなかったとも指摘されている。

その理由は明白である。悪意を持って偽情報を流す人からすると、とにかく自分の目的を達成できればよい。現在の技術では、人々が見分けることができず、信じやすく、かつ拡散したくなるようなコンテンツを生成するには、生成AIサービスに入力する言葉・指示に工夫が必要で手間がかかる。むしろ、過去の映像や画像を活用したり、テキストに偽情報を作成したりする方が目的を達成するにあたってはるかにコストが低いのである。

つまり、AI技術が進化し、より簡単に人々が信じやすく拡散したくなるような偽画像や偽動画を作れるようになり、そのコスト（時間的コスト）が他の手段よりも低くなって閾値を超えた時、生成AI技術は一気に偽情報生成に使われるようになるだろう。

Withフェイク2.0時代の脆弱な民主主義

残念ながら、民主主義という制度はフェイク情報に脆い。これは、人口のたった5から10%の人々の意見が変わるだけで、選挙結果や政治の状況が大きく変わるためだ。情報の正確さに疑問符がつく状況が続く中、フェイク情報によって影響を受けたわずかな有権者層が結果を決定づけるリスクがある。

米国大統領選挙のように2大政党制で力が拮抗している場合、より深刻な状況になる。これにより、民主主義の健全性が損なわれるだけでなく、社会の分断が進んで国の統治や政策の不安定さにも繋がりかねない。今回の米国大統領選挙は、Ｗithフェイク2.0時代の民主主義の脆弱性と潜在的リスクを浮き彫りにしたともいえる。

日本も民主主義国家であるため、選挙におけるフェイク情報問題への対策は必須だ。私も委員を務める総務省の検討会（デジタル空間における情報流通の諸課題への対処に関する検討会）では、フェイク情報に関する総合的な対策についての議論を行っている。

表現の自由を担保した上で、フェイク情報問題から民主主義を守るためにも、プラットフォーム事業者、業界団体、メディア、ファクトチェック組織、政府、アカデミアなどが連携し、有効な対策を早急に検討、具体化、実装していくことが何よりも求められる。

＜執筆者略歴＞
山口 真一（やまぐち・しんいち）
国際大学グローバル・コミュニケーション・センター准教授。博士（経済学・慶應義塾大学）。1986年生まれ。2020年より現職。
専門は計量経済学。研究分野は、ネットメディア論、情報経済論、情報社会のビジネス等。KDDI Foundation Award貢献賞など様々な賞を受賞。また、内閣府「AI戦略会議」を始めとし、複数の省庁の有識者会議委員を務める。
主な著作に「ソーシャルメディア解体全書」（勁草書房）、「正義を振りかざす『極端な人』の正体」（光文社）、「なぜ、それは儲かるのか」（草思社）、「炎上とクチコミの経済学」（朝日新聞出版）、「ネット炎上の研究」（勁草書房）などがある。
他に、シエンプレ株式会社顧問、日本リスクコミュニケーション協会理事、早稲田大学ビジネススクール兼任講師などを務める。

【調査情報デジタル】
1958年創刊のTBSの情報誌「調査情報」を引き継いだデジタル版（TBSメディア総研が発行）で、テレビ、メディア等に関する多彩な論考と情報を掲載。2024年6月、原則土曜日公開・配信のウィークリーマガジンにリニューアル。

鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。