フェイク画像が拡散するなど、大きな社会問題にもなっている生成AI。いま、その開発企業が次々と、日本に拠点を開設しています。背景には何があるのでしょう？

進化する生成AIを体験

質問を入力すれば、自然な文章で答えてくれ…。短い文を入力するだけで、リアルな動画も作成できる…。生成AIの進化は、いまやとどまるところを知りません。

そうした生成AIを使った動画制作を体験してみました。

番組MC 膳場貴子さん
「いま私は日本語で話しています。この日本語を様々な外国語に翻訳してくれる『生成AI』が､今、次々と出てきているそうなんですが…」

例えば、この撮影した動画を、『HeyGen（ヘイジェン）」という、生成AIツールに取り込むと指定すれば中国語でもフランス語でも翻訳してくれます。

短時間で現実にはありえない映像を、次々と生み出す生成AIの進化。

AI開発競争の舞台は日本？

そんなAIの開発競争が、今、ここ日本を舞台に繰り広げられようとしています。

生成AIの世界を席巻する「チャットGPT」。

4月15日、開発したオープンAI社が、東京に新たな拠点を開設しました。

オープンAI社 サム・アルトマン CEO
「日本のみなさん、政府、企業、研究機関との長期的なパートナーとなることを願う、最初のステップです」

生成AIに関連して日本への進出を加速する企業は、オープンAI社だけではありません。4月上旬、訪米した岸田総理は､

岸田文雄総理
「わが国における『生成AI』の社会実装に､多大なる貢献をいただいているものと承知をします」

マイクロソフトの副会長と会談し、日本のデータセンター増強などに約4400億円を投資することを歓迎。実はこうしたデータセンターは、生成AI開発に欠かせません。

すでに､アマゾンやグーグルも、日本での新たなデータセンターの建設や増強を発表しています。その背景を専門家は…

東京工業大学 笹原和俊 准教授（計算社会科学）
「AIを学習させるためには沢山の「データ」が必要。人間が書いたりとか、人間が作り出したデータでないといけない。そういうデータっていうのは、まさに貴重な資源。いま日本はデータの利用に関して規制が緩い。（日本は）“お得”というか、AIをサポートしてくれる国」

日本は現在、著作物を許諾なしに、AIにデータ学習させることができるなど、規制の厳しい欧米に比べ、AI開発に絶好の環境を提供してくれる国なのです。

今後日本でも進むAIの技術開発。ところが、進化するAIは、多くの問題も生み出しています。一例がフェイク画像や動画の拡散です。

生成AI由来のフェイクが拡散中

画像では黒人女性と肩を組み、にこやかな表情のトランプ前大統領。女性たちがトランプ氏を支持するように取り囲んでいます。

しかし、これは実際には存在しない場面。一部のトランプ支持者が、支持拡大を狙って、生成AIで作成した「フェイク画像」だといいます。

アメリカ大統領選を巡っては、生成AIを使った画像や動画がすでに拡散。また、こうした「情報汚染」はアメリカだけではありません…

中国の習近平主席が台湾総統選挙に言及したとされる動画…

習主席フェイク動画
「台湾の人民よ。良い投票をすれば､一緒に肉まんと玉子チャーハンを食べましょう－」

これも生成AIが作ったもので、1月の総統選前に拡散されました。

生成AIの進化とどう向き合う？

こうしたフェイクの真偽を見破る手立てはあるのでしょうか。AI技術の研究を行う会社で、問題の画像を解析してみると…

NABLAS 鈴木都生 取締役
「フェイクという形で出ている。（フェイクも）どんどん新しいものが出てきたり進化していく。技術的には難しいところがある」

すでにヨーロッパでは、AIの脅威に備える動きが始まっています。

ベニフェイ EU議会議員
「この法律はAIの安全で、人間中心の発展に向けた明確な道筋を示す、世界初の規制となる」

今年3月、EU議会は世界初となる「AI規制法案」を可決。生成AIが作った画像や文章などについては、その明記が義務付けられ、違反した場合、約56億円の制裁金を課すとしました。

こうした中､専門家はAIが広く社会全体に及ぼす危険性を指摘します。

東京工業大学 笹原和俊 准教授（計算社会科学）
「これからインターネットで目にする情報は、かなりの部分がAI由来のもの。そうなった時“本当のような嘘”が出回ることによって何も信じられなくなる。民主主義というのは信頼の上で成り立っている。そういう意味では民主主義がうまく機能していく上での一番土台の部分、それが毀損されているんじゃないかなと」

生成AIがもたらすリスクに、今後、私達はどう対応していけばいいのでしょうか…。

（「サンデーモーニング」2024年4月21日放送より）

鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。