チャットGPTを開発したオープンAI社は３０日、同社の生成AIを使って世界的に政治世論工作を図っていたロシア、中国、イラン、イスラエルの集団を確認したことを公表した。

今年の米大統領選が近づく中、闇のプロパガンダ活動が生成AIを用いて容易に行われるのではないかとの懸念が高まっている。...

チャットGPTを開発したオープンAI社は３０日、同社の生成AIを使って世界的に政治世論工作を図っていたロシア、中国、イラン、イスラエルの集団を確認したことを公表した。

今年の米大統領選が近づく中、闇のプロパガンダ活動が生成AIを用いて容易に行われるのではないかとの懸念が高まっている。

同社は、ロシア、中国、イランの有名プロパガンダに関連したアカウントを削除。これらの集団は同社のAI技術を使って、投稿をしたり、別の言語に翻訳したり、ソーシャルメディアへの自動投稿を可能にするソフトウェアを構築していたという。

だがいずれもそれほどの注目はなく、関連アカウントへのアクセスも殆ど無く、僅かなフォロワーがいるのみだった。だが、同社のレポートによると、生成AIを使用した集団は、大量のテキストを、以前と比べ、殆どミスなく生成していることが確認されたという。そのため、「他の集団も行う可能性もあり、看過する時ではない。歴史をみると、世論工作は何年も失敗を積み重ねるが、見過ごすとある時突然ブレークスルーを遂げる」と懸念を示している。

中国の「スパムフラージュ」と呼ばれる集団はソーシャルワーク上のリサーチ活動でAIを使用し、中国語、韓国語、日本語、英語での投稿を行っていたという。イランの「国際バーチャルメディア連合」という集団は、自身の記事作成に同社のAIを使っていた。

ロシアの「バッドグラマー」という初登場の集団は、テレグラムアプリに自動的に投稿を行うプログラムで、ロシア語や英語で「米国はウクライナを支援すべきではない」と主張する内容のコメントを投稿させていたという。また、イスラエルの「STOIC」という政治的活動企業は、カナダ、米国、イスラエル向けに、ガザ戦争に関してイスラエル寄りの投稿させていたという。

フェースブックを運営するメタ社も２９日、「STOIC」の活動を公表、同集団によるフェースブックの５１０個、インスタグラムの３２個のアカウントを削除したとしており、中にはハッキングされたアカウントもみられたという。

５月３１日付米『ロイター通信』：「オープンAIがAIを不正操作した工作活動を摘発」：

オープンAIのサム・アルトマン氏は３０日、インターネット上で同社のAIを使い「工作活動」を図っていた５つの活動を阻止したと発表。

工作活動は過去三ヶ月にわたり、偽名やプログラムで様々な言語を使い、短文コメントや長文記事を生成していたという。これらはロシア、中国、イラン、イスラエルによるもので、ロシアのウクライナ侵攻、ガザ紛争、インド総選挙や欧米の政治等の問題を話題にしたものだったという。

オープンAI社は２８日、幹部による安全とセキュリティ委員会を設置。これらの工作活動では、AI生成物だけでなく、手動で書かれたテキストやネット上からコピーしたとみられる情報や画像も含まれていたという。

メタ社は、２９日の四半期セキュリティレポートで、「AI生成のような」内容の投稿がフェイスブックやインスタグラムで確認されたとしている。例としては、各国ニュース機関や米議員の投稿の下に、イスラエルのガザ戦争での対応を賞賛するコメントがみられたという。