技術革新は社会の安全に脅威となるのだろうか。情報先進国では、人工知能(AI)を使った偽動画「ディープフェイク」(ディープラーニングから名づけられた) による情報操作への懸念が増しているという。
6月13日付英国
『BBC』は「ディープフェイクが暴力的な社会不安を巻き起こす危険性」との見出しで以下のように報道している。
米下院公聴会で、専門家は著名人があたかも話しているような巧妙な偽動画(ディープフェイク技術)により暴動が起きる可能性を指摘。外交政策研究所のワッツ氏は、「AIによるディープフェイクソフトは宣伝効果抜群のツールだ。陰謀を持った人々がこの技術を使えば、公衆の安全が危険にさらされる。...
全部読む
6月13日付英国
『BBC』は「ディープフェイクが暴力的な社会不安を巻き起こす危険性」との見出しで以下のように報道している。
米下院公聴会で、専門家は著名人があたかも話しているような巧妙な偽動画(ディープフェイク技術)により暴動が起きる可能性を指摘。外交政策研究所のワッツ氏は、「AIによるディープフェイクソフトは宣伝効果抜群のツールだ。陰謀を持った人々がこの技術を使えば、公衆の安全が危険にさらされる。」と危惧。その脅威は偽動画を割り出すソーシャルメディアサービスがあれば対処できるとの意見も出された。この公聴会はフェイスブックがサッカーバーグCEOの偽動画を削除せず批判された数日後に行われた。
AI技術の進んだ国、大型データへのアクセスが容易な国は、情報戦争では非常に有利な立場にある。インドではメッセージアプリ「ワッツアップ」で嘘のメッセージにより暴力が起きたり、去年ジャーナリストが性的ハラスメントを受けた例がある。ディープフェイクが広がるとこのような傾向に拍車がかかる恐れがある。偏見や偏向を助長するため、このような暴力や喧伝を人は利用し拡散したがるもの。対策にはIT企業の支援が必要。
6月12日付米国『ワシントンポスト』は「AI識者らがディープフェイク動画の検証を急ぐ、“我々には危険が迫っている“」との見出しで以下のように報道している。
全米の識者らが政治脅威となるディープフェイク対策に挑む。コンピュータ上で作られた偽動画が米大統領選で候補や有権者に影響を与えかねないのだが、我々は準備が整っていないというのが現状である。
研究者らは、偽の暴露測定、光、影、瞬きのパターンを解析することにより動画の真偽分析ができる自動システムを開発している。候補者の実際の表情の動きや笑う時に首を傾げる角度まで、項目を関連付けて分析する。
対策技術の進歩がある一方で情報操作技術も格段に進歩しており、総選挙の前日に混乱を招いたり、対立候補にダメージを与えたりなど、最大級の社会的悪影響が起きるのは時間の問題だと専門家は指摘する。
米国では、AI生成動画による政治スキャンダルは起きていないが、中央アフリカでは昨年ガボンで、重病(又は死亡した)と伝えられていたアリ・ボンゴ大統領の偽動画が未遂に終わったクーデターに使われた事件もあった。
米議会は投票プロセスや評判への影響など、国家安全保障にかかわる問題が起きるのを懸念している。下院情報委員会は、木曜AI識者らを招いて公聴会を開き、検証や心的影響について議論した。シフ下院議員は、「準備が不十分だ。国民も意識が追いついていない。」等と指摘。
ディープフェイク動画を取り締まる法律は現在ない。名誉棄損、詐欺、政府職員への成りすましなど、現行法の適用が提言されたが過剰規制との線引きが難しいという。
今月のピューリサーチ研究所の世論調査によると、3分の2が改変動画や人物が本当のニュースを理解するうえで妨げになっていると回答。3分の2以上がでっち上げニュースにより、ニュースを見なくなったと回答したという。
このように、偽動画により、全うな動画まで受け入れられなくなる危険もある。技術は急激に進化しており、先月ロシアのAI研究者らは、静止画が数枚あれば巧妙な偽動画が作れるシステムを公表。
米IT企業は偽動画対策に乗り気でない。ユーチューブはすぐに削除するが、フェイスブックは投稿の正当性を尊重する立場をとる。
閉じる