NII　AIが生成したフェイク顔映像を自動判定

ホーム＞情報通信＞ NII　AIが生成したフェイク顔映像を自動判定

2023年1月27日

　大学共同利用機関法人情報・システム研究機構国立情報学研究所（NII、東京都千代田区、喜連川優所長）は、シンセティックメディア国際研究センター長の越前功氏と副センター長の山岸順一氏の研究チームが開発した、AIが生成したフェイク顔映像の真偽を自動判定するプログラム「シンセティック・ビジョン」をサイバーエージェント（東京都渋谷区、藤田晋代表取締役）が採用し、タレントら著名人のディープフェイク映像検知で実用化することになったと発表した。NIIは情報学分野における研究成果を社会問題解決のために応用、展開する社会実装に取り組んでおり、今回の「シンセティック・ビジョン」の実用化は、流通する多様なメディアの信頼性確保に寄与するものとしている。この研究成果は、国立研究開発法人科学技術振興機構（JST、東京都千代田区、橋本和仁理事長）の戦略的創造研究推進事業クレスト「声のアイデンティティクローニングと保護」、「インフォデミックを克服するソーシャル情報基盤技術」、およびJST研究成果最適展開支援プログラム　A―STEPエーステップの「AIにより生成された顔映像フェイクメディアを検出する技術の確立」により開発された。　今回、サイバーエージェントが展開しているタレントやアーティストなどの著名人の公式3D　CGモデルを制作し「分身」となるデジタルツインをキャスティングするサービス「デジタルツインレーベル」において、NIIが開発した「シンセティック・ビジョン」を採用することになった。著名人のディープフェイク映像の悪用を検知する目的に導入したもので、AIにより生成されたフェイク顔映像を真偽自動判定する技術が、実サービスに導入される国内初めての事例となる。　近年、顔、音声、自然言語などの人間由来のデータを大量にAIに学習させることで、本物と見紛う顔映像、音声、文章といった「シンセティックメディア」の生成が技術的に可能となった。このような技術には、芸術などの表現活動や工学的なシミュレーション、バーチャルリアリティといった活用で私たちの社会を豊かにすると考えられる。反面、悪用された場合には詐称や情報操作などが起きる可能性もある。とりわけ、映像中の人物の顔を他人の顔に置き換えたディープフェイク映像による偽情報の流布が、現在では社会問題になっている。　このような現状に対応すべく、NIIではディープフェイク映像の真贋判定を行う深層学習モデルを研究してきた。このモデルでの判定方法は大量のデータに基づく自動識別によるもので、人間による分析等を一切必要としない手法だ。さまざまな画質の映像を学習しているため、圧縮やダウンコンバージョンなどのメディア処理で画質が低下した映像でも一定の信頼度による判定を行うことができる。　しかし、この技術を実際の映像に適用して真偽判定するには、複数の高度な深層学習技術を直接操作できる技術レベルが必要だった。そこで、他のアプリケーションにも同技術を容易に導入できるパッケージとして、真贋判定を行う映像をサーバーにアップロードし、判定結果を示した映像をダウンロードするまでの全てのプロセスを利用可能なプログラム「シンセティック・ビジョン」を開発した。今回のサイバーエージェントによるプログラムの導入は、AIを活用したサービス『AIaaS』として実現した事例となる。　NIIは情報学分野における研究成果を社会問題解決のために応用、展開する社会実装に取り組んでおり、今回の「シンセティック・ビジョン」の実用化は、流通する多様なメディアの信頼性確保に寄与するもの。NIIシンセティックメディア国際研究センターでは、「シンセティック・ビジョン」の社会実装を共に推進するパートナー企業を募集している。

この記事を書いた記者

admin

電波・情報通信関連の新聞 The Dempa Times