フェイクニュース撲滅へ、来年から「顔交換」動画規制

 自分の「顔」をアップロードすれば、有名俳優の演技が自分の「演技」に変わる。中国で流行している「AI顔チェンジ」動画は面白い体験であるとともに、プライバシーや著作権、さらには社会に大混乱を起こす可能性もある。

 中国ではこれを規制するために2020年1月1日から「インターネット音声映像情報サービス管理規定」が施行される。中国メディア「中国網」では、この中国初の規定が制限する「AI顔チェンジ」の現状と今後への影響などを記者がレポートしている。

フェイクニュース撲滅義務

 先日、国家インターネット情報弁公室、文化観光部、国家放送テレビ総局が共同で「インターネット音声映像情報サービス管理規定」(以下「規定」)を発表した。

「規定」の中では、「ディープラーニング(DL)」「バーチャルリアリティ(VR)」などの新技術に基づいて新たに作られるネット動画についてたびたび言及されている。具体的には、ネットワーク音声映像情報サービスプロバイダ(以下「プロバイダ」)とその利用者が、DL、VRなどに基づく新技術を利用して、バーチャル動画を作成、発表、拡散する場合、加工した動画であることを明確に表示しなければならず、これら新技術の新規アプリケーションを利用して、フェイクニュースを作成、発表、拡散を禁止すると強調している。

 「フェイクニュース撲滅義務」も初めて定められた。——プロバイダはフェイクニュースを撲滅する方策を確立し、健全化しなければならず、プロバイダ利用者がDL、VRなどを利用したフェイク画像やフェイクニュースを作成、発表、拡散した場合、直ちに相応のフェイク対策を講じ、関連情報を上記3機関に報告することを義務付けている。

 また「規定」により「監督管理と処罰」が明確になった。違反した場合、上記3機関が関連する法律法規に基づいて処理する。治安管理行為に違反した場合、法により治安管理処罰が与えられ、犯罪を構成した場合、法により刑事責任が追及される。

ネットでは「AI顔チェンジ」作成ビジネスも

 2017年末、「ディープフェイク顔チェンジ技術」が登場してから、AI技術を使ったフェイク動画が増えている。ビッグデータやマシンラーニング、AIが一度声と視覚情報を解体し、別人のものと組み替える、この技術の進歩に伴い、フェイク動画はますます「現実」との見分けがつかなくなり、時には人々の不安を引き起こしている。

 記者は今年の8月〜9月頃、「ZAO」というアプリを、友だちリストに拡散した。スマホにこのアプリをインストールするだけで、動画テンプレートを使い簡単に「顔を替える」ことができる。当時「揚子晩報」記者だった曹さんはアプリをダウンロードし、写真の使用を許可した。体験した感想は「映像の中の自分の顔が、芸能人と自分の顔の中間にある “中間人間”のようだ」。友だちにシェアしたら「本人とのそっくり度60〜80%」と言われたという。

 12月3日、「揚子晩報」の記者は大手動画投稿サイト「bilibili(ビリビリ)」で「顔チェンジ」と検索したところ、まだまだ多くの動画が見つかった。「ZAO」で直接作成しているものもあれば、顔チェンジ動画専門の投稿者がアップしたものもあった。

 このほかにも、記者が大手ECサイト「タオバオ(淘宝網)」で「AI顔チェンジ」と検索すると、機械で合成した動画を大量に見つけることができた。わずか十数元(約200〜300円)でこのようなカスタマイズサービスを提供するショップや、「顔チェンジ」が作成できるスマホアプリがあったりと、非常に手軽に体験できる。

タオバオの「顔交換」検索結果画面。通常の写真補正から有名人との2ショット合成まで様々な業者が出店している(画像は一部加工)

 さらに画像加工ソフト「Photoshop」で作成代行する店もあり、写真さえあれば、背景の差し替え、人気芸能人との2ショットや自分の頭部とスターの胴体の合体、さらに正面の顔の取り替えだけでなく、さらに横顔を正面の顔に変えることもできるという。

 タオバオの販売者の表示があれば、AI動画を好きな顔にチェンジして映画全編加工や、画像を組み合わせ人気芸能人たちから祝福を“集める”こともできる。1分以内の動画なら60元(約900円)程度で作成してくれるという。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です