画像や動画の人物の顔を別人に差し替えるディープフェイク技術。現在では、PCで簡単に顔の置き換えができるツールも登場している。ビデオ通話で知人と話をし、本人だと安心をしてお金を送金して騙し取られた事件が発生したと中央電子台の「熱線12」が報じた。
犯罪集団も注目をするディープフェイク技術
AIを利用して、自撮り写真の中の自分を少しイケメン、美人に修正してくれるアプリはすでにたくさん存在している。さらには、映画の1シーンやミュージックビデオに登場する有名人の顔を自分の顔に差し替えるという顔交換アプリも珍しくなくなっている。いわゆるディープフェイク技術だ。このようなアプリは若い世代から人気を得ているが、注目をしているのは普通の人々だけではない。犯罪者たちも注目をしている。
ビデオ通話した知人がまったくの別人だった
今年2022年2月、浙江省温州市の陳さん（仮名）は、幼なじみの誠さんから久しぶりにWeChatで連絡をもらった。誠さんは海外で暮らしているため、長い間会っていなかった。誠さんは中国に戻ろうと考えているが、航空機のチケットを購入するのに問題が起きていて、代わりにチケットを中国で購入してくれないかという。代金はすぐに陳さんの銀行口座に振り込むという。
陳さんは少し不審に思った。なぜなら、誠さんとは以前もWeChatでやり取りをしたことがあったが、その時とは違うアカウントになっていて、わざわざ陳さんのアカウントを探して友達申請をしてきたからだ。
しかし、陳さんの不安はすぐに解消された。誠さんがビデオ通話を発信してきたからだ。そこには幼なじみの誠さん本人がいて、困っている様子で、助けてくれたらすごく感謝するというようなことを言う。
幼なじみを助けることに躊躇はない。陳さんは、誠さんが指示する通りに、航空会社の担当者のアカウントに友人申請をし、4万9000元（約98万円）を送金した。しかし、いつまで経っても誠さんからの送金がない。連絡を取っても未読のまま放置される。不審に思って、誠さんの古いアカウントに連絡をしてみると、本物の誠さんはびっくりして、そんなことを頼んだ覚えはないという。
陳さんはようやく騙されたと気づいて、警察に被害届を出した。
ディーフェイク技術で顔認証も突破
安徽省合肥市の公安は、2021年4月にある犯罪集団を逮捕している。この犯罪集団は、顔を差し替えた動画の作成を請け負っていた。近年、ビデオ通話で顔認証をして入れるサイトが増えている。最初に自分の写真と身分証の写真を送り、この身分証の写真に基づいて、ビデオ通話で顔認証をする。これにより、立体的な顔認証をすることができ、間違いなく本人であるということが認証できる。
しかし、犯罪者たちは、ディープフェイク技術を使って、別人の映像の顔だけを身分証の持ち主に差し替えた動画を送信することで、他人の身分証やアカウントでログインしてしまう。法律では禁止されているギャンブルサービスや犯罪に使うツール類を購入する時に、自分の身分を隠して、他人の身分証を使ってログインをすることが横行しているという。
ディープフェイクDIYツールも2000元で販売
このようなサービスはいくつもあり、中央電子台の記者は、17元で動画の顔を差し替えてくれるサービスを発見した。
さらに、顔を差し替えるツールを2000元で販売している業者も発見した。建前は、自分で遊ぶためのもの、AIの研究のためのものとなっているが、なぜか説明書には「ビデオ通話による顔認証も90%で通過」と悪用することが前提の文言がある。
このツールには、1299元で使い方のビデオも販売されていて、それを見ると、使い方は非常に簡単だ。使われている技術はディープラーニングだが、AIをまったく知らなくても、ビデオの指示通り写真や動画を読み込ませ、ボタンを押していくだけで顔を差し替えたビデオが完成する。
難しいところはまったくなく、顔の輪郭をマウスで指定してやらなければならないところが手間と時間がかかる程度だ。
政府は制限ガイドラインを設定、しかし効果は未知数
このような顔交換ツールの問題は、ただちに違法だとは言えないことだ。ショートムービーやSNSでは、ごく普通に搭載されている機能であり、AIを学習する生徒、学生にとっては有用なツールだからだ。販売する方もその建前で販売をし、犯罪者が利用することをねらっている。
2022年1月、国家ネット安全情報化委員会は、ガイドラインを示した。それは、ディープラーニングを利用して人の顔、声などの生物学的な情報を編集する場合は、ツール、ソフトウェアを提供する業者に、元の生体情報の持ち主に許諾を得る義務を課すというものだ。ショートムービープラットフォームなどでは、運営があらかじめ許諾を得た映像素材を提供するか、許諾をすることを条件に利用者から提供してもらうことで、以前と同じように顔交換を楽しむことができる。
しかし、違法目的でツールを販売している業者は、利用者がどのような元情報を使うかはわからないわけだから、ガイドラインに反することになってしまう。少なくともECなどで堂々と販売することはできなくなる。以前は、淘宝網（タオバオ）でもこのようなツールが販売されていたが、現在は1件も見つからない。
しかし、本当にこれで排除できるかどうかは未知数だ。WeChatのグループ内で取引がされれば、潜入捜査などをして摘発する必要が生まれる。完全な排除は難しいと、公安部では、本人とビデオ通話をしたからといって安心をしないでほしいと注意喚起をしている。
