中華IT最新事情

中国を中心にしたアジアのテック最新事情

AIを幻惑するステルス服。人の目から見ても奇異に映らない幻惑パターンをAIに生成させる

武漢大学のAI研究ラボ「AIMラボ」の珞珈山チームが、監視カメラなどから身を隠すステルス服「InvisDefenseステルス服」を開発した。AIの画像判別アルゴリズムを逆手に取る学習をするAIにデザインさせたものだと極目新聞が報じた。

 

監視カメラは騙せても、人目についてしまうダズル迷彩

監視カメラ、防犯カメラが増え、顔検出、人体検出のAIが世界中で使われるようになっている。この状況に、人権やプライバシーを守る目的で、監視カメラに検出されない仕組みを考え出す研究者も登場してきている。

しかし、その多くが、「AIを幻惑する」ダズル迷彩を考案するというものになっている。このダズル迷彩の欠点は、確かにAIを騙すことはできるが、人間の目から見ると突飛な姿になるため、人の目には不審に映ってしまうということだった。武漢大学のチームは、AIを幻惑することができ、なおかつ人から見ても不審に映らない服のデザインを開発した。

この研究「InvisDefenseステルス服」は、ファーウェイ杯「第1回中国大学院生サイバーセキュリティーイノベーション大会」で、775チームが出場した中で、一等賞の5つの研究のひとつに選ばれた。

▲米国のメディアアーティスト、アダム・ハーベイ氏が考案した顔認証を回避する敵対性サンプル「CVダズル」。AIを幻惑させながら、新しいファッションともなることをねらっている。

 

昼でも夜間でもAIに認識されないパターン

この「InvisDefenseステルス服」は、可視光と赤外線の2つに別々に対応をしている。昼間の状態では、監視カメラは可視光による通常映像を解析して、それが人間であるかどうかを判別する。可視光に対しては、Tシャツなどに描かれたデザインパターンでAIを幻惑する。夜間の状態では、監視カメラは赤外線映像を解析して、それが人間であるかどうかを判別する。赤外線に対しては、Tシャツなどの下に発熱素材を一定のパターンで埋め込み、赤外線パターンによるAIを幻惑をする。

▲右の人は人としてAIに認識される。しかし、左の人は認識がされない。Tシャツのグラフィックが幻惑パターンになっているが、人の目から見ても奇異には見えない。

▲赤外線でも左の人は人として認識されるが、右の人は認識されない。発熱パネルを入れて、赤外線の幻惑パターンをつくっている。

▲監視カメラは、昼は可視光、夜は赤外線を利用するため、可視光と赤外線で別々のAIモデルを開発し、別々に幻惑パターンを生成させた。

 

幻惑パターンもAIに考えさせる

このようなパターンもAIによりつくり出す。人間を判別するAIを学習させながら、判別に失敗する(人間と判別できない)パターンをAIに学習させ、そのAIに幻惑パターンを生成させる。判別アルゴリズムの盲点をつくアルゴリズムをつくることで、InvisDefenseステルス服を実現している。

この研究のリーダーは武漢大学の王正氏で、2020年に海外留学をしている時からこのアイアディアを温め続け、武漢大学で研究を続け、2021年に武漢大学の大学院生によるチームを結成し、本格的な開発を始めた。

▲AIに人と認識させるパターンを学習させながら、同時に人と認識できなかったパターンも学習させる。この認識できないパターンを学習したAIモデルに、幻惑パターンを生成させた。

武漢大学の珞珈山チーム。AIにAIを幻惑させるパターンを生成させるという発想で、研究が始まった。

 

試行錯誤が必要だった実用化

難しいのは人の目とAIの目のバランスだった。AIを幻惑するパターンは比較的簡単に生成することができるものの、人の目には奇異に映ってしまい、かえって目立つことになる。AIを幻惑し、なおかつ人の目から見ても自然に見えるパターンに到達するのが非常に難しく、3ヶ月で700のデザインをつくり、試行錯誤することになった。

さらに、3Dコンピューターシミュレーションではうまくいったのに、実際に服をつくって着てみるとうまくいかないということもしばしば起こった。

夜間の赤外線による幻惑は、バッテリー駆動の温感パッチと冷却パッチを利用した。これを服の下に並べ、温度パターンを生み出すことで、赤外線映像によるAIの解析を幻惑することができる。最終的に、4つの温度制御パッチを実装することで、監視カメラAIを幻惑することが可能になった。

▲実用化をするには、360度どこから見ても、人と認識されないようにしなければならず、幻惑パターンは3Dモデル上でデザインされた。

幻惑パターンで認識率は57%低下

InvisDefenseステルス服を完成させた研究チームは、武漢大学内で昼と夜に、歩行者をカメラ映像で認識するテストを行なった。その結果によると、InvisDefenseステルス服を着た場合は、認識精度が57.0%低下をしたという。InvisDefenseステルス服は普段着としても人の目から見ておかしくないもので、周囲の人からもInvisDefenseステルス服を着ていることに気づかれない。

研究チームによると、まだまだ改良の余地はあるため、ステルス精度は今後も上がっていくという。