武漢大学のAI研究ラボ「AIMラボ」の珞珈山チームが、監視カメラなどから身を隠すステルス服「InvisDefenseステルス服」を開発した。AIの画像判別アルゴリズムを逆手に取る学習をするAIにデザインさせたものだと極目新聞が報じた。
監視カメラは騙せても、人目についてしまうダズル迷彩
監視カメラ、防犯カメラが増え、顔検出、人体検出のAIが世界中で使われるようになっている。この状況に、人権やプライバシーを守る目的で、監視カメラに検出されない仕組みを考え出す研究者も登場してきている。
しかし、その多くが、「AIを幻惑する」ダズル迷彩を考案するというものになっている。このダズル迷彩の欠点は、確かにAIを騙すことはできるが、人間の目から見ると突飛な姿になるため、人の目には不審に映ってしまうということだった。武漢大学のチームは、AIを幻惑することができ、なおかつ人から見ても不審に映らない服のデザインを開発した。
この研究「InvisDefenseステルス服」は、ファーウェイ杯「第1回中国大学院生サイバーセキュリティーイノベーション大会」で、775チームが出場した中で、一等賞の5つの研究のひとつに選ばれた。
昼でも夜間でもAIに認識されないパターン
この「InvisDefenseステルス服」は、可視光と赤外線の2つに別々に対応をしている。昼間の状態では、監視カメラは可視光による通常映像を解析して、それが人間であるかどうかを判別する。可視光に対しては、Tシャツなどに描かれたデザインパターンでAIを幻惑する。夜間の状態では、監視カメラは赤外線映像を解析して、それが人間であるかどうかを判別する。赤外線に対しては、Tシャツなどの下に発熱素材を一定のパターンで埋め込み、赤外線パターンによるAIを幻惑をする。
幻惑パターンもAIに考えさせる
このようなパターンもAIによりつくり出す。人間を判別するAIを学習させながら、判別に失敗する（人間と判別できない）パターンをAIに学習させ、そのAIに幻惑パターンを生成させる。判別アルゴリズムの盲点をつくアルゴリズムをつくることで、InvisDefenseステルス服を実現している。
この研究のリーダーは武漢大学の王正氏で、2020年に海外留学をしている時からこのアイアディアを温め続け、武漢大学で研究を続け、2021年に武漢大学の大学院生によるチームを結成し、本格的な開発を始めた。
試行錯誤が必要だった実用化
難しいのは人の目とAIの目のバランスだった。AIを幻惑するパターンは比較的簡単に生成することができるものの、人の目には奇異に映ってしまい、かえって目立つことになる。AIを幻惑し、なおかつ人の目から見ても自然に見えるパターンに到達するのが非常に難しく、3ヶ月で700のデザインをつくり、試行錯誤することになった。
さらに、3Dコンピューターシミュレーションではうまくいったのに、実際に服をつくって着てみるとうまくいかないということもしばしば起こった。
夜間の赤外線による幻惑は、バッテリー駆動の温感パッチと冷却パッチを利用した。これを服の下に並べ、温度パターンを生み出すことで、赤外線映像によるAIの解析を幻惑することができる。最終的に、4つの温度制御パッチを実装することで、監視カメラAIを幻惑することが可能になった。
幻惑パターンで認識率は57%低下
InvisDefenseステルス服を完成させた研究チームは、武漢大学内で昼と夜に、歩行者をカメラ映像で認識するテストを行なった。その結果によると、InvisDefenseステルス服を着た場合は、認識精度が57.0%低下をしたという。InvisDefenseステルス服は普段着としても人の目から見ておかしくないもので、周囲の人からもInvisDefenseステルス服を着ていることに気づかれない。
研究チームによると、まだまだ改良の余地はあるため、ステルス精度は今後も上がっていくという。
