AI監視社会における21世紀のカモフラージュ UNLABELED—Camouflage against the machines

Makoto Amano / 天野真
Hanako Hirata / 平田英子
Ryosuke Nakajima / 中嶋亮介
Yuka Sai / 斉友華

A collaboration with Dentsu Lab Tokyo

監視資本主義社会が到来しようとしている。 タクシーに乗れば、 見た目の性別で、 髭剃りのCMを押し付けられ、 空港では、人種を特定され、 危険人物のラベルを貼られる。 日常のあらゆる振る舞いがデータ化され、 効率化や利益の追求のために用いられる。 一方、 我々は情報の搾取から身を守る術を持たない。 カモフラージュ(擬態)が要る。 アイデンティティを搾取する社会を生きていくための服が要る。

背景

監視資本主義社会が到来しようとしている。監視カメラは公共の場だけでなく、家の外にも設置され、我々の行動は常に監視されている。パーソナルデバイスの普及は、気づかないところで、インターネット上の個人の行動を、全てデータとして記録、社会の効率や利益のために搾取する為にも使われている。物理的な身体もまた、例外ではない。個人を特定する生体データ技術や画像認識技術の発達に伴い、実空間の情報も瞬時にデータ化され、私たちのプライバシーは常に脅かされている。この時、物理的な身体、あるいは衣服を身に纏うという物質的な行為はどのような意味を持つのであろうか。そうした問いを投げかける為に、私たちはAIに誤認識されやすい衣服”UNLABELED”を制作した。この服を纏うと、監視カメラを通して人間として認識されなくなり、データ化される事を防ぐ事ができる。不特定の街を行き交う人々だけでなく、監視カメラやその背後にあるAIの目が、私たちに向けられている現代において、衣服を身に纏うという行為によって自らの人権を守ることができるのではないだろうか。

ソフトウェア

本作品は、Adversarial Exampleと呼ばれる技術に着想を得ている。Adversarial Exampleとは、正しく機能している分類モデルに対して、人にはほとんど認識でない微小なノイズを加えることにより誤認識を誘発するような技術である。主にAIのセキュリティの領域で研究が盛んであるが、生成された画像データを実世界に適応させるような例はまだ少ない。一般的にはいかにAdversarial Examplesを抑制するかという研究が主であるが、本プロジェクトではこの技術を逆手にとって、私たちのプライバシーを守ることを考えた。具体的には、生成したAdversarial Examplesを服として実世界にインストールし、身に纏うことでAI画像認識モデルの認識から逃れることを目指した。本作品の制作にあたり、PythonとUnityを用いた学習システムを構築した。実際に服として制作することを考慮し、人間の全身をスキャンした3Dモデルに対して、生成されたAdversarial Examplesを貼り付けた画像を学習データとした。これによって、学習データと実世界での着用時における見え方との乖離を小さくすることができると考えた。画像認識モデルにはYOLOv2を使用し、「人」として認識される確率が少しでも下がるように、徐々に画像をアップデートする。こうして3Dシミュレーションによる学習データの生成とテクスチャのアップデートのプロセスを繰り返すことで、服として着用したときにも有効なAdversarial Examplesを生成することに成功した。

ハードウェア

衣服を制作するにあたり、機械学習前後の2つのフェーズがある。
機械学習前のフェーズでは、まず何人かの人を3Dスキャンを行った。そして、3Dモデリングソフトを用いて3Dデータにボーンを追加し、様々なリアルな姿勢や動きを加えた。 その後、衣服シミュレーションソフトのCLO3Dを用いて、アバターに迷彩服を着させ、3Dシミュレーションで使用する学習データセットを作成した。
機械学習で柄の生成を行なった後は、服を2Dパターンに展開した。そして、そのパターンをポリエステル混紡の無地生地に熱転写で印刷を行なった。印刷後は、パターンカット、縫製、仕上げという一般的な衣服製作の手順を踏み、服として仕立て上げた。