顔認識技術のダークサイド

近年は顔認識技術が発達し、多くの企業や政府機関が利用しています。前回は顔認識の良い活用事例を紹介しましたが、今回はその負の側面を取り上げます。

bad-facial-recognition-featured

名前なら改名したり偽名を使ったりできます。SNSアカウントなら編集や削除が可能です。しかし、顔はそう簡単に変えられません。顔認識技術は多くの問題の解決に役立ちますが、同時に新しい問題を数多く作り出します。今回の記事では、顔認識システムの世界的な普及に伴う脅威について考察します。

1. 世界規模でプライバシー権が失われていく

FBIは民事訴訟、刑事訴訟で訴えられた人や有罪判決を受けた人の写真を格納するデータベース、Next Generation Identification-Interstate Photo System（NGI-IPS）の保有を公的に認めています。これ自体に問題はなさそうです。

ところが、まったくそうではないのです。5月に米国会計検査院がFBIに対して監査を実施したところ、4億1,200万人分のデータベースに、捜査対象になったことがない人々の写真が含まれていることが判明しました（英語資料）。FBIには、顔認識技術を担当する独立部門、Facial Analysis, Comparison, and Evaluation（FACE）Servicesまで設置されています（リンク先は英語記事）。

その後、FBIが一部の州と取り決めを交わして、運転免許証、パスポートやビザの申請書の写真、犯罪容疑者や有罪判決を受けた人々の画像を入手していたことが判明しました。さらに、外国籍の人々の写真もデータベースに含まれていたことがわかっており、その数およそ1億人分と考えられています。

FBIは捜査の過程で、顔認識技術を積極的に活用しています。こうしたアプローチがどのように実を結んでいるかについては、当ブログでも取り上げました。しかし、状況はもっと複雑です。顔認識は開発されてから日が浅く、完璧な技術とは言えません。FBIのシステムも例外ではなく、人種に関する偏りがあり、精度は良い時で80%～85%程度です（リンク先はいずれも英語記事）。それでいてFBIは、プライバシー影響評価の要件に反して、顔認識技術を広範囲に使用していることを意図的に隠していました（英語記事）。

他方で注目に値するのは、モスクワ市議会とロシア法執行当局が、顔認識関連技術の最新情報を収集し、FaceN技術（FaceNの開発者は、写真を使って第三者を検索できるサービスFindFaceのコードの提供元でもある）の導入準備を進めていることです。これらの新システムは、モスクワ市内の膨大な数の監視カメラに接続されることになります。

ロシアのニュースサイトMeduzaは、「世界のどの都市にも、これに似たシステムはない。このシステムのアルゴリズムでは、通行人の顔と犯罪者データベースを照らし合わせることができるが、それだけではない。モスクワのどこであれ、個人を検知してその顔画像とSNSアカウントを照合することができる。SNSアカウントには、大量の個人情報が含まれているのが普通だ」と報じています（ロシア語記事）。

また、2016年の初め、ロシア上院がロシアの裁判所に対して写真や動画を法的証拠と見なすよう命じたことも目を向けるべきでしょう。それ以前は、証拠と見なすかどうかは裁判所の裁量に任されていました。

2. 法執行機関による濫用

顔認識では間違いが起こります。このシステムを使う側の人々が濫用することも、よく知られた事実です。たとえば8月に、New York Timesが報じたところによると（英語記事）、サンディエゴ警察が有罪の人と無罪の人の顔画像を本人の許可なく収集していました。

サンディエゴ在住の27歳のアフリカ系米国人、アーロン・ハーヴェイ（Aaron Harvey）氏は、警察に差別的な扱いを受けたと主張しました。ハーヴェイ氏が住んでいるのはサンディエゴ市内でも特に治安の悪いエリアです。おそらくそのことが理由で、警察に50回以上も呼び止められ、ギャングの一味との疑いがあると言われました。ハーヴェイ氏が写真撮影を拒否すると、警察官は拒否しようがしまいが写真を撮影できると自慢気に言ったといいます。

「警察官は『合法であれ非合法であれ、写真を撮る』と言って、私を車から引きずり出しました」とハーヴェイ氏は事件の様子をNew York Timesに語っています。

それより前の2013年にも、ボストンの当局が顔認識システムをテストしたことがありました（英語記事）。そのシステムは、コンサートなどの屋外イベントの開催時に人々の顔を隠し撮りする監視カメラに接続されていました。テスト期間の終了後、倫理上の理由でプロジェクトは取りやめになりました。しかしボストンのプロジェクトと、顔認識の世界的な普及はまったく別の話です。顔認識システムは今や広く政府機関で使用されるようになっています。

3. 人々を監視する企業

企業はFBIよりもはるかに大規模な顔画像データベースを持っています。その筆頭を飾るのはFacebook、Instagram（Facebook傘下）、Google（およびGoogle+）、VC.comといったSNSサイトです。こうした企業は独自の顔認識ソリューションを持ち、常に開発、改良に取り組んでいるところがほとんどです。

MicrosoftはFamilyNotesアプリ用に同じような技術を開発中です（英語記事）。ノートPCやタブレットに内蔵されたカメラを使用してアプリがユーザーを識別できるようにする技術です。Microsoftは世界有数のOS開発企業であり、FamilyNotesは同社の顔画像データベースを大いに補強することになるでしょう。

Facebookの顔認識システムは世界トップクラスの精度を誇るシステムです。このツールは2012年にひっそりと提供開始となり（英語記事）、既定で有効になっているユーザーがほとんどでした。その後、Facebookは訴訟をいくつも経験し（訴訟の件数は現在も増加中）、Googleも同様の申し立てにより提訴されています（リンク先はいずれも英語記事）。その結果、Facebookは一部の地域で顔認識機能を無効にせざるを得なくなりました（英語記事）。

この問題に対してFacebookが一方的な対応をしていることも指摘しておくべきでしょう。たとえば、同社のナレッジベースには顔認識機能を無効にする方法についての記事が1つもありません。ちなみに、1回クリックしただけでは、無効にすることができません（英語記事）。

SNSに登録していない人（または、自分の本当の姿が映った写真をSNSにアップロードしないようにしている人）でも、顔写真がSNS運営会社のデータベースに追加される可能性があります。2015年にシカゴ在住の男性が、フォトブックサービスShutterflyを提訴しました（英語記事）。自分の写真が無断で同社のデータベースに追加されたということです。第三者（おそらく、友人の誰か）がこの男性の写真をShutterflyにアップロードしてタグ付けしていたのです。

4. 誰でもあなたを見つけられる

誰もが利用できる顔認識システムがあれば、いわゆる「私刑」、つまり私的制裁の強力なツールとして利用される恐れがあります。たとえば2016年に、サンクトペテルブルグで2人の若い男が建物のロビーに放火する事件がありました。2人は犯行後、同じ建物のエレベーター内で興奮して大騒ぎし、エレベーターや近隣に設置された監視カメラにその様子が記録されていました。

地元の警察が刑事事件として立件しようとしなかったため、その建物の入居者たちは自らの手で事件を追うことにしました。犯人の顔が映ったスクリーンショットを撮影し、FindFaceを使ってSNSで2人を見つけたのです。

入居者たちはその結果を警察に届け出て、結局犯人は告発されました。Ren TV（ロシアのテレビチャンネル）の報道によると、入居者の1人は、十分なデータと証拠が集まり、犯人の友人や学校、職場にメッセージを送ることができるほどだと語っています。

この入居者たちは警察に後を委ねる忍耐力を持ちあわせていましたが、すべてのインターネットユーザーがこのように穏健な対応ができるわけではありません。そして、人を傷つける意志があるところには、その方法が存在するものです。FindFaceについて聞いたことがある人なら、世間の不評を買った事例をご存じでしょう。匿名画像掲示板のユーザーがFindFaceを使ってポルノ女優の身元をオンラインで特定したという話です。ネット荒らしたちは女性のSNSページを探し、女性の友人や身内宛てに画像を添えて暴露メッセージを送りつけました。

他方で、FindFaceの創業者マクシム・ペルリン（Maxim Perlin）氏は、今の人々はプライバシーを守るために文字通りお金を払わなければならないと考えています（ロシア語記事）。テレビのインタビューで同氏は、FindFaceのデータベースから自分のデータを消去して欲しいという人は、お金を払って有料アカウントに登録する必要があると述べました。FindFaceでプライバシーを守るサービスの料金は月額約8ドルです。

5. セキュリティと災難は紙一重

多くの専門家は、こう考えています。生体認証はパスワードに代わるものであり、世の中を安全にする。したがって将来、人々は複雑な記号の羅列を入力する代わりに、虹彩、指紋、顔画像までもシステムにスキャンさせようとするだろう、と。

Microsoftは、自撮り画像で認証を受けられる技術をすでに開発中です。NECは顔認識技術を使用して電子決済の安全性を確保する方法について研究しています（英語記事）。MasterCardは自撮り写真を使って本人確認し、パスワードなしで送金できるシステムの準備を進めています。

指紋センサーの問題点については当ブログで以前取り上げたので、ここでは顔認識技術の弱点に論点を絞りましょう。この問題を突き詰めると、最先端の3D印刷にまで話が及びます。今では、印刷で人の顔を実にリアルに再現することができます。これから新たに本人確認システムを開発しようとする人は、本当に安全なソリューションを作りたいのであれば、この点を考慮に入れる必要があるでしょう。

たとえば、MasterCardとGoogleの本人確認では、まばたきをするよう求められます。単純なことですが、3D印刷で作った顔やただの顔写真を利用してシステムを欺こうとする不正行為を阻止することができます。ただ残念ながら、Googleのソリューションは目的を果たせませんでした。単純なアニメーション画像を使ってセキュリティ手段の迂回に成功した人々がいたのです（英語記事）。MasterCardのシステムは開発途上なので、同じような抜け穴があるのかどうかはまだわかっていません。

3d-printed-face

「同僚が私の顔を3D印刷しました」（画像はImgurから）

6. 顔写真を知り合いと共有しないで

「Anaface」について聞いたことがある方もいるかもしれません。写真を解析してどの程度美しい顔なのかを格付けするWebサイトです（英語サイト）。美しさの主な判断基準は対称性だそうですが、かなり怪しい基準だと思いませんか。たとえば、アンジェリーナ・ジョリーをAnafaceで格付けすると10点満点中8.4点だそうです（英語記事）。もっとも、このサイトの問題は格付けの信頼性だけではありません。

まず、Anafaceの運営元は、人々に美容整形を勧めるためにこのプロジェクトを開始したことを認めています。とりあえず、正直に認めたことだけは評価できそうです。

2つ目の問題は、サイトの利用規約が読みにくく、わかりにくい点です。7,000語以上の規約が小さなウィンドウに細かい字で表示されるので、何度もスクロールしないと読めません。このため、Anafaceにアップロードされた写真を使用するための「非独占的、譲渡可能、サブライセンス許諾可能、ロイヤリティ無料の世界ライセンス」はAnafaceにある、という文言を見逃す人がほとんどでしょう。わかりやすい言葉で言えば、利用者がアップロードした写真を、Anaface側は本来の所有者に支払い義務を追うことなく販売できるということです。

同時に、利用者は自分が所有する写真だけをアップロードすることを誓約させられます。「他人の動画、音声付き写真、画像を含むコンテンツを、本人の許可（本人が未成年の場合は保護者の許可）なく投稿、アップロード、表示、その他の形で利用可能にしてはなりません」とあります。規約には、プライバシーと、ユーザーアカウント登録後の写真の削除についてのあいまいな記述もあります。しかしAnafaceは利用者が写真を削除することを認めておらず、誰も同サイトで写真を削除することはできません。

結局のところ、政府、企業、一般の人々に至るまで、誰もが写真を集めているのです。誰でも顔認識システムを利用、濫用することができる時代です。私たちにできるのはとにかくそういう相手から身を隠すことだけです。

ヒント
新着記事をメールでお知らせします