人工知能のエラーが引き起こした史上初めての「誤認逮捕」の衝撃

──あまりにも速すぎるデジタルテクノロジーの進化に、社会や法律、倫理が追いつかない現代。世界でさまざまなテクノロジーが生み出され、デジタルトランスフォーメーションが進行している。果たしてそこは、ハイテクの楽園か、それともディストピアなのか……。（「月刊サイゾー」9月号より一部転載）

「2018年に起きた事件のことで、警察署に出頭してほしい」

　20年1月、アメリカはデトロイト市（ミシガン州）郊外で暮らすアフリカ系アメリカ人（黒人）のロバート・ウィリアムズの携帯電話に、そんな電話が唐突にかかってきた。

　本人には、何のことだかさっぱりわからない。自分の誕生日の直前だったので、友人がイタズラ電話を掛けてきたのかと放置したという。ところが電話が「ガチ」であることが、すぐに判明する。

　その日帰宅すると、後ろからデトロイト警察署の捜査員が後をつけており、ガレージをパトカーで封鎖。呆気にとられている間に逮捕状を見せられて、手錠をかけられてしまったのだ。そして連行された留置場でひと晩を明かした翌日、ロバートは信じられない話を取調室で聞くことになる。

　今回の逮捕は、どうやらコンピュータがあなたを犯人だと“間違えた”ようです――。

　アメリカでは今、この前代未聞の誤認逮捕が大問題になっている。誤認逮捕といえばこれまで、人間によるずさんな捜査が主な原因だった。

　ところが、今回の致命的なミスを犯したのは、人間をはるかに超えるパワーを持っているはずの、人工知能による「顔認証システム」だったのだ。

　実はデトロイト警察が捜査をしていたのは、市内にある高級雑貨店から、合計3800ドル（約41万8000円）相当の腕時計5本が盗まれた事件だった。ショップ店員が被害に気づいたときに、すでに犯人の姿はなかったため、防犯カメラをチェック。そこにアフリカ系アメリカ人の男性が、商品を盗んでいく一部始終が映っていた。

「大柄の黒人男性で、赤い野球帽をかぶっていて、黒いジャケットを身に着けている」

　店側はすぐさま、被害者として警察署に防犯カメラの動画を提出。デトロイト警察は、そこ映り込んでいる犯人が、どこの誰なのかを知るために、AI顔認証システムを活用したのだという。

　このシステムは、犯人とおぼしき顔写真のデータを入力すると、運転免許証を含む約数千万枚の顔写真のデータベースを検索・照合して、該当者と思われる候補者をリストアップしてくれる。これが、ビデオに映っていたのはロバートの可能性が高いという結果をはじきだしたわけだ。しかし承知の通り、これは完全なる間違いだったのだ。

黒人女性を「ゴリラ」と判定したAIの精度

「あんたたち、黒人だったら、みんな同じ顔に見えるのか!?」

　ロバートによれば、取調室に入ってきた捜査員2人は、紙にプリントした監視カメラの証拠写真を机の上に並べたという。そこに映っていたのは、自分とはまったく異なる黒人男性だった。

　そのため思わずその紙をつかんで、自分の顔と比べるように並べて見せて、顔認証システムがエラーを起こしていることを必死で説明したという。さすがの捜査員も、どうやら同一人物ではないことに気づく。そこで、冒頭に紹介した「コンピュータが間違えた」という一言が飛び出したのだ。

　専門家によれば、人工知能が黒人の顔の見分けるのが苦手だという問題点は、以前から指摘されていたものだ。

　たとえば15年、ニューヨーク在住のあるプログラマーは、黒人女性のガールフレンドの写真が「ゴリラ」だと認識されたことをツイッター上で告発している。自分の恋人を撮影した写真を、グーグルが提供する「グーグルフォト」に保存。すると自動的に写っているものにタグをつけてくれるこのサービスが、あろうことか、彼女をゴリラだと認識したのだ。

　こうした顔認証による人種バイアスが起きてしまうのには、理由がある。人工知能を使った顔認証システムは、まるで人間の赤ちゃんが他人の顔を覚えてゆくように、たくさんの人の顔を見れば見るほどそれぞれが異なる人であることを学んでいく。つまり、正確に見分けることができるようになる。ところが思わぬ落とし穴がある。それは人工知能を開発するにあたって、学習用の顔写真のデータに人種的な偏りがあることだ。

　具体的には、アメリカの顔認証システムは白人男性の顔写真のデータを大量に使って、開発している企業が多いといわれている。そのため、白人男性の顔をもっとも上手に見分けることができる。一方で、黒人などマイノリティのデータがあまり開発時に使われていない場合、そのエラー率は大きく上がってしまうのだ。

　こうした問題点は、すでにMIT（マサチューセッツ工科大学）などの研究者により、指摘されていたポイントだった。これがグーグルフォトでならば、まだ不愉快な思いだけで済む。しかし、犯罪捜査に使われるとなると、話はまったく異なるレベルになる。なぜなら白人よりも黒人のほうが、ずっと高い確率で誤認逮捕されるリスクがあるからだ。日本人の身に置き換えるならば、「白人からすると、アジア人はみんな同じ顔に見えるから、間違って逮捕するかもしれません」と言われてるようなものだ。

　ちなみに今回、やり玉に上がっている顔認証システムの開発メーカーとして、2つの企業の名前があがっている。ひとつは「ランクワン・コンピューティング」という米国企業だ。そしてもうひとつは、実は日本のNEC（日本電気）だ。NECは古くから顔認証テクノロジーに注力してきたパイオニア的な存在で、米国でも入出国管理や捜査などのシステムで採用されている。図らずも、日本企業もこの問題に加担した側として、取り上げられているのだ。