人工知能のエラーが引き起こした史上初めての「誤認逮捕」の衝撃

人間だけじゃない！ 人工知能も「差別」する

「多くの人は、最先端のテクノロジーをすぐ盲信してしまう」

　米ニューヨーク・タイムズのポッドキャスト番組「ザ・デイリー（The Daily）」で、この誤認逮捕問題をレポートしたカシミール・ヒル記者はそう語っている。

　かつてGPS（全地球測位システム）によるカーナビが登場した時、多くのドライバーはその利便性やテクノロジーを信じて、（地図上では道路になっているため）崖を飛び降りたり、湖にダイブしたりしたという。同じように、顔認証システムには重大な落とし穴があるにもかかわらず、あまりにも便利なツールなため、警察官がそれを過信しているのではと指摘する。今回の誤認逮捕で、ロバートは窃盗事件があったのと同時刻帯に、自分はインスタグラムの投稿をアップしていたことに後から気づいたのだという。

「私はちょうど職場から家まで、クルマで戻る最中でした。車内のラジオからは、自分の母親が大好きな“ウィー・アー・ワン”（We Are One）という曲が流れていたんです」（ロバート）

　彼はクルマを運転しながら、鼻歌を歌っていたのだという。もしデトロイト警察の捜査員たちが表向きで説明しているように、あくまで顔認証システムはツールに過ぎないと考えていたならば、こうしたSNSの投稿も含めて、アリバイをもっと調べたはずだ。そして、5歳の長女の前で、父親に手錠をかけるようなこともなかったはずだ。

　しかし、現実はそうした捜査をせずに、顔認証システムが選びだした「犯人候補」をまっすぐに逮捕しにいったことが明らかになった。

「おそらく、こうした誤認逮捕は、これが唯一のものではないはずです」（ヒル記者）

　つまりまだ表面化していない、AIによる誤認逮捕の被害者がいるかもしれないということだ。

　私たちは人間による目に見える差別だけではなく、人工知能の心臓部であるアルゴリズムによって、よくわからないまま差別を受ける可能性がある時代を生きているのだろう。

後藤直義（ごとう・なおよし）
1981年生まれ。青山学院大学文学部卒。毎日新聞社、週刊ダイヤモンドを経て、2016年4月にソーシャル経済メディア『NewsPicks』に移籍し、企業報道チームを立ち上げる。グローバルにテクノロジー企業を取材し、著書に『アップル帝国の正体』（文藝春秋）など。