AIはなぜ“差別”するのか？　AI時代の“人間”の生き方～シンポジウム「AIと差別」成原慧さん基調講演

AIに関連する倫理規範や法規範の整備が急務

　このような課題がある中で、AIに関連する倫理規範や法規範はどのように整えられているのでしょうか。成原さんは次のように説明します。

成原「AIをめぐる多くの原則や指針には、プライバシーの尊重やセキュリティの確保のほか、公平や平等に関する内容が含まれています。AIの倫理においては、平等や公平性が重視される傾向にあります。どんな規範があるかというと、日本では、総務省AIネットワーク社会推進会議が出している『AI開発原則』・『AI利活用原則』や、内閣府の『人間中心のAI原則』があります。

　海外の事例も見ていくと、法規範レベルでもAIの公平性に関係する規範の形成は進んでいるのです。例えば、EU一般データ保護規則には、プロファイリング（AIなどを用いて自動的にデータに基づいて個人の能力や特性を予測や評価すること）に関する規定があります。日本では個人情報保護法においてプロファイリングへの直接規定はないものの、関連する概念として要配慮個人情報（※）に関する規定はあります。現時点で、プロファイリング自体は要配慮個人情報の規制がかかるとは考えられていないものの、プロファイリングに対する規制が必要なのではないかという議論は行われています。

　一方で、国際的にも、倫理規範など、基本的には法的拘束力のないレベルでの規範の形成が中心になっています。なぜ法的拘束力がないかというと、AIは発展途上の段階で、具体的にどう法規制するかということについて意見の一致がなされておらず、立法の前提となる立法事実も十分に獲得されていないためです。そのため、まずは法的拘束力のない倫理規範、あるいは自主規制のレベルで規範形成を進めていくという方向で議論がされています。ただし、AIが何らかの差別的な判断を行い、個人の権利を具体的に侵害した場合には、従来の法規範との関係でもAIの利用主体や開発主体に法的責任を問える余地はあるのではないかとわたしは考えています。一概にはいえないものの、AIに特化した法規制ではなくとも、従来の法規範の中にも、平等や公平性に配慮を求める趣旨のものはあるからです」

※要配慮個人情報…個人情報の中でも人種・信条・社会的身分・病歴・犯罪の経歴・犯罪被害の事実など本人に対する不当な差別や偏見などの不利益が生じないように取り扱いに特に配慮を要するもの（個人情報保護法２条３項）

差別とは、バイアスとは、公平性とは何か考えていくこと

　では、AI時代において公平性を保つことにはどのような問題があるのか、成原さんは以下のように説明します。

成原「2019年の12月に、人工知能学会が『機械学習と公平性に関する声明』を公表しています。その中では2つのことが主張されているので、参照します。
　1つ目は、『機械学習は道具にすぎない』ということです。

＜偏りのある過去に基づいて予測する未来は、やはり偏りのあるものになりかねません＞
＜「何が公平か」については、科学技術や工学だけの問題ではなく、現在の人類社会が何を求めているか、という価値観の問題抜きには語れません＞

　このようなことが言及されています。

　2つ目は、『私たちは機械学習で公平性に寄与する』ということです。

＜人々が何を公平と考えるか、様々な基準を機械学習の言葉で表現しなおすことによって、「公平」という概念をより明確なものにしていくこともできる＞
＜機械学習によって公平性に起きうる問題を防ぐだけでなく、機械学習をきっかけとして公平性のあり方を定義、議論することにも真摯に取り組んでいます＞

　と述べられています。
　
　公平性とは、バイアスとは何かという問題には、完全な答えが用意されているわけではありません。根本的な問いかけを研究者の中だけでなく、広く社会で議論される必要があるということが、『AIと差別』という問題によって投げかけられているのではないでしょうか。

　これまでお話してきた通り、結局はAIが差別をしているというよりは、人間が生み出した差別の構造をAIが学習することで、AIが差別的な判断を反復して再生産しているというのが実情と言えるのです。

　以上から、『AIによる差別』と認識されている問題をきっかけにして、まずは我々の社会における差別やバイアスのあり方を考え直していくことが、今後求められるのではないかと考えられます」

（取材・文＝雪代すみれ）
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
オンライン・シンポジウム「AIと差別」の全内容の記録本が発売中です。

■IMADRブックレット19『AIと差別』
価格：1000円＋税
編集・発行：反差別国際運動（IMADR）
発売： ㈱ 解放出版社

■ 反差別国際運動（IMADR）公式HP

雪代すみれ（フリーライター）

フリーライターです。企画・取材・執筆します。関心のあるジャンルは、ジェンダー／フェミニズム／社会心理学など

Twitter:@yukishiro7946

ゆきしろすみれ