WirelessWire News The Technology and Ecosystem of the IoT.

by Category

女性 赤ん坊 守る 手 イメージ

頭の悪いAIの暴走を女性が止める

Women stop unintelligent AI

2019.02.26

Updated by Mayumi Tanimoto on February 26, 2019, 11:34 am UTC

IT業界は、日本でもアメリカでも女性の数が少ない世界で、メディアや教育の世界に比べると多様性に欠けた業界だと言えるかもしれません。 例えばアメリカの場合、IT業界でテクノロジー系の仕事をする女性は25%(WOMEN IN TECH: THE FACTS)で、1980年代をピークに減っています。

しかし、この多様性のなさが、世の中にとって想像しなかったような大規模な問題を引き起こすことに気がついている人は多くはありません。

特に問題になるのはAIです。去年から、多様性のなさがAI開発に影響を及ぼしていることが注目を集めるようになっています。

例えばAmazonのAIを使用した採用システムは、人間以上に女性に対して偏見をもっていることがわかり使用が中止された件が話題になりました(It turns out Amazon’s AI hiring tool discriminated against women)。

これは性差別だけではなく、人種やその他の背景に関しても同じです。例えばアメリカの裁判所で使用されているCompasは、実際はそうでないにもかかわらず、白人よりも黒人のほうが再犯率が高いという判断を下す傾向が高いことが分かりました(Machine Bias)。

AI自体は、既存のデータや文章からすでに存在することを「学習」するため、世の中の偏見やステレオタイプ(先入観)も学んだり予測するために、インプットされていないデータは反映しませんし、人間なら避けるべきと考える偏見も取り込んでしまいます。

AIは頭が良い様に見えますが、何も教えてもらっていない幼児に似ているところがあり、まだまだ十分賢くはないのです。

IBMのようにAIの偏見に気がついており、偏見を減らすために「AIの公平性を各付け」するような企業も出てきてはいますが、解決策とはなりえないでしょう。

AI自体を外部機関が監査したり、アルゴリズムの透明性を保つことで偏見を防ぐ、データ自体を増やすという方法もあるわけですが、骨格となるアルゴリズムの設計やインプットされるデータの選択、データの抽出方法や各データが適用される割合などの根幹の部分のデザインに偏見がある場合、いくら監査をしてもAIは「スマート」にならないでしょう。

理系専攻の女性が10%から40%に急増したアメリカのHarvey Mudd Collegeの学長であるMaria Klawe氏は1970年代からIT業界で活躍してきた女性です。コンピュータ・サイエンスは生活の隅々に大きな影響があるため、女性の視点や考え方を反映しないことは業界にとって危険であると「THE DANGERS OF KEEPING WOMEN OUT OF TECH」で述べています。

Klawe氏が指摘するように、やはりAIの根幹の部分を作るときに女性を増やすことが、根本的な解決策のような気がします。女性を増やすことで業界も多様性がある状態に慣れますし、様々な人種や年齢、人生経験や職業経験のある人などを増やすことにも抵抗感が薄れていくはずです。

WirelessWire Weekly

おすすめ記事と編集部のお知らせをお送りします。(毎週月曜日配信)

登録はこちら

谷本 真由美(たにもと・まゆみ)

NTTデータ経営研究所にてコンサルティング業務に従事後、イタリアに渡る。ローマの国連食糧農業機関(FAO)にて情報通信官として勤務後、英国にて情報通信コンサルティングに従事。現在ロンドン在住。

RELATED TAG