イーロン・マスク氏が人類にとっての最大の脅威は、シンギュラリティ、つまりAIが自ら考えるようになることで人間の能力を超えることだと述べたことが話題になっています。

the University of New South WalesのToby Walsh教授は、「大企業が自分達の利益になるようなことしかしない可能性があるので、AIの規制は必要だが、AIは考えるほど賢くないので、シンギュラリティ自体を心配する必要はない」と述べています。教授いわく、AIの発達により、仕事を失う人がでたりして政治的な議論にはなるだろうが、ただそれは人類を破滅に導くレベルではない、というわけです。

「大企業が自分達の利益になるようなことしかしない可能性」はここ最近のTwitterの凍結騒ぎや、Facebookの広告枠をロシアが買い上げていた疑惑をみればわかりますね。

プラットフォームを握る企業は、自社の利益のためにアルゴリズムやコンテンツを自由に操作できるわけですから。

実際にAIを研究するWalsh教授の「AIはあまり賢くない」「シンギュラリティは技術的に難しい」という意見は、マンチェスター大学のSteve Furber教授が以前王立研究所で公演した際に話していたことと同じです。

AIというのは、人間の脳をコンピューターで再現するものだが、そもそも人間の脳の仕組みがよくわかっておらず、しかも、ネズミ一匹の脳を再現するのに、ラック一台分以上のコンピューターが必要なわけです。

AI自体も思ったほど賢くありませんし、AIを賢くするには良いデータが投入されなければなりまん。しかし、そのデータの収集と分類に莫大な手間とコストが掛かるということは無視されがちですね。

例えばイギリスのケンブリッジにあるGlobal Gene Corpは人間のDNAを集めて解析していますが、その80％が白人のものなので、アフリカ系やアジア系のデータを収集と述べています。

データに偏りがあるため、人種別の臨床結果の検証などが正確にはじき出されない可能性があるわけですね。

確かに、東洋系やアフリカ系は子宮筋腫や糖尿病になりやすいのはよく知られています。（これは私が出産の際に妊娠糖尿病になり、イギリスの医師に指摘されたこと。症例の蓄積があるのでイギリスや北米では常識的に知られています。）また白人は皮膚ガンになりやすいという人種的特性もあります。

こういう違いは実際にあるので、人種的に偏ったデータによる治療が大きなダメージを及ぼす可能性はあるわけです。解析するAIがが優秀でも、データが妥当でないならどうしょもありません。

こういう医療系の分野だけではなく、例えば消費者サービスにしろIoTデバイスで収集したデータにしろ、検証エンジンが優れていても、元データの質が悪ければ正しい結論は導かれません。質の良いコンテンツのないSNSを誰も使おうとしないのと同じです。

なぜかこれが議論にならないのは、AIがまだまだ市場のハイプの域に留まっているからという気がするのですが、どうなのでしょうか？