前回、前々回と欧州連合（EU）の人工知能（AI）に関する規則案である「AI規則案」（AI Act）に関してご紹介しましたが、今回も続編です。

EUの「AI規則案」は前回までご紹介したように、非常に野心的な内容になっています。EUはグローバルに適用される規制を目指すと公言しており、アメリカと中国と真っ向から対決する姿勢です。しかし、この規制には問題点が多く、様々な批判が行われています。

最も重要な問題というのが、

• AI が偏見を持ったアウトプットを行ってはならず
• ユーザーの不利益になってはならない

という部分です。しかし、

• 何が偏見であり
• 何が不利益となるのか

という点がはっきりしておらず、ガイドラインとしては全く使えません。例えば、AIのアルゴリズムを透明化するにしても、

何をどのように透明化する必要があるのか

ということがはっきりしないので事業者側から様々な批判が出ています。

さらに、AI開発の多くはオープンソースで行われていますが、常に改変を繰り返していくものなので、EUの規制に合わせていくことが難しくなってしまいます。

このため、柔軟性がある開発がかなり難しくなっていくでしょう。これがAIの発展を阻害するのではないか、という意見も少なくありません。

また、今回の規制で最も大きな穴だと言われているのが、規制が適用されるのは「AIのシステム」であって、 検索エンジンやソーシャルメディアなど、AIではないがアルゴリズムで実現されているサービスに対しては規制が適用されないという点です。

消費者が接触するサービスとしてはAI以外のものが多いにもかかわらず、そちらは手付かずになってしまうわけです。これでは規制の意味がないのではないかという声もあります。

さらに、規制の内容がはっきりしないにも関わらず、EUが想定している罰則金があまりにも高いということも問題です。違反した企業への罰則金は批判の多いGDPRよりも遥かに厳しく、3000億ユーロ、もしくはグローバルな年間売上の6%になっています。

このような厳しい罰則を設けることは、特にアメリカからの批判が多くなっています。アメリカは、EUのアプローチとは異なり、AIの開発については市場の手に委ねる形になっています。規制がないわけではありませんが、アメリカ政府のスタンスとしては、規制は業界の自主規制や州別の形になっているので、分散的でありEUの中央集権的な規制とは立場が全く異なります。

これは、両大陸の哲学の違いを表しているようなものです。アメリカは民間の自助努力や自主規制を重んじ、連邦制と分散を重視し、市場が自律的に修正していくことを期待します。一方で欧州の場合は、強い政府が中央集権的に規律を作り上げます。

このような状況では、アメリカとEUの協調を推進することはいささか難しいので、どのあたりが落とし所になるのか興味深いところです。