欧州連合（EU）の人工知能（AI）に関する規則案である「AI規則案」（AI Act）が議論になっています。

「AI規則案」は、基本的に、EU圏内に導入される、もしくは、「EU市民に影響を与える」「AIシステム」に対する規制で、政府にも民間にも適用されます。つまり、システムのアウトプットがEU圏内で使われるかどうかです。

あくまで、「EU圏内での導入」か「EU市民に影響を及ぼす」AIシステムであり、それがEU圏内で開発された製品か、海外のものかは問いません。「EU圏内のユーザーに影響を及ぼすかどうか」という点がポイントになるため、基本的にはGDPR（EU一般データ保護規則）の枠組みに似ているということになります。

例えば、 AI がグローバルなサービスやシステムに導入された場合、当然、EU圏内にいるユーザーも使用するわけですから、EUのAI規制が全世界に及ばざるを得なくなります。テック企業の少なからずはグローバルにサービスを運用していますので、GDPRと同じく対応が必要になってくるということです。

EUが要求する対応をしなければならないとなると、小規模なAI事業者やアプリ開発会社などにはかなり負担になるでしょう。

さらに注目すべき点が、この枠組みは、AIシステムが及ぼすリスクによって適用される、ということです。

リスクには、以下の3段階があります。

１．許容できないリスク（unacceptable risk）

中国で運用されている政府によるソーシャルスコアリングのようなアプリケーションは禁止。

２．　ハイリスクアプリケーション（high-risk applications）

履歴書をスキャンして応募者をランキング付けするようなリスクの高いアプリケーションは該当する法的な規制を受ける。さらに、リモートの生体認証、重要なインフラにおけるセキュリティ、教育、公的な仕事への応募、クレジットスコアリング、緊急サービスの配信も該当。

これにおいてAIは、アルゴリズムや管理の透明性が高くなければならないとされています。

３．１と２に該当しないものは規制しない

さらに、生体認証は公の場では特に必要な場合にのみ使用されるとしています。

このリスクベースのアプローチを見るとよくわかるように、EUはリスク1では明らかに中国を名指しで批判しており、中国の人権侵害においてAIの観点から真っ向から対立するということを表明しているわけです。公式な文章の中でも中国政府が運用しているようなソーシャルスコアリング・システムは完全に禁止すると書いています。

ここまで厳しい態度をとるのは非常に注目すべき点です。これはもはや、単なるAIを巡る覇権争いではありません。欧州は、最近各国の政府が政府機関や軍でのTikTok使用を禁止していますが、テック業界から中国を締め出す方向です。

これは明らかに安全保障上の懸念点が背景にあります。この点に関しては日本と温度差を感じる方が多いのではないでしょうか。