プライバシーとパーソナルデータをめぐる現状について若手エキスパートに語っていただいた。

（1）なぜプライバシーの議論は分かりにくいのか
（2）本物のプライバシーポリシーを作ろう

人工知能とプロファイリング

──若手の皆さんなので、「未来のテクノロジー」については、どんなお考えをお持ちですか。

クロサカ：未来というか、もうすでに到来しつつあるのが、人工知能（AI）だと思います。総務省での検討に参画していることもあって、このところずっと考えているんですけど、パーソナルデータとの接点で一番分かりやすいのは、プロファイリングの問題だと思います。ところが今回の法改正では「宿題」になっている。次の改正までの時間に、プロファイリングをどう整理するかが、すでに水面下では関心事になっているはずです。

一方、人工知能ベースのプロファイリングが厄介なのは、そこで扱っている情報は一体何なのか、ということ。しかも処理系は、設計者が意図せずともブラックボックス化してしまいがちなのが、深層学習の特徴でもあります。誰かが書いたアルゴリズムを、機械が超えていってしまうんですね。

株式会社レピダム 代表取締役　OpenIDファウンデーションジャパン理事　慶應義塾大学大学院メディアデザイン研究科附属メディアデザイン研究所 所員
林達也

林：今まではコンピュータを人間の従属物だと考えていたんですよね。いわば僕達の意思を反映するための道具。でももう、インシデント情報が自動で来たら、自動で機械が反応して…という、いわば機械知性ですよ。だったら、例えばインターネットが僕達の手を離れていく覚悟があるかというような話を現時点でしていないとおかしい。

ブラックボックス化が進む人工知能

真武：エンドユーザーから見ると、ID管理される時って、自分のIDが管理されているのが一応分かるのでまだ良いんですけど、プロファイリングの場合って、そもそもトラッキングされているかどうかからして分からない。

YAuth.jp 合同会社 代表 / OpenIDファウンデーションジャパンエバンジェリスト
真武信和

一方で、お互いにエンドユーザーの情報をやりとりしながら、その情報が本来どこから来たのかもよく分からないくらいグチャグチャになってしまっている。

クロサカ：その時の説明する対象について、どこにフォーカスを当てるのかというのは、一つの論点かなと思っています。単純に「入力・処理・出力」を想定すると、特に処理系については、もはや処理する人たちにも分からないという状態が、AIだと確実に来ます。だとすると、出力か入力かでコントロールするしかなくて、その時にIDマネジメントって従来以上に重要になりそうです。

株式会社 企（くわだて）代表取締役　総務省情報通信政策研究所 コンサルティングフェロー　慶應義塾大学大学院政策・メディア研究科 特任准教授
クロサカタツヤ

処理が分からないと管理はしづらい

真武：本音を言えば、処理系も見えないと、IDマネジメントの立場からすると、なかなか厳しい。AI時代のパーソナルデータの矛盾というか難しさが、そこにあると思います。少なくとも、最終的にはDMを流すらしい、というような目的さえ言ってもらえれば、いろいろ明確になると思います。でも、それすらも分からない状況が進むとしたら、正直かなり厄介ですね。

金子：DMを拒否できるようにするとか、一方的ではなく、コミュニケーションに出来ますよね。

真武：せめてデータが溜まっていたり名寄せされている場所だとか、どこでどういう最終的な目的のためにどういう処理をしているのかを、一部の人には分かるようにしないと、なかなか信頼は出来ないんじゃないかなと思います。

ベストプラクティスとフレッシュな人材が必要不可欠

──そのように世の中が変わっていく時に、皆さんはどう対峙されるのでしょうか？

金子：今のお話は、「企業と顧客とのコミュニケーションってやはり難しいですよね」という話と、「AI時代にデータ流通の枠組みや境界線が一層希薄になる難しさ」と、両方がありますよね。それに対して、判断の理由はともあれ、結論が最初から「やらない」になっているのが結構まずい気がしています。

一般財団法人日本情報経済社会推進協会　電子情報利活用研究部　兼　認定個人情報保護団体　業務推進室長
金子剛哲

たとえば、認定個人情報団体が匿名加工情報をどう取り扱うか。これも結局は、処理の妥当性を、入出力を見ながら、評価していくことになる。だとすると、判例と一緒で「積み上げ」が必要です。とにかくケースバイケースで全部判断して積み上げていかないと、なかなかできない。だからホワイトリストというか、ベストプラクティスをどんどん積み上げていくことを、地道にやるしかない。

そしてそれを、機密情報に触れない程度になるべく公開して、個人情報保護委員会や他の認定個人情報保護団体と密接に協調しながら広げていくことで、企業が「やる」という判断がしやすい環境作りをしていかなければならないと思います。

林：もう時間は限られているのと、一方でコストがかかるという現実を踏まえて、僕等も若い世代の「元気玉」を集める努力が必要。ちゃんと一緒に戦える人達が、もうちょっと一緒に居られる、一緒に戦える環境を整えるために、踏ん張らないといけないですね。