WirelessWire News The Technology and Ecosystem of the IoT.

by Category

チェス

悪玉AIには善玉AIで対抗 - 非営利のAI研究機関を設立するイーロン・マスクらの思惑

2015.12.14

Updated by WirelessWire News編集部 on December 14, 2015, 10:36 am UTC

イーロン・マスク(Elon Musk)、ピーター・ティール(Peter Thiel)、リード・ホフマン(Reid Hoffman)という「ペイパル・マフィア」の中心人物3人、それに有力インキュベータ「Y Combinator」現CEOのサム・アルトマン(Sam Altman)や同社立ち上げメンバーのジェシカ・リビングストン(Jessica Livingston)らが参加して、「OpenAI」という人工知能(AI)関連の非営利研究機関を設立するという計画が米国時間11日に発表されていた。この発表について、マスクとアルトマンに対するインタビュー記事がMedium/Backchannelに掲載されている(同記事の筆者はスティーヴン・レヴィ)。この記事などを中心に、発起人らの問題意識など目に付いた点を簡単に紹介する。

■誰が関与するのか

まずOpenAIの立ち上げ参加者・賛同者だが、上記5人のほかに、企業ではアマゾン(Amazon)のAWS、インドのインフォシス(Infosys)、それにY Combinatorが先ごろ立ち上げたYC Researchという研究部門が支援を表明。

またOpenAIの研究責任者には、イリヤ・サスケバー(Ilya Sutskever)なる「マシン・ラーニングの世界的専門家」が就任。トロント大学のサーバに置かれた同氏のホームページをみると、グーグル(Google)の「Google Brain Teamに3年間所属」「それ以前には、DNNリサーチ(DNNresearch、グーグルが買収)を共同創業」「スタンフォード大在籍時には、アンドリュー・ウン(Andrew Ng、現バイドゥ)のグループで博士研究員を経験」などといった紹介がある。また同氏のトロント大学のマシン・ラーニング・グループでジェフリー・ヒントン(Geoffrey Hinton)名誉教授の指導を受けていたという点も目を惹く。ジェフリー・ヒントンは2013年からグーグルのパートタイム研究者としても活動しているディープ・ラーニング(ニューラル・ネットワーク)分野の権威とされている人物。

いっぽうOpenAIのCTOには、オンライン決済サービスのストライプ(Stripe)でやはりCTOを務めていたグレッグ・ブロックマン(Gregg Brockman)なる人物が就任。また顧問のなかに「ダイナブック」のコンセプトで知られるアラン・ケイ(Alan Kay)の名前があるのも目を惹く点のひとつ。なおOpenAIでは、旧ディープマインド(DeepMind、現グーグル参加)やフェイスブック(Facebook)のAIグループ出身者などを含む7人の研究者の参加もすでに取り付けているという。

なお、アルトマンとマスクはOpenAIの共同会長に就任。また発起人らが「長期的に最大10億ドルの提供をコミット」を表明という点については、主にペイパル・マフィアの3人が負担することになるのかもしれない。

■どんな問題意識ではじめるのか

Bachchannelのインタビューには、OpenAIの設立目的について、一部の巨大企業や政府機関などがスーパーインテリジェントなシステムを独占する事態(の発生)に対抗するため、という説明がある。また、「AIの濫用に対抗する最善の防御は、できるだけ多くの人間にAIのパワーを授けることだと思う。誰もがAIの力をもてば、特定の個人やごく少数の個人らがAIのスーパーパワーを独占する、といったことはなくなる」というマスクの考えも、この記事の最後のほうに出てくる。

マスク(Tesla MotorsならびにSpaceX創業者兼CEO)は、AIの暴走の可能性を懸念する発言を以前からしてきている人物で、今年10月にはそのための研究資金として1000万ドルをフューチャーオブ・ライフ・インスティテュート(Future of Life Institute)という米マサチューセッツ州の研究機関に寄付してもいた。今回自らも経営に関与する形でOpenAIを立ち上げることにした背景には、さまざまな企業などが同分野の研究を本格化させるなかで、一種の抑止力となる技術の研究開発を進める必要が差し迫っている、との認識がマスクのなかにあるとも考えられる。

いっぽう、アルトマンはインタビューのなかで「大半の人間が性善であり、そんな人類が力をあわせて邪悪な勢力("Dr. Evil")を封じ込めているのと同じ様に、たくさんのAIが存在すれば、一部に強大な力をもつ悪玉AIが登場したとしても、それに対抗できる」「世界には悪い人間もたくさん存在するが、それでも人類は繁栄を続けている。ただ、一握りの人間がほかの人間よりも10億倍も強力となったら、そうはいかない」といった考えを述べている。また「『ターミネーター』のような存在が出現する可能性については、短期的には心配しておらず、それよりも現在すでに観られるAIに近い形のプログラムを悪用したコンピュータへのハッキングなどが問題」などとも語っている。

■何をしようとしているのか

OpenAIでは将来的に研究の成果やデータなどをオープンソースとして公開する考え。「OpenAIを、経済的利益を考慮しなくていい非営利法人にしたのはそのため」などとマスクらは説明。ただ、具体的な事柄については現時点ではまだほとんど決まっていないという。

グーグル、フェイスブック、アップル(Apple)、マイクロソフト(Microsoft)、バイドゥ、IBM、それにトヨタといった大企業がそれぞれAI分野の研究を本格化させるなかで、OpenAIが今後具体的にどんな動きを進めるかなどに大きな注目が集まりそうだ。

【参照情報】
How Elon Musk and Y Combinator Plan to Stop Computers From Taking Over - Medium/Bachchannel
Artificial-Intelligence Research Center Is Founded by Silicon Valley Investors - NYTimes
http://www.nytimes.com/2015/12/12/science/artificial-intelligence-research-center-is-founded-by-silicon-valley-investors.html - WIRED
Is Google Cornering the Market on Deep Learning? - Technology Review

WirelessWire Weekly

おすすめ記事と編集部のお知らせをお送りします。(毎週月曜日配信)

登録はこちら