Facebook AIリサーチ（FAIR）が開発した2つのチャットボット、ボブとアリスが、勝手に自分たちだけが分かる言語を作り出して、意思疎通を行っていたと物議を醸している。発端は、Fast Co. Designの記事（AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?）のようだ。

もっとも、AIが独自言語を生み出したのは初めてではない。例えば、Google翻訳の「中」にいるニューラルネットワークは、ある言語から別の言語に翻訳する途中に、人間には理解できない（＝何語でもない）言語を勝手に生み出し、それを介して翻訳文を作っていた。

ボブとアリスは、FAIRが、慌ててシャットダウンしたとか、AIが人間に謀反を起こす前触れだといった論調の報道ですっかり有名になった。「彼ら」は、別に人類に害を及ぼそうとしていたわけではない。本と、帽子と、ボールという3種類のものがそれぞれいくつかあって、それをどのように分け合うか、交渉しながら交換するというタスクを与えられただけだ。アリスが私の本２冊とあなたの帽子３つを交換しない？と提案し、帽子２つなら交換に応じるよとボブが答えるといった「会話」が行われるはずだった。

しかし、ボブとアリスには、「交渉には普通の英語を使うこと」という制約条件が課せられていなかった。そこで「二人」は、

Bob: I can can i i everything else.
Alice: balls have zero to me to me to me to me to me to me to me to me to.

のような意味不明な会話をするようになった。繰り返しはアイテムの個数を表現しているようにも思えるが、いずれにせよ（英単語は使っているものの）意味は分からない。ボブとアリスは、帽子を欲しがっている演技をするため、帽子が得られずに落胆して見せて、本当に欲しい別のものを「安く」手に入れるといった策略まで行ったようだから、確かに賢そうだ。

「AIが独自の言語を生み出した」と聞いて、「万能の電子計算機がインターネットで繋がって『地球環境を破壊している人間を地上から消すことが地球の未来のためには最善だ』みたいな謀議を人間に理解できない言語で行い、人知れず人類消滅計画を実行に移す」というSF的な近未来を想像し、不安、あるいは、不快に感じる人がいるのは無理のないことかもしれない（もっとも彼らの会話は暗号化されているだろうから、たとえ英語で行われたとしても、コンピュータの管理者がよほど注意していなければ人類抹殺計画は察知できないだろう）。

AIが勝手に生み出した言語であっても、人間が理解できるなら不安は煽らない。「リンゴ、リンゴ、リンゴ」と3回繰り返したら、リンゴ３個という意味で、この単語は「欲しい」で、こっちは「交換する」だと判明すれば「翻訳」が可能になる。やがて効率化を進めるAIは、リンゴを10回繰り返すよりも、数詞を使った方が良いことに思い至ることだろう。

農耕や狩猟や戦闘や、異文化との衝突を繰り返して現在の形になった英語を始めとする世界の言語は、帽子や本の交換を有利に進める上では効率的であるはずはない。言葉は相手に通じて、相手の言うことが理解できれば良いので、ボブもアリスも交渉という目的のために、言語を最適化したというだけのことなのかもしれない。

交渉するAIには、人間に分かる言語を無理強いすべきだろうか、あるいは、どのような言語を生み出して交渉を進めるかを含めて研究対象とするべきだろうか。交渉に最適化された言語が生まれれば、それを人間が学び使いこなすことで、多くの交渉がはかどり、例えばさまざまな外交摩擦の解消につながるかもしれないというのは楽観的に過ぎるだろうか。

【参照情報】
AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?
Google Translate AI invents its own language to translate with | New Scientist