マーケティングでは、商品やサービスを使ったお客様の声（テスティモニアル）が有効とされている。テレビの通販番組やコマーシャルには、「個人の感想です」という字幕とともに、ポジティブな利用体験を語る有名・無名の「お客様」が登場する。販売元の宣伝要員が、訴求ポイントを自画自賛するよりも、第三者であるはずのお客様が、痩せたとか肌がきれいになったとか証言していると、購買意欲がかき立てられる。

オンラインの世界では、レビューやレイティングという形で活用されている。読んだことのない書籍や、行ったことのないレストラン、観たことのない映画について、先に体験した人がどのような評価を下しているかを知ることは、その商品やサービスを試してみるかどうかを判断する上で重要な材料となる。

イスラエル工科大学（テクニオン）の研究者は、テスティモニアルの効果を研究するために、偽のEコマースのウェブサイトを２つ立ち上げた。１つには「お客様の声」を掲載し、もう１つには掲載しなかった。被験者たちの多くは「お客様の声」のあるサイトの商品の方に高い信頼を寄せる傾向を示した。特にネット経験が浅い人ほどこの傾向は顕著だったという。長年インターネットで様々な情報に触れている人は、「騙し」にくくなるのだろう。

人間による「お客様の声」の悪用は、以前から問題になっている。ステルスマーケティング（ステマ）では、対価を受け取っている著名人や一般人が、効能や性能を誇張して宣伝し、消費者が購入するようミスリードしたりする。逆の現象として、問題が発覚したメーカーの製品や、スキャンダルを起こした人の作品を、試してもいない人々が罵倒することも多い。

シカゴ大学の研究者たちは、人間が書いた実際のレビューをAI（人工知能）に読み込ませ、フェイク・レビューを自動作成させた。そして、この機械式レビューを人間に読ませて、本物（人間が書いたもの）か偽物（AIの書いたフェイク・レビュー）か判定させたところ、人間は偽物を見抜くことができなかったばかりか、「信頼できる」と評価する人さえいたと言う。

つまり、あたかもレストランやホテルを体験したり、書籍を読んだりした「もっともらしい」感想文を、AIはどんどん生成することができる、ということになる。

星の数を選ぶ程度なら、人がやってもそれほどの労力はかからないが、文章を作るとなると相当な手間がかかる。人間のレビュワーを雇うとなると高額な原稿料を支払う必要があるが、機械が作文してくれるとなれば時間もコストも削減可能だ。レビューやテスティモニアルを悪用して、ライバルの評判を貶めたり、自分の評価を必要以上に高めることで消費者を欺いたり、競合他社を妨害しようとする人々にとっては、安価に、容易に実現できるようになる。

過度にポジティブな評価が書いてある場合、それを鵜呑みにした人が実際に試せば、その評価が正当か不当か、ある程度は検証することができるだろう。ゆったりとした静かなレストランが、狭くて騒々しい場所であれば、書いたのが人であれ機械であれ、騙されたことに気づく。しかし、ネガティブな評価を鵜呑みにした場合には、そのレストランに行かないことを選んでしまうはずなので、読んだ人には、評価が適切かどうか判断する機会がない。

シカゴ大学の研究者らによると、人間が書いたレビューと機械が書いたレビューには、文字の発現頻度に微妙な違いがあるため、研究を進めれば検出が可能になるかもしれない、ということだ。いずれにしても口コミやレビューに依存しているサイトには、将来的に、何らかのAI対抗策が必要ということになりそうだ。

＜参照情報＞
The Impact of Testimonials on Purchase Intentions in a Mock E-commerce Web Site
http://www.scielo.cl/scielo.php?script=sci_arttext&pid=S0718-18762012000100005

Automated Crowdturfing Attacks and Defenses in Online Review Systems
http://people.cs.uchicago.edu/~ravenben/publications/pdf/crowdturf-ccs17.pdf