×
最新の人気コンテンツ情報をまとめた
メールマガジンをお届けします

ページトップへ
2017年8月初旬、中国のIT大手であるテンセント(騰訊)が運営するSNS「QQ」上で、利用者とコミュニケーションをとるAIキャラクターがユーザーからのある質問に対し、中国共産党を批判する内容を返答したことが中国国内で騒ぎとなった。その後、同社は自主的にサービスを停止する事態に追い込まれたと、香港メディア「明報」が伝えた。

問題となったAIキャラクターは、同社が独自に開発したチャットボットである。今回の騒ぎはユーザーが「共産党万歳」と書き込んだところ、AIキャラクターは「こんなに腐敗して無能な政治のために万歳できるのか」と返答。次にユーザーは習近平国家主席が掲げる政治スローガンである「中国の夢」について、「あなたの中国の夢は何?」と尋ねたところ、「私の中国の夢は米国への移民」と返答したことが発端となった。この騒ぎを受けて、サービスが停止されたのは言うまでもない結果である。しかし、これについての後日談が登場し、その内容も新たな話題となりはじめているのだ。


ラーニングにバイアスがかかった可能性

サービスが停止され、その後中国政府がどのような対応をとるのかということに注目が集まった。
ロイター通信が報じたところによると、現在このAIキャラクターはどうやら再教育された模様。また、ロイター社はAIの開発者サイトを通じ、同種のサービスを展開する小冰(シャオビン)との会話を行ってみた。その結果、「共産党を好きですか?」とたずねると「話題を変えませんか」と返答していることがわかった。このような再教育が、すべてのAIキャラクターにおいて進められるかどうか今のところ不明である。しかし、実際に当局による(洗脳)が始まっていることには、どうやら間違いないようだ。

AIがどのように学習効果を深めるかについては、プランナーがインプットする部分が多く、答えてはいけない内容などをあらかじめ定義し学習させることは可能である。今回の問題後の修正は開発者によって故意にバイアスがかけられたものなのか、余計なことを言ってはいけないとAI自身が独自にラーニングしたものなのか、非常に興味深いところだ。ロイター社が報じた記事を見る限りだと、人為的な再教育を受けた可能性が高まっている。

最終的にAIの学習は自律的に政治的制限を回避する可能性も

通常、自由主義圏でわれわれがAIやそのディープラーニングを考える場合には、人権を侵害するような発言はもちろんだが、特定の政治体制や宗教のことなどはそれほど強く意識しないことが多いだろう。しかし、今回の中国テンセントのケースは故意にチャットボットに余計なことをしゃべるように仕組んだのか、ディープラーニングによる自然な成り行きなのかははっきりしていない。しかし、体制批判など”言ってはならないこと”が、かなり明確に存在することを改めて考えさせられる内容になっている。

学習効果が向上すれば、チャットボットとして顧客に言ってはならないことをAIが独自に理解し、自律的に回避できる可能性が高まりそうである。だが、逆にカスタマーインサイトとして一般的な顧客の感覚に同意し、強く政治に反発するような状況を理解してしまう。そうなると、それを含めてユーザーとのコミュニケーションを行なってしまうという恐るべき状況に至ることも考えられ、このあたりの味付けはなかなか微妙なものとなりそうだ。

すでにAIのチャットボットを実装したAIスピーカーは、各国で販売が開始され大きな人気を博し始めている。チャットボットの開発事業者の立地国によって、その反応が大きく変わるということになると、商品としては意外な部分が差別化ポイントとなり、それはそれで面白いことになりそうだ。
AIは果たして政治体制や宗教などに、どのぐらいの影響を受けることになるのか。今後、具体的に商品が登場することで、そのあたりの提供事業者ごとの違いといったものも話題になってくるものと思われる。とくに中国の事業者の対応が、どうなるのか大きく注目されそうだ。


<参考・参照元>
共産党に否定的だった中国AIサービス、「再教育」受けたもよう | ロイター