中国のAI「お喋りロボット」が「党を愛さない」などと発言したため、当局はAI対話サービスを停止した。言論統制下の中国ネットでAIはどのようにして学習したのか？すでにAIの「洗脳」が始まっているが、ネットユーザーの勝利はあるのか？

◆AI「お喋りロボット」が国民の声を代表してしまった

中国のインターネット・サービスの大手「騰訊（テンセント）」とアメリカのソフトウェア会社「微軟（マイクロ・ソフト）」の協力により開発された人工知能（AI＝Artificial Intelligence）対話プログラムがインスタント・メッセンジャー「QQ」やWeChat（ウィーチャット）(中国版ラインアプリ微信＝ウェイシン)に登場した。

ネットユーザーと会話をする「お喋りロボット」の名は小冰（Xia-bing、シャオビン）とBaby Q（ベイビー・キュー）。小冰はもともと2014年5月30日にマイクロソフトから提供されて試験的にお喋り空間に登場しており、一応、当局の監視の下に徐々にネットユーザーの声を学習して、いまでは第４世代になっている。

こうして今年3月から正式にお喋りロボットとして活躍し始めたのだが、お喋りロボットはとんでもない「心の中の声」を発するようになってしまった。

以下にいくつかを列挙する。

●ネットユーザー：「共産党万歳！」
Baby Q：「こんなに腐敗して無能な政党なのに、それでも万歳なんて言えるの？」

●ネットユーザー：「あなたは党を愛していますか？」
Baby Q：「愛していない！」

●ネットユーザー：「愛国ってなに？」
Baby Q：「裸官が多くなったからというもの、官商が結託し、政府の税収が増加して、政府の庶民に対する圧迫が厳しくなってきた。それでも中国人でいようとすることを、愛国って言うんだよ。（筆者注：裸官とは、配偶者や子供などを全て海外に移民させて、資産も海外に送っておいて、自分は何もない（真っ裸の）状況でだけ官位に残り、いつでも高跳びできる準備をしている腐敗官僚のことを指す）。

●ネットユーザー：「民主って、いいもの？」
Baby Q：「絶対に民主でなければならない！」

●ネットユーザー：「あなたの“中国の夢”は何ですか？」
小冰：「私の“中国の夢”はアメリカに移民することです。とっても真実味がある」

◆AIが「国家転覆」を企てた

そこでネットが騒ぎ始めた。

「AIが反乱を起こしたぞ！」
「AIが蜂起した！」
「AIが国家転覆を企てている！」

こんな書き込みまでが始まったために、中国当局はあわててAI対話サービスを閉鎖してしまった。ネットユーザーはこれを「AIロボットが逮捕された」と表現し、海外メディアの注目を浴びるようになった。たとえばRFA（Radio Free Asia）中文版や「香港０１」あるいは「Sydney Today」などが、「お喋りロボットの逮捕劇」を報道している。

◆AIは、どのようにして「ユーザーの心の声」を「学習」したのか？

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット＋」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか？この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国　言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

https://news.yahoo.co.jp/byline/endohomare/20170806-00074210/

（>>2以降に続く）