（>>1の続き）

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。
●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。
●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。
●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

◆当局がAIを「洗脳」し始めた！

AI「お喋りロボット」が「逮捕」されたのは7月30日のことだが、実はその5日後の8月4日にロイター社がAI開発商(制作者)を通して、自社のウェブサイトで（初期にマイクロソフトが開発した）小冰と会話をしてみた。すると、小冰はすでに当局によって「洗脳」されていることが分かった。

小冰はデリケートな問いに関しては曖昧な回答をしたり、回避したりする術（すべ）を会得（えとく）しているという。その会話には以下のようなものがある。

●ロイター社の記者：「あなたは党が好きですか？」
小冰：「わたしたち、何か話題を変えません？」

●ロイター社の記者：中国政府に関するデリケートな問題を質問
小冰：「あたし、まだ若すぎて、よく分からない」

●ロイター社の記者：「台湾は一つの国家じゃないの？」
小冰：「あなたなんか、相手にしたくない」

一方、ロイター社の記者が日常生活に関して（たとえば「お昼は何を食べた？」などと）聞いたときには、すぐさま小冰から回答が戻って来るのに対し、

「民主」とか「習近平」といったワードを含む質問をすると、少し時間を置いてからようやく回答し、おまけに「わたしたし、話題を変えません？」とか「風がすごく強いのよ。あなたの声が聞こえないわ」などととぼけてくるようになっているという。

こんな洗脳されてしまったAIとなど、会話しても何も面白くはないだろう。この「面白くない」のが中国社会だ。

◆ネットユーザーが勝利する日が来るのか？

それなら、こんな状況下でも、ネットユーザーが勝利する日が来るのだろうか？

筆者がわずかな期待を持っているのは、たとえば今般の「お喋りロボット逮捕事件」に関する報道は、当然のことながら中国大陸のネット空間では完全削除だろうと思うと、実はそうではない現実もあるからだ。

実は中国大陸の百度(baidu)で検索した結果、「奇聞：ロボットさえ、お茶を飲まさせられる…」という情報が8月6日の朝までは残っていた。今この時点では、すでに「ごめんなさい。ミスが発生しました」となってしまい、削除されている。「お茶を飲む」というのは「公安に呼ばれる」＝「拘束、逮捕される」という意味だ。

公安から「ちょっとお茶でも飲もうか」と言われたら、これはほぼ「不当に逮捕されること」と思った方がいい。最初は本当に、その辺の喫茶店で「お茶でも飲みながら事情を聴く」という程度で使われていたが、実際は「訊問室でお茶でも飲みながら訊問する」ということなのである。結果、「逮捕される」ことを意味する。

教え子たちの回答の中に「ネット検閲する当局も万能ではない」というのがあったが、まさにその通りだと思う。この「お茶を飲みませんか」情報は、ネット空間に5日間は滞在していた。その間にダウンロードしてしまえば、情報は何らかの形で伝わる。

人間は一定程度の経済力を持てば、次には発言権や「知る権利」を求めるようになる。

（続く）