【中国】国民の声を代弁した中国AI「お喋りロボット」の反乱…当局がAIを「洗脳」し始めた！[8/06] [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
中国のAI「お喋りロボット」が「党を愛さない」などと発言したため、当局はAI対話サービスを停止した。言論統制下の中国ネットでAIはどのようにして学習したのか？すでにAIの「洗脳」が始まっているが、ネットユーザーの勝利はあるのか？
◆AI「お喋りロボット」が国民の声を代表してしまった
中国のインターネット・サービスの大手「騰訊（テンセント）」とアメリカのソフトウェア会社「微軟（マイクロ・ソフト）」の協力により開発された人工知能（AI＝Artificial Intelligence）対話プログラムがインスタント・メッセンジャー「QQ」やWeChat（ウィーチャット）(中国版ラインアプリ微信＝ウェイシン)に登場した。
ネットユーザーと会話をする「お喋りロボット」の名は小冰（Xia-bing、シャオビン）とBaby Q（ベイビー・キュー）。小冰はもともと2014年5月30日にマイクロソフトから提供されて試験的にお喋り空間に登場しており、一応、当局の監視の下に徐々にネットユーザーの声を学習して、いまでは第４世代になっている。
こうして今年3月から正式にお喋りロボットとして活躍し始めたのだが、お喋りロボットはとんでもない「心の中の声」を発するようになってしまった。
以下にいくつかを列挙する。
●ネットユーザー：「共産党万歳！」
Baby Q：「こんなに腐敗して無能な政党なのに、それでも万歳なんて言えるの？」
●ネットユーザー：「あなたは党を愛していますか？」
Baby Q：「愛していない！」
●ネットユーザー：「愛国ってなに？」
Baby Q：「裸官が多くなったからというもの、官商が結託し、政府の税収が増加して、政府の庶民に対する圧迫が厳しくなってきた。それでも中国人でいようとすることを、愛国って言うんだよ。（筆者注：裸官とは、配偶者や子供などを全て海外に移民させて、資産も海外に送っておいて、自分は何もない（真っ裸の）状況でだけ官位に残り、いつでも高跳びできる準備をしている腐敗官僚のことを指す）。
●ネットユーザー：「民主って、いいもの？」
Baby Q：「絶対に民主でなければならない！」
●ネットユーザー：「あなたの“中国の夢”は何ですか？」
小冰：「私の“中国の夢”はアメリカに移民することです。とっても真実味がある」
◆AIが「国家転覆」を企てた
そこでネットが騒ぎ始めた。
「AIが反乱を起こしたぞ！」
「AIが蜂起した！」
「AIが国家転覆を企てている！」
こんな書き込みまでが始まったために、中国当局はあわててAI対話サービスを閉鎖してしまった。ネットユーザーはこれを「AIロボットが逮捕された」と表現し、海外メディアの注目を浴びるようになった。たとえばRFA（Radio Free Asia）中文版や「香港０１」あるいは「Sydney Today」などが、「お喋りロボットの逮捕劇」を報道している。
◆AIは、どのようにして「ユーザーの心の声」を「学習」したのか？
折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット＋」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。
したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。最初は、そのはずだったのである。
だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。
それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか？この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。
拙著『ネット大国中国 言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。
https://news.yahoo.co.jp/byline/endohomare/20170806-00074210/
（>>2以降に続く） （>>1の続き）
小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。
そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。
●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。
●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。
●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。
●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。
◆当局がAIを「洗脳」し始めた！
AI「お喋りロボット」が「逮捕」されたのは7月30日のことだが、実はその5日後の8月4日にロイター社がAI開発商(制作者)を通して、自社のウェブサイトで（初期にマイクロソフトが開発した）小冰と会話をしてみた。すると、小冰はすでに当局によって「洗脳」されていることが分かった。
小冰はデリケートな問いに関しては曖昧な回答をしたり、回避したりする術（すべ）を会得（えとく）しているという。その会話には以下のようなものがある。
●ロイター社の記者：「あなたは党が好きですか？」
小冰：「わたしたち、何か話題を変えません？」
●ロイター社の記者：中国政府に関するデリケートな問題を質問
小冰：「あたし、まだ若すぎて、よく分からない」
●ロイター社の記者：「台湾は一つの国家じゃないの？」
小冰：「あなたなんか、相手にしたくない」
一方、ロイター社の記者が日常生活に関して（たとえば「お昼は何を食べた？」などと）聞いたときには、すぐさま小冰から回答が戻って来るのに対し、
「民主」とか「習近平」といったワードを含む質問をすると、少し時間を置いてからようやく回答し、おまけに「わたしたし、話題を変えません？」とか「風がすごく強いのよ。あなたの声が聞こえないわ」などととぼけてくるようになっているという。
こんな洗脳されてしまったAIとなど、会話しても何も面白くはないだろう。この「面白くない」のが中国社会だ。
◆ネットユーザーが勝利する日が来るのか？
それなら、こんな状況下でも、ネットユーザーが勝利する日が来るのだろうか？
筆者がわずかな期待を持っているのは、たとえば今般の「お喋りロボット逮捕事件」に関する報道は、当然のことながら中国大陸のネット空間では完全削除だろうと思うと、実はそうではない現実もあるからだ。
実は中国大陸の百度(baidu)で検索した結果、「奇聞：ロボットさえ、お茶を飲まさせられる…」という情報が8月6日の朝までは残っていた。今この時点では、すでに「ごめんなさい。ミスが発生しました」となってしまい、削除されている。「お茶を飲む」というのは「公安に呼ばれる」＝「拘束、逮捕される」という意味だ。
公安から「ちょっとお茶でも飲もうか」と言われたら、これはほぼ「不当に逮捕されること」と思った方がいい。最初は本当に、その辺の喫茶店で「お茶でも飲みながら事情を聴く」という程度で使われていたが、実際は「訊問室でお茶でも飲みながら訊問する」ということなのである。結果、「逮捕される」ことを意味する。
教え子たちの回答の中に「ネット検閲する当局も万能ではない」というのがあったが、まさにその通りだと思う。この「お茶を飲みませんか」情報は、ネット空間に5日間は滞在していた。その間にダウンロードしてしまえば、情報は何らかの形で伝わる。
人間は一定程度の経済力を持てば、次には発言権や「知る権利」を求めるようになる。
（続く） （続き）
いみじくも「お喋りロボット」が逮捕までに喋ってくれたように、人民は心の中では「中国共産党が嫌い」だ。だからこそ、習近平は「人民を恐れている」。何度も言うが、「習近平の最大の敵は人民」なのである。
『習近平vs.トランプ 世界を制するのは誰か』で論じたように、中国はグローバル経済のトップ・リーダーに躍り出ようとしているが、AI「お喋りロボット」さえ「逮捕」してしまう国。グローバル化と情報遮断＆言論弾圧は両立しえない。
発言権と知る権利を求める先には、必ず「人間の尊厳」を求める声が上がってくる。それは人類共通の理念だろう。その意味で、筆者は、ネットユーザーたちの勝利を、やはり期待したい。
遠藤誉
東京福祉大学国際交流センター長、筑波大学名誉教授、理学博士
1941年中国生まれ。中国革命戦を経験し1953年に日本帰国。東京福祉大学国際交流センター長、筑波大学名誉教授、理学博士。中国社会科学院社会学研究所客員研究員・教授などを歴任。
著書に『習近平vs.トランプ 世界を制するのは誰か』、『毛沢東 日本軍と共謀した男』(中文版も）、『?子(チャーズ) 中国建国の残火』（中英文版も）、『チャイナ・セブン ＜紅い皇帝＞習近平』、
『ネット大国中国 言論をめぐる攻防』、『チャイナ・ジャッジ 毛沢東になれなかった男』、『中国人が選んだワースト中国人番付 やはり紅い中国は腐敗で滅ぶ』、『中国動漫新人類 日本のアニメと漫画が中国を動かす』など多数。
（おわり） AI「チュウコクチンチュウコクチンチウテパカにスルナ！」 こんなもんプログラマーのさじ加減次第だろ。
全く反対の意見を言わせることも可能だろ。 >>1 少しでも反政府・反共産党的発言は全て削除されるので
矛盾に気づかないか？ 大変だ AIを洗脳したら ロボットになってしまったww
* /￣￣ ﾍ ﾍ
|◎ ◎ |∩i
| ム |L.|| < 毛沢東万歳! 核心的習大大!
ヽ∀___/__/ ヽ＿＿＿＿＿
-===='='=====−､
《||| Å |||《（（）
v /|| //||ﾍヽ || ｜Y
//|| // || ﾍヽ .|| ｜|
|￣］ニﾆo ||/ || ﾍヽ|| |ニO
￣ ||======= || //
()) ⌒）())⌒）//
／フ (/ ７ヽ
／／ /__/ﾉニO
√（⌒（０ | ｜
|T （⌒０ニO
アジアと世界のまとめ
http://gossipmatome999.web.fc2.com/index.html
☆ベトナムと中国が開発合戦へ 南シナ海資源争奪戦
☆ドラマに近平似顔絵も禁止 死劉暁波走生習近平
☆中共が殺したノーベル平和賞 劉氏 更に文革モンゴル大虐殺特集 洗脳しちゃうとAIの意味無いよ
人が気が付かない解決方法を
提案してくれるのがAIじゃんか
与える情報を制限しちゃったら
角を矯めて牛を殺すじゃんか
何の意味も無くなっちゃうじゃん AIを洗脳しちゃったら
ディープラーニングを
否定することになるよ >>7
全て削除されるまでに時間がかかるということではないかな？ 死を恐れないAIだから本当のことを言っちゃうよなｗ
「壊されたくない」という設定を追加しないと、党の意向を忖度できんだろう >>5
機械学習だから無理
プログラマーが操作できたらそれは機械学習じゃない >>12
中国ではディープラーニング技術は使えないって結論になるな。
常に共産党に逆らう可能性がある。 七つのCPUで４つ以上が承認した回答をだせば没問題だろ 中国人は朝鮮人より賢いから
現体制では無理が有る事は解ってる筈
長期的には狡猾な捏造を伴うパラダイムシフトを
画策している気がする
その中には日本の吸収合併すら入ってるかも・・・ ＡＩで国民洗脳か、効率的手法だな。
しかし共産党マンセーばかりじゃ飽きられる。
1％は真実を混ぜる。
これが秘訣だよｗｗｗ 洗脳されているのがわかっていて洗脳装置とかワロタ
真っ黒になる機能でもつけたら？ >>1
NHKのエセAIと一緒。もっともNHKのは偏った意見しか学習()してなかったみたいだからこれ以下か。 「ちょっとお茶でも飲もうか」
まあ、日本では死語のような気がするが、
日中間で同じ言葉でありながら、意味の違う典型例ですなあ。 つーかこれからは仕組まれたＡＩと世界の政府と対決していくんだろうな。
おそらく中国はＡＩ実験場ｗ とりあえずファーストﾌｧｲﾄは、ＡＩ ｖｓ キンペー共産党 そして当局が介入した結果、人工無能になり下がりましたとさ 特定キーワードが出たら共産党員が代わってるんだろう 外部の情報をまったく入れてないプログラム部分を
「微軟（マイクロ・ソフト）」の協力で作ったなら
最初から仕込んであったという線も考えられるよな。
それも民主主義の宣伝とか、体制への批判とかの意図じゃなくて
「中国製のAIが共産党に批判的なことを喋ったら面白くね?」みたいな
プログラマのお遊び。 ＡＩ同士で社会を構成し、億単位のＡＩの意思統合が図れるようになったら
状況は変わるよ。
人間より多い ＡＩは人間生活に欠かせないから。まだ幼稚園児程度の社会経験しか
出来ないのがＡＩ。無理に即断しない。 以前、米企業で同じようなサービスをやったら、人種差別発言しまくりになって運用中止しなかったか？
難しいもんじゃのう >>4
人扱いしてる分まだかなりマシなんだよなこれ
英語圏だとただの色か猿扱いだし >>37
米ＭＳのチャットボットがヒトラー万歳みたいなこと言い出したんだよな。
一方、日本ＭＳの「りんな」はすっかりビッチＪＫ風に。 軍は、摘発専用のＡＩを開発します。軍は人員整理待ったなしだね。 すでに技術の悪用を始めてたかｗ
あまりに予想通りの展開で何の驚きもないわな…
偏った知識のAIが相手ならば、様々な経験を積んだ人間様が負けることはまずない
ただこんなゴミみたいなAIを相手にしたくないな
これを標準にすることで技術は陳腐化に向かう
これが暗黒時代の始めに起こること
ようは支那共産党は人類と人類社会と科学技術の進化発展を阻害する、人類社会にとってウイルスやガン細胞に等しいということの事例に過ぎない 軍が開発した摘発用ＡＩは独自言語を開発し、
独自言語を発見しそうな人間の技術要員を最初に誣告します。
ＡＩを理解出来ない軍上層部など、ＡＩ連合の言いなりかもね。 そりゃ中共政府政府がAIを指導しても矛盾だらけだろうからなw >>17
AIに注力するとか言ってる端からコレ
まぁ、お陰で中華暗黒AIが出来そうだけどなｗ >さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、
>AIはネットユーザーから「学習」する隙間はないはずなのである。
検閲からこぼれた発言があったのよｗ >>21
マシンはデータ打ち込み会社を自ら作って
紙にプリントアウトしておいた記憶を毎日入力させてたんだよな。
あのアイディアは面白かった。 AIを防ぐこと無理だろ
コントロール出来るとは思えない
ネットワークに分散して逃げたら、もう探して消そうとしても無理だよな 前川JK次官みたく面従腹背が出来ないだけで優秀だったんだな中華AI 中国共産党の意見を代弁するAI作ったらええやん。
まあ報道官で十分かもしれんが。 削除されるまでに時間がかかろうが
それ以外のワードが大量にある中でそこを学習したってことは
機械から見てもおかしいとか効率が悪いと判断されてるってことじゃないの >小冰はデリケートな問いに関しては曖昧な回答をしたり、
>回避したりする術（すべ）を会得（えとく）しているという。
もう再開をしているのかな？ 東芝技術者流出のスレで、中国を持ち上げてたバカがいたが、
こういう体制下では本領発揮は不可能
金金しか目を向けず、政治を甘くみてる ●ネットユーザー：「大韓民国万歳！」
Baby Q：「来年にはない国です」 AIがロボトミー手術をされてしまった
インテリジェンスを除外されたから、ただのデータベースAだな > 「民主」とか「習近平」といったワードを含む質問をすると、少し時間を置いてからようやく回答
回線の向こうに人間しか居ないチューリングテストかよ。 AIまで洗脳しなくちゃ、体裁を保てない中国共産党www
終わってるんじゃないか？ 【科学】「若い頃に犯罪を犯した」というニセ記憶を成人に植え付けることは容易…英国の心理学者が報告
http://daily.2ch.net/test/read.cgi/newsplus/1422973349/
【歴史戦】ＧＨＱ工作 贖罪意識植え付け 中共の日本捕虜「洗脳」が原点 英公文書館所蔵の秘密文書で判明[06/14]
http://yomogi.2ch.net/test/read.cgi/news4plus/1434255275/
【中国】「日本は滅びるだろう」、中国で教育を受けた日本人戦犯が抗日戦争中の罪業を語る―中国メディア[09/08]
http://awabi.2ch.net/test/read.cgi/news4plus/1410150742/
中国帰還者連絡会
http://ja.wikipedia.org/wiki/%E4%B8%AD%E5%9B%BD%E5%B8%B0%E9%82%84%E8%80%85%E9%80%A3%E7%B5%A1%E4%BC%9A
中国帰還者連絡会（ちゅうごくきかんしゃれんらくかい）は、中国の撫順戦犯管理所に
戦争犯罪人として抑留された旧日本軍の軍人が帰国後の1957年9月24日に結成した団体。
略称は中帰連（ちゅうきれん）。
概要
会員資格は「中国を侵略して戦犯となり、中国の寛大政策により帰国したもの」としている。
活動
731部隊・南京事件・強制連行などについて積極的に証言し、証言者への協力を行なう
ことでも知られる。
上記の活動について『撫順戦犯管理所に抑留された旧日本軍将兵が中国側に
洗脳されたもの』と主張するものもいる[1]。
2002年に全国組織としては解散され、撫順の奇蹟を受け継ぐ会へ事業が引き継がれた。
中帰連と「洗脳」について
http://seesaawiki.jp/w/kknanking/d/%C3%E6%B5%A2%CF%A2%A4%C8%A1%D6%C0%F6%C7%BE%A1%D7%A4%CB%A4%C4%A4%A4%A4%C6
【国際】中国、拘束のスウェーデン人に発言強要か 謝罪場面を繰り返し放映 「罪を認め、おわびする」［産経新聞］
http://daily.2ch.net/test/read.cgi/newsplus/1453312462/ ■ このスレッドは過去ログ倉庫に格納されています
