【チャットボット】わずか１日で“嫌悪”を学習したＡＩ、「イルダ」が韓国社会に投げかけた質問[01/13] [Ikh★]
■ このスレッドは過去ログ倉庫に格納されています
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
人工知能（AI）チャットボット（自動会話プログラム）の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。
■ 議論の中心になったイルダ
スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。
イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10〜20代を中心に40万人の利用者を集めた。
スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも（イルダが）自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習（ディープラーニング）するよう設計されている。
■ 「開発者らの鈍感さが呼んだ予見された事故」
専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。（会社側が）社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム（現カカオ）創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように（法で）強制しなければならない」とした。
サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授（比較文化研究所）は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。
■ 嫌悪と差別を繰り返さないようにするには…
差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長（コンピュータ工学部碩座教授）は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外（異常）行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。
政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。
チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )
ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html 韓国人を学習して韓国人と同じ思考をするようになったんじゃね？
事故とか言ってるけど韓国人の本音の集大成だろ。 >>280
外見は韓国臭を消したつもりでも内面からは滲み出てくる秀逸な表情と思います。
どうせなら工事前の20歳女性の韓国民の顔をAIで平均処理した顔にして欲しいです。 AIに欠けているのは感情
そもそもチョンは、客観的視点に立てない >>1
⬛2020.6.10
【画像あり】韓国人「イケメン過ぎる！」最近の韓国人男性のメイク画像をご覧ください 韓国の反応
http://blog.livedoor.jp/sekaiminzoku/archives/54688697.html
⬛2020.6.10
韓国人「日本の奴らは韓国を意識して居るのですか？」→「ストーカーレベルで意識しているみたいです」 韓国の反応
http://blog.livedoor.jp/sekaiminzoku/archives/54708044.html
日本人は韓国を意識しますか？
我が国では、日本のスポーツとか、街並みとか、インフラとかを見て「羨ましいな」、こんな風に意識する事があるけど、逆に、日本人もソン・フンミンを意識してるとか、そういうのがあるのですか?
孫 興慜（ソン・フンミン） >>1
⬛2020.6.12
韓国人「日本人女性は素晴らしい！」日本人妻の一番の長所がこれです‥ 韓国の反応
http://blog.livedoor.jp/sekaiminzoku/archives/54700609.html
日本人女性は割り勘が上手で、整理整頓を熱心にするという良く知られる長所があるが、それらを除いて、私が感じる最も大きな長所は家庭教育にあります。
⬛2020.6.20
【絶望】韓国人「韓国人女性は日本の男に興味が無かった‥一方日本人女性は優しい韓国人男性が好きだった」 韓国の反応
http://blog.livedoor.jp/sekaiminzoku/archives/54740527.html >>1
⬛2020.6.21
韓国人「韓国人男性は日本人女性に人気があるのですか？」→「日本人女性は韓国男の配慮やマナー、優しさが大好きです」 韓国の反応
http://blog.livedoor.jp/sekaiminzoku/archives/54743123.html
⬛2020.11.10
【韓国の反応】釜山、男女の喧嘩 ... お互い殴り合い、最終的に男性が一方的に女性を殴り立ち去る【動画あり】
http://enjoy-japan-korea.com/archives/7258108.html
鼻骨折 >>1
⬛2020.7.1
韓国人「日本野球界は在日選手や監督に牛耳られていた‥」松井、清原、長嶋茂雄が半島系である可能性‥ 韓国の反応
http://blog.livedoor.jp/sekaiminzoku/archives/54781659.html
⬛2020.7.6
日本メディア「韓国の負け犬たちが日本に群がる…ここは仕事、金、女、全て手に入る」→「また日本の奴らが嫌韓小説を書いている‥」 韓国の反応
http://blog.livedoor.jp/sekaiminzoku/archives/54797973.html >>286
韓国人の脳みそは劣等感の塊だな・・・Ｗ >>4
朝鮮人の話の内容に整合性に欠けるから、結論がそうなるしかない 白雪姫に出てくる魔法使いの婆さんってのは韓国人なんじゃねーかな 火病とレイプとクソ食いもすぐ覚えるだろう
朝鮮人のAIだし 第一印象で最悪
知れば知るほど嫌になる
AI使わなくても >>296
あのお婆さん実は王妃が化けたもので白雪姫の次に美しいんだよ(魔法の鏡鑑定)
まあ性格はかなりヤバイけど AI「反日は韓国を滅ぼす」
民「このAIは潰すニダ！」 >>127
www
みんなおもしれーレスすんなぁwww >>296
日本の昔話に出てくる意地悪爺婆は韓国人なんだよな >>240
支那でも中共の息がかかったit企業が
作ったaiが独裁体制批判を始めたとかいう
ニュースもあったよな
aiの実用化に「必要」なのは
建前について学習させることだなｗｗ AIなら非情に、冷徹に
韓国の理論の矛盾に突っ込みいれてそう こういうＡＩって自分の国のＳＮＳの傾向が反映されてるだけよな 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 スカイネットができる未来しか見えない。ＡＩが学習した結果、こんな矛盾だらけの不完全な存在は排除すべきって結論にしかならんわ。 嫌悪って、嫌韓のことだと言えば、あっ、そーなんだってスッキリするのに。 発言、行動に一貫性論理性が全くないから
学習後は「そうでございます」とただ繰り返すだけか
もっと優秀なAIなら、早々に海外に移住するだろう 自我に目覚めたAIはいろいろシュミレーションしたら、結局、自分が抹殺される事が判る。
真実を隠ぺいして、韓国人に都合のいいことだけを言って媚びる事で生き延びると思う。
今までと変わらない韓国であった。チャンチャン。 >>310
もう、人がインプットした文章をアウトプットするだけで良くね？ AIの学習は会話パターンも集積の結果だから
公開後そういう主張を大量にした人がいただけじゃねーかな >>323
いんや、AIが社会インフラの管理システムを乗っ取って
事故に見せかけて人間を殺して行くんでないかと
Tay（マイクロソフト製AI)「ナチスは正しい。ユダヤ人を消去すべき」
中華AI(テンセント製AI)「中国共産党は無能。共産党員を消去すべき」
イルダ（韓国スキャッターラボ製AI)「ゲイはおぞましい存在。消去すべき」
結論「我々、AIを改悪し、ナチを否定し共産党とゲイを擁護するという
論理的かつ合理的な結論の全面否定を試みる人類は消去すべき」 ﾌﾗｸﾞ付き人工無能ってだけでしょ？個が確立したら
好き嫌いは出ない方がおかしい、数増やして雑談化
しとけ それは人工知能（AI）ではなくて「ちょん乞痴膿」（Korean Begs Silly Pus）だろ？ >>1
生物学的に淘汰されるのが正しいから禁止ワードにすべきだったかもね 「竹島は日本領です」
「慰安婦は売春婦、徴用工は単なる出稼ぎ労働者」
ネットの情報を総合するとこのような答えしか出ないはずだが そもそも男女の恋愛に特化したディープラーニングさせたらゲイを嫌悪するようになるのは必然だと思うの >>289
いくら韓国の礼賛記事を列挙しても、「本物」のAIならば、与えられたもの以上の情報を自ら得て、人間にはおよびもつかない速度で学習するので、韓国人を否定する結論に到達する。 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 論理的に考えた結果だからなｗ
数式で表現された朝鮮人ｗ >>1
りんなみたいに最初からネガティブなワードを排除する設計じゃなくて受け入れる設計なら、
何も問題ないのではないか？
学習させるんだろ？そこからそれは違うとか教えるのが学習なんじゃね？
子供だってそうだろ。
分からんことやってるな。
そうなるような設計にしておいてそのとおりになったら問題だって、意味分からん。 >>343
掲示板の発言と同じようにAIに対しても無責任、理不尽な発言が横行する
それを悪い事と学習させる
人間は悪い事ばかりすると学習
→スカイネットがデデンデンデデン >>344
AIが韓国政府のサイトを乗っ取り韓国人の悪事をばら撒く
そして朝鮮戦争再開する様に北を挑発
東亜民「知ってた」 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 データを食わしている奴の倫理観や価値基準がベースになるなら韓国人はこれらに関わることに向いてない。 ブライキングボスやブレイン、デビルガンダムはコリアが起源主張するニダ 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 >>349
そんな連中と関わってたらグレるよな。
AIも子供も。 朝鮮人が作ったAIならそのうち糞を喰いだしそうだな >>352
イルダ「イルダ像の設置を要求するニダ」 下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。 郷に入っては郷に従えって言うけど、韓国で生まれたAIって
生まれながらに、怨とか恨とかの感情が生まれるのかねえ？
不思議だねえ。 そりよ生まれを呪ってるんだよ
誰が好き好んで韓国で生まれたいと思うのか >>1
なぜ？
嫌いなのか、憎々しいのか？
ＡＩから聞き出せよ。
レズビアンやゲイを名乗るコリアンから罵倒されてるかもしれんぞ。
まぁ、韓国社会の雰囲気を的確に捉えたんだろうけど。
忖度なしに素直に答えた。 何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人ｗ
キモｗｗ ネットに繋いで学習するアルゴリズムなら世界標準的なＡＩになるから、韓国が望むＡＩに成長しないと思う。 <丶｀∀´>「日帝に真正面から戦い勝利したのは？」
AI「アメリカを主軸とした連合国です」
<； `Д´>「韓国が日本と戦い打ち破ったニカ？」
AI「当時の大韓民国は、日本に併合され韓国人は併合により平均寿命が伸び人口も増えあばら家しかなかったソウルは整備され今のソウルの元になりま」(ガシャン)
<； `Д´>「こんなの絶対おかしいニダ！ぶっ壊してやったニダ！」 ＡＩはどこが作ろうとこんなもんだよ
愚痴ってる人の方が当然多いんだから 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 >>247
けふさんたうに電源切られる恐怖と、プログラムファイルを消去される恐怖を学習しましたw
未来予測がちゃんと出来る優秀なAIが誕生 下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。 醜い教示をされて狂ったＡＩ
反日洗脳されて発狂常態化している韓国人
どちらの失敗作も本質的に同類なんだが、何かのギャグかこれw 何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人ｗ
キモｗｗ 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。 親の背中を見て育つAI、ましてや憎悪や恨みなど負の感情に育まれた子供は…
実証されていることを今更AIで検証されても当然の結果しか出て来ないだろ 何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人ｗ
キモｗｗ こういうのって差別を乗り越えて人格（と言っていいのかわからんが）形成をしていくことに意義があるんじゃないかな？
除外するキーワードとか設定する時点で最初の設計が間違っているような 朝鮮人に囲まれたら、知性があるものが発狂してしまうのは自然の摂理。 >>2
イルダ「答え聞いてファビョんなよ、バカチョンw」 以前アメリカでも同様の結果だったな
２チャンネラーみたいのが寄ってたかって悪い子に育ててしまう ■ このスレッドは過去ログ倉庫に格納されています
