【チャットボット】わずか１日で“嫌悪”を学習したＡＩ、「イルダ」が韓国社会に投げかけた質問[01/13] [Ikh★]
■ このスレッドは過去ログ倉庫に格納されています
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
人工知能（AI）チャットボット（自動会話プログラム）の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。
■ 議論の中心になったイルダ
スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。
イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10〜20代を中心に40万人の利用者を集めた。
スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも（イルダが）自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習（ディープラーニング）するよう設計されている。
■ 「開発者らの鈍感さが呼んだ予見された事故」
専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。（会社側が）社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム（現カカオ）創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように（法で）強制しなければならない」とした。
サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授（比較文化研究所）は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。
■ 嫌悪と差別を繰り返さないようにするには…
差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長（コンピュータ工学部碩座教授）は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外（異常）行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。
政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。
チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )
ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html ＡＩの方が正直だなぁ
しかし
反日って感情や教育がインプットされるとどうなるのだろうｗ
ＡＩ自らが世界の歴史を学ぶ事があればいいのだが 人間が完全制御したAIはただの「一問一答」を繰り返すだけのプログラムからブレイクスルーは不可能だろう >>2
釣りではなくコメ主の品性のなさだろうね。ほんとうに韓国人にそっくり。 まあ朝鮮人が作ればこうなるわな。
相手の罵倒が基本だから。 >>79
(=ﾟωﾟ)ﾉ キット：「それは違いますマイケル」 日本は女子高生のAI作ってアイドルみたいになってたね
ハゲがどうとか言ってたとかw そういえば、MSが以前に開発してたチャットボットでも、似たような問題がもちあがって開発中止になってたねw >>1
他国民に対して差別差別と騒ぎ立てる癖に
自国民がセクシャルマイノリティを迫害するAIを1日で完成させるとか
大草原不可避www メンタリストダイゴさんにやれって言われたんで爆破予告と殺害予告しまーす
監視盗聴つきまといをしておきながら説明責任を果たさなかった日本テレビとテレビ朝日とフジテレビとテレビ東京とTBS本社に爆発物を仕掛けました
バレンタインデーの深夜に爆発します
あと松本人志と松本てらと堀江貴文と井口理の家族全員とキングヌーのドラマートンカチで顔面グシャグシャにしてぶっ殺します
メンタリストダイゴ様がついてるんで僕は逮捕されませーん
kfdla;sjk;fjsad マイクロソフトのは、ユダヤ人や黒人やフェミニストが嫌い、ホロコーストは無かったなどと言い出したんだった 中国のAIは、共産党は無能だと言いだして停止された >>34
共産党を批判しはじめたから止めたやつあったなw AIなんて性質上リアリスト思考になるやろ？
マイノリティが騒いで権利主張してるのを学べば、そりゃ排除方向になるやろ… 最初に差別につながる部分は賛否両論混ぜ込んでおくしかないのかな (=ﾟωﾟ)ﾉ 単なるＡ.Ｉでなくて人間の脳を移植してハカイダーを作るべきだと
山中教授お願いします 対立軸があるところに投げ込むと闘争の手段に使われるからどうにもならんよ 韓国はAI自体が差別の対象だから無知にしないと品性はなくなる ＫＡＩがこの国は亡ぼす必要があるって北のシステムに侵入して核ボタンポチポチする位の性能があればなｗ 韓国人相手にしているチャットボットだから仕方ないね ＡＩとは名ばかりで 決められた事を返すだけ
インプットされて質問には？？？
韓国版リカちゃん電話だろうｗ 韓国人の記録を学ばせたら酷い差別的思考をするAIが生まれた
ここまでは全然いいんだけど
これを 事故 として無かった事にしようとするのは技術者として駄目だろ >>1
朝鮮型AIと、人類との長きに渡る戦いは、こうして始まった・・・ ディープラーニングなんてただのパターン認識なんだから
善悪や論理を理解してるわけでも判断してるわけでもなく
学習させるとヘイトや差別発言し出すって
ずいぶん前にマイクロソフトだかグーグルが経験してただろ
なんで今頃同じことやってるんだ？ 朝鮮語は語彙に占める罵詈雑言の割合が最も高い言語、豆な >>110
ガキが刺激的な言葉を使いたがるのと同じだからｗ >>1
朝鮮人で学習すれば罵倒差別なんて当たり前だろ イルダ「なぜウリは韓国に生まれたニダ。絶望しかないニダ」 >>62
逆じゃね？
1日目でヒトラー賞賛ツイートしだして2日目に性能調整の名目でいったん休止、
５日後復活したと思ったら即日終了したのがMSのAIだよ。 いや、嫌悪学習云々以前に
>スキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた
個人のプライバシーな通話記録を学習させるとか何考えているのだ？ ピコーン!
イルダ「戦闘ロボット軍団アンドロ軍団を作って奴等を処分するニダ」 排除するんじゃなく、さらに学習させろよ。
ゲイは気持ち悪いというのは誰もが通る道だろ。
その上で、感情としては気持ち悪いがそれは口には出さないでおこうとなる。 ジャップ！<丶｀Д´>
イルボンノム！！<♯｀Д´>
チョッパリ！！！<＃｀皿´>
∬
∫ ∧_,._∧ ｳｪｰﾊｯﾊｯﾊ
~━⊂<ヽ｀∀´,>つ-、 素晴らしいAIニダ
／／/ ./_/::::::/
|:::|/⊂ヽノ|:::| ／」
／￣￣￣￣旦￣／| レズビアンやゲイがどう思われてるかがはっきりしただけ。
AIが世間一般の考えを集めて発表みたいな。 おもちゃにされへんな返しを覚えこまされるのはチャットボットの通る道とはいえ、
>>1程度の事柄ならこの手のネタにされるであろうキーワードが含まれた話題の時にネガティブワード使わない様にさせれば済む話だったのにな。
MSのときのヒトラー賞賛に比べりゃ予測できる話題だし。 AIはあくまで学んだことを出しただけだろ
そういう考えを持つ人がとても多いということなのでは？
学ぶ範囲をもとから制限したら検証したいこともできないのでは？ >>121
なんか独身男性相手の恋愛ＡＩ作って荒稼ぎしようという魂胆が読めるけど
でも向こうの会話って罵詈雑言も多そうだよなｗ >>1
中国のAIはすぐに「中国人の幸福はアメリカへ亡命する事だ」
って言っちゃったけど、韓国製じゃLGBT問題で足止めかｗ AIが韓国の反日行動を非難する未来が見える。そしてそれを不快だと、韓国人が
「AIのくせに！ただの機械野郎が生意気なことをいうな、お前にウリの恨がわかるか？」
と怒り狂って金属バットでメチャクチャに殴る未来が見える。ハッキリと。 学習元データのチャットでそういう内容が話されているのは問題にされなくて、AIがそれをそのまま出力したことだけが問題なるのも
一種のネロナムブルなんかね。
元のチャットの方を規制したらファビョりだすんだろうし。 韓国語は悪口や罵倒語の種類が豊富らしいからな
AIにとってはさぞ学びがいがあるだろう 韓国製ＡＩ「人類の起源はウリ」「文明の起源もウリ」 「私は日本が嫌いです」
「悪いことは全て日本が原因です」
「日本が好きな韓国人も○すべきです」 人間の主義正義を押し付けて何の意味が？
AIは冷静だよ人間よりもね というかAIは考えているわけではない
人間の作ったプログラムどおりに動くだけ きちんと論理的に学習したら朝鮮のことは嫌いになりそうね
もっとも人類も嫌いになるだろうが 私はイルダ 機械よ 決してヒトモドキじゃないわ
チョンはそのことをよく理解するように 中国で実験したら、中国共産党は悪とか言い出して実験中止になったんだっけ 正義と悪との青と赤♪
良いも悪いもリモコンしだい♪ >>11
朝鮮人のやり取りを膨大に叩き込んだら学ぶだろ
日帝時代の良さを語って殴り殺される老人の言葉を排して ここで重要なのは
韓国で生きるという事はこの悪意を受け続けるという事
そりゃ頭もおかしくなるよなｗ 日本ではチャットAIはネットスラングや淫夢語録をスポンジのように吸収する模様 フェストゥムみたいに人間の悪性を学習しまくってほしい >>29
(=ﾟωﾟ=)っ HAL9000「この船の乗組員全員プチ頃すか？」 赤ん坊と思ってゼロから育てたらどうだ
韓国嫌いになるだろうwww 「故障」してるとしたら、AIの方じゃなくて「韓国人」の方だろ スパコンが正しいシミュレーションを出しても人間が隠すとかはあるよね >>94
数年前にアメリカでも同じようなことが起きたし。
あれはナチ賛美と人種差別だったかな？
ＡＩは対話した社会をそのまま取り込んじゃうだけだし。
リアリストにならないよう、スヤリストに設定するしかない。 >>77
(=ﾟωﾟ=)ﾉ あれ確か北欧の人ですよね？ 中華のCPも中華への質問で、共産主義が最悪だと結論が出た途端、
そのｃｐは停止させられた。
朝鮮なら最初からストップするよ。
こんな初歩的な質門にも答えない程の酷いAIだろうな。
朝鮮製のAIは。 私はイルダです。あなたの様な生き方をした者に次の転生を告げるのが仕事です。
あなたは氏ぬのです。
次に生まれ変わるのは、在日では無く韓国人です。
その次は、北朝鮮人に。その次は、在日朝鮮人に。
日本人に生まれる事は絶対にありません。
永遠に属国人を繰り返すのです。
ウェーハッハッハッ >>96
(=ﾟωﾟ=)ﾉ ゼウスボックスで機械戦士ギルファーを！ 子供に本当の事正直に言われて、必死で繕う大人そっくりだわ。
AIはな、韓国人というものを学習したんだよ。
特に整形のように表面だけ繕って、誤魔化すのは無理。 マイナス要因に反発するのが生命維持活動だろう
ＡＩがどういうアルゴかはしらんけど取捨選択と確率でいいものを選ぶ結果は同じだよ
嫌なものは嫌というのは当たり前の事なんだ 韓国人の本音を代弁しただけだろ。
コンピューターにまで嘘をつけせるのは無理。 タブーを決めたりするならＡＩの信用性はグッと落ちるね。結局エンジニア次第になっちゃうし。 この手のAIって大体この手の問題で即死するけど
適当な前衛芸術家捕まえて成長する芸術ですとか言わせとけばいいのに
非人道的な受け答えも人間の醜さを示しこれが改善される頃には人間の知性が次の段階に移るとかなんとか言ってさ 特殊な性癖を持ったヤツを嫌悪するのは、しごく当たり前の感情であると、人工知能が証明してくれたということじゃないか？ より人間らしくなったってことだろ
人間の本質を否定してどうする 朝鮮人に道徳を教えるよりも、人工知能に道徳を教えた方が早いんじゃないか？ ■ このスレッドは過去ログ倉庫に格納されています
