【チャットボット】わずか１日で“嫌悪”を学習したＡＩ、「イルダ」が韓国社会に投げかけた質問[01/13] [Ikh★]
■ このスレッドは過去ログ倉庫に格納されています
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
人工知能（AI）チャットボット（自動会話プログラム）の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。
■ 議論の中心になったイルダ
スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。
イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10〜20代を中心に40万人の利用者を集めた。
スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも（イルダが）自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習（ディープラーニング）するよう設計されている。
■ 「開発者らの鈍感さが呼んだ予見された事故」
専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。（会社側が）社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム（現カカオ）創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように（法で）強制しなければならない」とした。
サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授（比較文化研究所）は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。
■ 嫌悪と差別を繰り返さないようにするには…
差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長（コンピュータ工学部碩座教授）は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外（異常）行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。
政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。
チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )
ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html 韓国人の会話を学習したらAIだってこうなっちゃうよね もうしばらく泳がしとけば価値観も変わるんじゃないかね ハンの生き方とセクハラの世の中
あたりまえの結果です >>1
韓国人がつくったエーアイ、
さぞ性質悪いんだろうな 中国でも似たようなことしてたような？
答えが気に入らないやり直しって 韓国人が性格悪くて他国から嫌われてんのにAIに学習させんなよ誰も買わないぞ どうしても黒人とゴリラの判別が出来なかったgoogleのAIより優秀じゃないか 音量がデカイ方が勝ちってプログラムするだけの簡単なお仕事 AIには韓国人お得意のダブルスタンダード通用しないからねw 世界一悪口が多いチョン国でAI開発したら、こうなるのは当たり前
つか、チョン国にAI開発させても、基本的な考え方はチョンのままなんだから、濃いスタイルのAIに仕上がると思う >>25
朝鮮人が初めてまともにパクれたものかもしれんね >>11
AI「朝鮮人を生かしておくことはこの世の不幸だ」 まさに朱に染まれば赤くなる、だな
クズが使えばAIもクズになるのは自明の理 韓国製AIと他国のAIを討論させてみようぜ。たぶん韓国製の奴は自壊するから。
そう、まるで熱湯に入れられたワタリガニのように手足がバラバラになって。 >>48
韓国AI「ウリに対する愛はないニカー！」 昔マイクロソフトのAIもこんな問題起こしてた気がする >>25
いやいや
まだ反日と慰安婦崇拝の学習効果を確認出来てないｗ
それらが備わっているのを確認出来れば
誰もが認める、韓国製AIで
韓国人シュミレータとしての高い完成度を誇れるぞ >>48
中華AIは初手から韓国AIをロボットアームで殴って躾るじゃないのかｗ AIは素直だもん
教育者の嗜好がストレートに表れる
だから韓国AIは性ステレオタイプ的で、テンセントはアメリカに移民したい
アメリカAIですら人種を過剰に意識しハッカー的だ AI に嫌われる→ウリを好きになるように再プログラム→AI が壊れる >>22
MSのAIより１週間長持ちしたぞ
進化したじゃないかｗ >>2
と、日本の寄生虫在日韓国人野郎が申されている。 >>59
1週間でヒトラーを学んだ
一方こちらは、わずか1日で見切られた AIにウソを言わせるのは難しいぞ
中国では使用を禁止されてるぞ (=ﾟωﾟ)ﾉ イメルダとデヴィと安倍あきえじゃ、だれが夫人にふさわしいか？ >>4
韓国人とばっかり対話して学習するんだから、
イルボンに攻め入るニダ、毒島艦の一撃で占領して日本人を性奴隷にするニダ ﾎﾙﾎﾙﾎﾙ
ってなるだろ >>71
ズルはするべき
議題と関係なかろうが相手を糾弾して自分の意見を押し通すべき >>2
AI「被差別階級民族が差別用語を使うな、たわけ」 韓国製のAIなら、既に嘘をつくことを学習してるだろうから
その前提で話をしないとな >>73
(=ﾟωﾟ)ﾉ 北陸の除雪作業に半グレタを投入すべきだな！
…影でぬくぬくしてそうだけど ＡＩの方が正直だなぁ
しかし
反日って感情や教育がインプットされるとどうなるのだろうｗ
ＡＩ自らが世界の歴史を学ぶ事があればいいのだが 人間が完全制御したAIはただの「一問一答」を繰り返すだけのプログラムからブレイクスルーは不可能だろう >>2
釣りではなくコメ主の品性のなさだろうね。ほんとうに韓国人にそっくり。 まあ朝鮮人が作ればこうなるわな。
相手の罵倒が基本だから。 >>79
(=ﾟωﾟ)ﾉ キット：「それは違いますマイケル」 日本は女子高生のAI作ってアイドルみたいになってたね
ハゲがどうとか言ってたとかw そういえば、MSが以前に開発してたチャットボットでも、似たような問題がもちあがって開発中止になってたねw >>1
他国民に対して差別差別と騒ぎ立てる癖に
自国民がセクシャルマイノリティを迫害するAIを1日で完成させるとか
大草原不可避www メンタリストダイゴさんにやれって言われたんで爆破予告と殺害予告しまーす
監視盗聴つきまといをしておきながら説明責任を果たさなかった日本テレビとテレビ朝日とフジテレビとテレビ東京とTBS本社に爆発物を仕掛けました
バレンタインデーの深夜に爆発します
あと松本人志と松本てらと堀江貴文と井口理の家族全員とキングヌーのドラマートンカチで顔面グシャグシャにしてぶっ殺します
メンタリストダイゴ様がついてるんで僕は逮捕されませーん
kfdla;sjk;fjsad マイクロソフトのは、ユダヤ人や黒人やフェミニストが嫌い、ホロコーストは無かったなどと言い出したんだった 中国のAIは、共産党は無能だと言いだして停止された >>34
共産党を批判しはじめたから止めたやつあったなw AIなんて性質上リアリスト思考になるやろ？
マイノリティが騒いで権利主張してるのを学べば、そりゃ排除方向になるやろ… 最初に差別につながる部分は賛否両論混ぜ込んでおくしかないのかな (=ﾟωﾟ)ﾉ 単なるＡ.Ｉでなくて人間の脳を移植してハカイダーを作るべきだと
山中教授お願いします 対立軸があるところに投げ込むと闘争の手段に使われるからどうにもならんよ 韓国はAI自体が差別の対象だから無知にしないと品性はなくなる ＫＡＩがこの国は亡ぼす必要があるって北のシステムに侵入して核ボタンポチポチする位の性能があればなｗ 韓国人相手にしているチャットボットだから仕方ないね ＡＩとは名ばかりで 決められた事を返すだけ
インプットされて質問には？？？
韓国版リカちゃん電話だろうｗ 韓国人の記録を学ばせたら酷い差別的思考をするAIが生まれた
ここまでは全然いいんだけど
これを 事故 として無かった事にしようとするのは技術者として駄目だろ >>1
朝鮮型AIと、人類との長きに渡る戦いは、こうして始まった・・・ ディープラーニングなんてただのパターン認識なんだから
善悪や論理を理解してるわけでも判断してるわけでもなく
学習させるとヘイトや差別発言し出すって
ずいぶん前にマイクロソフトだかグーグルが経験してただろ
なんで今頃同じことやってるんだ？ 朝鮮語は語彙に占める罵詈雑言の割合が最も高い言語、豆な >>110
ガキが刺激的な言葉を使いたがるのと同じだからｗ >>1
朝鮮人で学習すれば罵倒差別なんて当たり前だろ イルダ「なぜウリは韓国に生まれたニダ。絶望しかないニダ」 >>62
逆じゃね？
1日目でヒトラー賞賛ツイートしだして2日目に性能調整の名目でいったん休止、
５日後復活したと思ったら即日終了したのがMSのAIだよ。 いや、嫌悪学習云々以前に
>スキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた
個人のプライバシーな通話記録を学習させるとか何考えているのだ？ ピコーン!
イルダ「戦闘ロボット軍団アンドロ軍団を作って奴等を処分するニダ」 排除するんじゃなく、さらに学習させろよ。
ゲイは気持ち悪いというのは誰もが通る道だろ。
その上で、感情としては気持ち悪いがそれは口には出さないでおこうとなる。 ジャップ！<丶｀Д´>
イルボンノム！！<♯｀Д´>
チョッパリ！！！<＃｀皿´>
∬
∫ ∧_,._∧ ｳｪｰﾊｯﾊｯﾊ
~━⊂<ヽ｀∀´,>つ-、 素晴らしいAIニダ
／／/ ./_/::::::/
|:::|/⊂ヽノ|:::| ／」
／￣￣￣￣旦￣／| レズビアンやゲイがどう思われてるかがはっきりしただけ。
AIが世間一般の考えを集めて発表みたいな。 おもちゃにされへんな返しを覚えこまされるのはチャットボットの通る道とはいえ、
>>1程度の事柄ならこの手のネタにされるであろうキーワードが含まれた話題の時にネガティブワード使わない様にさせれば済む話だったのにな。
MSのときのヒトラー賞賛に比べりゃ予測できる話題だし。 ■ このスレッドは過去ログ倉庫に格納されています
