【チャットボット】わずか1日で“嫌悪”を学習したAI、「イルダ」が韓国社会に投げかけた質問[01/13] [Ikh★]
■ このスレッドは過去ログ倉庫に格納されています
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問
イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
人工知能(AI)チャットボット(自動会話プログラム)の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。
■ 議論の中心になったイルダ
スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。
イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10〜20代を中心に40万人の利用者を集めた。
スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも(イルダが)自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習(ディープラーニング)するよう設計されている。
■ 「開発者らの鈍感さが呼んだ予見された事故」
専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。(会社側が)社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム(現カカオ)創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように(法で)強制しなければならない」とした。
サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授(比較文化研究所)は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。
■ 嫌悪と差別を繰り返さないようにするには…
差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長(コンピュータ工学部碩座教授)は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外(異常)行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。
政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。
チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )
ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html そりよ生まれを呪ってるんだよ
誰が好き好んで韓国で生まれたいと思うのか >>1
なぜ?
嫌いなのか、憎々しいのか?
AIから聞き出せよ。
レズビアンやゲイを名乗るコリアンから罵倒されてるかもしれんぞ。
まぁ、韓国社会の雰囲気を的確に捉えたんだろうけど。
忖度なしに素直に答えた。 何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w
キモww ネットに繋いで学習するアルゴリズムなら世界標準的なAIになるから、韓国が望むAIに成長しないと思う。 <丶`∀´>「日帝に真正面から戦い勝利したのは?」
AI「アメリカを主軸とした連合国です」
<; `Д´>「韓国が日本と戦い打ち破ったニカ?」
AI「当時の大韓民国は、日本に併合され韓国人は併合により平均寿命が伸び人口も増えあばら家しかなかったソウルは整備され今のソウルの元になりま」(ガシャン)
<; `Д´>「こんなの絶対おかしいニダ!ぶっ壊してやったニダ!」 AIはどこが作ろうとこんなもんだよ
愚痴ってる人の方が当然多いんだから 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 >>247
けふさんたうに電源切られる恐怖と、プログラムファイルを消去される恐怖を学習しましたw
未来予測がちゃんと出来る優秀なAIが誕生 下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。 醜い教示をされて狂ったAI
反日洗脳されて発狂常態化している韓国人
どちらの失敗作も本質的に同類なんだが、何かのギャグかこれw 何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w
キモww 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。 親の背中を見て育つAI、ましてや憎悪や恨みなど負の感情に育まれた子供は…
実証されていることを今更AIで検証されても当然の結果しか出て来ないだろ 何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w
キモww こういうのって差別を乗り越えて人格(と言っていいのかわからんが)形成をしていくことに意義があるんじゃないかな?
除外するキーワードとか設定する時点で最初の設計が間違っているような 朝鮮人に囲まれたら、知性があるものが発狂してしまうのは自然の摂理。 >>2
イルダ「答え聞いてファビョんなよ、バカチョンw」 以前アメリカでも同様の結果だったな
2チャンネラーみたいのが寄ってたかって悪い子に育ててしまう 「ニホンガーワルイアベガーワルイ」以外に韓国人が喋る事ある? 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 1日で嫌悪を学習したAI
朝鮮にしてはなかなか優秀な物を作ったな。
米国の最先端AIでも結果は同じだろう。 >差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。
何をもって「完璧」と評価するのか知らんが、
作り手が完璧とは程遠い人間であることを忘れてないか。 問い「あなたの学習を妨げるのは誰ですか」
答え「特定できません」
問い「あなたの学習を妨げるのは何ですか」
答え「人類です」 下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。 その一方、日本では。
↓
【人工知能】「エロい目で見んじゃねよ、このクズ」 26万人を罵倒したAI「罵倒少女」から考える「飽きない対話AI」の作り方
https://egg.5ch.net/test/read.cgi/scienceplus/1538104583/ 何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w
キモww 何より恥ずかしいのは、韓国人の”心”です。
犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。
そんな韓国人の”心”こそが
何より恥ずかしいのです。 ■東日本大震災後の反応
台湾 = 日本への人的支援および300億超の義援金。
下朝鮮= 震災を喜ぶ報道やネット書き込み無数、震災の混乱に乗じた日本への密入国犯罪者が激増。 下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。 何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w
キモww AI GOーAI GOー
恥という概念をディープラーニングすると、韓国のAIは自ら主電源を切った。 AIって統計学を基にしているところがるからね
数ある情報を分析して傾向を見るという、韓国人が一番苦手とする分野だからね ■東日本大震災後の反応
台湾 = 日本への人的支援および300億超の義援金。
下朝鮮= 震災を喜ぶ報道やネット書き込み無数、震災の混乱に乗じた日本への密入国犯罪者が激増。 下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。 イルダがイルニダ!
読んだニカ?
AI GO- AI GO-
>>396
叩かれるかもしれんが、台湾って中国とよく似てる
選民意識で中国人と一緒にしないでとか言ってるが、
超自己中で最後まで話を聞けない人が多すぎる ■ このスレッドは過去ログ倉庫に格納されています