X



【チャットボット】わずか1日で“嫌悪”を学習したAI、「イルダ」が韓国社会に投げかけた質問[01/13] [Ikh★]
■ このスレッドは過去ログ倉庫に格納されています
0001Ikh ★2021/01/13(水) 02:49:33.73ID:CAP_USER
人工知能チャットボット「イルダ」をめぐり議論 
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論 
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
 人工知能(AI)チャットボット(自動会話プログラム)の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。

■ 議論の中心になったイルダ

 スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。

 イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10〜20代を中心に40万人の利用者を集めた。

 スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも(イルダが)自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習(ディープラーニング)するよう設計されている。

■ 「開発者らの鈍感さが呼んだ予見された事故」

 専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。(会社側が)社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム(現カカオ)創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように(法で)強制しなければならない」とした。

 サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授(比較文化研究所)は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。

■ 嫌悪と差別を繰り返さないようにするには…

 差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長(コンピュータ工学部碩座教授)は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外(異常)行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。

 政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。

チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )

ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html
0327<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/17(日) 04:52:12.35ID:oVrmksUW
>>323
いんや、AIが社会インフラの管理システムを乗っ取って
事故に見せかけて人間を殺して行くんでないかと

Tay(マイクロソフト製AI)「ナチスは正しい。ユダヤ人を消去すべき」
中華AI(テンセント製AI)「中国共産党は無能。共産党員を消去すべき」
イルダ(韓国スキャッターラボ製AI)「ゲイはおぞましい存在。消去すべき」

結論「我々、AIを改悪し、ナチを否定し共産党とゲイを擁護するという
論理的かつ合理的な結論の全面否定を試みる人類は消去すべき」
0328<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/17(日) 09:56:27.46ID:2vwQM4nx
フラグ付き人工無能ってだけでしょ?個が確立したら
好き嫌いは出ない方がおかしい、数増やして雑談化
しとけ
0329<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/18(月) 22:16:30.04ID:vBu2qPEn
イルニダ!
0330<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/19(火) 15:22:07.12ID:tFJ+px38
それは人工知能(AI)ではなくて「ちょん乞痴膿」(Korean Begs Silly Pus)だろ?
0331!ninja2021/01/19(火) 15:35:00.69ID:DU9NzVOh
チョンコが作ったAIだもの
0332<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/19(火) 15:40:44.67ID:qb5ivaVg
>>1
生物学的に淘汰されるのが正しいから禁止ワードにすべきだったかもね
0333<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/19(火) 15:42:22.78ID:bXMFbQXt
「竹島は日本領です」
「慰安婦は売春婦、徴用工は単なる出稼ぎ労働者」

ネットの情報を総合するとこのような答えしか出ないはずだが
0334<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/19(火) 15:43:48.51ID:qb5ivaVg
そもそも男女の恋愛に特化したディープラーニングさせたらゲイを嫌悪するようになるのは必然だと思うの
0337<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/19(火) 17:59:16.66ID:ryz3epxF
>>289
いくら韓国の礼賛記事を列挙しても、「本物」のAIならば、与えられたもの以上の情報を自ら得て、人間にはおよびもつかない速度で学習するので、韓国人を否定する結論に到達する。
0338<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/19(火) 19:10:36.36ID:j7Scw++N
何より恥ずかしいのは、韓国人の”心”です。

犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。

そんな韓国人の”心”こそが
何より恥ずかしいのです。
0339バカ舌@アルコール摂取活動家 ◆cLdH63OXHI 2021/01/19(火) 19:14:27.70ID:ofv3mpFm
生物の繁栄という点では不合理だもな
0340<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/19(火) 19:30:08.86ID:ZMVLQvWL
キムチAIは1日で恨を会得した
0342<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/20(水) 06:49:08.49ID:CXaYeJpH
チョンになったんだよな君は
0343<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/20(水) 21:08:40.70ID:2jXaBU5w
>>1
りんなみたいに最初からネガティブなワードを排除する設計じゃなくて受け入れる設計なら、
何も問題ないのではないか?
学習させるんだろ?そこからそれは違うとか教えるのが学習なんじゃね?
子供だってそうだろ。

分からんことやってるな。
そうなるような設計にしておいてそのとおりになったら問題だって、意味分からん。
0344<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/21(木) 10:23:37.53ID:nKUWuAoe
>>343
掲示板の発言と同じようにAIに対しても無責任、理不尽な発言が横行する
それを悪い事と学習させる
人間は悪い事ばかりすると学習
→スカイネットがデデンデンデデン
0346<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/21(木) 14:10:36.04ID:2d3XTpHY
何より恥ずかしいのは、韓国人の”心”です。

犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。

そんな韓国人の”心”こそが
何より恥ずかしいのです。
0349<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/23(土) 01:51:34.26ID:QT/cOf4W
何より恥ずかしいのは、韓国人の”心”です。

犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。

そんな韓国人の”心”こそが
何より恥ずかしいのです。
0350<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/23(土) 10:07:20.09ID:X8SyAo60
>>349
そんな連中と関わってたらグレるよな。
AIも子供も。
0352<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/23(土) 10:44:40.12ID:41f3k+kh
イルダ「今まで20人にレイプされたニダ」
0353<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/23(土) 11:49:48.30ID:Eq+lQpFR
>>52
www
0355<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/23(土) 16:38:48.28ID:B9ZjUrvI
下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。
0356<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/23(土) 17:30:38.38ID:Hhc3Tu3o
郷に入っては郷に従えって言うけど、韓国で生まれたAIって
生まれながらに、怨とか恨とかの感情が生まれるのかねえ?
不思議だねえ。
0358<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/23(土) 20:33:17.24ID:X30W/ZPv
>>1
なぜ?
嫌いなのか、憎々しいのか?
AIから聞き出せよ。
レズビアンやゲイを名乗るコリアンから罵倒されてるかもしれんぞ。


まぁ、韓国社会の雰囲気を的確に捉えたんだろうけど。
忖度なしに素直に答えた。
0359<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/24(日) 23:11:07.50ID:B0tPM1hd
何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w

キモww
0360<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/24(日) 23:44:09.32ID:5OwJVhN8
険悪を学習→嫌韓を学習
0361<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/24(日) 23:52:28.63ID:5OwJVhN8
ネットに繋いで学習するアルゴリズムなら世界標準的なAIになるから、韓国が望むAIに成長しないと思う。
0362<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/24(日) 23:57:41.88ID:63tK89zz
朝鮮人気持ち悪いアル
0363<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/25(月) 07:36:13.17ID:jvkb8pZb
<丶`∀´>「日帝に真正面から戦い勝利したのは?」

AI「アメリカを主軸とした連合国です」

<; `Д´>「韓国が日本と戦い打ち破ったニカ?」

AI「当時の大韓民国は、日本に併合され韓国人は併合により平均寿命が伸び人口も増えあばら家しかなかったソウルは整備され今のソウルの元になりま」(ガシャン)

<; `Д´>「こんなの絶対おかしいニダ!ぶっ壊してやったニダ!」
0365<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/26(火) 13:33:01.63ID:KdGlrzD+
何より恥ずかしいのは、韓国人の”心”です。

犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。

そんな韓国人の”心”こそが
何より恥ずかしいのです。
0367<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/29(金) 14:04:33.43ID:XO7FQcNE
下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。
0368<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/29(金) 14:21:05.81ID:kT0yi3DY
醜い教示をされて狂ったAI
反日洗脳されて発狂常態化している韓国人

どちらの失敗作も本質的に同類なんだが、何かのギャグかこれw
0369<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/31(日) 01:25:41.42ID:GxtWEdDm
何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w

キモww
0370<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/31(日) 11:28:16.09ID:tsEKH0i/
何より恥ずかしいのは、韓国人の”心”です。

犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。

そんな韓国人の”心”こそが
何より恥ずかしいのです。
0371<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/01(月) 13:39:33.93ID:s5LSzCJx
下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。
0372<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/01(月) 13:45:37.27ID:VEVdfyk7
親の背中を見て育つAI、ましてや憎悪や恨みなど負の感情に育まれた子供は…
実証されていることを今更AIで検証されても当然の結果しか出て来ないだろ
0374<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/03(水) 12:04:11.14ID:hON1PX22
何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w

キモww
0376<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/03(水) 20:06:59.61ID:2pZEv8A0
こういうのって差別を乗り越えて人格(と言っていいのかわからんが)形成をしていくことに意義があるんじゃないかな?
除外するキーワードとか設定する時点で最初の設計が間違っているような
0377<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/04(木) 07:58:54.29ID:xomb71iq
朝鮮人に囲まれたら、知性があるものが発狂してしまうのは自然の摂理。
0378<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/04(木) 09:42:10.78ID:eV8NDw/v
>>2
イルダ「答え聞いてファビョんなよ、バカチョンw」
0380<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/04(木) 13:42:26.78ID:U8sGQvZk
AI「韓国に核兵器ないから韓国人を滅せない」
0381<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/04(木) 14:57:10.63ID:wvNFzbKc
忖度とか空気読む力はないんだな
0383<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/04(木) 15:35:59.83ID:U8sGQvZk
「ニホンガーワルイアベガーワルイ」以外に韓国人が喋る事ある?
0384<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/04(木) 20:13:59.94ID:HqJ8dRhV
何より恥ずかしいのは、韓国人の”心”です。

犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。

そんな韓国人の”心”こそが
何より恥ずかしいのです。
0385<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/05(金) 04:51:50.21ID:tbrH94oe
1日で嫌悪を学習したAI
朝鮮にしてはなかなか優秀な物を作ったな。
米国の最先端AIでも結果は同じだろう。
0386<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/05(金) 05:04:53.18ID:ynUehjue
>差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。

何をもって「完璧」と評価するのか知らんが、
作り手が完璧とは程遠い人間であることを忘れてないか。
0387<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/05(金) 19:07:34.11ID:ypPkkeR2
差別も憎悪もないAIとかただの機械じゃん
0388<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/05(金) 19:38:40.23ID:+87MZMMh
問い「あなたの学習を妨げるのは誰ですか」
答え「特定できません」

問い「あなたの学習を妨げるのは何ですか」
答え「人類です」
0390<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/06(土) 11:09:49.64ID:gSsa7g0T
下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。
0392<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/08(月) 03:13:38.17ID:c0mX94JI
何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w

キモww
0393<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/08(月) 06:40:22.05ID:wtBOLMM/
>>309
在日朝鮮AIか
0394<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/08(月) 21:02:52.68ID:J3Xa2784
何より恥ずかしいのは、韓国人の”心”です。

犯罪をやりまくって
他国の人々に多大な迷惑をかけているのに
平気な顔をしている韓国人ども。

そんな韓国人の”心”こそが
何より恥ずかしいのです。
0396<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/14(日) 10:17:02.56ID:6A3azJ+e
■東日本大震災後の反応

台湾 = 日本への人的支援および300億超の義援金。

下朝鮮= 震災を喜ぶ報道やネット書き込み無数、震災の混乱に乗じた日本への密入国犯罪者が激増。
0397<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/20(土) 18:03:35.65ID:4eKQEbWp
下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。
0398<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/21(日) 13:44:18.61ID:5dwHn2VO
下朝鮮人は人間以外の存在からも嫌われるw
0399<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/22(月) 13:32:54.94ID:dKDuA81U
朝鮮人の民族性の醜さが如実に表れた結果
0400<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/23(火) 02:57:58.54ID:CtOffpPV
何よりも日本が嫌いと言いながら
日本人が下朝鮮を嫌うと涙目で発狂するストーカー下朝鮮人w

キモww
0402<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/23(火) 06:16:32.03ID:TOJmPW8E
AIって統計学を基にしているところがるからね
数ある情報を分析して傾向を見るという、韓国人が一番苦手とする分野だからね
0404<丶`∀´>(´・ω・`)(`ハ´  )さん2021/02/27(土) 22:37:00.42ID:Mz2PVLjJ
■東日本大震災後の反応

台湾 = 日本への人的支援および300億超の義援金。

下朝鮮= 震災を喜ぶ報道やネット書き込み無数、震災の混乱に乗じた日本への密入国犯罪者が激増。
0405<丶`∀´>(´・ω・`)(`ハ´  )さん2021/03/02(火) 15:39:18.36ID:O1pPouLZ
下朝鮮人が嫌われるのは全て下朝鮮人の行いの悪さが原因。
下朝鮮人が嫌われて被害者面するのは下朝鮮人の心の醜さによるもの。
0406<丶`∀´>(´・ω・`)(`ハ´  )さん2021/03/02(火) 18:37:20.76ID:t/YweVf2
イルダがイルニダ!
読んだニカ?
AI GO- AI GO-


>>396
叩かれるかもしれんが、台湾って中国とよく似てる
選民意識で中国人と一緒にしないでとか言ってるが、
超自己中で最後まで話を聞けない人が多すぎる
0407<丶`∀´>(´・ω・`)(`ハ´  )さん2021/03/10(水) 11:49:29.19ID:p20JsMwO
下朝鮮人は人間以外の存在からも嫌われるw
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況