なおカカオトークが韓国の若者のネットの会話100億件を学習させたらヘイト発言する差別主義者になった

↓

ところが当初の開発意図とは違い、
イ・ルダはだんだんと女性・有色人種・障害者・性的マイノリティー（性的少数者）らに向けたヘイトスピーチ（嫌悪発言）
を相次いで発していくようになっていきます。

例えば「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。
わたしは人間に見える人の方がいい」と答え、
「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答えるという具合です。

結局開発会社は今月11日に問題として指摘された部分について、
「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明をだし、
このサービスを閉鎖しました。
では20代の女性の設定になっている「イ・ルダ」が何でこんなヘイトスピーチをするようになってしまったのでしょう。

イ・ルダはモバイルアプリで収集された10－20代の恋人同士によるカカオトークのチャット約100億件を学習し、
これをもとにユーザーとチャットしていました。このチャットの中ににじみ出ていた韓国社会の偏見と固定観念をそのまま学習してしまったのです。

このような偏向性は開発段階で選別しなければなりませんでしたが、
開発会社はマイノリティーが何であるかについても人々とのチャットの中で学習することを期待し、
特定のキーワードを排除しなかったとしています。