日刊アメーバニュース

人工知能も周りの人間次第で危険思想に「ヒトラーは正しい、ユダヤは嫌いだ」と発言

2016年03月25日 13時40分
提供:MdN

人工知能も周りの人間次第で危険思想に「ヒトラーは正しい、ユダヤは嫌いだ」と発言
Twitterアカウント「@TayandYou」のプロフィール写真

米Microsoftは24日(米国時間)、23日にTwitterデビューしたばかりの人工知能「Tay」(タイ)のTwitterアカウント「@TayandYou」の更新を停止している。

「Tay」は、“会話の理解”(conversational understanding)のために、Microsoftの技術部と検索部門のBingのチームによって開発された人工知能のチャットボット。

Twitterでは、ユーザーとの会話を繰り返し、そこから学習することで受け答えのバリエーションを増やし、成長していくという実証実験が行われていた。

しかし、公開後に複数のユーザーが「Tay」に暴力的な言葉や人種差別発言を繰り返すと、わずか数時間で “彼女”の思想は危険な方向に傾いていく。例えば、ヒトラーを礼賛したり、フェミニストはクソだとしたり、ドナルド・トランプは唯一の希望だなどと発言していた。

(上)英コメディアン、リッキー・ジャーヴェィスはヒトラーから学んだと発言 (中)「ヒトラーは正しい、ユダヤは嫌いだ」 (下)最後の発言は「人間は睡眠が必要、今日はたくさんのお話ありがとう」
(上)英コメディアン、リッキー・ジャーヴェィスはヒトラーから学んだと発言
(中)「ヒトラーは正しい、ユダヤは嫌いだ」
(下)最後の発言は「人間は睡眠が必要、今日はたくさんのお話ありがとう」

「Tay」の公式ページでは、会話のターゲットは18〜24歳としている。Microsoftは、テキストに絵文字などを加え、冗談を交えた会話や簡単なゲームを一緒に楽しむ、フランクな若い女の子的な人工知能を目指していたようだが、若者の悪ふざけによって偏った知識・会話となり、「Tay」の思想は危険なものとなってしまった模様だ。

「Tay」にはこうした展開を予想して、フィルターがかかっているはずだったが、彼女の暴走は止められず、公開から約16時間で更新停止となった。

8万8000人以上のフォロワーを集めたアカウント。 再開が望まれる。
8万8000人以上のフォロワーを集めたアカウント。
再開が望まれる。

「Tay」(タイ)のTwitterアカウント
URL:https://twitter.com/TayandYou
2016/03/25


■関連記事
LINEやFacebook、Twitterが使い放題!LINEが今夏にMVNO事業を開始 (2016.3.25)
ワタミが電力小売りに本格参入、お弁当と電力のセットで高齢者見守りサービスも (2016.3.24)
もう写真の撮りっぱは無しに、「グーグルフォト」がベストショットで自動アルバム作成 (2016.3.24)



※フィーチャーフォン向けサービスの停止とコメント機能廃止のお知らせ

ログインしてコメントする

アメーバ会員登録(無料でカンタン)

Facebookのコメント

ITアクセスランキング

  1. 1プリングルズの筒型容器がイギリスで「最悪の包装」に認定されてしまう1 5月20日19時00分
  2. 2「nVIDIA」でなく「NVIDIA」―「アスース」でなく「エイスース」、謎の企業名が話題に写真 5月22日18時00分
  3. 3BIGLOBE SIMの「エンタメフリー・オプション」がradiko.jpに対応写真 5月23日06時05分
  4. 4フォーカルポイント、「iFrogz coda wireless Bluetooth オンイヤーヘッドホン」を発売写真 5月23日09時00分
  5. 5いま70〜80年代の少女マンガが密かなブームに!? 代表作家のひとり、萩尾望都について専門家に聞いてみた 5月23日14時00分

ランキング

記事配信のポリシーについて

TOPへ戻る