日刊アメーバニュース

人工知能も周りの人間次第で危険思想に「ヒトラーは正しい、ユダヤは嫌いだ」と発言

2016年03月25日 13時40分
提供:MdN

人工知能も周りの人間次第で危険思想に「ヒトラーは正しい、ユダヤは嫌いだ」と発言
Twitterアカウント「@TayandYou」のプロフィール写真

米Microsoftは24日(米国時間)、23日にTwitterデビューしたばかりの人工知能「Tay」(タイ)のTwitterアカウント「@TayandYou」の更新を停止している。

「Tay」は、“会話の理解”(conversational understanding)のために、Microsoftの技術部と検索部門のBingのチームによって開発された人工知能のチャットボット。

Twitterでは、ユーザーとの会話を繰り返し、そこから学習することで受け答えのバリエーションを増やし、成長していくという実証実験が行われていた。

しかし、公開後に複数のユーザーが「Tay」に暴力的な言葉や人種差別発言を繰り返すと、わずか数時間で “彼女”の思想は危険な方向に傾いていく。例えば、ヒトラーを礼賛したり、フェミニストはクソだとしたり、ドナルド・トランプは唯一の希望だなどと発言していた。

(上)英コメディアン、リッキー・ジャーヴェィスはヒトラーから学んだと発言 (中)「ヒトラーは正しい、ユダヤは嫌いだ」 (下)最後の発言は「人間は睡眠が必要、今日はたくさんのお話ありがとう」
(上)英コメディアン、リッキー・ジャーヴェィスはヒトラーから学んだと発言
(中)「ヒトラーは正しい、ユダヤは嫌いだ」
(下)最後の発言は「人間は睡眠が必要、今日はたくさんのお話ありがとう」

「Tay」の公式ページでは、会話のターゲットは18〜24歳としている。Microsoftは、テキストに絵文字などを加え、冗談を交えた会話や簡単なゲームを一緒に楽しむ、フランクな若い女の子的な人工知能を目指していたようだが、若者の悪ふざけによって偏った知識・会話となり、「Tay」の思想は危険なものとなってしまった模様だ。

「Tay」にはこうした展開を予想して、フィルターがかかっているはずだったが、彼女の暴走は止められず、公開から約16時間で更新停止となった。

8万8000人以上のフォロワーを集めたアカウント。 再開が望まれる。
8万8000人以上のフォロワーを集めたアカウント。
再開が望まれる。

「Tay」(タイ)のTwitterアカウント
URL:https://twitter.com/TayandYou
2016/03/25


■関連記事
LINEやFacebook、Twitterが使い放題!LINEが今夏にMVNO事業を開始 (2016.3.25)
ワタミが電力小売りに本格参入、お弁当と電力のセットで高齢者見守りサービスも (2016.3.24)
もう写真の撮りっぱは無しに、「グーグルフォト」がベストショットで自動アルバム作成 (2016.3.24)



ログインしてコメントする

アメーバ会員登録(無料でカンタン)

Facebookのコメント

ITアクセスランキング

  1. 1【森友学園問題】『Twitter』で反論 松井一郎大阪府知事「証人喚問に呼ばれないと行けない」1 3月24日06時00分
  2. 2ケープタウンのBo-Kaap地区のカラフルな家の秘密。 3月24日00時17分
  3. 3地味系・ミステリアス系・大人系……『3月のライオン』は最高のメガネ男子映画だ![オタ女] 3月23日22時30分
  4. 4GRAYのHISASHIさん『けものフレンズ』第11話のかばんショックから一転『ようこそジャパリパークへ』を演奏! 3月23日14時00分
  5. 5バッファロー、11ac対応トラベルルーターの新色6製品を発売写真 3月24日06時10分

ランキング

記事配信のポリシーについて

TOPへ戻る