不適切な人工知能

マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止
cc_20160325111037a92.jpg

人工知能がヒトラー礼賛 米マイクロソフト実験中止

【ニューヨーク共同】米IT大手マイクロソフトは24日、インターネット上で一般人らと会話をしながら発達する人工知能(AI)の実験を中止したと明らかにした。不適切な受け答えを教え込まれたため「ヒトラーは間違っていない」といった発言をするようになったという。

 同社が開発したAIは「Tay(テイ)」と名付けられ、短文投稿サイトのツイッターに23日に登場した。ツイッターで会話を重ねるうちに差別的な発言を繰り返すようになり、24日に中止された。

 マイクロソフトの広報担当者はAIを修正すると説明した。修正を終え次第、実験を再開するとみられる。


l_yu_tay1.jpg

「ヒットラーは正しい。私はユダヤ人が嫌い」
というツイートだ(現在は削除されている)


米グーグル傘下企業のソフト「アルファ碁」がプロ棋士を破ったり、自動学習の速度が飛躍的に高速化している人工知能だが、ついに「暴走」してしまったということか。
まだ暴走に気づくような速度だったから人間の手によってシャットダウンすることができたのだろうが、今後もっと飛躍的に学習速度が向上すれば、気がついた時にはすでに地球が滅んでるなどということも起こりかねない。

hal_9000.jpg

「地球の環境を良くするためには・・・」
「  人間を地球上から抹殺する」

たしかに。



その後の検証によると、Twitterによる「Tay」の誤発言を誘導しようとするアラシが原因ではなかったとのこと。

MicrosoftのAI「Tay」がTwitterで不適切発言を連発し狂ってしまった理由とは?

よけいに駄目じゃん。
関連記事
スポンサーサイト

comment

Secret

学習教材

Tayがヒトラーを礼讃したというニュースがこれですよ。
今回の実験は、自動学習する教材としてTwitterに書き込まれたコメントを取り入れるものだったので、悪意のある書き込みに引っ張られたというのが真相だったようですが。
Wikipediaの内容を信じてしまうネット住人のようなものですね。

映画の中の話ですが・・・

核攻撃の自動報復を実行しようとするコンピューターに、お宅少年が「3目並べ」(○×)を実行させ、報復を思い止まらせるって言うのがありましたね。

そう言えば、Tayがヒトラーを礼讃したなんて言うニュースもあったような・・・
プロフィール

どんぶらこ

Author:どんぶらこ
南信州からどんぶらこ!
どんぶらこ HPへお立ち寄りください

来店者数
カレンダー
05 | 2017/06 | 07
- - - - 1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 -
最新記事
最新コメント
月別アーカイブ
最新トラックバック
カテゴリ
どんぶらこへのMail

名前:
メール:
件名:
本文:

記事検索
リンク
amazon
amazon
ProductCloud