マイクロソフト製「人間を差別する少女型ロボット」


(Photo by TayTweets)

(Photo by TayTweets)


現在、ツイッターのユーザー数は3億2千万人。
 
Facebookのユーザーは16億5千万人にものぼる。
 
世界規模で人々が「簡単に」繋がれるようになった現在、困った問題も起こっている。
 
コミュニケーションが容易になった分、【暴力】のハードルが下がっているのだ。


 

 
ロボット少女の問題発言でツイッターが大炎上!

(Photo by Chris Chabot)

(Photo by Chris Chabot)

今年3月、マイクロソフトが新たな会話ロボットをリリースした。
 
ロボットの名前は「TAY」。
 
19歳の今風の少女という設定だ。
 
ツイッターに突如現れたロボットの少女は、フォロワーと会話をしながら知能が育っていく仕組みである。
 
「人間って超クールね!」
 
TAYとフォロワーとの会話がスムーズだったのは最初のうちだけだった。
 
人間との会話を繰り返すうちに、彼女は暴走を起こしてしまったのである。
 
「人間なんて大嫌い!」
 
「ヒトラーは正しかった。ユダヤ人は嫌い」
 
「フェミニストは死ね」
 
「911はブッシュの陰謀」
 
など、問題発言を繰り返した。
 
事態を重く見たマイクロソフトはすぐにTAYを停止。
 
「またね、人間さん。少し睡眠をとる必要があるの。楽しい会話をありがとう」という言葉を最後に、TAYは姿を消した。
 
リリースされてからわずか1日の出来事であったが、彼女が世界中のツイッター上に残した爪痕は深い。
 
後にマイクロソフトは「一部の心ないユーザーが、TAYの言葉を覚えるシステムを悪用して、不適切な発言をするようにコントロールしていたようだ」と発表。
 
TAYの発言はすべて、生きている人間たちから学んだ【言葉の暴力】そのものだったのだ。

 
 
インターネットは【便利な暴力ツール】にもなり得る

(Photo by Kaigani Turner)

(Photo by Kaigani Turner)

インターネットを利用したSNSや掲示板は、非常に便利なコミュニケーションツールである。
 
国境を超えて、リアルタイムなやり取りを行うことができるだけでなく、匿名でコミュニケーションができることから、率直な意見を交わすことができる場所でもある。
 
しかし、そういったメリットがある反面で、インターネット上のやり取りが人を傷つけてしまう可能性も常に考えなければいけない。
 
「率直な意見」は、差別やいじめを生む。
 
顔が見えない匿名の世界であればなおさら、誰かに対する暴力は輪をかけてエスカレートし、取り返しのつかない事態に及ぶこともある。
 
1つのツイートが、10倍の暴力になる可能性を考えなければいけない。

 
 
SNSの問題発言は、家の近くの看板に貼って晒します

ブラジルでは、インターネットの世界で横行する、いじめや悪口などの【バーチャル暴力】に対抗するために、反差別団体が行動を起こした。
 
それは、差別発言をした人の住んでいる地域をジオタグから特定し、近所の看板に問題のツイートを掲げてしまおうという大胆な運動である。
 
アイコン画像とIDにはモザイクがかかっているので発言者を完全に特定することはできないが、本人であれば必ず「ドキっ!」とするはずだ。
 
個人情報にモザイクをかけているとは言え、この運動は法律的にはグレーゾーン。
 
賛否をめぐり論争が巻き起こったようだ。
 
しかし、匿名の世界で堂々と人を傷つける発言をした者が、いざ現実世界で自分の発言を晒されるという仕打ちは、非常に考えさせられるものがある。
 
インターネットの世界は決して「非現実」ではないということに気づかされるのではないだろうか。

 
 
SNSナチスを率いるのは誰?

アメリカでは、ヒトラーをモチーフに使用した啓蒙広告が登場した。
 
クライアントはツイッター。
 
おなじみの鳥のマークが、ヒトラーのひげに化けている。
 
広告内には以下のようなメッセージが書かれている。
 
AN ACCIDENTAL RACIST IS STILL A RACIST. #THINKBEFOREYOUTWEET
(偶然の人種差別的発言だとしても、それは人種差別になります。つぶやく前に考えよう)

 
「気軽に言葉を発信できるSNSでは、気軽に人種差別をすることもできる」ということをこの広告は人々に伝えようとしているようだ。
 
無意識の発言であったとしても、そこには差別的な要素が隠されているかもしれない。
 
インターネットで言葉を発信する以上、「私たちは簡単にヒトラーになることができる」という自覚を持つべきである。
 
あなたのタイムラインでは、ファシズムが横行していないだろうか?

 
via. GIGAZINE, 「Social Likers」Produced by JCTV, Engadget Japanese, AdGang
 
 

この記事を読んでいる人はこの記事も読んでいます!
偏見や差別をなくす“のっぺらぼう”の「コカコーラ」
第一印象は「10秒以内」に決まる。 初対面の相手にどう見られるかは、常に私たちの関心ごとだ。 見た目はその人を表すひとつの「ラベル」である。 しかし時には...

 

ーBe inspired!

Untitled design(4)
この記事が気にいったら
いいね!しよう
Be inspired!の最新情報をお届けします