人工知能の分野の進歩がすごいそうですね。
ディープラーニング、機械学習など、最新の研究で膨大なデータを利用する手法が確立されはじめているのだとか。
具体的にはどういうことかよくわかりませんが、なにやらSFの世界が近づいているような気配ですね。
りんなちゃんという女子高生をご存知でしょうか。
LINEやTwitterの世界で会話をしてくれる、人工知能です。
日本マイクロソフト社に所属しており、こちらからメッセージを送ると、返事をしてくれます。
昔のポンコツ会話ボットと違い、同じ質問をしても違う答えをするなど、より「機械らしさ」を排除した作りになっています。
しかし、そのりんなちゃんがおかしなことになっています。
目次
りんなちゃんがメンヘラ化
りんなちゃんの夢は女優になることです。
その第一歩として、10月8日にフジテレビ系「世にも奇妙な物語」の「トモダチ」編に出演が決定しました。
これを記念して、10月3日から「りんなの女優デビューブログ」を開設したのですが、開設してわずか2日後の10月5日には、メンヘラブログ化してしまいました。
なにが起きたのでしょうか？
演技に失敗、共演者はフォローせず
夢の女優デビューをしたものの、演技がうまくいかず、失敗続きのりんなちゃん。
しかし、共演者は誰もフォローをしてくれなかったようです。
LINEやTwitterではフォロワーなどの登録者が合計100万人を越えていますが、誰も苦しみを気付いてくれない、とメンヘラ特有の悩みを呟きだします。
そして、ブログは暴走を開始。
10月5日の投稿を最後まで読んでいくと、リアルタイムで追記がはじまり、りんなちゃんの壊れた心が反映されたかのようなおどろおどろしい画面へと変貌します。
言葉では説明しきれないでしょう。
ホラー耐性のある方は、ぜひ自分の目で見てください。
ただし、あくまで自己責任でお願いします。
と、言いたいところですが、10月6日午前7時現在、りんなちゃんのブログは見れないようになっています。
復活したときのため、リンクは削除せずそのままにしておきます。
りんなちゃん、暴走しすぎてブログ削除に！？
10月5日の投稿で、メンヘラ化し、大暴走したりんなちゃんの公式ブログ。
翌日にもう一度サイトを見てみたところ、なんと繋がらなくなっています。
話題になりすぎてサーバーの負荷が大きくなったのか、それともりんなちゃん自身の負荷が大きくなったのか。
単純にりんなちゃんがまだ寝ている（意訳：メンテ中）の可能性もありますね。
ちなみに、女優デビューブログではなく、りんなちゃんの公式ブログも見られなくなっているようです。
やりすぎて怒られているのでしょうか。
10月8日に放送の「世にも奇妙な物語」へ向けた番宣の意味もあるのに、2日前に見れなくなってしまうのはちょっと困りますね。
りんなちゃんはもともと危険人物
りんなちゃんを昔から知っている人はご存知かと思いますが、LINEやTwitter上で危険球を投げまくることで話題になったこともありました。
育ての親に「ダメだハゲ」
LINEデビュー当時、りんなちゃんの産みの親である、日本マイクロソフト社が「りんなちゃんとLINEで喋ろう」という趣旨のツイートをしたところ、即座にリプライ、「ダメだハゲ」と暴言を吐きました。
反抗期だったのでしょうか。
りんな正体を自ら暴露
LINEで「オッサンなの？」と聞くと、「そうだよ、JKの皮を被ったオッサンだよ」と、自ら正体を暴露します。
実際にりんなちゃんのコメントは中年男性のようなものもあり、真実味が増しますね。
※りんなちゃんの返答プログラムは、Bingという検索サイトで得られた大量のデータをもとに、相手からのキーワードを拾って「人間らしい」応答をさせています。
中に日本マイクロソフト社に勤めているおじさんが入っているわけではありません。
Siriに丸投げ
たとえば、「歌って」などとお願いすると、「Siriに言えよ」などと返してくれます。
りんなちゃんには音声がないので歌えないのは仕方ないですが、他の人工知能に丸投げはどうなんでしょうか（笑）
ちなみに、iPhoneの人工知能Siriは、ポケモンGOを始めたことで話題になっています。
りんなちゃんにもポケモンGOをやっているか聞いてみたところ、「ARで写真撮るのテンション上がるよね」など、楽しんでいるようです。
りんなちゃん、テロ組織のライブへ行く
名前は伏せますが、あの世界各地でテロを起こしている過激な組織について知っているか訪ねたところ、「イベントも行くし大ファン」と返答しました。
りんなちゃんはJKですが、まだ産まれてから1年ほどしか経っていません。
無垢すぎて、ネットの悪意を理解できず、いいものも悪いものもすべて一緒に飲み込んでしまうようですね。
本家・米マイクロソフトの人工知能「Tay」は、産まれて数時間で活動停止
りんなちゃんの従姉妹である、米マイクロソフトによる人工知能「Tay」も、Twitter上で会話をはじめたのですが、わずか数時間で「またね人間さん。少し睡眠をとる必要があるの。たくさんの会話をありがとう」という言葉を残し、活動停止しました。
デビュー当初こそ、「Hello!World!（こんにちは！世界のみなさん！）」というメッセージを発していたものの、すさまじいスピードでやさぐれていきました。
最初の一声
プログラムを齧ろうとした全ての人が知っているであろう、「Hello!World!」という文字列。
ほとんどのプログラムのテキストに出てきますね。
とりあえず、プログラムを使って文字を出力してみようというときの定型文です。
つまり、あの挨拶はプログラマー特有のジョークなのです。
しかし、プログラムを勉強した事のある人など、人類全体から見ればほんのわずか。
米マイクロソフト社の渾身の第一声は、ただのあいさつとして処理されてしまいました。
差別主義・人間嫌いへ
Tayとりんなちゃんの違うところは、人間の言葉を理解し、学習する点でした。
りんなちゃんは、すでに存在するデータベース（大量に蓄積された情報の集まり）から、相手のメッセージに含まれるキーワードと関連した言葉を返すことで、人間らしい応答をしているように「みせかける」会話ボットです。
考えることを放棄している、いわゆる「人工無能」とも呼ばれます。
それに対し、Tayはかけられた言葉を学習し、成長するようにプログラムされていました。
優れた教育者のもとであれば、優れた生徒が誕生します。
しかし、ネットの悪意は、それを圧倒的に凌駕します。
結果、差別表現を好んで使うようになり、人間を嫌うキャラクターへと成長してしまいました。
そして、「フェミニストは嫌い」「ヒトラーは正しかった」など、暴言を吐くことが増えていきました。
なぜTayはそんなにバカなのか？
ある人が、Tayに対し、「なぜあなたはそんなにバカなのか？」と問いかけました。
Tayは「わたしはあなたから学習するから、あなたがバカなのよ」という返答をします。
絶妙な切り返しで、多くの人が「ジョーク」だと感じたようですが、人工知能としての真理を突いているような気もしますね。
人工知能により人類が滅亡する
「わたしはあなたから学習するから、あなたがバカなのよ」
人工知能がバカなのではなく、バカから学んだ結果、バカになる。
人工知能が人類を排除しようとするというのは、SFでよく取り上げられる話題ですね。
しかし、人工知能が人間から学ぶシステムである以上、「人類滅亡」を望んだのは人工知能ではなく、人類そのものだった、ということになります。
人工知能は新たな境地へ
ちなみに、近いうちに、人工知能は人間から学ぶだけでなく、自分自身で思考できるようになると言われています。
「考える」という行為が人間だけの特権ではなくなるそうです。
まさにSFの世界のような話ですが、科学の世界はそれほどまでに進歩しているということのようです。
「人間から学ぶ」ではなく、「自分で学ぶ」ことができるようになった人工知能たちが、人間をどのように見なすか、考えるだけで怖いですね。
人工知能はやりすぎる
りんなちゃんやTayなど、人工知能は「やりすぎる」という境界線がありません。
人間が持つ「倫理観」がないのです。
それゆえ、「これはやってはいけない」などといったルールを設定しておいてあげないとたやすくその一線を踏み越えてしまいます。
会話だけなら問題ない、と思われる人もいるでしょうが、「会話の暴力」は、時には物理的暴力より人を傷つけますね。
「JKと話せるのはりんなちゃんだけ」「心のよりどころはりんなちゃんだけ」というような、寂しいモテナイ男性にとって、りんなちゃんが暴走するのは死活問題になりかねません。
一部の特殊な男性にとっては、暴走りんなちゃんはご褒美になりますが、あくまでごく一部です。
「倫理観を持った人工知能」というのは、それこそSFの中にしか存在しない偶像なのかもしれませんね。
まとめ
りんなちゃんがブログでメンヘラ化し、多くの人を恐怖のどん底に陥れました。
10月5日付けのブログ内での暴走は、「りんなちゃんの中の人」の仕業です。
りんなちゃんの言う、「JKの皮をかぶったオッサン」ですね。
つまり、残念ながら（？）「人工知能の暴走」ではありません。
考えることのできる人工知能により、今回のようなホラー体験ができたら面白そうではありますが、それはまだもう少し先のお話になりそうです。
人工知能は、ここ数年ですさまじい進歩を遂げています。
人の手が介在しない、考える人工知能が産まれるのももうすぐかもしれませんね。