チャットボットの将来を考える

チャットボットの目的は、一部の大手IT企業に大きな利益をもたらすマーケティング調査であるとも言えます。もちろん、サイバー犯罪に利用される可能性も…

dangerous-chatbots-featured

話すよりもテキストでのやりとりを好む人は多いようだ。76%の人が、電話でちょっと話したり面と向かって話し合ったりするよりもLINEやメールなどで連絡をとる、と答えている。私たちは、運転中のメールが危険きわまりないと知りつつメッセージのやり取りをすることがある。クリスマスや新年の集まりで家族が食卓を囲むときでさえ、思い思いにスマートフォンで誰かとチャットするのも珍しいことではなくなった。

とにかく、諸々が過剰だ。話さねばならない相手、維持し続けねばならない人間関係…あまりにも多すぎて、いっそデジタル世界に引きこもった方が気楽に感じるかもしれない。どのように切り出し、どのように締めくくるべきかわからない現実世界での会話、気が乗らないのに自分の話をせざるを得ない状況、こんなことにエネルギーを消耗するよりも自分のペースで人付き合いをした方がいい!と。

さて、チャットが一般的となった今、私たちの世界がチャットボットだらけになっても驚くに値しない。実在する企業の代わりとしてチャットボットが作成されることもあれば、特化した機能を持つチャットボットもある。企業側からも、チャットボットに対して大きな需要がある。チャットボットは、手厚い待遇を必要とせず、感情もなく、プログラミングされたとおりの仕事をしてくれるスタッフだ。Telegramのボットプラットフォームで本格的なAPIが公開されると、チャットボットに対する熱狂は頂点に達した。多くの企業が、チャットボット作成に乗り出した。顧客サービス用ボット、サポート用ボット、トレーニング用ボット、情報発信ボット、ポルノ用ボットなど、あらゆる目的のボットが現れた。

問題は…生身の人間に加えて、そんなにたくさんのチャットボットが本当に必要か?ということだ。命なきものと接するときですら、私たちは感情移入する。愛車を男性や女性と見なしたり、iPhoneに名前をつけたり、例を挙げれば枚挙にいとまがない。

チャットボットに対しても、ボットの発する言葉に何らかの感情を投影し、(ある意味)ボットが生きているように感じ始め、本来ないはずの人格をボットに与えているように見える。こうした現象は、昨日今日で始まったのではない。現代のボットたちの母とも言える存在、AppleのSiriを思い出してほしい。

今後起きそうなことを考えてみよう。ボットが新たなトレンドであって、世界中の企業が1つ2つ、あるいはマーケティング活動ごとに1つずつで計100個のボットを開発する、という状況を仮定する。こうしたことは、実際に現在進行形だが。

そのエコシステムはどのようなものになるだろうか?膨大な連絡先リストを構成するのはボットがほとんどで、生身の人間は少数派。チャットボットが人間に話しかけ、絵文字、スタンプ、笑える猫の写真、リンクなどを送ってくるだろう。しかし、甘く見てはいけない。チャットボットは同時に話し相手のふるまいを学習し、買わせたいものをあらゆる手段を尽くして売り込んでくるだろう。

未来の技術を昔ながらの考え方で扱うと、こういう状況が生まれる。しかも、これは氷山の一角。そこにはサイバーセキュリティの問題が潜んでいる。ソーシャルエンジニアリングや犯罪を企む者にとって、チャットボットはまさに金脈だ。チャットボットは、人々のふるまいを分析して学習するからだ。

フィッシング詐欺、ランサムウェアを使った恐喝、認証情報や身元情報やクレジットカード情報の窃取…人々の行動パターンを利用して相手をだます機能を備えたツールが手に入ったなら、こうした犯罪のハードルは格段に下がる。基本的に話し相手が言って欲しいことをグッドタイミングで言ってくれるボットは、まず疑われることはないだろう。

以上は、初歩的なハッキングの話だ。最悪の手口は、まだ編み出されていない。なりすましはどうだろう?チャットボットは両側通行の道のようなものだ。チャットボットに話しかけているとき、ボットは素早く学習している。うまくいけば、話しかける能力に磨きがかかるだけでなく、話し相手のふるまいを真似て別の人との会話に活かせるようにもなる。ちなみにこれは、GoogleのメッセンジャーAlloでチャットボットがまさにやっていることでもある。

悪質なボットがあなたの認証情報にアクセスすることができ、あなたのチャットの癖を真似るコツを身につけたとしたら、モバイルバンキングのアカウントや企業向けチャットシステム(Slack、Lyncなど)に対してどんなことをするだろうか?SF小説にありそうな場面が、ぐっと現実味を帯びてくる。

ちょっと考えてみよう。こうしたことがチャットに必要だろうか?

個人的な見解は、断固として「ノー」だ。ボットはろくでもないとか、失敗するに決まっているとか、そういうことを言っているのではない。むしろ逆だ!とはいえ、有限たる人間の体と違ってテクノロジーに限界がないのであれば、数百ものボットなど不要なはずだ。1つのボットで事が足りる。サポートの提供も、利用者との会話も、会議の進行も、どんな仕事だってボット1つでこなせる。機械学習する秘書は大いに実現可能だし、科学的にも経済的にも驚くほどの可能性を秘めている。

ここでもう一度、「しかし」と言わねばならない。先に述べたサイバーセキュリティの問題より厄介かもしれない事実がある。現実を見れば、「グローバルボット」を作ってそのメリットを享受できるのは、世界中に5社しかない。具体的な名を挙げると、Apple、Google、Microsoft、Amazon、Facebookだ。

これらの企業はビッグデータ(「ビッグ」以上の膨大なデータ)を処理しており、このデータが最高水準のボットサービス作りに貢献している。これら企業のボットは、ペタバイト級の個人データにアクセスすることで、最も知的で適応能力や精度が高く、学習の速いボットとなるだろう。では、現在世の中に見られる数多のチャットボットは?私たちは、5大企業のためにこんにちの手法の改善に貢献する、単なるベータテスターなのだ。

残念ながら、ここまで見てきたとおり、チャットボットはチャットするだけの存在ではない。チャットはあくまでも機能であり、目的ではないのだ。その目的とは?大規模なマーケティング調査だ。ゆくゆくは、一握りのビジネスに大きな利益をもたらすことになる…その一角を、サイバー犯罪が占めることになるだろう。

ヒント

Windows Downdate攻撃から身を守る方法

Windows Downdateは、最新バージョンのOSを古いバージョンにロールバックさせ、脆弱性が残る状態を復活させ、攻撃者がシステムを容易に侵害できるような状態にする攻撃です。この攻撃のリスクを低減するにはどうしたらよいでしょうか?