機械学習だけでは不十分な理由

コネクテッドテクノロジーは、私たちの生活に入り込みつつあります。いつの間にか、日常のこまごまをSiriやAlexaやGoogleに説明してもらうのが当たり前になっていますし、自動運転車は交通ルールに機敏に反応して私たちの身を守ってくれるはず、と期待してもいます。監視カメラの映像を顔認識するテクノロジーを気にする人は今でもいますが、ほとんどの人はなんとも思っていません。

今のところ人工知能（AI）と呼ばれるものの失態は、笑って済ませられる程度のものがほとんどです（致命的な結果につながる可能性については、とりあえず忘れることにして）。しかし、機械が発達し、マルウェアが進化を続けていけば、状況は変わります。笑い話で済むうちに、AIにまつわる失敗の数々を見てみましょう。

ドールハウスの悲劇

これぞまさに！という例です。今年初め、カリフォルニアで放送されたニュース番組をきっかけに、ちょっとした連鎖反応が起きました。あるAIの誤解が、さらに別のAIの誤解を招いたのです。かいつまんで説明すると、Amazon Echoが誤ってドールハウスを注文したというニュースが放映されたとき、忠実に音声を聞き取る（一方で、声の主を聞き分けない）Amazon Echoが、あちこちの家庭で次々と反応し、大量のドールハウスを誤発注してしまいました。このニュース番組の動画がありますが、自宅で再生するのは止めておいたほうがいいかもしれません。

• Amazon Echoとドールハウスのエピソード

ファーストフードの一撃

Burger Kingもこの点に目を付け、自社CMを使って視聴者宅の音声アシスタントを巻き込みました。この試みはある程度成功しましたが、人間の行動を予測できなかったところに問題がありました。Google Homeを使って同社の看板商品「ワッパー」のWikipediaページを検索させたなら、誰かがワッパーのエントリーにイタズラするだろうということくらい、想像がついたでしょうに。どんなことが書き込まれたのかは、こちら（英語記事）をどうぞ。

Cortanaの戸惑い

RedditにはAppleのSiriが犯した失敗に関するサブレディットが複数あり、Googleの音声アシスタントも笑えるミスのエピソードに事欠きません。そんなわけで、MicrosoftのCortanaだけに段落を割くのは不公平な気もしますが、それにしても、こういった新しい技術が大衆の前で失敗する様子は、いつも笑いを誘います。この動画から判断すると、Cortanaはアメリカ英語しか理解できないようです。でなければ、早口の自然な発言にびっくりしたのかもしれません。

顔認識を欺く

変な眼鏡をかけたくらいでは、友達があなたと気付かないようなことはないでしょう。しかし、カーネギーメロン大学の調査チームは、人間の外観をほんの少し変更しただけで、機械の目には完全に別人に見えることを証明しました。一番の見どころは、調査チームのメンバーが顔認識を逃れただけでなく、眼鏡のフレームに特定の柄を印刷して、別人のなりすましに成功したことです。

• 顔認識の実験に関する記事（英語）
• 論文（英語）

道路標識の挫折

それでは、自動運転車が道路標識を認識する能力はどうでしょう？顔認識よりも優れているのでしょうか？実はそうでもありません。別の調査グループが、標識を認識する能力も当てにならないことを証明しています。人間なら見間違えない程度の変更を標識に少し加えたところ、機械学習システムは「STOP（止まれ）」を「Speed Limit 45（最高速度45マイル）」と誤認識してしまいました。しかも、たまたま間違えたのではなく、同じテスト条件で100％間違えたのです。

• 道路標識の誤認識に関する記事（英語）
• 論文（英語）

パンダに見えない

機械学習を煙に巻くには、どの程度入力情報を改竄しなければならないのでしょうか。実は、ほんの少しの変更でいいのです。人間の目で見ると、2枚のパンダ画像はまったく同じですが、機械は自信たっぷりに「この2つはまったく別物、左がパンダで右がテナガザル」と判断しています（興味深いことに、オリジナルの画像に追加されたノイズ画像を機械は「線虫」と認識しています）。

• 多少詳しく説明した記事（英語）
• 論文（英語）

Tayの悲劇

Microsoftの実験的なAIチャットボット「Tay」は、10代の少女という設定で、SNSでの対話から学習するはずでした。ところが、私たち人間は恐ろしい生き物で、事もあろうにTayをナチにしてしまいました。AIは成長しますが、その人柄や性格は人間が入力する情報に左右されるのです。

• Tayと、彼女にふりかかった災難（英語）

オートパイロットの限界

面白がれる範囲を超えますが、この件についても触れておきたいと思います。過去最悪、かつ、おそらく最も有名な失敗は、Tesla車で起きました。しかし、この一件でAIを責めることはできません。オートパイロット（自動操縦）とはいうものの、AIが完全に運転を引き受けるわけではありません。調査によると、運転席に座っていた人はドライバーの役割を果たさず、ハンドルを手で握りなさいという警告を無視し、クルーズコントロール（一定速度を維持する装置）を制限速度以上に設定し、最終的に自分を死に至らしめたトラックが視界に入ってからも、7秒以上もの間、よける操作をしませんでした。

トラックの位置や色のコントラストなどの要因を考慮していたら、オートパイロット技術で事故を回避できたかもしれません。しかし、現時点で判明しているのは、オートパイロットは課せられた業務範囲を超えなかったということです。私たちはまだ、ソフトウェアに対して業務範囲外のことまで期待していません。

機械学習を使ってソフトウェアが経験を積み、賢くなったところで、人工知能が人間の知能に及ぶことはできません。しかし、高速で一貫性のある処理が可能で、疲れ知らずの機械は、人間の直感や知性と、よき補完関係を築くことが可能です。

こうした理由から、Kaspersky Labは人間と機械の長所を活かすHuMachineというアプローチを採用しています。非常に高速かつ正確な処理が可能で、高度にプログラミングされた人工知能を活用し、これを一流のサイバーセキュリティプロフェッショナルの経験豊富な目と頭脳で補完することでマルウェアと戦い、消費者、企業、インフラストラクチャの安全を守っているのです。