2017年3月8日

聞かれてますよ:音声アシスタントの危険性

テクノロジー プライバシー

「壁に耳あり障子に目あり」ということわざは、単なるたとえではなくなってきました。

「テレスクリーンは受信と送信を同時に行う。ウィンストンのたてる音は、非常に小さなひそひそ声でもない限り、拾い上げられる…もちろん、いつ何時自分が見られているか知ることはできない」。これは、ジョージ・オーウェルの小説『1984年』に登場する「ビッグブラザー」の監視装置を描写した部分です。

さて、テレスクリーンにアクセスできるのがビッグブラザーだけではないとしたら?必要なスキルを持っていれば、ほとんど誰でも傍受できるとしたら?それから、もし、スクリーンが政治的な宣伝だけでなく、個人向けにカスタマイズされた広告の表示にも使われるとしたら?たとえば、家族に頭痛がひどいとこぼした途端、画面に鎮痛剤のCMが表示されたとしたら?これはもはやディストピア小説の筋書きではありません。ほぼ現実です。もう少し先の話でしょうが、非常に近い将来、現実となる可能性は十分にあります。

私たちはすでに、新型テレスクリーンに囲まれています。音声アシスタントなどの新機能は、十分に新たな脅威となりうる能力を持っています。

Apple Siriのような仮想アシスタントは、スマートフォン、タブレット、ラップトップだけでなく、スマートスピーカーのAmazon EchoやGoogle Homeのような据え置き型デバイスにも組み込まれています。人々はこの機能を使って、音楽の再生と停止、天気予報の確認、室温の調整、オンラインショッピングなど、さまざまなことをしています。

このような常に集音可能なマイクが、害を及ぼす可能性はあるでしょうか?もちろん、あります。真っ先に頭に浮かぶのは、個人データや企業情報の漏洩です。しかし、サイバー犯罪者がもっと手っ取り早く金に換えられるものがもう1つあります。Webサイトのフォームに入力するとき、クレジットカード番号やワンタイムパスワードを声に出して読み上げていませんか?

スマートスピーカーは、周りが騒がしかったり、音楽が流れていたりしても、音声を聞き取ることができます。はっきり話さなくても、理解してくれます。私の経験から言うと、一般的なAndroidタブレットに搭載されているGoogleの音声アシスタントは、親の言葉よりも3歳児の言葉の方をきちんと理解することがあります。

ではここで、面白いけれど、ちょっと気に掛かる話をいくつかご紹介しましょう。どの話も、さまざまな音声アシスタントやスマートガジェットに関係しています。SF作家は人間と会話できる機械を長いこと思い描いてきましたが、それでも、現実にこのようなことが起こるとは夢にも思わなかったでしょう。

スピーカーの反乱

2017年1月、米国カリフォルニア州サンディエゴのCW6というテレビ局が、Amazon Echo(仮想アシスタント「Alexa」を搭載)の脆弱性に関する興味深いニュースを放送しました(英語記事)。

これは、同局がAlexaに関するニュースを取り上げたのが発端でした。Alexaは声で人を区別することができません。つまり、Alexaは周りにいる誰の命令にでも従います。そのせいで、子どもが思いがけない買い物をしてしまったことがニュースになりました。子どもが親におやつやオモチャをねだったところ、大きな缶入りのクッキーとドールハウスが発注されてしまったのです。

このニュースを紹介した司会者が「かわいかったですね、あの子が『Alexaが私のためにドールハウスを注文してくれた』と言ったの」とコメントしたところ、「音声アシスタントが勝手にドールハウスを購入した」という苦情がサンディエゴ中の視聴者から舞い込みました。Alexaはテレビから流れてきた司会者の声を命令と認識し、ただちに任務を遂行したのでした。

Amazonは、この「AIの反乱」の被害者は注文をキャンセル可能で、支払いも不要であることを約束しました。

証人喚問されるデバイス

さて、話は音声アシスタントにかぎりません。音声を認識できるデバイスは「聞いた」ことを再生できるため、警察当局に重宝がられています。それ以外の「スマート」機能を持つデバイスも…。ここでお話しするのは、2015年にアーカンソー州で起こった殺人事件です。

4人の男性がパーティを開きました。アメフトを観戦し、酒を飲み、風呂に入ってくつろぐ、よくある普通のパーティです。翌朝、客の1人が浴槽で死んでいるのを、その家の主人が発見しました。彼はたちまち第1容疑者です。他の客は、パーティから帰るときに何も変わったことはなかったと証言しました。

捜査官たちはこの家に数々のスマートデバイスがあることに気づきました。照明器具、ホームセキュリティ、気象観測装置、そしてAmazon Echo。警察はEchoを調べることにしました。殺人のあった夜の音声が録音されているかもしれないと期待したのです。しかし、伝えられるところでは、Amazonにデータの提供を依頼したところ断られたとのことです。

Amazonの開発者によると、Echoは常に録音しているわけではなく、利用者が起動のための言葉(既定では「Alexa(アレクサ)」)を言ったときだけ録音します。その後、音声コマンドは一定期間、Amazonのサーバーに保存されます。Amazonは、音声コマンドを保存している目的は、カスタマーサービス向上のためだけであり、利用者はアカウント設定(英語記事)からすべての録音を手動で削除できると主張しています。

そんなわけでAmazon Echoを喚問できなかった捜査官は、別のデバイスから証言を得ることにしました。証人として選ばれたのは、水道のスマートメーターです。被害者の死後、早朝だというのにとんでもない量の水が使われていました。家主はそのとき自分はすでに寝ていたと主張しましたが、捜査官は、血液を洗い流すために大量の水が使用されたのではないかと考えました。

ここで注目なのは、スマートメーターの表示が間違っていたらしいということです。真夜中に大量の水の使用が記録されていただけでなく、パーティ当日の水道使用量は1時間あたりせいぜい40リットルほどで、これでは浴槽をいっぱいにできません。告発された家主はStopSmartMeters.org(お察しのとおり、スマートメーターの反対派が作成したWebサイトです)の取材に対し、メーターの時間が正しく設定されていなかったのではないかと答えています。

本件は今年、裁判にかけられます。

映画に登場する仮想アシスタント
(ネタバレ注意!)
現代の大衆文化も、仮想アシスタントを疑いの目で見ています。たとえば、映画『パッセンジャー』では、ヒト型ロボットのバーテンダー、アーサーがオーロラの目の前で、同僚のジム・プレストンの秘密を暴露し、彼のイメージを傷つけます。
『Why Him?』では、主役のネッド・フレミングの通話を傍受した音声アシスタントのジャスティンが、ネッドの秘密を暴露します。

盗聴器にもなる自動車

Forbesも、所有者の意に反する形で使用された電子機器について、興味深い例をいくつか報じています(英語記事)。

2001年、FBIはネバダ州の裁判所の許可を得て、ある個人の車中の会話を傍受するため、ATX Technologiesに支援を要請しました。ATX Technologiesは、交通事故発生時に自動車の所有者が助けを求めることができる実用カーシステムを開発、管理する会社です。

ATX TechnologiesはFBIの要請に応じました。残念ながら、技術的な情報として公表されたのは、容疑者に対するサービスの質を「できるだけ阻害せずに」監視するようにとFBIが要求したことだけでした。自動車のマイクを遠隔操作でオンにし、緊急回線を通じて通信を傍受した可能性が高いと見られます。

2007年、ルイジアナ州でも似たようなことがありました。運転者か同乗者かは不明ですが、誰かが誤って緊急通報ボタンを押し、OnStar緊急サービスを呼び出してしまいました。オペレーターはこの呼び出しに応答しましたが、相手から返信がなかったので、警察に通報しました。その後、オペレーターがもう一度、通報者に連絡をしたところ、麻薬取引と思われる会話の一部が聞こえてきました。オペレーターはこの会話を警官に聞いてもらい、車の所在地を突き止めました。警察はその車を停め、車内からマリファナを発見しました。

ルイジアナ州の事件で運転者の弁護人は、警察側は令状を持っていなかったので証拠は無効だと訴えましたが、裁判所は、盗聴を始めたのは警察でなかったとしてこの主張を退けました。容疑者は事件の数か月前に車を中古で購入しており、おそらく緊急通報機能のことを知らなかったのでしょう。この事件の最終判決は有罪でした。

電波に乗らないようにするには

1月にラスベガスで行われたCES 2017には、車から冷蔵庫までさまざまなスマート製品が出品されましたが、ほとんどの製品に仮想アシスタントが搭載されていました。プライバシー、セキュリティ、物理的な安全性に関して新たなリスクが生まれることは確実です。

開発者は皆、利用者のセキュリティを最優先に考える必要があります。ごく普通の個人利用者が「壁に耳あり」状態から生活を守るには、以下が参考になると思います。

  1. Amazon EchoやGoogle Homeのスピーカーのマイクはオフにしましょう。本体にミュートボタンがあります。プライバシーを確保できるとはいえ、アシスタントを毎回無効にしなければならないので便利な方法ではありません。しかし、少なくとも効果はあります。
  2. Amazon Echoのアカウント設定(英語記事)で、音声コマンドによる購入を禁止するか、購入時にパスワードを要求するよう設定しましょう。
  3. PCやタブレット、スマートフォンのアンチウイルス機能を使って、データ漏洩のリスクを減らしましょう。
  4. もしも家族に「アレクサ」に似た名前の人がいる場合は、Amazon Echoを起動するときに呼びかける言葉(英語記事)を変更しましょう。変更しておかないと、Echoの近くで会話をしたために面倒なことになる可能性があります。

一方通行ではありません

さて、ラップトップのWebカメラはテープでふさぎ、スマートフォンは枕の下に隠し、Echoも捨てました。これでデジタル時代の盗聴に対する対策は万全…と思いきや、そうでもありません。イスラエルのベン・グリオン大学は、普通のイヤホンを盗聴器に改造できることを明らかにしています(英語資料)。

  1. イヤホンやパッシブスピーカー(電源を持たず、外部のアンプに接続して音を出すスピーカー)は、基本的に、マイクの入力と出力が逆になっているだけです。つまり、PCに接続されたイヤホンは、音声を検知することができます。
  2. オーディオチップセットの中には、ソフトウェアレベルでオーディオポートの機能を変更できるものがあります。これは隠し機能ではありません。マザーボードの仕様書に書いてあります。

このため、サイバー犯罪者は標的のイヤホンを盗聴器に変えて密かに音声を録音し、インターネット経由で自分のサーバーに送ることができます。実際、この方法で数メートル先の会話を、許容できる品質で録音できたという調査結果が出ています。イヤホンを身近に置きっぱなしの人をよく見かけませんか?首にかけたままだったり、近くのテーブルに置きっ放しにしていたり。

このような攻撃から身を守るには、イヤホンやパッシブスピーカーの代わりにアクティブスピーカーを使いましょう。アクティブスピーカーはジャックとスピーカーの間にアンプを内蔵しているので、信号が入力側へ戻ってくるのを阻止します。