社会信用格付け：投稿内容に慎重になるべき理由

今では、SNSのない生活など想像できないほどになりました。ちょっとした会話でもSNSを使いますし、創作物を共有したり、最新のニュースについて議論したりもします。しかし、SNSを通じて垣間見える姿が、あなたという人の評価に使われる場合があります。例えば、銀行ローンの返済能力があるかどうか、特定の業務に向いているかどうか、…。

過去の行動や社交範囲などに基づいて個人の可能性を測ることを「Social Rating（社会信用格付け）」といいます。銀行がローンの審査に使用する信用格付けとある意味似ていますが、社会信用格付けの方がはるかに多くの情報が勘案されます。

多くの国々では、すでにさまざまな分野で社会信用格付けを使用しています。たとえば、在ニューヨークの保険会社は、SNSのデータを分析して保険料を決定することを正式に認められています（英語）。

中国は社会信用システムを開発しており、これをオーウェルの『1984』に例える人もいます。しかし、皆が皆このようなシステムを恐れているわけではありません。生活をより安全にしてくれる便利なものだと考える人もいます。人間は、そしてテクノロジーは、来るものを受け入れる準備ができているのでしょうか？

社会信用格付け：人々はどう考えているか

社会信用格付けに関する人々の考え方を知るため、当社では世界各地の1万人超を対象にアンケート調査を行いました（英語）。

社会信用格付けについて聞いたことがあると回答したのは回答者の半数弱（46%）、アジアでの方が認知度が高いという結果でした。例えば、信用格付けが全国規模で実施されている中国では、回答者の71%が社会信用格付けについて知っていましたが、オーストリアとドイツではわずか13%でした。また、社会信用格付けの算出方法がよく分からないとする回答者も、ほぼ半数（45%）に上りました。実生活で遭遇したことがあると答えた人は、5人に1人（21%）にとどまりました（ただし、融資や住宅ローンの審査に社会信用格付けが関係していることに単に気づいていない人々がいる可能性はあります）。

それにもかかわらず、社会信用格付けの根底にある考え方におおむね同意する人は多く、回答者の70%が、人々のふるまいを基準に公共資源（交通、教育、住宅など）の利用を制限することは公平で正しいことであるとしています。

多くの人は、もっともな理由があれば監視されても構わないと考えています。例えば、ほぼ半数にあたる回答者が、セキュリティを強化するためであれば政府によるSNSの監視を認めてもよいと答え、また、5人に2人は、割引などの特典と引き換えに個人情報を企業に渡すと回答しています。官民の組織が自分の個人情報に興味を示していることに不安を表明した回答者は、わずか20%でした。

社会信用格付け：テクノロジー

今回調査の対象となった人々の多くは社会信用格付けの考え方を支持していましたが、おそらく、公平で偏見のない評価が下されるものと信じているものと考えられます。ところが、残念ながら現在のテクノロジーでは、そうはならない可能性が高いのです。

まず、エラーの追跡が困難です。現在のシステムはニューラルネットワークをベースにしていますが、ニューラルネットワークの動作概念は開発者にとっても不明瞭で、ましてやオペレーターや一般大衆には分かりようがありません。誰かの評価を上げた（または下げた）とき、どのような情報に基づいて決定を下したのか、ニューラルネットワークは明らかにしてくれません。あなたには融資を受ける資格がないとコンピューターが言ったら、あなたは融資を受けられません。あなたが十分な収入のある良識のある人物であるとしてもです。

これは、臨床検査で言う「擬陽性」、コンピューターセキュリティの世界では「誤検知」と呼ばれるものです。患者の検体から誤って病気を特定したり、セキュリティソリューションがクリーンなファイルを感染していると判断することを指します。

私たちの業界であるアンチウイルス分野においては、誤検知のレベルは製品によってかなり違いがあり、平均以上の誤判断を下すものもあれば、ずっと少ないものもあります（気になる方のために—当社セキュリティソリューションにおける誤検知は最小限です）が、数の多寡はあれ、エラーを完全に排除するのは不可能です。しかし、事が人権や生命にまで影響する場合、このような誤りが非常に高くつくかもしれません。

不明瞭なアルゴリズムや不完全なデータがミスを引き起こすだけでなく、システムが意図的にハッキングされる可能性もあります。当社のエキスパートは、国全体で展開する社会信用格付けにおいて発生しうる攻撃を3種類挙げています（英語記事）。

1. データ収集デバイスに対する攻撃

ある人物を正確に評価するには、その人に関する大量の情報が必要です。格付けシステムはそのような情報をSNSから集めるだけではなく、電化製品に付いているカメラやセンサーといった、いわゆる「モノのインターネット（IoT）」からも入手します。このようなデバイスは脆弱であることが多く、繰り返し攻撃を受けます。当社では、IoTに対するハッキング攻撃を、2019年前半だけでも1億500万回検知しました（英語記事）。

2. ソフトウェア実装に対する攻撃

社会信用格付けを付すには、その人に関する情報を収集するだけでは十分ではありません。情報を処理し、解釈する必要があります。このプロセスを担うメカニズムも、同様に脆弱である可能性があります。マルウェア感染に対してもそうですし、標準からの逸脱についてもそうです。

例えば、何らかの犯罪を犯した人物がサングラスをかけていたとします。人間ならばその人を簡単に認識できるでしょうが、スマートカメラはこの人を別の人と取り違える可能性があります。そうなると、この人物がカメラの前で行ったことは、すべて誰か別の人がしたことになってしまいます。

3. システムロジックに対する攻撃

何度も繰り返すことで良くも悪くも評価を変えられる行為に攻撃者が気付き、利用することも考えられます。例えば、システムロジックの隙間を突くことで、自分の評価を上昇させたり、反対に誰かの評価を貶めたりすることができるかもしれません。

社会信用格付けの世界に備えるために

まとめると、社会信用格付けは、私たちが考える（望む）ほど公正不偏ではないかもしれません。それでもなお、社会信用格付けのシステムは一部の分野ですでに導入されており、今後さらに広まっていくでしょう。社会信用格付けの欠陥が自分の身に及ぶのを完全に阻止する方法はありませんが、リスクを最小限に抑える努力をすることに価値はあります。

• 自分自身に関する、不正利用される可能性のある情報をSNSに投稿する場合は、もう一度（といわず、二度、三度）よく考える。例えば、ぼんやりと自分が写っている写真などです。情報によっては、公開しない方がよいものもあります。少なくとも、不特定多数の人が見られるような設定で投稿するのは避けてください。
• サイバー犯罪者にアカウントをハッキングされて個人情報を取られることのないように、アカウントを保護する。強力で他にはないパスワードを作成し、2段階認証を有効にしましょう。また、不審なサイトにはログイン情報を入力しないでください。

オンラインでの情報収集から、自分のプライバシーを守る。プライバシーを確保するための方法については、こちらの記事をご覧ください。