カスペルスキー AIテクノロジーリサーチセンター：概要と活動内容

当社は、ほぼ20年にわたり、人工知能（AI）、特に機械学習（ML）を製品やサービスに統合する分野において、業界をリードする存在であり続けてきました。サイバーセキュリティにこうした技術を適用するにあたっての当社の豊富な専門知識と経験、独自のデータセット、効率的な手法、高度な訓練用インフラが一体となって、複雑なMLの課題解決へのアプローチの基盤となっています。カスペルスキーAIテクノロジーリサーチセンターでは、データサイエンティスト、MLエンジニア、脅威のエキスパート、インフラのスペシャリストが協力し、AI/MLとサイバーセキュリティの接点に関わる最も困難な課題に取り組んでいます。これには、応用技術の開発だけでなく、ニューロモーフィックコンピューティング、AIによるリスク認識など、期待されるアプローチの使用を含むAIアルゴリズムのセキュリティに関する研究も含まれます。

当社の技術と製品

当社では、幅広いAI/MLベースの脅威検知技術を開発しており、主にマルウェアの特定に活用しています。これには、静的特徴に基づいて悪意のある実行可能ファイルを検知するディープニューラルネットワークアルゴリズム、ユーザーデバイスで動作する検知ルールの自動作成に有効な決定木機械学習技術、プログラムの実行中の悪意のあるふるまいを検知するニューラルネットワークなどが含まれます。また、ユーザーのデバイスにインストールされたソリューションやその他の情報源から収集した匿名のテレメトリに基づいて、悪意のあるオンラインリソースを特定するシステムも活用しています。詳細は、当社のホワイトペーパー「Machine Learning for Malware Detection」をご一読ください。その他のモデル、たとえば偽のWebサイトを検知する機械学習モデルや、スパムメールの疑いがあるメールを隔離するDeepQuarantineなどは、フィッシングやスパムの脅威からユーザーを保護します。KSNのクラウドインフラにより、個人ユーザーと大規模企業ユーザーの両方が、当社のAI開発の成果をほぼ瞬時に活用できるようになっています。

生成AI、特に大規模言語モデル（LLM）の可能性に引きつけられ、当社はその能力を探り、新しいソリューションを短期間でプロトタイプ化するためのインフラを構築しました。このインフラは、ChatGPTに似たLLMツールを導入しており、日常業務においてすべての部署の従業員が利用できるだけでなく、新しいソリューションの基盤としても機能します。たとえば、当社のKaspersky Threat Intelligence Portalには、LLMに基づく新しいOSINT機能がまもなく追加され、特定のIoCに対する脅威レポートの概要をいち早く提供できるようになる予定です。

ユーザーのインフラセキュリティを強化する目的で、当社は、主力の企業向け製品およびサービスに特化したAI技術の開発を積極的に進めています。数年前から、Kaspersky Managed Detection and Response (MDR)のAIアナリストは、誤検知を自動的にフィルタリングすることで、SOCチームの作業負荷の緩和に貢献し続けています。昨年だけでも、この技術によって10万件以上ものアラートが人為的な介入なしで解消されました。これにより、SOCのエキスパートは本来の脅威にいち早く対応し、複雑なケースの調査や予防的な脅威ハンティングにより多くの時間を確保できるようになります。当社の別のソリューションとして、AIベースのリスク測定があり、Kaspersky SIEM（Kaspersky Unified Monitoring and Analysis プラットフォーム）とKaspersky XDRで使用されています。このソリューションは、MLアルゴリズムを使用して、データを社外に転送することなく、疑わしいホストの挙動を探索します。

当社の開発におけるもう1つの重要な分野は、産業環境におけるAI/MLの活用です。この中には、Kaspersky MLAD（Machine Learning for Anomaly Detection：異常検知のための機械学習）も含まれています。これは、テレメトリ信号から、機器の故障、プロセスの中断、ヒューマンエラー、サイバー攻撃などの差し迫った（隠れた）初期兆候を自動的に検知する予測分析ソフトウェアソリューションです。MLADは、ニューラルネットワークを継続的にトレーニングすることで、対象物からの「極小な」イベントの流れを分析し、パターンに構造化して異常な動作を識別します。当社のプロジェクトのもう1つは、Kaspersky Neuromorphic Platform （KNP）です。これは、スパイキングニューラルネットワークと、ロシアに拠点を置くMotive Neuromorphic Technologies（Motive NT）が当社と共同開発した、エネルギー効率の高いニューロモーフィックプロセッサであるAltAIに基づくAIソリューションの研究プロジェクトおよびソフトウェアプラットフォームです。

AI技術の普及にはセキュリティ管理が必要であるため、当社ではAIセキュリティチームも立ち上げました。AIシステムの信頼性が高い保護と、データ、業務プロセス、AIインフラに対する脅威となり得る要素の阻止を目的とした幅広いサービスを提供しています。

当社のチーム

以前は、機械学習ベースの業務は、特定の脅威の検知に直接携わる部門が実施していました。しかし、業務量の増加や機械学習ベースの技術の重要性の高まりに伴い、AIベースのシステムに関する専門知識を、独立したKaspersky AI技術研究センターに集約することにしました。これにより、当社ではAIの活用を推進する3つの主要チームが結成されました。

1. 検知方法分析グループは、グローバル調査分析チーム（GReAT）および脅威研究センターと連携して、マルウェアを検知するMLアルゴリズムを開発しています。マルウェアを静的およびふるまいベースの両方で検知する同グループのAIシステムは、ユーザーのセキュリティに直接貢献しています。
2. 未来技術部門に属する技術研究チームは、有望なAI技術の研究、Kaspersky MLADおよびKNPの開発、Motive NT社との共同による次世代のAltAIニューロモーフィックプロセッサの開発、AIセキュリティに関するAISTサービスといった専門分野に特化しています。
3. MLTechチームは、機械学習モデルのトレーニング、コンテンツ脅威検知モデル（フィッシングやスパム）の作成や、LLMベースのAI技術を含むAI技術をMDR、Kaspersky SIEM（Unified Monitoring and Analysis platform）、Kaspersky XDRなどの先進的な企業向けサービスやソリューションに実装するための企業MLインフラの開発を担当しています。

これは、当社のAI専門知識を有するチームが上記のチームに限定されるという意味ではありません。AI分野は現在非常に複雑かつ多面的であるため、すべてのノウハウを少数の研究グループに集中させることは不可能です。他のチームもセンターの業務に多大な貢献を果たしており、多くの業務で機械学習を応用しています。具体的には、Antidroneチームではマシンビジョン技術、CoreTechおよびKasperskyOS部門ではAIコーディングアシスタントの研究、GReATではAPT検索、政府関係チームではAI関連の法規制研究などに活用しています。

当社の研究と特許

当社のAI技術の特徴は、これまでに世界中で取得した数十件の特許によって裏付けられています。何よりもまず、これらはプログラムのふるまいログに基づくマルウェア検知、テレメトリにおける悪意のあるサーバーの検知、偽のWebサイト、機械学習を活用したスパム検知などの検知技術に関する特許です。しかし、当社のポートフォリオは、はるかに幅広いタスクを網羅しています。たとえば、ML用のデータセットを改善する技術、異常検知、さらにはペアレンタルコントロールシステムで子どもの不審な連絡先を検索する技術まで、その範囲は多岐にわたります。そしてもちろん、当社は産業システム向けのAI技術や、イベントストリームを処理する独自のニューラルネットワークアプローチの特許を積極的に取得しています。

さらに、当社はAIに関する専門知識をコミュニティと積極的に共有しています。一部の研究、たとえば単調なMLアルゴリズムや、スパム検知へのニューラルネットワークの応用などは、主要なML学会で学術論文として発表されています。また、専門ポータルサイトや情報セキュリティカンファレンスで発表される研究もあります。たとえば、当社独自のAIアルゴリズムのセキュリティに関する研究、特にスパム検知やマルウェア検知アルゴリズムへの攻撃に関する研究を発表しています。当社は、時系列分析へのニューラルネットワークの応用を研究し、業界に関連する課題におけるニューロモーフィックネットワークの使用を検討しています。当社のKaspersky Neuromorphic Platform（KNP）は、MLコミュニティ全体での使用および開発が可能なオープンソースソフトウェアです。

「セキュアなAIの開発と応用」は、当社が最も重要視するテーマです。アルゴリズムを信頼し、その信頼性が高いという確信を持つ必要があるからです。その他のトピックとして、MLシステムへの攻撃をシミュレートするセキュリティチャレンジへの参加や、LLMなどの先進技術を使用したシステムログの中の脅威やフィッシングリンクの検知などが挙げられます。また、生成AIに対する脅威についても話題にします。たとえば、プライバシーの観点からの脅威、各種のLLMベースのシステムに対する攻撃、攻撃者によるAIの使用、SOCにおける当社の技術の応用などです。時には当社の門戸を開き、モデルのトレーニングのプロセスや、モデルの品質評価の複雑さについてお話し、当社の内部的な業務を明らかにすることもあります。

意識の向上

最後に、Kaspersky AI技術研究センターの最も重要な役割は、AI技術の長所と短所、そしてそれらがもたらす脅威について、顧客や一般の人々の意識を向上させることです。たとえば、当センターのエキスパートは、ディープフェイク動画の危険性を実演しています。当社は、AIの活用における細かい点について（たとえば、ChatGPTが開発者の採用プロセスにどのような影響を与えるか、ウェビナーや討論会などを通じて経験を共有しています。

FT技術研究チームは、ニューロモーフィック技術に関するカンファレンスを主催しています。このカンファレンスでは、 ニューロモーフィックアプローチに基づくシステムを含むAIセキュリティ問題に特化した別のプログラムも用意されています。当社は、パートナーであるロシア科学アカデミーのシステムプログラミング研究所（ISP RAS）と共同で、コンピュータービジョン、LLM、時系列の分野におけるニューラルネットワークに対する各種の攻撃経路と、それらを防御する方法について研究しています。当社とISP RASの産業パートナーシップの一環として、チームは信頼できるMLフレームワークのサンプルをテストしています。

また当社は、バウマン記念モスクワ国立工科大学のサイバーセキュリティにおけるAIの使用に関するモジュールを含む、教育コースの開発にも貢献しています。さらに、従業員のサイバー脅威に対する意識を向上させるソリューション「Kaspersky ASAP」において、AIの安全な使用に関するモジュールも提供しています。最後に、当社はAIを使用するための一連の国際基準の作成に貢献しています。2023年、当社はインターネットガバナンスフォーラムにおいて、サイバーセキュリティにおけるAIの倫理的な使用に関する最初の原則を発表しました。

まとめると、Kaspersky AI技術研究センターの主な業務は、AI技術の開発、サイバーセキュリティにおけるその安全な応用、不適切または悪意のあるAI利用に対する脅威の監視、およびトレンド予測です。これらのすべての業務は、ただ1つの目的のためにあります。当社の顧客に最高レベルのセキュリティを保証することです。