【Google Cloud Next’24 Las Vegas セッションレポート】AIがセキュリティへのアプローチをどう変えるか
2024.05.27
Googleが主催する世界的なイベント「Google Cloud Next」が、2024年4月9日～4月11日にかけてアメリカのラスベガスにて開催されました。本ブログでは、 Google Cloud Next '24 in Las Vegas に実際に参加したエンジニアから、イベントの様子や基調講演の現地レポートをいち早くお届けします。
今回は、4/10(水) 13:45～14:30に開催されたセッション「How AI can transform your approach to security（SEC102）」をリポートします。
Google Cloud Next とは？
Google Cloud Next とは、Google Cloud のインスピレーション、イノベーション、教育の世界的な展示会です。
意思決定者、開発者、そしてアクセシブルでスケーラブル、かつ社会的責任のあるクラウドに情熱を燃やすすべての人々が一堂に会し、課題、ソリューション、10 倍のアイデア、ゲームを変えるテクノロジーを共有する場です。
Gemini とは？
Gemini とは、2023年12月にGoogle社によって開発されたマルチモーダル大規模言語モデル（＝文章や画像、音声等の様々なデータを一度に処理することが可能なAIモデル）です。
Google Cloudの既存サービスとの統合も進められており、今回のGoogle Cloud Next’24においては、最新モデルとなるGemini 1.5 Proのリリースが発表されました。
セッションレポート（Day1:Steph Hay, Bashar Abouseido, Anton Chuvakin）
今回は、4/10(水) 13:45～14:30に開催されたセッション「How AI can transform your approach to security（SEC102）」をリポートします。
公式サイト上のセッション紹介を日本語訳すると、以下のような内容になります。
“生成AIのセキュリティへの応用はまだ始まったばかりですが、Geminiを使用している企業では、すでに複雑なセキュリティインシデントの管理方法が改善されています。Google Cloudが提供する生成AIが、熟練したセキュリティ専門家が脅威を迅速に発見、調査、対応するのをどのように支援し、新人がスキルを高めて、より多くのことをより速く成し遂げるのをどのように支援するのかを学んでください。このセッションに参加して、新機能について学び、お客様の声を聞き、AIを使って一般的なセキュリティの課題に対処する方法について洞察してください。“
引用元：Google Cloud Next Las Vegas ’24公式サイト
登壇者
登壇者はこちらの方です。
| 会社名 | 登壇者 | 役職 |
|---|---|---|
| Charles Schwab | Bashar Abouseido | SVP&CISO |
| Google Cloud | Anton Chuvakin | Senior Staff Security Consultant |
| Google Cloud | Steph Hay | Director,UX,GoogleCloud Security |
AIとセキュリティに関するマクロトレンド
本題に入る前に、昨今のAIとセキュリティ上の脅威についての３つのトレンドが紹介されました。
1.AIに対する攻撃の増加
AIに対するサイバー攻撃が増加し、AIが悪用される可能性があります。解決策として、昨年秋、米国政府はサイバー犯罪、詐欺、乗っ取りと戦うようサイバーセキュリティの実務者に呼びかける大統領令（※）を発表しました。
（※米国バイデン政権2023年10月30日「安心、安全、信頼できる人工知能の開発と利用に関する大統領令」）
2.LLM（Large language Models：大規模言語モデル）だけでは必ずしも効率的ではない
特にセキュリティ分野における問題を解決するためには拡張機能や外部メモリ等の多岐にわたる専門知識を必要とし、生成AIだけではなく専用のシステム、エージェントなどの併用を行う必要があることが挙げられました。
3.生成AIの信頼性が確立されていない
生成AIが使用者の求める用途（今回においてはセキュリティ）に対し特化していない、または今後とも対応することがない場合もあることから、使用用途に対し適切なレスポンスが得られない可能性が挙げられました。
上記のトレンドに対する解決策として、このセッションでは２つの解決策が提示されました。
・AIのための安全なプラットフォームの提供
・Geminiを活用したセキュリティライフサイクルの半自律化
AIのための安全なプラットフォームの提供（スピーカー：Anton Chuvakin氏）
本項ではAIが進化するスピードに合わせセキュリティを進化させる必要性の説明とともに、AIの保護並びに責任あるAI（Responsible AI）開発のフレームワークとして、SAIF（セキュアAIフレームワーク）が紹介されました。
“SAIFは、ML を活用したアプリケーションにセキュリティとプライバシー対策を組み込むための、標準化された包括的なアプローチを構築するフレームワークです。“
SAIFは、従来のサイバー攻撃やAI特有の攻撃やリスク（※）からデータを保護するため、Google内でも実践されているフレームワークです。
※モデルの盗用、学習データのデータポイズニング、プロンプトインジェクションによる悪意のある入力の挿入、学習データ内の機密情報の抽出など。
また、同フレームワークについての以下の６つの原則が紹介されました。
・強固なセキュリティ基盤を AI エコシステムまで拡大する
・検出機能と対応機能を拡張し、組織の脅威対策に AI を取り込む
・防御を自動化し、既存および新規の脅威に対応する
・プラットフォーム レベルの管理を調整し、組織全体で一貫したセキュリティを確保する
・管理を適応させて緩和策を調整し、AIデプロイ用に高速なフィードバックループを作成する
・周囲のビジネス プロセスにおける AI システムのリスクをコンテキスト化する
引用元：Google セーフティセンター 公式サイト
Geminiを活用したセキュリティライフサイクルの半自律化（スピーカー：Steph Hay氏）
サイバーセキュリティ専門家の課題として、以下の３つを挙げました。
・脅威（セキュリティ上の脅威の増加、高度化）
・労力（煩雑で反復的な作業、問題解決のための量力）
・人材不足（セキュリティ人材の不足、高い離職率）
AIを含む技術の発達により巧妙化するセキュリティ上の脅威に対し、より早期に脅威を特定し、そのマイナス面での影響を軽減するためには生成AIの活用が効果的である旨が述べられました。
セキュリティ人材の多くの労力が効率の低い反復的な作業に割かれている現状から、今後生成AIを活用することにより、新規のセキュリティ人材の育成ならびに、人間がより重要かつ複雑な脅威に対し集中できるように支援することが期待されていると説明されました。
その一環としてこのセッションでは、LLMの得意とする大量のデータの収集と要約、自然言語による対話と提案を活かし、Geminiを活用しセキュリティライフサイクル全体にわたってセキュリティ担当者を支援することを目指していることについて述べられました。
最終的にはGeminiがほとんどのタスクを実行し、必要な時のみセキュリティ人材に委任する半自律化のシステムを構築することを目標としていると説明されました。
Charles Schwabにおけるユースケース（スピーカー：Bashar Abouseido氏）
GoogleパートナーであるCharles SchwabのCISOであるBashar Abouseido氏により、セキュリティにGoogle Security Operations（旧称： Google Chronicle Security Operations）と生成AIを活用したユースケースが紹介されました。
“Google Security Operations は、セキュリティ チームが現在および将来の脅威に対する防御を強化できるようにする、クラウドネイティブな最新の SecOps プラットフォームです。”
Google Security Operations公式サイトより引用
紹介されたユースケースとして、フィッシングメール対策、詐欺対策、インシデント対応の自動化などが挙げられましたが、この記事では、フィッシングメールの検知についてご紹介します。
かつては２名のフルタイムの人員を費やしていたフィッシングメールの検知を、予測AIと生成AIを活用し市場に出回るフィッシングメールの調査・分析を自動化することで、高い精度での検知を実現し、ユーザが該当のメールを確認する前にメールを削除する脅威ハンティングプロセスを実行していると説明されました。
本項では、最終目標として、半自立化から完全な自律化を意思決定とし、自己回復が可能なセキュリティプラットフォームの構築を目指していることが述べられました。
Geminiを使用したデモンストレーション
セッション内では実際に、Geminiを活用したマルウェアの検知が紹介されました。本記事では、デモンストレーションで使用されていたGoogle Cloudの各種サービスをご紹介します。
・Gemini in Security Command Center
Gemini for Google Cloudの一部として提供される、クラウドセキュリティとSecOpsを統合し、同じプラットフォームに融合させた機能です。セキュリティインシデントに対し、自然言語を使用した質問を元に検索用クエリを自動で生成する、攻撃経路の要約を提供しています。
・Gemini in Threat Intelligence
2022年にGoogle Cloudにより買収されたサイバーセキュリティ企業であるMandiantの蓄積された脅威インテリジェンスを活用し、セキュリティ上の脅威の検出や拡散防止を支援する機能として、攻撃者のインサイトやサマリーを受け取ることが可能です。
・Gemini Cloud Assist
今回のイベントにて公開されたGeminiを活用しGoogle Cloudサービスの設計、運用等の支援を行う機能ですが、本項では新機能として以下が使用されました。
“IAMの推奨事項: 過剰に許可されたユーザーまたはサービス アカウントからロールを削除するための簡潔で状況に応じた推奨事項を提供して、IAM の体制をレベルアップし、リスク エクスポージャーを軽減します。
鍵に関するインサイト: データ、暗号化設定、コンプライアンスのニーズの理解に基づいて、暗号鍵の作成時に支援を提供します。
Confidential Computing に関するインサイト: データとコンピューティングの使用状況に基づいて、最も機密性の高いワークロードに Confidential Computing の保護を追加するオプションを推奨します。”
引用元：Google Cloud ブログ「AI で防御を強化 – 運用の場所を問わず Google をセキュリティ チームの一員に」
デモンストレーションでは、同じくGoogleの提供するSec-PaLMと呼ばれるセキュリティに特化した大規模言語モデルを活用することで、LLMだけでは不十分であるとされたセキュリティ上の調査・分析を強化することができることが紹介されました。
将来的には、Geminiを活用することでセキュリティエージェントが自律的に動作し、人間による介入を不要としたセキュリティ上の脅威の検知、対応、自己回復を行うセキュリティライフサイクルの実装を目指しているとのことでした。
まとめ
今回はGoogle Cloud Next Las Vegas ’24で開催されたセッション「How AI can transform your approach to security」をご紹介しました。
今後ますますのAIの活用が広がっていく中、変化していくセキュリティ上の脅威にどのように対応していくかという点は大きな課題になっていました。
今回のセッションはより安全なAIデプロイ環境のフレームワークであるSAIFの紹介と今後の生成AIを活用したセキュリティ運用のビジョン、新しく実装されたGoogle Cloudのセキュリティ特化サービスの紹介と内容満載でした。
Geminiを活用したセキュリティ運用に関してはGoogle Cloudの以下のページも合わせて是非ご確認ください。
https://cloud.google.com/chronicle/docs/secops/gemini-chronicle?hl=ja
是非、ご検討してみてはいかがでしょうか。
