システム運用にAIを導入！開発者インタビュー

NEW

2024.12.25

本記事のポイント

当社では、Amazon Web Services（AWS）やGoogle Cloud、Microsoft Azureをはじめとしたクラウドやオンプレミス環境のサーバーに、導入支援から監視運用、障害対応までワンストップで対応する「JIG-SAW OPS」を提供しています。

そんなJIG-SAW OPSでは、AIを活用してシステム運用業務を効率化しています。本日は、システム運用にAIを導入した実例を、開発者のインタビューを通してご紹介します！

自己紹介

小柳と申します。私はJIG-SAWの開発チームに所属し、Auto Sensing＆Auto Control（自動検知＆自動制御）をコンセプトにJIG-SAWが独自開発した自動運用プラットフォーム「puzzle」のシステムの開発・運用保守などを行っています。

また、本日ご紹介する「システム運用業務に利用できる、AI分析機能」の開発や、それ以外の新しいシステムの検討なども行っています。

どんなメンバーが働いていますか？

JIG-SAWの開発チームではサーバーの構築からソフトウェア開発まで行っており、多種多様なスキルを持ったメンバーが揃っています。必要に応じてクラウドサービスも活用できる知識があります。

システム運用で利用！「AI分析機能」誕生の経緯

今回、システム運用で利用できる「AI分析機能」というものを開発しました。

JIG-SAWではクラウドやオンプレミス環境のサーバーの監視運用、障害対応を行っています。サーバーの負荷が高まると、様々な処理に遅延が生じ最悪の場合システムが停止してしまう危険があるため、常に注意を払って運用する必要があります。

しかし、サーバーのリソースには、CPUやメモリ、ストレージなど種類が多くあり、そのすべての分析を人が行うには手間や時間が多くかかってしまいます。サーバーのリソース状況に問題があるかどうかを把握するのは、簡単ではありません。

そこで、サーバーのリソース状況をAIに分析させることで、スピーディーに専門家が行うような分析結果を得られるようにしました。必要に応じて、AI分析の結果を踏まえた更なる分析を専門家が行います。

「AI分析機能」でできること

今回開発したAI分析機能は、Webモニタで確認できる各リソースグラフに対して、AIを利用した分析を実行します。これにより、リソースグラフの状況に対する分析・洞察・提案が生成されます。

ここで生成された回答は、リソースの増強などを検討する判断材料にすることが可能です。

また、このAI分析機能ではJIG-SAWが開発した生成AIアプリケーション「Hallelujah（ハレルヤ）」を利用しています。一般のChatGPT は入力内容をサービスの改善に利用するために記録されることがありますが、Hallelujahは自社開発のため情報漏洩の心配がなく、安心して利用することができます。

「AI分析機能」の開発で苦労した点

AI分析機能を開発する際、大きく分けて3つの点に苦労しました。

1点目は、記録されているリソースデータを、AI分析で利用可能な形に整えることです。JIG-SAWが開発した自動運用プラットフォームpuzzleではリソースグラフを表示するためにリソースデータを記録しています。このデータにはAI分析で利用しない情報が含まれており、データの文字数が多すぎます。不要なデータを取り除いてからAI分析に用いることで、より高速により良い分析結果の生成が可能になりました。

2点目は、データを適切に分析させるためにAIに入力する、プロンプト（生成AIに与える指示や質問）の調整です。生成AIでイメージ通りの分析結果を生成するためには、適切なプロンプトを記述することが必要不可欠です。プロンプトの情報量が少なかったり具体性が乏しかったりすると思うような分析を行うことができません。AI分析機能の実装においては、データの特性を理解し、適切なプロンプトを設計することが特に難しく、試行錯誤を重ねる必要がありました。

3点目は、安全にAIを利用するための調整です。AIは使えば使うほどコストがかかるため、意図しない大量リクエストを防止するための仕組みを導入しています。また、自由なプロンプトの入力を許容してしまうと不正利用の可能性があるため、ボタンを押すだけで利用できる仕組みも導入しています。これらの仕組みの実現も苦労した点です。