生成AIの入出力を監視する「Citadel Radar」提供開始、製造業DXの安全運用へ

発表内容のポイント

• 生成AIアプリの入出力をAPI経由でリアルタイムに評価し、リスクを検知・制御
• ガイドラインに沿った標準メトリクスに加え、自社ルールに応じたカスタム定義も可能
• 問題のある入出力を遮断する「Block」と、事後確認用に記録する「Flag」を選択可能

発表の背景

企業内で生成AIの活用が広がる中、エラー率や稼働状況といった従来のITシステム監視だけでは、生成AI特有のリスクに対応できないという課題がありました。ユーザーとのやり取りが業務上適切か、機密情報の漏洩や不適切な表現が含まれていないかを継続的に監視し、開発部門だけでなく事業部門やリスク管理部門などの非技術者も交えて状況を把握できる仕組みが求められていました。

何が発表されたのか

「Citadel Radar」は、生成AIアプリの入力ログと出力ログをAPI経由で受け取り、評価メトリクスに基づいて判定します。AIセーフティガイドライン等を参照した標準メトリクスのほか、自社の業務ルールや業界ガイドラインに合わせたカスタムメトリクスを自然文で定義できます。判定結果に応じて、リスクのある入出力を遮断する「Block」や、ユーザーに影響を与えず記録する「Flag」といった柔軟な制御が可能です。また、検知傾向を可視化する画面やアラート通知機能も備えています。

製造業・生産管理への見方

製造業の生産現場や設計・開発部門において、業務効率化や技術伝承のために生成AI搭載アプリケーションの導入が進んでいます。しかし、現場での誤用による機密情報の流出や、不正確な出力による作業ミスの誘発といったリスク管理が課題でした。本製品の導入により、現場独自の安全基準やコンプライアンス要件を監視ルールに反映させ、開発者以外の生産管理部門やコンプライアンス部門が共通の画面で利用状況を監視できるようになります。これにより、製造現場における生成AI運用の安全性が向上します。

現場で確認したいポイント

• 自社の生産管理や設計業務で想定される生成AIのリスク（機密情報漏洩など）を定義できるか
• 既存の生成AIアプリケーションとAPI経由でスムーズに連携・統合できるか
• 現場の非技術者（生産管理担当者など）が監視画面やアラートを運用できる体制があるか

確認しておきたい点

本製品の導入にあたっては、自社が利用している生成AIアプリケーションとの具体的な連携手順や、リアルタイム評価に伴う処理遅延（レイテンシー）への影響について、事前に提供企業へ確認する必要があります。

関連リンク

• 発表企業サイト：株式会社Citadel AIの公式ウェブサイトです。
• 関連ページ：Citadel AIの最新ニュースや製品情報が掲載されています。
• 発表企業のPR TIMESページ

出典情報