TempestAI、金融機関向けAIエージェント基盤を提供開始。厳格なリスク管理に対応

発表内容のポイント

• 専門AIエージェントの連携により、顧客の状況に合わせた高度な個別提案を実現
• 入力から出力まで4つのレイヤーでAIの挙動を制御する金融専用ガードレールを搭載
• 既存のアプリや勘定系システムなどと安全に接続する「AI Harness」を提供

発表の背景

従来の金融アプリは残高確認や振込などの機能提供が中心でしたが、顧客からは個々のライフイベントや資産状況に寄り添った継続的な支援が求められています。しかし、金融領域でのAI活用には、誤回答や不適切な商品説明、個人情報の取り扱いといった特有のリスク管理が不可欠です。こうした課題を解決するため、同社は安全性と説明可能性を備えたAIエージェント基盤を開発しました。

何が発表されたのか

本基盤は、顧客の意図を理解する「親AIエージェント」が、家計管理や資産形成などの専門エージェントへ処理を振り分ける仕組みを採用しています。リスク管理面では、プロンプトインジェクションを防ぐ入力制御、参照範囲を制限するデータ制御、人間による承認フローを挟む実行制御、禁止表現をチェックする出力制御の4レイヤーでAIの挙動を厳格にコントロールします。これにより、金融機関が求める監査可能性を確保した運用が可能です。

製造業・生産管理への見方

製造業や生産管理の分野においても、生成AIやLLMの導入にあたって「誤情報の出力（ハルシネーション）」や「機密情報の漏洩」「指示系統の混乱」といったセキュリティリスクが大きな障壁となっています。本発表で示された、入力・データ・実行・出力の4つのレイヤーでAIの挙動を制御するガードレール技術や、既存の基幹システムと安全に連携する仕組みは、製造現場における図面データやノウハウのAI管理、生産指示の自動化などを安全に進めるためのDXモデルとして非常に参考になります。

現場で確認したいポイント

• 自社の生産管理システムや社内規定に適用できるAIガードレール技術の有無
• 既存の基幹システム（ERPやMESなど）とAIを安全に連携させるための接続仕様
• AIの誤動作を防ぐための「人間による確認・承認プロセス（HITL）」の設計方法

確認しておきたい点

本システムは金融機関やサービス提供会社向けに開発された基盤であり、製造業の生産現場や設計部門にそのまま導入できるパッケージソフトではない点に留意する必要があります。

関連リンク

• TempestAI株式会社 コーポレートサイト：発表企業の公式サイトです。
• TempestAI株式会社 PR TIMESページ：TempestAIのプレスリリース一覧です。

出典情報