株式会社Elithは、経済産業省および国立研究開発法人新エネルギー・産業技術総合開発機構（以下「NEDO」）が実施する、国内における生成AI開発力強化を目的としたプロジェクト「GENIAC（Generative AI Accelerator Challenge）」の第4期公募において、中部大学と共同で提案した研究テーマ「金融業務特化型AIガードレールモデル『FinGuard』の開発」が採択されたことをお知らせいたします。
GENIACは、日本国内における競争力ある生成AI基盤モデルの開発を支援する国家プロジェクトです。 日本発の生成AI技術の強化や、産業活用の加速を目的として推進されています。
金融AIに求められる“安全性”
近年、金融業界では生成AIの活用が急速に進む一方で、
- 個人情報（PII）の漏えい
- コンプライアンス違反
- 誤情報生成（ハルシネーション）
- プロンプトインジェクションなどの攻撃
といった、金融業界特有のリスクへの対応が課題となっています。
本事業では、中部大学と共同で、金融分野に特化した日本語AIガードレールモデル「FinGuard」の開発に取り組みます。
「FinGuard」の特徴
今回開発する「FinGuard」は、生成AIの入力・出力をリアルタイムで監視し、不適切な応答や機密情報漏えいを検知・遮断する金融業務特化型AIガードレールモデルです。
主な特徴は以下の通りです。
- 金融分野に特化した日本語AIガードレールモデル
- 個人情報（PII）漏えい検知
- コンプライアンス違反検知
- 金融ハルシネーション検知
- プロンプトインジェクション対策
- LLMやAIエージェントへの横断的な接続
特定サービス専用ではなく、金融機関が利用するさまざまなLLMやAIエージェントへ横断的に接続可能な“汎用安全レイヤー”としての活用を想定しています。 また、本事業では金融ドメイン特化安全性ベンチマーク「FinGuard-Bench」の構築・公開にも取り組みます。
今後の展開
本事業を通じて、金融教育機関、金融DX企業、ロボアドバイザー運営会社などとの実証も進め、金融分野における安全な生成AI活用の実現を目指します。
Elithは今後も、生成AIの社会実装において重要となるAIセーフティ領域の研究・開発を推進し、安全かつ実用的なAI活用を支える基盤技術の構築に取り組んでまいります。
採択結果公表ページ：https://www.nedo.go.jp/koubo/CD3_100421.html
※GENIACについて
GENIAC（Generative AI Accelerator Challenge）は、国内の生成AI開発力強化を目的として、経済産業省およびNEDOが実施するプロジェクトです。
主に、生成AIのコア技術である基盤モデル開発に対する計算資源の提供や、データ・AI利活用に向けた実証調査支援などを行っています。
今回の公募では、主に計算資源の提供支援を通じて競争力のある生成AI基盤モデルの開発を加速することを目的としており、2024年2月の事業開始から第四期目となります。
URL：https://www.meti.go.jp/policy/mono_info_service/geniac/index.html