Citadel AIは、画像認識AI向けに自動耐性テストを行う「Citadel Lens（シタデル・レンズ）画像版」の提供を10月13日より開始する。

2021年4月にEUでAIの包括規制案が発表されるなど、AIの説明責任や公平性に対する懸念が世界的に高まっている。しかしさまざまなケースを想定し、データ画像を揃え、学習させテストするには、数週間から数カ月といった膨大な準備時間を要し、現実的に非常に困難。

今回の画像版の追加により、Citadel Lensは、数値や文字データに基づいて推論を行うAIから、画像診断・不良品検査・安全管理・事故査定といった画像データを活用したAIまで、ユーザーのAIシステムを改修することなく、幅広く汎用的に適用できるようになる。さまざまな視点から、AIの精度を簡単に分析・比較した上で、再学習すべき画像を炙り出すことが可能。さらに、「ラベル付け間違えの自動推測機能」や、最近話題になっている、AIの中に潜む「公平性テスト」「説明責任の可視化」も即時に実行。AIが不適切な学習をしていないか、確認することもできる。

それにより、AI開発時に要してきた膨大な検証作業時間を、従来比で95％以上削減の上、ビジネスやコンプライアンス・セキュリティに関わるリスクから防御。貴重なエンジニアリングリソースを問題発見作業から開放。AIを育て、品質改善を加速化する業務に集中して振り向けることにより、AIの持つポテンシャルを最大限引き出すことが可能となる。