2024年04月16日 12:39
SHIFT SECURITYは、ChatGPT等の生成AIを活用したシステム固有のセキュリティリスクを可視化する「生成AI活用システム診断」をリリースした。
近年、AI技術は目覚ましい進化を遂げ、中でも生成AIの代表的な技術の一つであるLLM（大規模言語モデル）は、膨大なテキストデータを学習することで、人間のような文章生成や質問への回答を実現する。しかし、生成AIを活用したWebサービスや業務システムの開発が進む一方で、LLMによる生成AIは、「自然言語（日本語や英語）で生成AIを操作する」「プログラムに比べて完全な制御が困難」「回答が学習データに依存する」など、従来のシステム開発と大きく異なる性質を持つ。このような性質から、生成AI固有の脆弱性をふまえたセキュリティ対策が必要だ。同社は、国際基準であるOWASP Top10 for LLMsに基づいた脆弱性診断を実施する「生成AI活用システム診断サービス」を提供し、安心・安全な生成AIシステムの実現を支援する。
「生成AI活用システム診断」は、OWASP Top10 for LLMsに基づき、生成AIを活用したWebサービスやシステムの脆弱性を診断。従来のWebアプリケーション診断では検出できない生成AI固有の脆弱性を検出し、セキュリティリスクを可視化する。同社の脆弱性診断は、ホワイトハッカーの技術を標準化・仕組化することで、属人性を排除し、高い生産性を実現した。これにより、バラつきのない高い診断品質かつ低価格で短納期な診断サービスを提供する。
