Aladdin Security株式会社は、AI（人工知能）の中でも特に「言語モデル」と呼ばれる種類のAIの安全と品質を評価し、保証するための新しいツールを正式にリリースしました。このツールは、従来のやり方では見えなかったAIの「中身」を詳しく分析することで、AIがどのようにして答えを出したのかを明らかにします。
従来のAI評価の課題
最近、たくさんの企業がAIをビジネスで使うようになっています。しかし、AIがどれくらい正確な答えを出すのか、また、AIの中に隠れている「偏り（バイアス）」や「弱点（脆弱性）」がないかを確認することは、とても難しい課題でした。
これまでのAIの評価方法の多くは、「ブラックボックス型」と呼ばれ、AIに質問（入力）をして、その答え（出力）だけを見て判断するものでした。この方法だと、特定の状況でしか現れないような危険な問題を見逃してしまうことがありました。特に、金融や医療、公共サービスなど、高い信頼性が求められる分野では、AIの導入がなかなか進まない原因となっていました。
Aladdin Securityは、このような課題を解決するため、AIの中身を直接分析する技術を開発しました。この技術は、AIを新しく学習させ直す必要がなく、AIが答えを出す際に内部で何が起きているかを解析することで、安全性や品質を評価・保証します。
新ツールの主な特徴
AIの「中身」を詳しく分析するホワイトボックス評価
このツールは、AIの「ホワイトボックス評価エンジン」という機能を持っています。これは、AIがどのように情報を処理し、答えを生成するのかを細かく可視化するものです。これにより、これまでのブラックボックス評価では分からなかった、AIの品質に関する隠れた問題点を見つけ出すことができます。
専門家による「レッドチーミング」
OpenAIが主催するレッドチーミング（AIの弱点を見つけるための模擬攻撃）の大会で入賞した経験を持つ技術者が、AIの内部構造を熟知した上で、意図的にAIの弱点を突くような攻撃をシミュレーションします。これにより、AIが持つ様々なリスクを高い精度で洗い出すことが可能です。
手軽に導入できる低コストな仕組み
このツールは、AIを再学習させる「ファインチューニング」という作業が不要です。そのため、高価なコンピューターの資源を消費することなく、今使っているシステムにすぐに組み込むことができます。
企業のAI利用を安全にするための評価
幅広いセキュリティのチェック項目をカバーしており、企業がAIを安全に使うためのルール作り（AIガバナンス）を強化する手助けをします。
企業ごとに合わせた柔軟な評価
それぞれの企業や業界のニーズ、そして特定の業務内容に合わせて、AIの評価方法を細かく設定することができます。
Aladdin Securityの強み
-
国際的な実績: OpenAIが主催したAIのセキュリティに関する国際的な大会で入賞した経験があり、その技術がこのツールに活かされています。
-
学術的な背景: 京都大学や東京大学で培われた高度な数学的な知識に基づいた分析技術が使われています。
-
企業向け対応: 金融機関や大企業のような、特に厳しいセキュリティ基準が求められる場所でも安心して使えるように設計されています。
今後の展望
Aladdin Securityは、この新しいツールを通じて、企業がAIをより安心して安全に使えるようサポートしていきます。今後は、企業が独自にカスタマイズしたAIモデルを自動で評価する機能の強化や、様々な業界に特有のルールに対応した評価テンプレートの充実を進め、AIが本当に信頼される社会の実現に貢献していくとのことです。
Aladdin Security株式会社について
Aladdin Security株式会社は、「A Whole New World~新しい世界を創出する~」をミッションに掲げ、京都大学・東京大学発のAIセキュリティ専門企業です。デジタル社会の信頼を守るため、国内外の企業がAIを安全に活用できるよう支援しています。
会社概要
-
社名: Aladdin Security株式会社
-
所在地: 京都府京都市上京区甲斐守町97 西陣産業創造會館
-
代表者: 代表取締役 勘佐 圭吾
-
設立: 2025年2月
-
事業内容: AIセキュリティ事業、サイバーセキュリティサービス
本件に関するお問い合わせ先
Aladdin Security株式会社
メール：info@aladdin-security.net
