フィックスターズ、AIモデルの動きを速くする「AIBooster」をさらに使いやすく!

AIツール・サービス紹介

株式会社フィックスターズは、AIの処理を速くするためのプラットフォーム「Fixstars AIBooster(以下、AIBooster)」の最新版を発表しました。この新しいAIBoosterでは、AIモデルがきちんと最適化されているかを診断する機能や、AIの動きを自由に観察できる機能が強化され、AIの学習や推論をよりスムーズに、そして速くできるようになります。

AIBoosterについてもっと知りたい方はこちらをご覧ください。
Fixstars AIBooster

最新版AIBoosterの新しい機能

1. AIモデルの「健康診断レポート」が詳しくなりました!

AIBoosterには、AIの推論(判断)処理を速くするために、AIモデルを自動で調整する「AcuiRT」という機能があります。今回のアップデートで、このAcuiRTがどのようにAIモデルを調整したかの「健康診断レポート」が、より詳しく見られるようになりました。

具体的には、次のようなことが確認できます。

  • 変換結果の可視化: AIモデルのどの部分(レイヤー)がうまく変換できたか、どこで問題が起きたのか、具体的なエラーメッセージまで表示されます。

    AcuiRT Optimization Cycle
    AcuiRTの最適化サイクルを表す図。現状の可視化、ボトルネックの分析、リファクタリングの3ステップを循環し、推論速度と精度を向上させます。

    エラーログの画像
    機械学習モデルのモジュールの実行ログ。JIT入力の型不一致や動的シェイプローディング未実装がエラーの原因として記録されています。

  • パフォーマンス・プロファイリング: AIモデルが推論するのにかかった時間や、処理が遅くなっている「ボトルネック」がどこにあるのかを、細かく分析できるようになりました。

  • 認識精度: モデルを調整する前と後で、AIの判断の正確さがどう変わったかを測定できます。

2. AIの動きを「自由自在に観察」できるようになりました!

AIBoosterの「パフォーマンス・オブザーバビリティ(PO)」機能は、AIが動くコンピューター全体の効率を監視し、全体のパフォーマンスの傾向をわかりやすく表示します。今回のアップデートで、この観察方法をユーザーの環境に合わせて簡単にカスタマイズできるようになりました。

  • メトリクス収集間隔の調整: データの収集頻度を調整できるため、不要な負荷を減らすことができます。たとえば、長い期間の傾向を見たい場合は、収集間隔を広げてリソースの消費を抑えることが可能です。

  • ユーザー定義タグの付与: AIモデルの種類や設定、使っているデータなど、自分で決めた基準でAIの動きに「タグ」を付けられるようになりました。これにより、お客様の利用状況に合わせた、より深い分析ができるようになります。

    パフォーマンスプロファイラのフレームグラフ
    機械学習モデルのパフォーマンスプロファイリング結果を示すフレームグラフ。モデルの実行フローとボトルネック分析に利用されます。

活用例:NVIDIA GPU向けモデル変換の高速化と信頼性向上

実際に、2次元の物体を見つけるAIモデルを、NVIDIA GPU向けに変換する際にAcuiRTを使ってみた事例があります。

最初の挑戦では、モデルの16%しか正常に変換できず、かえって推論速度が遅くなってしまいました。しかし、新しい診断レポート機能を使って失敗した部分と原因を特定し、たった4時間の修正作業で100%の変換に成功。その結果、AIの推論速度は元の約1.25倍にまで向上しました。

この事例の詳しい情報はこちらで確認できます。
詳細

株式会社フィックスターズについて

株式会社フィックスターズは、「“Speed up your AI”(あなたのAIを速くする)」を合言葉に、AIの処理を速くする技術を提供している会社です。AIモデルの推論(判断)と学習の両方を圧倒的に高速化することで、医療、製造、金融、モビリティなど、さまざまな分野で次世代のAI技術の進化をサポートしています。

株式会社フィックスターズ

タイトルとURLをコピーしました