QA & リリース保証

AI評価およびテスト

アプリ周辺だけでなく、製品内部のAIをテストします。エージェント、チャットボット、LLM機能における回答品質、グラウンディング、権限、障害処理を評価し、明確なリリース基準を設定します。

プロジェクトについて相談するAI評価について相談する

AI評価が必要なのはどんな方か

あなたのAI機能はデモでは良く見えますが、実際の質問、悪意のある入力、欠損データにわたってどう振る舞うか、また次のモデルやプロンプトの変更でそれが悪化しないかどうか、まだ誰も言えません。

  • チャットボットやアシスタントを顧客の前に出そうとしているチーム
  • モデル、プロバイダー、プロンプトを変更し、変更前後の比較が必要なプロダクトオーナー
  • エージェントに社内記録を読ませたり、他システムでアクションを実行させたりしている企業

各振る舞いがどう評価されるか

顧客向けアシスタントの説明用プランです。手法はあなたのユースケースとリスクに応じて変わります。

自動化された評価専門家によるレビューレッドチームテスト本番シグナル
回答の正確性主要な手法主要な手法ここではほとんど使用されない補助的またはサンプリング
根拠付けと引用主要な手法補助的またはサンプリングここではほとんど使用されない補助的またはサンプリング
権限の境界補助的またはサンプリング主要な手法主要な手法補助的またはサンプリング
プロンプトインジェクション補助的またはサンプリング補助的またはサンプリング主要な手法補助的またはサンプリング
拒否とフォールバック主要な手法補助的またはサンプリング補助的またはサンプリング主要な手法
  • 主要な手法
  • 補助的またはサンプリング
  • ここではほとんど使用されない

AI機能のテストは別物です

チャットボットはすべての機能テストに合格しても、自信を持って誤った回答をしたり、見せるべきでないデータを露呈したり、アップロードされたファイルに隠された指示に従ったりする可能性があります。AI機能には独自の評価が必要です：実際の難しいケースのデータセット、回答品質とグラウンディングのチェック、ツールとデータの権限、プロンプトインジェクションへの露出、障害処理、そしてモデルやプロンプトが変わるたびのリグレッションチェックです。これは、AIが構築を支援した通常のアプリをテストすることとは異なり、そちらはソフトウェアQA＆テストが対象とします。

AIが大規模な採点を支援し、専門家が基準を設定します

AIがどのように支援するか

  • 言い換え、エッジケース、敵対的入力を含め、お客様が承認した実際のユーザーの質問のバリエーションを生成します。
  • 専門家がラベル付けした回答に対して較正された、モデルベースのスコアリングで大量の回答を採点します。
  • コンテキストの欠如、誤ったツール呼び出し、無視された指示など、原因別に障害をクラスタリングします。
  • モデル、プロンプト、検索の変更にまたがる実行を比較し、動作が悪化した箇所にフラグを立てます。

当社の専門家が担うこと

  • 専門家が、お客様の分野の専門家とともに、正確で安全かつ有用な回答とは何かを定義します。
  • モデルベースの採点は人によってスポットチェックされ、専門家と一致しない採点者は修正または破棄されます。
  • エージェントが使用できるツールとデータ、そして人が承認または引き継ぐべき場所を人が決定します。
  • リリース基準とゴー/ノーゴーの判断は、スコアだけに委ねるのではなく、お客様のチームと当社のチームが保持します。

お客様が受け取るもの

変更のたびに再実行できる評価

  • 評価データセット

    よくある質問、エッジケース、範囲外のリクエスト、過去の障害など、期待される動作をラベル付けした実際のケースと合成ケース。

  • 回答品質とグラウンディング

    正確性、関連性、トーン、そして回答がお客様のソースによって裏付けられているかどうかを、引用をチェックしハルシネーションにフラグを立てながら評価します。

  • ツールとデータの権限テスト

    エージェントが読み取り、変更、またはトリガーできるものを、最小権限、承認ポイント、人による引き継ぎの経路に照らしてテストします。

  • プロンプトインジェクションへの露出

    メッセージ、アップロードされたファイル、Webページ、取得したドキュメントを通じた直接および間接のインジェクションを、攻撃者が到達できる範囲で評価します。

  • 障害処理とフォールバック

    モデルがタイムアウトしたとき、プロバイダーがダウンしているとき、検索が何も見つけられないとき、または確信度が低いときの動作：フォールバック、明確なメッセージ、人への引き継ぎ。

  • リグレッションチェックとリリース基準

    モデル、プロンプト、データが変わるたびに再実行される自動評価と、変更をリリースするかどうかを決める合意された基準。

AI評価の進め方

  1. 01

    良い動作を定義する

    お客様のチームおよび分野の専門家とともに、ユースケース、リスク、品質基準、権限を合意し、使用を許可いただいた実例を収集します。

  2. 02

    データセットを構築する

    難しいケースや敵対的なケースを含め、評価ケースを組み立ててラベル付けし、各変更が満たすべきリリース基準を設定します。

  3. 03

    評価して探る

    専門家のレビュー、レッドチームによる権限検証、プロンプトインジェクションを伴う自動評価を実行し、障害をプロンプト、検索、ツール、またはモデルまで追跡します。

  4. 04

    ゲートと監視

    お客様のリリースプロセスに評価を追加し、推奨される修正とともに結果を報告し、製品の変化に合わせてデータセットを最新に保ちます。

AIツールを使う2つの方法

AIはテストの作成支援や欠陥の調査を支援します。コードとテストデータを処理してよい場所を選択してください。

お決まりでないですか？スコープ設定の際に一つをおすすめします。 AIデリバリーのオプションを比較する

典型的な評価のご依頼

クライアントのケーススタディではなく、当社がスコープを定める典型的なシナリオです。

  • 一般公開前のヘルプセンターアシスタント

    あるチームが、ヘルプ記事から回答するアシスタントを求めています。私たちは実際のサポート質問をラベル付きセットに変換し、回答と引用を採点し、対象外ケースや敵対的ケースを追加し、公開前にリリース基準に合意します。

  • 機能をより低コストのモデルへ移行する

    あるプロダクトオーナーが、機能をより安価なモデルやプロバイダーに切り替えたいと考えています。私たちは両方で同じ評価セットを実行し、回答がどこで良くなり、どこで悪くなるか、レイテンシがどう変わるかを示し、判断は彼らに委ねます。

  • 記録を変更できるエージェント

    ある企業が、社内エージェントに注文を更新させています。私たちはそのツール権限と承認ポイントをレッドチーム手法で検証し、エージェントが読む文書に指示を仕込んで間接的なインジェクションをテストし、エージェントが実行する前に人が承認すべき箇所を推奨します。

AI評価が及ばない範囲

  • プロンプト、検索、あるいはモデル自体を変更することは評価には含まれません。私たちは修正を推奨し、あなたのチームがそれを実施するか、私たちがLLM Integrationとして範囲を定めます。
  • 機能の背後にあるサーバー、API、クラウドアカウントへの攻撃はPenetration Testingに属します。ここではモデルの指示、ツール、データアクセスを調査します。
  • ピークトラフィック時のレイテンシ、レート制限、モデルコストはPerformance Testingで測定されます。
  • あなたのAI利用に対する法的または規制上の承認は含まれません。結果はあなた自身のリスクおよびコンプライアンスレビューのための証拠となります。

AI評価がどのようにデザイン、QA、運用とつながるか

  • デザイン：人が使える監督

    デザイナーは、ユーザーがソース、不確実性、エラーをどのように見るか、そしてお客様のスタッフがエージェントをどのようにレビュー、修正、または引き継ぐかを設計します。

  • QA：製品の残りの部分も

    ソフトウェアQAは、サインイン、支払い、ロール、連携など、AIの周辺にあるアプリを対象とし、どのリリースとも同様に要件に照らしてテストします。

  • 運用：本番環境での品質

    本番ログ、ユーザーフィードバック、レイテンシ、コストがモニタリングと新しい評価ケースに反映され、品質がドリフトし始めるとアラートが出ます。

  • 継続的に：変更のたびに再評価

    モデルのアップグレード、プロンプトの編集、新しいデータソースは、お客様と合意したAI運用の一環として、リリース前に評価されます。

FAQ

よくあるご質問

これはAIが構築を支援したアプリをテストすることとどう違うのですか？

AIコーディングツールで書かれたアプリも通常のソフトウェアと同じように動作するため、ソフトウェアQA＆テストが対象とします。AI評価は、モデルが実行時に回答を生成したりアクションを取ったりする製品向けです。出力はばらつくため、多数のケースにわたって品質を測定し、権限をテストし、障害に備えて計画します。多くの製品には両方が必要であり、当社はそれらを一緒にスコープします。

どのモデルやAIスタックを評価できますか？

OpenAIやClaudeなどのホスト型モデル、LlamaやMistralなどのオープンウェイトモデル、検索パイプライン、エージェントフレームワーク上に構築された機能です。この手法はプロバイダーに依存しないため、お客様自身のケースでモデルやプロバイダーを比較するためにも使用できます。

評価によってAIが誤ることをなくせますか？

いいえ。モデルは依然として間違いを犯す可能性があります。評価はどこでどのように失敗するかを示すので、リリース基準を設定し、ガードレールとフォールバックを追加し、エラーのコストが高い箇所に人によるレビューを設計し、品質が変化したときに素早く気づくことができます。

当社のプロンプト、ログ、評価データはどこで処理されますか？

お客様の機能自身のモデル呼び出しは、すでに使用しているプロバイダーに送られます。モデルベースの採点など、作業で当社が使用するAIツールは、お客様が選択した境界内で実行されます：お客様が管理するインフラ上でのプライベート/ローカルAIエンジニアリング、または合意されたデータ取り扱い条件下でのClaude Code / OpenAI Codexエンジニアリングです。ログ内の個人データは、お客様と合意のうえ、使用前にマスクされます。

関連する読み物

出荷する前にAIがどのように動作するかを確認する

お客様のAI機能が何をするのか、どのモデルを使うのか、何を懸念しているかをお聞かせください。評価計画とリリース基準をご提案します。

プロジェクトについて相談するAI評価を計画する