調査方法

すべての数字はこうして作られます

AI可視性の数字をCMOに見せる前に、その出どころを知っておくべきです。ここに方法のすべてを書きます。単発のチェック、毎週の追跡、3つの指標、発見事項の順位付け。隠していることも、手作業で調整していることもありません。

1. 購買者の質問を5つ作る

ブランドとカテゴリ(例:「B2B営業チーム向けCRM」)を入力します。Mentionedは、そのカテゴリで推薦を探す購買者が入力しそうな質問を5つ、Claudeに書かせます。マーケターの言い回しではなく、人が実際に尋ねる言い方です。質問にはブランド名を含めないため、誘導した推薦ではなく、何も促さずに出てくる推薦を測れます。質問の作成が何らかの理由で失敗した場合は、推測したりチェックを飛ばしたりせず、中立的な定型の質問に切り替えます。

2. 各アシスタントに、独立して尋ねる

5つの質問は、選択した各モデルに並行して送られ、それぞれ別々の会話になります。会話間で文脈は共有されず、どのブランドをテストしているかのヒントもありません。つまり、5人の別の購買者が5つの別の質問をするのに近い状態です。Claude、ChatGPT、Geminiは当社のキーで実行します。DeepSeek、Llama 3.3、Perplexityは、ご自身のAPIキーで実行します。

3. 言及を数える

照合では、ブランド名と回答の両方を文字と数字だけに整えるため、スペースや句読点で照合が外れることはありません。アクセントも畳み込むので、「Nestlé」も「Nestle」も一致します。そのうえで、一致が元のテキストの単語境界に当たることを条件にします。この条件がなければ、「generally」が「Rally」というブランドの言及として数えられてしまいます。

英数字の部分が2文字未満のブランド(「C++」など)は、文字どおりに照合します。拠り所のない1文字だけの名前(「X」「R」)は、推測せずに対象外とします。代名詞と確実に区別する方法がないためです。

一致が見つかると、Mentionedはそれを含む文を、結果に表示される引用として保存します。モデルの出力をそのままコピーしたもので、書き換えは一切しません。保存済みの回答のハイライトには、その実行を採点したのと同じ照合を使うので、ハイライトがスコアと食い違うことはありません。

4. 代わりに誰が推薦されたかを挙げる

ブランドが登場しない場合、Mentionedは回答から他のブランド名を抜き出します。多くは太字の名前や、番号付き・箇条書きリストの項目です。「最良の選択肢」のような一般的な言い回しは除外し、競合として数えません。これはヒューリスティックなので名前を見逃すことはありますが、テキストにない競合を付け加えることはありません。

5. スコア

スコアは、5つの回答のうち、モデルごとに何件がブランドに言及したかを5分の何かで示したものです。重み付けも調整もありません。3/5は、独立した5つの回答のうち3つにブランドが登場したという意味です。

6. 質問を固定して、推移に意味を持たせる

単発のチェックは、毎回新しい質問を作ります。スナップショットならそれで正しいのですが、推移には向きません。月曜ごとに質問が変わると、スコアが3/5から1/5に動いても、「可視性を失った」ことと「より難しい質問をした」ことが混ざってしまいます。

そのため、キーワードを追跡するときは、5つの質問を作成時に一度だけ作り、以降のすべての実行で一言一句そのまま尋ねます。グラフが動けば、それは可視性の変化です。これは、このプロダクトで最も重要な設計判断です。

追跡キーワードは、当社のキーでClaudeとGeminiを使い、毎週実行されます。Proには当社のキーで毎日実行できる枠が3つ、Agencyには10個含まれます。それ以外では、そのキーワードが尋ねるすべてのモデルについて、アカウントに自分のAPIキーが保存されている場合に限り、毎日実行できます。毎日の実行は当社のキーではなくお客様のキーを消費するためです。この確認はスケジュールを設定するときと、実行が始まるときの両方で行われるので、あとでキーを削除すると、そのキーワードは毎週の実行に戻ります。

7. 3つの指標と、3つとも必要な理由

どの指標も、モデルが実際に返したものを数えており、各行は元になった回答全文にリンクします。測定できなかった数字は、ダッシュと理由の一文で示し、ゼロにはしません。「誰もあなたの名前を挙げなかった」と「まだ何も実行されていない」は別の発見であり、Mentionedは一方をもう一方として見せることはありません。

8. あなたに言及した文のトーンを読む

センチメントは単語の数え上げであり、モデルの意見ではありません。Mentionedは、ブランド名を含む文を取り出し、その中の称賛語と批判語(リスト化済み)を数え(否定も処理します)、多い側に応じて、肯定的・否定的・中立のいずれかと判定します。単語リストの全体は画面に表示され、各単語が何回反応したか、どの文で反応したかも確認できるので、どの判定もワンクリックで検証できます。

皮肉は見逃しますし、リストにない言葉での称賛も見逃します。リスト全体を見せることは、そのための引き換えです。モデルに作らせたセンチメントスコアでは、この検証はまったくできません。

9. 何を直すかを順位付けする

アクション画面は、アカウントにすでにある実行結果を読み、8種類の発見事項を挙げます。モデルの死角、プロンプトの死角、可視性の低下、競合の追い上げ、自社が出ていない場面での競合の引用、弱いトピック、一度も実行されていないキーワード、直近の実行が失敗したキーワードです。各発見事項は、回答への影響が大きい順に並びます。差(パーセントポイント)に、その発見事項が対象とする保存済み回答の数を掛けた値です。どの行も、他の画面にすでにある測定値を言い直したもので、その画面に直接リンクします。省いた発見事項があれば、黙って切り捨てずに、その数を表示します。

各発見事項の下には、折りたたまれたプレイブックがあり、その種類のギャップによくある対処が載っています。アドバイスと明記してあり、数字、CSV、API、MCPツールには一切入りません。

10. 実行にかかる費用と、失敗したときの扱い

チェックはすべて、実際のAPI費用がかかります。匿名のチェックがないのも、無料アカウントが自分のキーを必要とする前に当社のキーで3回チェックできるのも、すべての上に1日300回のグローバル上限があるのも、そのためです。毎週の実行は、実際のトークン数で、月ごとのドル予算に対して計測されます。今月の予算で賄えないキーワードは、失敗ではなく延期として扱い、何も記録しません。健全なキーワードに赤い印が付くのは誤りだからです。

レート制限、タイムアウト、プロバイダーの障害など、自然に解消しうる失敗は、プロバイダー自身の再試行の指示に従って再試行します。キーが拒否された場合や不正な形式のリクエストは、再試行しても直らないので再試行しません。失敗した実行は隠さずに記録し、スケジュールは直近の成功した実行を基準に読むため、1回のタイムアウトでキーワードが1週間止まることはありません。

11. 数字から修正へ

この調査方法は、チームが自信を持って数字に基づいて動けるようにするためにあります。実際の流れは次のとおりです。

  1. アクションから始める。最上位の発見事項は、最も多くの回答を失っているギャップです。開いて、その裏にある回答を読みましょう。
  2. プレイブックを出発点にする。そこには、その種類のギャップによくある対処が載っています。たとえば、競合が評価されている具体的な主張を自社でも公開する、アシスタントが引用しているサイトで取り上げてもらう、などです。
  3. 変更を公開し、同じ質問を見続ける。質問は固定されているので、変更後の動きは、言い換えたプロンプトによるものではなく、本当の変化です。
  4. 訪問につながったか確認する。Search ConsoleとGA4を連携すると、AI可視性の隣に、検索クエリと、AIアシスタント経由のセッションが並んで見られます。

Mentionedがしないこと

無料チェックを実行 画面を見る →