Pelajari

Berapa Banyak Jawaban AI yang Dibutuhkan untuk Mengukur Visibilitas? Matematika Margin of Error

Ajukan pertanyaan yang sama dua kali ke asisten AI dan Anda bisa mendapat dua jawaban berbeda. Itu membuat setiap skor visibilitas AI sebuah estimasi — dan kebanyakan dibangun dari jawaban yang jauh terlalu sedikit untuk mendukung kesimpulan yang ditarik darinya.

Kurva lonceng dengan pita berwarna di sekitar tengahnya
Pengukuran

Temuan utama

Mengapa satu jawaban bukan pengukuran

Model bahasa besar mengambil sampel keluarannya. Pertanyaan yang sama, diajukan dengan cara yang sama, bisa menyebut merek Anda di satu jawaban dan melewatkannya di jawaban berikutnya. Jadi “apakah ChatGPT merekomendasikan kita?” tidak punya jawaban ya-atau-tidak; ia punya tingkat. Anda memperkirakan tingkat itu dengan bertanya berkali-kali lalu menghitung — dan seperti estimasi dari sampel lainnya, ia disertai margin of error.

Selebar apa rentangnya di setiap ukuran sampel

Tiap baris menunjukkan merek yang teramati di separuh jawaban sampelnya, dan interval kepercayaan 95% untuk visibilitas sebenarnya (interval skor Wilson, yang berperilaku benar pada sampel kecil). Kolom terakhir adalah margin ± buku teks pada 50%, sebagai pembanding.

Jawaban yang disampelTeramatiRentang 95% untuk visibilitas sebenarnyaMargin sederhana
52 dari 5 (40%)12%–77%±44 poin
105 dari 10 (50%)24%–76%±31 poin
157 dari 15 (47%)25%–70%±25 poin
2512 dari 25 (48%)30%–67%±20 poin
5025 dari 50 (50%)37%–63%±14 poin
10050 dari 100 (50%)40%–60%±10 poin
200100 dari 200 (50%)43%–57%±7 poin
400200 dari 400 (50%)45%–55%±5 poin

Apa yang bisa dan tidak bisa dikatakan lima jawaban

Lima jawaban adalah ukuran umum untuk pengecekan cepat — termasuk pemeriksaan gratis kami sendiri. Jika visibilitas sebenarnya sebuah merek tepat 50%, inilah peluang tiap skor:

Skor0/51/52/53/54/55/5
Probabilitas3.1%15.6%31.2%31.2%15.6%3.1%

Pengecekan lima jawaban bagus untuk satu hal: memberi tahu apakah Anda muncul sama sekali. Jika Anda mendapat skor 0/5, visibilitas sebenarnya kemungkinan rendah (batas atas 95% adalah 43%). Ia tidak bagus untuk membedakan 40% dari 60%, atau minggu ini dari minggu lalu.

Mendeteksi perubahan dari waktu ke waktu

Membandingkan dua periode lebih sulit daripada mengukur satu, karena kedua hasil sama-sama berisik. Tabel memberi perubahan terkecil yang bisa dideteksi dengan andal (power 80%, signifikansi 5%, sekitar visibilitas 50%) dengan jumlah jawaban yang sama di tiap periode.

Jawaban per periodePerubahan terkecil yang terdeteksi
589 poin
1551 poin
2540 poin
5028 poin
10020 poin
20014 poin
40010 poin

Jadi dasbor yang melaporkan “+8 poin minggu ini” dari 25 jawaban per minggu sebagian besar melaporkan derau. Garis tren selama banyak minggu, atau yang digabung dari banyak pertanyaan, jauh lebih dapat dipercaya daripada selisih mingguan tunggal mana pun.

Jawaban tidak sepenuhnya independen

Matematika di atas mengasumsikan setiap jawaban adalah penarikan yang independen. Kenyataannya tidak persis begitu: jawaban berulang untuk pertanyaan yang sama saling berkorelasi, jadi 5 pertanyaan yang diajukan masing-masing 3 kali membawa informasi lebih sedikit daripada 15 pertanyaan berbeda. Sebarkan sampel Anda ke banyak pertanyaan pembeli yang berbeda daripada mengulang beberapa, dan anggap rentang di atas sebagai skenario terbaik.

Aturan praktis

Keyword yang kami lacak menanyakan masing-masing dari lima pertanyaan beku tiga kali per proses justru karena alasan ini, dan metodologi kami menunjukkan sampel di balik setiap angka. Untuk rumus di balik metriknya sendiri, lihat cara menghitung share of voice AI.

Kutip ini

Anda boleh mengutip dan membuat grafik dari angka-angka ini dengan menautkan kembali ke kami. Saran sitasi: Mentioned, “How Many AI Answers Do You Need to Measure Visibility? The Margin-of-Error Math,” 25 Oktober 2026, https://mentioned.at/learn/ai-visibility-margin-of-error. Data dan teks diterbitkan di bawah CC BY 4.0.

Jalankan pengecekan gratis