Evaluasi Kualitas Output AI Agent: AgentOps Metrics yang Wajib Dipantau Startup 2026

Tim Anda deploy agen customer service. CSAT naik 6 poin. Tetapi setelah dua bulan, Anda menemukan bahwa agen sebenarnya tidak benar-benar menyelesaikan masalah — hanya menjawab dengan meyakinkan sambil mengandalkan eskalasi manusia untuk kasus sulit. CSAT naik karena respons cepat, bukan karena kualitas sebenarnya.Di sinilah AgentOps Metrics berperan. Artikel cluster ini membahas 7 metrik evaluasi yang wajib dipantau startup Indonesia di 2026, dengan framework LLM-as-Judge yang scalable. Lihat konteks yang lebih luas di panduan pilar observability, atau fokus ke teknik tracing dan kontrol biaya.

Mengapa Metrik Lama Tidak Cukup

CSAT, FCR (First Contact Resolution), dan AHT (Average Handle Time) adalah warisan era call center manusia. Untuk agen AI, metrik ini tidak cukup — Anda butuh ukuran faithfulness (apakah jawaban sesuai konteks retrieved), groundedness (apakah tidak mengarang fakta), task success rate (apakah tujuan user tercapai), dan hallucination rate per tool call. Tanpa ini, Anda mengukur UX permukaan, bukan kualitas inti.

7 Metrik AgentOps Wajib 2026

1. Faithfulness Score

Mengukur proporsi klaim dalam jawaban yang dapat di-trace ke konteks retrieved (RAG) atau tool output. Dihitung via LLM-as-Judge dengan prompt: “Apakah setiap klaim faktual di jawaban didukung oleh konteks berikut? Skor 0-1.” Target: > 0.85 untuk customer-facing, > 0.95 untuk domain medis/finansial.

2. Task Success Rate (TSR)

Persentase sesi di mana tujuan user tercapai tanpa eskalasi ke manusia. Definisi “berhasil” harus explicit per use case: refund diproses, tiket ditutup, pertanyaan terjawab. Jangan pakai “tidak ada komplain” sebagai proksi.

3. Hallucination Rate per Tool

Track hallucination per tool (search_kb, query_db, fetch_api). Tool dengan retrieval lemah akan menjadi sumber utama halusinasi. Alert jika hallucination_rate per tool > 5%.

4. Tool Selection Accuracy

Apakah agen memilih tool yang tepat dari beberapa opsi? Hitung dengan golden dataset 200-500 query + expected tool. Akurasi < 90% mengindikasikan prompt routing perlu perbaikan.

5. Reasoning Depth

Jumlah rata-rata reasoning step per task. Depth terlalu rendah = kurang berpikir (rawan error). Depth terlalu tinggi = boros token dan latency. Sweet spot per use case: 2-5 step.

6. Self-Correction Rate

Berapa kali agen mendeteksi error-nya sendiri dan melakukan retry/reasoning ulang. Rate tinggi tanpa improvement outcome = tanda architectural issue. Rate nol = agen overconfident.

7. Human Escalation Quality

Untuk eskalasi ke manusia,ukur: apakah konteks yang diberikan agen ke agen manusia cukup untuk melanjutkan? Kalau agen manusia harus bertanya dari awal, escalation = gagal.

Framework LLM-as-Judge yang Efisien

Membangun Golden Dataset

1. Seed dari production: ambil 200-500 interaksi nyata, anonymize PII, beri label ground truth oleh manusia.
2. Synthetic augmentation: gunakan GPT-4o untuk generate 1000+ variasi dari golden seed (paraphrase, edge case).
3. Adversarial test: buat 50-100 query yang dirancang untuk mengekspos kelemahan (ambigu, multi-intent, prompt injection).
4. Refresh cycle: update dataset setiap 4-6 minggu. Tambah failure case baru yang ditemukan di production.

Alerting dan SLO

Tetapkan SLO yang jelas per workflow:

• Faithfulness ≥ 0.90 (SLO 99% minggu)
• Task Success Rate ≥ 75% (SLO 95% minggu)
• Hallucination rate ≤ 3% (alert jika > 5%)
• Tool selection accuracy ≥ 92% (alert jika turun > 3 poin)

Alert di-trigger ke Slack channel #agent-quality dan integrasi dengan PagerDuty untuk SLO breach yang berlangsung > 4 jam.

“Metrik AgentOps yang paling underrated adalah ‘self-correction rate’. Agen yang tidak pernah mendeteksi error-nya sendiri adalah bom waktu — dia akan memberikan jawaban salah dengan percaya diri terus-menerus.” — Dr. Anindita Sari, AI Research Lead, konsultan AI Jakarta

Tooling untuk AgentOps Metrics

Platform yang banyak dipakai tim Indonesia di 2026: Langfuse (eval + dataset), Arize Phoenix (open-source eval), Maxim AI (managed eval + simulation), LangSmith (untuk stack LangChain). Pilihan tergantung budget dan kebutuhan self-host. Untuk startup dengan budget terbatas, Langfuse self-hosted memberi 80% value dengan 20% biaya SaaS.

Kesimpulan

AgentOps Metrics adalah quality assurance yang tidak bisa dinegosiasikan. Tujuh metrik di atas memberi Anda visibility end-to-end: dari kebenaran faktual, keberhasilan task, sampai efisiensi reasoning. Kombinasikan dengan tracing OpenTelemetry untuk root cause analysis dan cost telemetry untuk kontrol ekonomi. Lihat artikel pilar utama untuk strategi observability komprehensif.

FAQ AgentOps Metrics

1. Berapa biaya LLM-as-Judge untuk 1 juta interaksi/bulan?

Dengan sampling 15% dan judge model Haiku/Mini: estimasi USD 200-500/bulan untuk 1M interaksi. Bisa ditekan 50% dengan rule-based filter untuk yang sudah jelas (mis. format validation).

2. Bagaimana cara validasi bahwa LLM-judge itself akurat?

Human-in-the-loop calibration: 100-200 sample dinilai oleh manusia setiap 2-4 minggu, hitung Cohen’s Kappa dengan judge. Target Kappa > 0.7. Jika lebih rendah, refine prompt template.

3. Apakah semua workflow butuh LLM-as-Judge?

Tidak. Workflow dengan output terstruktur (form filling, SQL generation) cukup rule-based. Workflow dengan output natural language (penjelasan, rekomendasi) wajib LLM-as-Judge. Kombinasi = ideal.

4. Kapan pakai Langfuse vs Arize Phoenix vs Maxim?

Langfuse: best balance, self-host friendly. Arize Phoenix: open-source, cocok untuk heavy experimentation. Maxim: managed, termahal tapi paling lengkap untuk tim enterprise. Pilih sesuai skala tim dan budget.

5. Bagaimana cara mulai jika saya nol data historis?

Bangun synthetic golden dataset (50-100 query) sebelum deploy. Gunakan GPT-4o untuk generate variasi dari use case Anda. Lari pilot 2 minggu dengan 100% sampling, identifikasi failure mode, baru turunkan sampling rate.

Ingin mengontrol biaya operasional agen? Pelajari strategi cost control atau kembali ke panduan pilar.