Müşteri Hizmetleri Chatbotunda Token Maliyetini Düşüren 7 Ayar

20 Eylül 2026 güncellemesi: Eski model fiyatları, doğrulanmamış müşteri sonuçları ve genel tasarruf yüzdeleri kaldırıldı. Yazı artık sağlayıcıların güncel resmi fiyat sayfalarını, yeniden üretilebilir maliyet formülünü ve kalite kapılı bir karşılaştırma yöntemini kullanıyor.

Chatbot token maliyeti nasıl hesaplanır?

Chatbot maliyeti yalnız toplam token sayısı değildir. Girdi, önbellekli girdi, çıktı, araç çağrısı, depolama ve yeniden deneme kalemleri ayrı tutulmalıdır. Sağlayıcıların fiyat yapıları ve model adları değişebildiği için bu yazıda sabit bir fiyat tablosu yayımlanmıyor.

Güncel fiyatı hesap günü şu resmi sayfalardan alın:

• OpenAI model ve fiyat bilgileri
• Anthropic Claude fiyatlandırması
• Google Gemini API fiyatlandırması

Temel formül:

toplam maliyet = girdi maliyeti + önbellekli girdi maliyeti + çıktı maliyeti + araç maliyeti + depolama + yeniden denemeler

Her token kalemi için:

token maliyeti = ölçülen token / fiyat birimi × güncel birim fiyat

Para birimi dönüşümü gerekiyorsa kur ve kur tarihi ayrıca kaydedilmelidir.

Hangi veriler kaydedilmeli?

Maliyet karşılaştırması istek başına değil, başarıyla tamamlanan görev başına yapılmalıdır. Ucuz bir model daha çok tekrar veya insan devri üretiyorsa toplam görev maliyeti yükselir.

Token maliyetini düşüren 7 ayar

1. Önce gerçek kullanımı ölçün

Sağlayıcının döndürdüğü kullanım alanlarını istek kimliğiyle kaydedin. Tahmini kelime-token dönüşümü yalnız ön planlama içindir; fatura ve optimizasyon kararı gerçek token kayıtlarına dayanmalıdır.

Kabul ölçütü: Her üretim isteği model, girdi, önbellekli girdi, çıktı, araç ve sonuç durumuyla eşleşebilmelidir.

2. Sistem promptunu görev sınırına göre kısaltın

Tekrarlanan nezaket ifadelerini ve aynı kuralın farklı cümlelerini kaldırın. Güvenlik, iade, kimlik doğrulama ve insan devri kurallarını koruyun. Prompt kısaltmasını yalnız aynı test setinde eski sürümle karşılaştırın.

Kabul ölçütü: Yeni prompt daha az girdi tokenı kullanırken politika ihlali, yanlış işlem ve insan devri sınırlarını aşmamalıdır.

3. Konuşma durumunu yapılandırın

Tüm konuşmayı her istekte yeniden göndermek yerine son mesajları, doğrulanmış durum alanlarını ve kısa özeti birlikte kullanın. Sipariş numarası, verilen söz, kimlik kontrolü ve çözülmemiş talep gibi karar verici bilgileri koruyun.

Kabul ölçütü: Uzun konuşma testlerinde unutulan taahhüt ve tekrar sorulan bilgi sayısı başlangıç sürümünden kötü olmamalıdır.

4. Yalnız ilgili bilgiyi getirin

Ürün kataloğu veya politika dokümanının tamamını prompta koymayın. Arama katmanı yalnız soruyla ilgili bölümleri getirmeli; kaynak kimliği ve sürümü yanıt kaydına eklenmelidir.

Kabul ölçütü: Getirilen bağlam azalırken doğru kaynak kullanımı ve yanıtsız sorularda insan devri korunmalıdır.

5. Görevi uygun model katmanına yönlendirin

Sipariş durumu, sınıflandırma, politika yorumu ve istisna çözümü aynı zorlukta değildir. Her görev sınıfını dondurulmuş örnek setinde aday modellerle test edin. Modeli fiyatına göre değil, kabul edilen görev başı toplam maliyete göre seçin.

Kabul ölçütü: Yönlendirme kuralı, hangi görevlerin hangi modele gittiğini ve hangi durumda daha güçlü modele veya insana geçtiğini açıkça göstermelidir.

6. Çıktı biçimini ve bitiş koşulunu sınırlandırın

Kullanıcı kısa durum bilgisi istiyorsa uzun açıklama üretmeyin. Yapılandırılmış çıktı, alan sınırı ve açık bitiş koşulu gereksiz çıktı tokenını azaltabilir. Streaming yalnız erken durdurma gerçekten uygulanıyorsa ayrı ölçülmelidir.

Kabul ölçütü: Kısa yanıtlar gerekli bilgiyi, sonraki adımı ve insan destek yolunu korumalıdır.

7. Önbellek ve batch seçeneklerini iş yüküne göre kullanın

Değişmeyen uzun önekler sağlayıcının desteklediği önbelleğe uygun olabilir. Anlık yanıt gerektirmeyen toplu değerlendirme veya sınıflandırma işleri batch moduna uygun olabilir. Minimum token, saklama süresi, veri politikası ve fiyat çarpanı sağlayıcının güncel dokümanından doğrulanmalıdır.

Kabul ölçütü: Önbellek isabeti, ilk yazma maliyeti, saklama maliyeti ve gecikme birlikte raporlanmalıdır.

Kalite bozulmadan tasarruf nasıl kanıtlanır?

Bir aday yapılandırmayı mevcut sürümle aynı konuşma setinde çalıştırın. Test seti normal talepleri, belirsiz mesajları, politika istisnalarını, kimlik kontrolünü, araç hatasını ve insan devrini kapsamalıdır.

Tasarruf oranı ancak iki maliyet aynı kapsam ve para birimindeyse hesaplanır:

tasarruf oranı = (başlangıç maliyeti - aday maliyeti) / başlangıç maliyeti × 100

Sonuçla birlikte test tarihi, model sürümü, konuşma sayısı, görev dağılımı ve kalite sınırları yayımlanmalıdır. Bu alanlar yoksa sonuç örnek hesap olarak etiketlenmeli, müşteri sonucu gibi sunulmamalıdır.

Hangi yöntem ne zaman seçilmeli?

Son karar

Token optimizasyonu bir yüzde vaadi değildir. Doğru karar; güncel resmi fiyatı, gerçek kullanım kaydını, görev başarısını ve insan desteği maliyetini aynı deney içinde karşılaştırmaktır. En düşük token sayısı değil, kabul edilen kaliteyle tamamlanan görevin toplam maliyeti optimize edilmelidir.

Rehberden uygulamaya

Ekibiniz maliyet ve kalite testlerini kendi yürütecekse AI eğitimi uygulamalı bir başlangıç sunar. Mevcut kullanımı ölçmek, aday mimariyi pilotta karşılaştırmak ve entegrasyonu yürütmek için KOBİ'ler için AI otomasyon danışmanlığını inceleyin.