Token kullanımı, yapay zekânın işlediği metin miktarının token adı verilen küçük parçalarla sayılmasıdır. Bazı AI hizmetleri, bir isteğin maliyetini hesaplamak için girdi ve çıktı token sayılarını kullanır.
Örneğin, uzun talimatlar ve dosyalar kısa bir sorudan daha fazla girdi tokenı kullanabilir. Çok uzun bir yanıt da daha fazla çıktı tokenı kullanabilir.
Kesin maliyet hizmete, modele ve güncel fiyatlandırmaya bağlıdır. Eski bir tahmine güvenmek yerine sağlayıcının güncel fiyat sayfasını kontrol edin ve görev için gerekmeyen bilgileri göndermeyin.
