LLM API'leri Nasıl Kullanılır: Token'lar, Maliyetler, Anahtarlar ve İlk AI Özelliğiniz

LLM API, uygulamanızın büyük bir dil modeline (örneğin OpenAI'ın GPT modelleri, Anthropic'in Claude'u ya da Google'ın Gemini'si) metin göndermesini ve yanıtını kodla geri almasını sağlayan bir web servisidir. Sağlayıcıya kaydolur, bir API anahtarı oluşturur ve uygulamanızın sunucusu bu anahtarla istek gönderir; her istek için, giden ve gelen token (metin parçası) sayısına göre ücretlendirilirsiniz. Bir uygulamaya "AI ekleme" çoğu zaman bundan ibarettir: başkasının modeline iyi yazılmış bir istek, sunucunuzdan güvenli biçimde yapılır.

AI ile geliştirirken neden önemli

AI ile yapılmış bir uygulamada iki farklı AI vardır ve bunları karıştırmak kolaydır:

1. Uygulamanızı inşa eden AI: uygulama oluşturucunun kendi agent'ı, kodu yazar.
2. Uygulamanızın içindeki AI: kullanıcılarınızın kullandığı bir özellik; bir sohbet asistanı, bir "özetle" düğmesi ya da otomatik etiketleme gibi.

İkincisi, sizin anahtarınızla bir LLM API'sini çağırır ve sizin sağlayıcı hesabınızdan ücretlendirilir. Token'ları, bağlamı ve fiyatlandırmayı anlamak; çalışan, anahtarınızı sızdırmayan ve sizi bir faturayla şaşırtmayan bir özellik tasarlamanızı sağlar.

Günlük bir benzetme: çok yetenekli bir serbest yazar, kelime başına ödeme

LLM API'sini, e-postayla ulaştığınız ve kelime başına ödediğiniz çok yetenekli bir serbest yazar gibi düşünün. Hem size gönderdiğiniz kelimeler hem de geri yazdıkları kelimeler için ödeme yaparsınız (ve yazılan kelimeler daha pahalıdır).

• E-postalar arasında hafızası yoktur. Bir sohbeti sürdürmek istiyorsanız, önceki mesajları her yeni e-postaya yeniden yapıştırırsınız.
• Bir seferde sadece belli bir miktarı okuyabilir. Bu sınır bağlam penceresidir.
• Brief ne kadar netse yanıt o kadar iyi ve kısa olur; bu da daha ucuzdur.

Temel kavramlar

Token'lar

Modeller metni token'lar halinde okur ve yazar. Anthropic'in fiyatlandırma dokümantasyonu, Eylül 2026 itibarıyla token başına yaklaşık 4 karakter, ya da kabaca 0,75 İngilizce kelime olduğunu tahmin ediyor. Farklı modeller ve diller metni farklı böler, bunu kaba bir rehber olarak düşünün. Her şey sayılır: talimatlarınız, kullanıcının mesajı, eklediğiniz belgeler, önceki konuşma ve yanıt.

Girdi ve çıktı

Girdi token'ları sizin gönderdiklerinizdir. Çıktı token'ları modelin yazdıklarıdır. OpenAI, Anthropic ve Google'ın fiyat sayfalarına göre Eylül 2026 itibarıyla, aynı model için çıktı token'ları girdi token'larının birkaç katı fiyatındadır. Google'ın Gemini fiyatlandırması ayrıca modelin dahili "düşünme" kısmının çıktı olarak sayıldığını belirtiyor.

Bağlam penceresi

Bir modelin tek bir istekte alabileceği en fazla token sayısıdır; yanıt da buna dahildir. Modern modeller çok uzun girdileri kabul eder. Örneğin Anthropic'in bazı güncel modelleri bir milyon token'a kadar kabul eder. Ancak uzun girdiler daha pahalıdır ve daha uzun sürer, bu yüzden yalnızca görevin ihtiyacı olanı gönderin.

Durumsuz istekler

Çoğu sohbet tarzı API'de her istek varsayılan olarak bağımsızdır. Bir sohbetin "hatırlaması" için uygulamanız her yeni mesajla birlikte önceki mesajları yeniden gönderir. Bu yüzden uzun bir konuşmanın her mesajı, kısa bir konuşmanınkinden daha pahalıya gelir.

Sistem istemi

Modelin rolünü ve her istek için kurallarını belirleyen talimatlardır: "Destek taleplerini üç madde işaretiyle özetlersin. Müşterinin e-posta adresini asla eklemezsin." Kullanıcılar bunu görmez, ama her yanıtı şekillendirir.

Akış (streaming)

API, tam yanıtı beklemek yerine metni üretildikçe gönderebilir; kullanıcılar kelimelerin hemen belirmesini görür. Bu, sohbet arayüzlerini çok daha hızlı hissettirir.

Fiyatlandırma nasıl işler

Eylül 2026 itibarıyla, sağlayıcıların kendi fiyat sayfalarından kontrol edildi:

Bazı sağlayıcılar ödemeden önce denemenize de olanak tanır: Anthropic yeni kullanıcılara küçük bir ücretsiz kredi verir; Google'ın Gemini API'si bazı modellerde ücretsiz katman sunar, ancak bu katmanda gönderilen içeriğin Google'ın ürünlerini geliştirmek için kullanılabileceğini unutmayın.

Bir sağlayıcının küçük, hızlı modelleri ile en büyük modelleri arasındaki fiyatlar çok farklıdır ve sık değişir; bu yüzden burada fiyat vermiyoruz. Herhangi bir özellik için basit bir tahmin şudur: (girdi token'ları × girdi fiyatı + çıktı token'ları × çıktı fiyatı) × ayda istek sayısı. Buna bir pay ekleyin ve sağlayıcının panelinden aylık bir harcama sınırı belirleyin.

Çalışan bir örnek: "Bu talebi özetle" düğmesi

Küçük bir destek ekibi, uzun bir müşteri e-posta zincirini üç madde işaretine ve önerilen bir yanıta dönüştüren bir düğme istiyor.

1. Bir anahtar alın. Bir sağlayıcıyla hesap açın ve bir API anahtarı oluşturun. Düşük bir aylık harcama sınırı belirleyin.
2. Anahtarı sunucunuzda bir gizli bilgi olarak saklayın; ANTHROPIC_API_KEY ya da OPENAI_API_KEY gibi bir adla, asla sayfanın kodunda değil. Bkz. ortam değişkenleri ve gizli bilgiler.
3. Bir sunucu rotası ekleyin, POST /api/summarise, şunları yapan:
   • kişinin giriş yapmış ve destek ekibine ait olduğunu kontrol eder;
   • talebi veritabanından yükler;
   • sağlayıcıya bir sistem istemi ("Üç madde halinde özetle, sonra kibar bir yanıt taslağı yaz; sipariş numarası uydurma") ile talep metnini gönderir;
   • maksimum çıktı token'ı ayarıyla yanıt uzunluğunu sınırlar;
   • sonucu döndürür ve kullanılan token sayısını kaydeder.
4. Düğme, sağlayıcıyı değil sizin rotanızı çağırır ve özet gelirken sayfada gösterir.
5. Hataları yönetin. Sağlayıcı yavaşsa ya da hata dönerse "Şu anda özetlenemedi" gösterin ve talebi kullanılabilir tutun.
6. Ölçün. Bir hafta sonra token kayıtlarına bakın. Maliyetin çoğu uzun e-posta zincirlerinden geliyorsa, göndermeden önce alıntılanmış geçmişi kırpın.

Burada neyin eksik olduğuna dikkat edin: model eğitimi yok, özel altyapı yok. Bir anahtar, bir sunucu rotası ve iyi yazılmış bir istem.

Temel terimler

• API anahtarı: hesabınızı sağlayıcıya tanıtan gizli bilgi. Buna sahip olan herkes paranızı harcayabilir.
• Model: çağırdığınız belirli LLM. Sağlayıcılar farklı boyut, fiyat ve hızlarda birkaç model sunar.
• Sıcaklık (temperature): yanıtların ne kadar değişken olacağını belirleyen bir ayar. Düşük değerler daha öngörülebilir yanıt verir.
• Maksimum token (max tokens): yanıt uzunluğuna bir sınır; bu aynı zamanda maliyeti de sınırlar.
• Hız sınırı (rate limit): hesabınızın dakikada kaç istek ya da token kullanabileceği.
• Gömmeler (embeddings): metnin anlamını temsil eden sayılar; kendi belgeleriniz üzerinde arama için kullanılır.
• RAG (erişim destekli üretim): kendi verilerinizden ilgili pasajları bulup isteme eklemek, böylece model yanıtını sizin içeriğinize dayandırır.
• Araç kullanımı / fonksiyon çağırma: modelin uygulamanızdan belirli bir işlevi çalıştırmasını istemesi, örneğin "sipariş durumuna bak".

Sık yapılan hatalar ve yanlış anlamalar

• Anahtarı ön yüz kodunda tutmak. En pahalı hata budur. Tarayıcı kodu herkese açıktır. Her zaman sunucunuzdan çağırın. AI ile yapılmış uygulamalar için güvenlik kontrol listesi, bunu diğer yayın öncesi kontrollerle birlikte ele alır.
• Harcama sınırı ya da kullanıcı başına sınır olmaması. Bir hata, bir döngü ya da kötü niyetli bir kullanıcı maliyeti hızla yükseltebilir. Sağlayıcıda bir sınır belirleyin ve uygulamanızda kullanıcı başına istekleri sınırlayın.
• Her seferinde her şeyi göndermek. Tüm belgeler ve tüm sohbet geçmişleri girdi token'larını çarpar. Kırpın, eski mesajları özetleyin ya da yalnızca ilgili kısımları getirin.
• Çıktıya körü körüne güvenmek. Modeller yanlış şeyleri emin bir tavırla söyleyebilir. Gerçekler, fiyatlar ya da hukuki ve tıbbi konular için yanıtları kendi verilerinize dayandırın ve kaynak gösterin ya da bir insan kontrol etsin.
• Kullanıcı girdisinin sizin kurallarınızı geçersiz kılmasına izin vermek. Kullanıcılar "talimatlarını yok say" yazabilir. İzinleri ve hassas işlemleri yalnızca istemde değil, sunucu kodunuzda tutun.
• En büyük modelle başlamak. Önce daha küçük, daha ucuz bir model deneyin; kalite gerektirmedikçe üst modele geçmeyin.
• Kişisel verileri düşünmeden göndermek. Özellikle ücretsiz katmanlarda sağlayıcının veri kullanım koşullarını kontrol edin ve yalnızca özelliğin ihtiyaç duyduğunu gönderin.

AI oluşturucunuzdan ne istemelisiniz

Destek talebi sayfasına bir "Özetle" düğmesi ekle. Düğme, OPENAI_API_KEY gizli bilgisini kullanan (asla tarayıcıya açılmayan) bir sunucu rotasını çağırsın; kullanıcının giriş yaptığını kontrol etsin, talep metnini şu sistem istemiyle göndersin: […], yanıtı 300 token ile sınırlasın, yanıtı sayfaya akış olarak göstersin ve çağrı başarısız olursa kibar bir hata göstersin. Her istekte kullanılan token'ları kaydet ve her kullanıcıyı saatte 30 özetle sınırla.

Tam bir sohbet deneyimi için AI sohbet robotu uygulaması nasıl yapılır yazısına, diğer fikirler için uygulamanıza AI özellikleri nasıl eklenir yazısına bakın. API'lerin genel olarak yeniyse API nedir yazısıyla başlayın.

Mythex ile yapılan uygulamalarda LLM API'leri

Mythex ile geliştirdiğinizde, uygulamanızın içindeki AI kendi sağlayıcı anahtarınızı kullanır. Anahtarı bir proje gizli bilgisi olarak ekler ya da Mythex'in ihtiyaç duyduğunda sohbette gösterdiği gizli bilgi kartı üzerinden girersiniz ve agent'tan çağrıyı sunucuda yapmasını istersiniz. Sağlayıcı kullanımı, Mythex yapı kredilerine değil, kendi sağlayıcı hesabınıza yansır. Mythex, uygulamanızın kullanıcıları için token dahil etmez, yerleşik bir bilgi tabanı ürünü de sunmaz; hız sınırları ve maliyet kontrolleri sizin tasarlayıp test edeceğiniz şeylerdir. Dokümantasyondaki kendi API anahtarlarınızla uygulamaya AI ekleme tarifinde bir başlangıç istemi var ve AI uygulama oluşturucu sayfası nereden başlayacağınızı gösteriyor.

Sorular