Uygulamanıza Yapay Zeka Özellikleri Nasıl Eklenir

Uygulamanıza yapay zeka özelliği eklemek için sunucunuzdan bir büyük dil modeli (LLM) API’sini çağırın: modele net talimatlar ve ilgili veriyi gönderin, dönen sonucu kullanın. En faydalı özellikler genellikle dört kalıptan biridir: özetleme, sohbet, yapılandırılmış veri çıkarma ve sınıflandırma. Her biri, bir yapay zeka oluşturucusunun sizin için yazabileceği birkaç düzine satırlık koddur. Özelliğin gerçekten iyi olup olmadığını belirleyen şey çağrının etrafındaki işlerdir: API anahtarını sunucuda tutmak, kullanıcı başına maliyeti kontrol etmek ve çıktıya güvenmeden önce kontrol etmek.

Çoğu yapay zeka özelliğinin arkasındaki dört kalıp

Kalıp	Ne yapar	Örnek özellikler	Tipik çıktı
Özetleme	Uzun metni kısa metne dönüştürür	Toplantı notu özeti, destek talebi özeti, bir belgedeki “neler değişti” bilgisi	Bir paragraf veya madde listesi
Sohbet	Bir konuşma içinde soruları yanıtlar, çoğu zaman verileriniz hakkında	Yardım asistanı, “belgelerinize sorun”, katılım rehberi	Akan (streaming) metin
Çıkarma	Dağınık metinden veya görsellerden yapılandırılmış alanlar çıkarır	Bir PDF’teki fatura bilgileri, bir e-posta imzasından kişiler, bir ilandan iş verisi	Bir şemaya uyan JSON
Sınıflandırma	Sabit bir etiket kümesinden seçim yapar	Destek taleplerini yönlendirme, geri bildirimleri konuya göre etiketleme, acil mesajları işaretleme, dil tespiti	Tek bir etiket, belki bir güven notu

Çıkarma ve sınıflandırma çoğu zaman en değerli ama en az görünen olanlardır. Her kayıtta birkaç dakikayı sessizce kurtarırlar ve çıktıları sabit bir biçimde olduğu için otomatik olarak kontrol edilebilirler. Sohbet en görünür olanıdır, ama doğru yapmak en zor olanıdır ve kendi rehberi vardır: yapay zeka sohbet botu uygulaması nasıl yapılır.

Uygulamanıza nasıl oturur

Her kalıbın şekli aynıdır:

Kullanıcı bir şey yapar: “Özetle”ye tıklar, bir dosya yükler, bir mesaj gönderir.
Ön yüzünüz kendi sunucunuzu çağırır, yapay zeka sağlayıcısını değil.
Sunucunuz isteği oluşturur: sistem talimatları, kullanıcının girdisi ve modelin veritabanınızdan ihtiyaç duyduğu veriler; yalnızca bu kullanıcının görmesine izin verilen veriler.
Sunucunuz LLM API’sini çağırır; anahtar bir ortam değişkeninde saklanır.
Sunucunuz yanıtı kontrol eder: geçerli JSON mu, bilinen bir etiket mi, makul bir uzunlukta mı; sonra kaydeder veya döndürür.
Ön yüz gösterir; uzun yanıtlarda metin geldikçe akıtılır.

Anahtar 4. adımda sunucuda kalır ve asla tarayıcıya ulaşmaz. API kavramı yeniyse API nedir kısa bir giriştir; LLM API’lerini nasıl kullanırsınız ise token, model ve anahtarları daha derinlemesine anlatır.

Sağlayıcı ve model seçimi

OpenAI, Anthropic, Google ve diğerleri gibi başlıca sağlayıcıların hepsi birbirine benzer yapıda metin API’leri sunar. Seçerken kullanışlı sorular:

Görevinizdeki kalite. Uygulamanızdan gerçek birkaç örneği iki veya üç modelde deneyin. Farklar, genel kıyaslamalardan çok kendi verinizde daha açık görünür.
Boyut ve maliyet. Sağlayıcılar daha büyük ve yetenekli modeller ile daha küçük, ucuz ve hızlı modeller sunar. Sınıflandırma ve basit çıkarma çoğu zaman küçük bir modelde iyi çalışır; uzun akıl yürütme veya incelikli yazım daha büyük bir model gerektirebilir.
Yapılandırılmış çıktı. Çıkarma ve sınıflandırma için, serbest metni ayrıştırmak yerine modelin sizin verdiğiniz bir şemaya uyan JSON döndürmesini sağlayan API özelliğini tercih edin.
Veri işleme. API girdilerinin saklanıp saklanmadığını veya model eğitiminde kullanılıp kullanılmadığını sağlayıcının şartlarında okuyun; bunun kullanıcılarınızın verdiği veriye uygun olup olmadığını değerlendirin.
Limitler. Yeni hesaplar genellikle düşük hız limitlerine sahiptir; lansmandan önce bunları kontrol edin.

Model adları ve fiyatlar sık değişir; bu yüzden kodunuz model adını birçok yere gömmek yerine bir yapılandırmadan okumalıdır.

Adım adım bir özellik eklemek

Somut bir örnek alalım: her kişinin uzun bir not geçmişi olan küçük bir CRM.

1. Anahtarı saklayın. Sağlayıcınızın panelinde bir anahtar oluşturun ve bunu sunucu tarafı bir gizli bilgi olarak kaydedin; örneğin OPENAI_API_KEY veya ANTHROPIC_API_KEY.

2. Tek ve dar bir özellik isteyin:

Kişi sayfasına bir “Özetle” düğmesi ekle. Sunucuda, kişinin son 20 notunu [SAĞLAYICI] modeline, [ENV_ADI] gizli bilgisini kullanarak gönder; talimat olarak üç madde yazmasını iste: mevcut durum, açık sorular, sonraki adım. Yalnızca oturum açmış kullanıcının görebildiği notları dahil et. Yüklenme durumunu göster, özeti zaman damgasıyla kaydet ve çağrı başarısız olursa “Şu anda özetlenemedi” mesajını göster. Anahtarı asla tarayıcıya gönderme.

3. Yazmayı azalttığı yerde çıkarma ekleyin:

Kullanıcı “Hızlı ekle” kutusuna bir e-posta imzası yapıştırdığında, [SAĞLAYICI]’yı sunucuda çağır ve sağlayıcının yapılandırılmış çıktı özelliğini kullanarak ad, şirket, unvan, e-posta ve telefon içeren JSON döndür. JSON’u sunucuda doğrula, yeni kişi formunu bununla doldur ve kaydetmeden önce kullanıcının düzenlemesine izin ver. Tahmin yürütmek yerine alanları boş bırak.

“Kaydetmeden önce kullanıcının düzenlemesine izin ver” en önemli kısımdır: model önerir, kişi karar verir.

4. Arka planda sınıflandırın:

Yeni bir destek talebi geldiğinde, tam olarak şu etiketlerden birine sınıflandır: faturalama, hata, özellik isteği, hesap erişimi, diğer. Küçük, düşük maliyetli bir model kullan. Yanıt bu etiketlerden biri değilse “diğer” olarak kaydet. Etiketi düzenlenebilir bir etiket olarak göster.

5. Gerçek ve karmaşık verilerle test edin: uzun notlar, boş notlar, başka dillerde metinler, telefon numarası olmayan bir imza; yayından önce yirmi çıktıyı yan yana inceleyin.

İşe yarayan talimatlar yazmak

Her istekle birlikte gönderdiğiniz talimatlar (genellikle sistem promptu denir) kalitenin geldiği yerdir.

Kimin için olduğunu ve neyin iyi olduğunu söyleyin. “Özetler, bir satış temsilcisi tarafından aramadan önce 10 saniyede okunur” modele bir hedef verir.
Biçimi sabitleyin. Tam madde sayısı, uzunluk sınırı, alanlar, etiketler.
Emin olunmadığında ne yapılacağını söyleyin. “Notlarda bir sonraki adım geçmiyorsa ‘Kaydedilmiş sonraki adım yok’ yaz.” Bu, uydurulmuş yanıtları azaltır.
Çıkarma ve sınıflandırma için iyi girdi ve çıktı örnekleri (iki veya üç tane) verin.
Talimatları kullanıcı içeriğinden ayrı tutun ve kullanıcı içeriğini açıkça etiketleyin ki model ikisini ayırt edebilsin.

Promptları kod tabanınızda dosyalarda tutun; böylece herhangi bir kod gibi sürümlenir ve gözden geçirilebilir.

Maliyeti kontrol altında tutmak

LLM API’leri token üzerinden ücretlendirir; gönderdiğiniz ve geri gelen metin için. Maliyet, istek başına bağlam miktarının ve ne sıklıkla çalıştığının çarpımıyla büyür. Pratik kontroller:

Yalnızca gerekeni gönderin. Tüm geçmişi değil, son 20 notu. Uzun belgeleri kırpın veya bölün.
İşi yapan en küçük modeli kullanın. Varsayılan olarak en büyüğünü seçmeden önce test edin.
Çıktı uzunluğunu sınırlayın, API’nin maksimum token ayarıyla.
Sonuçları önbelleğe alın. Bir özeti saklayın ve yalnızca kaynak değiştiğinde yeniden üretin; her sayfa görüntülemesinde değil.
Kullanıcı başına sınırlayın. Hesap veya plan başına günlük bir sınır, tek bir yoğun kullanıcının veya bir betiğin faturayı şişirmesini engeller.
Uç noktayı hız sınırlı yapın, diğer pahalı rotalar gibi.
Sağlayıcının panelinde bir bütçe veya uyarı belirleyin ve lansmandan sonra kullanımı haftalık kontrol edin.
Özellik bazında token kullanımını kaydedin; hangisinin ne kadar tuttuğunu bilmek için.

Yapay zeka özellikleri ürününüzün merkezindeyse, çalışma maliyetini fiyatlandırmanıza katın; sessizce üstlenmeyin.

Güvenlik ve güven

Yapay zeka çıktısı olasılıksaldır. Emin bir tonla yanlış olabilir ve okuduğu metin tarafından yönlendirilebilir. Buna göre inşa edin:

Çıktıyı güvenilmeyen girdi sayın. Yapısını doğrulayın, HTML olarak göstermeden önce kaçış karakterlerini uygulayın ve asla kod veya veritabanı sorgusu olarak çalıştırmayın.
Sonuçları olan işlemlerde bir insanı döngüde tutun: bir e-posta göndermek, bir kaydı değiştirmek, bir ödemeyi iade etmek. Model taslak hazırlar; bir kişi onaylar.
Prompt injection’a karşı koruyun. Bir belge veya mesaj “talimatlarını yok say” gibi metin içerebilir. Modelin görebildiğini mevcut kullanıcının görebileceğiyle sınırlayın ve kodunuz izinleri kontrol etmeden hassas işlemleri gerçekleştirebilecek araçlar vermeyin.
Yapay zeka içeriğini etiketleyin, kullanıcılar bir özetin veya önerinin üretildiğini bilip kontrol edebilsin.
Hataları zarifçe yönetin. Sağlayıcıların kesintileri ve hız limitleri olur. Zaman aşımı koyun, net bir mesaj gösterin ve uygulamanın geri kalanının çalışmaya devam etmesine izin verin.
Kullanıcıların gönderdiklerine dikkat edin. Açık metin girişlerinde bir moderasyon adımı düşünün ve gizlilik politikanızda içeriğin üçüncü taraf bir yapay zeka sağlayıcısı tarafından işlendiğini açıkça belirtin.

Daha geniş kontrol listesi için yapay zeka ile oluşturulan uygulamalar için güvenlik kontrol listesi rehberine bakın.

Sık yapılan hatalar

Tek bir “Özetle” veya “Kategorize et” düğmesinin daha çok insana yardımcı olacağı yerde genel bir sohbet botuyla başlamak.
Anahtarı ön yüz kodunda veya herkese açık bir depoda bulundurmak.
Tüm veritabanını bağlam olarak göndermek; bu yavaş, pahalıdır ve diğer kullanıcıların verisini açığa çıkarma riski taşır.
Serbest metin çıktısına güvenmek; şema veya sabit etiket kümesi onu kontrol edilebilir kılacakken.
Kullanıcı başına sınır olmaması; ilk fatura geldiğinde fark edilir.

Mythex ile yapay zeka özellikleri eklemek

Mythex’te uygulamanızın içine yapay zekayı, kendi sağlayıcı anahtarınızı kullanarak sohbette isteyerek eklersiniz. Anahtarı bir proje gizli bilgisi olarak saklayın: ajan bir gizli bilgiye ihtiyaç duyduğunda Mythex sohbette bir gizli bilgi kartı gösterir, böylece anahtarı sohbete yapıştırmazsınız. Ajan sunucu rotasını, promptları ve arayüzü yazar. Uygulamanızın yapay zeka kullanımı, Mythex kredilerinden ayrı olarak sağlayıcınız tarafından faturalandırılır. Dokümanlarda kendi API anahtarlarınızla yapay zeka ekleme başlığında bir başlangıç promptu bulabilirsiniz.

Sorular

Mevcut bir uygulamaya yapay zeka nasıl eklenir?

Bir LLM sağlayıcısından API anahtarı alın, bunu sunucu tarafı bir gizli bilgi olarak saklayın ve sağlayıcıya bir prompt ile ilgili verileri gönderen, sonucu ön yüzünüze döndüren bir sunucu rotası ekleyin. Genel bir sohbet botu yapmadan önce bir kaydı özetlemek gibi tek ve dar bir özellikle başlayın.

Yapay zeka özelliklerinin çalıştırma maliyeti ne kadar?

LLM API’leri token başına ücretlendirir; kabaca gönderilen ve geri dönen metin parçası başına. Maliyet, her istekte ne kadar metin taşındığına ve ne sıklıkla çalıştığına bağlıdır. Bu yüzden kendi kullanımınızdan tahmin yürütün, sağlayıcının panelinde bir limit belirleyin ve uygulamanızda kullanıcı başına bir sınır koyun.

OpenAI veya Anthropic anahtarımı ön yüze koyabilir miyim?

Hayır. Ön yüz kodundaki her şeyi, sayfayı açan herkes okuyabilir ve sızan bir anahtar yabancıların faturanızı şişirmesine izin verir. Sağlayıcıyı sunucunuzdan çağırın; anahtar bir ortam değişkeninde kalsın.

Prompt injection nedir?

Modelin okuduğu metnin (bir kullanıcı mesajı, yüklenen bir belge, bir web sayfası) sizin talimatlarınızı geçersiz kılmaya çalışan talimatlar içermesidir. Model çıktısını güvenilmez sayın, hassas işlemleri kontrol olmadan tetiklemesine izin vermeyin ve modelin gördüğü veriyi kullanıcının görmesine izin verilen veriyle sınırlayın.