LLM Nedir? Büyük Dil Modelleri Basitçe Anlatılıyor

LLM, yani büyük dil modeli, dili anlayabilmesi ve üretebilmesi için muazzam miktarda metinle eğitilmiş bir yapay zekâ türüdür. Ona bir metin verildiğinde, bir seferde küçük bir parça olmak üzere, sırada ne gelmesi gerektiğini tahmin eder; bu basit yetenek soruları yanıtlamak, yazmak, özetlemek, çevirmek ve kod yazmak için yeterli çıkar. ChatGPT, Claude ve Gemini'nin arkasındaki modellerin hepsi birer LLM'dir.

AI ile geliştirirken neden önemli?

Bir AI app builder ile çalışıyorsanız, LLM ile iki kez çalışıyorsunuz demektir. Birincisi, uygulamayı inşa eden bir LLM'dir: isteğinizi okur, değişiklikleri planlar ve kodu yazar. İkincisi, uygulamanızın içinde bir LLM istiyor olabilirsiniz — bir sohbet botu, bir özet düğmesi, bir yazım asistanı.

Temelleri anlamak her iki durumda da yardımcı olur. Muğlak bir isteği AI'nın neden bazen yanlış anladığını, neden kendinden emin bir şekilde yanlış bir şey üretebildiğini, uzun konuşmaların neden önceki ayrıntıları kaçırmasına yol açabileceğini ve uygulamanıza AI özellikleri eklemenin neden her kullanımda para tuttuğunu açıklar. Matematiğe ihtiyacınız yok — sadece sağlam bir zihinsel model yeter.

Günlük hayattan bir benzetme

Hayal edin ki birisi inanılmaz derecede büyük bir kütüphaneyi okumuş — kitaplar, web siteleri, kılavuzlar, kod, forumlar — ve herhangi bir yazıyı uygun şekilde devam ettirmekte olağanüstü ustalaşmış. Ona bir e-postanın başını verirseniz, sizin tarzınızda bitirir. Bir soru sorarsanız, böyle bir sorudan sonra genellikle gelen türde bir yanıt yazar.

Ama kontrol edecekleri notları yoktur ve kütüphane belirli bir tarihte kapanmıştır. Bilgiyi aramazlar, kalıpları hatırlarlar. Çoğu zaman kalıplar doğrudur. Bazen de bir boşluğu, yalnızca doğru gibi duyulan bir şeyle, aynı kendinden emin tavırla doldururlar.

Bir LLM budur: çok okumuş, çok akıcı bir yazar; kusurlu bir hafızası var ve yerleşik bir doğrulayıcısı yok.

Bir LLM düz bir dille nasıl çalışır?

1. Eğitim. Model çok büyük miktarda metin görür ve milyarlarca iç sayısını (parametrelerini) ayarlayarak bir sonraki metin parçasını tahmin etmeyi öğrenir. Çoğu LLM'in kullandığı tasarıma transformer denir; 2017'de Google araştırmacıları tarafından tanıtıldı.
2. İnce ayar. Ham model, genellikle insan geri bildirimi kullanılarak talimatları izlemesi, bir sohbeti sürdürmesi ve zararlı çıktıdan kaçınması için rafine edilir.
3. Kullanım (inference). Bir prompt gönderdiğinizde model onu okur ve yanıtı bir seferde bir token olarak üretir; her seferinde kendinden önceki her şeye bakarak olası bir sonraki token'ı seçer.

İçinde bir gerçek veritabanı yoktur ve sohbetinizden öğrenmeye devam etmez. Bir konuşmada "bildiği" her şey ya eğitimden gelir ya da o an önünde olan şeyden — yani bağlam penceresinden.

Çalışılmış bir örnek: bir destek yanıtı

Diyelim ki bir çevrim içi bitki dükkânı işletiyorsunuz ve bir LLM'e şunu yapıştırıyorsunuz:

Bir müşteri yazıyor: "#4412 numaralı siparişim kırık bir saksıyla geldi. Ne yapabilirsiniz?" Politikamız: hasarlı ürünleri, müşteri bir fotoğraf gönderirse 14 gün içinde ücretsiz değiştiriyoruz. Samimi bir yanıt yaz.

Burada olanlar şöyle:

• Metin token'lara bölünür, belki yüz kadar.
• Model tüm metni okur: müşterinin mesajını, politikanızı ve talimatınızı.
• Yanıtı token token üretir: "Merhaba! Saksının kırık gelmesine çok üzüldüm…" ve ücretsiz değişimden bahsederek bir fotoğraf ister.

Şimdi aynı isteği politika olmadan deneyin. Model yine kendinden emin, samimi bir yanıt yazar — ama bir geri ödeme ya da 30 günlük bir süre vaat edebilir, çünkü bunlar gördüğü destek e-postalarında yaygın kalıplardır. Bu bir halüsinasyondur ve LLM'ler hakkında en pratik dersi gösterir: doğruluk, onlara verdiğiniz bilgi kadardır. Güvenilir yanıtlara ihtiyaç duyan uygulamalar, her seferinde modele doğru kaynak materyali besler; buna RAG denir.

Temel terimler

Yaygın hatalar ve yanlış anlamalar

• "Bir şeyleri arar." Sade bir LLM aramaz. Bazı uygulamalar web araması ya da belge erişimi ekler, ama modelin kendisi kalıplara dayanarak üretir.
• "Kendinden emin gibi duyuluyorsa doğrudur." Güven ve doğruluk birbiriyle ilişkisizdir. İsimleri, sayıları, tarihleri, fiyatları ve hukuki ya da tıbbi her şeyi kontrol edin.
• "Söylediğim her şeyi hatırlar." Yalnızca bağlam penceresine sığanı. Çok uzun konuşmalarda eski ayrıntılar kaybolabilir ya da daha az dikkat görebilir. Önemli olanı yeniden belirtin.
• "Bir insan gibi düşünüyor." Problemleri etkileyici biçimde adım adım çözebilir, ama hedefleri, inançları veya sonuçların farkındalığı yoktur. Çıktısını gözden geçirilecek bir taslak olarak görün.
• "Büyük ya da yeni olan her zaman daha iyidir." Basit, yüksek hacimli bir iş için daha küçük, daha ucuz, daha hızlı bir model çoğu zaman doğru seçimdir.
• Kontrol etmeden özel veri göndermek. Müşteri verisini herhangi bir AI servisine yapıştırmadan ya da bir uygulamaya gömmeden önce, sağlayıcının veri kullanımı ve saklama koşullarını kontrol edin.

AI oluşturucunuzdan ne istemelisiniz

LLM uygulamanızı inşa ederken:

• "Bir şeyi değiştirmeden önce ne anladığını ve ne yapacağını bana söyle."
• "İşte tam politika metni; ayrıntıları uydurmak yerine kelimesi kelimesine bunu kullan."
• "Fiyat ya da tarih gibi gerçekleri tahmin etme. Yer tutucu bırak ve bunları bana listele."

Uygulamanızın içinde bir LLM istediğinizde:

• "Sunucudan [sağlayıcı]'nın API'sini çağıran bir [özetle] düğmesi ekle. API anahtarını bir gizli bilgi olarak tut, asla tarayıcıda değil."
• "Politikalarımızı prompt'a koy ki yanıtlar bunlara bağlı kalsın ve emin olunmadığında 'bilmiyorum' desin."
• "Yanıtların ne kadar uzun olabileceğini sınırla ve bir kullanıcının günde kaç istek yapabileceğine üst sınır koy."
• "Her isteğin ne kadara mal olduğunu logla ki kullanımı görebileyim."

Adım adım bir anlatım için uygulamanıza AI özellikleri nasıl eklenir yazısına bakın.

LLM'ler ve Mythex

Mythex'in inşa eden agent'ı bir LLM üzerinde çalışır. Herkes aynı Standard agent'ı alır — bir model seçici yoktur — ve inşa etmek Mythex kredilerini kullanır. Inşa ettiğiniz uygulamanın içindeki AI özellikleri ayrıdır: OpenAI veya Anthropic gibi bir sağlayıcıdan kendi API anahtarınızı getirir, bunu bir proje gizli bilgisi olarak saklarsınız ve sağlayıcı bu kullanım için doğrudan size fatura keser. Uygulamanıza AI ekle docs tarifi, kullanılacak promptu gösterir.

Sorular