Apa Itu LLM? Model Bahasa Besar Dijelaskan Dengan Mudah
LLM, atau model bahasa besar, ialah sejenis AI yang dilatih dengan jumlah teks yang sangat besar supaya ia dapat memahami dan menjana bahasa. Diberikan beberapa teks, ia meramalkan apa yang sepatutnya datang seterusnya, sedikit demi sedikit, dan kebolehan mudah itu ternyata cukup untuk menjawab soalan, menulis, meringkaskan, menterjemah dan menulis kod. Model di sebalik ChatGPT, Claude dan Gemini semuanya ialah LLM.
Mengapa ia penting apabila anda membina dengan AI
Jika anda membina dengan pembina aplikasi AI, anda bekerja dengan LLM dalam dua keadaan. Pertama, LLM membina untuk anda: ia membaca permintaan anda, merancang perubahan dan menulis kod. Kedua, anda mungkin mahu LLM di dalam aplikasi anda — sebuah chatbot, butang ringkasan, pembantu penulisan.
Memahami asasnya membantu dalam kedua-dua keadaan. Ia menerangkan mengapa AI kadangkala salah faham permintaan yang kabur, mengapa ia boleh menghasilkan sesuatu yang salah dengan yakin, mengapa perbualan yang panjang boleh menyebabkannya kehilangan jejak butiran terdahulu, dan mengapa menambah ciri AI pada aplikasi anda menelan belanja setiap kali digunakan. Anda tidak perlu matematik — cukup model mental yang kukuh.
Analogi harian
Bayangkan seseorang yang telah membaca sebuah perpustakaan yang besar di luar bayangan — buku, laman web, manual, kod, forum — dan telah menjadi sangat mahir meneruskan mana-mana tulisan dengan cara yang sesuai. Beri mereka permulaan e-mel dan mereka akan menamatkannya dengan nada yang sama. Tanya soalan dan mereka akan menulis jenis jawapan yang biasanya mengikut soalan sebegitu.
Tetapi mereka tiada nota untuk disemak, dan perpustakaan itu tutup pada tarikh tertentu. Mereka mengingat semula corak, bukan mencari maklumat. Selalunya corak itu betul. Kadangkala mereka mengisi jurang dengan sesuatu yang hanya kedengaran betul, dengan keyakinan yang sama.
Itulah LLM: penulis yang sangat berpengetahuan dan lancar, dengan ingatan yang tidak sempurna dan tiada pemeriksa fakta terbina dalam.
Cara LLM berfungsi, dalam istilah mudah
- Latihan. Model ditunjukkan teks yang sangat banyak dan belajar, dengan melaraskan berbilion nombor dalamannya (parameter), untuk meramalkan bahagian teks seterusnya. Reka bentuk yang kebanyakan LLM gunakan dipanggil transformer, diperkenalkan oleh penyelidik Google pada 2017.
- Penalaan. Model mentah kemudian diperhalusi untuk mengikuti arahan, mengekalkan perbualan dan mengelak output yang berbahaya, selalunya menggunakan maklum balas manusia.
- Penggunaan (inferens). Apabila anda menghantar prompt, model membacanya dan menjana balasan satu token pada satu masa, setiap kali memilih token seterusnya yang munasabah berdasarkan segala yang ada sebelumnya.
Ia tidak mempunyai pangkalan data fakta di dalamnya, dan ia tidak terus belajar daripada sembang anda. Apa yang ia “tahu” dalam satu perbualan sama ada daripada latihan atau daripada apa yang ada di hadapannya sekarang — tetingkap konteksnya.
Contoh kerja: balasan sokongan pelanggan
Katakan anda menjalankan kedai tumbuhan dalam talian dan menampal ini ke dalam LLM:
Seorang pelanggan menulis: “Pesanan #4412 saya tiba dengan pasu pecah. Apa yang boleh anda buat?” Dasar kami: kami gantikan barang yang rosak secara percuma dalam tempoh 14 hari jika pelanggan menghantar gambar. Tulis balasan yang mesra.
Inilah yang berlaku:
- Teks dipecahkan kepada token, mungkin sekitar seratus.
- Model membaca keseluruhannya: mesej pelanggan, dasar anda dan arahan anda.
- Ia menjana balasan token demi token: “Hai! Saya sangat menyesal pasu anda tiba dalam keadaan pecah…” dan meminta gambar, dengan menyebut penggantian percuma.
Sekarang cuba permintaan yang sama tanpa dasar itu. Model masih menulis balasan yang yakin dan mesra — tetapi ia mungkin menjanjikan bayaran balik, atau tempoh 30 hari, kerana itu corak biasa dalam e-mel sokongan yang pernah dilihatnya. Itulah halunasi, dan ia menunjukkan pelajaran praktikal yang paling penting tentang LLM: ketepatannya hanya setara dengan maklumat yang anda berikan. Aplikasi yang memerlukan jawapan yang boleh dipercayai menyuapkan model dengan bahan sumber yang betul setiap kali, satu teknik yang dipanggil RAG.
Istilah utama dijelaskan
| Istilah | Maksudnya |
|---|---|
| Token | Sebahagian teks — selalunya satu perkataan atau sebahagian daripadanya. Had dan harga dikira dalam token. |
| Tetingkap konteks (context window) | Berapa banyak teks yang boleh dipertimbangkan model sekaligus: prompt anda, perbualan dan sebarang dokumen. |
| Prompt | Input yang anda berikan kepada model. Lihat apa itu kejuruteraan prompt. |
| Parameter | Nombor dalaman yang dipelajari semasa latihan. Lebih banyak tidak semestinya lebih baik. |
| Data latihan | Teks yang model pelajari daripadanya. |
| Tarikh had pengetahuan (knowledge cutoff) | Tarikh selepas itu model tidak mempunyai data latihan, jadi ia tidak tahu peristiwa terkini melainkan diberitahu. |
| Halunasi (hallucination) | Output yang lancar dan yakin tetapi palsu. |
| Suhu (temperature) | Tetapan untuk seberapa pelbagai atau boleh diramal output itu. |
| Inferens (inference) | Menjalankan model untuk mendapat jawapan. Inilah yang anda bayar setiap penggunaan. |
| Multimodal | Model yang juga boleh mengendalikan imej, audio atau input lain, bukan teks sahaja. |
| API | Cara aplikasi menghantar prompt kepada LLM secara program. Lihat cara menggunakan API LLM. |
Kesilapan dan salah faham biasa
- “Ia mencari maklumat.” LLM biasa tidak. Sesetengah aplikasi menambah carian web atau perolehan dokumen, tetapi model itu sendiri menjana daripada corak.
- “Jika ia kedengaran yakin, ia betul.” Keyakinan dan ketepatan tidak berkaitan. Semak nama, nombor, tarikh, harga dan apa-apa yang berkaitan undang-undang atau perubatan.
- “Ia ingat semua yang saya katakan.” Hanya apa yang muat dalam tetingkap konteks. Dalam perbualan yang sangat panjang, butiran awal mungkin hilang atau kurang diberi perhatian. Nyatakan semula perkara yang penting.
- “Ia berfikir seperti manusia.” Ia boleh bernalar melalui masalah dengan mengagumkan, tetapi ia tiada matlamat, kepercayaan atau kesedaran tentang akibat. Anggap outputnya sebagai draf untuk disemak.
- “Yang lebih besar atau lebih baharu sentiasa lebih baik.” Untuk tugas mudah dengan jumlah tinggi, model yang lebih kecil, lebih murah dan lebih pantas selalunya pilihan yang betul.
- Menghantar data peribadi tanpa semakan. Sebelum anda menampal data pelanggan ke mana-mana perkhidmatan AI atau membinanya ke dalam aplikasi, semak dasar penggunaan dan penyimpanan data pembekal.
Apa yang patut diminta daripada pembina AI anda
Apabila LLM sedang membina aplikasi anda:
- “Sebelum anda mengubah apa-apa, beritahu saya apa yang anda faham dan apa yang anda akan lakukan.”
- “Ini teks dasar yang tepat; gunakannya perkataan demi perkataan dan jangan reka butiran.”
- “Jangan meneka fakta seperti harga atau tarikh. Tinggalkan tempat letak dan senaraikannya untuk saya.”
Apabila anda mahu LLM di dalam aplikasi anda:
- “Tambah butang [ringkaskan] yang memanggil API [pembekal] dari pelayan. Simpan kunci API dalam rahsia, jangan sekali-kali dalam pelayar.”
- “Letakkan dasar kami dalam prompt supaya jawapan kekal dengannya, dan katakan ‘saya tidak tahu’ apabila tidak pasti.”
- “Hadkan panjang jawapan, dan hadkan berapa banyak permintaan seorang pengguna boleh buat sehari.”
- “Log kos setiap permintaan supaya saya dapat melihat penggunaan.”
Untuk panduan langkah demi langkah, lihat cara menambah ciri AI ke aplikasi anda.
LLM dan Mythex
Ejen membina Mythex berjalan atas LLM. Semua orang mendapat ejen Standard yang sama — tiada pemilih model — dan pembinaan menggunakan kredit Mythex. Ciri AI di dalam aplikasi yang anda bina adalah berasingan: anda membawa kunci API anda sendiri daripada pembekal seperti OpenAI atau Anthropic, menyimpannya sebagai rahsia projek, dan pembekal itu mengenakan bayaran penggunaan tersebut secara langsung kepada anda. Resipi dokumentasi tambah AI ke aplikasi anda menunjukkan prompt yang patut digunakan.
Soalan lazim
Apakah maksud LLM?
LLM bermaksud model bahasa besar: model AI yang dilatih dengan jumlah teks yang sangat besar untuk memahami dan menjana bahasa. Model di sebalik ChatGPT, Claude dan Gemini ialah LLM.
Adakah ChatGPT itu LLM?
ChatGPT ialah aplikasi sembang yang dibina di atas LLM OpenAI. LLM ialah model asas yang menjana teks; aplikasi itu menambah antara muka sembang, ciri memori, alatan dan lapisan keselamatan di sekelilingnya.
Mengapa LLM mereka-reka sesuatu?
LLM menjana perkataan seterusnya yang paling munasabah berdasarkan corak yang dipelajarinya, bukan dengan mencari fakta dalam pangkalan data. Apabila ia tidak mempunyai maklumat yang betul, ia boleh menghasilkan teks yang lancar dan yakin tetapi salah, yang dipanggil halunasi. Memberinya bahan sumber dan menyemak jawapannya mengurangkan risiko itu.
Adakah LLM belajar daripada perbualan saya?
Model tidak berubah semasa perbualan; ia hanya melihat apa yang ada dalam tetingkap konteksnya. Sama ada perbualan anda kemudian digunakan untuk melatih model masa depan bergantung pada dasar pembekal dan tetapan anda, jadi semak syarat perkhidmatan yang anda gunakan.
Apakah token dalam LLM?
Token ialah sebahagian teks yang dibaca dan ditulis oleh model — selalunya satu perkataan atau sebahagian perkataan. Had konteks dan harga API diukur dalam token, jadi prompt dan jawapan yang lebih panjang menelan kos lebih banyak.