Apa Itu LLM? Large Language Model Dijelaskan dengan Sederhana

LLM, atau large language model, adalah jenis AI yang dilatih dengan teks dalam jumlah sangat besar sehingga mampu memahami dan menghasilkan bahasa. Diberi sebuah teks, ia memprediksi apa yang seharusnya muncul berikutnya, sedikit demi sedikit, dan kemampuan sederhana itu ternyata cukup untuk menjawab pertanyaan, menulis, merangkum, menerjemahkan, dan menulis kode. Model di balik ChatGPT, Claude, dan Gemini semuanya adalah LLM.

Mengapa ini penting saat membangun dengan AI

Jika Anda membangun dengan AI app builder, Anda bekerja dengan LLM dua kali. Pertama, LLM yang membangun: ia membaca permintaan Anda, merencanakan perubahan, dan menulis kodenya. Kedua, Anda mungkin ingin LLM di dalam aplikasi Anda — chatbot, tombol ringkasan, asisten menulis.

Memahami dasarnya membantu di kedua kasus. Hal ini menjelaskan mengapa AI kadang salah memahami permintaan yang samar, mengapa ia bisa dengan yakin menghasilkan sesuatu yang keliru, mengapa percakapan yang sangat panjang bisa membuatnya kehilangan jejak detail sebelumnya, dan mengapa menambahkan fitur AI ke aplikasi Anda membutuhkan biaya setiap kali dipakai. Anda tidak perlu matematikanya — cukup model mental yang sehat.

Analogi sehari-hari

Bayangkan seseorang yang telah membaca perpustakaan yang luar biasa besar — buku, situs web, manual, kode, forum — dan menjadi sangat pandai melanjutkan tulisan apa pun dengan cara yang pas. Berikan awal sebuah email, dan ia akan menyelesaikannya dengan nada Anda. Ajukan pertanyaan, dan ia akan menulis jenis jawaban yang biasanya mengikuti pertanyaan seperti itu.

Tetapi ia tidak punya catatan untuk diperiksa, dan perpustakaannya tutup pada tanggal tertentu. Ia mengingat pola, bukan mencari informasi. Sebagian besar waktu polanya benar. Kadang ia mengisi celah dengan sesuatu yang terdengar benar, dengan keyakinan yang sama persis.

Itulah LLM: penulis yang sangat well-read dan sangat lancar, dengan ingatan yang tidak sempurna dan tanpa pemeriksa fakta bawaan.

Cara kerja LLM, dalam istilah sederhana

Pelatihan. Model diperlihatkan teks dalam jumlah besar dan belajar, dengan menyesuaikan miliaran angka internalnya (parameter), untuk memprediksi teks berikutnya. Desain yang digunakan kebanyakan LLM disebut transformer, yang diperkenalkan oleh peneliti Google pada 2017.
Penyetelan. Model mentah kemudian disempurnakan agar mengikuti instruksi, menjaga percakapan, dan menghindari keluaran yang berbahaya, sering kali dengan umpan balik manusia.
Penggunaan (inferensi). Ketika Anda mengirim prompt, model membacanya dan menghasilkan balasan satu token dalam satu waktu, setiap kali memilih token berikutnya yang paling mungkin berdasarkan semua yang ada sebelumnya.

Di dalamnya tidak ada database fakta, dan ia tidak terus belajar dari chat Anda. Semua yang ia “ketahui” dalam sebuah percakapan berasal dari pelatihan atau dari apa yang ada di depannya saat itu — jendela konteks-nya.

Contoh nyata: balasan dukungan pelanggan

Anggaplah Anda menjalankan toko tanaman online dan menempelkan ini ke sebuah LLM:

Seorang pelanggan menulis: “Pesanan #4412 saya tiba dengan pot yang pecah. Apa yang bisa Anda lakukan?” Kebijakan kami: kami mengganti barang yang rusak secara gratis dalam 14 hari jika pelanggan mengirim foto. Tulis balasan yang ramah.

Yang terjadi:

Teks dipecah menjadi token, mungkin sekitar seratusan.
Model membaca seluruh isinya: pesan pelanggan, kebijakan Anda, dan instruksi Anda.
Ia menghasilkan balasan token demi token: “Halo! Saya sangat menyesal pot Anda tiba dalam keadaan pecah…” dan meminta foto, sambil menyebutkan penggantian gratis.

Sekarang coba permintaan yang sama tanpa kebijakannya. Model tetap menulis balasan yang ramah dan yakin — tetapi mungkin menjanjikan pengembalian dana, atau masa 30 hari, karena itu pola umum dalam email dukungan yang pernah dilihatnya. Itulah halusinasi, dan ini menunjukkan pelajaran praktis paling penting tentang LLM: mereka hanya seakurat informasi yang Anda berikan. Aplikasi yang membutuhkan jawaban yang andal memberi model materi sumber yang tepat setiap kali, teknik yang disebut RAG.

Istilah kunci yang dijelaskan

Istilah	Artinya
Token	Potongan teks — sering kali sebuah kata atau sebagian dari kata. Batas dan harga dihitung dalam token.
Context window (jendela konteks)	Seberapa banyak teks yang bisa dipertimbangkan model sekaligus: prompt Anda, percakapan, dan dokumen apa pun.
Prompt	Input yang Anda berikan kepada model. Lihat apa itu prompt engineering.
Parameter	Angka internal yang dipelajari selama pelatihan. Lebih banyak tidak otomatis berarti lebih baik.
Training data	Teks tempat model belajar.
Knowledge cutoff	Tanggal setelah itu model tidak memiliki data pelatihan, sehingga ia tidak mengetahui peristiwa terbaru kecuali diberi tahu.
Halusinasi	Keluaran yang lancar dan yakin tetapi salah.
Temperature	Pengaturan seberapa bervariasi atau dapat diprediksi keluarannya.
Inferensi	Menjalankan model untuk mendapatkan jawaban. Inilah yang Anda bayar setiap kali dipakai.
Multimodal	Model yang juga bisa menangani gambar, audio, atau input lain, tidak hanya teks.
API	Cara aplikasi mengirim prompt ke LLM secara terprogram. Lihat cara menggunakan API LLM.

Kesalahan umum dan kesalahpahaman

“Ia mencari informasi.” LLM biasa tidak. Beberapa aplikasi menambahkan pencarian web atau pengambilan dokumen, tetapi modelnya sendiri menghasilkan jawaban dari pola.
“Kalau terdengar yakin, berarti benar.” Keyakinan dan akurasi tidak berhubungan. Periksa nama, angka, tanggal, harga, dan apa pun yang berkaitan dengan hukum atau medis.
“Ia mengingat semua yang saya katakan.” Hanya yang muat di jendela konteks. Dalam percakapan yang sangat panjang, detail awal bisa hilang atau kurang diperhatikan. Ulangi hal yang penting.
“Ia berpikir seperti manusia.” Ia bisa bernalar melalui masalah dengan mengesankan, tetapi ia tidak punya tujuan, keyakinan, atau kesadaran akan konsekuensi. Perlakukan keluarannya sebagai draf untuk ditinjau.
“Yang lebih besar atau lebih baru selalu lebih baik.” Untuk tugas sederhana dengan volume tinggi, model yang lebih kecil, lebih murah, dan lebih cepat sering menjadi pilihan yang tepat.
Mengirim data pribadi tanpa memeriksa. Sebelum Anda menempelkan data pelanggan ke layanan AI mana pun atau menanamkannya ke dalam aplikasi, periksa ketentuan penggunaan dan retensi data penyedia.

Yang harus diminta dari AI builder Anda

Ketika LLM sedang membangun aplikasi Anda:

“Sebelum Anda mengubah apa pun, beri tahu saya apa yang Anda pahami dan apa yang akan Anda lakukan.”
“Ini teks kebijakan yang tepat; gunakan persis seperti tertulis, jangan mengarang detail.”
“Jangan menebak fakta seperti harga atau tanggal. Biarkan placeholder dan daftarkan untuk saya.”

Ketika Anda ingin LLM ada di dalam aplikasi Anda:

“Tambahkan tombol [ringkas] yang memanggil API [penyedia] dari server. Simpan API key di secret, jangan pernah di browser.”
“Masukkan kebijakan kami ke dalam prompt agar jawaban tetap sesuai, dan katakan ‘saya tidak tahu’ jika ragu.”
“Batasi seberapa panjang jawaban, dan batasi berapa banyak permintaan yang bisa dibuat satu pengguna per hari.”
“Catat berapa biaya setiap permintaan agar saya bisa melihat pemakaian.”

Untuk panduan langkah demi langkah, lihat cara menambahkan fitur AI ke aplikasi Anda.

LLM dan Mythex

Agent pembangun Mythex berjalan di atas LLM. Semua pengguna mendapatkan agent Standard yang sama — tidak ada pemilih model — dan membangun menggunakan kredit Mythex. Fitur AI di dalam aplikasi yang Anda bangun terpisah: Anda membawa API key Anda sendiri dari penyedia seperti OpenAI atau Anthropic, menyimpannya sebagai secret proyek, dan penyedia menagih pemakaian tersebut langsung kepada Anda. Resep dokumentasi menambahkan AI ke aplikasi Anda menunjukkan prompt yang digunakan.

Pertanyaan

Apa kepanjangan LLM?

LLM adalah singkatan dari large language model: model AI yang dilatih dengan teks dalam jumlah sangat besar untuk memahami dan menghasilkan bahasa. Model di balik ChatGPT, Claude, dan Gemini adalah LLM.

Apakah ChatGPT itu LLM?

ChatGPT adalah aplikasi chat yang dibangun di atas LLM milik OpenAI. LLM adalah model dasar yang menghasilkan teks; aplikasinya menambahkan antarmuka chat, fitur memori, alat, dan lapisan keamanan di sekelilingnya.

Mengapa LLM mengarang jawaban?

LLM menghasilkan kata-kata berikutnya yang paling masuk akal berdasarkan pola yang dipelajarinya, bukan dengan mencari fakta di database. Ketika ia tidak memiliki informasi yang tepat, ia bisa menghasilkan teks yang lancar dan yakin tetapi salah, yang disebut halusinasi. Memberinya materi sumber dan memeriksa jawabannya mengurangi risikonya.

Apakah LLM belajar dari percakapan saya?

Sebuah model tidak berubah selama percakapan; ia hanya melihat apa yang ada di jendela konteksnya. Apakah percakapan Anda nantinya digunakan untuk melatih model di masa depan bergantung pada kebijakan penyedia dan pengaturan Anda, jadi periksa ketentuan layanan yang Anda gunakan.

Apa itu token dalam LLM?

Token adalah potongan teks yang dibaca dan ditulis model — sering kali sebuah kata atau bagian dari kata. Batas konteks dan harga API diukur dalam token, sehingga prompt dan jawaban yang lebih panjang lebih mahal.