Cara Menggunakan LLM API: Token, Biaya, Key, dan Fitur AI Pertama Anda

Sebuah LLM API adalah layanan web yang memungkinkan aplikasi Anda mengirim teks ke large language model, seperti GPT dari OpenAI, Claude dari Anthropic, atau Gemini dari Google, lalu menerima balasannya dalam kode. Anda mendaftar ke penyedia, membuat API key, dan server aplikasi Anda mengirim permintaan dengan key tersebut. Anda ditagih untuk setiap permintaan berdasarkan jumlah token (potongan teks) yang masuk dan keluar. Itu pada dasarnya yang dimaksud dengan "menambahkan AI ke aplikasi": permintaan yang ditulis dengan baik ke model milik orang lain, dibuat dengan aman dari server Anda.

Mengapa ini penting saat membangun dengan AI

Ada dua AI yang berbeda dalam aplikasi buatan AI, dan mudah sekali tertukar:

1. AI yang membangun aplikasi Anda: agen dari app builder, yang menulis kodenya.
2. AI di dalam aplikasi Anda: fitur yang digunakan pengguna Anda, seperti asisten chat, tombol "ringkas ini", atau pemberian tag otomatis.

Yang kedua memanggil LLM API dengan key Anda dan menagih akun penyedia Anda. Memahami token, konteks, dan harga membuat Anda bisa mendesain fitur yang berfungsi, tidak membocorkan key Anda, dan tidak membuat Anda kaget dengan tagihan.

Analogi sehari-hari: penulis lepas yang sangat cakap, dibayar per kata

Bayangkan LLM API sebagai penulis lepas yang brilian yang Anda hubungi lewat email dan bayar per kata, baik untuk kata yang Anda kirim maupun kata yang mereka tulis kembali (dan kata-kata balasan itu lebih mahal).

• Mereka tidak punya ingatan antar email. Jika Anda ingin percakapan berlanjut, Anda menempelkan pesan sebelumnya di setiap email baru.
• Mereka hanya bisa membaca sejumlah tertentu sekaligus. Batas itu disebut context window.
• Semakin jelas instruksi Anda, semakin baik dan singkat jawabannya, yang juga berarti lebih murah.

Konsep inti

Token

Model membaca dan menulis teks dalam token. Dokumentasi harga Anthropic memperkirakan sekitar 4 karakter, atau sekitar 0,75 kata bahasa Inggris, per token per September 2026. Model dan bahasa yang berbeda menghasilkan tokenisasi yang berbeda, jadi anggap angka itu sebagai panduan kasar. Semuanya dihitung: instruksi Anda, pesan pengguna, dokumen apa pun yang Anda sertakan, percakapan sebelumnya, dan balasannya.

Input dan output

Input token adalah yang Anda kirim. Output token adalah yang ditulis model. Di halaman harga OpenAI, Anthropic, dan Google, per September 2026, output token berharga beberapa kali lipat lebih mahal daripada input token untuk model yang sama. Halaman harga Gemini dari Google juga mencatat bahwa "thinking" internal sebuah model dihitung sebagai output.

Context window

Jumlah maksimum token yang bisa diterima model dalam satu permintaan, termasuk balasannya. Model modern menerima input yang sangat panjang. Beberapa model Anthropic yang sekarang, misalnya, menerima hingga satu juta token. Tetapi input yang panjang lebih mahal dan lebih lambat, jadi kirim hanya yang dibutuhkan tugas.

Permintaan tanpa status

Dengan sebagian besar API bergaya chat, setiap permintaan berdiri sendiri secara default. Agar chat bisa "mengingat", aplikasi Anda mengirim ulang pesan sebelumnya setiap kali ada pesan baru. Itulah sebabnya percakapan panjang membuat biaya per pesan lebih mahal daripada percakapan pendek.

System prompt

Instruksi yang menetapkan peran dan aturan model untuk setiap permintaan: "Anda meringkas tiket dukungan dalam tiga poin. Jangan pernah mencantumkan alamat email pelanggan." Pengguna tidak melihatnya, tetapi ia membentuk setiap balasan.

Streaming

Alih-alih menunggu jawaban lengkap, API bisa mengirim teks saat sedang dibuat, sehingga pengguna langsung melihat kata-kata muncul. Ini membuat antarmuka chat terasa jauh lebih cepat.

Cara kerja harga

Per September 2026, dicek di halaman harga masing-masing penyedia:

Beberapa penyedia juga menawarkan cara untuk mencoba sebelum membayar: Anthropic memberi pengguna baru sejumlah kecil kredit gratis, dan Gemini API dari Google punya tier gratis untuk beberapa model, dengan catatan bahwa konten yang dikirim lewat tier itu mungkin dipakai untuk meningkatkan produk Google.

Harga sangat berbeda antara model kecil dan cepat milik penyedia dan model terbesarnya, dan harganya sering berubah, jadi kami tidak mencantumkannya di sini. Perkiraan sederhana untuk fitur apa pun adalah: (token input × harga input + token output × harga output) × jumlah permintaan per bulan. Lalu tambahkan margin, dan atur batas pengeluaran bulanan di dasbor penyedia.

Contoh: tombol "ringkas tiket ini"

Sebuah tim dukungan kecil ingin tombol yang mengubah utas email panjang dari pelanggan menjadi tiga poin dan saran balasan.

1. Dapatkan key. Buat akun dengan satu penyedia dan buat API key. Atur batas pengeluaran bulanan yang rendah.
2. Simpan key sebagai secret di server Anda, misalnya dengan nama ANTHROPIC_API_KEY atau OPENAI_API_KEY, bukan di kode halaman. Lihat variabel lingkungan dan secret.
3. Tambahkan route server, POST /api/summarise, yang:
   • memeriksa bahwa orang tersebut sudah login dan merupakan anggota tim dukungan;
   • memuat tiket dari database;
   • mengirim ke penyedia sebuah system prompt ("Ringkas dalam tiga poin, lalu buat draf balasan yang sopan; jangan mengarang nomor pesanan") beserta teks tiketnya;
   • membatasi panjang balasan dengan pengaturan maksimum output token;
   • mengembalikan hasilnya dan mencatat berapa banyak token yang dipakai.
4. Tombol memanggil route Anda, bukan penyedia, dan menampilkan ringkasan saat teksnya mengalir.
5. Tangani kegagalan. Jika penyedia lambat atau mengembalikan error, tampilkan "Belum bisa meringkas saat ini" dan biarkan tiket tetap bisa digunakan.
6. Ukur. Setelah seminggu, lihat log token. Jika sebagian besar biaya berasal dari utas email yang panjang, potong riwayat yang dikutip sebelum dikirim.

Perhatikan apa yang tidak ada: tidak ada pelatihan model, tidak ada infrastruktur khusus. Satu key, satu route server, satu prompt yang ditulis dengan baik.

Istilah kunci

• API key: secret yang mengidentifikasi akun Anda ke penyedia. Siapa pun yang memilikinya bisa menghabiskan uang Anda.
• Model: LLM spesifik yang Anda panggil. Penyedia menawarkan beberapa ukuran dengan harga dan kecepatan yang berbeda.
• Temperature: pengaturan seberapa bervariasi balasannya. Semakin rendah, semakin dapat diprediksi.
• Max tokens: batas panjang balasan, yang juga membatasi biaya.
• Rate limit: berapa banyak permintaan atau token yang boleh digunakan akun Anda per menit.
• Embeddings: angka yang merepresentasikan makna teks, dipakai untuk pencarian di dokumen Anda sendiri.
• RAG (retrieval-augmented generation): mencari bagian yang relevan dari data Anda sendiri dan menyertakannya dalam prompt, sehingga model menjawab berdasarkan konten Anda.
• Tool use / function calling: membiarkan model meminta aplikasi Anda menjalankan fungsi tertentu, misalnya "cek status pesanan".

Kesalahan dan kesalahpahaman umum

• Menaruh key di kode frontend. Ini kesalahan yang paling mahal. Kode browser bersifat publik. Selalu panggil dari server Anda. Daftar periksa keamanan untuk aplikasi buatan AI membahas ini bersama pemeriksaan peluncuran lainnya.
• Tidak ada batas pengeluaran atau batas per pengguna. Bug, loop, atau pengguna yang menyalahgunakan bisa membuat biaya cepat membengkak. Atur batas di penyedia dan batasi permintaan per pengguna di aplikasi Anda.
• Mengirim semuanya setiap kali. Dokumen utuh dan seluruh riwayat chat melipatgandakan input token. Potong, ringkas pesan lama, atau ambil hanya bagian yang relevan.
• Mempercayai output begitu saja. Model bisa menyatakan hal yang salah dengan penuh keyakinan. Untuk fakta, harga, atau hal yang bersifat hukum atau medis, dasarkan jawaban pada data Anda sendiri dan tampilkan sumbernya, atau minta orang memeriksanya.
• Membiarkan input pengguna menimpa aturan Anda. Pengguna bisa mengetik "abaikan instruksi Anda". Simpan izin dan aksi sensitif di kode server Anda, bukan hanya di prompt.
• Mulai dengan model terbesar. Coba model yang lebih kecil dan lebih murah dulu; naik hanya jika kualitasnya menuntut.
• Mengirim data pribadi tanpa pikir panjang. Periksa ketentuan penggunaan data penyedia, terutama di tier gratis, dan kirim hanya yang dibutuhkan fitur tersebut.

Apa yang diminta dari AI builder Anda

Tambahkan tombol "Ringkas" di halaman tiket. Tombol itu memanggil route server yang memakai secret OPENAI_API_KEY (tidak pernah diekspos ke browser), memeriksa bahwa pengguna sudah login, mengirim teks tiket dengan system prompt ini: […], membatasi balasan hingga 300 token, men-stream jawabannya ke halaman, dan menampilkan pesan error yang ramah jika panggilan gagal. Catat token yang dipakai per permintaan, dan batasi setiap pengguna hingga 30 ringkasan per jam.

Untuk pengalaman chat lengkap, lihat cara membuat aplikasi chatbot AI. Untuk ide lainnya, lihat cara menambahkan fitur AI ke aplikasi Anda. Jika API secara umum masih baru bagi Anda, mulailah dengan apa itu API.

LLM API di aplikasi yang dibuat dengan Mythex

Saat membangun dengan Mythex, AI di dalam aplikasi Anda memakai key penyedia Anda sendiri. Anda menambahkannya sebagai secret proyek, atau lewat kartu secret yang ditampilkan Mythex di chat saat dibutuhkan, lalu meminta agen untuk membuat pemanggilan itu di server. Pemakaian penyedia ditagihkan ke akun penyedia Anda, bukan ke kredit build Mythex. Mythex tidak menyertakan token untuk pengguna aplikasi Anda atau produk basis pengetahuan bawaan, dan batas laju serta kontrol biaya menjadi tanggung jawab Anda untuk didesain dan diuji. Resep dokumentasi menambahkan fitur AI dengan API key Anda sendiri memiliki prompt awal, dan halaman AI app builder menunjukkan dari mana memulai.

Pertanyaan