Cara Guna LLM API: Token, Kos, Kunci dan Ciri AI Pertama Anda

LLM API ialah perkhidmatan web yang membolehkan aplikasi anda menghantar teks kepada model bahasa besar — seperti model GPT OpenAI, Claude Anthropic atau Gemini Google — dan menerima balasannya dalam kod. Anda mendaftar dengan pembekal, mencipta kunci API, dan pelayan aplikasi anda menghantar permintaan dengan kunci itu; anda dicaj bagi setiap permintaan mengikut bilangan token (sebahagian teks) yang masuk dan keluar. Itulah maksud "menambah AI pada aplikasi" dalam kebanyakan keadaan: permintaan yang ditulis dengan baik kepada model orang lain, dibuat dengan selamat dari pelayan anda.

Mengapa ia penting apabila anda membina dengan AI

Terdapat dua AI yang berbeza dalam aplikasi yang dibina AI, dan mudah untuk tersalah anggap antara keduanya:

1. AI yang membina aplikasi anda — ejen pembina aplikasi itu sendiri, yang menulis kod.
2. AI di dalam aplikasi anda — ciri yang digunakan oleh pengguna anda, seperti pembantu sembang, butang "ringkaskan ini" atau penandaan automatik.

Yang kedua memanggil LLM API dengan kunci anda dan mengenakan bil kepada akaun pembekal anda. Memahami token, konteks dan harga membolehkan anda mereka bentuk ciri yang berfungsi, tidak membocorkan kunci anda, dan tidak mengejutkan anda dengan bil.

Analogi harian: penulis bebas yang sangat cekap, dibayar mengikut perkataan

Bayangkan LLM API sebagai penulis bebas yang hebat yang anda hubungi melalui e-mel dan bayar mengikut perkataan — untuk perkataan yang anda hantar dan perkataan yang mereka tulis balik (dan perkataan yang mereka tulis lebih mahal).

• Mereka tiada ingatan antara e-mel. Jika anda mahu mereka meneruskan perbualan, anda tampal mesej terdahulu ke dalam setiap e-mel baharu.
• Mereka hanya boleh membaca sejumlah tertentu sekali gus. Had itu ialah tetingkap konteks.
• Semakin jelas taklimat anda, semakin baik dan pendek jawapannya — yang juga lebih murah.

Konsep teras

Token

Model membaca dan menulis teks dalam token. Dokumentasi harga Anthropic menganggarkan kira-kira 4 aksara, atau lebih kurang 0.75 perkataan Inggeris, bagi setiap token setakat September 2026. Model dan bahasa yang berbeza menghasilkan token yang berbeza, jadi anggap ini sebagai panduan kasar. Semuanya dikira: arahan anda, mesej pengguna, mana-mana dokumen yang anda sertakan, perbualan terdahulu dan balasannya.

Input dan output

Token input ialah apa yang anda hantar. Token output ialah apa yang model tulis. Pada halaman harga OpenAI, Anthropic dan Google, setakat September 2026, token output berharga beberapa kali ganda lebih mahal daripada token input bagi model yang sama. Harga Gemini Google juga menyatakan bahawa "pemikiran" dalaman model dikira sebagai output.

Tetingkap konteks

Bilangan maksimum token yang boleh diterima oleh model dalam satu permintaan, termasuk balasan. Model moden menerima input yang sangat panjang — sebahagian model semasa Anthropic, sebagai contoh, menerima sehingga satu juta token. Tetapi input yang panjang lebih mahal dan lebih perlahan, jadi hantar hanya apa yang diperlukan oleh tugas itu.

Permintaan tanpa status

Dengan kebanyakan API gaya sembang, setiap permintaan berdiri sendiri secara lalai. Untuk menjadikan sembang "ingat", aplikasi anda menghantar semula mesej terdahulu bersama setiap mesej baharu. Sebab itulah perbualan yang panjang kosnya lebih tinggi bagi setiap mesej berbanding perbualan yang pendek.

Prompt sistem

Arahan yang menetapkan peranan dan peraturan model bagi setiap permintaan, contohnya: "Anda meringkaskan tiket sokongan dalam tiga poin. Jangan sekali-kali sertakan alamat e-mel pelanggan." Pengguna tidak melihatnya, tetapi ia membentuk setiap balasan.

Penstriman

Daripada menunggu jawapan penuh, API boleh menghantar teks semasa ia dijana, supaya pengguna melihat perkataan muncul serta-merta. Ini menjadikan antara muka sembang terasa jauh lebih pantas.

Cara harga berfungsi

Setakat September 2026, disemak pada halaman harga pembekal sendiri:

Sesetengah pembekal juga menawarkan cara untuk mencuba sebelum membayar: Anthropic memberi pengguna baharu sedikit kredit percuma, dan Gemini API Google mempunyai peringkat percuma pada sesetengah model, dengan amaran bahawa kandungan yang dihantar melaluinya mungkin digunakan untuk menambah baik produk Google.

Harga berbeza jauh antara model kecil dan pantas sesebuah pembekal dengan model terbesarnya, dan ia kerap berubah, jadi kami tidak menyatakannya di sini. Anggaran mudah bagi mana-mana ciri ialah: (token input × harga input + token output × harga output) × bilangan permintaan sebulan. Kemudian tambah margin, dan tetapkan had perbelanjaan bulanan dalam papan pemuka pembekal.

Contoh kerja: butang "ringkaskan tiket ini"

Sebuah pasukan sokongan kecil mahukan butang yang menukar rangkaian e-mel pelanggan yang panjang kepada tiga poin dan cadangan balasan.

1. Dapatkan kunci. Buat akaun dengan satu pembekal dan jana kunci API. Tetapkan had perbelanjaan bulanan yang rendah.
2. Simpan kunci sebagai rahsia pada pelayan anda, dinamakan seperti ANTHROPIC_API_KEY atau OPENAI_API_KEY — jangan sekali-kali dalam kod halaman. Lihat pembolehubah persekitaran dan rahsia.
3. Tambah laluan pelayan, POST /api/summarise, yang:
   • menyemak orang itu telah log masuk dan merupakan ahli pasukan sokongan;
   • memuatkan tiket dari pangkalan data;
   • menghantar kepada pembekal satu prompt sistem ("Ringkaskan dalam tiga poin, kemudian draf balasan yang sopan; jangan reka nombor pesanan") bersama teks tiket;
   • mengehadkan panjang balasan dengan tetapan bilangan token output maksimum;
   • memulangkan keputusan dan mencatat berapa banyak token yang digunakan.
4. Butang memanggil laluan anda, bukan pembekal, dan memaparkan ringkasan semasa ia distrim masuk.
5. Urus kegagalan. Jika pembekal lambat atau memulangkan ralat, paparkan "Tidak dapat meringkaskan sekarang" dan pastikan tiket masih boleh digunakan.
6. Ukur. Selepas seminggu, lihat log token. Jika kebanyakan kos datang daripada rangkaian e-mel yang panjang, potong sejarah yang dipetik sebelum menghantar.

Perhatikan apa yang tiada: tiada latihan model, tiada infrastruktur khas. Satu kunci, satu laluan pelayan, satu prompt yang ditulis dengan baik.

Istilah utama

• Kunci API: rahsia yang mengenal pasti akaun anda kepada pembekal. Sesiapa yang memilikinya boleh membelanjakan wang anda.
• Model: LLM khusus yang anda panggil. Pembekal menawarkan beberapa saiz pada harga dan kelajuan yang berbeza.
• Temperature: tetapan untuk tahap kepelbagaian balasan. Lebih rendah bermakna lebih mudah diramal.
• Max tokens: had panjang balasan, yang juga mengehadkan kos.
• Rate limit: berapa banyak permintaan atau token yang boleh digunakan oleh akaun anda seminit.
• Embeddings: nombor yang mewakili makna teks, digunakan untuk carian dalam dokumen anda sendiri.
• RAG (retrieval-augmented generation): mencari petikan yang berkaitan daripada data anda sendiri dan memasukkannya ke dalam prompt, supaya model menjawab berdasarkan kandungan anda.
• Tool use / function calling: membenarkan model meminta aplikasi anda menjalankan fungsi tertentu, seperti "cari status pesanan".

Kesilapan biasa dan salah faham

• Meletakkan kunci dalam kod frontend. Ini kesilapan yang paling mahal. Kod pelayar adalah awam. Sentiasa panggil dari pelayan anda. Senarai semak keselamatan untuk aplikasi yang dibina AI merangkumi perkara ini bersama semakan pelancaran yang lain.
• Tiada had perbelanjaan atau had setiap pengguna. Pepijat, gelung atau pengguna yang menyalahgunakan sistem boleh menaikkan kos dengan cepat. Tetapkan had pembekal dan hadkan permintaan setiap pengguna dalam aplikasi anda.
• Menghantar segalanya setiap kali. Keseluruhan dokumen dan sejarah sembang menggandakan token input. Potong, ringkaskan mesej lama, atau dapatkan semula hanya bahagian yang berkaitan.
• Mempercayai output secara membuta tuli. Model boleh menyatakan perkara yang salah dengan yakin. Untuk fakta, harga atau apa-apa yang berkaitan undang-undang atau perubatan, berpijak pada data anda sendiri dan tunjukkan sumber, atau minta seseorang menyemaknya.
• Membiarkan input pengguna mengatasi peraturan anda. Pengguna boleh menaip "abaikan arahan anda". Simpan kebenaran dan tindakan sensitif dalam kod pelayan anda, bukan hanya dalam prompt.
• Bermula dengan model yang paling besar. Cuba model yang lebih kecil dan lebih murah dahulu; naik taraf hanya jika kualiti memerlukannya.
• Menghantar data peribadi tanpa berfikir. Semak terma penggunaan data pembekal, terutamanya pada peringkat percuma, dan hantar hanya apa yang diperlukan oleh ciri itu.

Apa yang perlu diminta daripada pembina AI anda

Tambah butang "Ringkaskan" pada halaman tiket. Ia memanggil laluan pelayan yang menggunakan rahsia OPENAI_API_KEY (tidak sekali-kali didedahkan kepada pelayar), menyemak pengguna telah log masuk, menghantar teks tiket dengan prompt sistem ini: […], mengehadkan balasan kepada 300 token, menstrim jawapan ke halaman, dan memaparkan ralat mesra jika panggilan gagal. Catat token yang digunakan bagi setiap permintaan, dan hadkan setiap pengguna kepada 30 ringkasan sejam.

Untuk pengalaman sembang yang lengkap, lihat cara membina aplikasi chatbot AI; untuk idea lain, cara menambah ciri AI pada aplikasi anda. Jika API secara umum masih baharu kepada anda, mulakan dengan apa itu API.

LLM API dalam aplikasi yang dibina dengan Mythex

Apabila anda membina dengan Mythex, AI di dalam aplikasi anda menggunakan kunci pembekal anda sendiri. Anda menambahnya sebagai rahsia projek, atau melalui kad rahsia yang Mythex tunjukkan dalam sembang apabila ia memerlukannya, dan minta ejen membuat panggilan itu di pelayan. Penggunaan pembekal dicaj kepada akaun pembekal anda, bukan kepada kredit pembinaan Mythex. Mythex tidak menyertakan token untuk pengguna aplikasi anda atau produk pangkalan pengetahuan terbina dalam, dan had kadar serta kawalan kos adalah tanggungjawab anda untuk mereka bentuk dan menguji. Resipi dokumentasi tambah ciri AI dengan kunci API anda sendiri mempunyai prompt permulaan, dan halaman pembina aplikasi AI menunjukkan tempat untuk bermula.

Soalan lazim