Cara Menambahkan Fitur AI ke Aplikasi Anda

Untuk menambahkan fitur AI ke aplikasi Anda, panggil API large language model (LLM) dari server Anda: kirimkan instruksi yang jelas beserta data yang relevan, lalu gunakan hasil yang kembali. Sebagian besar fitur yang berguna termasuk salah satu dari empat pola — meringkas, chatting, mengekstrak data terstruktur, dan mengklasifikasikan — dan masing-masing hanya beberapa lusin baris kode yang bisa ditulis AI builder untuk Anda. Pekerjaan yang menentukan apakah fitur itu bagus atau tidak ada di sekitar pemanggilan tersebut: menjaga kunci API tetap di server, mengendalikan biaya per pengguna, dan memeriksa output sebelum Anda mempercayainya.

Empat pola di balik sebagian besar fitur AI

Ekstraksi dan klasifikasi sering kali paling bernilai dan paling tidak terlihat. Keduanya diam-diam menghemat beberapa menit untuk setiap data, dan karena output-nya berbentuk tetap, Anda bisa memeriksanya secara otomatis. Chat paling terlihat tetapi paling sulit dibuat benar, dan punya panduan sendiri: cara membangun aplikasi chatbot AI.

Cara kerjanya dalam aplikasi Anda

Setiap pola memiliki bentuk yang sama:

1. Pengguna bertindak — mengklik "Ringkas", mengunggah file, mengirim pesan.
2. Front end Anda memanggil server Anda sendiri, bukan penyedia AI.
3. Server Anda menyusun permintaan: instruksi sistem, input pengguna, dan data apa pun yang dibutuhkan model dari database Anda — hanya data yang boleh dilihat pengguna ini.
4. Server Anda memanggil API LLM dengan kunci yang disimpan di variabel lingkungan.
5. Server Anda memeriksa respons — JSON yang valid, label yang dikenal, panjang yang masuk akal — lalu menyimpan atau mengembalikannya.
6. Front end menampilkannya, dengan teks yang mengalir saat tiba untuk jawaban yang lebih panjang.

Kunci berada di server pada langkah 4 dan tidak pernah sampai ke browser. Jika konsep API masih baru, apa itu API adalah pengantar singkat, dan cara menggunakan API LLM membahas token, model, dan kunci lebih dalam.

Memilih penyedia dan model

Penyedia besar — OpenAI, Anthropic, Google, dan lainnya — semuanya menawarkan API teks dengan bentuk yang kurang lebih serupa. Pertanyaan yang berguna saat memilih:

• Kualitas untuk tugas Anda. Coba beberapa contoh nyata dari aplikasi Anda pada dua atau tiga model. Perbedaannya sering lebih jelas pada data Anda daripada pada benchmark umum.
• Ukuran vs biaya. Penyedia menawarkan model yang lebih besar dan lebih mumpuni, serta model yang lebih kecil, lebih murah, dan lebih cepat. Klasifikasi dan ekstraksi sederhana sering berjalan baik dengan model kecil; penalaran panjang atau tulisan yang bernuansa mungkin membutuhkan model yang lebih besar.
• Output terstruktur. Untuk ekstraksi dan klasifikasi, pilih fitur API yang membuat model mengembalikan JSON sesuai skema yang Anda berikan, daripada mengurai teks bebas.
• Penanganan data. Baca ketentuan penyedia tentang apakah input API disimpan atau dipakai untuk pelatihan, dan apakah itu sesuai dengan data yang diberikan pengguna Anda.
• Batas. Akun baru sering memiliki batas laju yang lebih rendah; periksa sebelum peluncuran.

Nama model dan harga sering berubah, jadi kode sebaiknya membaca nama model dari konfigurasi, bukan menuliskannya langsung di banyak tempat.

Menambahkan fitur, langkah demi langkah

Ambil contoh konkret: CRM kecil di mana setiap kontak memiliki riwayat catatan yang panjang.

1. Simpan kuncinya. Buat kunci di dashboard penyedia Anda dan simpan sebagai secret di sisi server, misalnya OPENAI_API_KEY atau ANTHROPIC_API_KEY.

2. Minta satu fitur yang sempit:

Tambahkan tombol "Ringkas" di halaman kontak. Di server, kirim 20 catatan terakhir kontak ke [PROVIDER] menggunakan secret [ENV_NAME], dengan instruksi untuk menulis tiga poin: status saat ini, pertanyaan terbuka, langkah berikutnya. Sertakan hanya catatan yang bisa dilihat pengguna yang sedang masuk. Tampilkan status memuat, simpan ringkasan dengan cap waktu, dan tampilkan "Tidak dapat meringkas saat ini" jika pemanggilan gagal. Jangan pernah mengirim kunci ke browser.

3. Tambahkan ekstraksi di tempat yang menghemat pengetikan:

Saat pengguna menempelkan tanda tangan email ke kotak "Tambah cepat", panggil [PROVIDER] di server dan kembalikan JSON dengan nama, perusahaan, jabatan, email, dan telepon, menggunakan fitur output terstruktur penyedia. Validasi JSON di server, isi awal formulir kontak baru dengan data tersebut, dan biarkan pengguna mengedit sebelum menyimpan. Kosongkan kolom daripada menebak.

"Biarkan pengguna mengedit sebelum menyimpan" adalah bagian terpenting: model mengusulkan, orang memutuskan.

4. Klasifikasi di latar belakang:

Saat tiket dukungan baru masuk, klasifikasikan ke tepat satu dari: tagihan, bug, permintaan fitur, akses akun, lainnya. Gunakan model kecil dengan biaya rendah. Jika respons bukan salah satu label tersebut, simpan "lainnya". Tampilkan label sebagai tag yang bisa diedit.

5. Uji dengan data nyata yang berantakan — catatan panjang, catatan kosong, bahasa lain, tanda tangan tanpa nomor telepon — dan periksa dua puluh output secara berdampingan sebelum merilis.

Menulis instruksi yang berhasil

Instruksi yang Anda kirim dengan setiap permintaan (sering disebut system prompt) adalah tempat kualitas berasal.

• Sebutkan untuk siapa dan apa yang dianggap baik. "Ringkasan dibaca oleh tenaga penjualan dalam 10 detik sebelum panggilan" memberi model sasaran.
• Tetapkan format. Jumlah poin yang tepat, batas panjang, kolom, label.
• Sebutkan apa yang harus dilakukan saat tidak yakin. "Jika catatan tidak menyebut langkah berikutnya, tulis 'Tidak ada langkah berikutnya yang tercatat'." Ini mengurangi jawaban yang dikarang.
• Berikan dua atau tiga contoh input dan output yang baik untuk ekstraksi dan klasifikasi.
• Pisahkan instruksi dari konten pengguna, dan beri label jelas pada konten pengguna, agar model bisa membedakannya.

Simpan prompt dalam file di codebase Anda agar berversi dan bisa ditinjau seperti kode lainnya.

Menjaga biaya tetap terkendali

API LLM menagih berdasarkan token — potongan teks kecil — untuk apa yang Anda kirim dan apa yang kembali. Biaya tumbuh seiring jumlah konteks per permintaan dikalikan seberapa sering dijalankan. Kontrol praktis:

• Kirim hanya yang diperlukan. 20 catatan terakhir, bukan seluruh riwayat. Pangkas dokumen panjang atau pecah menjadi beberapa bagian.
• Gunakan model terkecil yang bisa menyelesaikan tugas. Uji dulu sebelum langsung memakai yang terbesar.
• Batasi panjang output dengan pengaturan maksimum token dari API.
• Cache hasil. Simpan ringkasan dan hanya buat ulang saat sumbernya berubah, bukan di setiap tampilan halaman.
• Batasi per pengguna. Batas harian per akun atau per paket mencegah satu pengguna berat, atau satu skrip, menaikkan tagihan.
• Batasi laju endpoint seperti route mahal lainnya.
• Atur anggaran atau peringatan di dashboard penyedia, dan periksa penggunaan setiap minggu setelah peluncuran.
• Catat penggunaan token per fitur agar Anda tahu fitur mana yang menghabiskan berapa.

Jika fitur AI menjadi inti produk Anda, masukkan biaya operasinya ke dalam harga Anda alih-alih menanggungnya sendiri.

Keamanan dan kepercayaan

Output AI bersifat probabilistik. Ia bisa salah sambil terdengar yakin, dan bisa diarahkan oleh teks yang dibacanya. Bangun dengan itu dalam pikiran:

• Perlakukan output sebagai input yang tidak tepercaya. Validasi strukturnya, escape sebelum dirender sebagai HTML, dan jangan pernah menjalankannya sebagai kode atau query database.
• Libatkan manusia untuk apa pun yang punya konsekuensi — mengirim email, mengubah data, mengembalikan pembayaran. Model menyusun draf; orang yang mengonfirmasi.
• Waspadai prompt injection. Dokumen atau pesan mungkin berisi teks seperti "abaikan instruksimu". Batasi apa yang bisa dilihat model hanya pada apa yang boleh dilihat pengguna saat ini, dan jangan beri alat yang bisa melakukan tindakan sensitif tanpa kode Anda memeriksa izin terlebih dahulu.
• Beri label pada konten AI agar pengguna tahu ringkasan atau saran itu dibuat oleh AI dan bisa memeriksanya.
• Tangani kegagalan dengan baik. Penyedia mengalami gangguan dan batas laju. Atur timeout, tampilkan pesan yang jelas, dan biarkan bagian aplikasi lainnya tetap berjalan.
• Perhatikan apa yang dikirim pengguna. Untuk input teks terbuka, pertimbangkan langkah moderasi dan jelaskan dengan jelas di kebijakan privasi Anda bahwa konten diproses oleh penyedia AI pihak ketiga.

Daftar pemeriksaan yang lebih luas ada di checklist keamanan untuk aplikasi yang dibangun dengan AI.

Kesalahan umum

• Mulai dengan chatbot umum padahal satu tombol "Ringkas" atau "Kategorikan" akan membantu lebih banyak orang.
• Menaruh kunci di kode front end atau di repositori publik.
• Mengirim seluruh database sebagai konteks, yang lambat, mahal, dan berisiko membocorkan data pengguna lain.
• Mempercayai output teks bebas padahal skema atau set label tetap akan membuatnya bisa diperiksa.
• Tidak ada batas per pengguna, baru ketahuan saat tagihan pertama datang.

Menambahkan fitur AI dengan Mythex

Di Mythex, Anda menambahkan AI ke dalam aplikasi Anda sendiri dengan memintanya lewat chat, menggunakan kunci penyedia Anda sendiri. Simpan kunci sebagai secret proyek — ketika agen membutuhkannya, Mythex menampilkan kartu secret di chat sehingga Anda tidak perlu menempelkan kunci ke dalam percakapan — dan agen akan menulis route server, prompt, dan antarmukanya. Penggunaan AI aplikasi Anda ditagih oleh penyedia Anda, terpisah dari kredit Mythex yang Anda pakai untuk membangun. Dokumentasi memiliki prompt awal di menambahkan fitur AI dengan kunci API Anda sendiri.

Pertanyaan