Kako dodati AI funkcije vašoj aplikaciji

Da biste dodali AI funkcije aplikaciji, pozovite API velikog jezičkog modela (LLM) sa svog servera: pošaljite mu jasna uputstva plus relevantne podatke i iskoristite ono što se vrati. Većina korisnih funkcija spada u jedan od četiri obrasca: sažimanje, chat, izvlačenje strukturisanih podataka i klasifikaciju. Svaka je nekoliko desetina linija koda koje AI alat za izradu aplikacija može da napiše umesto vas. Posao koji odlučuje da li je funkcija dobra odvija se oko samog poziva: čuvanje API ključa na serveru, kontrola troška po korisniku i provera izlaza pre nego što mu verujete.

Četiri obrasca iza većine AI funkcija

Izvlačenje i klasifikacija su često najvrednije, a najmanje vidljive. Tiho uštede nekome nekoliko minuta na svakom zapisu, a pošto je izlaz fiksnog oblika, možete ga automatski proveriti. Chat je najvidljiviji, ali ga je najteže dobro napraviti, i za njega postoji poseban vodič: kako napraviti AI chatbot aplikaciju.

Kako se uklapa u vašu aplikaciju

Svaki obrazac ima isti oblik:

1. Korisnik radi nešto — klikne "Sažmi", otpremi fajl, pošalje poruku.
2. Vaš frontend poziva vaš server, a ne AI provajdera.
3. Vaš server sastavlja zahtev: sistemska uputstva, korisnikov unos i podatke iz baze koje model treba — samo podatke koje ovaj korisnik sme da vidi.
4. Vaš server poziva LLM API sa ključem sačuvanim u promenljivoj okruženja.
5. Vaš server proverava odgovor — ispravan JSON, poznata oznaka, razumna dužina — pa ga čuva ili vraća.
6. Frontend ga prikazuje, i za duže odgovore prikazuje tekst dok stiže.

Ključ stoji na serveru u koraku 4 i nikad ne dolazi do pregledača. Ako vam je pojam API-ja nov, šta je API je kratak uvod, a kako koristiti LLM API-je detaljnije objašnjava tokene, modele i ključeve.

Izbor provajdera i modela

Vodeći provajderi — OpenAI, Anthropic, Google i drugi — nude tekstualne API-je sa sličnim oblikom. Korisna pitanja pri izboru:

• Kvalitet za vaš zadatak. Isprobajte nekoliko stvarnih primera iz aplikacije na dva ili tri modela. Razlike su često jasnije na vašim podacima nego u opštim testovima.
• Veličina i cena. Provajderi nude veće, sposobnije modele i manje, jeftinije i brže. Klasifikacija i jednostavno izvlačenje često dobro rade na malom modelu; dugo zaključivanje ili nijansirano pisanje mogu zahtevati veći.
• Strukturisan izlaz. Za izvlačenje i klasifikaciju koristite API funkciju koja tera model da vrati JSON prema šemi koju mu date, umesto da parsirate slobodan tekst.
• Rukovanje podacima. Pročitajte uslove provajdera o tome da li se ulazni podaci API-ja čuvaju ili koriste za treniranje, i da li to odgovara podacima koje vam korisnici daju.
• Limiti. Novi nalozi često imaju niže limite broja zahteva; proverite ih pre lansiranja.

Nazivi modela i cene se često menjaju, zato kod treba da čita naziv modela iz konfiguracije, a ne da ga hardkoduje na više mesta.

Dodavanje funkcije, korak po korak

Uzmite konkretan primer: mali CRM u kome svaki kontakt ima dugu istoriju beleški.

1. Sačuvajte ključ. Napravite ključ u kontrolnoj tabli provajdera i sačuvajte ga kao tajnu vrednost na serveru, na primer OPENAI_API_KEY ili ANTHROPIC_API_KEY.

2. Zatražite jednu usku funkciju:

Dodaj dugme "Sažmi" na stranicu kontakta. Na serveru pošalji poslednjih 20 beleški kontakta provajderu [PROVAJDER] koristeći tajnu vrednost [IME_PROMENLJIVE], sa uputstvom da napiše tri tačke: trenutni status, otvorena pitanja, sledeći korak. Uključi samo beleške koje prijavljeni korisnik sme da vidi. Prikaži stanje učitavanja i sačuvaj sažetak sa vremenskom oznakom. Ako poziv ne uspe, prikaži "Trenutno ne možemo da sažmemo". Ključ nikad ne šalji u pregledač.

3. Dodajte izvlačenje tamo gde štedi kucanje:

Kada korisnik nalepi potpis iz emaila u polje "Brzo dodavanje", pozovi [PROVAJDER] na serveru i vrati JSON sa imenom, kompanijom, nazivom posla, emailom i telefonom, koristeći funkciju strukturisanog izlaza provajdera. Proveri JSON na serveru, popuni formular za novi kontakt tim podacima i omogući korisniku da izmeni pre čuvanja. Ostavi polja prazna umesto da pogađaš.

Važan je deo "omogući korisniku da izmeni pre čuvanja": model predlaže, a osoba odlučuje.

4. Klasifikujte u pozadini:

Kada stigne novi tiket za podršku, klasifikuj ga tačno u jednu od kategorija: billing, bug, feature request, account access, other. Koristi mali model niske cene. Ako odgovor nije jedna od tih oznaka, sačuvaj "other". Prikaži oznaku kao izmenjivu značku.

5. Testirajte sa stvarnim, nesređenim podacima — duge beleške, prazne beleške, drugi jezici, potpis bez broja telefona — i pre objavljivanja pogledajte dvadeset izlaza jedan pored drugog.

Pisanje uputstava koja rade

Uputstva koja šaljete uz svaki zahtev (često se zovu sistemski prompt) su mesto gde nastaje kvalitet.

• Recite kome je namenjeno i kako izgleda dobar rezultat. "Sažetke čita prodavac za 10 sekundi pre poziva" modelu daje cilj.
• Fiksirajte format. Tačan broj tačaka, ograničenje dužine, polja, oznake.
• Recite šta da radi kada nije siguran. "Ako beleške ne pominju sledeći korak, napiši 'Nije zabeležen sledeći korak'." Ovo smanjuje izmišljene odgovore.
• Dajte dva ili tri primera dobrog unosa i izlaza za izvlačenje i klasifikaciju.
• Držite uputstva odvojeno od korisničkog sadržaja i jasno označite korisnički sadržaj, da model može da ih razlikuje.

Čuvajte prompte u fajlovima u kodu, da budu verzionisani i pregledljivi kao i ostali kod.

Držanje troškova pod kontrolom

LLM API-ji naplaćuju po tokenima, malim delovima teksta, i za ono što šaljete i za ono što se vraća. Trošak raste sa količinom konteksta po zahtevu pomnoženom sa učestalošću. Praktične kontrole:

• Šaljite samo ono što treba. Poslednjih 20 beleški, a ne celu istoriju. Skratite duge dokumente ili ih podelite.
• Koristite najmanji model koji obavlja posao. Testirajte pre nego što podrazumevano uzmete najveći.
• Ograničite dužinu izlaza podešavanjem maksimalnog broja tokena u API-ju.
• Keširajte rezultate. Sačuvajte sažetak i ponovo ga generišite samo kada se izvor promeni, a ne pri svakom otvaranju stranice.
• Ograničite po korisniku. Dnevni limit po nalogu ili planu sprečava da jedan intenzivan korisnik ili jedna skripta napune račun.
• Ograničite broj zahteva na krajnoj tački kao i svaku drugu skupu rutu.
• Postavite budžet ili upozorenje u kontrolnoj tabli provajdera i proveravajte potrošnju jednom nedeljno nakon lansiranja.
• Beležite potrošnju tokena po funkciji da znate koja košta koliko.

Ako su AI funkcije u središtu vašeg proizvoda, uračunajte njihov trošak u cenu, umesto da ga apsorbujete.

Bezbednost i poverenje

Izlaz AI-ja je verovatnosni. Može biti pogrešan dok zvuči sigurno, a tekst koji čita može da ga usmeri. Gradite za to:

• Tretirajte izlaz kao nepouzdan unos. Proverite strukturu, eskejpujte ga pre prikazivanja kao HTML i nikad ga ne izvršavajte kao kod ili upit ka bazi.
• Zadržite čoveka u procesu za sve što ima posledice — slanje emaila, izmenu zapisa, vraćanje novca. Model predlaže; osoba potvrđuje.
• Zaštitite se od prompt injection. Dokument ili poruka može sadržati tekst tipa "ignoriši svoja uputstva". Ograničite šta model može da vidi na ono što trenutni korisnik sme da vidi i ne dajte mu alate koji mogu da izvrše osetljive radnje dok vaš kod ne proveri dozvole.
• Označite AI sadržaj da korisnici znaju da su sažetak ili predlog generisani i mogu da ga provere.
• Pravilno obradite greške. Provajderi imaju prekide i limite. Postavite vremensko ograničenje, prikažite jasnu poruku i neka ostatak aplikacije nastavi da radi.
• Pazite šta korisnici šalju. Za otvorene tekstualne unose razmislite o koraku moderacije i jasno napišite u politici privatnosti da sadržaj obrađuje treći provajder AI-ja.

Šira lista provera nalazi se u bezbednosnoj listi za aplikacije pravljene uz AI.

Česte greške

• Početak sa opštim chatbotom kada bi jedno dugme "Sažmi" ili "Kategorizuj" pomoglo većem broju ljudi.
• Ključ u frontend kodu ili u javnom repozitorijumu.
• Slanje cele baze kao konteksta, što je sporo, skupo i može da otkrije podatke drugih korisnika.
• Verovanje slobodnom tekstu tamo gde bi šema ili fiksni skup oznaka omogućio proveru.
• Nema limita po korisniku, što se otkrije kada stigne prva faktura.

Dodavanje AI funkcija uz Mythex

U Mythexu AI u sopstvenu aplikaciju dodajete tako što to zatražite u chatu, koristeći svoj ključ provajdera. Ključ sačuvajte kao tajnu vrednost projekta — kada agentu zatreba, Mythex u chatu prikaže karticu sa tajnama, pa ne morate da lepite ključ u razgovor — a agent napiše serversku rutu, prompte i korisnički interfejs. AI potrošnja vaše aplikacije naplaćuje se od vašeg provajdera, odvojeno od Mythex kredita koje trošite na izradu. U dokumentaciji se nalazi početni prompt u dodavanje AI funkcija uz sopstvene API ključeve.

Pitanja