Kako narediti orodje za pisanje z umetno inteligenco: pozivi, ključi, stroški in omejitve

Za izdelavo orodja za pisanje z AI izberite eno konkretno nalogo pisanja, na primer opise izdelkov, motivacijska pisma ali povzetke sestankov, in jo spremenite v obrazec: vnose, ki jih uporabnik izpolni, preizkušeno predlogo poziva in izhod, prikazan v urejevalniku, ki ga lahko spremeni in shrani. Besedilo ustvari jezikovni model, ki ga kličete prek API-ja s svojim ključem, vedno s svojega strežnika, nikoli iz brskalnika. Vredno pa orodje naredi to, kako dobro razumete nalogo, ne model.

Zakaj je pomembna „ena naloga“

Splošni klepetalni asistenti že pišejo karkoli, zato se novo orodje, ki „pomaga pri pisanju“, neposredno primerja z njimi. Orodje za ozko nalogo zmaga, ker:

• Zahteva prave vnose. Orodje za opise nepremičnin vpraša za število spalnic, lokacijo in posebnosti, zato uporabnikom ni treba ničesar zapomniti.
• Skrije poziv. Ure in ure porabite, da navodila napišete pravilno enkrat; uporabniki dobijo korist z enim klikom.
• Ustvari dosleden format. Enaka struktura, dolžina in ton vsakič, kar je pomembno, kadar izhod gre naravnost na spletno stran ali v CRM.
• Se vključi v delovni tok. Shranjeni osnutki, predloge za posamezno stranko, gumb za kopiranje, ki prilepi besedilo v pravilni obliki.

Dobre prve naloge se ponavljajo, imajo jasno „dobro“ in „slabo“ različico ter jih opravlja skupina, do katere lahko pridete: posredovalci za nepremičnine, kadrovski posredniki, lastniki trgovin, učitelji, ki pišejo ocene.

Iz česa je sestavljeno orodje za pisanje z AI

Odločitve pred gradnjo

Ponudnik modela

Svoj API ključ prinesete od ponudnika, kot so OpenAI, Anthropic ali Google. Izbirajte glede na kakovost pisanja za vašo nalogo, hitrost in ceno ter pred odločitvijo preizkusite dva ali tri na istem nizu pravih vnosov. Ponudnika zadržite za eno funkcijo v kodi, da ga boste kasneje lahko zamenjali. Naš vodnik kako uporabljati LLM API-je pojasni žetone, ključe in modele cen; za nastavitve posameznih ponudnikov glejte integracijo API-ja OpenAI in integracijo API-ja Claude.

Kako boste nadzirali stroške

Vsako generiranje vas stane, brezplačni načrt pa se lahko zlorablja. V nadzorni plošči ponudnika nastavite mesečno omejitev porabe, v aplikaciji omejite generiranja na uporabnika na dan, omejite dolžino vnosa in izhoda ter za preprosta opravila izberite cenejši model. Stroška na generiranje ne navajajte uporabnikom, dokler ne izmerite dejanske porabe na podlagi računov svojega ponudnika.

Brezplačno, plačljivo ali krediti

Majhna brezplačna količina pomaga ljudem preizkusiti orodje. Potem je mesečni načrt z velikodušno omejitvijo enostaven za razumevanje; krediti so primernejši za orodja, kjer so nekatera generiranja veliko večja od drugih. Glejte kako določiti ceno SaaS izdelka.

Kaj shranjujete

Uporabniki lahko prilepijo zaupne gradiva: podatke o strankah, neobjavljene izdelčne načrte, podatke o dijakih. Odločite se, kaj hranite, kako dolgo in ali se pošilja ponudniku na način, ki bi ga lahko ohranil. Preberite podatkovno politiko ponudnika in jo jasno povzemite v politiki zasebnosti.

Napišite predlogo poziva kot naročilo

Poziv v največji meri določa kakovost izhoda. Obravnavajte ga kot navodilo za zunanjega pisca:

1. Vloga in naloga: „Pišete oglase za stanovanjske nepremičnine v Združenem kraljestvu.“
2. Pravila: dolžina, struktura, česa se izogibati („brez izmišljenih lastnosti“, „brez pretiranih pridevnikov, kot je ‚osupljivo‘“).
3. Uporabnikovi vnosi, jasno označeni.
4. Primer dobrega izhoda, če ga imate.
5. Format: naslovi, alineje, navadno besedilo ali Markdown.

Zgradite testni niz desetih do dvajsetih pravih vnosov in ob vsaki spremembi poziva preverite izhode. Majhne spremembe besedila lahko popravijo en primer, tri druge pa pokvarijo.

Prvi poziv za graditelja z AI

Zgradi spletno aplikacijo ListingWriter, ki za posredovalce za nepremičnine piše opise oglasov. Po prijavi uporabnik vidi svoje shranjene oglase in obrazec „Nov oglas“ s polji: vrsta nepremičnine, število spalnic, kopalnic, površina, ključne lastnosti (vsaka v svoji vrstici), bližnje storitve, ton (strokovno, toplo ali jedrnato) in dolžina (kratko ali dolgo). Ob oddaji strežnik iz teh polj zgradi poziv in pokliče ponudnika AI s skrivnostjo AI_API_KEY; besedilo pretakajte v urejevalnik na strani. Uporabnik lahko besedilo ureja, shrani, kopira in ponovno ustvari. Oglase shranite v bazo, vsak uporabnik pa vidi samo svoje. Na strežniku omejite vsakega uporabnika na 30 generiranj na dan in prikažite, koliko jih je še ostalo. API ključa nikoli ne pošljite brskalniku. Čist, preprost dizajn.

Ko graditelj potrebuje ključ, ga dodajte kot skrivnost v nastavitvah projekta, ne pa v besedilo klepeta ali v kodo.

Gradnja po korakih

1. Zgradite osnovno zanko: obrazec, klic strežnika, pretakan izhod, urejevalnik. Preizkusite s svojimi pravimi vnosi.
2. Prilagodite poziv na svojem testnem nizu, dokler večina izhodov ne potrebuje le lahkega urejanja.
3. Dodajte bazo za shranjene osnutke, nato račune, in preverite, ali en uporabnik ne vidi osnutkov drugega, če spremeni ID v naslovu.
4. Dodajte omejitve: dnevne omejitve na uporabnika, največjo dolžino vnosa in jasno sporočilo, ko je omejitev dosežena.
5. Obravnavajte napake: ponudnik bo občasno potekel ali vrnil napako. Prikažite prijazno sporočilo in ne štejte neuspelih generiranj v dovoljenje uporabnika.
6. Dodajte obračun, če zaračunavate; najprej ga zgradite v testnem načinu. Glejte kako dodati plačila v vašo aplikacijo.
7. Varnostni pregled. Preverite, da ključa ni v nobeni kodi brskalnika in da končna točka za generiranje zavrne odjavljene uporabnike.
8. Predstavite orodje petim ljudem, ki to delo opravljajo, in jih opazujte pri uporabi.

Pogoste napake

• Gradnja splošnega „AI pisatelja“. Težko ga je razložiti in težko premagati klepetalne asistente, ki jih ljudje že uporabljajo.
• Klicanje modela iz brskalnika. Vsak lahko skopira vaš ključ in porabi vaš denar.
• Brez omejitev porabe. En skript lahko čez noč porabi veliko denarja.
• Predstavljanje izhoda kot dejstva. Modeli izmislijo podrobnosti. Povejte uporabnikom, naj preverijo dejstva, in pišite pozive, ki prepovedujejo dodajanje informacij, ki niso v vnosih.
• Obljubljanje, da „premagate detektorje AI“ ali ustvarjate „besedilo brez plagiatorstva“. Tega ne morete zagotoviti, poleg tega pa privabi zlorabo.
• Spreminjanje poziva brez testnega niza, nato pa ugotovitev, da je kakovost za polovico uporabnikov padla.

Kdaj je boljša gotova rešitev

Če je naloga pisanja splošna, na primer e-pošta, osnutki blogov ali preoblikovanje besedila, so za začetek verjetno dovolj AI asistenti in funkcije pisanja, ki so že vgrajene v pisarniško programsko opremo in e-pošto, ter so cenejši od gradnje. Uveljavljena orodja za AI-copywriting pokrivajo tudi pogoste tržne oblike z ekipnimi funkcijami. Lastno orodje gradite, kadar je naloga vezana na določeno panogo ali delovni tok, kadar morate v vsakem izhodu imeti svoje podatke ali slog podjetja ali kadar želite prodajati osredotočeno orodje skupini, ki jo dobro poznate.

Gradnja z Mythexom

Mythex je graditelj aplikacij z umetno inteligenco: orodje opišete, ta pa v živem predogledu zgradi obrazec, klic na strežniku, urejevalnik in shranjene osnutke, nato pa ga objavi na javnem naslovu. AI v vašem orodju uporablja vaš lasten ključ ponudnika, shranjen kot skrivnost projekta (Mythex prikaže kartico s skrivnostmi v klepetu, ko je potrebna), uporaba pa se zaračunava vašemu računu pri ponudniku, ne kreditom za gradnjo v Mythexu. Mythex ne vključuje žetonov za uporabnike vaše aplikacije ali vgrajenih omejitev hitrosti; te zahtevate in preizkusite sami.

Ko zahtevate shranjevanje osnutkov, Mythex projektu doda bazo Postgres. Prijava uporabnikov je prijavni pristop, ki ga izberete sami, plačljivi načrti pa uporabljajo vaš lasten račun Stripe. Dokumentaciji o dodajanju AI z lastnimi API ključi in AI v vaši aplikaciji imata začetne pozive, kako dodati funkcije AI v aplikacijo pa pokriva manjše funkcije AI, ki jih lahko dodate obstoječemu izdelku.

Vprašanja