Hvernig notar þú LLM-API: tákn, kostnaður, lyklar og fyrsti gervigreindareiginleikinn

LLM-API er vefþjónusta sem gerir appinu þínu kleift að senda texta til stórs tungumálamódels, eins og GPT-módela OpenAI, Claude frá Anthropic eða Gemini frá Google, og fá svarið til baka í kóða. Þú skráir þig hjá veitunni, býrð til API-lykil og netþjónn appsins sendir beiðnir með þeim lykli. Þú greiðir fyrir hverja beiðni eftir fjölda tákna (textabúta) sem fara inn og út. Það er í raun allt sem það að „bæta gervigreind við app“ þýðir oftast: vel skrifuð beiðni til líkans einhvers annars, send á öruggan hátt frá þínum eigin netþjóni.

Af hverju þetta skiptir máli þegar þú smíðar með gervigreind

Í forriti sem gervigreind smíðaði eru tvær ólíkar gervigreindir og auðvelt er að rugla þeim saman:

1. Gervigreindin sem smíðar appið þitt: umboðsmaður smíðatólsins sem skrifar kóðann.
2. Gervigreindin inni í appinu þínu: eiginleiki sem notendur þínir nota, eins og spjallaðstoðarmaður, hnappur sem „tekur saman“ eða sjálfvirk merking.

Sú síðarnefnda kallar á LLM-API með þínum lykli og rukkar þinn reikning hjá veitunni. Að skilja tákn, samhengi og verð er það sem gerir þér kleift að hanna eiginleika sem virkar, lekur ekki lyklinum þínum og kemur ekki á óvart með reikningi.

Dæmi úr daglegu lífi: mjög hæfur verktaki sem fær greitt fyrir hvert orð

Hugsaðu um LLM-API sem afar hæfan lausamennskuhöfund sem þú nærð í með tölvupósti og borgar fyrir hvert orð, bæði fyrir orðin sem þú sendir og orðin sem hann skrifar til baka (og orðin hans kosta meira).

• Hann hefur ekkert minni á milli tölvupósta. Ef þú vilt að hann haldi samtalinu áfram límirðu fyrri skilaboðin inn í hvern nýjan póst.
• Hann getur aðeins lesið ákveðið magn í einu. Þessi mörk eru samhengisglugginn.
• Því skýrari sem fyrirmælin eru, því betra og styttra verður svarið, sem líka er ódýrara.

Helstu hugtökin

Tákn

Módel lesa og skrifa texta í táknum. Verðlagsskjöl Anthropic áætla um 4 stafi, eða um 0,75 ensk orð, í hverju tákni frá september 2026. Mismunandi módel og tungumál brjóta texta niður í tákn á mismunandi hátt, svo líttu á þetta sem gróft viðmið. Allt telst með: fyrirmælin þín, skilaboð notandans, öll skjöl sem þú sendir með, fyrra samtal og svarið.

Inntak og úttak

Inntakstákn eru það sem þú sendir. Úttakstákn eru það sem módelið skrifar. Á verðsíðum OpenAI, Anthropic og Google kostar úttak, frá september 2026, nokkrum sinnum meira en inntak fyrir sama módel. Verðlagning Gemini hjá Google tekur einnig fram að innri „hugsun“ módelsins teljist sem úttak.

Samhengisgluggi

Hámarksfjöldi tákna sem módel getur tekið við í einni beiðni, þar með talið svarinu. Nýrri módel taka við mjög löngum inntaki. Sum núverandi módel Anthropic taka til dæmis allt að milljón tákn. Löng inntök kosta þó meira og taka lengri tíma, svo sendu aðeins það sem verkefnið þarfnast.

Óháðar beiðnir

Flest API í spjallstíl eru óháð hvert öðru sjálfgefið. Til að spjall „muni“ eftir sér sendir appið fyrri skilaboðin aftur með hverju nýju skilaboði. Þess vegna kostar löng samræða meira á hver skilaboð en stutt.

Kerfisfyrirmælin

Fyrirmæli sem skilgreina hlutverk módelsins og reglur fyrir hverja beiðni: „Þú tekur saman þjónustubeiðnir í þremur punktum. Settu aldrei netföng viðskiptavina í svarið.“ Notendur sjá þau ekki, en þau móta hvert svar.

Streymi

Í stað þess að bíða eftir fullu svari getur API sent texta jafnóðum og hann verður til, svo notendur sjá orðin birtast strax. Það gerir spjallviðmót mun hraðari í tilfinningu.

Hvernig verðlagningin virkar

Frá september 2026, samkvæmt verðsíðum veitendanna sjálfra:

Sumar veitur bjóða líka upp á leið til að prófa áður en borgað er: Anthropic gefur nýjum notendum litla fjárhæð í frjálsri inneign, og Gemini API hjá Google er með ókeypis aðgang á sumum módelum, með þeim fyrirvara að efni sem sent er í ókeypis aðgangi kann að vera notað til að bæta vörur Google.

Verð er mjög ólíkt milli smárra, hraðra módela og stærstu módela sömu veitu, og það breytist oft, svo við tilgreinum það ekki hér. Einföld áætlun fyrir hvaða eiginleika sem er lítur þannig út: (inntakstákn × inntaksverð + úttakstákn × úttaksverð) × fjöldi beiðna á mánuði. Bættu síðan við framlegð og settu mánaðarleg útgjaldamörk í mælaborði veitunnar.

Dæmi: hnappur sem tekur saman þjónustubeiðni

Lítið stuðningsteymi vill hnapp sem breytir löngum tölvupóstþræði viðskiptavinar í þrjá punkta og tillögu að svari.

1. Fáðu lykil. Stofnaðu reikning hjá einni veitu og búðu til API-lykil. Settu lágt mánaðarlegt útgjaldamörk.
2. Geymdu lykilinn sem leyndarmál á netþjóninum þínum, til dæmis undir nafninu ANTHROPIC_API_KEY eða OPENAI_API_KEY, aldrei í kóða síðunnar. Sjá umhverfisbreytur og leyndarmál.
3. Bættu við netþjónaleið, POST /api/summarise, sem:
   • athugar að viðkomandi sé skráður inn og tilheyri stuðningsteyminu;
   • sækir þjónustubeiðnina úr gagnagrunninum;
   • sendir veitunni kerfisfyrirmæli („Taktu saman í þremur punktum, skrifaðu síðan kurteist svarsdrög; ekki búa til pöntunarnúmer“) ásamt texta beiðninnar;
   • takmarkar lengd svarsins með hámarksfjölda úttakstákna;
   • skilar niðurstöðunni og skráir hversu mörg tákn voru notuð.
4. Hnappurinn kallar á þína leið, ekki beint á veituna, og sýnir samantektina þegar hún streymir inn.
5. Meðhöndlaðu bilun. Ef veitan er hæg eða skilar villu skaltu sýna „Ekki tókst að taka saman núna“ og leyfa notandanum samt að nota beiðnina.
6. Mældu. Eftir viku skaltu skoða táknaskráninguna. Ef mestur kostnaður stafar af löngum tölvupóstþráðum skaltu stytta eldri tilvitnanir áður en þú sendir.

Taktu eftir hvað vantar: engin þjálfun módels, engir sérstakir innviðir. Einn lykill, ein netþjónaleið, eitt vel skrifað prompt.

Lykilhugtök

• API-lykill: leyndarmálið sem auðkennir reikninginn þinn hjá veitunni. Hver sem hefur hann getur eytt peningunum þínum.
• Módel: tiltekna LLM-líkanið sem þú kallar á. Veitur bjóða upp á nokkrar stærðir á mismunandi verði og hraða.
• Hitastig (temperature): stilling á því hversu breytileg svörin eru. Lægra gildi er fyrirsjáanlegra.
• Hámarksfjöldi tákna (max tokens): takmörk á lengd svars, sem takmarkar líka kostnaðinn.
• Hraðamörk (rate limit): hversu margar beiðnir eða tákn reikningurinn þinn má nota á mínútu.
• Embeddings: tölur sem tákna merkingu texta, notaðar til leitar í þínum eigin skjölum.
• RAG (retrieval-augmented generation): að finna viðeigandi kafla í þínum eigin gögnum og setja þá inn í prompt-ið, svo módelið svari út frá þínu efni.
• Verkfæranotkun / kall á föll: þú leyfir módelinu að biðja appið þitt um að keyra ákveðið fall, eins og „fletta upp stöðu pöntunar“.

Algeng mistök og misskilningur

• Að setja lykilinn í framendakóðann. Dýrasta mistökin. Kóði í vafra er opinber. Kallaðu alltaf frá netþjóninum. Öryggisgátlistinn fyrir forrit sem gervigreind smíðaði fjallar um þetta ásamt öðrum prófunum fyrir útgáfu.
• Engin útgjaldamörk eða mörk á hvern notanda. Villa, lykkja eða notandi sem misnotar kerfið getur hækkað kostnaðinn hratt. Settu mörk hjá veitunni og takmarkaðu beiðnir á hvern notanda í appinu.
• Að senda allt í hvert skipti. Heil skjöl og öll spjallsaga margfalda inntakstákn. Styttu, taktu saman eldri skilaboð eða sæktu aðeins viðeigandi hluta.
• Að treysta úttakinu blint. Módel geta sagt rangt hluti af öryggi. Fyrir staðreyndir, verð eða allt sem varðar lög eða heilsu skaltu byggja svörin á þínum eigin gögnum og sýna heimildir, eða láta manneskju yfirfara.
• Að láta notendainnslátt yfirtaka reglurnar þínar. Notendur geta skrifað „hunsaðu fyrirmælin þín“. Hafðu heimildir og viðkvæmar aðgerðir í kóða netþjónsins, ekki bara í prompt-inu.
• Að byrja með stærsta módelið. Prófaðu minna og ódýrara módel fyrst og farðu upp aðeins ef gæðin krefjast þess.
• Að senda persónuupplýsingar án umhugsunar. Athugaðu skilmála veitunnar um notkun gagna, sérstaklega í ókeypis aðgangi, og sendu aðeins það sem eiginleikinn þarfnast.

Hvað á að biðja smíðatólið þitt um

Bættu „Taka saman“-hnappi á miðasíðuna. Hann kallar á netþjónaleið sem notar leyndarmálið OPENAI_API_KEY (aldrei sýnilegt í vafranum), athugar að notandinn sé skráður inn, sendir texta miðans með þessum kerfisfyrirmælum: […], takmarkar svarið við 300 tákn, streymir svarinu á síðuna og sýnir vinalega villumeldingu ef kallið mistekst. Skráðu hversu mörg tákn voru notuð í hverri beiðni og takmarkaðu hvern notanda við 30 samantektir á klukkustund.

Fyrir fullkomna spjallupplifun sjá hvernig þú smíðar spjallmenni-app með gervigreind. Fyrir aðrar hugmyndir sjá hvernig þú bætir gervigreindareiginleikum við appið þitt. Ef API eru ný fyrir þér skaltu byrja á hvað API er.

LLM-API í forritum sem smíðuð eru með Mythex

Þegar þú smíðar með Mythex notar gervigreindin inni í appinu þínu þinn eigin lykil frá veitunni. Þú bætir honum við sem leyndarmáli verkefnisins, eða í gegnum leyndarmálaspjaldið sem Mythex birtir í spjallinu þegar þörf er á því, og biður umboðsmanninn um að gera kallið á netþjóninum. Notkun veitunnar er rukkuð á þinn reikning hjá veitunni, ekki sem Mythex-smíðieiningar. Mythex inniheldur ekki tákn fyrir notendur appsins þíns né vöru fyrir þekkingargrunn, og hraðamörk og kostnaðarstýringar eru þínar að hanna og prófa. Leiðbeiningin bæta gervigreindareiginleikum við með þínum eigin API-lyklum inniheldur upphafsprompt, og síðan gervigreindarsmíðatól sýnir hvar best er að byrja.

Spurningar