Апп-даа AI функц хэрхэн нэмэх

Аппдаа AI функц нэмэхийн тулд серверээсээ том хэлний загварын (LLM) API дуудаж, тодорхой заавар болон холбогдох өгөгдлөө илгээж, буцаж ирсэн үр дүнг ашигла. Хамгийн ашигтай функцүүд дөрвөн хэв маягийн аль нэгд багтдаг: хураангуйлах, чатлах, бүтэцтэй өгөгдөл задлах, ангилах. Тус бүр нь AI бүтээгчийн бичиж өгөх чадвартай хэдэн арван мөрийн код. Функц сайн эсэхийг шийддэг ажил нь дуудалтын эргэн тойронд байдаг: API түлхүүрийг серверт байлгах, хэрэглэгч бүрийн зардлыг хянах, итгэхээсээ өмнө гаралтыг шалгах.

Ихэнх AI функцийн ард байдаг дөрвөн хэв маяг

Задлах болон ангилах нь ихэнхдээ хамгийн үнэ цэнтэй, харагддаггүй байдаг. Тэд бүртгэл бүрт хэдэн минут хэмнэдэг, мөн гаралт нь тогтмол хэлбэртэй учраас автоматаар шалгаж болно. Чат хамгийн харагдахуйц ч зөв хийхэд хамгийн хэцүү, мөн тусдаа гарын авлагатай: AI чатбот апп хэрхэн бүтээх.

Аппдаа хэрхэн таарах вэ

Бүх хэв маяг ижил хэлбэртэй:

1. Хэрэглэгч үйлдэл хийдэг: «Хураангуйлах» дарах, файл байршуулах, мессеж илгээх.
2. Таны frontend өөрийн серверийг дуудна, AI нийлүүлэгчийг биш.
3. Таны сервер запросыг бүрдүүлнэ: системийн заавар, хэрэглэгчийн оролт, загварт хэрэгтэй өгөгдөл өгөгдлийн сангаас. Зөвхөн энэ хэрэглэгчид харах эрхтэй өгөгдөл.
4. Таны сервер LLM API-г дуудна, түлхүүрийг орчны хувьсагчид хадгалсан байдлаар.
5. Таны сервер хариуг шалгана: зөв JSON эсэх, мэдэгдсэн шошго эсэх, боломжит урт эсэх. Дараа нь хадгалж эсвэл буцаана.
6. Frontend харуулна, урт хариултыг ирэх тусам урсгалаар харуулна.

Түлхүүр 4-р алхамд серверт үлдэж, хөтөчид хэзээ ч хүрэхгүй. API гэдэг ойлголт шинэ бол API гэж юу вэ товч танилцуулга өгнө, LLM API-г хэрхэн ашиглах нь токен, загвар, түлхүүрийн талаар илүү гүнзгий тайлбарласан.

Нийлүүлэгч ба загвар сонгох

OpenAI, Anthropic, Google болон бусад том нийлүүлэгчид ойролцоо хэлбэртэй текстийн API-тай. Сонгохдоо дараах асуултууд хэрэгтэй:

• Таны ажил дээрх чанар. Аппынхаа жинхэнэ жишээнүүдийг хоёр, гурван загвар дээр туршаарай. Ялгаа нь ерөнхий бенчмарк дээрээс илүү таны өгөгдөл дээр тод харагддаг.
• Хэмжээ ба зардал. Нийлүүлэгчид илүү том, чадвартай загварууд болон жижиг, хямд, хурдан загварууд санал болгодог. Ангилах болон энгийн задлах ихэвчлэн жижиг загвар дээр сайн ажилладаг; урт үндэслэл эсвэл нарийн бичвэрт том загвар хэрэгтэй байж болно.
• Бүтэцтэй гаралт. Задлах, ангилахад загварыг таны өгсөн схемд нийцсэн JSON буцаадаг API боломжийг илүүд үз, чөлөөт текстийг задлахаас зайлсхий.
• Өгөгдөл хадгалалт. API оролтыг хадгалдаг эсвэл сургалтад ашигладаг эсэхийг нийлүүлэгчийн нөхцлөөс уншаарай, мөн энэ нь хэрэглэгчдийнхээ өгөгдөлд тохирох эсэхийг шалгаарай.
• Хязгаар. Шинэ бүртгэлд ихэвчлэн запрос-ийн хурд багатай байдаг; нээлтээс өмнө шалгаарай.

Загварын нэр, үнэ ихэвчлэн өөрчлөгддөг тул код нь загварын нэрийг олон газарт хатуу бичихийн оронд тохиргооноос уншвал дээр.

Функц нэмэх, алхам алхмаар

Нэг бодит жишээ авъя: харилцагч бүр олон тэмдэглэлтэй жижиг CRM.

1. Түлхүүрээ хадгал. Нийлүүлэгчийнхээ самбар дээр түлхүүр үүсгээд серверийн нууц утга болгон хадгал, жишээ нь OPENAI_API_KEY эсвэл ANTHROPIC_API_KEY.

2. Нэг нарийн функц хүс:

Харилцагчийн хуудсанд «Хураангуйлах» товч нэм. Серверт харилцагчийн сүүлийн 20 тэмдэглэлийг [PROVIDER]-т [ENV_NAME] нууц утгыг ашиглан илгээ, мөн гурван цэг бичих заавартай байг: одоогийн байдал, нээлттэй асуултууд, дараагийн алхам. Зөвхөн нэвтэрсэн хэрэглэгчид харах тэмдэглэлүүдийг оруул. Ачаалж байгаа төлөвийг харуулж, хураангуйг цагийн тэмдэгтээр хадгал, дуудалт бүтэлгүйтвэл «Одоогоор хураангуйлах боломжгүй байна» гэж харуул. Түлхүүрийг хэзээ ч хөтөчид бүү илгээ.

3. Бичих ажлыг хэмнэх газар задлах нэм:

Хэрэглэгч «Шуурхай нэмэх» хайрцагт имэйлийн гарын үсэг буулгахад [PROVIDER]-г серверээс дууд, нэр, компани, албан тушаал, имэйл, утсыг агуулсан JSON буцаа. Нийлүүлэгчийн бүтэцтэй гаралтын боломжийг ашигла. JSON-ийг серверт шалгаж, шинэ харилцагчийн маягтыг урьдчилан бөглө, хадгалахаас өмнө хэрэглэгч засах боломжтой байг. Таамаглахын оронд хоосон үлдээ.

«Хадгалахаас өмнө хэрэглэгч засах боломжтой байг» гэдэг нь хамгийн чухал хэсэг: загвар санал болгодог, шийдвэрийг хүн гаргадаг.

4. Арын дэвсгэрт ангилах:

Шинэ дэмжлэгийн тикет ирэхэд түүнийг яг нэг шошгонд ангил: төлбөр, алдаа, функцийн хүсэлт, дансны хандалт, бусад. Жижиг, хямд загвар ашигла. Хариу эдгээр шошгонуудын аль нь ч биш бол «бусад» гэж хадгал. Шошгыг засварлагдах тэмдэг болгон харуул.

5. Эмх замбараагүй жинхэнэ өгөгдөл дээр туршаарай: урт тэмдэглэл, хоосон тэмдэглэл, өөр хэлний текст, утасгүй гарын үсэг гэх мэт. Нийтлэхээсээ өмнө хорин гаралтыг зэрэгцүүлэн харж үз.

Ажилладаг заавар бичих

Запрос бүртэй хамт явуулах заавар (ихэвчлэн системийн prompt гэж нэрлэдэг) нь чанарын эх сурвалж юм.

• Хэнд зориулагдсан, сайн гэдэг нь юу болохыг хэл. «Хураангуйг борлуулагч дуудлагын өмнө 10 секундэд уншина» гэвэл загварт зорилт өгнө.
• Форматыг тогтоо. Цэгийн яг тоо, уртын хязгаар, талбарууд, шошгууд.
• Тодорхойгүй үед юу хийхийг хэл. «Хэрэв тэмдэглэлд дараагийн алхам дурдаагүй бол "Дараагийн алхам бүртгэгдээгүй" гэж бич.» Энэ нь зохиосон хариултыг багасгана.
• Задлах, ангилахад сайн оролт, гаралтын хоёр гурван жишээ өг.
• Заавар ба хэрэглэгчийн агуулгыг тусад нь байлга, мөн хэрэглэгчийн агуулгыг тодорхой тэмдэглэ, ингэснээр загвар тэднийг ялгаж чадна.

Prompt-уудаа кодын санд файлуудад хадгал, ингэснээр бусад код шиг хувилбарлагдаж, шалгагдах боломжтой байна.

Зардлаа хянах

LLM API нь илгээж, буцаж ирсэн текстийн токенээр (жижиг текстийн хэсгүүд) тооцдог. Зардал нь запрос бүрийн контекстын хэмжээ болон хэдэн удаа ажилладагаар нэмэгддэг. Практик хяналтууд:

• Зөвхөн шаардлагатайг нь илгээ. Бүх түүхийг биш, сүүлийн 20 тэмдэглэл. Урт баримтыг тайрч эсвэл хуваа.
• Ажлыг хийх хамгийн жижиг загварыг ашигла. Анхдагчаар хамгийн том загвар сонгохоосоо өмнө туршаарай.
• Гаралтын уртыг хязгаарла API-ийн хамгийн их токены тохиргоогоор.
• Үр дүнг кэшлэ. Хураангуйг хадгалаад, эх сурвалж өөрчлөгдөхөд л дахин үүсгэ, хуудас нээх бүрт биш.
• Хэрэглэгч бүрт хязгаарла. Данс эсвэл төлөвлөгөө тус бүрт өдрийн дээд хязгаар тавьвал ганц хүн эсвэл нэг скрипт нэхэмжлэлийг өсгөхөөс сэргийлнэ.
• Эцсийн цэгийг бусад өндөр зардалтай маршрут шиг хурдны хязгаарлалттай болго.
• Нийлүүлэгчийн самбар дээр төсөв эсвэл анхааруулга тавь, нийтлэсний дараа долоо хоног бүр ашиглалтыг шалга.
• Функц бүрийн токены ашиглалтыг бүртгэ, ингэснээр аль нь ямар зардал гаргаж байгааг мэднэ.

AI функц таны бүтээгдэхүүний гол хэсэг бол түүний ажиллах зардлыг үнэдээ оруул, мөн өөрөө нөхөж бүү үзүүл.

Аюулгүй байдал ба итгэл

AI-ийн гаралт магадлалтай. Итгэлтэйгээр хэлсэн ч буруу байж болно, мөн уншдаг текстээр нь чиглүүлэгдэж болно. Үүнд бэлтгэ:

• Гаралтыг найдваргүй оролт гэж үз. Бүтцийг баталгаажуул, HTML болгож харуулахаасаа өмнө escape хий, мөн код эсвэл өгөгдлийн санд асуулт болгон хэзээ ч ажиллуулахгүй.
• Үр дагавартай бүх зүйлд хүнийг оролцуулаарай: имэйл илгээх, бичлэг өөрчлөх, төлбөр буцаах. Загвар ноорог гаргана; хүн баталгаажуулна.
• Prompt injection-ээс хамгаалаарай. Баримт эсвэл мессеж «заавраа үл тоо» гэх мэт текст агуулж болно. Загварт одоогийн хэрэглэгчид харах эрхтэй зүйлийг л харуулж, таны код зөвшөөрөл шалгахгүйгээр мэдрэмтгий үйлдэл хийх хэрэгслүүд өгөхгүй байгаарай.
• AI контентыг тэмдэглэ, ингэснээр хэрэглэгчид хураангуй эсвэл санал AI-аар бүтсэнийг мэдэж, шалгах боломжтой байна.
• Бүтэлгүйтлийг эелдэгээр зохицуул. Нийлүүлэгчид гэнэтийн таслалт болон хязгаартай байдаг. Хугацаа хэтрүүлж, тодорхой мессеж харуулж, аппын бусад хэсэг ажилласаар байх ёстой.
• Хэрэглэгчийн илгээж буй зүйлийг хянаарай. Нээлттэй текстийн оролтод модерацийн алхам авч үзэж, нууцлалын бодлогодоо контентыг гуравдагч талын AI нийлүүлэгч боловсруулдгийг тодорхой бичээрэй.

Шалгалтын өргөн жагсаалтыг AI-аар бүтээсэн аппын аюулгүй байдлын шалгах жагсаалт-д өгсөн.

Түгээмэл алдаанууд

• Ерөнхий чатботоор эхлэх, харин нэг «Хураангуйлах» эсвэл «Ангилах» товч илүү олон хүнд тусалж чадах үед.
• Түлхүүрийг frontend кодонд эсвэл нийтийн репозиторид тавих.
• Бүх өгөгдлийн санг контекст болгон илгээх, энэ нь удаан, үнэтэй, бусад хэрэглэгчийн өгөгдлийг задлах эрсдэлтэй.
• Чөлөөт текстийн гаралтад бүрэн итгэх, харин схем эсвэл тогтмол шошгууд нь шалгах боломжийг өгөх байсан үед.
• Хэрэглэгч бүрийн хязгааргүй байх, эхний нэхэмжлэл ирэхэд л мэдэх.

Mythex дээр AI функц нэмэх

Mythex дээр өөрийн аппдаа AI нэмэхийн тулд чатад хүсэж, өөрийн нийлүүлэгчийн түлхүүрийг ашиглана. Түлхүүрээ төслийн нууц утга болгон хадгал: агентэд хэрэгтэй үед Mythex чатад нууц утгын карт харуулдаг тул түлхүүрээ яриандаа буулгах шаардлагагүй. Агент серверийн маршрут, prompt-ууд, интерфейсийг бичнэ. Таны аппын AI ашиглалтыг нийлүүлэгч тань тооцно, мөн таны бүтээхэд зарцуулдаг Mythex кредитээс тусдаа. Docs-д AI функцийг өөрийн API түлхүүрээр нэмэх гэсэн эхлэх зааврын жишээ байна.

Асуултууд