LLM API ਕਿਵੇਂ ਵਰਤੀਏ: ਟੋਕਨ, ਖ਼ਰਚਾ, ਕੀ ਅਤੇ ਤੁਹਾਡੀ ਪਹਿਲੀ AI ਫੀਚਰ

LLM API ਇੱਕ ਵੈੱਬ ਸਰਵਿਸ ਹੈ ਜੋ ਤੁਹਾਡੀ ਐਪ ਨੂੰ ਟੈਕਸਟ ਭੇਜਣ ਦਿੰਦੀ ਹੈ ਇੱਕ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ ਨੂੰ, ਜਿਵੇਂ OpenAI ਦੇ GPT ਮਾਡਲ, Anthropic ਦਾ Claude ਜਾਂ Google ਦਾ Gemini, ਅਤੇ ਜਵਾਬ ਕੋਡ ਵਿੱਚ ਵਾਪਸ ਲੈਣ ਦਿੰਦੀ ਹੈ। ਤੁਸੀਂ ਪ੍ਰਦਾਤਾ ਕੋਲ ਸਾਈਨ ਅੱਪ ਕਰਦੇ ਹੋ, ਇੱਕ API ਕੀ ਬਣਾਉਂਦੇ ਹੋ, ਅਤੇ ਤੁਹਾਡੀ ਐਪ ਦਾ ਸਰਵਰ ਉਸ ਕੀ ਨਾਲ ਬੇਨਤੀਆਂ ਭੇਜਦਾ ਹੈ। ਹਰ ਬੇਨਤੀ ਲਈ ਭੁਗਤਾਨ ਟੋਕਨਾਂ (ਟੈਕਸਟ ਦੇ ਟੁਕੜੇ) ਦੀ ਗਿਣਤੀ ਨਾਲ ਹੁੰਦਾ ਹੈ, ਜੋ ਅੰਦਰ ਜਾਣ ਅਤੇ ਬਾਹਰ ਆਉਣ ਵਾਲੇ ਦੋਵੇਂ ਹਨ। ਐਪ ਵਿੱਚ "AI ਜੋੜਨ" ਦਾ ਆਮ ਮਤਲਬ ਇਹੀ ਹੁੰਦਾ ਹੈ: ਕਿਸੇ ਹੋਰ ਦੇ ਮਾਡਲ ਨੂੰ ਇੱਕ ਚੰਗੀ ਤਰ੍ਹਾਂ ਲਿਖੀ ਬੇਨਤੀ, ਤੁਹਾਡੇ ਸਰਵਰ ਤੋਂ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ।

ਇਹ ਕਿਉਂ ਅਹਿਮ ਹੈ ਜਦੋਂ AI ਨਾਲ ਬਣਾ ਰਹੇ ਹੋ

AI ਨਾਲ ਬਣੀ ਐਪ ਵਿੱਚ ਦੋ ਵੱਖ-ਵੱਖ AI ਹੁੰਦੇ ਹਨ, ਅਤੇ ਇਨ੍ਹਾਂ ਨੂੰ ਮਿਲਾਉਣਾ ਆਸਾਨ ਹੈ:

1. ਉਹ AI ਜੋ ਤੁਹਾਡੀ ਐਪ ਬਣਾਉਂਦਾ ਹੈ — ਐਪ ਬਿਲਡਰ ਦਾ ਆਪਣਾ ਏਜੰਟ, ਜੋ ਕੋਡ ਲਿਖਦਾ ਹੈ।
2. ਉਹ AI ਜੋ ਤੁਹਾਡੀ ਐਪ ਦੇ ਅੰਦਰ ਹੈ — ਇੱਕ ਫੀਚਰ ਜੋ ਤੁਹਾਡੇ ਯੂਜ਼ਰ ਵਰਤਦੇ ਹਨ, ਜਿਵੇਂ ਚੈਟ ਸਹਾਇਕ, "ਇਸ ਦਾ ਸਾਰ ਦਿਓ" ਬਟਨ ਜਾਂ ਆਪਣੇ-ਆਪ ਟੈਗਿੰਗ।

ਦੂਜਾ ਇੱਕ LLM API ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ, ਤੁਹਾਡੀ ਕੀ ਨਾਲ, ਅਤੇ ਤੁਹਾਡੇ ਪ੍ਰਦਾਤਾ ਖਾਤੇ ਨੂੰ ਬਿੱਲ ਭੇਜਦਾ ਹੈ। ਟੋਕਨ, ਕਾਂਟੈਕਸਟ ਅਤੇ ਕੀਮਤ ਨੂੰ ਸਮਝਣਾ ਤੁਹਾਨੂੰ ਇੱਕ ਅਜਿਹੀ ਫੀਚਰ ਬਣਾਉਣ ਦਿੰਦਾ ਹੈ ਜੋ ਕੰਮ ਕਰੇ, ਤੁਹਾਡੀ ਕੀ ਲੀਕ ਨਾ ਕਰੇ, ਅਤੇ ਅਚਾਨਕ ਬਿੱਲ ਨਾਲ ਹੈਰਾਨ ਨਾ ਕਰੇ।

ਰੋਜ਼ਮਰ੍ਹਾ ਦੀ ਮਿਸਾਲ: ਇੱਕ ਬਹੁਤ ਕਾਬਲ ਫ੍ਰੀਲਾਂਸਰ, ਸ਼ਬਦਾਂ ਦੇ ਹਿਸਾਬ ਨਾਲ ਭੁਗਤਾਨ

LLM API ਨੂੰ ਇੱਕ ਬਹੁਤ ਕਾਬਲ ਫ੍ਰੀਲਾਂਸ ਲੇਖਕ ਵਾਂਗ ਸੋਚੋ, ਜਿਸ ਨਾਲ ਤੁਸੀਂ ਈਮੇਲ ਰਾਹੀਂ ਸੰਪਰਕ ਕਰਦੇ ਹੋ ਅਤੇ ਜਿਸ ਨੂੰ ਸ਼ਬਦਾਂ ਦੇ ਹਿਸਾਬ ਨਾਲ ਪੈਸੇ ਦਿੰਦੇ ਹੋ, ਜੋ ਤੁਸੀਂ ਭੇਜਦੇ ਹੋ ਅਤੇ ਜੋ ਉਹ ਵਾਪਸ ਲਿਖਦਾ ਹੈ ਦੋਵਾਂ ਲਈ (ਅਤੇ ਲਿਖੇ ਹੋਏ ਸ਼ਬਦ ਵੱਧ ਮਹਿੰਗੇ ਹਨ)।

• ਉਨ੍ਹਾਂ ਦੀ ਈਮੇਲਾਂ ਵਿਚਕਾਰ ਕੋਈ ਯਾਦਦਾਸ਼ਤ ਨਹੀਂ ਹੁੰਦੀ। ਜੇ ਤੁਸੀਂ ਗੱਲਬਾਤ ਜਾਰੀ ਰੱਖਵਾਉਣੀ ਹੈ, ਤਾਂ ਹਰ ਨਵੀਂ ਈਮੇਲ ਵਿੱਚ ਪੁਰਾਣੇ ਸੁਨੇਹੇ ਦੁਬਾਰਾ ਪੇਸਟ ਕਰਦੇ ਹੋ।
• ਉਹ ਇੱਕ ਵਾਰ ਵਿੱਚ ਸਿਰਫ਼ ਇੰਨਾ ਹੀ ਪੜ੍ਹ ਸਕਦੇ ਹਨ। ਇਸ ਹੱਦ ਨੂੰ ਕਾਂਟੈਕਸਟ ਵਿੰਡੋ ਕਹਿੰਦੇ ਹਨ।
• ਜਿੰਨੀ ਸਾਫ਼ ਬ੍ਰੀਫ਼, ਓਨਾ ਹੀ ਬਿਹਤਰ ਅਤੇ ਛੋਟਾ ਜਵਾਬ, ਜੋ ਸਸਤਾ ਵੀ ਹੁੰਦਾ ਹੈ।

ਮੁੱਖ ਸੰਕਲਪ

ਟੋਕਨ

ਮਾਡਲ ਟੈਕਸਟ ਟੋਕਨਾਂ ਵਿੱਚ ਪੜ੍ਹਦੇ ਅਤੇ ਲਿਖਦੇ ਹਨ। Anthropic ਦੇ ਕੀਮਤ ਦਸਤਾਵੇਜ਼ ਅਨੁਸਾਰ, ਸਤੰਬਰ 2026 ਤੱਕ, ਅੰਗਰੇਜ਼ੀ ਵਿੱਚ ਲਗਭਗ 4 ਅੱਖਰ, ਜਾਂ ਲਗਭਗ 0.75 ਸ਼ਬਦ, ਪ੍ਰਤੀ ਟੋਕਨ ਹਨ। ਵੱਖ-ਵੱਖ ਮਾਡਲ ਅਤੇ ਭਾਸ਼ਾਵਾਂ ਵੱਖਰੇ ਢੰਗ ਨਾਲ ਟੋਕਨ ਬਣਾਉਂਦੇ ਹਨ, ਇਸ ਲਈ ਇਸ ਨੂੰ ਮੋਟਾ ਅੰਦਾਜ਼ਾ ਸਮਝੋ। ਹਰ ਚੀਜ਼ ਗਿਣੀ ਜਾਂਦੀ ਹੈ: ਤੁਹਾਡੀਆਂ ਹਦਾਇਤਾਂ, ਯੂਜ਼ਰ ਦਾ ਸੁਨੇਹਾ, ਕੋਈ ਵੀ ਭੇਜਿਆ ਦਸਤਾਵੇਜ਼, ਪਹਿਲਾਂ ਦੀ ਗੱਲਬਾਤ ਅਤੇ ਜਵਾਬ।

ਇਨਪੁੱਟ ਅਤੇ ਆਉਟਪੁੱਟ

ਇਨਪੁੱਟ ਟੋਕਨ ਉਹ ਹਨ ਜੋ ਤੁਸੀਂ ਭੇਜਦੇ ਹੋ। ਆਉਟਪੁੱਟ ਟੋਕਨ ਉਹ ਹਨ ਜੋ ਮਾਡਲ ਲਿਖਦਾ ਹੈ। OpenAI, Anthropic ਅਤੇ Google ਦੇ ਕੀਮਤ ਪੰਨਿਆਂ 'ਤੇ, ਸਤੰਬਰ 2026 ਤੱਕ, ਇੱਕੋ ਮਾਡਲ ਲਈ ਆਉਟਪੁੱਟ ਟੋਕਨ ਇਨਪੁੱਟ ਨਾਲੋਂ ਕਈ ਗੁਣਾ ਮਹਿੰਗੇ ਹਨ। Google ਦੀ Gemini ਕੀਮਤ ਇਹ ਵੀ ਦੱਸਦੀ ਹੈ ਕਿ ਮਾਡਲ ਦੀ ਅੰਦਰੂਨੀ "ਸੋਚ" ਆਉਟਪੁੱਟ ਵਜੋਂ ਗਿਣੀ ਜਾਂਦੀ ਹੈ।

ਕਾਂਟੈਕਸਟ ਵਿੰਡੋ

ਇੱਕ ਬੇਨਤੀ ਵਿੱਚ ਮਾਡਲ ਵੱਧ ਤੋਂ ਵੱਧ ਕਿੰਨੇ ਟੋਕਨ ਲੈ ਸਕਦਾ ਹੈ, ਜਵਾਬ ਸਮੇਤ। ਅੱਜ ਦੇ ਮਾਡਲ ਬਹੁਤ ਲੰਬਾ ਇਨਪੁੱਟ ਲੈ ਸਕਦੇ ਹਨ, ਜਿਵੇਂ Anthropic ਦੇ ਕੁਝ ਮੌਜੂਦਾ ਮਾਡਲ ਦਸ ਲੱਖ ਟੋਕਨ ਤੱਕ। ਪਰ ਲੰਬੇ ਇਨਪੁੱਟ ਮਹਿੰਗੇ ਅਤੇ ਹੌਲੇ ਹੁੰਦੇ ਹਨ, ਇਸ ਲਈ ਸਿਰਫ਼ ਉਹੀ ਭੇਜੋ ਜੋ ਕੰਮ ਲਈ ਲੋੜੀਂਦਾ ਹੈ।

ਸਟੇਟਲੈੱਸ ਬੇਨਤੀਆਂ

ਜ਼ਿਆਦਾਤਰ ਚੈਟ-ਸ਼ੈਲੀ API ਵਿੱਚ ਹਰ ਬੇਨਤੀ ਆਪਣੇ ਆਪ ਵਿੱਚ ਪੂਰੀ ਹੁੰਦੀ ਹੈ। ਚੈਟ ਨੂੰ "ਯਾਦ" ਰੱਖਣ ਲਈ, ਤੁਹਾਡੀ ਐਪ ਹਰ ਨਵੇਂ ਸੁਨੇਹੇ ਨਾਲ ਪੁਰਾਣੇ ਸੁਨੇਹੇ ਦੁਬਾਰਾ ਭੇਜਦੀ ਹੈ। ਇਸੇ ਲਈ ਲੰਬੀ ਗੱਲਬਾਤ ਦਾ ਹਰ ਸੁਨੇਹਾ ਛੋਟੀ ਗੱਲਬਾਤ ਨਾਲੋਂ ਵੱਧ ਮਹਿੰਗਾ ਪੈਂਦਾ ਹੈ।

ਸਿਸਟਮ ਪ੍ਰੌਮਪਟ

ਉਹ ਹਦਾਇਤਾਂ ਜੋ ਹਰ ਬੇਨਤੀ ਲਈ ਮਾਡਲ ਦੀ ਭੂਮਿਕਾ ਅਤੇ ਨਿਯਮ ਤੈਅ ਕਰਦੀਆਂ ਹਨ: "ਤੁਸੀਂ ਸਹਾਇਤਾ ਟਿਕਟਾਂ ਦਾ ਤਿੰਨ ਬੁਲੇਟਾਂ ਵਿੱਚ ਸਾਰ ਦਿੰਦੇ ਹੋ। ਕਦੇ ਵੀ ਗਾਹਕ ਦਾ ਈਮੇਲ ਪਤਾ ਸ਼ਾਮਲ ਨਾ ਕਰੋ।" ਯੂਜ਼ਰ ਇਹ ਨਹੀਂ ਵੇਖਦੇ, ਪਰ ਇਹ ਹਰ ਜਵਾਬ ਨੂੰ ਢਾਲਦਾ ਹੈ।

ਸਟ੍ਰੀਮਿੰਗ

ਪੂਰਾ ਜਵਾਬ ਉਡੀਕਣ ਦੀ ਬਜਾਏ, API ਟੈਕਸਟ ਨੂੰ ਬਣਦੇ ਹੀ ਭੇਜ ਸਕਦੀ ਹੈ, ਤਾਂ ਜੋ ਯੂਜ਼ਰ ਸ਼ਬਦ ਤੁਰੰਤ ਵਿਖਾਈ ਦੇਣ। ਇਸ ਨਾਲ ਚੈਟ ਇੰਟਰਫੇਸ ਬਹੁਤ ਤੇਜ਼ ਮਹਿਸੂਸ ਹੁੰਦਾ ਹੈ।

ਕੀਮਤ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ

ਸਤੰਬਰ 2026 ਤੱਕ, ਪ੍ਰਦਾਤਾਵਾਂ ਦੇ ਆਪਣੇ ਕੀਮਤ ਪੰਨਿਆਂ 'ਤੇ ਜਾਂਚਿਆ ਗਿਆ:

ਕੁਝ ਪ੍ਰਦਾਤਾ ਭੁਗਤਾਨ ਤੋਂ ਪਹਿਲਾਂ ਅਜ਼ਮਾਉਣ ਦਾ ਮੌਕਾ ਵੀ ਦਿੰਦੇ ਹਨ: Anthropic ਨਵੇਂ ਯੂਜ਼ਰਾਂ ਨੂੰ ਥੋੜ੍ਹਾ ਮੁਫ਼ਤ ਕ੍ਰੈਡਿਟ ਦਿੰਦਾ ਹੈ, ਅਤੇ Google ਦੀ Gemini API ਕੁਝ ਮਾਡਲਾਂ 'ਤੇ ਮੁਫ਼ਤ ਟੀਅਰ ਰੱਖਦੀ ਹੈ, ਇਸ ਚੇਤਾਵਨੀ ਨਾਲ ਕਿ ਉਸ 'ਤੇ ਭੇਜੀ ਸਮੱਗਰੀ ਗੂਗਲ ਦੇ ਉਤਪਾਦ ਸੁਧਾਰਨ ਲਈ ਵਰਤੀ ਜਾ ਸਕਦੀ ਹੈ।

ਛੋਟੇ, ਤੇਜ਼ ਮਾਡਲਾਂ ਅਤੇ ਸਭ ਤੋਂ ਵੱਡੇ ਮਾਡਲਾਂ ਦੀ ਕੀਮਤ ਵਿੱਚ ਬਹੁਤ ਫ਼ਰਕ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਕੀਮਤਾਂ ਅਕਸਰ ਬਦਲਦੀਆਂ ਹਨ, ਇਸ ਲਈ ਅਸੀਂ ਇੱਥੇ ਅੰਕੜੇ ਨਹੀਂ ਦਿੰਦੇ। ਕਿਸੇ ਵੀ ਫੀਚਰ ਦਾ ਸਧਾਰਨ ਅੰਦਾਜ਼ਾ ਇਹ ਹੈ: (ਇਨਪੁੱਟ ਟੋਕਨ × ਇਨਪੁੱਟ ਕੀਮਤ + ਆਉਟਪੁੱਟ ਟੋਕਨ × ਆਉਟਪੁੱਟ ਕੀਮਤ) × ਮਹੀਨੇ ਦੀਆਂ ਬੇਨਤੀਆਂ ਦੀ ਗਿਣਤੀ। ਫਿਰ ਕੁਝ ਵਾਧੂ ਰਾਖਵਾਂਪਣ ਜੋੜੋ, ਅਤੇ ਪ੍ਰਦਾਤਾ ਦੇ ਡੈਸ਼ਬੋਰਡ ਵਿੱਚ ਮਹੀਨਾਵਾਰ ਖ਼ਰਚੇ ਦੀ ਹੱਦ ਤੈਅ ਕਰੋ।

ਇੱਕ ਉਦਾਹਰਨ: "ਇਹ ਟਿਕਟ ਦਾ ਸਾਰ ਦਿਓ" ਬਟਨ

ਇੱਕ ਛੋਟੀ ਸਹਾਇਤਾ ਟੀਮ ਚਾਹੁੰਦੀ ਹੈ ਕਿ ਇੱਕ ਬਟਨ ਲੰਬੀ ਗਾਹਕ ਈਮੇਲ ਲੜੀ ਨੂੰ ਤਿੰਨ ਬੁਲੇਟਾਂ ਅਤੇ ਇੱਕ ਸੁਝਾਏ ਜਵਾਬ ਵਿੱਚ ਬਦਲੇ।

1. ਕੀ ਲਓ। ਇੱਕ ਪ੍ਰਦਾਤਾ ਨਾਲ ਖਾਤਾ ਬਣਾਓ ਅਤੇ API ਕੀ ਤਿਆਰ ਕਰੋ। ਮਹੀਨਾਵਾਰ ਖ਼ਰਚੇ ਦੀ ਘੱਟ ਹੱਦ ਤੈਅ ਕਰੋ।
2. ਕੀ ਨੂੰ ਗੁਪਤ ਵਜੋਂ ਸੰਭਾਲੋ ਆਪਣੇ ਸਰਵਰ 'ਤੇ, ਜਿਵੇਂ ANTHROPIC_API_KEY ਜਾਂ OPENAI_API_KEY ਨਾਮ ਨਾਲ, ਕਦੇ ਵੀ ਪੰਨੇ ਦੇ ਕੋਡ ਵਿੱਚ ਨਹੀਂ। ਵੇਖੋ ਵਾਤਾਵਰਨ ਵੈਰੀਏਬਲ ਅਤੇ ਸੀਕ੍ਰੇਟ।
3. ਇੱਕ ਸਰਵਰ ਰੂਟ ਜੋੜੋ, POST /api/summarise, ਜੋ:
   • ਜਾਂਚੇ ਕਿ ਵਿਅਕਤੀ ਲੌਗਇਨ ਹੈ ਅਤੇ ਸਹਾਇਤਾ ਟੀਮ ਦਾ ਮੈਂਬਰ ਹੈ;
   • ਟਿਕਟ ਨੂੰ ਡੇਟਾਬੇਸ ਤੋਂ ਲਏ;
   • ਪ੍ਰਦਾਤਾ ਨੂੰ ਇੱਕ ਸਿਸਟਮ ਪ੍ਰੌਮਪਟ ("ਤਿੰਨ ਬੁਲੇਟਾਂ ਵਿੱਚ ਸਾਰ ਦਿਓ, ਫਿਰ ਨਰਮ ਜਵਾਬ ਦਾ ਖਰੜਾ ਬਣਾਓ; ਆਰਡਰ ਨੰਬਰ ਨਾ ਬਣਾਓ") ਅਤੇ ਟਿਕਟ ਟੈਕਸਟ ਭੇਜੇ;
   • ਜਵਾਬ ਦੀ ਲੰਬਾਈ ਵੱਧ ਤੋਂ ਵੱਧ ਆਉਟਪੁੱਟ ਟੋਕਨ ਸੈਟਿੰਗ ਨਾਲ ਸੀਮਤ ਕਰੇ;
   • ਨਤੀਜਾ ਵਾਪਸ ਕਰੇ ਅਤੇ ਹਰ ਬੇਨਤੀ ਦੇ ਟੋਕਨਾਂ ਦੀ ਗਿਣਤੀ ਲੌਗ ਕਰੇ।
4. ਬਟਨ ਪ੍ਰਦਾਤਾ ਨੂੰ ਨਹੀਂ, ਤੁਹਾਡੇ ਰੂਟ ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ, ਅਤੇ ਸਾਰ ਆਉਂਦੇ ਹੀ ਸਟ੍ਰੀਮ ਹੋ ਕੇ ਵਿਖਾਈ ਦਿੰਦਾ ਹੈ।
5. ਨਾਕਾਮੀ ਸੰਭਾਲੋ। ਜੇ ਪ੍ਰਦਾਤਾ ਹੌਲਾ ਹੈ ਜਾਂ ਗ਼ਲਤੀ ਦਿੰਦਾ ਹੈ, ਤਾਂ "ਇਸ ਵੇਲੇ ਸਾਰ ਨਹੀਂ ਬਣ ਸਕਿਆ" ਵਿਖਾਓ ਅਤੇ ਟਿਕਟ ਵਰਤੋਂ ਯੋਗ ਰੱਖੋ।
6. ਮਾਪੋ। ਇੱਕ ਹਫ਼ਤੇ ਬਾਅਦ ਟੋਕਨ ਲੌਗ ਵੇਖੋ। ਜੇ ਜ਼ਿਆਦਾਤਰ ਖ਼ਰਚਾ ਲੰਬੀਆਂ ਈਮੇਲ ਲੜੀਆਂ ਦਾ ਹੈ, ਤਾਂ ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ ਪੁਰਾਣਾ ਹਵਾਲਾ ਛਾਂਟੋ।

ਧਿਆਨ ਦਿਓ ਕਿ ਕੀ ਗ਼ੈਰ-ਹਾਜ਼ਰ ਹੈ: ਕੋਈ ਮਾਡਲ ਟ੍ਰੇਨਿੰਗ ਨਹੀਂ, ਕੋਈ ਖ਼ਾਸ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਨਹੀਂ। ਇੱਕ ਕੀ, ਇੱਕ ਸਰਵਰ ਰੂਟ, ਅਤੇ ਇੱਕ ਚੰਗੀ ਲਿਖੀ ਪ੍ਰੌਮਪਟ।

ਮੁੱਖ ਸ਼ਬਦ

• API ਕੀ: ਉਹ ਗੁਪਤ ਚੀਜ਼ ਜੋ ਪ੍ਰਦਾਤਾ ਕੋਲ ਤੁਹਾਡੇ ਖਾਤੇ ਦੀ ਪਛਾਣ ਕਰਦੀ ਹੈ। ਜਿਸ ਕੋਲ ਇਹ ਹੈ ਉਹ ਤੁਹਾਡੇ ਪੈਸੇ ਖ਼ਰਚ ਸਕਦਾ ਹੈ।
• ਮਾਡਲ: ਉਹ ਖ਼ਾਸ LLM ਜਿਸ ਨੂੰ ਤੁਸੀਂ ਕਾਲ ਕਰਦੇ ਹੋ। ਪ੍ਰਦਾਤਾ ਕਈ ਆਕਾਰ ਅਤੇ ਰਫ਼ਤਾਰ ਵਾਲੇ ਮਾਡਲ ਦਿੰਦੇ ਹਨ।
• ਟੈਂਪਰੇਚਰ: ਜਵਾਬ ਕਿੰਨੇ ਵੱਖਰੇ ਹੋਣਗੇ, ਇਹ ਤੈਅ ਕਰਨ ਵਾਲੀ ਸੈਟਿੰਗ। ਘੱਟ ਮੁੱਲ ਵਧੇਰੇ ਅਨੁਮਾਨਯੋਗ ਹੈ।
• ਵੱਧ ਤੋਂ ਵੱਧ ਟੋਕਨ: ਜਵਾਬ ਦੀ ਲੰਬਾਈ ਦੀ ਹੱਦ, ਜੋ ਖ਼ਰਚੇ ਦੀ ਹੱਦ ਵੀ ਹੈ।
• ਰੇਟ ਲਿਮਿਟ: ਤੁਹਾਡਾ ਖਾਤਾ ਪ੍ਰਤੀ ਮਿੰਟ ਕਿੰਨੀਆਂ ਬੇਨਤੀਆਂ ਜਾਂ ਟੋਕਨ ਵਰਤ ਸਕਦਾ ਹੈ।
• ਐਮਬੈਡਿੰਗ: ਅਜਿਹੇ ਨੰਬਰ ਜੋ ਟੈਕਸਟ ਦਾ ਅਰਥ ਦਰਸਾਉਂਦੇ ਹਨ, ਤੁਹਾਡੇ ਆਪਣੇ ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚ ਖੋਜ ਲਈ ਵਰਤੇ ਜਾਂਦੇ ਹਨ।
• RAG (ਰੀਟਰੀਵਲ-ਔਗਮੈਂਟਡ ਜਨਰੇਸ਼ਨ): ਤੁਹਾਡੇ ਆਪਣੇ ਡੇਟਾ ਵਿੱਚੋਂ ਢੁਕਵੇਂ ਹਿੱਸੇ ਲੱਭ ਕੇ ਪ੍ਰੌਮਪਟ ਵਿੱਚ ਜੋੜਨਾ, ਤਾਂ ਜੋ ਮਾਡਲ ਤੁਹਾਡੀ ਸਮੱਗਰੀ ਤੋਂ ਜਵਾਬ ਦੇਵੇ।
• ਟੂਲ ਵਰਤੋਂ / ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ: ਮਾਡਲ ਨੂੰ ਤੁਹਾਡੀ ਐਪ ਤੋਂ ਕੋਈ ਖ਼ਾਸ ਫੰਕਸ਼ਨ ਚਲਾਉਣ ਦੀ ਇਜਾਜ਼ਤ, ਜਿਵੇਂ "ਆਰਡਰ ਦੀ ਸਥਿਤੀ ਵੇਖੋ"।

ਆਮ ਗ਼ਲਤੀਆਂ ਅਤੇ ਗ਼ਲਤਫਹਿਮੀਆਂ

• ਫਰੰਟਐਂਡ ਕੋਡ ਵਿੱਚ ਕੀ ਪਾਉਣਾ। ਸਭ ਤੋਂ ਮਹਿੰਗੀ ਗ਼ਲਤੀ। ਬ੍ਰਾਊਜ਼ਰ ਕੋਡ ਜਨਤਕ ਹੈ। ਹਮੇਸ਼ਾ ਆਪਣੇ ਸਰਵਰ ਤੋਂ ਕਾਲ ਕਰੋ। AI ਨਾਲ ਬਣੀਆਂ ਐਪਾਂ ਲਈ ਸੁਰੱਖਿਆ ਚੈੱਕਲਿਸਟ ਇਸ ਨੂੰ ਬਾਕੀ ਲਾਂਚ ਜਾਂਚਾਂ ਨਾਲ ਕਵਰ ਕਰਦੀ ਹੈ।
• ਕੋਈ ਖ਼ਰਚੇ ਦੀ ਹੱਦ ਜਾਂ ਯੂਜ਼ਰ ਹੱਦ ਨਹੀਂ। ਇੱਕ ਬੱਗ, ਲੂਪ ਜਾਂ ਗ਼ਲਤ ਵਰਤੋਂ ਕਰਨ ਵਾਲਾ ਯੂਜ਼ਰ ਜਲਦੀ ਖ਼ਰਚਾ ਵਧਾ ਸਕਦਾ ਹੈ। ਪ੍ਰਦਾਤਾ ਦੀ ਹੱਦ ਤੈਅ ਕਰੋ, ਅਤੇ ਐਪ ਵਿੱਚ ਹਰ ਯੂਜ਼ਰ ਲਈ ਬੇਨਤੀਆਂ ਸੀਮਤ ਕਰੋ।
• ਹਰ ਵਾਰ ਸਭ ਕੁਝ ਭੇਜਣਾ। ਪੂਰੇ ਦਸਤਾਵੇਜ਼ ਅਤੇ ਪੂਰੀ ਗੱਲਬਾਤ ਦੀ ਹਿਸਟਰੀ ਇਨਪੁੱਟ ਟੋਕਨ ਵਧਾਉਂਦੀ ਹੈ। ਛਾਂਟੋ, ਪੁਰਾਣੇ ਸੁਨੇਹਿਆਂ ਦਾ ਸਾਰ ਬਣਾਓ, ਜਾਂ ਸਿਰਫ਼ ਢੁਕਵਾਂ ਹਿੱਸਾ ਲਿਆਓ।
• ਆਉਟਪੁੱਟ ਨੂੰ ਅੱਖਾਂ ਮੀਚ ਕੇ ਭਰੋਸਾ ਕਰਨਾ। ਮਾਡਲ ਗ਼ਲਤ ਗੱਲ ਵੀ ਪੂਰੇ ਯਕੀਨ ਨਾਲ ਕਹਿ ਸਕਦੇ ਹਨ। ਤੱਥਾਂ, ਕੀਮਤਾਂ ਜਾਂ ਕਾਨੂੰਨੀ ਜਾਂ ਡਾਕਟਰੀ ਗੱਲਾਂ ਲਈ ਜਵਾਬ ਆਪਣੇ ਡੇਟਾ 'ਤੇ ਅਧਾਰਤ ਕਰੋ ਅਤੇ ਸਰੋਤ ਵਿਖਾਓ, ਜਾਂ ਕੋਈ ਵਿਅਕਤੀ ਜਾਂਚੇ।
• ਯੂਜ਼ਰ ਦੇ ਇਨਪੁੱਟ ਨੂੰ ਤੁਹਾਡੇ ਨਿਯਮ ਬਦਲਣ ਦੇਣਾ। ਯੂਜ਼ਰ "ਆਪਣੀਆਂ ਹਦਾਇਤਾਂ ਨੂੰ ਅਣਡਿੱਠ ਕਰੋ" ਲਿਖ ਸਕਦੇ ਹਨ। ਇਜਾਜ਼ਤਾਂ ਅਤੇ ਸੰਵੇਦਨਸ਼ੀਲ ਕਾਰਵਾਈਆਂ ਸਿਰਫ਼ ਪ੍ਰੌਮਪਟ ਵਿੱਚ ਨਹੀਂ, ਸਗੋਂ ਸਰਵਰ ਕੋਡ ਵਿੱਚ ਰੱਖੋ।
• ਸਭ ਤੋਂ ਵੱਡੇ ਮਾਡਲ ਨਾਲ ਸ਼ੁਰੂ ਕਰਨਾ। ਪਹਿਲਾਂ ਛੋਟਾ, ਸਸਤਾ ਮਾਡਲ ਅਜ਼ਮਾਓ; ਵੱਡੇ 'ਤੇ ਉਦੋਂ ਜਾਓ ਜਦੋਂ ਗੁਣਵੱਤਾ ਦੀ ਲੋੜ ਹੋਵੇ।
• ਨਿੱਜੀ ਡੇਟਾ ਬਿਨਾਂ ਸੋਚੇ ਭੇਜਣਾ। ਪ੍ਰਦਾਤਾ ਦੀਆਂ ਡੇਟਾ ਵਰਤੋਂ ਸ਼ਰਤਾਂ ਵੇਖੋ, ਖ਼ਾਸ ਕਰਕੇ ਮੁਫ਼ਤ ਟੀਅਰਾਂ 'ਤੇ, ਅਤੇ ਸਿਰਫ਼ ਉਹ ਭੇਜੋ ਜੋ ਫੀਚਰ ਲਈ ਲੋੜੀਂਦਾ ਹੈ।

AI ਬਿਲਡਰ ਤੋਂ ਕੀ ਮੰਗਣਾ ਹੈ

ਟਿਕਟ ਪੰਨੇ 'ਤੇ "Summarise" ਬਟਨ ਜੋੜੋ। ਇਹ ਇੱਕ ਸਰਵਰ ਰੂਟ ਨੂੰ ਕਾਲ ਕਰੇ ਜੋ ਗੁਪਤ OPENAI_API_KEY ਵਰਤੇ (ਕਦੇ ਵੀ ਬ੍ਰਾਊਜ਼ਰ ਨੂੰ ਨਾ ਵਿਖਾਈ ਜਾਵੇ), ਜਾਂਚੇ ਕਿ ਯੂਜ਼ਰ ਲੌਗਇਨ ਹੈ, ਟਿਕਟ ਟੈਕਸਟ ਇਸ ਸਿਸਟਮ ਪ੍ਰੌਮਪਟ ਨਾਲ ਭੇਜੇ: […], ਜਵਾਬ ਨੂੰ 300 ਟੋਕਨ ਤੱਕ ਸੀਮਤ ਕਰੇ, ਜਵਾਬ ਪੰਨੇ 'ਤੇ ਸਟ੍ਰੀਮ ਕਰੇ, ਅਤੇ ਕਾਲ ਫੇਲ੍ਹ ਹੋਣ 'ਤੇ ਦੋਸਤਾਨਾ ਗ਼ਲਤੀ ਵਿਖਾਏ। ਹਰ ਬੇਨਤੀ ਦੇ ਵਰਤੇ ਟੋਕਨ ਲੌਗ ਕਰੋ, ਅਤੇ ਹਰ ਯੂਜ਼ਰ ਨੂੰ ਪ੍ਰਤੀ ਘੰਟਾ 30 ਸਾਰਾਂ ਤੱਕ ਸੀਮਤ ਕਰੋ।

ਪੂਰੇ ਚੈਟ ਅਨੁਭਵ ਲਈ, ਵੇਖੋ AI ਚੈਟਬੋਟ ਐਪ ਕਿਵੇਂ ਬਣਾਈਏ; ਹੋਰ ਵਿਚਾਰਾਂ ਲਈ, ਆਪਣੀ ਐਪ ਵਿੱਚ AI ਫੀਚਰ ਕਿਵੇਂ ਜੋੜੀਏ। ਜੇ API ਆਮ ਤੌਰ 'ਤੇ ਤੁਹਾਡੇ ਲਈ ਨਵਾਂ ਹੈ, ਤਾਂ API ਕੀ ਹੁੰਦਾ ਹੈ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ।

Mythex ਨਾਲ ਬਣੀਆਂ ਐਪਾਂ ਵਿੱਚ LLM API

Mythex ਨਾਲ ਬਣਾਉਂਦੇ ਸਮੇਂ, ਤੁਹਾਡੀ ਐਪ ਦੇ ਅੰਦਰ AI ਤੁਹਾਡੀ ਆਪਣੀ ਪ੍ਰਦਾਤਾ ਕੀ ਵਰਤਦਾ ਹੈ। ਤੁਸੀਂ ਇਸ ਨੂੰ ਪ੍ਰੋਜੈਕਟ ਸੀਕ੍ਰੇਟ ਵਜੋਂ ਜੋੜਦੇ ਹੋ, ਜਾਂ ਚੈਟ ਵਿੱਚ ਉਸ ਸੀਕ੍ਰੇਟ ਕਾਰਡ ਰਾਹੀਂ ਜੋ Mythex ਉਦੋਂ ਵਿਖਾਉਂਦਾ ਹੈ ਜਦੋਂ ਇਸ ਦੀ ਲੋੜ ਹੋਵੇ, ਅਤੇ ਏਜੰਟ ਨੂੰ ਸਰਵਰ 'ਤੇ ਕਾਲ ਬਣਾਉਣ ਲਈ ਕਹਿੰਦੇ ਹੋ। ਪ੍ਰਦਾਤਾ ਦੀ ਵਰਤੋਂ ਤੁਹਾਡੇ ਆਪਣੇ ਪ੍ਰਦਾਤਾ ਖਾਤੇ ਨੂੰ ਬਿੱਲ ਹੁੰਦੀ ਹੈ, ਨਾ ਕਿ Mythex ਬਿਲਡ ਕ੍ਰੈਡਿਟ ਨੂੰ। Mythex ਤੁਹਾਡੀ ਐਪ ਦੇ ਯੂਜ਼ਰਾਂ ਲਈ ਟੋਕਨ ਸ਼ਾਮਲ ਨਹੀਂ ਕਰਦਾ, ਨਾ ਹੀ ਕੋਈ ਬਣਿਆ-ਬਣਾਇਆ ਗਿਆਨ-ਅਧਾਰ ਉਤਪਾਦ ਦਿੰਦਾ ਹੈ, ਅਤੇ ਰੇਟ ਲਿਮਿਟ ਤੇ ਖ਼ਰਚੇ ਦੇ ਕੰਟਰੋਲ ਤੁਹਾਡੇ ਆਪਣੇ ਡਿਜ਼ਾਈਨ ਤੇ ਟੈਸਟ ਕਰਨ ਲਈ ਹਨ। ਡੌਕਸ ਦਾ ਆਪਣੀਆਂ API ਕੀਆਂ ਨਾਲ AI ਫੀਚਰ ਜੋੜੋ ਵਾਲਾ ਰੈਸਿਪੀ ਇੱਕ ਸ਼ੁਰੂਆਤੀ ਪ੍ਰੌਮਪਟ ਦਿੰਦਾ ਹੈ, ਅਤੇ AI ਐਪ ਬਿਲਡਰ ਪੰਨਾ ਵਿਖਾਉਂਦਾ ਹੈ ਕਿ ਕਿੱਥੋਂ ਸ਼ੁਰੂ ਕਰਨਾ ਹੈ।

ਸਵਾਲ