點樣使用 LLM API：Token、費用、金鑰同第一個 AI 功能

LLM API 係一種網絡服務，俾你嘅 App 將文字傳送去大型語言模型，例如 OpenAI 嘅 GPT 模型、Anthropic 嘅 Claude 或者 Google 嘅 Gemini，然後喺程式碼入面攞返佢嘅回覆。你要先喺供應商註冊，建立一個 API 金鑰，之後你 App 嘅伺服器就用呢個金鑰發送請求；每個請求會按傳入同傳出嘅 Token（文字區塊）數量收費。「喺 App 加入 AI」通常就係咁樣：用安全嘅方式，由你嘅伺服器寫一個好嘅請求，去問別人嘅模型。

點解用 AI 建立 App 時要識呢啲

AI 建立嘅 App 入面有兩個唔同嘅 AI，好容易混淆：

1. 建立你 App 嘅 AI：由 App 建置工具自己嘅 agent 負責，佢負責寫程式碼。
2. 你 App 入面嘅 AI：俾你用戶用嘅功能，例如聊天助手、「摘要呢段內容」按鈕或者自動標籤。

第二種會用你嘅金鑰去叫 LLM API，並由你嘅供應商帳戶付費。明白 Token、上下文同定價，你就可以設計一個運作得好、唔會洩漏金鑰、又唔會令你收到意外賬單嘅功能。

生活化類比：一位好叻嘅自由撰稿人，按字收費

可以將 LLM API 想像成一位非常叻嘅自由撰稿人，你透過電郵搵佢，按字數付費：你傳去嘅字要畀錢，佢寫返嚟嘅字都要畀錢（而且寫嘅字收費更貴）。

• 佢每封電郵之間冇記憶。如果你想佢延續對話，就要將之前嘅訊息貼入每封新電郵。
• 佢一次只可以讀有限嘅內容，呢個限制就叫上下文窗口。
• 指示愈清楚，答案愈好，亦愈平。

核心概念

Token

模型用 Token 讀寫文字。截至 2026 年 9 月，Anthropic 嘅定價文件估計，每個 Token 大約係 4 個字元，或者大約 0.75 個英文字。唔同模型同語言嘅切分方式都唔同，所以呢個只係粗略指引。所有嘢都計算在內：你嘅指示、用戶嘅訊息、你包含嘅任何文件、之前嘅對話，以及回覆。

輸入同輸出

輸入 Token 係你傳送嘅內容，輸出 Token 係模型寫出嚟嘅內容。根據 OpenAI、Anthropic 同 Google 截至 2026 年 9 月嘅定價頁，同一個模型嘅輸出 Token 收費通常係輸入 Token 嘅數倍。Google 嘅 Gemini 定價亦註明，模型內部嘅「思考」都計入輸出。

上下文窗口

模型喺單一個請求入面可以接受嘅最大 Token 數量，包括回覆在內。現代模型可以接受非常長嘅輸入，例如 Anthropic 部分現有模型最多可以接受一百萬個 Token。不過輸入愈長費用愈高，速度亦愈慢，所以只傳送任務需要嘅內容。

無狀態請求

大部分聊天式 API 預設每個請求都係獨立嘅。要令聊天「記得」之前講過嘅嘢，你嘅 App 就要每次新訊息都再次傳送之前嘅訊息。所以一個長對話，每條訊息嘅費用都會比短對話高。

系統提示

每個請求都會套用嘅指示，用嚟設定模型嘅角色同規則，例如：「你將支援工單摘要為三個重點。永遠唔好包括客戶嘅電郵地址。」用戶睇唔到呢段內容，但佢會影響每一個回覆。

串流

API 可以一邊生成一邊將文字傳返，而唔係等晒成個答案先至傳。咁樣用戶就會即時見到字逐個出現，聊天介面感覺快好多。

收費方式

截至 2026 年 9 月，以下資料係參考各供應商自己嘅定價頁：

部分供應商亦提供先試後付嘅方式：Anthropic 會俾新用戶少量免費額度，而 Google 嘅 Gemini API 部分模型有免費層級，但要注意喺免費層級傳送嘅內容可能會被用嚟改善 Google 嘅產品。

供應商旗下細而快嘅模型同最大型嘅模型價錢差好遠，而且價錢經常變動，所以本文唔會列明具體價格。任何功能嘅簡單估算方法係：（輸入 Token × 輸入價格 + 輸出 Token × 輸出價格）× 每月請求數目。然後再加埋一個緩衝，並喺供應商嘅儀表板設定每月消費上限。

實例：「摘要呢張工單」按鈕

一間小型支援團隊想要一個按鈕，將一段好長嘅客戶電郵對話，變成三個重點同一個建議回覆。

1. 攞金鑰。 喺一個供應商註冊帳戶，並建立一個 API 金鑰。設定一個較低嘅每月消費上限。
2. 將金鑰儲存為機密，放喺你嘅伺服器上，名稱可以係 ANTHROPIC_API_KEY 或者 OPENAI_API_KEY 之類，絕對唔可以放喺頁面程式碼入面。見環境變數同機密資料。
3. 加一個伺服器路由，POST /api/summarise，用嚟：
   • 檢查用戶已經登入，並且屬於支援團隊；
   • 由資料庫載入工單；
   • 向供應商發送系統提示（「用三個重點摘要，然後草擬一個有禮貌嘅回覆；唔好捏造訂單編號」）連同工單內容；
   • 用最大輸出 Token 設定，限制回覆長度；
   • 返回結果，並記錄用咗幾多 Token。
4. 按鈕呼叫你嘅路由，而唔係直接呼叫供應商，並喺摘要串流時顯示內容。
5. 處理失敗情況。 如果供應商好慢或者返回錯誤，就顯示「暫時無法摘要」，並確保工單仍然可以使用。
6. 量度。 一個星期後睇 Token 紀錄。如果大部分費用都來自長嘅電郵串，就喺傳送前剪走被引用嘅舊內容。

留意呢個例子冇乜嘢：冇訓練模型，亦冇特別嘅基建。一個金鑰、一個伺服器路由、一個寫得好嘅 prompt。

常用詞彙

• **API 金鑰：**向供應商識別你帳戶嘅機密資料。任何人攞到佢都可以花你嘅錢。
• **模型：**你所呼叫嘅特定 LLM。供應商會提供幾種唔同大小、價錢同速度嘅模型。
• **Temperature：**控制回覆變化程度嘅設定。數值愈低，回覆愈可預測。
• **最大 Token：**回覆長度嘅上限，亦同時限制費用。
• **速率限制：**你帳戶每分鐘可以使用幾多個請求或者 Token。
• **Embeddings：**代表文字意思嘅數字，用嚟喺你自己嘅文件入面搜尋。
• **RAG（檢索增強生成）：**搵出你自己資料入面相關嘅段落，並放入 prompt，令模型根據你嘅內容作答。
• **工具使用／函數調用：**容許模型要求你嘅 App 執行指定嘅函數，例如「查詢訂單狀態」。

常見錯誤同誤解

• 將金鑰放喺前端程式碼。 最昂貴嘅錯誤。瀏覽器程式碼係公開嘅。一定要由你嘅伺服器呼叫。AI 建立 App 安全清單會連同其他上線前檢查一齊講解。
• 冇消費上限或者每位用戶嘅限制。 一個 bug、一個無限循環或者一個濫用嘅用戶，都可以好快令費用飆升。要喺供應商設定上限，並喺你嘅 App 入面限制每位用戶嘅請求數量。
• 每次都傳送所有嘢。 整份文件同完整嘅聊天記錄會令輸入 Token 倍增。要剪走、摘要舊訊息，或者只檢索相關部分。
• 盲目相信輸出。 模型可能會好有信心咁講錯嘢。對於事實、價格，或者任何法律或醫療相關內容，要以你自己嘅資料作依據並顯示來源，或者由人手核實。
• 容許用戶輸入覆蓋你嘅規則。 用戶可以打「忽略你嘅指示」。權限同敏感操作要放喺伺服器程式碼入面，唔可以只靠 prompt。
• 一開始就用最大嘅模型。 先試較細、較平嘅模型；只有質素要求先升級。
• 唔加思考就傳送個人資料。 要查看供應商嘅資料使用條款，尤其係免費層級，並且只傳送功能所需嘅內容。

問你嘅 AI 建置工具要做乜

喺工單頁面加一個「摘要」按鈕。佢會呼叫一個伺服器路由，該路由使用機密 OPENAI_API_KEY（絕對唔會暴露俾瀏覽器），檢查用戶已經登入，用以下系統提示發送工單內容：[…]，將回覆限制喺 300 個 Token，將答案串流去頁面，如果呼叫失敗就顯示友善嘅錯誤。記錄每個請求用咗幾多 Token，並限制每位用戶每小時最多 30 次摘要。

如果想要完整嘅聊天體驗，可以睇點樣建立 AI 聊天機械人 App；其他點子就睇點樣喺你嘅 App 加入 AI 功能。如果你對 API 整體仲未熟，可以由什麼是 API開始。

用 Mythex 建立嘅 App 入面嘅 LLM API

用 Mythex 建立嘅時候，你 App 入面嘅 AI 會使用你自己嘅供應商金鑰。你可以將佢加做專案機密，或者透過 Mythex 需要時喺聊天入面顯示嘅機密資料卡去加入，然後請 agent 喺伺服器上進行呼叫。供應商嘅用量會計入你自己嘅供應商帳戶，唔會計入 Mythex 建置點數。Mythex 唔會為你 App 嘅用戶提供 Token，亦唔提供內建嘅知識庫產品；速率限制同費用控制都由你自己設計同測試。文件入面嘅用自己嘅 API 金鑰加入 AI 功能食譜有一個起步 prompt，而 AI 應用程式建置工具頁面則話你知由邊度開始。

常見問題