如何使用 LLM API：令牌、费用、密钥与你的第一个 AI 功能

LLM API 是一种网络服务，让你的应用把文本发送给大语言模型（例如 OpenAI 的 GPT 模型、Anthropic 的 Claude 或 Google 的 Gemini），并在代码中取回它的回复。你需要在服务商处注册，创建一个 API 密钥，然后你的应用服务器就用这个密钥发送请求；费用则按进出的 令牌（文本块）数量计算。通常所说的“给应用添加 AI”，指的就是这件事：从你的服务器安全地向别人的模型发出一个写得好的请求。

为什么用 AI 构建应用时这很重要

AI 构建的应用里其实有两种不同的 AI，很容易混淆：

1. 构建你应用的 AI —— 应用构建工具自带的智能体，负责编写代码。
2. 应用内部的 AI —— 用户会使用的功能，例如聊天助手、“总结这段内容”按钮或自动打标签。

第二种会使用 你的 密钥调用 LLM API，并计入 你的 服务商账户。理解令牌、上下文和定价，才能设计出一个能正常工作、不泄露密钥、也不会让你的账单出乎意料的功能。

日常类比：一位能力很强、按字数付费的自由撰稿人

可以把 LLM API 想象成一位能力很强的自由撰稿人：你通过邮件联系他，按字数付费，既为你发给他的字数付费，也为他写回来的字数付费（而且他写回来的字数单价更高）。

• 他 在邮件之间没有记忆。如果你想让他延续对话，就得在每封新邮件里粘贴之前的消息。
• 他一次只能读取有限的内容，这个上限就是 上下文窗口。
• 你的需求说明越清楚，他的回答就越好、越简短，成本也越低。

核心概念

令牌

模型以令牌为单位读写文本。截至 2026 年 9 月，Anthropic 的定价文档估计每个令牌约为 4 个字符，或大约 0.75 个英文单词。不同的模型和语言切分令牌的方式不同，所以请把它当作粗略的参考。所有内容都计入其中：你的指令、用户的消息、你附带的任何文档、之前的对话，以及回复本身。

输入与输出

输入令牌 是你发送的内容，输出令牌 是模型生成的内容。截至 2026 年 9 月，OpenAI、Anthropic 和 Google 的定价页面都显示，对于同一个模型，输出令牌的价格是输入令牌的数倍。Google 的 Gemini 定价还说明，模型内部的“思考”过程也计为输出。

上下文窗口

模型在一次请求中能接受的最大令牌数，包括回复在内。现代模型可以接受非常长的输入，例如 Anthropic 的一些当前模型就最多可接受一百万个令牌。但输入越长，费用越高、耗时越长，所以只发送任务真正需要的内容。

无状态请求

对于大多数聊天式 API，默认情况下每个请求都是独立的。要让聊天“记住”上下文，你的应用需要在每条新消息中重新发送之前的消息。这就是为什么一段很长的对话，每条消息的费用都比短对话高。

系统提示词

为每个请求设定模型角色和规则的指令，例如：“你用三个要点总结支持工单。绝不包含客户的电子邮件地址。”用户看不到它，但它会影响每一次回复。

流式输出

API 不必等完整答案生成完毕，而是可以边生成边发送文本，让用户立即看到文字逐步出现。这会让聊天界面感觉快得多。

定价方式

截至 2026 年 9 月，以下内容来自各服务商自己的定价页面：

一些服务商还提供先试用后付费的方式：Anthropic 为新用户提供少量免费额度，Google 的 Gemini API 在部分模型上提供免费层级，但需注意，在免费层级上发送的内容可能会被用于改进 Google 的产品。

小型、快速模型与最大型模型之间的价格差异很大，而且价格经常变动，因此这里不列出具体数字。对任何功能做一个简单的估算，公式是：（输入令牌数 × 输入单价 + 输出令牌数 × 输出单价）× 每月请求次数。然后再留出一定余量，并在服务商的控制台中设置每月消费上限。

实例：一个“总结此工单”按钮

一个小型支持团队希望有一个按钮，能把很长的客户邮件往来记录变成三个要点，并给出一条建议回复。

1. 获取密钥。 在一家服务商处创建账户并生成 API 密钥。设置一个较低的月度消费上限。
2. 把密钥保存为服务器上的机密。 名称可以是 ANTHROPIC_API_KEY 或 OPENAI_API_KEY 之类，绝不 放在页面代码中。参见 环境变量与机密。
3. 添加一个服务器路由，即 POST /api/summarise，它需要：
   • 检查该用户已登录，并且属于支持团队；
   • 从数据库中加载工单；
   • 向服务商发送一条系统提示词（“用三个要点总结，然后起草一条礼貌的回复；不要编造订单号”）以及工单文本；
   • 通过设置最大输出令牌数来限制回复长度；
   • 返回结果，并记录本次使用的令牌数。
4. 按钮调用你的路由，而不是直接调用服务商，并在摘要生成时以流式方式显示。
5. 处理失败情况。 如果服务商响应缓慢或返回错误，就显示“暂时无法生成摘要”，并保证工单仍然可以正常使用。
6. 测量。 一周之后，查看令牌日志。如果大部分费用来自很长的邮件往来，那么在发送之前就裁剪掉引用的历史内容。

注意这里缺少了什么：没有模型训练，也没有特殊的基础设施。一个密钥、一个服务器路由、一条写得好的提示词，就够了。

关键术语

• API 密钥： 向服务商标识你账户身份的机密。任何拿到它的人都可以花你的钱。
• 模型： 你调用的具体 LLM。服务商提供多种规格，价格和速度各不相同。
• 温度（Temperature）： 控制回复多样性的参数。数值越低，结果越可预测。
• 最大令牌数（Max tokens）： 回复长度的上限，同时也限制了费用。
• 速率限制（Rate limit）： 你的账户每分钟可以使用的请求数或令牌数。
• 嵌入（Embeddings）： 表示文本含义的数字向量，用于在你自己的文档中进行搜索。
• RAG（检索增强生成）： 从你自己的数据中找出相关段落，并把它们放进提示词，使模型基于你的内容作答。
• 工具调用 / 函数调用（Tool use / function calling）： 让模型请求你的应用运行某个特定函数，例如“查询订单状态”。

常见误区与错误认识

• 把密钥放在前端代码里。 这是代价最高的错误。浏览器中的代码是公开的。务必从服务器发起调用。AI 构建应用的安全检查清单 会结合其他上线检查项对此进行说明。
• 没有消费上限，也没有按用户的限制。 一个漏洞、一个循环或一个滥用的用户都可能迅速产生高额费用。请设置服务商侧的上限，并在应用中限制每个用户的请求次数。
• 每次都发送全部内容。 整篇文档和完整的聊天记录会成倍增加输入令牌。请裁剪、总结较早的消息，或只检索相关部分。
• 盲目相信输出。 模型可能会很有把握地说出错误的内容。涉及事实、价格或任何法律或医疗问题时，应以你自己的数据为依据并展示来源，或由人工核实。
• 让用户输入覆盖你的规则。 用户可能会输入“忽略你的指令”。权限和敏感操作应放在服务器代码中，而不能只依赖提示词。
• 一开始就使用最大的模型。 先尝试更小、更便宜的模型；只有在质量确实需要时才升级。
• 不加考虑地发送个人数据。 请查看服务商的数据使用条款，尤其是免费层级，并且只发送该功能所需的数据。

向你的 AI 构建工具提出的要求

在工单页面添加一个“总结”按钮。它调用一个服务器路由，该路由使用机密 OPENAI_API_KEY（绝不暴露给浏览器），检查用户是否已登录，使用以下系统提示词发送工单文本：[…]，将回复限制在 300 个令牌以内，把答案以流式方式输出到页面，并且在调用失败时显示友好的错误提示。记录每次请求使用的令牌数，并限制每位用户每小时最多 30 次摘要。

如果需要完整的聊天体验，参见 如何构建 AI 聊天机器人应用；其他想法可参见 如何为你的应用添加 AI 功能。如果你对 API 整体还不熟悉，可以先看 什么是 API。

在 Mythex 构建的应用中使用 LLM API

使用 Mythex 构建时，应用内部的 AI 会使用你自己的服务商密钥。你可以把它添加为项目机密，也可以通过 Mythex 在聊天中需要时显示的机密卡片来添加，然后要求智能体在服务器端完成调用。服务商的用量计入你的服务商账户，而不是 Mythex 的构建积分。Mythex 不为你应用的用户提供令牌，也不提供内置的知识库产品；速率限制和成本控制需要你自己设计和测试。文档中的配方 使用你自己的 API 密钥添加 AI 功能 提供了一个入门提示词，而 AI 应用构建器 页面则告诉你从哪里开始。

常见问题