Cách dùng LLM API: Token, chi phí, khóa và tính năng AI đầu tiên của bạn

LLM API là một dịch vụ web cho phép ứng dụng của bạn gửi văn bản tới một mô hình ngôn ngữ lớn, chẳng hạn các mô hình GPT của OpenAI, Claude của Anthropic hay Gemini của Google, rồi nhận lại câu trả lời trong mã nguồn. Bạn đăng ký với nhà cung cấp, tạo một khóa API, và máy chủ ứng dụng gửi yêu cầu kèm khóa đó; bạn bị tính phí theo số token (các đoạn văn bản) đi vào và đi ra. Đó thường là tất cả ý nghĩa của việc "thêm AI vào ứng dụng": một yêu cầu được viết tốt tới mô hình của người khác, được thực hiện an toàn từ máy chủ của bạn.

Vì sao điều này quan trọng khi bạn xây dựng bằng AI

Trong một ứng dụng do AI xây dựng có hai loại AI khác nhau, và rất dễ nhầm lẫn:

1. AI xây dựng ứng dụng của bạn: agent của công cụ xây dựng app, nơi viết mã.
2. AI bên trong ứng dụng của bạn: một tính năng mà người dùng sử dụng, như trợ lý trò chuyện, nút "tóm tắt nội dung này" hay tự động gắn thẻ.

Loại thứ hai gọi một LLM API bằng khóa của bạn và tính phí vào tài khoản nhà cung cấp của bạn. Hiểu về token, ngữ cảnh và giá cả là điều giúp bạn thiết kế một tính năng hoạt động tốt, không làm lộ khóa và không khiến bạn bất ngờ với hóa đơn.

Một ví dụ đời thường: một người viết tự do rất giỏi, tính tiền theo từ

Hãy hình dung một LLM API như một người viết tự do rất giỏi mà bạn liên hệ qua email và trả tiền theo từ: vừa trả cho những từ bạn gửi, vừa trả cho những từ họ viết lại (và những từ họ viết thì đắt hơn).

• Họ không có trí nhớ giữa các email. Nếu bạn muốn họ tiếp tục một cuộc trò chuyện, bạn phải dán lại các tin nhắn trước đó vào mỗi email mới.
• Họ chỉ đọc được một lượng nhất định cùng lúc. Giới hạn đó gọi là cửa sổ ngữ cảnh.
• Yêu cầu càng rõ ràng, câu trả lời càng tốt và càng ngắn, và như vậy cũng rẻ hơn.

Các khái niệm cốt lõi

Token

Mô hình đọc và viết văn bản bằng token. Tài liệu giá của Anthropic ước tính khoảng 4 ký tự, hoặc khoảng 0,75 từ tiếng Anh, cho mỗi token tính đến tháng 9/2026. Các mô hình và ngôn ngữ khác nhau tách token theo cách khác nhau, nên hãy coi đó là một hướng dẫn gần đúng. Mọi thứ đều được tính: chỉ dẫn của bạn, tin nhắn của người dùng, mọi tài liệu bạn đính kèm, cuộc trò chuyện trước đó và câu trả lời.

Đầu vào và đầu ra

Token đầu vào là những gì bạn gửi đi. Token đầu ra là những gì mô hình viết ra. Trên trang giá của OpenAI, Anthropic và Google, tính đến tháng 9/2026, token đầu ra đắt gấp vài lần token đầu vào đối với cùng một mô hình. Trang giá Gemini của Google cũng lưu ý rằng phần "suy nghĩ" nội bộ của mô hình được tính là đầu ra.

Cửa sổ ngữ cảnh

Số token tối đa mà một mô hình có thể nhận trong một yêu cầu, bao gồm cả câu trả lời. Các mô hình hiện đại chấp nhận đầu vào rất dài. Ví dụ, một số mô hình hiện tại của Anthropic nhận tới một triệu token. Nhưng đầu vào dài thì tốn kém hơn và chậm hơn, nên chỉ gửi những gì tác vụ cần.

Yêu cầu không lưu trạng thái

Với phần lớn API kiểu trò chuyện, mỗi yêu cầu mặc định là độc lập. Để chat "nhớ" được, ứng dụng của bạn phải gửi lại các tin nhắn trước đó cùng với mỗi tin nhắn mới. Đó là lý do một cuộc trò chuyện dài tốn nhiều chi phí hơn cho mỗi tin nhắn so với một cuộc trò chuyện ngắn.

Prompt hệ thống

Là những chỉ dẫn đặt vai trò và quy tắc của mô hình cho mọi yêu cầu, ví dụ: "Bạn tóm tắt các ticket hỗ trợ thành ba gạch đầu dòng. Không bao giờ đưa địa chỉ email của khách hàng vào." Người dùng không thấy nó, nhưng nó định hình mọi câu trả lời.

Streaming

Thay vì chờ toàn bộ câu trả lời, API có thể gửi văn bản ngay khi được tạo ra, nên người dùng thấy từ xuất hiện tức thì. Điều này khiến giao diện chat có cảm giác nhanh hơn nhiều.

Giá cả hoạt động thế nào

Tính đến tháng 9/2026, đối chiếu với trang giá của chính các nhà cung cấp:

Một số nhà cung cấp cũng cho phép dùng thử trước khi trả tiền: Anthropic tặng người dùng mới một khoản tín dụng miễn phí nhỏ, còn Gemini API của Google có gói miễn phí cho một số mô hình, với lưu ý rằng nội dung gửi qua gói miễn phí có thể được dùng để cải thiện sản phẩm của Google.

Giá giữa mô hình nhỏ, nhanh và mô hình lớn nhất của cùng nhà cung cấp chênh lệch rất nhiều, và thay đổi thường xuyên, nên chúng tôi không ghi giá cụ thể ở đây. Một ước tính đơn giản cho mọi tính năng là: (token đầu vào × giá đầu vào + token đầu ra × giá đầu ra) × số yêu cầu mỗi tháng. Sau đó cộng thêm biên an toàn, và đặt giới hạn chi tiêu hàng tháng trong bảng điều khiển của nhà cung cấp.

Ví dụ thực tế: nút "tóm tắt ticket này"

Một nhóm hỗ trợ khách hàng muốn có nút biến một chuỗi email dài của khách thành ba gạch đầu dòng và một gợi ý trả lời.

1. Lấy khóa. Tạo tài khoản với một nhà cung cấp và tạo khóa API. Đặt giới hạn chi tiêu hàng tháng thấp.
2. Lưu khóa như một bí mật trên máy chủ, đặt tên như ANTHROPIC_API_KEY hoặc OPENAI_API_KEY, không bao giờ đặt trong mã của trang. Xem biến môi trường và bí mật.
3. Thêm một route máy chủ, POST /api/summarise, để:
   • kiểm tra người dùng đã đăng nhập và thuộc nhóm hỗ trợ;
   • tải ticket từ cơ sở dữ liệu;
   • gửi cho nhà cung cấp một prompt hệ thống ("Tóm tắt thành ba gạch đầu dòng, sau đó soạn một câu trả lời lịch sự; không bịa số đơn hàng") cùng nội dung ticket;
   • giới hạn độ dài câu trả lời bằng thiết lập số token đầu ra tối đa;
   • trả kết quả và ghi lại số token đã dùng.
4. Nút gọi route của bạn, không gọi trực tiếp nhà cung cấp, và hiển thị bản tóm tắt khi nó được stream về.
5. Xử lý lỗi. Nếu nhà cung cấp chậm hoặc trả lỗi, hiển thị "Chưa thể tóm tắt lúc này" và giữ cho ticket vẫn dùng được.
6. Đo lường. Sau một tuần, xem nhật ký token. Nếu phần lớn chi phí đến từ các chuỗi email dài, hãy cắt bớt phần trích dẫn lịch sử trước khi gửi.

Hãy để ý những gì không có: không huấn luyện mô hình, không cần hạ tầng đặc biệt. Một khóa, một route máy chủ, một prompt được viết tốt.

Thuật ngữ quan trọng

• Khóa API: bí mật xác định tài khoản của bạn với nhà cung cấp. Ai có nó đều có thể tiêu tiền của bạn.
• Mô hình: LLM cụ thể bạn gọi. Các nhà cung cấp có nhiều kích cỡ với giá và tốc độ khác nhau.
• Temperature: thiết lập mức độ đa dạng của câu trả lời. Giá trị thấp thì dễ dự đoán hơn.
• Max tokens: giới hạn độ dài câu trả lời, cũng là giới hạn chi phí.
• Rate limit: số yêu cầu hoặc số token mà tài khoản được dùng mỗi phút.
• Embeddings: các con số biểu diễn ý nghĩa của văn bản, dùng để tìm kiếm trong tài liệu của riêng bạn.
• RAG (retrieval-augmented generation): tìm các đoạn liên quan từ dữ liệu của bạn và đưa chúng vào prompt, để mô hình trả lời dựa trên nội dung của bạn.
• Tool use / function calling: cho phép mô hình yêu cầu ứng dụng của bạn chạy một hàm cụ thể, ví dụ "tra cứu trạng thái đơn hàng".

Các lỗi thường gặp và hiểu lầm

• Đặt khóa trong mã frontend. Đây là lỗi tốn kém nhất. Mã trình duyệt là công khai. Hãy luôn gọi từ máy chủ. Danh sách kiểm tra bảo mật cho ứng dụng do AI xây dựng bao quát điều này cùng các kiểm tra khác trước khi ra mắt.
• Không có giới hạn chi tiêu hoặc giới hạn theo người dùng. Một lỗi, một vòng lặp hay một người dùng lạm dụng có thể làm chi phí tăng nhanh. Hãy đặt giới hạn bên nhà cung cấp và giới hạn số yêu cầu theo từng người dùng trong ứng dụng.
• Gửi mọi thứ mỗi lần. Toàn bộ tài liệu và toàn bộ lịch sử chat làm nhân số token đầu vào. Hãy cắt bớt, tóm tắt các tin nhắn cũ, hoặc chỉ lấy phần liên quan.
• Tin tưởng đầu ra một cách mù quáng. Mô hình có thể nói sai một cách rất tự tin. Với sự kiện, giá cả, hoặc bất cứ thứ gì liên quan đến pháp lý hay y tế, hãy dựa câu trả lời trên dữ liệu của bạn và hiển thị nguồn, hoặc để một người kiểm tra.
• Để đầu vào của người dùng ghi đè quy tắc của bạn. Người dùng có thể gõ "bỏ qua chỉ dẫn của bạn". Hãy giữ quyền truy cập và các hành động nhạy cảm trong mã máy chủ, không chỉ trong prompt.
• Bắt đầu với mô hình lớn nhất. Hãy thử mô hình nhỏ hơn, rẻ hơn trước; chỉ nâng cấp khi chất lượng yêu cầu.
• Gửi dữ liệu cá nhân mà không suy nghĩ. Kiểm tra điều khoản sử dụng dữ liệu của nhà cung cấp, đặc biệt với gói miễn phí, và chỉ gửi những gì tính năng cần.

Nên yêu cầu gì ở công cụ xây dựng AI của bạn

Thêm nút "Tóm tắt" trên trang ticket. Nút gọi một route máy chủ dùng bí mật OPENAI_API_KEY (không bao giờ lộ ra trình duyệt), kiểm tra người dùng đã đăng nhập, gửi nội dung ticket cùng prompt hệ thống này: […], giới hạn câu trả lời ở 300 token, stream câu trả lời lên trang, và hiển thị thông báo lỗi thân thiện nếu lệnh gọi thất bại. Ghi lại số token đã dùng cho mỗi yêu cầu, và giới hạn mỗi người dùng 30 lần tóm tắt mỗi giờ.

Nếu muốn trải nghiệm chat đầy đủ, xem cách xây dựng ứng dụng chatbot AI; để có thêm ý tưởng khác, xem cách thêm tính năng AI vào ứng dụng. Nếu API nói chung còn mới với bạn, hãy bắt đầu với API là gì.

LLM API trong ứng dụng xây dựng bằng Mythex

Khi bạn xây dựng với Mythex, AI bên trong ứng dụng dùng khóa nhà cung cấp của riêng bạn. Bạn thêm khóa đó như một bí mật của dự án, hoặc qua thẻ bí mật mà Mythex hiển thị trong chat khi cần, rồi yêu cầu agent thực hiện lệnh gọi trên máy chủ. Chi phí sử dụng nhà cung cấp được tính vào tài khoản nhà cung cấp của bạn, không tính vào credit xây dựng của Mythex. Mythex không cấp token cho người dùng ứng dụng của bạn hay một sản phẩm cơ sở tri thức tích hợp sẵn, còn giới hạn tốc độ và kiểm soát chi phí là việc bạn thiết kế và kiểm tra. Công thức trong tài liệu thêm tính năng AI bằng khóa API của riêng bạn có một prompt khởi đầu, và trang công cụ xây dựng ứng dụng AI cho bạn biết nên bắt đầu từ đâu.

Câu hỏi thường gặp