---
title: "Hiểu model AI đủ để dùng và chọn đúng model - token, prompt caching, model card, reasoning model và fine-tune"
description: "Khóa học ứng dụng cho người dùng model qua chat, playground hoặc API, dựa trên việc provider tính tiền theo token, model viết từng token một và chỉ được train cho việc chung, chưa cho việc riêng của bạn. Bạn tính trước chi phí, chọn ra vài model đáng thử và biết sửa ở đâu khi model sai."
canonical: "https://200lab.io/courses/understanding-ai-models-to-choose-the-right-one"
type: "course"
course_type: "course"
learning_type: "free_form"
published: "2026-10-22T02:51:27Z"
students: 1
---

## Khóa học này mang lại gì cho bạn

Mỗi lần tính năng AI của bạn gọi model, provider đếm token ở cả phần model đọc vào lẫn phần model viết ra để tính tiền, còn model chọn lần lượt từng token để dựng câu trả lời. Trước cả lần gọi ấy, model đã được train cho những việc chung, chưa cho việc riêng của bạn. Khóa học giải thích ba điều ấy bằng cách nói thường ngày và phép nhân chia, rồi dùng chúng để đọc hóa đơn, chọn model và sửa lỗi của model.

- **Tính trước chi phí gọi model** — Bạn đếm token bằng tokenizer của đúng model sẽ gọi, rồi lấy giá nhân số token và chia cho một triệu. Với cuộc chat nhiều lượt, bạn cộng dồn input của từng lượt thay vì nhân đôi chi phí của cuộc chat ngắn hơn.
- **Đọc `usage` của từng lần gọi** — `usage` là phần ghi số token từng loại của lần gọi. Bạn tách input token, output token và cached token rồi quy từng phần ra tiền, nên biết tiền đi vào lịch sử chat, câu trả lời hay phần suy nghĩ bạn không đọc thấy.
- **Đọc bảng xác suất chọn token** — Bạn hiểu vì sao model trả lời mỗi lần một khác, và vì sao ở temperature 0 câu trả lời vẫn không chắc giống hệt nhau giữa các lần gọi.
- **Xếp prompt để dùng lại cache** — Bạn chuyển những dòng thay đổi ở mỗi lần gọi xuống cuối prompt, rồi xem số cached token ở lần gọi sau để biết cache đã được dùng lại chưa.
- **Chọn ra vài model đáng thử** — Trên model card, bạn đọc số tham số để biết GPU có chứa nổi trọng số không, rồi xem context window, knowledge cutoff (mốc kiến thức nhà phát hành ghi trên card) và ngôn ngữ.
- **Cân nhắc reasoning model** — Bạn tính phần thinking token cộng vào hóa đơn và thời gian chờ, rồi chỉ giữ reasoning model ở lần gọi mà bộ eval cho thấy kết quả tốt hơn. Bộ eval là vài câu hỏi hoặc tin nhắn mẫu kèm đáp án đúng, lấy từ việc của bạn.
- **Chọn cách sửa khi model sai** — Bạn xếp mỗi lỗi vào đúng loại lỗi rồi chọn cách sửa rẻ nhất hợp với loại ấy. Bạn chỉ bỏ tiền fine-tune khi bộ eval cho thấy những cách rẻ hơn chưa đủ.

Bạn làm được mọi việc trên khi chỉ có hóa đơn, `usage`, model card và câu trả lời trước mặt, nên khóa học không đi vào bên trong model.

## Khóa học cung cấp những nền tảng nào

Hóa đơn, thời gian chờ và cache trong khóa học đều tính theo token, tức những mẩu chữ model đọc vào và viết ra. Ở mỗi bước viết, token được chọn có một logprob, tức log của xác suất mà model gán cho token ấy. Con số này cho biết câu nào quen với model, chưa cho biết câu nào đúng.

Cùng một nội dung, mỗi ngôn ngữ cần số token khác nhau; bài báo [Language Model Tokenizers Introduce Unfairness Between Languages](https://arxiv.org/abs/2305.15425) đã đo khoảng chênh ấy. Ở temperature 0, câu trả lời vẫn có thể khác nhau khi số request provider gộp chung một đợt đổi theo tải; Thinking Machines Lab phân tích cơ chế này trong bài [Defeating Nondeterminism in LLM Inference](https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/).

Về fine-tune, [thí nghiệm của Ovadia và cộng sự](https://arxiv.org/abs/2312.05934) cho thấy retrieval, tức tìm đoạn tài liệu liên quan rồi đưa vào context, tốt hơn fine-tune không giám sát (train thêm trên văn bản thô), kể cả với kiến thức mới.

### 1. Model đọc token và bạn trả tiền theo token

Trong FAQ hai thứ tiếng của sàn bán vé sự kiện, bản tiếng Việt của câu trả lời về hoàn vé ngắn hơn bản tiếng Anh **55** ký tự. Vậy mà tokenizer thứ nhất đếm bản tiếng Việt ra **136** token, so với **109** token của bản tiếng Anh, còn tokenizer thứ hai đếm ra **231** token (số đo minh họa một lần chạy). Token không phải là từ: tokenizer của từng model quyết định cách cắt văn bản thành token.

Với giá giả định **8 USD** mỗi triệu output token và **10.000** câu trả lời mỗi ngày, khoảng chênh **27** hoặc **122** token mỗi câu thành **2,16 USD** hoặc **9,76 USD** mỗi ngày.

Bài về những gì model biết khi nhận một request, dùng chung với một khóa khác, đứng ngay trước phần hóa đơn. Ở phần ấy, trợ lý hỏi đáp nội quy công ty có system prompt **1.000** token, mỗi tin nhắn và câu trả lời **200** token, lượt nào cũng gửi lại toàn bộ lịch sử (số giả định).

Ba lượt gửi tổng cộng **4.800** input token, sáu lượt gửi **13.200**, gấp **2,75** lần khi số lượt chỉ gấp đôi, và tiền mỗi cuộc chat đi từ **0,0144 USD** lên **0,036 USD**. Phiếu ghi số token từng lượt chat giúp bạn làm lại phép cộng ấy cho trợ lý hoặc agent của mình trước khi nó phải chạy thêm lượt.

### 2. Model viết câu trả lời từng token một

Phần này dựa vào bài về bảng xác suất model dùng khi chọn token và bài về cách model đổi điểm số thành xác suất cùng vai trò của temperature, đều dùng chung với khóa Toán học cơ bản cho AI Engineer.

Chủ tiệm bánh gửi cùng một tin nhắn xin caption cho mẻ bánh mì mới ra lò, và mỗi lần nhận về một câu khác. Bảng đo trong bài là số đo minh họa một lần chạy với chính tin nhắn ấy, trên model open-weight (tải trọng số về tự chạy được) cỡ **1,5 tỉ** tham số chạy trên máy.

Ở temperature 1, token có xác suất cao nhất ở bước đầu tiên chỉ đạt xấp xỉ **41,6%**, tức xấp xỉ **6** trong **10** lần model không chọn nó. Ở temperature 0,2, xác suất ấy lên xấp xỉ **72,7%**, nhưng model vẫn chưa chắc chọn nó.

Ở mỗi bước, model tính bảng xác suất, chọn một token, nối nó vào context rồi tính bảng mới, nên một token khác ở đầu câu có thể kéo phần sau sang hướng khác. Với lần gọi cần kết quả ổn định, bạn hạ temperature khi đủ hai điều kiện: model cho chỉnh temperature, và docs của model không khuyên giữ mặc định. Dù vậy, ứng dụng vẫn phải kiểm tra kết quả.

Coding agent gửi lại cùng một prefix, tức đoạn đầu prompt giữ nguyên qua các lần gọi. Ở giai đoạn prefill, model xử lý toàn bộ input cùng một lúc; ở giai đoạn decode, model viết từng token một. Prompt càng dài thì giai đoạn prefill càng lâu, nhưng prefill vẫn chưa phải toàn bộ thời gian chờ chữ đầu tiên.

KV cache lưu lại phần đã tính để khỏi tính lại. Khi prefix của lần gọi sau và lần gọi trước giống hệt nhau từ token đầu tiên, đủ độ dài tối thiểu và còn trong thời gian giữ cache, provider có thể dùng lại phần đó để nhanh và rẻ hơn.

Giả định giá khi ghi vào cache bằng **1,25** lần giá input và giá đọc cache bằng **0,1** lần. Với prefix **20.000** token qua **40** lần gọi, tiền của phần prefix giảm từ **1,6 USD** xuống xấp xỉ **0,21 USD**.

### 3. Đọc model card, so sánh benchmark và cân nhắc reasoning model

Bạn cần model open-weight để tóm tắt biên bản họp trên server của công ty, và server ấy có GPU **12 GB** (số giả định). Model B có điểm benchmark cao hơn, nhưng với xấp xỉ **8,8 tỉ** tham số và **2** byte mỗi tham số, riêng trọng số đã cần xấp xỉ **17,6 GB**. Model A có xấp xỉ **3,1 tỉ** tham số nên cần xấp xỉ **6,2 GB**. Số tham số lấy từ card thật, phép nhân chỉ là ước tính.

Theo ước tính lý tưởng, bản nén **4** bit của model B cần xấp xỉ **4,4 GB**, nên model A bản gốc và model B bản nén là hai model đáng thử trên vài biên bản thật. Còn cặp điểm benchmark của A và B thì chưa so sánh được, vì hai điểm phải cùng bộ đề, phiên bản, số shot (số ví dụ mẫu kèm trong prompt) và cách chấm. Bạn ghi hai card vào phiếu tám trường của model card, kể cả những trường card để trống.

Phòng khám nhờ model xếp lịch trực tuần cho **6** người, với nhiều điều kiện ràng buộc lẫn nhau. Reasoning model là model sinh thêm token suy nghĩ, thường trước phần câu trả lời bạn thấy.

Trong tình huống giả định của bài, reasoning model trả về câu trả lời khoảng **150** token mà `usage` ghi **2.150** output token. Lần gọi vì vậy tốn **0,0178 USD** thay vì **0,0018 USD** khi không bật reasoning, và mất **43** giây để sinh token, chưa tính prefill.

Phần chênh ấy chỉ đáng trả khi bộ eval cho thấy lịch tốt hơn, chẳng hạn vi phạm ít ràng buộc hơn trên vài tuần đã có lịch.

### 4. Chọn cách sửa khi model trả lời sai

Ngay trước phần này là bài về log xác suất khi train và đánh giá model, cũng thuộc khóa Toán học cơ bản cho AI Engineer. Bài ấy giải thích perplexity, con số tính từ logprob trung bình mỗi token của một câu: perplexity càng thấp thì model càng thấy câu đó quen.

Trợ lý bảo hành của một cửa hàng điện máy trả lời “**12** tháng” bằng giọng chắc chắn, trong khi chính sách ghi “**24** tháng”. Trên bảng đo của một model open-weight nhỏ, khi context không có chính sách, câu sai có perplexity thấp hơn câu đúng ở cả bản base (xấp xỉ **2,38** so với **2,72**) lẫn bản instruct (xấp xỉ **2,54** so với **3,75**). Đó là số đo minh họa một lần chạy, chỉ so sánh trong cùng một model.

Pretraining là giai đoạn model học đoán token kế tiếp, cho ra base model; post-training là giai đoạn model học thêm để làm theo yêu cầu, cho ra instruct model. Cả hai giai đoạn đều không bảo đảm model làm đúng việc riêng của bạn, nên bạn cần một bộ eval lấy đáp án từ chính tài liệu của tính năng.

Trợ lý soạn email của một spa hứa hoàn **1,5 triệu đồng** cho khách hủy lịch sát giờ, dù chính sách không cho (số giả định). Đây là lỗi làm trái quy định hay chính sách đã dặn, và bạn sửa ở hai chỗ. Trong prompt, bạn nêu rõ chính sách hoàn tiền; trong ứng dụng, bạn giữ lại email nào nhắc tới hoàn tiền để nhân viên duyệt. Bạn chỉ tính tới fine-tune khi bộ eval cho thấy hai cách ấy chưa đủ.

Năm cách sửa thường gặp, xếp từ rẻ tới đắt, là prompt, ví dụ mẫu, retrieval, tool (chức năng của ứng dụng mà model gọi để lấy kết quả chính xác) và fine-tune. Thứ tự ấy nói về công sức và tiền bạn thường phải bỏ ra, không phải bảng giá, và bạn chọn theo loại lỗi chứ không thử lần lượt. Phiếu phân loại lỗi giúp bạn xếp lỗi thật của tính năng mình vào đúng loại, kèm cách sửa rẻ nhất và bằng chứng.

## Vì sao 200Lab tạo ra khóa học này

Khung chat và playground chỉ hiện câu bạn gõ và câu model trả lời. Màn hình không cho thấy lượt thứ sáu đang gửi kèm cả năm lượt trước, cũng không ghi phần suy nghĩ mà bạn vẫn phải trả tiền.

Khi tính năng đã mở cho khách, những token không ai thấy ấy cộng thành hóa đơn cuối tuần, thành vài giây khách ngồi chờ chữ đầu tiên, còn câu trả lời mỗi lần một khác có lúc sai ngay trước mặt khách. Chuyển sang model mạnh hơn, viết thêm vào prompt hay bỏ tiền fine-tune đều là những việc bạn làm được ngay. Cách nào cũng tốn tiền hoặc vài ngày công, mà khi chưa biết lỗi nằm ở đâu thì không cách nào chắc chắn sửa đúng chỗ.

Khóa học đưa những phép tính ấy về lúc tính năng còn nằm trên giấy. Trong từng bài, bạn tự tính lại các số mà màn hình không hiện, từ số token của từng lượt chat tới phần thinking token, rồi gọi tên loại lỗi trước khi chọn cách sửa. Tiền và thời gian bạn bỏ ra nhờ vậy rơi vào đúng chỗ đang có vấn đề.

## Những vấn đề thường gặp khi dùng model cho tính năng AI

Người dùng model thường giải thích con số lạ trên hóa đơn hay câu trả lời lạ trong log bằng lý do nghĩ ra trước tiên, rồi sửa tính năng theo đúng lý do ấy.

- Hóa đơn tuần sau gấp ba tuần trước, và lý do được ghi là có thêm khách — số cuộc chat vẫn **7.000** ở cả hai tuần; tiền mỗi cuộc chat đi từ **0,0096 USD** lên **0,0288 USD** (số giả định) vì cuộc chat dài gấp đôi mà lượt nào cũng gửi lại cả lịch sử.
- Số token được ước tính bằng số từ nhân một hệ số đo trên bản tiếng Anh — với **116** từ tiếng Việt, hệ số **1,09** token mỗi từ cho xấp xỉ **126** token, thiếu xấp xỉ **10** hoặc **105** token so với số đếm thật trên hai tokenizer, vì số token chỉ đúng cho tokenizer đã đếm ra nó.
- Năm lần gửi cùng prompt ra năm câu giống hệt nhau, nên temperature bị coi là không có tác dụng — năm lần quá ít để đo một tỉ lệ.
- Hai system prompt chỉ khác một chữ ở dòng đầu, và bạn tưởng provider dùng lại được gần hết cache — provider so sánh prefix từ token đầu tiên, nên phần đứng sau chỗ khác nhau không dùng lại được.
- Câu trả lời ngắn mà tiền của lần gọi lại lớn, và bạn định báo provider tính nhầm — thinking token được tính tiền như output token dù bạn không đọc thấy.
- Câu trả lời trôi chảy, giọng chắc chắn, nên được tin là đúng — khi context không có chính sách, instruct model trả lời rằng bảo hành “từ **1 đến 3 năm**” rất xuôi tai mà khách vẫn không biết cửa hàng bảo hành bao lâu.
- Model được fine-tune với bảng giá mới để báo đúng giá — fine-tune không phải cách đáng tin để thêm kiến thức mới; đặt bảng giá vào context thì lần đổi giá sau chỉ cần thay bảng.

Khóa học đặt cạnh từng cách hiểu vội ấy một phép tính hoặc bảng đo chỉ ra chỗ sai, để lần sau bạn kiểm tra con số trước rồi mới sửa.

## Bạn sẽ học theo cách nào

- **Từ con số lạ tới cơ chế** — Bài thường bắt đầu từ con số lạ trên tính năng AI, như hóa đơn tăng gấp ba, rồi mới giải thích cơ chế đứng sau.
- **Phần tương tác về token và cache** — Khóa học có phần tương tác về input cộng dồn qua các lượt chat, về vòng lặp chọn token, và về prefill, decode cùng cache dùng lại ở lần gọi sau.
- **Phiếu cho bài thực hành** — Kết quả bài thực hành được ghi lại thành bảng bạn xem lại được, từ số token từng lượt chat tới loại lỗi của tính năng mình.
- **Quiz đọc hóa đơn và bảng đo** — Trừ bài mở đầu, bài nào cũng kết bằng quiz, để bạn tự kiểm tra cách đọc vừa học.

## Khóa học dành cho ai

1. **AI/Agent Builder** — Agent, chatbot hay workflow mà bạn dựng đều gọi model nhiều lần mỗi ngày, nên bạn cần đọc hóa đơn và `usage`, chọn model và cấu hình có lý do, và biết lúc nào nên thôi chỉnh prompt.
2. **Vibe coder thêm tính năng AI** — Trước khi bật cho khách tính năng gọi model trong app do coding agent dựng, bạn cần ước tính chi phí và hiểu vì sao kết quả lúc được lúc không.
3. **Người theo nghề AI Engineer** — Bạn nắm bức tranh chung về token, cách model viết câu trả lời và cách model được train trước khi đi sâu vào bên trong model.

## Những điều cần lưu ý

- **Bỏ qua attention và layer** — Khóa học không giải thích attention, layer hay cách tokenizer học cắt chữ. Học xong, bạn có nền để tự chạy model trên máy, dựng bộ eval và chọn model theo chi phí từng việc.
- **Chỉ cần làm được phép nhân chia** — Đã vài lần gọi model qua khung chat hoặc playground là đủ. Bạn nên học trước khóa Toán học cơ bản cho AI Engineer nhưng không bắt buộc, vì các bài về toán mà khóa học cần đã có sẵn trong khóa, ngay trước bài dùng tới chúng. Bài nào bạn đã học ở khóa khác sẽ hiện là đã hoàn thành.
- **Làm được khi chưa có API credit** — Khóa học không có code, không đòi API key. API credit là tiền nạp trước để gọi model qua API, và bài thực hành nào cũng có cách làm khi không có API credit, như trang tokenizer công khai, playground có free tier (mức dùng provider không tính tiền), model card trên Hugging Face, bảng đo sẵn hoặc bảng tính sẵn trong bài.
- **Mỗi số đều có nhãn** — Số đo được ghi là số đo minh họa một lần chạy, kèm cách đo; số còn lại được ghi là giả định. Tên model, giá thật và tên tham số của provider được gom ở mục riêng như `Trong OpenAI và Google (tính đến tháng 10/2026)`, nên bạn biết số nào từ đâu ra.

## Bắt đầu từ đâu

Số cuộc chat của chatbot của một shop online không đổi giữa hai tuần, vậy **134,4 USD** tuần thứ hai tốn thêm đến từ đâu? Trên bảng số liệu hai tuần, bạn thấy hóa đơn đi theo độ dài cuộc chat chứ không theo số khách, rồi biết ba điều lạ khác trong đoạn chat của bot thuộc chương nào. Để đọc bảng ấy, bạn chưa cần biết token được cắt ra sao hay model chọn chữ thế nào, chỉ cần phép nhân chia.

## Chương trình

- Bốn điều khó hiểu sau hai tuần chạy chatbot bán hàng (miễn phí)

### Model đọc token và bạn trả tiền theo token

- Vì sao viết cùng một ý bằng tiếng Việt lại tốn nhiều token hơn tiếng Anh? (miễn phí) · quiz
- Model biết gì khi nhận một request? · quiz
- Vì sao cuộc chat dài gấp đôi mà hóa đơn token tăng hơn gấp đôi? (miễn phí) · quiz · kit cho agent

### Model viết câu trả lời từng token một

- Xác suất, biến cố đối và bảng xác suất model dùng để chọn token · quiz
- Hàm mũ, softmax và temperature khi model đổi điểm số thành xác suất · quiz
- Cùng một prompt mà mỗi lần model viết một kiểu (miễn phí) · quiz
- Prompt dài bắt bạn chờ lâu mới thấy chữ đầu tiên, còn prefix giữ nguyên thì được giảm giá (miễn phí) · quiz

### Chọn model và chọn cách sửa khi model trả lời sai

- Trước khi tin bảng xếp hạng benchmark, đọc gì trên model card? (miễn phí) · quiz · kit cho agent
- Reasoning model nghĩ lâu hơn, nhưng việc nào đáng để chờ? (miễn phí) · quiz
- Log xác suất, loss và perplexity khi train và đánh giá model · quiz
- Logprob cao mà câu trả lời vẫn sai: model được train để làm gì? (miễn phí) · quiz
- Model trả lời sai thì sửa prompt, thêm tài liệu hay fine-tune? (miễn phí) · quiz · kit cho agent