Bỏ qua điều hướng

Khóa họcAI Engineer

Hiểu model AI đủ để dùng và chọn đúng model - token, prompt caching, model card, reasoning model và fine-tune

Bạn hiểu hóa đơn tính theo token, vì sao model trả lời mỗi lần một khác, cách đọc model card và khi nào cần fine-tune

Fig. 01Hiểu model AI đủ để dùng và chọn đúng model - token, prompt caching, model card, reasoning model và fine-tune

Khóa học ứng dụng cho người dùng model qua chat, playground hoặc API, dựa trên việc provider tính tiền theo token, model viết từng token một và chỉ được train cho việc chung, chưa cho việc riêng của bạn. Bạn tính trước chi phí, chọn ra vài model đáng thử và biết sửa ở đâu khi model sai.

  • 13 bài
  • 4h20p
  • 12 quiz
  • 57 học viên

Bạn sẽ làm được gì

Mỗi lần tính năng AI của bạn gọi model, provider đếm token ở cả phần model đọc vào lẫn phần model viết ra để tính tiền, còn model chọn lần lượt từng token để dựng câu trả lời. Trước cả lần gọi ấy, model đã được train cho những việc chung, chưa cho việc riêng của bạn. Khóa học giải thích ba điều ấy bằng cách nói thường ngày và phép nhân chia, rồi dùng chúng để đọc hóa đơn, chọn model và sửa lỗi của model.

  1. Tính trước chi phí gọi model — Bạn đếm token bằng tokenizer của đúng model sẽ gọi, rồi lấy giá nhân số token và chia cho một triệu. Với cuộc chat nhiều lượt, bạn cộng dồn input của từng lượt thay vì nhân đôi chi phí của cuộc chat ngắn hơn.
  2. Đọc usage của từng lần gọi — usage là phần ghi số token từng loại của lần gọi. Bạn tách input token, output token và cached token rồi quy từng phần ra tiền, nên biết tiền đi vào lịch sử chat, câu trả lời hay phần suy nghĩ bạn không đọc thấy.
  3. Đọc bảng xác suất chọn token — Bạn hiểu vì sao model trả lời mỗi lần một khác, và vì sao ở temperature 0 câu trả lời vẫn không chắc giống hệt nhau giữa các lần gọi.
  4. Xếp prompt để dùng lại cache — Bạn chuyển những dòng thay đổi ở mỗi lần gọi xuống cuối prompt, rồi xem số cached token ở lần gọi sau để biết cache đã được dùng lại chưa.
  5. Chọn ra vài model đáng thử — Trên model card, bạn đọc số tham số để biết GPU có chứa nổi trọng số không, rồi xem context window, knowledge cutoff (mốc kiến thức nhà phát hành ghi trên card) và ngôn ngữ.
  6. Cân nhắc reasoning model — Bạn tính phần thinking token cộng vào hóa đơn và thời gian chờ, rồi chỉ giữ reasoning model ở lần gọi mà bộ eval cho thấy kết quả tốt hơn. Bộ eval là vài câu hỏi hoặc tin nhắn mẫu kèm đáp án đúng, lấy từ việc của bạn.
  7. Chọn cách sửa khi model sai — Bạn xếp mỗi lỗi vào đúng loại lỗi rồi chọn cách sửa rẻ nhất hợp với loại ấy. Bạn chỉ bỏ tiền fine-tune khi bộ eval cho thấy những cách rẻ hơn chưa đủ.

Bạn làm được mọi việc trên khi chỉ có hóa đơn, usage, model card và câu trả lời trước mặt, nên khóa học không đi vào bên trong model.

Xem bản Markdown

Bạn có đang gặp những dấu hiệu này?

  • Hóa đơn tuần sau gấp ba tuần trước, và lý do được ghi là có thêm kháchSố cuộc chat vẫn 7.000 ở cả hai tuần; tiền mỗi cuộc chat đi từ 0,0096 USD lên 0,0288 USD (số giả định) vì cuộc chat dài gấp đôi mà lượt nào cũng gửi lại cả lịch sử.
  • Số token được ước tính bằng số từ nhân một hệ số đo trên bản tiếng AnhVới 116 từ tiếng Việt, hệ số 1,09 token mỗi từ cho xấp xỉ 126 token, thiếu xấp xỉ 10 hoặc 105 token so với số đếm thật trên hai tokenizer, vì số token chỉ đúng cho tokenizer đã đếm ra nó.
  • Năm lần gửi cùng prompt ra năm câu giống hệt nhau, nên temperature bị coi là không có tác dụngNăm lần quá ít để đo một tỉ lệ.
Xem đủ 7 dấu hiệu và vì sao có khóa học này

Khóa học này có hợp với bạn?

Khóa học dành cho ai

  1. AI/Agent BuilderPhù hợp nhất— Agent, chatbot hay workflow mà bạn dựng đều gọi model nhiều lần mỗi ngày, nên bạn cần đọc hóa đơn và usage, chọn model và cấu hình có lý do, và biết lúc nào nên thôi chỉnh prompt.
  2. Vibe coder thêm tính năng AI— Trước khi bật cho khách tính năng gọi model trong app do coding agent dựng, bạn cần ước tính chi phí và hiểu vì sao kết quả lúc được lúc không.
  3. Người theo nghề AI Engineer— Bạn nắm bức tranh chung về token, cách model viết câu trả lời và cách model được train trước khi đi sâu vào bên trong model.

Những điều cần lưu ý

  1. Bỏ qua attention và layer — Khóa học không giải thích attention, layer hay cách tokenizer học cắt chữ. Học xong, bạn có nền để tự chạy model trên máy, dựng bộ eval và chọn model theo chi phí từng việc.
  2. Chỉ cần làm được phép nhân chia — Đã vài lần gọi model qua khung chat hoặc playground là đủ. Bạn nên học trước khóa Toán học cơ bản cho AI Engineer nhưng không bắt buộc, vì các bài về toán mà khóa học cần đã có sẵn trong khóa, ngay trước bài dùng tới chúng. Bài nào bạn đã học ở khóa khác sẽ hiện là đã hoàn thành.
  3. Làm được khi chưa có API credit — Khóa học không có code, không đòi API key. API credit là tiền nạp trước để gọi model qua API, và bài thực hành nào cũng có cách làm khi không có API credit, như trang tokenizer công khai, playground có free tier (mức dùng provider không tính tiền), model card trên Hugging Face, bảng đo sẵn hoặc bảng tính sẵn trong bài.
  4. Mỗi số đều có nhãn — Số đo được ghi là số đo minh họa một lần chạy, kèm cách đo; số còn lại được ghi là giả định. Tên model, giá thật và tên tham số của provider được gom ở mục riêng như Trong OpenAI và Google (tính đến tháng 10/2026), nên bạn biết số nào từ đâu ra.

Bạn sẽ học theo cách nào

  1. Từ con số lạ tới cơ chế— Bài thường bắt đầu từ con số lạ trên tính năng AI, như hóa đơn tăng gấp ba, rồi mới giải thích cơ chế đứng sau.
  2. Phần tương tác về token và cache— Khóa học có phần tương tác về input cộng dồn qua các lượt chat, về vòng lặp chọn token, và về prefill, decode cùng cache dùng lại ở lần gọi sau.
  3. Phiếu cho bài thực hành— Kết quả bài thực hành được ghi lại thành bảng bạn xem lại được, từ số token từng lượt chat tới loại lỗi của tính năng mình.
  4. Quiz đọc hóa đơn và bảng đo— Trừ bài mở đầu, bài nào cũng kết bằng quiz, để bạn tự kiểm tra cách đọc vừa học.

Mentor (2)

Bắt đầu từ đâu

Số cuộc chat của chatbot của một shop online không đổi giữa hai tuần, vậy 134,4 USD tuần thứ hai tốn thêm đến từ đâu? Trên bảng số liệu hai tuần, bạn thấy hóa đơn đi theo độ dài cuộc chat chứ không theo số khách, rồi biết ba điều lạ khác trong đoạn chat của bot thuộc chương nào. Để đọc bảng ấy, bạn chưa cần biết token được cắt ra sao hay model chọn chữ thế nào, chỉ cần phép nhân chia.

Xem chương trình học