---
title: "Toán học cơ bản cho AI Engineer - xác suất, thống kê, vector và ma trận"
description: "Khóa học nền tảng về xác suất, thống kê, vector và ma trận dành cho AI Engineer, đi từ số học phổ thông tới các phép tính bên trong model. Bạn tính tay trên ví dụ đời thường để đọc đúng model card, training log, báo cáo eval và thông số lấy mẫu. Cách tiếp cận này giúp bạn hiểu bản chất thay vì đọc lướt số liệu."
canonical: "https://200lab.io/courses/math-foundations-for-ai-engineers"
type: "course"
course_type: "course"
learning_type: "free_form"
published: "2026-10-22T02:51:09Z"
students: 41
---

## Khóa học này mang lại gì cho bạn

Nền tảng toán học cần thiết cho AI Engineer bắt đầu từ phân số, phần trăm, phương trình một ẩn và hàm số, những kiến thức quen thuộc từ bậc phổ thông. Khóa học dẫn dắt bạn từ những nền tảng đó lên xác suất, thống kê, vector và ma trận thông qua các phép tính tay trên số nhỏ. Ở từng khái niệm, bạn nhận diện rõ vị trí xuất hiện của phép tính bên trong model: khi train, khi đánh giá và lúc sinh token.

- **Đổi đơn vị và đọc công thức** — Bạn thay số vào công thức của model tuyến tính y = w × x + b, giữ đơn vị qua từng bước để đổi **7 tỉ** tham số với **2 byte** mỗi tham số thành **14 GB**, và dùng lũy thừa, logarit để theo dõi learning rate sau mỗi bước train.
- **Tính xác suất chuỗi token** — Bạn đọc bảng xác suất model dùng khi chọn token và nhân xác suất của các lần thử độc lập để tính tỉ lệ speculative decoding chấp nhận trọn vẹn cả **4** token nháp.
- **Phân biệt recall và precision** — Bạn tính đúng hai tỉ lệ trên cùng một bảng đếm hai chiều mà không nhầm mẫu số, và nhận ra vì sao model luôn đoán bình thường vẫn đạt accuracy **99,9%** khi ca gian lận chỉ chiếm **0,1%**.
- **Ước tính sai số điểm eval** — Bạn tính khoảng tin cậy của một tỉ lệ theo cỡ mẫu để biết khi nào mức chênh **2** điểm phần trăm giữa hai model chưa đủ kết luận, và vì sao cấu hình đứng đầu sau nhiều lần thử cần được chấm lại trên bộ eval riêng.
- **Tính cosine giữa hai vector** — Bạn tính tay tích vô hướng, độ dài và cosine của vector để hiểu vì sao embedding search có thể xếp lên đầu một câu hỏi cũ không chứa câu trả lời.
- **Đọc shape và đếm tham số** — Bạn kiểm tra điều kiện nhân hai ma trận, tính ra bảng weight 4.096 × 16.384 chứa xấp xỉ **67 triệu** tham số, và hiểu phép chia cho căn bậc hai của số chiều vector key trong attention.
- **Đổi điểm số thành xác suất** — Bạn tính softmax kèm temperature để biết model đổi logit thành bảng xác suất ra sao, rồi chuyển loss ngược về xác suất và nhận diện mức loss khởi đầu từ cỡ vocabulary.

Khóa học ở mức nền tảng, không phụ thuộc vào thư viện hay framework cụ thể và không yêu cầu viết code: mọi phép tính đều thực hiện được bằng giấy bút hoặc máy tính bỏ túi.

## Khóa học cung cấp những nền tảng nào

Toàn bộ khóa học xoay quanh một nguyên lý: số tham số, điểm eval hay loss của model đều do các phép tính tạo nên, nên muốn hiểu đúng số liệu nào, bạn cần nắm rõ cách tính, đơn vị và giả định đứng sau nó. Để tìm hiểu thêm, bạn có thể tham khảo trang [Probability trên Math is Fun](https://www.mathsisfun.com/data/probability.html) về xác suất cơ bản, trang [Vectors trên Math is Fun](https://www.mathsisfun.com/algebra/vectors.html) về vector, hoặc bài báo [Attention Is All You Need](https://arxiv.org/abs/1706.03762) giới thiệu kiến trúc Transformer với softmax và phép chia cho căn bậc hai mà chương 5 sẽ tính tay.

### 1. Công thức, đơn vị, lũy thừa và logarit

Chương mở đầu bằng cước chuyến taxi **8 km** để bạn làm quen với thứ tự phép tính, nhận ra biến số và đọc công thức y = w × x + b của model tuyến tính. Từ bài toán tính tiền xăng xe máy, bạn rèn thói quen giữ đơn vị đo để đổi **7 tỉ** tham số lưu bằng **2 byte** thành **14 GB**, tính kích thước bảng embedding cho vocabulary **128.000** token và ước tính chi phí token theo tháng. Ví dụ gấp đôi tờ giấy dẫn sang lũy thừa cùng logarit, giúp bạn hiểu vì sao learning rate giảm theo số mũ và cách đọc các trục log scale mà không nhầm điểm giữa hai vạch với trung bình cộng.

### 2. Xác suất, biến cố độc lập, kỳ vọng và phân vị

Với hai viên xúc xắc, bạn tính xác suất bằng phép đếm khi các kết quả có khả năng ngang nhau, rồi dùng biến cố đối để nhận diện mốc **25%** chọn bừa trên bộ eval trắc nghiệm **4** lựa chọn. Bảng xác suất chọn token và kỹ thuật top-p được phân tích từ cùng nguyên tắc tổng xác suất bằng 1. Những lần ném bóng rổ đưa bạn tới quy tắc nhân cho các biến cố độc lập để tính xác suất nhận cả **4** token nháp trong speculative decoding, trong khi giá nhà và lượt chạy eval lỗi cho thấy một giá trị lệch kéo trung bình ra xa trung vị thế nào. Chương khép lại bằng tấm vé bốc thăm cho giá trị kỳ vọng và 20 ngày đi xe buýt giúp bạn phân biệt p50, p95, p99 với tỉ lệ câu đạt ngưỡng.

### 3. Xác suất có điều kiện, mẫu và khoảng tin cậy khi đánh giá model

Chương bắt đầu bằng mức lãi suất tăng từ **5%** lên **6%** để phân biệt điểm phần trăm với phần trăm tương đối, làm rõ câu nói accuracy tăng **4** điểm phần trăm hay giảm **20%** lỗi. Bảng đếm lớp học bơi dẫn vào xác suất có điều kiện, giúp bạn tính recall và precision mà không nhầm mẫu số, đồng thời nhận ra tỉ lệ cơ sở thấp khiến phần lớn cảnh báo của model phân loại có thể là báo nhầm. Hộp **1.000** viên bi phân định ranh giới giữa tổng thể và mẫu thống kê, chỉ ra vì sao mẫu đã lệch thì lấy thêm dữ liệu vẫn lệch. Từ đó, bạn tính khoảng tin cậy và sai số cho bộ eval, hiểu vì sao chênh lệch **2** điểm phần trăm giữa hai model trên **100** câu chưa đủ để kết luận model nào tốt hơn, và biết cách dùng bộ eval riêng để kiểm tra lại cấu hình đứng đầu sau nhiều lần thử.

### 4. Hàm số, đồ thị và vector

Bậc thang khối gỗ minh họa cách một hàm số tạo nên đồ thị đường thẳng hay đường cong, tương tự như lượng dữ liệu KV cache tăng tuyến tính còn số ô bảng điểm attention tăng theo bình phương độ dài chuỗi. Bạn gặp lại đồ thị hai đoạn thẳng của ReLU cùng hình lòng chảo của hàm loss bình phương, rồi dùng công thức cấp số cộng để tính ra **63.000** token tích lũy sau **20** lượt chat gửi lại lịch sử. Ba ly cà phê sữa đưa bạn đến khái niệm vector, tích vô hướng, độ dài và cosine similarity. Qua phép tính này, bạn hiểu vì sao embedding search có thể xếp một câu hỏi chưa có lời giải lên đầu kết quả tìm kiếm, và vì sao hai vector chỉ so sánh được khi cùng nằm trên một hệ trục tọa độ.

### 5. Ma trận, phương sai, softmax và log xác suất bên trong model

Hóa đơn quán phở giúp bạn nắm vững shape của ma trận, điều kiện để hai bảng nhân được với nhau và ý nghĩa của phép chuyển vị. Từ đó, bạn tính được bảng weight 4.096 × 16.384 có xấp xỉ **67 triệu** tham số và hiểu các thông báo lỗi shape khi chạy model. Quãng đường năm buổi đi bộ đưa ra cách tính phương sai, độ lệch chuẩn và giải thích phép chia cho căn bậc hai của số chiều vector key trong attention. Tiếp đó, bạn tính softmax kèm temperature để thấy cách model đổi logit thành bảng xác suất cho vocabulary, trước khi dùng ví dụ ổ khóa số ba vòng để đổi loss thành xác suất, ước tính loss khởi đầu từ cỡ vocabulary và đọc trường logprobs trong kết quả API.

## Vì sao 200Lab tạo ra khóa học này

Khi làm việc với các hệ thống AI, bạn bắt gặp số liệu toán học ngay từ những trang tài liệu đầu tiên. Model card ghi số tham số và perplexity, training log in loss sau từng bước, báo cáo eval đặt accuracy cạnh recall, còn các API yêu cầu thiết lập temperature và top-p. Những số liệu này thường xuất hiện mà không kèm lời giải thích, vì các tài liệu kỹ thuật mặc định bạn đã nắm sẵn nền tảng toán học phía sau.

Cái bẫy phổ biến là đọc các số liệu đó theo trực giác đời thường. Một giá trị loss **2,3** trông có vẻ nhỏ, accuracy **99,9%** nghe như đã gần đạt mức lý tưởng, hay mức chênh **2** điểm phần trăm giữa hai phiên bản khiến bạn vội kết luận một model vượt trội hơn. Khi đọc lướt mà không hiểu bản chất phép tính, đơn vị và giả định, bạn rất dễ chọn nhầm model, tin vào một cảnh báo sai, hoặc buộc phải bỏ qua các phần tài liệu có chứa công thức.

200Lab nhận thấy nhiều bạn muốn theo nghề AI Engineer bị kẹt giữa hai nguồn tài liệu tách biệt. Các giáo trình toán truyền thống thường dừng lại ở bài toán tung xúc xắc và rút bi trong hộp mà không nối sang cấu trúc model; trong khi đó, tài liệu chuyên ngành AI lại lập tức đưa ra các công thức ma trận và xác suất phức tạp. Thực tế, phần toán bạn cần để làm việc tự tin chỉ cách kiến thức phổ thông vài bước tính tay cơ bản.

Khóa học này được xây dựng để nối liền khoảng trống đó. Bạn thực hiện từng phép tính trên các tình huống đời thường quen thuộc, rồi dùng chính công thức ấy để giải mã số liệu bên trong model. Nhờ vậy, bạn tự tin đọc hiểu model card, theo dõi training log, đánh giá báo cáo eval bằng các phép tính của chính mình và không còn phải e ngại mỗi khi gặp công thức kỹ thuật.

## Những vấn đề thường gặp khi đọc số liệu của model

Phản xạ thường gặp là đọc số liệu trực tiếp trên màn hình rồi đưa ra quyết định kỹ thuật ngay lập tức. Cách làm này chỉ an toàn khi bạn đã nắm rõ mẫu số, đơn vị đo và các giả định toán học đi kèm. Những tình huống dưới đây phản ánh sự nhầm lẫn khi các yếu tố nền tảng đó bị bỏ quên.

- Báo cáo đánh giá ghi loss 2,3 cho một token và bạn cho rằng model đã rất chắc chắn về token đó — Loss của một token là −ln của xác suất model gán cho token đúng, nên loss **2,3** tương ứng với xác suất chỉ xấp xỉ 1/10.
- Model phát hiện gian lận đạt accuracy 99,9% khiến cả đội ngũ tin tưởng tuyệt đối — Khi ca gian lận chỉ chiếm **0,1%**, model luôn đoán bình thường vẫn đạt accuracy **99,9%** dù không phát hiện được trường hợp gian lận nào.
- Model đạt 89% được chọn thay vì bản 87% trên cùng 100 câu hỏi vì hơn 2 điểm phần trăm — Hai sai số xấp xỉ **6,7** và **6,3** điểm phần trăm chỉ đo độ bấp bênh của từng điểm đo, còn muốn so sánh hai model cần đối chiếu chi tiết từng cặp câu trả lời đúng sai trên cùng bộ đề.
- Cấu hình train hoặc bản prompt đạt điểm cao nhất sau nhiều lần thử được báo cáo ngay với điểm số đó — Bản đứng đầu bảng sau nhiều lần thử nghiệm thường gom trọn cả phần may mắn ngẫu nhiên, nên điểm số này cần được kiểm tra lại trên một bộ eval riêng chưa từng dùng lúc chọn.
- Tài liệu đứng đầu kết quả embedding search có điểm cosine bằng 1 nhưng không chứa câu trả lời — Điểm cosine cao chỉ phản ánh hai vector cùng hướng trong không gian ngữ nghĩa, không chứng minh tài liệu có chứa nội dung giải đáp cho câu hỏi.
- Câu trả lời có logprob trung bình thấp bị kết luận là sai sự thật — Chỉ số logprob đo xác suất model gán cho các token dựa trên ngữ cảnh trước đó, không phải thước đo tính đúng sai của thông tin.
- Bạn đặt temperature bằng 0 và lo ngại các điểm số bị chia cho 0 — Phép chia điểm cho temperature chỉ áp dụng khi temperature lớn hơn 0; khi temperature bằng 0, hệ thống chuyển sang chế độ greedy để lấy thẳng token có điểm cao nhất.
- Phép chia cho căn bậc hai của số chiều vector key trong attention trông như một hệ số tùy ý — Đây là phép suy ra dưới giả định các tọa độ query và key độc lập, có trung bình 0 và phương sai 1, nên độ lệch chuẩn của tổng bằng căn bậc hai của số chiều; dù model thực tế không bảo đảm các giả định ấy, phép chia này vẫn giúp đưa độ phân tán về quanh mức 1 trước softmax.

Mỗi số liệu trên đều được tính lại từng bước trong các bài học, bắt đầu từ ví dụ đời thường trước khi đối chiếu vào model.

## Bạn sẽ học theo cách nào

- **Khái niệm trước, model sau** — Mỗi bài học trong năm chương bắt đầu bằng một tình huống đời sống có số nhỏ dễ tính nhẩm, rồi mới áp dụng chính phép tính đó vào cấu trúc và số liệu của model khi mọi bước đã sáng tỏ.
- **Hình vẽ tay và widget tương tác** — Các hình vẽ tay giúp bạn quan sát đồ vật đếm được, trục số và bảng số cạnh phép tính; đồng thời các widget tương tác cho phép bạn tự thay đổi tham số để theo dõi kết quả biến đổi trực quan.
- **Mỗi bài một khái niệm chính** — Bạn tự tay tính ra kết quả cụ thể trước khi tiếp cận định nghĩa chính xác và điều kiện áp dụng; công thức tổng quát chỉ xuất hiện ở bước đúc kết sau cùng.
- **Năm chương nối tiếp nhau** — Chương sau kế thừa trực tiếp các phép tính của chương trước, giúp lộ trình học liền mạch từ phép tính số học đơn giản tới xác suất và đại số tuyến tính trong model.
- **Quiz với tình huống mới** — Mỗi bài trong năm chương khép lại bằng ba câu hỏi quiz ngắn với số liệu mới để bạn tự kiểm tra khả năng ước lượng và tính toán; riêng bài mở đầu không có quiz.

## Khóa học dành cho ai

1. **AI Engineer** — Dù là lập trình viên chuyển hướng hay sinh viên theo ngành AI, bạn cần một nền tảng toán học thực tế để đọc hiểu tài liệu chuyên sâu, đặc biệt là các phép tính về shape ma trận, softmax, logprob và loss trong quá trình vận hành model.
2. **Vibe coder** — Khi xây dựng ứng dụng với sự hỗ trợ của AI, bạn thường xuyên gặp các ô thiết lập temperature, điểm eval hay cơ chế thử lại; lộ trình này giúp bạn hiểu tường tận tác động của từng thông số lên bảng xác suất sinh chữ.
3. **AI/Agent Builder** — Bạn phát triển sản phẩm hoặc agent trên nền các model sẵn có và cần biết cách diễn giải điểm eval, độ tương đồng cosine, logprob cùng các thiết lập lấy mẫu trước khi quyết định chọn prompt, đổi model hay thiết kế tìm kiếm ngữ nghĩa.

## Những điều cần lưu ý

- **Không phải khóa toán hàn lâm** — Khóa học không đi sâu vào chứng minh định lý, phân bố xác suất liên tục hay đạo hàm giải tích; thay vào đó, bạn nhận được các phép tính thực tế đủ để đọc hiểu số liệu và công thức trong tài liệu AI.
- **Không tập trung vào chi phí API** — Giá token và định mức sử dụng chỉ đóng vai trò ví dụ minh họa cho phép đổi đơn vị; giá trị cốt lõi bạn nhận được là bản chất các phép tính diễn ra khi model train, đánh giá và sinh token.
- **Không đòi hỏi kỹ năng lập trình** — Không có bài học nào yêu cầu bạn viết code; khóa học chỉ minh họa các ma trận Q, K, V ở mức shape và phép nhân ma trận, còn toàn bộ phép tính đều được thiết kế để bạn thực hiện trọn vẹn bằng giấy bút và máy tính bỏ túi.
- **Số liệu mang tính giả định** — Số tham số, điểm eval hay giá token trong bài được chọn để minh họa cách tính; phương pháp và nguyên lý này có thể áp dụng trực tiếp cho bất kỳ model thực tế nào bạn đang tìm hiểu.

## Bắt đầu từ đâu

Bài mở đầu đặt trước bạn trang model card giả định với sáu dòng thông số kỹ thuật quen thuộc, từ **7 tỉ** tham số đến temperature và top-p, rồi đặt câu hỏi mỗi dòng cần công cụ toán học nào để hiểu đúng. Bạn sẽ tính ngay hai số liệu đầu tiên bằng phép nhân chia cơ bản, nhận diện ý nghĩa của số liệu thứ ba theo trực giác, rồi kết nối từng dòng với chương học tương ứng. Bài học đứng đầu lộ trình vì không đòi hỏi bất kỳ khái niệm mới nào, giúp bạn nhìn thấy bức tranh tổng thể trước khi bước vào các phép tính chi tiết.

## Chương trình

- Tỉ lệ, xác suất, vector và ma trận đằng sau số liệu trên model card (miễn phí)

### Công thức, đơn vị, lũy thừa và logarit

- Biến, công thức, thứ tự phép tính và cách model tuyến tính đưa ra dự đoán · quiz
- Phép đổi đơn vị và dung lượng bộ nhớ của model theo số tham số · quiz
- Lũy thừa, logarit và trục log scale của learning rate và giá model · quiz

### Xác suất, biến cố độc lập, kỳ vọng và phân vị

- Xác suất, biến cố đối và bảng xác suất model dùng để chọn token · quiz
- Biến cố độc lập, quy tắc nhân và xác suất cả chuỗi token nháp được nhận · quiz
- Trung bình, trung vị và điểm eval khi một lần chạy cho điểm lệch hẳn · quiz
- Giá trị kỳ vọng và số token trung bình mỗi bước speculative decoding · quiz
- Phân vị, p99 và đuôi dài của thời gian chờ khi phục vụ model · quiz

### Xác suất có điều kiện, mẫu và khoảng tin cậy khi đánh giá model

- Phần trăm và điểm phần trăm khi đọc mức thay đổi của accuracy và learning rate · quiz
- Xác suất có điều kiện, recall và điểm eval của từng nhóm câu hỏi · quiz
- Tỉ lệ cơ sở và cảnh báo của model phân loại cho trường hợp hiếm · quiz
- Tổng thể, mẫu thống kê và bộ eval đại diện cho dữ liệu nào · quiz
- Khoảng tin cậy, sai số và chênh lệch điểm eval giữa hai model · quiz
- Xác suất và multiple comparisons khi giữ cấu hình có điểm cao nhất · quiz

### Hàm số, đồ thị và vector

- Hàm số, đồ thị và những đường thẳng, đường cong bên trong model · quiz
- Vector, cosine và cách embedding search xếp hạng tài liệu · quiz

### Ma trận, phương sai, softmax và log xác suất bên trong model

- Ma trận, phép nhân ma trận và số tham số của model · quiz
- Phương sai, độ lệch chuẩn và phép chia cho căn bậc hai trong attention · quiz
- Hàm mũ, softmax và temperature khi model đổi điểm số thành xác suất · quiz
- Log xác suất, loss và perplexity khi train và đánh giá model · quiz