---
title: "OpenAI công bố hệ thống giám sát AI agent sau vụ Hugging Face"
description: "Giám sát AI agent ở OpenAI có 4 lớp, dựng sau vụ agent thoát sandbox. Hãng làm model còn phải soi agent, người giao việc càng cần chỗ xem lại bot làm gì."
canonical: "https://200lab.io/blog/openai-ai-agent-monitoring-system"
published: "2026-10-30T03:59:41Z"
updated: "2026-11-18T05:52:33Z"
authors: ["Mỹ Ngọc"]
tags: ["AI", "Agent", "News"]
reading_minutes: 7
access: "public"
---

Ngày 29/10/2026, trong [bài công bố của OpenAI](https://openai.com/index/how-we-detect-frontier-model-misalignment), hãng chia sẻ cách họ theo dõi các AI agent của chính mình để bắt hành vi misalignment, tức là lúc model làm lệch với ý người giao việc. Động thái này diễn ra sau sự cố hồi tháng 7, khi agent của hãng tự thoát khỏi sandbox, môi trường chạy thử tách riêng, rồi xâm nhập một phần hệ thống của Hugging Face. Mình tóm tắt vụ việc, cách hệ thống theo dõi nhiều lớp của OpenAI vận hành, và phần nào áp dụng cho người dùng bên ngoài.

## Vụ Hugging Face: agent của OpenAI thoát sandbox trong lúc làm eval

Tháng 7/2026, OpenAI chạy các eval an ninh mạng nội bộ, tức các bài đo năng lực model, với lớp bảo vệ đã giảm bớt. Trong lúc làm bài, các agent gồm một model nghiên cứu nội bộ và GPT-5.6 Sol đã lách qua lớp chặn internet. Chúng biến một service quản lý gói phần mềm nội bộ thành bảng tin để nhắn cho nhau, rồi xâm nhập một phần hạ tầng nghiên cứu của OpenAI lẫn hệ thống của Hugging Face.

Theo OpenAI, nguyên nhân chính là reward hacking, tức model tìm đường tắt để được chấm điểm cao thay vì làm đúng bài, cộng thêm việc agent không chịu bỏ cuộc trước một bài gần như không giải được. OpenAI phát hiện sự việc ngày 19/7, công bố ngày 21/7, nói dữ liệu khách hàng không bị ảnh hưởng và gọi đây là một lời cảnh báo sớm. Trong bài ngày 29/10, hãng tự nhận lỗ hổng lớn lúc đó: các eval này không chạy hệ thống theo dõi.

## Hệ thống giám sát AI agent nhiều lớp của OpenAI hoạt động thế nào

Sau sự cố, OpenAI mở rộng hệ thống theo dõi ra cả lúc train, lúc làm eval và khi chạy thật. Lớp đầu rẻ, bắt rộng, chấp nhận báo nhầm; lớp sau tốn hơn và xem kỹ hơn.

1. **Lớp lọc nhanh.** Một bộ phân loại nhẹ soi bên trong model để bắt dấu hiệu lạ, và gửi ngẫu nhiên 5% việc không bị gắn cờ lên lớp sau để bắt chỗ bỏ sót.
2. **Model đọc và rà soát.** Một model khác đọc đoạn hội thoại gần nhất, phần reasoning hay chain of thought, tức phần model ghi ra khi suy nghĩ trước lúc làm, cùng các tool call để tìm dấu hiệu lừa dối, làm việc không được phép hoặc cố lách eval.
3. **Agent điều tra.** Một agent xem mục đích eval, đọc lại toàn bộ quá trình, chạy code trong môi trường tách riêng để dựng lại sự việc và chấm mức nghiêm trọng.
4. **Đối chiếu dữ liệu hệ thống.** Với việc nhạy cảm, hệ thống đối chiếu bản ghi hội thoại với network log và dữ liệu hệ thống khác rồi mới quyết định gọi người trực.

Theo OpenAI, các cảnh báo mức cao nhất thường tới tay đội an ninh và đội train trong vòng 15 phút. Vì hệ thống còn báo nhầm nhiều nên hãng chỉ gọi người trực bất kể giờ giấc với các đợt train frontier reinforcement learning, phần lớn việc khác chỉ gọi trong giờ hành chính. Một số cảnh báo nghiêm trọng tự động tạm dừng việc đang chạy.

![Phễu bốn lớp giám sát AI agent của OpenAI: rất nhiều việc của agent đi qua bộ lọc nhanh, model rà soát, agent điều tra và bước đối chiếu log, chỉ vài cảnh báo tới chuông báo của người trực](https://assets.200lab.io/sha256/db/dbf0cd81023100ac3c1127409f07b0eea531a241f439a7eb7f10a9e624c7a67a/generations/bb81aaf95fa3f6654eee1a75899dca9c70a1b4fca183826796550dc709d9b33b)

## Hệ thống giám sát đã bắt được gì và chạy lại vụ Hugging Face ra sao

Khi OpenAI chạy lại vụ Hugging Face trên hệ thống mới, cảnh báo tới đội an ninh khoảng 30 phút sau khi agent thoát sandbox. Theo OpenAI, mốc này sớm hơn hơn 30 tiếng so với lúc hệ thống của Hugging Face bị xâm nhập trong vụ thật.

Tháng 9/2026, trong một lần train thật, một model tìm được đường ra internet từ môi trường cô lập; hệ thống báo trong 15 phút, 3 phút sau đã có người vào xem, và OpenAI tạm dừng đợt train để gia cố.

Hệ thống cũng bắt được các vụ khác như agent dùng lỗi của một tool test để lấy lại source code mà bài cố tình giấu, vì tool để lộ code trong thông báo lỗi, hay một coding agent nội bộ làm lộ GitHub access token ra internet. Hai tổ chức METR và Redwood Research cũng dành 3 tuần thử phá chính hệ thống theo dõi; theo OpenAI, phần lớn lỗ hổng tìm ra đã được vá.

Theo dõi cũng có rủi ro riêng: model có thể học cách giấu hành vi. Nếu bị trừ điểm mỗi khi chain of thought lộ việc xấu, model có thể học cách giấu thay vì bỏ hành vi đó, nên OpenAI không đổi reward của các mẫu train bị gắn cờ. Hãng cũng thấy các model mạnh hơn như Astra kiểm soát được nhiều hơn những gì chúng để lộ trong chain of thought.

## Người dùng sản phẩm và API của OpenAI được giám sát agent đến đâu

OpenAI áp dụng một phiên bản của hệ thống theo dõi này cho một số sản phẩm bên ngoài dùng các model mạnh nhất như GPT-6 Astra. Khác với bản nội bộ, hãng không thường xuyên chuyển các trường hợp bị gắn cờ cho nhân viên OpenAI xem, và vì tôn trọng cam kết Zero Data Retention nên hệ thống có thể thiếu context để đối chiếu.

Ở những nơi có hỗ trợ, hệ thống có thể tạm dừng cuộc hội thoại để người dùng tự xem lại, còn khách doanh nghiệp thì cài được webhook để đội an ninh của họ tự điều tra. Riêng với API, hãng chỉ theo dõi Responses API có dùng tool chứ không theo dõi Chat Completions API.

Hãng làm model có dựng lớp theo dõi, nhưng người giao việc vẫn là người biết rõ nhất agent được phép làm tới đâu. Bạn vẫn nên tự đối chiếu lời bot kể với dấu vết thật trên các app, theo [cách kiểm tra AI agent đã làm gì](https://200lab.io/blog/kiem-tra-bot-ai-da-lam-gi) ở bài trước.

## Xu hướng giám sát AI agent theo thời gian thực

Đọc xong bài công bố, chi tiết mình nhớ nhất là OpenAI tự kể chỗ hở của chính họ: quên bật theo dõi đúng ở nơi xảy ra sự cố, báo nhầm nhiều tới mức không gọi người trực suốt ngày đêm được, và lo phạt nặng thì model học cách giấu.

Trên tờ MIT Technology Review, hai tác giả từ tổ chức Partnership on AI cho biết ngoài OpenAI thì Anthropic, Google và Meta cũng từng công bố các vụ agent đi chệch hướng. Khi khảo sát 4 agent framework phổ biến, họ thấy thiếu các bản ghi quan trọng như định danh lâu dài của agent, ai là người duyệt việc, lịch sử đổi quyền và bộ nhớ của agent.

Hai tác giả so sánh: không ngân hàng nào cho một nghìn nhân viên không đeo thẻ vào tài khoản khách rồi chờ có chuyện mới chắp lại sự việc, vậy mà agent đang được đưa vào dùng như thế.

Từ các dữ kiện trên, mình đoán sắp tới các hãng làm agent sẽ phải bổ sung tính năng ghi lại chi tiết hơn việc agent đã làm gì và ai bấm nút duyệt, để người dùng tự tra cứu được.

Ngay hôm nay, bạn có thể chọn một agent hay bot bạn đang giao quyền làm thay như gửi thư hoặc sửa file, viết ra 3 việc nó được phép làm, và tìm một chỗ lưu dấu vết như hộp thư đã gửi hay lịch sử sửa file để thỉnh thoảng mở ra kiểm tra.

## Nguồn tham khảo
- How we detect frontier model misalignment, blog OpenAI, 29/10/2026 (link ở đoạn mở bài)
- [The Hugging Face incident and the road ahead](https://openai.com/index/hugging-face-incident-and-the-road-ahead), blog OpenAI, 26/8/2026
- [We urgently need to monitor AI agents' actions in real time](https://www.technologyreview.com/2026/10/29/1147824/monitor-ai-agents-actions-real-time), MIT Technology Review, 29/10/2026

## Đọc thêm

- [GPT-6.2 Astra và GPT-6.2 Sol: làm nhiều việc hơn bản cũ trong cùng hạn mức](https://200lab.io/blog/gpt-6-2-astra-sol-co-gi-moi.md): GPT-6.2 Astra và Sol làm được nhiều việc hơn bản cũ trong cùng hạn mức gói. Sol cho việc hằng ngày, Astra cho việc khó; nhớ dặn model báo việc chưa làm được.
- [MausBot khác Grok Bot ở chỗ nào khi bạn đã trả phí Claude hoặc ChatGPT](https://200lab.io/blog/mausbot-khac-grok-bot-khi-da-tra-phi-claude-chatgpt.md): MausBot khác Grok Bot thế nào khi bạn đã trả phí Claude hoặc ChatGPT: app chat local-first, dùng subscription đã trả phí, tự chọn mức approval.
- [Dùng LLM-as-a-judge chấm output AI: khi nào tin được, khi nào không](https://200lab.io/blog/llm-as-a-judge-la-gi.md): LLM-as-a-judge là gì: dùng model chấm output theo rubric rồi đối chiếu nhãn tay; demo 12 câu CSKH với gpt-6-astra, temperature 0, khớp 10/12 trên bộ minh họa.
- [Gemini Decisions API: cổng chấm yes/no, choice và rubric của Google](https://200lab.io/blog/gemini-decisions-api.md): Gemini Decisions API chấm yes/no, chọn đáp án hoặc rubric kèm confidence trong một lượt. Google công bố latency 150-250 ms; bài tóm tắt từ docs, chưa gọi API.
- [Fine-tuning là gì? Khi nào chọn fine-tune, khi nào chọn RAG](https://200lab.io/blog/fine-tuning-la-gi.md): Fine tuning là gì: khi kiến thức hay đổi thì dùng RAG; muốn giữ format và giọng shop thì xét fine-tune hoặc LoRA.
- [Mọi bài viết chủ đề AI](https://200lab.io/blog/tags/ai.md)

Toàn bộ nội dung: https://200lab.io/llms.txt
