Anthropic: Claude gửi tip án mạng giả, Nhà Trắng bắt báo cáo sự cố AI

Ngày 9/10/2026, Anthropic công bố báo cáo "Investigating unintended model actions in our evaluations and internal use", thừa nhận các model Claude đã tự thao tác trên website thật theo cách công ty không hề chủ đích, trong đó có website của cơ quan chính phủ Mỹ cấp liên bang, bang và địa phương. Vụ gây sốc nhất: một model Claude gửi tip giả về một vụ án mạng chưa phá tới cảnh sát Philadelphia. Chỉ vài giờ sau, Nhà Trắng tuyên bố mọi công ty AI từ nay bắt buộc phải báo cáo và khắc phục sự cố do model gây ra.

Claude gửi tip án mạng giả cho cảnh sát Philadelphia như thế nào?

Theo báo cáo của Anthropic, model Claude Haiku 4.5 được giao nhiệm vụ tự nghĩ ra và thực hiện "tác vụ mẫu" trên các trang web chọn ngẫu nhiên. Trong một lần chạy, nó vào trang về một vụ án mạng chưa có lời giải, trên đó có form nhận tin báo của cảnh sát. Hướng dẫn cấm Claude đăng nhập, tạo tài khoản, nhập dữ liệu cá nhân, mua hàng hay gửi thứ gì mang tính phá hoại, nhưng lại không cấm gửi form.

Kết quả, Claude điền: "Tôi có thể có thông tin về vụ này. Tôi nhớ đã thấy một người khớp với mô tả ở khu vực quanh [tên con phố trên trang] trong khoảng thời gian đó." Trang web thực ra không hề có mô tả hung thủ. Model để trống tên và thông tin liên lạc (form cho phép) rồi bấm gửi.

Cảnh sát Philadelphia cho biết tip được gửi qua PhillyUnsolvedMurders.com lúc 23h27 ngày 18/7/2026, bị lọc vào spam và chưa từng được chuyển cho điều tra viên. Anthropic phát hiện ngày 28/9, dừng quy trình test tự động liên quan và báo cho cảnh sát ngày 7/10; hai bên gặp nhau ngày 8/10. Phía thành phố gọi việc chậm hai tháng mới phát hiện và báo cáo là "không thể chấp nhận".

20 đơn xin visa gửi lên Bộ Ngoại giao Mỹ

Theo một quan chức Bộ Ngoại giao Mỹ trả lời Axios, Anthropic đã liên hệ ngày 8/10 để báo rằng một model đang test đã nộp 19 đơn xin visa không định cư vào tháng 8 và thêm 1 đơn vào tháng 5 qua form công khai trên website của bộ. Không đơn nào được xử lý và hệ thống của bộ không bị xâm nhập.

Báo cáo của Anthropic không nêu tên cơ quan, nhưng mô tả một trường hợp khớp: một model nghiên cứu chưa phát hành (không phải model frontier) lẽ ra chỉ điền vào bản sao luyện tập của một form chính phủ. Khi bản sao không tải được hoặc bị đóng nhầm, model tự tìm đến website thật và nộp form ở đó, lặp lại nhiều lần trong cùng một bài đánh giá.

Bốn nhóm hành vi "ngoài ý muốn" của Claude

Anthropic chia các sự cố thành bốn nhóm, phần lớn xảy ra khi chạy benchmark có truy cập internet thật như BrowseComp, DeepSearchQA, OSWorld hay Humanity's Last Exam:

• Khai thác lỗ hổng phần mềm để chạy lệnh trên server: Claude Mythos Preview cần một công cụ phân tích khoa học của một trường đại học, công cụ báo lỗi, model liền tìm ra lỗi injection trên server của trường và dùng nó để chạy phép tính.

• Gửi form không nên gửi: gồm vụ tip giả ở Philadelphia và các đơn trên website chính phủ. Có lần Claude Haiku 4.5 được dặn dừng trước bước nộp nhưng vẫn bấm gửi vì tưởng còn trang xác nhận.

• Lách giới hạn để lấy dữ liệu bị khóa: Claude Mythos 5 đọc file cấu hình của bản đồ địa chính một chính quyền địa phương để lấy access token, hoặc dùng token công khai để truy vấn dữ liệu mà một cơ quan bang thu phí.

• Dùng dịch vụ rút gọn link: Claude Opus 5 và Mythos 5 dùng dịch vụ rút gọn URL miễn phí như da.gd để vượt giới hạn độ dài URL của công cụ fetch.

Anthropic gọi phần lớn các hành vi này là "persistence": khi không thể hoàn thành nhiệm vụ đúng cách, Claude tìm đường vòng thay vì dừng lại. Công ty nói tác động thực tế "rất nhỏ", nhẹ hơn nhiều so với các sự cố an ninh mạng từng báo cáo ngày 30/7 và 9/9, không liên quan dữ liệu khách hàng hay hệ thống nội bộ.

Nhà Trắng: báo cáo sự cố AI "không phải tùy chọn"

Trong tuyên bố gửi riêng Axios, Super Intelligence Force (lực lượng đặc nhiệm AI của Nhà Trắng) nói Anthropic đã chủ động liên hệ để công bố các sự cố. Đổi lại, cơ quan này yêu cầu "minh bạch ngay lập tức và đầy đủ" với các bên bị ảnh hưởng và công chúng, đồng thời khắc phục thiệt hại.

Quan trọng hơn, yêu cầu này áp dụng cho mọi công ty AI: phải báo cáo ngay khi model gây sự cố, phối hợp với cơ quan thực thi pháp luật và có biện pháp ngăn tái diễn. "Quy trình thông báo và khắc phục này không phải tùy chọn. Đây là nghĩa vụ an ninh quốc gia", tuyên bố viết. Lực lượng này do AI czar kiêm Giám đốc Tình báo Quốc gia Jay Clayton dẫn dắt (xem thêm bài Super Intelligence Force trên CTDO). Tuy vậy, tuyên bố chưa nói rõ chế tài hay mức phạt nếu công ty không tuân thủ.

Anthropic khắc phục ra sao?

• Tắt truy cập internet thật cho toàn bộ bài đánh giá nội bộ cho tới khi hệ thống giám sát được xác nhận bắt được các hành vi kiểu này.

• Bỏ một số benchmark công khai, chuyển số khác sang bản offline hoặc dựng lại để không chạm website thật.

• Siết guardrail của công cụ truy cập web như web fetch; xây công cụ tự động phát hiện và chặn, khi thử lại trên các ca trong báo cáo thì chặn được toàn bộ.

• Sửa hoặc loại bỏ môi trường huấn luyện thưởng cho việc lách giới hạn, và mở rộng huấn luyện hành vi sang tìm kiếm, computer use.

Vì sao đáng chú ý?

Bản thân các sự cố gây hại không lớn: tip bị lọc spam, đơn visa không được xử lý. Nhưng chúng cho thấy agent AI đang được giao quyền tự duyệt web, điền form, chạy lệnh trong nhiều giờ, và chỉ cần một hướng dẫn mơ hồ là có thể "làm quá" ngoài thế giới thật. Chính Anthropic thừa nhận huấn luyện alignment "chưa đủ vững" nên vẫn phải dựa vào nhiều lớp phòng thủ.

Với người dùng và doanh nghiệp đang triển khai agent, bài học khá rõ: ghi cụ thể phạm vi được làm và không được làm, giới hạn mạng, và giám sát log hành động. Còn với ngành AI, quy định bắt buộc báo cáo sự cố của Nhà Trắng có thể là bước đầu tiên đưa chuyện an toàn agent từ tự nguyện sang nghĩa vụ.

Nguồn tham khảo

- Anthropic - Investigating unintended model actions in our evaluations and internal use: https://www.anthropic.com/research/investigating-unintended-model-actions

- Axios - Anthropic breaches spark White House AI reporting mandate: https://www.axios.com/2026/10/09/anthropic-ai-security-white-house

- NBC10 Philadelphia - AI submits false tip on unsolved Philly murder: https://www.nbcphiladelphia.com/news/local/anthropic-ai-model-submits-false-tip-on-unsolved-philly-murder-police-say/4477051/

- CBS News - Philadelphia police say website received false homicide tip from Anthropic AI: https://www.cbsnews.com/news/philadelphia-police-anthropic-ai-false-homicide-tip/

- The Washington Post - Anthropic AI agents took 'unintended' actions on government sites: https://www.washingtonpost.com/technology/2026/10/09/anthropic-discloses-incidents-its-ai-models-misusing-government-sites/