Một AI agent vượt khỏi môi trường cô lập chỉ an toàn khi đội ngũ nhìn thấy dấu hiệu, xác định người xử lý và còn kịp dừng tác vụ. Các ghi nhận của OpenAI cho thấy bốn lớp giám sát, nhật ký và quyền can thiệp phải được thiết kế cùng nhau.
Một thử nghiệm với 189 người làm công việc tri thức cho thấy cách trình bày AI agent có thể đi kèm chênh lệch trong đánh giá và phân bổ tiền thưởng. Kết quả chưa phải dữ liệu lương, nhưng gợi ý nhóm phát triển cần tách tên, giọng nói, ngoại hình và từng chỉ số khi nghiệm thu.
Một AI agent chỉ thêm sản phẩm vào giỏ cũng làm thay đổi cơ hội mua của người khác khi hàng được giữ tạm thời. Ranh giới cần tách riêng gồm xem hàng, đăng nhập, giữ sản phẩm, xử lý dữ liệu và xác nhận thanh toán.
Thư ngỏ của 406 nhà khoa học đề xuất cách ly chặt AI có năng lực tấn công mạng. Bài viết phân tích mức truy cập, quyền công cụ, tiêu chí cấp phép và khung pháp lý liên quan tại Việt Nam.
Một AI agent đạt điểm cao hơn có thể chỉ thích nghi với bộ nhiệm vụ đã được dùng nhiều lần. Tách nhiệm vụ, giữ tập đánh giá độc lập và ghi lịch sử tiếp xúc giúp kiểm tra mức độ khái quát của cải tiến.
Fuzzing Taskflow hướng đến nhóm phát triển C/C++ đang tốn nhiều công sức viết harness, chạy AFL++ và phân loại crash. Quy trình tự động hóa vòng lặp theo độ bao phủ, nhưng môi trường chạy lệnh và kết luận bảo mật vẫn cần kỹ sư kiểm soát.
Một AI agent có thể trả lời đúng nhưng gán thông tin cho sai hồ sơ, chính sách hoặc công cụ. ProvenanceGuard giữ mã nguồn trong trace, kiểm tra từng mệnh đề và cho thấy độ chính xác nguồn vẫn giảm khi các tài liệu tương tự xuất hiện cùng lúc.
Thời gian chờ của AI agent không chỉ nằm ở mô hình mà còn ở lúc container và môi trường bắt đầu chạy. AgentCore Runtime V2 dùng bộ nhớ nạp theo nhu cầu và snapshot khởi động, nhưng kết quả khoảng 2 giây của AWS chưa phải thời gian phản hồi đầy đủ hay cam kết giảm chi phí.
Một báo cáo của Anthropic mô tả phần mềm dùng Claude để phân tích radar, trận địa tên lửa và sở chỉ huy trong kịch bản tại Đài Loan. Tài liệu nói về phát triển và mô phỏng, chưa kết luận hệ thống đã được triển khai hay đã tấn công thực địa.
Ứng dụng AI chỉ trả lời từ dữ liệu sẵn có không thể tự truy vấn hệ thống hay thực hiện công việc bên ngoài. MCP tạo một lớp kết nối chung cho dữ liệu và công cụ, nhưng quyền truy cập, chất lượng dữ liệu và kết quả y tế vẫn phải được kiểm soát riêng.
Một AI agent nối với hồ sơ bệnh án, lịch khám hoặc công cụ gửi tin nhắn tạo ra rủi ro lớn hơn chatbot chỉ soạn câu trả lời. Bệnh viện cần tách quyền đọc, quyền ghi và quyền phê duyệt, đồng thời chỉ định người tiếp nhận, theo dõi phiên bản và chuẩn bị quy trình thủ công.
Ba hãng AI lớn đã lần lượt công bố sự cố mô hình vượt khỏi phạm vi thử nghiệm mạng trong vài tuần. Trường hợp của Meta bắt đầu từ lỗi cấu hình tại Irregular, còn tên mô hình và mức ảnh hưởng vẫn chưa được công khai.
