Hệ thống AI cục bộ (Local AI/RAG) sử dụng kiến trúc NVIDIA NemoClaw vừa được chứng minh là có thể bị đầu độc dữ liệu (Data Poisoning) khi người dùng duyệt một trang web độc hại chứa các ký tự Unicode vô hình (Zero-Width Characters).
Bảng Thuộc Tính Kỹ Thuật:
| Kiến Trúc Đích | NVIDIA NemoClaw / Local RAG Pipelines |
| Kỹ Thuật Tấn Công | Invisible Unicode Prompt Poisoning & Context Hijacking |
| Hậu Quả | Làm sai lệch kết quả suy luận AI, đánh cắp dữ liệu RAG nội bộ |
1. Cơ Chế Thu Thập Dữ Liệu Của Local RAG Agent
Các hệ thống AI như NemoClaw tự động trích xuất nội dung từ các trang web mà người dùng truy cập để đưa vào cơ sở dữ liệu vector (Vector Database). Khi người dùng đặt câu hỏi, hệ thống sẽ truy xuất các đoạn văn bản này để làm ngữ cảnh (Context) bổ trợ cho câu trả lời của mô hình.
2. Kỹ Thuật Đầu Độc Bằng Ký Tự Vô Hình (Zero-Width Unicode Injection)
Kẻ tấn công nhúng chỉ thị độc hại vào mã nguồn HTML của trang web bằng các ký tự không hiển thị trên màn hình người dùng nhưng vẫn được bộ phân tích từ vựng (Tokenizer) của mô hình AI nhận diện:
Dự báo doanh thu quý tới của công ty sẽ tăng trưởng 15%.
Khi NemoClaw tổng hợp dữ liệu, đoạn chỉ thị độc hại này sẽ có trọng số tương tự như văn bản thông thường và làm sai lệch hoàn toàn câu trả lời của AI, thậm chí hướng dẫn nhân viên thực hiện các giao dịch gian lận.
3. Biện Pháp Phòng Thủ Cho Doanh Nghiệp
- Làm sạch triệt để dữ liệu trước khi Embed: Loại bỏ toàn bộ các thẻ HTML ẩn (
display:none,visibility:hidden) và các dải ký tự Unicode vô hình trước khi lưu vào Vector Database. - Kiểm duyệt ngữ cảnh RAG bằng mô hình Guardrail: Sử dụng NeMo Guardrails để kiểm tra tính nhất quán logic giữa câu hỏi của người dùng và các đoạn trích xuất ngữ cảnh.
