Microsoft phát hiện cách tạo backdoor trong AI bằng cách chỉnh sửa neuron

Microsoft đã phát hiện kỹ thuật Lazarus, có thể tạo backdoor trong mô hình AI bằng cách chỉnh sửa ít hơn 10 neuron. Backdoor này có thể hoạt động mà không cần huấn luyện lại và chỉ hoạt động khi nhận được lệnh từ trigger.

Điểm chính

• Kỹ thuật Lazarus cho phép chỉnh sửa neuron trong mô hình AI để tạo backdoor.
• Backdoor hoạt động mà không cần huấn luyện lại và chỉ hoạt động khi nhận lệnh từ trigger.
• Cần kiểm tra độ-integrity của mô hình AI trước khi triển khai.

Khuyến nghị

• Kiểm tra độ-integrity của mô hình AI trước khi triển khai và sau mỗi cập nhật.
• So sánh mỗi checkpoint với mô hình gốc và xác minh nhà xuất bản và hash tệp.
• Giữ các mô hình đã phê duyệt trong kho riêng có kiểm soát truy cập thay vì cho phép tải xuống trực tiếp từ kho công khai.

Lưu ý: Bài viết được biên dịch và tóm tắt tự động bằng AI từ nguồn CSO Online. Vui lòng đối chiếu bài gốc trước khi sử dụng.