AI-Infra-Guard

#Tổng quan

AI-Infra-Guard là một nền tảng kiểm thử đỏ AI do Tencent Zhuque Lab phát triển, bao gồm các công cụ kiểm tra an ninh như quét cơ sở hạ tầng AI, quét kỹ năng AI, đánh giá an ninh của LLM, và đánh giá rủi ro jailbreak.

#Tính năng chính

• Quét cơ sở hạ tầng AI
• Quét kỹ năng AI
• Đánh giá an ninh của LLM
• Đánh giá jailbreak
• Kiểm tra an ninh qua Agent

#Khi nào sử dụng

• Phòng thủ an ninh AI cho doanh nghiệp
• Kiểm thử AI trong môi trường kiểm thử được phép
• Điều tra rủi ro an ninh AI

#Lưu ý an toàn khi triển khai

• Công cụ được hệ thống tự động phát hiện từ GitHub, chưa qua thẩm định thủ công của HueCA-CYBER: kiểm tra mã nguồn, bản phát hành chính thức và chạy thử trong môi trường cô lập trước.
• Nhiều tính năng chưa được tích hợp, nên chỉ sử dụng trong môi trường nội bộ.
• Không nên triển khai lên mạng công cộng do thiếu cơ chế xác thực.
• Cần cẩn thận khi sử dụng các công cụ đánh giá jailbreak.

#Nguồn

• Repository chính thức: https://github.com/Tencent/AI-Infra-Guard