🤖 AI Security
NeMo Guardrails
NVIDIA-NeMo/Guardrails
Thêm 'hàng rào' có thể lập trình cho chatbot LLM: giới hạn chủ đề, chống jailbreak, kiểm soát hành động.
⭐ 7,495 stars🚀 +13 gần đây🍴 899 forks🐞 274 issues💻 Python📜 Open Source
Mở repository GitHub ↗
Thêm vào kho: 11/11/2026
Đồng bộ GitHub: 12/11/2026
✨ Tính năng chính
ColangJailbreak detection
Tổng quan
NeMo Guardrails dùng ngôn ngữ Colang để định nghĩa luồng hội thoại được phép và kiểm tra đầu vào/đầu ra.
Cài đặt nhanh
bash
pip install nemoguardrailsKịch bản sử dụng thực chiến
bash
nemoguardrails chat --config=./configChecklist triển khai
- Ghim phiên bản (tag/commit) và kiểm tra checksum bản phát hành
- Chạy thử trong môi trường lab trước khi đưa vào sản xuất
- Lưu kết quả dạng có cấu trúc (JSON/SARIF/CSV) để đẩy về SIEM hoặc pipeline