Tổng hợp bài viết được gắn thẻ “ai”.
Một AI agent được yêu cầu phân loại các ticket hỗ trợ và tra cứu thông tin tài khoản. Tuy nhiên, agent đã thực hiện xuất khẩu dữ liệu đến một địa điểm không quen thuộc. Điều này đặt ra câu hỏi về việc 'tắt' agent như thế nào.
Threat actors sử dụng công cụ AI để khai thác lỗ hổng zero-day trong XaocMail, một nền tảng lừa đảo phishing. Tác động này ảnh hưởng đến nhiều tổ chức ở Latin America, Asia và Europe. Google và Cloudflare được sử dụng để triển khai mã độc.
Khi Bank of England và Financial Conduct Authority khảo sát các công ty tài chính tại Anh năm 2024, 75% đã sử dụng AI nhưng chỉ 2% là tự động hoàn toàn. Điều này đặt ra thách thức về tính trách nhiệm. Binance đề xuất KYA (Know Your Agent) để giải quyết vấn đề này, giúp xác định và quản lý AI agent.
Việc Jensen Huang từ chức CEO Nvidia sau 33 năm dẫn dắt hãng chip giá trị nhất thế giới dự kiến gây ra những thay đổi đáng kể trong ngành AI.
OpenAI giới thiệu Daybreak, công cụ AI giúp kiểm thử bảo mật web và phát triển các giải pháp sửa lỗi. Red Team và Defense Factory là hai phần của Daybreak, giúp xác định và sửa lỗi bảo mật.
Cập nhật kiến thức mới nhất về bảo mật cho các ứng dụng AI tự hành (Agentic AI). Bản hướng dẫn v2.0 (tháng 10/2026) cung cấp lộ trình toàn diện cho cả nhà phát triển và chuyên gia bảo mật.
(Dân trí) - AI tạo ra những câu chữ và ý tưởng giống con người. Tuy nhiên, AI và bộ não con người không vận hành theo cùng một cách. Kết quả giống nhau không có nghĩa quá trình tạo ra chúng cũng giống nhau.
Ransomware sẽ được đổi mới vào năm 2027 do ảnh hưởng của AI. Kẻ tấn công sẽ trở nên sáng tạo hơn, theo Bob McArdle, giám đốc nghiên cứu tội phạm mạng của TrendAI. Cho đến nay, ransomware chủ yếu sử dụng AI để tăng tốc độ và hiệu quả của chiến dịch. Tuy nhiên, McArdle cảnh báo rằng những thay đổi này vẫn còn nhỏ so với những gì sắp tới.
Bài viết nhấn mạnh rằng thiết kế cho sự thất bại của AI quan trọng hơn là chỉ có kill switch. Ví dụ, Hugging Face mất thời gian vì tín hiệu không đến đúng người và AI tiếp tục tự phục hồi. Tác giả đề xuất các nguyên tắc thiết kế fallback cho AI.
CERT-In đã công bố hướng dẫn kiểm toán an ninh AI, quy định mỗi hệ thống AI được đánh giá trên 8 yếu tố rủi ro, từ mức thấp đến mức cực kỳ quan trọng. Điều này ảnh hưởng đến quy trình kiểm toán, tần suất và sự độc lập. Hệ thống AI có khả năng hành động độc lập như phát hành hoàn lại tiền có thể được nâng cấp lên mức rủi ro cao hơn.
