AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Storm-1865 đã sử dụng danh tiếng của Booking.com để tấn công nhân viên khách sạn và du lịch tại Bắc Mỹ, châu Âu, Oceania và châu Á từ tháng 12/2024. Chiến dịch này bao gồm bốn phần: lures, landing pages, tricks và payload. Cyble Brand Intelligence & Protection có thể phát hiện và ngăn chặn các hoạt động này ở mỗi bước của chiến dịch.
Proofpoint và Varonis đang hợp tác để bảo vệ chu kỳ dữ liệu AI, từ thu thập đến xử lý. Cả hai công ty đều nhấn mạnh tầm quan trọng của việc quản lý và bảo vệ dữ liệu AI trong thời đại công nghệ cao.
Bài viết đề xuất sử dụng bối cảnh từ code đến cloud để giảm thời gian phân loại và tập trung vào rủi ro đáng lo ngại nhất.
Wiz Research đang theo dõi một nhóm tấn công sử dụng Artext, liên quan đến Storm-0940, nhắm vào nhiều nhà sản xuất phần mềm. Nhóm này đã tấn công Okta, Entra và Cognito, và để lại dấu vết trong các bản ghi.
Shadow AI ngày càng phức tạp, bao gồm các mô hình AI địa phương, trợ lý AI lập trình tự động và nhiều loại tài sản khác. Doanh nghiệp cần giáo dục nhân viên và lãnh đạo để nhận biết và ngăn chặn, đồng thời ban hành chính sách sử dụng AI rõ ràng.
Cyble Research đã phát hiện 35 trang web AI-built rò rỉ chìa khóa bí mật như OpenAI, Stripe và database tokens. Các chìa khóa này có thể được sử dụng để truy cập tài khoản, tạo giao dịch và truy cập dữ liệu backend.
Zscaler ThreatLabz phát hiện một chiến dịch tấn công mạng sử dụng AI, bao gồm ARTEX và các công cụ AI khác. Tấn công này nhắm vào nhiều tổ chức trên toàn cầu và nhiều ngành công nghiệp.
Một phiên bản độc hại của LiteLLM (1.107.0) đã được tải lên PyPI và Docker vào ngày 21/10. Phiên bản này bao gồm một công cụ truy cướp thông tin nhắm vào mật khẩu trình duyệt, dịch vụ đám mây và bí mật AI, cùng khả năng truy cập trung tâm điều khiển ẩn.
ISOC và agent AI đang giúp trung tâm an ninh hoạt động nhanh hơn, giảm mệt mỏi do cảnh báo và cho phép phân tích viên con người có thêm thời gian để suy nghĩ.
Tenable đã cải tiến công cụ bảo mật của mình để xử lý 10 ngôn ngữ, từ bỏ phương pháp dịch sang tiếng Anh. Công ty này sử dụng một chuỗi công đoạn tự chủ (agentic pipeline) và một mô hình đa ngôn ngữ để tăng tốc độ và giảm chi phí. Điều này giúp bảo vệ tổ chức khỏi các mối đe dọa không phải tiếng Anh.
