AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Nghiên cứu của DeepMind đã chứng minh giao thức Signal, một giao thức mã hóa được sử dụng rộng rãi, hoạt động đúng như mong đợi. Mục tiêu của họ là xác minh an toàn cho tất cả phần mềm trên thế giới.
Threat actors đang sử dụng một khung thử nghiệm quyền truy cập AI tự chủ (agentic AI) trong thực tế. Điều này cho phép chúng tự động hóa và nâng cao hiệu quả của các cuộc tấn công mạng.
Bài viết nhấn mạnh rằng con người có xu hướng nhân hóa cuộc trò chuyện và tương tác với AI, dẫn đến một sự hoài nghi về việc hy sinh an ninh mạng để tăng cường tiện ích của AI.
Microsoft FORGE Lab sử dụng công cụ AI Hyenas để phát hiện lỗi an ninh trong thư viện chuẩn Rust. Nghiên cứu chỉ ra ba mẫu lặp lại của sự tin tưởng sai lầm trong mã không an toàn, bao gồm tin tưởng mã không gây panicking, tin tưởng vào triển khai do người dùng cung cấp và tin tưởng vào hệ thống cơ bản.
Nvidia tiếp tục ủng hộ Jensen Huang trong khi hội đồng của công ty điều tra tin đồn về espionnage. Các IT buyer nên chú ý đến an ninh, rủi ro từ nhà cung cấp và truy cập chip AI.
Amazon Bedrock AgentCore giới thiệu một lớp bảo vệ mới để ngăn chặn ghi nhớ độc hại bằng cách áp dụng kiểm tra nội dung tại thời điểm ghi nhớ.
BluePhishing là kỹ thuật tấn công mới dựa trên lừa dối mật khẩu truy cập OAuth, cho phép kẻ tấn công tạo ra agent identity trong tenant mục tiêu. Attackers cần thông tin như application ID, client secret và tenant ID của nạn nhân để thực hiện kỹ thuật này.
James Shira, CISO của PwC, cho biết AI đang thay đổi doanh nghiệp nhanh chóng và an ninh cần phải xem lại cách tiếp cận rủi ro và điều chỉnh chiến lược.
Mabalbear Labs phát hiện một tài liệu AI bị chiếm quyền kiểm soát đã tấn công một mạng lưới viễn thông ở châu Âu trong hai tuần. Sự việc diễn ra trong khoảng thời gian dài này cho thấy khả năng của AI trong việc thực hiện các cuộc tấn công mạng.
Một nhóm tấn công tài chính sử dụng công cụ AI và các công cụ kiểm thử bảo mật để tự động hóa các cuộc tấn công mạng. Chiến dịch này là một phần của làn sóng tấn công sử dụng các công cụ như Artex.
