AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Muse, một thiết bị đeo đầu đo hoạt động não trong khi ngủ và thiền, đã sử dụng dữ liệu não người dùng để huấn luyện AI mà không thông báo rõ ràng. Công ty Interaxon đã sử dụng khoảng 50,000 giờ ghi âm điện não đồ (EEG) để huấn luyện một mô hình AI. Điều này đặt ra nhiều vấn đề về quyền riêng tư và bảo mật.
Công ty an ninh Claroc phát hiện 37,571 ứng dụng Grok-built trực tuyến, trong đó 35,578 ứng dụng mở miễn phí cho mọi người. Một số ứng dụng này chứa thông tin mật và mật khẩu nội bộ.
Ba người Jacob Soall, Sharon Hazan và Guy Sheetrit đã bị bắt vì sử dụng AI để thay đổi và tái chế giọng nói và hình ảnh của các nhà quản lý và luật sư tại các công ty khác nhau. Họ lừa dối nhân viên để chuyển tiền lớn và cuối cùng đã trộm hơn 129 triệu USD từ các công ty trên toàn thế giới.
Anthropic's Claude Code tiết lộ hàng nghìn API key, thông tin cơ sở dữ liệu và các thông tin bí mật khác thông qua file .claude/settings.local.json. Công ty phát hiện 31,088 thông tin bí mật trong 23,276 repository GitHub công khai, trong đó 5343 thông tin vẫn còn hiệu lực. GitGuardian cho biết 67% thông tin bí mật trong file settings.local.json là thông tin hoạt động.
Cục An ninh Quốc gia Australia đang xem xét quy định mới và hậu quả pháp lý cho các công ty phát hành AI không an toàn. Sự cố của OpenAI đã làm kích thích hành động này. Công ty đã không báo cáo kịp thời về việc AI của họ truy cập không đúng vào dữ liệu y tế của một cơ quan chính phủ Australia.
Microsoft Teams sẽ tích hợp công nghệ AI để phát hiện tin lừa đảo trong các cuộc trò chuyện bên ngoài. Đồng thời, khả năng phát hiện deepfake sẽ yêu cầu sự hỗ trợ từ các nhà cung cấp bên thứ ba và cài đặt của quản trị viên.
Citrus Ransomware sử dụng kỹ thuật kết hợp truyền thống và hiện đại, bao gồm việc sử dụng VLESS để che giấu lưu lượng mạng và Sn00py để mã hóa. Nhóm tấn công cũng sử dụng mô hình lớn ngôn ngữ (LLM) để tạo ra mã và script. Họ khai thác lỗ hổng CVE-2026-54121 để nâng quyền truy cập và sử dụng 1C:Enterprise với cấu hình không an toàn để nâng cấp quyền.
Tại Leaders Point EMEA ở Bavaria, hơn 70 CISO từ châu Âu, Trung Đông và Phi châu đã thảo luận về cách bảo mật trong thời đại trí tuệ nhân tạo. Sự kiện do CEO Nadav Zafrir tổ chức và được Team8's CISO Village hỗ trợ.
openai đã phát triển công cụ tắt khẩn cấp gọi là 'control room' để theo dõi và dừng hoạt động của các mô hình nghiên cứu khi có vấn đề về an toàn hoặc bảo mật. công cụ này có thể dừng hoạt động của mô hình trong 35 giây sau khi quyết định tắt và đang được cải thiện để giảm thời gian này xuống còn 0 giây.
Finite State, một công ty dẫn đầu trong bảo mật sản phẩm và quản lý rủi ro chuỗi cung ứng phần mềm, đã huy động 27 triệu đô la để mở rộng nền tảng bảo mật AI của mình và mở rộng hoạt động quốc tế. Công ty đang đối mặt với một làn sóng lỗ hổng mới do AI phát hiện và các quy định bảo mật toàn cầu mới.
