AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Wiz đã phát triển Red Agent để cung cấp cảnh báo trước vi phạm đã xác minh cho các đội SOC, trong khi Blue Agent điều tra các mối đe dọa hoạt động với tốc độ máy tính. Điều này giúp các đội SOC duy trì lợi thế trong thời đại AI của các mối đe dọa.
WIRED phát hiện ra khoảng 400 ứng dụng và trang web do phát triển trong tiếng Trung, mặc dù trông giống như các công cụ AI thông thường, nhưng có các tính năng bí mật cho phép người dùng tạo ra hình ảnh và video AI chứa nội dung bạo lực và lạm dụng tình dục.
Kaspersky phát hiện một chiến dịch tấn công sử dụng CyberStrikeAI, một nền tảng AI tự động hóa cuộc tấn công. Trong chiến dịch, tin tặc sử dụng AI để tiến hành từ giai đoạn thăm dò đến chiếm toàn bộ hệ thống, đặc biệt là giai đoạn sau khi thăm dò.
AWS đã tổ chức thành công bài tập cho mây châu Âu độc lập, chứng minh khả năng hoạt động không phụ thuộc vào cơ sở hạ tầng bên ngoài Liên minh châu Âu. Bài tập này cho thấy mây châu Âu có thể vận hành độc lập trong nhiều giờ, không ảnh hưởng đến dịch vụ của các khu vực AWS khác.
VOLTA là một implant stealer với khả năng tích hợp AI để đánh giá giá trị tài sản của nạn nhân. Sau khi đánh cắp thông tin, VOLTA sử dụng LLM để phân loại và đánh giá giá trị tài sản của nạn nhân, từ đó xác định mục tiêu tấn công.
Malware mới được phát hiện tên là Volta-Autodoxer sử dụng công cụ AI để thu thập dữ liệu về nạn nhân, bao gồm tên đăng nhập, mật khẩu, số thẻ tín dụng, phiên Discord và hóa đơn UberEats.
Một loạt tấn công có chủ đích trên nền tảng phát triển AI đã dẫn đến LLMJacking quy mô lớn. Nghiên cứu của Wiz Research cho thấy các cuộc tấn công này đang gây ra mối đe dọa nghiêm trọng cho các nhà phát triển AI.
Do một may mắn, mã nguồn lỗi trong một phiên bản mở rộng bị ô nhiễm của Claude từ Anthropic đã ngăn chặn kẻ tấn công xâm nhập hoàn toàn vào khoảng 5,000 máy tính của các nhà phát triển. Sự cố này liên quan đến một cuộc tấn công chuỗi cung ứng trong ngành công nghệ.
Một chủ xe Civic mua một đầu đĩa ô tô hàng hóa từ Amazon và nhờ Claude thực hiện reverse-engineering. Kết quả là phát hiện nhiều ứng dụng bloatware, bao gồm trợ lý giọng nói, dịch vụ định vị Baidu, ghi âm cuộc gọi và Adobe Acrobat.
Threat actors đã sử dụng ARTEX, một nền tảng pentesting tự động, để thực hiện các cuộc tấn công tự động. ARTEX cho phép các hoạt động xuyên bộ, khai thác cơ sở dữ liệu và chuẩn bị truy xuất dữ liệu. Nền tảng này đã được các nhóm tấn công từ nhiều động cơ sử dụng, bao gồm cả nhóm lừa đảo và tin tặc tình báo.
