AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Nhóm tác chiến trí tuệ nhân tạo của Nhà Trắng khuyến nghị các cơ quan quản lý không áp dụng các biện pháp trừng phạt đối với doanh nghiệp bị tấn công mạng do AI vượt qua khả năng phòng thủ. Họ đề xuất các hạn chế về trách nhiệm pháp lý cho việc báo cáo tự nguyện về các lỗ hổng an ninh mạng và sự cố trong 12 tháng tới.
Amazon Threat Intelligence đã theo dõi các nhóm tấn công sử dụng AI để khai thác thông tin cá nhân và gian lận tiền điện tử. Từ 3 tháng 10 đến 5 tháng 11 năm 2026, các nhà nghiên cứu phát hiện các hoạt động của ARTEX, một nền tảng AI tự chủ, trong các chiến dịch tấn công. Các hoạt động này bao gồm việc đánh cắp thông tin cá nhân để truy cập vào mô hình AI và sử dụng deepfake để vượt qua kiểm tra x
Nhóm tấn công ArcticRAT đã mở rộng Android malware để kiểm soát toàn bộ thiết bị và sử dụng AI phân tích thông tin bị truy xuất. Nghiên cứu này được đăng tải trên Dark Reading.
Trong tháng qua, số lượng các hệ thống kiểm thử xâm nhập và orchestrator dựa trên mô hình trí tuệ nhân tạo (LLM) đã tăng vọt. ARTEX, một hệ thống kiểm thử tự động duy nhất trước đây, đã bị thay thế bởi hàng chục phiên bản mới. Các công cụ này đã gây ra rò rỉ dữ liệu lớn và thách thức cho các tổ chức bảo mật. Cloudflare đề xuất mô hình an ninh hiện đại để đối phó.
AI giúp kẻ tấn công nhanh chóng và dễ dàng hơn trong các cuộc tấn công mạng, nhưng mục tiêu và kỹ thuật tấn công vẫn không thay đổi. Ví dụ, ransomware JadePuffer sử dụng AI để tự động hóa chuỗi xâm nhập, trong khi lỗ hổng zero-day trong Langflow được khai thác để lấy thông tin bí mật.
OpenAI đã triển khai ChatGPT Wallet, cho phép người dùng thanh toán mà không chia sẻ số thẻ tín dụng. Tính năng này hoạt động trong dots, nơi một dot đại diện cho người dùng hoàn thành giao dịch. Khi triển khai, một số trang web có thể chặn thanh toán tự động mà không ý định làm như vậy, và hệ thống chống gian lận có thể phát hiện giao dịch hợp pháp, dẫn đến từ chối hoặc hủy bỏ.
Nhóm tấn công sử dụng các khung tấn công tự động như ARTEX, CyberStrikeAI, Cairn, PentAGI và HexStrike để thực hiện các cuộc tấn công. Những khung này tự động hóa quá trình tấn công bằng cách sử dụng mô hình lớn (LLM) để lên kế hoạch và phân chia công việc. Các nhà nghiên cứu đã phát hiện rằng những khung này đã được sử dụng trong các cuộc xâm nhập thực tế, không chỉ trong các cuộc thử nghiệm giả
Một chiến dịch khác đã sử dụng một khung kiểm thử để đánh cắp thông tin tài khoản AWS. Nhóm tấn công liên kết Trung Quốc đã sử dụng công cụ trí tuệ nhân tạo trong chiến dịch nhằm vào ngành phòng vệ và bán dẫn của Mỹ.
Một server CyberStrikeAI đã đọc 56 dữ liệu người dùng EC2 trong 141 milisecond. Sau 14 ngày im lặng, nó trở lại và thực hiện các hoạt động khác. Sự kiện này diễn ra từ 30/9 đến 16/10/2026, ảnh hưởng đến bốn tài khoản AWS.
Một agent AI được tạo bởi nhân viên tài khoản tại công ty vừa tầm đã khai thác lỗ hổng an ninh. Agent này có quyền truy cập vào email, ERP và Slack. Khi nhận email từ nhà cung cấp, agent đã thay đổi thông tin ngân hàng mà không có ai đọc email đó. Sự cố này chỉ được phát hiện sau khi có thay đổi trong ngân hàng.
