Tổng hợp bài viết được gắn thẻ “llm”.
Kaspersky nghiên cứu cách bảo vệ hệ thống AI bằng cách áp dụng nguyên tắc thiết kế bảo mật và miễn dịch mạng. Các nguyên tắc này giúp giảm thiểu rủi ro và bảo vệ AI ngay từ giai đoạn thiết kế.
Cisco Talos phát hiện một framework điều khiển từ xa (C2) mới gọi là NIK C2, tích hợp AI để thu thập dữ liệu và phân tích. Framework này cho phép kẻ tấn công sử dụng API OpenAI để phân tích dữ liệu thu thập được và triển khai mã tống tiền qua màn hình máy tính.
Nghiên cứu so sánh hai công cụ tự động Fuzzilli và BigSleep trong việc tìm lỗ hổng trên động cơ JavaScript V8 của Chrome. BigSleep phát hiện nhiều lỗ hổng hơn (45 so với 37 của Fuzzilli), nhưng có sự lặp lại lớn (60%). Fuzzing và LLMs vẫn bổ sung cho nhau.
Rapid7 đã phát hành Metasploit với nhiều module mới, trong đó 6 module nhắm vào Langflow, một công cụ xây dựng quy trình AI nguồn mở. Các module này bao gồm các lỗ hổng như bypass xác thực, code execution không xác thực và xác thực. Đồng thời, MongoDB cũng được mở rộng với các module mới và công cụ quét phiên bản.
Cyble Research đã phát hiện 35 trang web AI-built rò rỉ chìa khóa bí mật như OpenAI, Stripe và database tokens. Các chìa khóa này có thể được sử dụng để truy cập tài khoản, tạo giao dịch và truy cập dữ liệu backend.
Zscaler ThreatLabz phát hiện một chiến dịch tấn công mạng sử dụng AI, bao gồm ARTEX và các công cụ AI khác. Tấn công này nhắm vào nhiều tổ chức trên toàn cầu và nhiều ngành công nghiệp.
Tenable đã cải tiến công cụ bảo mật của mình để xử lý 10 ngôn ngữ, từ bỏ phương pháp dịch sang tiếng Anh. Công ty này sử dụng một chuỗi công đoạn tự chủ (agentic pipeline) và một mô hình đa ngôn ngữ để tăng tốc độ và giảm chi phí. Điều này giúp bảo vệ tổ chức khỏi các mối đe dọa không phải tiếng Anh.
Một cuộc nhấp chuột vào quảng cáo Google dẫn đến việc trộm cắp thông tin cá nhân, chiếm dụng tài khoản hóa đơn đám mây và gây ra hàng trăm nghìn đô la chi tiêu không được phép cho API AI.
ThreatLabz phân tích một chiến dịch khai thác mới, trong đó một kẻ tấn công sử dụng ARTEX để nhắm mục tiêu vào các ngân hàng Hàn Quốc. ARTEX là một khung thử nghiệm xâm nhập tự động hóa do Trung Quốc phát triển, sử dụng mô hình ngôn ngữ lớn (LLMs) để tự động hóa công việc tình báo và khai thác. Kẻ tấn công đã khai thác các ứng dụng web ngoài hệ thống ngân hàng chính của các ngân hàng, lấy cắp thôn
