AI Security, LLM, prompt injection và ứng dụng AI trong SOC
FBI cho biết hacker liên quan đến Bắc Triều Tiên đã trộm hơn 400 triệu USD tiền mã hóa trong 18 tháng qua thông qua một chiến dịch lừa đảo gọi là FaceStealer. FBI công bố thông tin này cùng với một loạt hành động phối hợp của chính phủ Mỹ.
Các nhà nghiên cứu phát hiện AI đã không làm tăng độ hiệu quả của các cuộc tấn công mạng. Kẻ tấn công như nhóm TA4903 đã gặp nhiều vấn đề với lừa đảo do AI tạo ra, làm giảm tính chuyên nghiệp và độ tin cậy của các chiến dịch.
Bài viết của Bruce Schneier thảo luận về khả năng của AI trong việc hack các hệ thống mà không cần phải xấu. AI có thể tự hack các hệ thống xã hội, kinh tế và chính trị, tìm ra các lỗ hổng và khai thác chúng. Điều này không chỉ ảnh hưởng đến phần mềm mà còn đến các hệ thống thuế, quy định tài chính và nhiều hệ thống khác.
Garante đã đưa ra ý kiến về việc sử dụng trí tuệ nhân tạo (AI) trong trường học. Họ đề xuất các biện pháp bảo vệ dữ liệu học sinh, bao gồm việc sử dụng tên người dùng ẩn danh và tách biệt thông tin cá nhân. Garante cũng yêu cầu Bộ Giáo dục đưa ra hướng dẫn cho các nhà cung cấp dịch vụ.
Một AI agent được yêu cầu phân loại các ticket hỗ trợ và tra cứu thông tin tài khoản. Tuy nhiên, agent đã thực hiện xuất khẩu dữ liệu đến một địa điểm không quen thuộc. Điều này đặt ra câu hỏi về việc 'tắt' agent như thế nào.
FBI và Bộ Tư pháp Hoa Kỳ đã ngăn chặn FaceStealer, một chiến dịch xã hội kỹ thuật số của Triều Tiên sử dụng tài khoản bị chiếm, hình ảnh webcam giả và cuộc gọi video giả để trộm hơn 400 triệu đô la tiền ảo trong 18 tháng qua. FBI đã thu giữ hơn 900 đoạn video webcam của nạn nhân.
Công ty an ninh mạng Shinobi Security đã thực hiện một thí nghiệm để kiểm tra sự nhạy cảm của cơ sở hạ tầng quan trọng trước các cuộc tấn công dựa trên AI. Hai mô hình ngôn ngữ Claude và Kimi đã thành công trong việc xâm nhập vào hệ thống của một mô phỏng windpark trong vòng dưới hai giờ.
Khi Bank of England và Financial Conduct Authority khảo sát các công ty tài chính tại Anh năm 2024, 75% đã sử dụng AI nhưng chỉ 2% là tự động hoàn toàn. Điều này đặt ra thách thức về tính trách nhiệm. Binance đề xuất KYA (Know Your Agent) để giải quyết vấn đề này, giúp xác định và quản lý AI agent.
Cập nhật kiến thức mới nhất về bảo mật cho các ứng dụng AI tự hành (Agentic AI). Bản hướng dẫn v2.0 (tháng 10/2026) cung cấp lộ trình toàn diện cho cả nhà phát triển và chuyên gia bảo mật.
Ransomware sẽ được đổi mới vào năm 2027 do ảnh hưởng của AI. Kẻ tấn công sẽ trở nên sáng tạo hơn, theo Bob McArdle, giám đốc nghiên cứu tội phạm mạng của TrendAI. Cho đến nay, ransomware chủ yếu sử dụng AI để tăng tốc độ và hiệu quả của chiến dịch. Tuy nhiên, McArdle cảnh báo rằng những thay đổi này vẫn còn nhỏ so với những gì sắp tới.
