AI Security, LLM, prompt injection và ứng dụng AI trong SOC
United Airlines thông báo sẽ không cho phép khách hàng sử dụng các đại diện AI để đặt vé và quản lý các ghi chú đặt chỗ. Công ty cho biết quyết định này nhằm đảm bảo an ninh mạng.
Cybersecurity researchers đã phát hiện ra rằng các trang web giả mạo công cụ trí tuệ nhân tạo (AI) đang được sử dụng để phân phối các lừa gạt ClickFix, phần mềm độc hại chiếm dụng trình duyệt và một bộ mở rộng chiếm đoạt kết quả tìm kiếm của người dùng. Mô hình phân phối này được gọi là TypoPrompting bởi Island.
Palo Alto Networks Unit 42 theo dõi một chiến dịch tấn công AI từ Trung Quốc, sử dụng framework Cairn để tự động tấn công ít nhất 19 tổ chức. Chiến dịch này đã thành công tại 10 doanh nghiệp, truy cập hàng triệu thông tin và thay đổi thông tin quan trọng.
Picus Security đã giới thiệu Picus Autonomous Penetration Testing, một khả năng kiểm thử xâm nhập tự động với AI. AI này hoạt động như kẻ tấn công, tìm và sử dụng các lỗ hổng thực để kiểm tra các tài sản quan trọng của tổ chức.
Một nhóm tin tặc đã sử dụng khung công nghệ AI tên là Cairn để tự động xâm nhập vào các mục tiêu trong ngành bán dẫn, quốc phòng và xã hội. Điều này cho thấy AI có thể được sử dụng để rút ngắn thời gian tấn công và mở rộng phạm vi tấn công.
Tấn công viên người Trung Quốc đã sử dụng framework AI Cairn để tấn công 19 tổ chức, trong đó 10 tổ chức bị xâm nhập không được phép hoặc dữ liệu bị lấy cắp. Các mục tiêu chủ yếu bao gồm các công ty trong chuỗi cung ứng semiconductor và sản xuất tiên tiến, cũng như các tổ chức quốc phòng.
SOCRadar phát hiện 916 console ARTEX hoạt động tại Mỹ, phần lớn truy cập qua HTTP không mã hóa. ARTEX là nền tảng tự động hóa kiểm thử an ninh sử dụng AI, với nhiều biến thể và phiên bản khác nhau.
Horizon3, công ty bảo mật dựa trên NodeZero, đã công bố Phòng thí nghiệm Tầm nhìn Tương lai về Trí tuệ Địch thủ để phát triển hệ thống vòng tròn khép kín sử dụng bằng chứng từ đồ thị tấn công an toàn NodeZero để tìm và đóng các con đường tấn công thực tế với tốc độ máy tính.
Daylight dự định tăng tốc phát triển sản phẩm, tuyển dụng nhân tài mới, mở rộng sự hiện diện tại Hoa Kỳ và thâm nhập vào các thị trường mới. Công ty này đang đầu tư lớn vào công nghệ an ninh mạng dựa trên trí tuệ nhân tạo.
trước đây, chi nhánh chỉ kết nối với trung tâm, nhưng hiện nay nó có thể kết nối với nhiều nguồn như SaaS, đám mây, trung tâm dữ liệu, internet mở và các vị trí khác trong doanh nghiệp. Doanh nghiệp cần theo kịp sự thay đổi này để đảm bảo hiệu suất ứng dụng và video gọi như nhau giữa văn phòng và nhà.
