AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Theo báo cáo của IBM, 94% doanh nghiệp đã gặp phải thách thức về chủ quyền số trong ba năm qua. Trong những trường hợp khó khăn nhất, 91% doanh nghiệp phải chứng minh họ kiểm soát được tình hình và 81% phải cung cấp bằng chứng chính thức cho các cơ quan quản lý, kiểm toán, khách hàng hoặc các bên liên quan nội bộ.
Một báo cáo cho thấy AI đã làm ngắn thời gian để khai thác lỗ hổng, khiến công tác bảo vệ mạng trở nên khó khăn hơn. Attackers sử dụng AI để thực hiện công việc từ xác định lỗ hổng đến khai thác, trong khi thời gian để khắc phục lỗ hổng đang giảm dần.
Dù OpenAI, Google và Anthropic chiếm ưu thế, các startup AI vẫn hút vốn lớn nhờ nhu cầu ứng dụng, giải pháp chuyên ngành và "ngách" thị trường mới.
google đã tích hợp các tính năng bảo vệ quyền riêng tư vào kính thông minh gemini, tự động dừng quay khi đèn báo quay bị che hoặc sửa chữa. công ty cũng giới hạn xử lý dữ liệu và cung cấp các hạn chế cho ứng dụng.
Cybercriminals đang sử dụng các công cụ kiểm thử hệ thống có khả năng tự động, do đó doanh nghiệp cần có kế hoạch phòng thủ ngay lập tức. Theo các chuyên gia, doanh nghiệp cần nâng cao nhận thức và chuẩn bị các biện pháp bảo vệ.
OpenAI đã giới thiệu hai sản phẩm bảo mật mới: Daybreak Red Team và Daybreak Defense Factory. Red Team được sử dụng để kiểm tra lỗ hổng trong ứng dụng web, trong khi Defense Factory tự động tìm kiếm và sửa chữa các lỗ hổng. Tuy nhiên, một nhóm các tổ chức phi lợi nhuận đã kiện OpenAI và các công ty AI khác vì phát triển hệ thống AI vượt quá khả năng hiện tại.
Microsoft gặp sự cố lớn, làm gián đoạn Outlook, Teams và Copilot, cũng như các dịch vụ AI của OpenAI và Anthropic. Tải trọng quá-heavy tại nhiều khu vực ban đầu được cho là nguyên nhân, nhưng sau đó Microsoft xác định rằng các máy chủ bất ngờ không hoạt động là nguyên nhân thực sự. Sự cố kéo dài đến hiện tại vẫn chưa được giải quyết.
United Airlines khuyến cáo khách hàng không nên chia sẻ thông tin tài khoản với các trợ lý AI cá nhân hoặc bên thứ ba vì có thể dẫn đến việc tiết lộ thông tin nhạy cảm và các giao dịch không mong muốn.
Bài viết đề cập đến cách sử dụng AI để cải thiện quản lý rủi ro thông qua việc phân định sở hữu mã nguồn đơn giản, sửa lỗi mã và quy trình làm việc tự động hóa. Điều này giúp giảm thời gian khắc phục sự cố (MTTR) và loại bỏ các điểm nghẽn trong quá trình khắc phục.
Anthropic đã phát hành phiên bản tự chủ của Claude Managed Agents, cho phép doanh nghiệp chạy agent harness, sandboxes, credentials và session history trong môi trường đám mây hoặc nội bộ. Phiên bản này mở cửa như beta riêng từ ngày 12/11 và khách hàng có thể yêu cầu truy cập thông qua đội ngũ tài khoản của Anthropic.
