AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Arctic Wolf phát hiện tin tặc sử dụng công cụ kiểm thử an ninh AntiFox, một nền tảng kiểm thử mở nguồn của Trung Quốc, để tấn công hệ thống IIS và AWS. Công cụ này tự động hóa quá trình tấn công, giúp kẻ tấn công nhanh chóng thu thập thông tin và truy cập vào tài khoản AWS.
Trong thời đại của mối đe dọa và hỗ trợ kinh doanh do AI tạo ra, khả năng phục hồi nhanh chóng của một tổ chức sau một gián đoạn kinh doanh sẽ là một lợi thế cạnh tranh.
Notion, nền tảng làm việc số, đã công bố một sự cố an ninh tại nhà cung cấp AI của họ, Fireworks AI, đã làm lộ các cuộc trò chuyện AI trong số ít không gian làm việc của khách hàng.
Khó phát hiện thí sinh sử dụng AI để làm bài thi IT, nhưng các công cụ và quy trình mới đang xuất hiện để tăng sự tin tưởng. Các nhà chức trách cần nâng cao an ninh để đối phó với tình trạng này.
AWS giới thiệu trải nghiệm mới giúp khởi tạo nhanh và an toàn hơn. Trải nghiệm mới cung cấp các cài đặt an toàn mặc định, bao gồm việc đăng nhập với Builder ID và hai yếu tố bảo mật, tổ chức AWS tự quản lý và giới hạn dữ liệu tự động.
Justin Mills, một kỹ sư an ninh, khuyên rằng người mới vào nghề nên tìm cách làm việc khó khăn để nhanh chóng phát triển. Ông cho biết đã nhận hai thăng tiến trong khoảng 2 năm sau khi quyết định làm việc khó khăn và đã học cách tin tưởng đồng nghiệp.
Cybersecurity researchers đã phát hiện ra một chiến dịch trong đó một nền tảng kiểm thử xâm nhập tự động gọi là AntiFox đã được sử dụng để truy cập thông tin tài khoản AWS và chuyển hướng ngang vào các môi trường bị xâm phạm. Trong các vụ xâm nhập gần đây, hệ thống Alibaba Cloud chứa giao diện AntiFox đã liên quan đến hành động độc hại.
Tấn công viên đang sử dụng Alibaba Cloud để chủ động quản lý các phiên bản AntiFox, một nền tảng thử thách xâm nhập tự động, nhằm mục đích tấn công các dịch vụ web và môi trường AWS.
Trong tháng十月，网络攻击数量有所下降，但教育部门仍然是主要目标。欧洲地区的攻击数量增长最快，而非洲的攻击数量最多。使用GenAI工具的组织中，每35个企业级提示中就有1个存在高风险的数据泄露风险。
Microsoft đã phát hiện kỹ thuật Lazarus, có thể tạo backdoor trong mô hình AI bằng cách chỉnh sửa ít hơn 10 neuron. Backdoor này có thể hoạt động mà không cần huấn luyện lại và chỉ hoạt động khi nhận được lệnh từ trigger.
