AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Google DeepMind đang phát triển công cụ AlphaProof Code để mở nguồn, nhằm đảm bảo an ninh cho các hệ thống quan trọng. Công cụ này được sử dụng để chứng minh hiệu quả của mã hóa Signal.
Bài viết đề xuất cách xây dựng tiêu chuẩn đánh giá cho các agent tấn công, dựa trên kinh nghiệm xây dựng Wiz Cyber Model Arena. Tác giả Jay Tenenbaum giải thích cách sử dụng mô hình này để đánh giá hiệu quả của các agent AI trong lĩnh vực an ninh mạng.
Fireworks AI vừa thông báo về một vụ tấn công mạng và rò rỉ dữ liệu khách hàng, bao gồm thông tin tài khoản, hóa đơn và tập dữ liệu AI. Công ty cho biết có liên kết với tội phạm tài chính và LLMJacking. Dữ liệu bị ảnh hưởng bao gồm thông tin tài khoản, hóa đơn và một phần tập dữ liệu AI.
Các cửa hàng bán lịch đếm ngược giả mạo sử dụng đánh giá và số lượng đặt hàng giả, watermark AI và thông tin liên hệ thiếu. Họ cũng cung cấp các add-on không rõ ràng và sản phẩm không có giấy phép.
Nghiên cứu cho thấy AI giúp dễ dàng hơn trong việc giải mã và tái tạo phần mềm phức tạp và malware Turla. Điều này mở ra nhiều cơ hội nhưng cũng đặt ra những mối lo ngại về an ninh mạng cho các tổ chức và chuyên gia bảo mật.
Nhà quản lý Hugging Face Irene Solaiman cảnh báo rằng các cuộc tấn công mạng ngày càng tăng lên các nền tảng AI nguồn mở có thể dẫn đến các hạn chế an ninh nghiêm ngặt, đe dọa tính dễ tiếp cận mà cộng đồng nguồn mở mang lại cho các nhà phát triển trên toàn thế giới.
Google DeepMind đã sử dụng công nghệ AlphaProof Code để xác minh an ninh mã của ứng dụng Signal, đánh dấu lần đầu tiên AI được sử dụng trong quá trình này. Quá trình này đòi hỏi sự phối hợp giữa con người và AI để tạo ra một chứng minh toán học về các tính năng bảo mật của Signal.
Cisco và IBM chuẩn bị tích hợp Claude Mythos vào các sản phẩm của mình. Cisco sẽ sử dụng mô hình Anthropic để tăng cường kiểm thử tấn công của hệ thống AI. IBM sẽ sử dụng Mythos để phát hiện và sửa chữa các lỗ hổng phần mềm. Cả hai dự án đều mở rộng khả năng tiếp cận của Mythos, với điều kiện sử dụng và lịch trình riêng biệt.
Xác thực khuôn mặt giúp tăng cường bảo mật trong giao dịch ngân hàng, nhưng chính quy trình này đang bị tội phạm lợi dụng để tiếp cận tài khoản của người dùng. Một thủ đoạn đáng chú ý là dụ nạn nhân quét mặt với lời mời nhận quà, phiếu mua hàng, thẻ cào hoặc tham gia chương trình khách hàng thân…
Anthropic đã giới thiệu Claude Fable 5.2 và Mythos 5.2 với cải tiến đáng kể trong xử lý các tác vụ lập trình phức tạp và giảm giá API. Fable 5.2 đạt điểm cao hơn đáng kể trên các bài kiểm tra so với phiên bản trước, trong khi Mythos 5.2 có khả năng phát hiện lỗi phần mềm tốt hơn.
