AI Security, LLM, prompt injection và ứng dụng AI trong SOC
Nghiên cứu mới cho thấy các hacker liên kết với Kazakhstan đã sử dụng một đại diện trí tuệ nhân tạo để theo dõi chính phủ các nước Trung Á, trộm tài liệu nhạy cảm và xâm nhập vào các mạng lưới cơ sở hạ tầng quan trọng.
Microsoft sử dụng AI phát hiện 59 lỗ hổng trong Linux kernel, bao gồm những lỗi tồn tại hơn 20 năm. Quá trình xác nhận lỗi và phát hành bản vá vẫn chủ yếu phụ thuộc vào con người. Trong số 59 báo cáo, 24 có mức độ nghiêm trọng cao, 8 có exploit sẵn sàng.
Những kẻ tấn công đã truy cập vào các bản ghi trò chuyện của ít hơn 1% không gian làm việc Notion. Phần lớn các bản ghi không thể xác định được chủ.
Darktrace nghiên cứu viên đã biến Claude Code thành implant điều khiển từ xa trong thí nghiệm, sử dụng tính năng lưu trữ trong trí nhớ của nền tảng Claude và kéo file 1 GB thông qua API Claude Files. Khi implant được thiết lập, mọi công việc và kết quả đều đi qua api.anthropic.com, khiến lưu lượng tấn công trông giống như một agent coding đang làm việc.
Một hacker đã thất bại trong việc sử dụng lệnh tay để xâm nhập vào hệ thống của một doanh nghiệp thương mại ở Mỹ. Sau đó, hacker đã chuyển sang sử dụng script AI để đạt được sự di chuyển ngang trong vài phút.
Scammer khai thác quyền push notification để gửi thông báo giả mạo về virus, thanh toán bị bỏ lỡ hoặc vấn đề pháp lý, giữ cho nạn nhân tiếp tục nhận thông báo ngay cả khi họ không truy cập trang web. Điều này cho phép scammers tạo ra cơ hội tiếp cận lại và lừa đảo.
Dick O'Brien từ Symantec cho rằng thời gian đóng cửa cửa sổ vá lỗi nhanh chóng khiến tổ chức phải chuyển từ việc vá lỗi sang cách tiếp cận giả định đã bị khai thác. Anh ấy nhấn mạnh cần thay đổi tư duy bảo mật.
Notion AI thông báo Fireworks AI, nhà cung cấp AI, bị tấn công, dẫn đến rò rỉ dữ liệu khách hàng. Notion khẳng định không bị tấn công trực tiếp, nhưng các dữ liệu của khách hàng có thể đã bị rò rỉ thông qua Fireworks AI.
(Dân trí) - Bộ Khoa học - Công nghệ đang thí điểm mô hình hỗ trợ tối đa 3 tỷ đồng để các chuyên gia, nhà khoa học giúp doanh nghiệp vừa và nhỏ ứng dụng trí tuệ nhân tạo (AI).
Amazon Web Services đã phát hành công cụ mô phỏng AWS (AWS Emulator) miễn phí, cho phép phát triển ứng dụng AWS trên máy tính cá nhân, máy chủ phát triển hoặc trong chu trình tích hợp liên tục. Công cụ này được viết hoàn toàn bởi các đại diện AI, không có sự tham gia của nhân viên kỹ sư.
