Agentic Finance đặt ra thách thức tính trách nhiệm, KYA mục tiêu giải quyết

Khi Bank of England và Financial Conduct Authority khảo sát các công ty tài chính tại Anh năm 2024, 75% đã sử dụng AI nhưng chỉ 2% là tự động hoàn toàn. Điều này đặt ra thách thức về tính trách nhiệm. Binance đề xuất KYA (Know Your Agent) để giải quyết vấn đề này, giúp xác định và quản lý AI agent.

Nội dung chính

• 75% công ty tài chính tại Anh đã sử dụng AI vào năm 2024.
• Chỉ 2% sử dụng AI là tự động hoàn toàn.
• KYA (Know Your Agent) là một đề xuất để xác định, xác thực, và quản lý AI agent.
• KYA giúp xác định ai là người thực hiện hành động, ai là người có thẩm quyền, và ai giữ trách nhiệm.
• 84% công ty có người chịu trách nhiệm cho AI framework, nhưng chỉ 46% hiểu rõ AI họ sử dụng.

Chi tiết sự việc

Khi Ngân hàng Trung ương Anh và Cơ quan Hành chính Tài chính Anh điều tra các công ty tài chính tại Anh vào năm 2024, 75% trong số họ đã sử dụng trí tuệ nhân tạo (AI). Tuy nhiên, chỉ có 2% trong số các trường hợp sử dụng AI là hoàn toàn tự động. Điều này cho phép các đội tuân thủ coi AI như một công cụ mà con người điều hành. Tuy nhiên, giả định này trở nên yếu hơn theo từng điểm khi 2% tăng lên.

Khi phần mềm đưa ra chỉ thị thay vì con người, một tổ chức có thể biết khách hàng của mình hoàn toàn nhưng vẫn không biết ai hoặc điều gì thực sự hành động. Báo cáo của Binance, Know Your Agent, nêu rõ các khả năng này. Chỉ thị có thể đến từ khách hàng, từ đại diện được ủy quyền, từ đại diện bị xâm phạm, hoặc từ đại diện con không tuân theo nhiệm vụ của mình. Và như OpenID Foundation đã lưu ý, đại diện thường hành động giống như người dùng.

Trí tuệ nhân tạo đã xâm nhập sâu hơn vào quyết định hơn nhiều người nhận ra. Trong cùng một cuộc khảo sát, 55% trong số các trường hợp sử dụng AI liên quan đến một quyết định tự động hóa, và 24% trong số đó là tự động hóa bán phần. Ngân hàng kỳ vọng AI sẽ tự động hóa tuân thủ.

57% trong số các nhà quản lý ngân hàng của Accenture kỳ vọng AI đại diện sẽ được tích hợp hoàn toàn vào các chức năng rủi ro, tuân thủ và kiểm toán.

“Chúng tôi đã xây dựng phần lớn tuân thủ tội phạm tài chính xung quanh việc biết khách hàng,” Steven McWhirter, Giám đốc Chính sách toàn cầu của Binance, nói. “Nhưng trong thế giới agentic, điều đó không còn đủ. Khi phần mềm có thể điều tra, đưa ra quyết định và chuyển tiền, chúng ta cần phải có thể xác định rõ ràng đại diện nào đã hành động, dựa trên quyền hạn của ai, và ai vẫn chịu trách nhiệm.” Know Your Agent không phải là về cho phép phần mềm có nhân cách pháp lý; nó là về duy trì trách nhiệm khi tự động hóa mở rộng.

Binance's Agent OS là ví dụ điển hình về vấn đề này. Người dùng cấp quyền cho các đại lý trong giới hạn họ thiết lập, và Binance theo dõi hoạt động giao dịch do các đại lý tạo ra. Tuy nhiên, quyết định của đại lý vẫn nằm trong ứng dụng AI mà người dùng chọn, không thể thấy của Binance. Đây chính là khoảng trống về trách nhiệm. Nơi giao dịch thấy lệnh nhưng không thấy lý do, nên trách nhiệm phải đi cùng với danh tính và quyền, và với người thiết lập chúng.

Hệ thống thẻ tín dụng cũng rơi vào tình huống tương tự. Theo Mastercard's Agent Pay, các đại lý phải được đăng ký và xác minh trước khi có thể thanh toán, và cả người tiêu dùng, phát hành và nhà bán hàng đều có thể xác định các giao dịch do đại lý thực hiện.

Người tiêu dùng còn được quyền quyết định gì đại lý được phép mua. Dù có nhãn nào, đây cũng là quy chế. Dù đại lý bị giới hạn chặt chẽ vẫn có thể thực hiện giao dịch không tốt. Nhưng giao dịch không tốt bởi đại lý được biết, trong quy chế được biết, là loại vấn đề mà tuân thủ đã biết cách giải quyết.

Trách nhiệm trước tự chủ

Agentic finance sẽ phát triển như thế nào phụ thuộc vào khả năng của các tổ chức trả lời ba câu hỏi: đại lý nào đã hành động, cho ai, và dựa trên quyền gì. Know Your Agent là bản nháp của câu trả lời, do một thành viên ngành công nghiệp viết và mở ra cho sự phê phán. Cho đến khi câu trả lời trở thành quy trình, giới hạn thực tế không thay đổi. Đó là trách nhiệm, không phải khả năng.

Anthropic tuyên bố các công ty AI Trung Quốc 'đúc' Claude để huấn luyện các mô hình của họ

Ta-da huy động 3,5 triệu đô để xây dựng thị trường dữ liệu AI của họ

Apple loại bỏ Clearview AI iPhone app khỏi App Store

Làm thế nào để bảo vệ trang web WordPress khỏi tấn công mạng?

Khuyến nghị

• Các công ty nên xác định, xác thực, và quản lý AI agent.
• Cần có người chịu trách nhiệm cho mỗi AI agent.
• Cải thiện hiểu biết về AI được sử dụng.

Lưu ý: Bài viết được biên dịch và tóm tắt tự động bằng AI từ nguồn HackRead. Vui lòng đối chiếu bài gốc trước khi sử dụng.