Cách mới để kiểm soát rủi ro tài chính khi AI giao dịch sai

Tóm tắt nhanh

• Một “Tiêu chuẩn Rủi ro Tác tử” mới tách các công việc AI thành nhóm chỉ thu phí, được bảo vệ bằng ký quỹ, và nhóm xử lý tiền, phải có bảo hiểm bảo lãnh.
• Trong các mô phỏng, cơ chế bảo lãnh giúp giảm thiệt hại cho người dùng tới 61%, dù mức phí bảo hiểm bằng 0 lại khiến bên bảo lãnh bị mất khả năng thanh toán.
• Thách thức lớn nhất vẫn là ước tính chính xác tỷ lệ thất bại, vì cả việc đánh giá quá cao lẫn quá thấp đều có thể tạo ra rủi ro hệ thống.

Khi các tác tử AI bắt đầu xử lý thanh toán, giao dịch tài chính và các giao dịch khác, mối lo về rủi ro tài chính đổ lên vai con người đứng sau tác tử đó ngày càng lớn khi hệ thống gặp lỗi. Một nhóm nghiên cứu cho rằng các kỹ thuật an toàn AI hiện tại không xử lý được rủi ro này, và cần xem xét những cơ chế kiểu bảo hiểm mới.

Trong một bài báo gần đây, các nhà nghiên cứu từ Microsoft, Google DeepMind, Đại học Columbia, cùng các startup Virtuals Protocol và t54.ai đã đề xuất Tiêu chuẩn Rủi ro Tác tử, một khuôn khổ ở tầng thanh toán được thiết kế để bồi thường cho người dùng khi một tác tử AI thực thi sai nhiệm vụ, không cung cấp dịch vụ, hoặc gây ra tổn thất tài chính.

“Các biện pháp bảo vệ kỹ thuật chỉ có thể mang lại độ tin cậy mang tính xác suất, trong khi người dùng ở các bối cảnh rủi ro cao thường cần những bảo đảm có thể thực thi đối với kết quả,” bài báo nêu.

Các tác giả cho rằng phần lớn nghiên cứu AI hiện nay tập trung vào việc cải thiện hành vi của mô hình, bao gồm giảm thiên lệch, làm cho hệ thống khó bị thao túng hơn, và giúp các quyết định của chúng dễ hiểu hơn.

“Những rủi ro này về bản chất là ở cấp độ sản phẩm và không thể bị loại bỏ chỉ bằng các biện pháp bảo vệ kỹ thuật, vì hành vi của tác tử vốn mang tính ngẫu nhiên,” họ viết. “Để lấp khoảng trống giữa độ tin cậy ở cấp mô hình và sự bảo đảm đối với người dùng, chúng tôi đề xuất một khuôn khổ bổ sung dựa trên quản trị rủi ro.”

Tiêu chuẩn Rủi ro Tác tử bổ sung các lớp bảo vệ tài chính vào cách xử lý công việc AI. Với những nhiệm vụ đơn giản mà người dùng chỉ có nguy cơ mất phí dịch vụ, khoản thanh toán sẽ được giữ trong tài khoản ký quỹ và chỉ được giải ngân sau khi công việc được xác nhận. Với các nhiệm vụ rủi ro cao hơn cần giải ngân tiền trước, như giao dịch hoặc đổi tiền tệ, hệ thống sẽ đưa bên bảo lãnh vào cuộc. Bên bảo lãnh đánh giá rủi ro, yêu cầu nhà cung cấp dịch vụ ký quỹ tài sản thế chấp, và hoàn trả cho người dùng nếu xảy ra một lỗi nằm trong phạm vi được bảo hiểm.

Bài báo lưu ý rằng các tổn hại phi tài chính như ảo giác, phỉ báng hoặc tổn thương tâm lý vẫn nằm ngoài khuôn khổ này.

Các nhà nghiên cứu cho biết hệ thống đã được thử nghiệm bằng một mô phỏng với 5.000 lượt chạy, đồng thời nhấn mạnh rằng thí nghiệm này còn hạn chế và không nhằm phản ánh tỷ lệ thất bại trong thế giới thực.

“Những kết quả này thúc đẩy các nghiên cứu tiếp theo về mô hình hóa rủi ro cho nhiều dạng lỗi khác nhau, đo lường thực nghiệm tần suất lỗi trong các điều kiện gần với triển khai, và thiết kế lịch phí bảo lãnh cùng mức ký quỹ vẫn đủ vững trước sai số của bộ phát hiện và hành vi chiến lược,” nghiên cứu nêu.