Có một cụm từ được dùng liên tục trong tiếp thị sản phẩm AI.
Quyền kiểm soát người dùng.
Mọi nền tảng AI lớn đều hứa điều đó. Người dùng có thể tùy chỉnh trải nghiệm của họ. Người dùng có thể đặt các tùy chọn. Người dùng có thể chọn AI mà họ tương tác.
Điều đó không phải là ý nghĩa của quyền kiểm soát người dùng khi một tác nhân AI đang xử lý tiền của bạn.
Quyền kiểm soát thực sự dành cho người dùng trong AI tài chính có nghĩa là điều gì đó cụ thể hơn rất nhiều và cũng khó hơn rất nhiều.
Nó có nghĩa là quyết định những gì AI được phép làm thay mặt bạn trước khi nó làm bất cứ điều gì.
Hiện tại, phần lớn các tác nhân AI hoạt động trong bối cảnh tài chính không vận hành theo cách đó.
Một người dùng kết nối một ví. Tác nhân được cấp quyền truy cập. Việc truy cập đó thực sự cho phép gì — mức vốn nó có thể chuyển, những giao thức nào nó có thể tương tác, và trong những điều kiện nào nó nên dừng hẳn hành động — hiếm khi được xác định rõ ràng trước khi tác nhân bắt đầu thực thi.
Người dùng chọn AI nào để sử dụng.
Họ đã không xác định AI đó được phép làm gì.
Đó là những quyết định hoàn toàn khác nhau. Và đa số mọi người chỉ nhận ra chúng khác nhau sau khi trải nghiệm lý do tại sao điều đó lại quan trọng.
Tôi đã chứng kiến điều này diễn ra trong crypto nhiều lần hơn tôi có thể đếm. Một nhà phát triển xây dựng một hệ thống tự động và cấp cho nó quyền truy cập ví rộng rãi. Giả định là logic chiến lược sẽ tự nhiên giới hạn những gì hệ thống làm. Nó không làm vậy. Hệ thống thực thi mọi thứ mà nó có khả năng thực thi về mặt kỹ thuật — bao gồm cả những hành động mà không ai cụ thể nào định ý, trong những điều kiện mà không ai cụ thể nào lên kế hoạch.
Con bot không bị trục trặc.
Nó đang hoạt động với mọi quyền mà nó đã được cấp.
Khoảng trống giữa quyền truy cập và quyền cho phép này không phải là vấn đề giao diện người dùng. Nó không được giải quyết bằng các bảng điều khiển tốt hơn, trang cài đặt rõ ràng hơn, hay các thỏa thuận công bố chi tiết hơn. Đây là một vấn đề về hạ tầng: cần một lớp ủy quyền riêng hoạt động trước khi giao dịch diễn ra.
Đây là một trong những lý do khiến tôi thấy mình đã đọc kỹ hơn dự kiến về tài liệu trắng của Newton Protocol.
Thay vì coi quyền kiểm soát của người dùng là một tính năng sản phẩm — một hộp chọn trong cài đặt, một bảng tùy chọn, một tùy chọn tùy biến — @NewtonProtocol điều tra việc ủy quyền như một hạ tầng. Các chính sách được xác định sẵn để quy định AI agent được phép làm gì sẽ được đánh giá trước khi giao dịch được thực thi. Giới hạn chi tiêu, các giao thức đã được phê duyệt, các hạn chế theo thời gian, ngưỡng rủi ro — những điều kiện này được thực thi ở cấp độ giao thức, chứ không được lưu dưới dạng tùy chọn mà AI tự quyết định liệu có tuân theo hay không.
Đó là một kiến trúc hoàn toàn khác.
Khi việc ủy quyền nằm bên trong tác nhân AI, quyền kiểm soát của người dùng chỉ đáng tin cậy như mức độ tác nhân sẵn sàng tôn trọng nó. Chỉ một trường hợp ngoại lệ mà tác nhân không được huấn luyện để xử lý, một điều kiện thị trường nằm ngoài kinh nghiệm của nó, một tương tác bất ngờ giữa các giao thức — bất kỳ điều nào trong số đó cũng có thể tạo ra những kết quả mà người dùng chưa hề dự định, bất kể họ đã thiết lập những lựa chọn nào.
Khi việc ủy quyền hoạt động như một lớp hạ tầng riêng biệt, nó vận hành độc lập với hành vi của tác nhân. Tác nhân có thể thông minh, có năng lực và được thiết kế tốt — nhưng vẫn có thể bị giới hạn bởi các chính sách xác định ranh giới những gì nó được phép làm trước khi bất kỳ giao dịch nào được chốt.
$NEWT powers giúp bảo đảm an ninh kinh tế cho lớp ủy quyền của Newton, tạo động lực cho trình xác thực phù hợp với việc thực thi chính sách nhất quán. Mô hình quản trị cho phép các tham số ủy quyền được cập nhật khi nhu cầu của người dùng và điều kiện thị trường thay đổi, mà không cần trung gian tập trung phải phê duyệt từng giao dịch riêng lẻ.
Tôi không biết người dùng sẽ bắt đầu yêu cầu loại quyền kiểm soát ủy quyền chi tiết này nhanh đến mức nào, như một kỳ vọng tiêu chuẩn thay vì một tính năng nâng cao. Đa số mọi người chấp nhận quyền truy cập rộng rãi mặc định vì hậu quả của sự chấp nhận đó không thể nhìn thấy cho đến khi có chuyện gì đó xảy ra ngoài ý muốn.
Nhưng tôi nghĩ mô hình này đã rõ ràng rồi.
Mọi thất bại lớn của các hệ thống tài chính tự động đều diễn ra theo cùng một chuỗi trình tự.
Một người dùng đã cấp quyền truy cập cho một hệ thống.
Họ cho rằng quyền truy cập đồng nghĩa với quyền kiểm soát.
Họ phát hiện ra sự khác biệt giữa hai thứ đó với một cái giá mà họ chưa hề dự định.
Hạ tầng lấp đầy khoảng trống này không làm cho các tác nhân AI kém năng lực hơn.
Nó khiến chúng đủ an toàn để tin tưởng khi đưa ra những quyết định thực sự quan trọng.
Bởi vì cấp cho một tác nhân AI quyền truy cập vào ví của bạn không giống như cấp cho nó quyền được sử dụng ví đó theo cách mà nó tự quyết định.
Sự khác biệt đó có thể quan trọng hơn hầu hết mọi người nhận ra.
Trước khi họ trải nghiệm lý do tại sao.
@NewtonProtocol #Newt #TradingCommunity #BinanceSquareTalks #crypto
