Có một điều mình nhận ra khi theo dõi sự phát triển của AI trong thời gian gần đây: chúng ta đang dành quá nhiều thời gian để bàn về việc AI sẽ thông minh đến đâu, nhưng lại ít khi tự hỏi ai mới là người quyết định AI được phép làm gì.
Đó cũng là lý do mình thấy chủ đề này thú vị. Ban đầu mình nghĩ đây là một bài viết về AI, hoặc thậm chí là về một token. Nhưng đọc kỹ hơn, mình nhận ra trọng tâm thực sự lại nằm ở một vấn đề sâu hơn rất nhiều: kiến trúc kiểm soát quyền lực (control architecture).
Suốt vài năm qua, hầu hết những bước tiến của AI đều xoay quanh việc mở rộng năng lực. Mô hình ngày càng lớn hơn, khả năng suy luận tốt hơn, bộ nhớ dài hơn và các AI Agent cũng trở nên tự chủ hơn. Tuy nhiên, khi AI không còn chỉ trả lời câu hỏi mà có thể trực tiếp ký giao dịch, quản lý ví, gọi API hay điều khiển các hệ thống bên ngoài, câu hỏi quan trọng nhất không còn là AI có làm được hay không, mà là AI có được phép làm hay không.
Theo mình, đây là ranh giới rất rõ giữa capability và authority. Một AI hoàn toàn có thể đủ khả năng chuyển một khoản tiền rất lớn chỉ trong vài giây, nhưng điều đó không đồng nghĩa với việc nó nên có quyền thực hiện giao dịch ấy bất cứ lúc nào. Năng lực và quyền hạn vốn là hai khái niệm hoàn toàn khác nhau.
Điều khiến mình suy nghĩ nhiều hơn là cách phần lớn hệ thống AI hiện nay vẫn đang hoạt động. Quy trình quen thuộc thường là AI đưa ra quyết định, thực hiện hành động rồi sau đó con người hoặc hệ thống mới kiểm tra kết quả. Nếu phát hiện có vấn đề thì mới rollback, blacklist, gửi cảnh báo hoặc tìm cách khắc phục. Blockchain hiện tại cũng không khác nhiều. Một giao dịch chỉ được phân tích sau khi đã được ký và xác nhận trên mạng lưới. Khi đó, mọi cảnh báo đều đúng, nhưng thường đã quá muộn.
Chính vì vậy, ý tưởng đưa Authorization lên trước thời điểm thực thi khiến mình thấy đây không đơn thuần là một tính năng mới, mà là một thay đổi trong cách thiết kế hệ thống. Thay vì để AI hành động ngay lập tức, AI chỉ có thể đề xuất một hành động và gửi yêu cầu. Sau đó, một lớp chính sách độc lập sẽ đánh giá xem hành động đó có đáp ứng đủ điều kiện hay không trước khi cấp quyền thực hiện.
Điều này đồng nghĩa với việc AI không còn nắm quyền quyết định cuối cùng. Quyền lực được tách khỏi trí thông minh.
Cách tiếp cận này thực ra không hề xa lạ. Trong một doanh nghiệp, một nhân viên có thể biết rất rõ khoản chi nào là cần thiết, nhưng việc giải ngân vẫn phải đi qua quy trình phê duyệt của quản lý hoặc kế toán. Không phải vì người đó thiếu năng lực, mà vì quyền hạn luôn cần được kiểm soát độc lập với năng lực. Theo mình, đây chính là nguyên tắc mà AI cũng cần có khi bắt đầu tương tác với tài sản số và các hệ thống tài chính.
Một điểm khác mình thấy rất đáng chú ý là blockchain hiện nay chủ yếu chỉ xác minh ai đã ký giao dịch, chứ gần như không trả lời được những câu hỏi như: giao dịch này có nên được thực hiện không, điều kiện hiện tại có còn phù hợp không, AI này có còn quyền thực hiện hành động đó hay không, hay giao dịch có vi phạm chính sách nào không. Đó chính là khoảng trống mà một lớp Authorization Infrastructure hướng tới giải quyết. Hệ thống không chỉ xác thực danh tính, mà còn xác minh quyền thực hiện hành động trong từng ngữ cảnh cụ thể.
Nếu lớp Authorization thực sự trở thành một hạ tầng dùng chung, tác động của nó có thể lớn hơn nhiều người nghĩ. Khi đó, AI Agent, ví, ứng dụng DeFi hay các giao thức blockchain đều có thể dựa trên cùng một lớp chính sách trước khi bất kỳ hành động nào được thực thi. Quyền kiểm soát sẽ không còn nằm rải rác trong từng ứng dụng riêng lẻ, mà được chuẩn hóa thành một lớp hạ tầng giống như cách oracle, mã hóa hay hệ thống xác thực danh tính đã trở thành những thành phần không thể thiếu của blockchain ngày nay.
Sau khi đọc và suy ngẫm, mình cảm thấy câu hỏi “Ai có quyền quyết định AI được phép làm gì trước khi AI hành động?” không còn mang màu sắc triết học nữa. Đó là một câu hỏi về thiết kế hệ thống và cũng có thể là một trong những bài toán quan trọng nhất của kỷ nguyên AI Agent.
Có lẽ trong tương lai, giá trị của AI sẽ không chỉ được đo bằng việc nó thông minh đến đâu, mà còn bằng việc chúng ta xây dựng được cơ chế kiểm soát quyền hạn của nó tốt đến mức nào. Khi AI ngày càng có khả năng tác động trực tiếp đến tài sản và hạ tầng số, lớp Authorization có thể sẽ trở thành một thành phần quan trọng không kém chính bản thân mô hình AI, bởi điều thực sự tạo nên sự an toàn không phải là AI có thể làm gì, mà là AI được phép làm gì.