#newt $NEWT Phần lớn những người đang bàn tán về rủi ro của AI dường như bị ám ảnh bởi một điều.
Điều gì xảy ra nếu mô hình đưa ra quyết định sai?
Trước đây tôi cũng nghĩ đó mới là vấn đề lớn.
Sau đó, tôi dành một khoảng thời gian để đọc Newton Protocol, và tôi bị mắc kẹt với một câu hỏi khác.
Điều gì sẽ xảy ra nếu AI đưa ra quyết định đúng... nhưng thực ra ban đầu nó không hề được tạo ra để đưa ra quyết định đó?
Thành thật mà nói, điều đó giống như một kịch bản thất bại thực tế hơn nhiều.
Một AI có thể tạo ra giao dịch đúng. Nó có thể tìm ra tuyến đường tối ưu. Nó có thể tối ưu mọi thứ một cách hoàn hảo.
Tất cả điều đó vẫn không trả lời được một câu hỏi đơn giản.
Ai thực sự là người đã cấp quyền cho nó?
Tôi nghĩ mọi người thường xuyên nhầm lẫn giữa “thông minh” và “thẩm quyền”.
Chúng không phải là một.
Một mô hình có thể vô cùng thông minh và vẫn chẳng có lý do gì để can thiệp vào một ví cụ thể, chuyển một tài sản nhất định, hoặc phê duyệt một giao dịch nào đó.
Đó là điều nổi bật với tôi khi đọc Newton Protocol.
Giao thức này không giả định rằng mọi giao dịch hợp lệ về mặt kỹ thuật đều cần được thực hiện. Nó kiểm tra xem hành động có phù hợp với các chính sách được xác định trước hay không. Giới hạn chi tiêu. Quyền được ủy quyền. Yêu cầu về danh tính. Bất kỳ quy tắc nào mà ứng dụng quyết định áp dụng.
Sự ủy quyền đến trước khi thực thi.
Đó là thời điểm tư duy của tôi thay đổi.
Có lẽ thách thức thật sự không phải là xây dựng một AI không bao giờ mắc lỗi.
Chúc may mắn với điều đó.
Có lẽ vấn đề là đảm bảo rằng một AI không thể hành động vượt ra khỏi thẩm quyền mà nó được cấp—dù về mặt kỹ thuật nó có thể làm được.
Một điều cứ quay lại trong đầu tôi khi đọc tài liệu.
“Trí tuệ” trả lời: “Tôi có làm được việc này không?”
“Ủy quyền” trả lời: “Tôi có được phép làm việc này không?”
Hai câu hỏi đó không phải là một.
Có thể tôi đã sai, nhưng nếu AI sẽ xử lý tiền thật, tôi muốn việc kiểm tra quyền được thực hiện trước trí tuệ, và làm điều đó mọi lúc, mọi lần.
#Newt @NewtonProtocol $NEWT
Điều gì xảy ra nếu mô hình đưa ra quyết định sai?
Trước đây tôi cũng nghĩ đó mới là vấn đề lớn.
Sau đó, tôi dành một khoảng thời gian để đọc Newton Protocol, và tôi bị mắc kẹt với một câu hỏi khác.
Điều gì sẽ xảy ra nếu AI đưa ra quyết định đúng... nhưng thực ra ban đầu nó không hề được tạo ra để đưa ra quyết định đó?
Thành thật mà nói, điều đó giống như một kịch bản thất bại thực tế hơn nhiều.
Một AI có thể tạo ra giao dịch đúng. Nó có thể tìm ra tuyến đường tối ưu. Nó có thể tối ưu mọi thứ một cách hoàn hảo.
Tất cả điều đó vẫn không trả lời được một câu hỏi đơn giản.
Ai thực sự là người đã cấp quyền cho nó?
Tôi nghĩ mọi người thường xuyên nhầm lẫn giữa “thông minh” và “thẩm quyền”.
Chúng không phải là một.
Một mô hình có thể vô cùng thông minh và vẫn chẳng có lý do gì để can thiệp vào một ví cụ thể, chuyển một tài sản nhất định, hoặc phê duyệt một giao dịch nào đó.
Đó là điều nổi bật với tôi khi đọc Newton Protocol.
Giao thức này không giả định rằng mọi giao dịch hợp lệ về mặt kỹ thuật đều cần được thực hiện. Nó kiểm tra xem hành động có phù hợp với các chính sách được xác định trước hay không. Giới hạn chi tiêu. Quyền được ủy quyền. Yêu cầu về danh tính. Bất kỳ quy tắc nào mà ứng dụng quyết định áp dụng.
Sự ủy quyền đến trước khi thực thi.
Đó là thời điểm tư duy của tôi thay đổi.
Có lẽ thách thức thật sự không phải là xây dựng một AI không bao giờ mắc lỗi.
Chúc may mắn với điều đó.
Có lẽ vấn đề là đảm bảo rằng một AI không thể hành động vượt ra khỏi thẩm quyền mà nó được cấp—dù về mặt kỹ thuật nó có thể làm được.
Một điều cứ quay lại trong đầu tôi khi đọc tài liệu.
“Trí tuệ” trả lời: “Tôi có làm được việc này không?”
“Ủy quyền” trả lời: “Tôi có được phép làm việc này không?”
Hai câu hỏi đó không phải là một.
Có thể tôi đã sai, nhưng nếu AI sẽ xử lý tiền thật, tôi muốn việc kiểm tra quyền được thực hiện trước trí tuệ, và làm điều đó mọi lúc, mọi lần.
#Newt @NewtonProtocol $NEWT