YÊU CẦU BỒI THƯỜNG BỊ TỪ CHỐI. AI ĐÃ DẠY CHO AI CÁCH NÓI KHÔNG?
Một yêu cầu bồi thường bảo hiểm đến. Danh tính của bệnh nhân khớp. Tài liệu đã đầy đủ. Các quy tắc ủy quyền được đánh giá tự động. AI làm theo các chỉ dẫn mà nó được giao. Yêu cầu bồi thường bị từ chối. Vài tháng sau, một cuộc rà soát thủ công đưa ra kết luận khác. Phương pháp điều trị lẽ ra đã phải được phê duyệt. Điều đó đặt ra một câu hỏi khó chịu. AI có đưa ra quyết định không? Hay quyết định đã xảy ra từ rất sớm, ngay khi các quy tắc chính nó được viết ra? Khi các hệ thống tự động ngày càng phổ biến, việc ủy quyền có thể quan trọng không kém gì bản thân quá trình tự động hóa.
Ai đã cho phép AI đưa ra quyết định đó ngay từ đầu?
Khi các hệ thống tự động ngày càng phổ biến, riêng việc có quyền truy cập có thể không còn đủ.
Một AI có thể có chứng chỉ.
Một AI có thể có quyền truy cập thị trường.
Một AI thậm chí có thể làm theo mọi hướng dẫn mà nó được cung cấp.
Nhưng ủy quyền trả lời một câu hỏi khác:
Hệ thống này thực sự được phép làm gì?
Sự khác biệt đó là một trong những lý do khiến cách tiếp cận của Newton Protocol về ủy quyền và thực thi chính sách ngày càng trở nên quan trọng đối với các hệ thống do AI điều khiển.
Bởi ngay khi một hệ thống tự động có thể hành động thay mặt chúng ta, ranh giới cho phép trở nên quan trọng tương đương với chính việc thực thi.
HỆ THỐNG ĐÃ THỰC THI CÁC CHỈ DẪN. CÁC CHỈ DẪN TRỞ THÀNH QUYẾT ĐỊNH.
Một hệ thống tự động thực thi một hành động. Việc ủy quyền thành công. Việc tuân thủ đạt yêu cầu. Đến thời điểm đó, quyết định quan trọng nhất có thể đã xảy ra rồi. Không phải bên trong máy. Nhưng trong các chính sách xác định ngay từ đầu máy được phép làm gì. Khi các hệ thống ngày càng tự chủ hơn, quyền lực có thể không chuyển hoàn toàn về phía AI. Nó có thể sẽ hướng tới những người viết các chính sách mà các hệ thống đó tuân theo. Một tác nhân AI có thể thực thi các chỉ dẫn. Một chính sách xác định những chỉ dẫn nào tồn tại. Sự khác biệt đó lại liên tục đưa tôi quay về Newton Protocol và cách tiếp cận của nó đối với ủy quyền cũng như việc thực thi chính sách.
Hầu hết mọi người cho rằng nếu một hệ thống nhận dạng được thông tin xác thực của bạn, thì hệ thống đó sẽ phải tin tưởng các hành động của bạn.
Nhưng truy cập và quyền hạn không phải là cùng một thứ.
Một chiếc chìa khóa có thể hợp lệ.
Cái khóa có thể mở.
Hành động có thể thực thi đúng như thiết kế.
Và người sử dụng chiếc chìa khóa đó vẫn có thể chưa từng thuộc về nơi đó ngay từ đầu.
Đó là một trong những lý do khiến việc ủy quyền ngày càng trở nên quan trọng hơn khi các hệ thống AI ngày càng trở nên tự chủ.
Xác thực trả lời:
"Bạn là ai?"
Ủy quyền trả lời:
"Thực ra bạn nên được phép làm gì?"
Khi các hệ thống kỹ thuật số tiến dần đến tác nhân, tự động hóa và việc thực thi bằng máy móc, sự khác biệt này có thể trở thành một trong những câu hỏi bảo mật quan trọng nhất.
Một chiếc chìa khóa hợp lệ vẫn có thể mở nhầm cánh cửa.
AI đã làm đúng mọi quy tắc. Xác thực đã thành công. Các kiểm tra tuân thủ đã vượt qua. Giao dịch đã được thực hiện đúng như thiết kế. Vài tháng sau, ai cũng đồng ý rằng quyết định đó không bao giờ nên xảy ra. Khả năng đó cứ tiếp tục thu hút sự chú ý của tôi khi tôi nghĩ về những hệ thống như @NewtonProtocol. Trong nhiều năm, cuộc trò chuyện về AI chỉ tập trung vào một câu hỏi: Máy móc có thể làm theo các quy tắc không? Nhưng một câu hỏi khó hơn có thể sắp đến: Điều gì sẽ xảy ra khi chúng làm vậy? Những thất bại truyền thống thì rất dễ giải thích.