Một hệ thống tự động thực thi một hành động.
Việc ủy quyền thành công.
Việc tuân thủ đạt yêu cầu.
Đến thời điểm đó, quyết định quan trọng nhất có thể đã xảy ra rồi.
Không phải bên trong máy.
Nhưng trong các chính sách xác định ngay từ đầu máy được phép làm gì.
Khi các hệ thống ngày càng tự chủ hơn, quyền lực có thể không chuyển hoàn toàn về phía AI.
Nó có thể sẽ hướng tới những người viết các chính sách mà các hệ thống đó tuân theo.
Một tác nhân AI có thể thực thi các chỉ dẫn.
Một chính sách xác định những chỉ dẫn nào tồn tại.
Sự khác biệt đó lại liên tục đưa tôi quay về Newton Protocol và cách tiếp cận của nó đối với ủy quyền cũng như việc thực thi chính sách.
Trong nhiều năm, các kỹ sư phần mềm đã định hình những gì các hệ thống có thể làm.
Thế hệ tiếp theo của các hệ thống tự động có thể ngày càng được định hình bởi những người quyết định các hệ thống đó được phép làm gì.
Kết quả có vẻ tinh tế nhưng lại rất quan trọng.
Quyết định quan trọng nhất trong một hệ thống tự động có thể xảy ra từ rất lâu trước khi máy thực sự bắt đầu vận hành.
Bởi vì khi việc ủy quyền thành công,
việc tuân thủ vượt qua,
và việc thực thi diễn ra theo đúng mọi quy tắc,
kết quả có thể đã được quyết định trước bởi người đã viết ra những quy tắc đó.
Năng lực AI đang nhận được phần lớn sự chú ý.
Trong khi đó, những tác giả chính sách, các nhóm quản trị và những người thiết kế quy tắc có thể âm thầm trở thành một trong những tác nhân có ảnh hưởng lớn nhất trong các hệ thống tự động.
Tự động hóa thay đổi cách thực thi.
Thay đổi chính sách trao quyền lực.
Nếu AI chỉ làm theo lệnh,
ai là người chịu trách nhiệm về việc viết chúng?