#opg $OPG Chúng ta cứ tiếp tục trao cho các tác nhân AI nhiều quyền tự do hơn mức mà chúng ta đã biết cách theo dõi
Gần đây tôi đã xem một tác nhân AI tự mình thực hiện một nhiệm vụ nhiều bước: nó tự liên kết các quyết định với nhau, điều chỉnh dựa trên kết quả trung gian, và không có con người kiểm tra từng bước. Nó hoạt động. Đó gần như là phần đáng lo nhất. Hoạt động đủ tốt đến mức nửa chừng tôi đã ngừng để ý kỹ.
Khoảnh khắc đó đọng lại trong tôi lâu hơn tôi dự đoán.
Tôi nghĩ rằng có thể mở rộng đồng thời “tính tự chủ” và “giám sát”. Những tác nhân càng mạnh mẽ thì giám sát càng tinh vi hơn, gần như song song. Đó từng là một mặc định hợp lý.
Nhưng càng nghĩ, hai điều đó có thể lại tăng theo hai hướng ngược nhau. Tác nhân càng tự chủ thì càng có nhiều điểm ra quyết định mà con người không trực tiếp quan sát. Trách nhiệm giải trình cần một chuỗi lập luận có thể truy vết. Còn tính tự chủ, theo thiết kế, lại làm giảm mức độ chuỗi đó vẫn lộ diện theo thời gian thực.
Điều làm tôi băn khoăn là chúng ta đang triển khai những tác nhân ngày càng tự chủ nhanh hơn tốc độ mà chúng ta giải quyết cách để buộc việc ra quyết định của họ phải chịu trách nhiệm sau khi sự việc xảy ra.
Câu hỏi tôi cứ quay đi quay lại với @OpenGradient không phải liệu hạ tầng phi tập trung có thể hỗ trợ các tác nhân AI về mặt kỹ thuật hay không, mà là liệu cách tiếp cận của $OPG với “suy luận có thể kiểm chứng” có thực sự lấp đầy khoảng trống trách nhiệm giải trình đó, hay chỉ làm cho đầu ra trở nên kiểm tra được trong khi con đường suy luận vẫn mù mờ.
Xác nhận rằng một điều gì đó đã xảy ra không giống như hiểu vì sao nó xảy ra theo cách đó.
Tôi không chắc tính tự chủ cần cái nào nhiều hơn. #OPG
@OpenGradient
Gần đây tôi đã xem một tác nhân AI tự mình thực hiện một nhiệm vụ nhiều bước: nó tự liên kết các quyết định với nhau, điều chỉnh dựa trên kết quả trung gian, và không có con người kiểm tra từng bước. Nó hoạt động. Đó gần như là phần đáng lo nhất. Hoạt động đủ tốt đến mức nửa chừng tôi đã ngừng để ý kỹ.
Khoảnh khắc đó đọng lại trong tôi lâu hơn tôi dự đoán.
Tôi nghĩ rằng có thể mở rộng đồng thời “tính tự chủ” và “giám sát”. Những tác nhân càng mạnh mẽ thì giám sát càng tinh vi hơn, gần như song song. Đó từng là một mặc định hợp lý.
Nhưng càng nghĩ, hai điều đó có thể lại tăng theo hai hướng ngược nhau. Tác nhân càng tự chủ thì càng có nhiều điểm ra quyết định mà con người không trực tiếp quan sát. Trách nhiệm giải trình cần một chuỗi lập luận có thể truy vết. Còn tính tự chủ, theo thiết kế, lại làm giảm mức độ chuỗi đó vẫn lộ diện theo thời gian thực.
Điều làm tôi băn khoăn là chúng ta đang triển khai những tác nhân ngày càng tự chủ nhanh hơn tốc độ mà chúng ta giải quyết cách để buộc việc ra quyết định của họ phải chịu trách nhiệm sau khi sự việc xảy ra.
Câu hỏi tôi cứ quay đi quay lại với @OpenGradient không phải liệu hạ tầng phi tập trung có thể hỗ trợ các tác nhân AI về mặt kỹ thuật hay không, mà là liệu cách tiếp cận của $OPG với “suy luận có thể kiểm chứng” có thực sự lấp đầy khoảng trống trách nhiệm giải trình đó, hay chỉ làm cho đầu ra trở nên kiểm tra được trong khi con đường suy luận vẫn mù mờ.
Xác nhận rằng một điều gì đó đã xảy ra không giống như hiểu vì sao nó xảy ra theo cách đó.
Tôi không chắc tính tự chủ cần cái nào nhiều hơn. #OPG
@OpenGradient