Tôi hình dung một ứng dụng cho vay hạ giới hạn rủi ro của người dùng sau một điểm số AI.
Trên màn hình, nó trông gần như vô hại.
Ví tiền kết nối. Mô hình kiểm tra mẫu. Ứng dụng nói rằng tài khoản này rủi ro hơn trước, vì vậy giới hạn thay đổi.
Ban đầu, tôi từng nghĩ công việc của người xác minh là hỏi xem điểm số AI đó có hợp lý không.
Đó là một bức tranh sai.
Một người xác minh không phải là một thẩm phán con người đọc câu trả lời và quyết định xem nó có hợp lý hay không. Câu hỏi lạnh lùng hơn là liệu việc chạy đã diễn ra theo cách mà ứng dụng tuyên bố nó đã diễn ra hay không.
Đây là nơi OpenGradient khiến tôi cảm thấy rõ ràng.
Phần lộn xộn không phải là điểm số chính nó. Đó là bằng chứng gắn liền với điểm số. Mô hình nào đã chạy, nơi nó chạy và bằng chứng nào ủng hộ việc chạy đó. Nếu không có điều đó, ứng dụng thực sự không loại bỏ được niềm tin. Nó chỉ chuyển khoảng cách niềm tin vào backend.
Tôi sẽ gọi đây là vấn đề Gói Bằng Chứng.
Nó chỉ nghe như việc sửa ống nước cho đến khi người dùng thách thức sự thay đổi giới hạn.
Bây giờ người xây dựng có một vấn đề thực sự. Họ không thể bảo vệ ứng dụng bằng cách nói rằng câu trả lời AI trông ổn. Họ phải mở phiên chạy và cho thấy có bằng chứng đứng sau kết quả.
OpenGradient trở nên có ý nghĩa hơn với tôi tại thời điểm đó. Không phải như một AI mà mọi người nên tin tưởng mạnh mẽ hơn, mà như một đầu ra AI có thể mang bằng chứng vào khoảnh khắc ai đó hỏi, “đây có phải là phiên chạy thật không?”
Lời hứa dễ dàng là AI có thể trả lời.
Bài kiểm tra khó hơn là AI mang theo bằng chứng của chính nó khi câu trả lời bắt đầu di chuyển giá trị.
#OPG $OPG @OpenGradient $SYN $BEL
Trên màn hình, nó trông gần như vô hại.
Ví tiền kết nối. Mô hình kiểm tra mẫu. Ứng dụng nói rằng tài khoản này rủi ro hơn trước, vì vậy giới hạn thay đổi.
Ban đầu, tôi từng nghĩ công việc của người xác minh là hỏi xem điểm số AI đó có hợp lý không.
Đó là một bức tranh sai.
Một người xác minh không phải là một thẩm phán con người đọc câu trả lời và quyết định xem nó có hợp lý hay không. Câu hỏi lạnh lùng hơn là liệu việc chạy đã diễn ra theo cách mà ứng dụng tuyên bố nó đã diễn ra hay không.
Đây là nơi OpenGradient khiến tôi cảm thấy rõ ràng.
Phần lộn xộn không phải là điểm số chính nó. Đó là bằng chứng gắn liền với điểm số. Mô hình nào đã chạy, nơi nó chạy và bằng chứng nào ủng hộ việc chạy đó. Nếu không có điều đó, ứng dụng thực sự không loại bỏ được niềm tin. Nó chỉ chuyển khoảng cách niềm tin vào backend.
Tôi sẽ gọi đây là vấn đề Gói Bằng Chứng.
Nó chỉ nghe như việc sửa ống nước cho đến khi người dùng thách thức sự thay đổi giới hạn.
Bây giờ người xây dựng có một vấn đề thực sự. Họ không thể bảo vệ ứng dụng bằng cách nói rằng câu trả lời AI trông ổn. Họ phải mở phiên chạy và cho thấy có bằng chứng đứng sau kết quả.
OpenGradient trở nên có ý nghĩa hơn với tôi tại thời điểm đó. Không phải như một AI mà mọi người nên tin tưởng mạnh mẽ hơn, mà như một đầu ra AI có thể mang bằng chứng vào khoảnh khắc ai đó hỏi, “đây có phải là phiên chạy thật không?”
Lời hứa dễ dàng là AI có thể trả lời.
Bài kiểm tra khó hơn là AI mang theo bằng chứng của chính nó khi câu trả lời bắt đầu di chuyển giá trị.
#OPG $OPG @OpenGradient $SYN $BEL