Cái mess ẩn giấu trong OpenGradient không phải là việc chứng minh AI bằng cách hiển thị mọi thứ.
Nó chỉ chứng minh đủ trong khi giữ kín những phần riêng tư.
Đó là màn hình mà tôi sẽ chậm lại. Trong OpenGradient, các node đầy đủ không cần chạy lại mô hình. Họ xác minh chứng cứ. Họ cũng không cần prompt, phản hồi, hoặc trọng số mô hình để xác nhận rằng xác nhận là hợp lệ.
Vậy vấn đề builder xấu bắt đầu sau khi xác minh hoạt động.
Người dùng vẫn cần một biên lai mà họ có thể đọc.
Tôi muốn nó cảm giác thật đơn giản:
Trạng thái công việc: đã hoàn thành
Loại chứng cứ: xác nhận hợp lệ
Kết quả xác minh: đã qua
Dữ liệu đầu vào riêng tư: ẩn danh
Một dấu kiểm xanh đơn thuần là quá mỏng manh. Nó có thể nói “đã xác minh” trong khi nói với người dùng gần như không có gì về những gì đã được kiểm tra. Nhưng một biên lai nặng có thể trở thành điểm rò rỉ, vì nó bắt đầu kéo yêu cầu riêng tư trở lại vào dấu vết kiểm toán.
Đó là cái bẫy.
Biên lai phải chứng minh quá trình mà không tiết lộ điều gì đã khiến quá trình đó trở nên riêng tư ngay từ đầu. Nó nên cho phép người dùng hỏi, “Kết quả AI này có được xác minh không?” mà không đưa cho người kiểm toán prompt, câu trả lời, hay nội bộ mô hình.
Đối với tôi, đó là nơi mà OpenGradient trở nên thú vị. Chứng cứ có thể công khai đủ để tin tưởng, trong khi suy diễn vẫn đủ riêng tư để có ý nghĩa.
Áp lực không chỉ là tính toán AI riêng tư. Áp lực là làm cho một kết quả riêng tư có thể kiểm toán mà không biến việc kiểm toán thành rò rỉ. #OPG $OPG @OpenGradient