Tôi cứ nghĩ về câu đó — ‘Hầu hết các trợ lý AI yêu cầu bạn tin tưởng vào chính sách bảo mật. OpenGradient thay thế lời hứa bằng chứng minh.’ Nó thật sự thu hút bạn, nhưng ôi, nó cũng đặt ra tiêu chuẩn rất cao.
Hãy thẳng thắn: Nếu họ đang đổi chỗ mã hóa lấy các điều khoản pháp lý, thì câu hỏi không chỉ là ‘Dữ liệu của bạn có được mã hóa không?’ Mọi người đều nói như vậy.
Điều thực sự quan trọng là liệu bạn, tôi, hay bất kỳ người dùng ngẫu nhiên nào có thể xác minh những gì đang diễn ra từ đầu đến cuối. Ai nắm giữ khóa, và những phần nào của hệ thống thực sự có thể được xác minh? Tôi không biết, có thể tôi đang soi mói, nhưng điều này cảm giác như là phần quyết định.
Và đó là lúc kinh tế len lỏi trở lại. Khoảnh khắc một hệ thống bảo mật bắt đầu phụ thuộc vào hành vi người dùng, sự chấp nhận, hay phần thưởng, thì lòng tin không còn chỉ là một vấn đề kỹ thuật mà cũng trở thành một vấn đề khuyến khích.
Điều làm tôi bận tâm là bảo mật bằng chứng chỉ hoạt động nếu việc xác minh dễ hơn tin tưởng. Nếu việc kiểm tra bằng chứng quá kỹ thuật đối với người dùng bình thường, hệ thống sẽ lặng lẽ quay trở lại mô hình tin tưởng mà nó đáng lẽ phải thay thế.
Đó là điều khiến điều này thú vị ngay bây giờ. Khi các đại lý AI bắt đầu xử lý nhiều dữ liệu người dùng hơn và hành động tự động, câu hỏi đang chuyển từ việc liệu các mô hình có đủ thông minh hay không sang việc liệu hành vi của chúng có thực sự có thể xác minh được không.
Ngay cả thiết kế khuyến khích cũng thu hút sự chú ý của tôi. Khi các sản phẩm bảo mật bắt đầu gắn phần thưởng vào việc sử dụng, điều đó đặt ra một câu hỏi thú vị: liệu người dùng có đang đánh giá chính bằng chứng hay các phần thưởng đi kèm với nó? Các hệ thống bảo mật không tồn tại trong chân không. Các phần thưởng có cách định hình nhận thức, đôi khi nhiều hơn cả công nghệ cơ bản.
Một số người gọi tất cả điều này là tiên tiến. Tôi chưa đến đó. Những tuyên bố có thể đúng — nhưng tôi cứ tự hỏi: Nếu toàn bộ kế hoạch là ‘bằng chứng là sản phẩm,’ vậy thì bằng chứng đó thực sự ở đâu? Tôi có thể thực sự xác minh nó không?
Có thể tôi quá hoang tưởng sau vài lần thất bại lớn trong năm nay, nhưng tôi cần thấy nó, chứ không chỉ nghe về nó.
#opg $OPG @OpenGradient
Hãy thẳng thắn: Nếu họ đang đổi chỗ mã hóa lấy các điều khoản pháp lý, thì câu hỏi không chỉ là ‘Dữ liệu của bạn có được mã hóa không?’ Mọi người đều nói như vậy.
Điều thực sự quan trọng là liệu bạn, tôi, hay bất kỳ người dùng ngẫu nhiên nào có thể xác minh những gì đang diễn ra từ đầu đến cuối. Ai nắm giữ khóa, và những phần nào của hệ thống thực sự có thể được xác minh? Tôi không biết, có thể tôi đang soi mói, nhưng điều này cảm giác như là phần quyết định.
Và đó là lúc kinh tế len lỏi trở lại. Khoảnh khắc một hệ thống bảo mật bắt đầu phụ thuộc vào hành vi người dùng, sự chấp nhận, hay phần thưởng, thì lòng tin không còn chỉ là một vấn đề kỹ thuật mà cũng trở thành một vấn đề khuyến khích.
Điều làm tôi bận tâm là bảo mật bằng chứng chỉ hoạt động nếu việc xác minh dễ hơn tin tưởng. Nếu việc kiểm tra bằng chứng quá kỹ thuật đối với người dùng bình thường, hệ thống sẽ lặng lẽ quay trở lại mô hình tin tưởng mà nó đáng lẽ phải thay thế.
Đó là điều khiến điều này thú vị ngay bây giờ. Khi các đại lý AI bắt đầu xử lý nhiều dữ liệu người dùng hơn và hành động tự động, câu hỏi đang chuyển từ việc liệu các mô hình có đủ thông minh hay không sang việc liệu hành vi của chúng có thực sự có thể xác minh được không.
Ngay cả thiết kế khuyến khích cũng thu hút sự chú ý của tôi. Khi các sản phẩm bảo mật bắt đầu gắn phần thưởng vào việc sử dụng, điều đó đặt ra một câu hỏi thú vị: liệu người dùng có đang đánh giá chính bằng chứng hay các phần thưởng đi kèm với nó? Các hệ thống bảo mật không tồn tại trong chân không. Các phần thưởng có cách định hình nhận thức, đôi khi nhiều hơn cả công nghệ cơ bản.
Một số người gọi tất cả điều này là tiên tiến. Tôi chưa đến đó. Những tuyên bố có thể đúng — nhưng tôi cứ tự hỏi: Nếu toàn bộ kế hoạch là ‘bằng chứng là sản phẩm,’ vậy thì bằng chứng đó thực sự ở đâu? Tôi có thể thực sự xác minh nó không?
Có thể tôi quá hoang tưởng sau vài lần thất bại lớn trong năm nay, nhưng tôi cần thấy nó, chứ không chỉ nghe về nó.
#opg $OPG @OpenGradient