Mình đã để ý một điều khi đọc tài liệu PIPE của OpenGradient mà không thể gạt bỏ khỏi đầu. Khi một smart contract gọi một model, sequencer sẽ lấy request inference ra trước khi việc xây dựng khối bắt đầu — nó chạy trong một mempool song song, phân phối công việc qua các GPU operators, sau đó kết nối lại kết quả vào. Khối không bao giờ phải chờ đợi model. Lần đọc đầu tiên nghe có vẻ tinh tế. Nhưng mình cứ ngồi lại với một câu hỏi: điều gì thực sự xảy ra khi hai node GPU cạnh tranh trả về các đầu ra khác nhau cho cùng một prompt?

Tài liệu cho biết gói hợp lệ đầu tiên sẽ thắng và các bản sao sẽ bị loại bỏ. Điều đó không sao với các model xác định, nhưng các LLM thì không xác định. Nhiệt độ, độ biến động mẫu, thậm chí sự khác biệt điểm động trên phần cứng có thể tạo ra các đầu ra khác biệt một cách hợp lý từ cùng một đầu vào. Vì vậy, cơ chế "đua" không thực sự là một cuộc đua về tính chính xác, mà là một cuộc đua để nộp đầu tiên. Mình không hoàn toàn chắc rằng thiết kế hiện tại có câu trả lời rõ ràng cho điều đó, hoặc liệu nó có âm thầm giả định rằng sự biến động sẽ không quan trọng đủ để tranh cãi.

Nó khiến mình suy nghĩ về ý nghĩa của "hợp lệ" ở đây trong thực tế. Nếu tính hợp lệ chỉ là bằng chứng thực thi chứ không phải bằng chứng của một đầu ra cụ thể, thì hệ thống chấp nhận tính không xác định theo thiết kế. Có thể đó là cố ý. Nhưng đối với bất kỳ ứng dụng nào trên chuỗi mà đầu ra model ảnh hưởng đến quyết định tài chính hoặc hành động quản trị, việc chấp nhận sự biến động đầu ra cảm thấy như một khoảng trống thực sự hơn là một thỏa hiệp chấp nhận được.

Câu hỏi xuất hiện trong đầu là điều này sẽ như thế nào khi các nhà phát triển bắt đầu nhúng các cuộc gọi model có tính rủi ro cao trực tiếp vào smart contracts ở quy mô lớn, không chỉ thử nghiệm trên testnet — dù sao thì thời gian sẽ trả lời👍

#opg $OPG