Tôi nhận thấy điều thú vị khi theo dõi cách mà các yêu cầu AI di chuyển qua các mạng phi tập trung.
Không phải là các mô hình tự thân.
Mà là thời điểm.
Một số nút dường như bị ngập tràn yêu cầu trong khi những nút khác gần như không hoạt động, ngay cả khi cả hai đều có tài nguyên tương tự. Lúc đầu, tôi cảm thấy đó là một vấn đề lưu lượng đơn giản.@OpenGradient
Nhưng càng nhìn kỹ, càng thấy nó không đơn giản như vậy.
Trong hầu hết các hệ thống, việc phối hợp là vô hình cho đến khi nó bắt đầu gặp sự cố. Một phản hồi chậm ở đây, một nút bị quá tải ở đó, và đột nhiên toàn bộ trải nghiệm cảm thấy chậm lại mặc dù mạng về lý thuyết có đủ công suất.
Nó làm tôi nhớ đến những gì xảy ra trong Web 3 trong thời điểm hoạt động cao. Mọi người đổ xô vào cùng một cơ hội tại cùng một thời điểm. Hạ tầng không thiếu tài nguyên.
Thách thức là phân phối sự chú ý một cách hiệu quả.
Lấy một ứng dụng AI nhận hàng nghìn yêu cầu suy diễn trong vài phút.
Nếu việc phối hợp khối lượng công việc không đủ thông minh, một số nút sẽ bị choáng ngợp trong khi những nút khác gần như không đóng góp gì.
Điều đó tạo ra một sự căng thẳng thú vị.
Nhiều người tham gia không tự động có nghĩa là hiệu suất tốt hơn.
$OPG
Đôi khi thách thức thực sự không phải là thêm nhiều hạ tầng hơn. Mà là quyết định công việc nên đi đâu, khi nào nên đi đến đó, và ai sẽ xử lý nó.
Tôi cứ tự hỏi liệu điểm nghẽn lớn nhất của AI phi tập trung có phải là tính toán...
Hay chính là sự phối hợp.#opg
Không phải là các mô hình tự thân.
Mà là thời điểm.
Một số nút dường như bị ngập tràn yêu cầu trong khi những nút khác gần như không hoạt động, ngay cả khi cả hai đều có tài nguyên tương tự. Lúc đầu, tôi cảm thấy đó là một vấn đề lưu lượng đơn giản.@OpenGradient
Nhưng càng nhìn kỹ, càng thấy nó không đơn giản như vậy.
Trong hầu hết các hệ thống, việc phối hợp là vô hình cho đến khi nó bắt đầu gặp sự cố. Một phản hồi chậm ở đây, một nút bị quá tải ở đó, và đột nhiên toàn bộ trải nghiệm cảm thấy chậm lại mặc dù mạng về lý thuyết có đủ công suất.
Nó làm tôi nhớ đến những gì xảy ra trong Web 3 trong thời điểm hoạt động cao. Mọi người đổ xô vào cùng một cơ hội tại cùng một thời điểm. Hạ tầng không thiếu tài nguyên.
Thách thức là phân phối sự chú ý một cách hiệu quả.
Lấy một ứng dụng AI nhận hàng nghìn yêu cầu suy diễn trong vài phút.
Nếu việc phối hợp khối lượng công việc không đủ thông minh, một số nút sẽ bị choáng ngợp trong khi những nút khác gần như không đóng góp gì.
Điều đó tạo ra một sự căng thẳng thú vị.
Nhiều người tham gia không tự động có nghĩa là hiệu suất tốt hơn.
$OPG
Đôi khi thách thức thực sự không phải là thêm nhiều hạ tầng hơn. Mà là quyết định công việc nên đi đâu, khi nào nên đi đến đó, và ai sẽ xử lý nó.
Tôi cứ tự hỏi liệu điểm nghẽn lớn nhất của AI phi tập trung có phải là tính toán...
Hay chính là sự phối hợp.#opg