Hôm trước mình thử đặt cùng một câu hỏi cho hai hệ thống AI khác nhau và điều khiến mình bất ngờ là câu trả lời cuối cùng gần như giống hệt nhau đến mức nếu chỉ nhìn vào output, mình sẽ dễ dàng kết luận rằng cả hai đều hiểu vấn đề theo cùng một cách và đi đến cùng một lập luận.
Nhưng khi nhìn sâu hơn vào cách chúng xử lý câu hỏi, mình nhận ra rằng chúng đã đi qua hai con đường hoàn toàn khác nhau để đến cùng một kết quả, và đó là lúc mình bắt đầu suy nghĩ nhiều hơn về một điều khá thú vị.
Chúng ta thường đánh giá AI dựa trên câu trả lời cuối cùng, xem nó đúng hay sai, nhanh hay chậm, thông minh hay không, nhưng càng tìm hiểu về AI Agents, mình càng cảm thấy phần quan trọng nhất của hệ thống có thể không nằm ở output mà nằm ở toàn bộ những gì diễn ra trước khi output được tạo ra.
Trong suốt quá trình đó, hệ thống liên tục đưa ra hàng loạt lựa chọn nhỏ mà người dùng gần như không nhìn thấy, từ việc dữ liệu nào được đưa vào xử lý, thông tin nào bị loại bỏ, tín hiệu nào được ưu tiên hơn những tín hiệu khác cho đến phần ngữ cảnh nào được giữ lại để tiếp tục suy luận.
Thoạt nhìn, từng quyết định riêng lẻ có vẻ không quá quan trọng, nhưng khi hàng chục hoặc hàng trăm lựa chọn nhỏ như vậy được xếp chồng lên nhau, chúng bắt đầu định hình cách hệ thống diễn giải và hiểu câu hỏi ngay từ những bước đầu tiên.
Điều thú vị là đôi khi output cuối cùng vẫn hoàn toàn chính xác, tuy nhiên con đường mà hệ thống lựa chọn để đi tới sự chính xác đó lại có thể khác biệt rất lớn.
Phần lớn mọi người chỉ nhìn thấy điểm đến cuối cùng, trong khi yếu tố thực sự quyết định chất lượng của một hệ thống có thể nằm ở toàn bộ hành trình dẫn tới điểm đến đó.
Đó cũng là lý do mình bắt đầu chú ý nhiều hơn đến cách @OpenLedger tiếp cận attribution và provenance, bởi nếu trong tương lai có hàng nghìn AI Agents hoạt động trên blockchain thì câu hỏi quan trọng có thể sẽ không chỉ là AI đã trả lời điều gì, mà còn là AI đã đi qua những lựa chọn, những tín hiệu và những bước suy luận nào để tạo ra câu trả lời đó.
Có lẽ giá trị lớn nhất của AI không nằm ở output mà chúng ta nhìn thấy, mà nằm ở những bước trung gian âm thầm định hình kết quả cuối cùng, dù phần lớn thời gian chúng gần như không bao giờ xuất hiện trước mắt người dùng.