Terus kembali ke topik ini setelah membaca penjelasan tentang bagaimana Newton's Model Registry seharusnya bekerja.
Para pengembang mendaftarkan strategi agen. Para operator menjalankannya. Pengguna mengaktifkannya melalui zkPermissions. Setiap eksekusi menghasilkan bukti, diperiksa di onchain, yang memastikan agen tetap berada dalam batas yang diotorisasi.
Itulah inti ceritanya. Otomatisasi yang bisa diverifikasi.
Ini memang kejadian nyata. Jika sebuah agen hanya diizinkan untuk trading ketika volatilitas melewati ambang tertentu, atau melakukan rebalancing ketika RSI turun di bawah level yang ditetapkan, buktinya mengonfirmasi bahwa agen tersebut mematuhi aturan itu. Tidak ada kepercayaan buta pada black box. Tidak berharap bot berperilaku seperti yang seharusnya.
Namun saya terus terpaku pada apa sebenarnya yang dimaksud "terverifikasi" di sini.
Itu berarti agen menjalankan aturan yang diberikan pengguna.
Itu tidak berarti aturannya adalah aturan yang baik.
Kriptografi Newton dapat mengonfirmasi, dengan kepastian matematis, bahwa sebuah strategi dieksekusi persis sesuai otorisasi. Itu tidak mengatakan apa pun tentang apakah strategi tersebut adalah cara yang masuk akal untuk mengelola uang sejak awal. Agen yang dirancang dengan buruk—yang dengan setia mengeksekusi model yang keliru sampai rugi—akan menghasilkan bukti yang valid sepenuhnya, dari atas sampai bawah.
Perbedaan itu lebih penting daripada yang terdengar seharusnya.
Verifikasi dan kualitas adalah masalah yang berbeda, diselesaikan dengan mekanisme yang berbeda pula, dan mudah bagi pengguna untuk menggabungkannya. "Agen ini terverifikasi" membawa semacam jaminan implisit. Itu terdengar seperti berdekatan dengan "agen ini aman" atau "agen ini bagus dalam pekerjaannya." Namun keduanya tidak mengikuti dari bukti zero-knowledge tentang kepatuhan pada aturan.
Newton tampaknya memahami ini, setidaknya secara struktural. Model Registry digambarkan sebagai pasar tempat pengembang mendaftarkan strategi dan mendapatkan imbalan berbasis penggunaan begitu operator mengadopsi model, yang menciptakan sinyal ekonomi di sekitar adopsi. Strategi yang bagus kemungkinan dipakai lebih sering, yang buruk tidak. Itu mekanisme pasar, bukan mekanisme kriptografis. Dan itu cara yang lebih lambat serta lebih berantakan untuk memisahkan agen yang baik dari yang buruk daripada sistem bukti.
Artinya, filter kualitas yang sesungguhnya dalam desain Newton bukanlah lapisan zk sama sekali. Itu adalah reputasi, data penggunaan, dan pemeriksaan due diligence informal yang dilakukan pengguna sebelum mendelegasikan dana ke model tertentu. Kriptografi hanya memastikan agen tidak akan diam-diam melangkahi batasnya saat melakukan apa pun yang dilakukannya.
Saya tidak yakin itu kelemahan tepatnya. Bisa jadi itu pembagian kerja yang jujur. Verifikasi menangani bagian yang memang kriptografi kuasai: membuktikan eksekusi cocok dengan otorisasi. Pasar dan reputasi menangani bagian yang tidak bisa disentuh kriptografi: apakah logika yang mendasarinya memang bagus sejak awal. Mencoba membuat sistem bukti juga ikut mengesahkan kualitas strategi berarti meminta sistem itu melakukan sesuatu yang secara struktural tidak bisa dilakukannya.
Tapi itu berarti jarak pemasaran antara "dapat diverifikasi" dan "tepercaya" melakukan banyak pekerjaan diam-diam.
Pengguna yang melihat badge terverifikasi pada sebuah agen di Model Registry—terutama seseorang yang berasal dari keuangan tradisional, di mana "terverifikasi" sering berarti sudah diaudit atau disaring—secara wajar bisa membaca lebih banyak hal dari kata itu dibandingkan klaim protokol yang sebenarnya. Sistem zkPermission menyelesaikan problem keagenan—apakah agennya melakukan apa yang saya perintahkan—bukan problem kompetensi—apakah yang saya perintahkan itu layak dilakukan.
Dua pertanyaan itu terus digabungkan dalam cara orang membicarakan agen AI secara umum, bukan hanya di kripto. "AI yang tepercaya" dipakai untuk berarti keduanya: "tidak akan berbuat nakal" dan "memberi saran yang bagus," padahal itu adalah sifat yang benar-benar terpisah yang butuh solusi terpisah.
Newton's architecture, to its credit, hanya mengklaim menyelesaikan yang pertama. Batas izin, bukti penetapan TEE, bukti onchain—semuanya tentang kepatuhan pada batas, bukan kualitas. Apakah perbedaan itu bertahan saat bersentuhan dengan naskah pemasaran dan ekspektasi pengguna adalah pertanyaan lain yang sama sekali berbeda, dan mungkin justru yang lebih penting untuk adopsi nyata.
Jadi saya terus sampai pada kesimpulan ini.
Masalah sulit yang Newton selesaikan adalah agen tetap berada di dalam garis. Masalah sulit yang Newton tidak selesaikan—dan mungkin memang tidak bisa diselesaikan—adalah apakah garis itu digambar di tempat yang cerdas.
Jika pasar akhirnya memperlakukan "terverifikasi" sebagai proksi untuk "bagus," apakah itu menciptakan rasa aman palsu yang tidak pernah dijanjikan kriptografi, atau apakah memang begitulah setiap primitif kepercayaan baru salah dibaca pada tahun-tahun awalnya?