Hal yang sedang kupikirkan belakangan ini adalah seberapa cepat kita mulai mempercayai sistem yang tidak sepenuhnya kita pahami. Pada awalnya terasa halus, hampir tidak berbahaya. Kita mengeklik, menerima, dan mengandalkan. Dan entah di titik kapan, kepercayaan berhenti menjadi sesuatu yang secara sadar kita berikan dan berubah menjadi sesuatu yang diam-diam kita anggap begitu saja.
Dengan AI yang semakin hadir dalam alat-alat sehari-hari, pergeseran itu terasa bahkan lebih mencolok. Model memprediksi keputusan, agen mengotomatiskan langkah, dan keluaran sering diterima begitu saja karena kecepatan menyisakan ruang yang sangat sedikit untuk keraguan. Tapi aku terus bertanya-tanya: apa sebenarnya yang membuat kepercayaan itu pantas, bukan sekadar nyaman?
Ada ketegangan yang makin besar antara kecerdasan dan keterverifikasian. AI bisa menghasilkan jawaban yang terasa benar, tetapi merasa benar tidak sama dengan bisa diandalkan.
Dalam diskusi blockchain, celah antara “berfungsi” dan “bisa dibuktikan” adalah bagian yang membuat segalanya jadi menarik.
Saya pertama kali menemukan gagasan ini saat membaca tentang desain infrastruktur yang lebih baru yang berfokus pada membuat tindakan AI dapat ditelusuri, bukan hanya dapat diamati.
Satu proyek yang terus muncul dalam konteks itu adalah @NewtonProtocol , terutama terkait dorongannya pada sistem AI yang dapat diverifikasi dan lapisan eksekusi yang aman. Gagasan ini bukan hanya untuk membuat AI lebih pintar, tetapi membuat perilakunya lebih mudah diaudit dan dipahami setelah kejadian.
Itu membuat saya memikirkan ulang apa arti “kepercayaan” bahkan dalam sistem digital. Mungkin ini kurang soal meyakini keluaran, dan lebih soal dapat merekonstruksi bagaimana keluaran tersebut dibentuk.
Secure rollups berperan dalam hal ini dengan cara yang terasa lebih praktis daripada teoretis. Alih-alih menganggap komputasi sebagai kotak hitam, mereka bertujuan untuk mengemas eksekusi bersama mekanisme bukti yang dapat dicek secara independen. Dalam istilah yang lebih sederhana, itu seperti bukan hanya menerima sebuah jawaban, tetapi juga menerima jejak yang jelas tentang bagaimana jawaban itu dibangun.
Jenis struktur seperti itu terasa penting di dunia yang membuat agen AI mulai mengambil peran yang lebih otonom.
Jika sebuah AI dapat memicu tindakan, berinteraksi dengan protokol, atau mengelola alur kerja, maka transparansi menjadi kurang seperti fitur dan lebih seperti sebuah persyaratan.
Saya juga memikirkan bagaimana ekosistem pengembang mungkin berkembang di sekitar ini. Sebuah sistem yang mendukung eksekusi yang dapat diverifikasi secara alami mengundang para pembangun yang peduli pada kebenaran, bukan hanya fungsionalitas. Di situlah ide-ide seperti marketplace pengembang AI menjadi lebih dari sekadar pembicaraan infrastruktur. Itu menjadi lapisan koordinasi bagi kepercayaan itu sendiri.
Tidak sulit membayangkan pengembang memilih lingkungan bukan hanya untuk kecepatan atau biaya, tetapi untuk seberapa jelas mereka bisa menjelaskan apa yang dilakukan sistem mereka dan alasannya.
Dalam pengertian itu, kepercayaan menjadi sesuatu yang direkayasa, bukan sesuatu yang dianggap begitu saja.
Keamanan masih berada di pusat semuanya. Bukan hanya dalam arti tradisional “pertahanan”, tetapi dalam arti memastikan perilaku tetap dapat ditafsirkan meskipun sistem menjadi semakin kompleks. Tanpa itu, AI berisiko menjadi kuat tetapi tidak transparan—kombinasi yang sulit untuk diskalakan secara bertanggung jawab.
Semakin saya memikirkannya, semakin terasa bahwa fase berikutnya dari AI tidak akan didefinisikan hanya oleh kemampuan, melainkan oleh seberapa baik ia dapat membenarkan dirinya sendiri.
Ada juga sudut pandang ekosistem yang lebih luas yang terbentuk di sekitar token dan insentif, di mana keselarasan (alignment) tidak hanya bersifat teoretis. Peran $NEWT dalam percakapan itu sering kali dibingkai sebagai dukungan infrastruktur yang memberi imbalan pada komputasi yang dapat diverifikasi, bukan eksekusi buta.
Namun, insentif hanya berarti jika sistem yang mendasarinya cukup kredibel untuk membuat verifikasi menjadi bermakna sejak awal.
Saya kadang bertanya-tanya bagaimana pengguna sehari-hari akan memandang semua ini. Kebanyakan orang tidak akan berpikir dalam istilah rollup atau bukti. Mereka hanya akan memperhatikan apakah sistem terasa konsisten, dapat diprediksi, dan dapat dijelaskan dari waktu ke waktu.
Mungkin di sanalah letak ujian yang sesungguhnya.
Bahkan frasa #Newt mengingatkan saya seberapa cepat narasi terbentuk di sekitar ide-ide teknis—kadang menyederhanakannya lebih dari yang semestinya, namun juga membuatnya lebih mudah diakses oleh orang-orang yang sebaliknya mengabaikan detailnya.
Namun, tetap ada ketidakpastian di sini. Kita membahas sistem yang berkembang dengan cepat, dan belum jelas seberapa besar transparansi yang “cukup” agar kepercayaan terasa nyata, bukan sekadar hasil rekayasa.
Hal yang paling menonjol adalah bahwa kepercayaan tidak lagi menjadi keadaan pasif. Kepercayaan sedang berubah menjadi sesuatu yang secara aktif dibangun melalui pilihan desain, lapisan verifikasi, dan mekanisme akuntabilitas.
Jika arah itu berlanjut, maka sistem AI pada akhirnya mungkin akan dinilai lebih sedikit berdasarkan apa yang bisa mereka lakukan, dan lebih banyak berdasarkan seberapa jelas mereka dapat menjelaskan apa yang mereka lakukan.
Dan mungkin itulah pergeseran yang benar-benar penting.
Untuk saat ini, eksperimen seperti #newt terasa seperti langkah awal menuju kemungkinan itu.
