Keponakan saya nanya minggu lalu kenapa aplikasi PR-nya "tahu" jawaban untuk masalah yang guru-nya tidak bisa selesaikan saat itu juga. Saya kasih dia jawaban setengah matang tentang server dan data, dan dia mengangguk seolah itu sudah cukup. Bagi saya, itu tidak menyelesaikan apa-apa. Saya sadar bahwa saya juga tidak bisa menjelaskan dari mana jawaban itu berasal — tidak benar-benar, tidak lebih dari fiksi nyaman yang kita ceritakan tentang "cloud" yang berpikir.
Entah bagaimana, kita berhenti bertanya di mana kecerdasan itu tinggal. Kita sering bertanya pada AI sekarang, tapi jarang bertanya siapa yang menghosting model yang menjawab, perangkat keras siapa yang menjalankan inferensi, apakah outputnya bisa dicek dengan sesuatu sama sekali. Saya terus bertanya-tanya kapan kita secara kolektif memutuskan bahwa tidak tahu itu baik-baik saja. Yang mengganggu saya adalah betapa cepatnya invisibilitas menjadi tekstur default dari kepercayaan — kita mempercayai jawaban karena antarmukanya mulus, bukan karena ada yang bisa memverifikasinya.
Di sinilah sesuatu seperti OpenGradient menjadi menarik bagi saya, bukan sebagai produk tetapi sebagai pertanyaan yang dibuat struktural. Ini memperlakukan kecerdasan sebagai sesuatu yang harus dikoordinasikan, dihosting, dan dicek, bukan hanya dihasilkan dan dikirim. Ini berada di bawah model, bukan di dalamnya — infrastruktur untuk verifikasi daripada suara lain yang mengklaim tahu segalanya.
Tapi saya tidak sepenuhnya yakin bahwa verifikasi dan skala benar-benar menginginkan masa depan yang sama. Semakin terbuka sebuah sistem, semakin sulit kepemilikan untuk didefinisikan. Semakin terdesentralisasi hosting, semakin banyak insentif yang harus melakukan pekerjaan kepercayaan yang dulu dilakukan. Mungkin kita bertanya dengan cara yang salah ketika kita bertanya apakah AI itu akurat, ketika pertanyaan sebenarnya adalah apakah ada yang bisa memeriksa.
Masalah yang lebih dalam mungkin adalah kita tidak pernah membangun kepercayaan untuk kecerdasan pada skala ini — kita hanya meminjamnya dari sistem yang tidak pernah diminta untuk memverifikasi diri mereka sendiri. Saya curiga kita baru mulai memahami apa yang telah kita lepaskan dengan tidak bertanya.
#opg $OPG @OpenGradient
Entah bagaimana, kita berhenti bertanya di mana kecerdasan itu tinggal. Kita sering bertanya pada AI sekarang, tapi jarang bertanya siapa yang menghosting model yang menjawab, perangkat keras siapa yang menjalankan inferensi, apakah outputnya bisa dicek dengan sesuatu sama sekali. Saya terus bertanya-tanya kapan kita secara kolektif memutuskan bahwa tidak tahu itu baik-baik saja. Yang mengganggu saya adalah betapa cepatnya invisibilitas menjadi tekstur default dari kepercayaan — kita mempercayai jawaban karena antarmukanya mulus, bukan karena ada yang bisa memverifikasinya.
Di sinilah sesuatu seperti OpenGradient menjadi menarik bagi saya, bukan sebagai produk tetapi sebagai pertanyaan yang dibuat struktural. Ini memperlakukan kecerdasan sebagai sesuatu yang harus dikoordinasikan, dihosting, dan dicek, bukan hanya dihasilkan dan dikirim. Ini berada di bawah model, bukan di dalamnya — infrastruktur untuk verifikasi daripada suara lain yang mengklaim tahu segalanya.
Tapi saya tidak sepenuhnya yakin bahwa verifikasi dan skala benar-benar menginginkan masa depan yang sama. Semakin terbuka sebuah sistem, semakin sulit kepemilikan untuk didefinisikan. Semakin terdesentralisasi hosting, semakin banyak insentif yang harus melakukan pekerjaan kepercayaan yang dulu dilakukan. Mungkin kita bertanya dengan cara yang salah ketika kita bertanya apakah AI itu akurat, ketika pertanyaan sebenarnya adalah apakah ada yang bisa memeriksa.
Masalah yang lebih dalam mungkin adalah kita tidak pernah membangun kepercayaan untuk kecerdasan pada skala ini — kita hanya meminjamnya dari sistem yang tidak pernah diminta untuk memverifikasi diri mereka sendiri. Saya curiga kita baru mulai memahami apa yang telah kita lepaskan dengan tidak bertanya.
#opg $OPG @OpenGradient