Satu hal yang terus saya pikirkan adalah seberapa cepat orang mulai mempercayai sistem AI yang sebenarnya tidak bisa mereka verifikasi. #opg @OpenGradient

Kebanyakan pengguna tidak benar-benar melihat apa yang terjadi di balik antarmuka. Anda mengetik sebuah prompt, mendapatkan jawaban, gambar, atau bahkan sebuah tindakan, lalu begitu saja mengasumsikan semuanya berjalan sesuai cara platform tersebut mengatakan. Untuk kasus penggunaan yang sederhana, mungkin itu tidak masalah. Namun begitu AI mulai menangani uang, kontrak, agen, atau keputusan otomatis, kepercayaan itu menjadi jauh lebih penting. Itulah mengapa eksekusi AI yang terverifikasi terasa semakin penting bagi saya.

Masalahnya bukan hanya apakah sebuah model itu cerdas atau cepat. Masalahnya adalah apakah siapa pun benar-benar bisa mengonfirmasi bagaimana hasil itu diproduksi—model mana yang menghasilkannya, apakah ada sesuatu yang diubah selama inferensi, atau apakah komputasinya bahkan terjadi di tempat yang diklaim oleh platform.

Sebagian alasan mengapa proyek seperti OpenGradient menonjol adalah karena fokusnya tampaknya kurang pada euforia AI dan lebih pada membuat eksekusi bisa diverifikasi, bukan meminta pengguna untuk terus percaya pada sistem black-box selamanya.

Kepada dunia kripto biasanya bergerak menuju verifikasi setelah sesuatu rusak. Bursa membutuhkan bukti cadangan setelah kejatuhan. Sistem penskalaan membutuhkan bukti penipuan ketika risikonya menjadi jelas. AI bisa saja mengikuti pola yang sama.

Saat ini, verifikasi masih terasa seperti pilihan.
Beberapa tahun dari sekarang, itu mungkin menjadi standar yang diharapkan untuk setiap sistem AI yang dipercaya menangani nilai nyata. #opg $OPG @OpenGradient
$BEAT
$OPN