Saya terus memikirkan tentang celah aneh antara agen AI dan kepercayaan.
Sebagian besar percakapan berfokus pada apa yang bisa dilakukan agen. Mereka bisa menulis, menganalisis, mencari, dan semakin banyak membuat keputusan atas nama kita. Itu masuk akal karena kemampuan mudah dilihat. Seorang agen yang berguna terasa menggugah semangat.
Tapi saya terus kembali pada apa yang terjadi ketika seorang agen melakukan sesuatu yang benar-benar penting.
Bukan menulis sebuah paragraf.
Bukan menjawab sebuah pertanyaan.
Sesuatu yang terkait dengan uang, pemerintahan, data pribadi, atau tindakan on-chain.
Beberapa tahun yang lalu, saya memikirkan AI sebagian besar sebagai alat. Jika output terlihat masuk akal, itu sudah cukup baik. Tapi semakin saya melihat AI bergerak menuju agen, semakin tidak nyaman asumsi itu menjadi.
Model yang lebih pintar tidak secara otomatis menciptakan lebih banyak kepercayaan. Model yang lebih cepat tidak menjelaskan bagaimana keputusan dibuat. Bahkan agen yang berguna masih bisa beroperasi di dalam sistem yang tidak bisa diperiksa oleh siapa pun.
Itu sebabnya saya terus kembali ke OpenGradient.
Apa yang menarik bagi saya bukanlah narasi AI itu sendiri. Itu adalah pertanyaan di bawahnya.
Bisakah eksekusi AI menjadi sesuatu yang bisa diverifikasi orang?
Penyimpanan model itu penting. Inferensi itu penting. Tapi verifikasi terasa berbeda karena mengalihkan percakapan dari mempercayai sebuah jawaban menjadi memahami bagaimana jawaban itu dihasilkan.
Kebanyakan orang masih memikirkan AI sebagai alat. OpenGradient tampaknya berpikir tentang AI sebagai infrastruktur.
Perbedaan itu penting ketika agen mulai berinteraksi dengan sistem di mana kepercayaan seharusnya diminimalkan.
Mungkin pengguna terus menerima output kotak hitam karena kenyamanan menang.
Atau mungkin saat agen mulai membuat keputusan dengan konsekuensi nyata, verifikasi menjadi tidak mungkin diabaikan.
Crypto dibangun di sekitar ide bahwa sistem harus diperiksa.
AI masih meminta orang untuk mempercayai apa yang tidak bisa mereka lihat.
OpenGradient berada di suatu tempat di tengah, dan ketegangan itu adalah apa yang menarik perhatian saya.
@OpenGradient #OPG #opg $OPG
Sebagian besar percakapan berfokus pada apa yang bisa dilakukan agen. Mereka bisa menulis, menganalisis, mencari, dan semakin banyak membuat keputusan atas nama kita. Itu masuk akal karena kemampuan mudah dilihat. Seorang agen yang berguna terasa menggugah semangat.
Tapi saya terus kembali pada apa yang terjadi ketika seorang agen melakukan sesuatu yang benar-benar penting.
Bukan menulis sebuah paragraf.
Bukan menjawab sebuah pertanyaan.
Sesuatu yang terkait dengan uang, pemerintahan, data pribadi, atau tindakan on-chain.
Beberapa tahun yang lalu, saya memikirkan AI sebagian besar sebagai alat. Jika output terlihat masuk akal, itu sudah cukup baik. Tapi semakin saya melihat AI bergerak menuju agen, semakin tidak nyaman asumsi itu menjadi.
Model yang lebih pintar tidak secara otomatis menciptakan lebih banyak kepercayaan. Model yang lebih cepat tidak menjelaskan bagaimana keputusan dibuat. Bahkan agen yang berguna masih bisa beroperasi di dalam sistem yang tidak bisa diperiksa oleh siapa pun.
Itu sebabnya saya terus kembali ke OpenGradient.
Apa yang menarik bagi saya bukanlah narasi AI itu sendiri. Itu adalah pertanyaan di bawahnya.
Bisakah eksekusi AI menjadi sesuatu yang bisa diverifikasi orang?
Penyimpanan model itu penting. Inferensi itu penting. Tapi verifikasi terasa berbeda karena mengalihkan percakapan dari mempercayai sebuah jawaban menjadi memahami bagaimana jawaban itu dihasilkan.
Kebanyakan orang masih memikirkan AI sebagai alat. OpenGradient tampaknya berpikir tentang AI sebagai infrastruktur.
Perbedaan itu penting ketika agen mulai berinteraksi dengan sistem di mana kepercayaan seharusnya diminimalkan.
Mungkin pengguna terus menerima output kotak hitam karena kenyamanan menang.
Atau mungkin saat agen mulai membuat keputusan dengan konsekuensi nyata, verifikasi menjadi tidak mungkin diabaikan.
Crypto dibangun di sekitar ide bahwa sistem harus diperiksa.
AI masih meminta orang untuk mempercayai apa yang tidak bisa mereka lihat.
OpenGradient berada di suatu tempat di tengah, dan ketegangan itu adalah apa yang menarik perhatian saya.
@OpenGradient #OPG #opg $OPG