Saya terus kembali ke pemikiran yang tidak nyaman: kita mempercayai AI lebih dari yang kita pahami.
Bukan model-modelnya sendiri, tepatnya. Seluruh tumpukan di bawahnya. Di mana mereka berjalan, siapa pemilik komputasinya, versi mana yang menjawab, apa yang diubah diam-diam dan apa yang tidak pernah dipertanyakan karena output-nya terlihat cukup baik. Ini terasa mirip dengan hari-hari awal crypto, kecuali sekarang black box tersebut memproduksi bahasa yang terdengar percaya diri, sehingga orang lebih cepat merasa tenang.
Itulah sebabnya proyek seperti OpenGradient ($OPG ) menarik perhatian saya, meskipun saya masih ragu apa yang sebenarnya bertahan setelah hype mereda. Ide untuk hosting, menjalankan inferensi, dan memverifikasi model melalui infrastruktur terdesentralisasi terlihat masuk akal di atas kertas. Mungkin karena masalah sebenarnya bukan lagi kecerdasan. Ini tentang akuntabilitas. Ini tentang apakah sistem dapat diperiksa ketika tekanan muncul, ketika insentif bergeser, ketika satu penyedia memutuskan akses adalah sebuah privilese.
Saya tidak tahu apakah "kecerdasan terbuka" dapat berkembang tanpa berubah menjadi slogan lain. Saya tidak tahu apakah kepemilikan dan verifikasi dapat tetap selaras setelah uang dan kekuasaan masuk ke ruang, yang selalu terjadi.
Tapi celah antara menciptakan model dan bertanggung jawab atasnya terus melebar. Bagian itu terasa sulit untuk diabaikan sekarang. Mungkin kepercayaan pada AI akan berubah menjadi masalah infrastruktur, dan saya tidak yakin kita telah mengakui hal itu kepada diri kita sendiri.@OpenGradient #opg $OPG
Bukan model-modelnya sendiri, tepatnya. Seluruh tumpukan di bawahnya. Di mana mereka berjalan, siapa pemilik komputasinya, versi mana yang menjawab, apa yang diubah diam-diam dan apa yang tidak pernah dipertanyakan karena output-nya terlihat cukup baik. Ini terasa mirip dengan hari-hari awal crypto, kecuali sekarang black box tersebut memproduksi bahasa yang terdengar percaya diri, sehingga orang lebih cepat merasa tenang.
Itulah sebabnya proyek seperti OpenGradient ($OPG ) menarik perhatian saya, meskipun saya masih ragu apa yang sebenarnya bertahan setelah hype mereda. Ide untuk hosting, menjalankan inferensi, dan memverifikasi model melalui infrastruktur terdesentralisasi terlihat masuk akal di atas kertas. Mungkin karena masalah sebenarnya bukan lagi kecerdasan. Ini tentang akuntabilitas. Ini tentang apakah sistem dapat diperiksa ketika tekanan muncul, ketika insentif bergeser, ketika satu penyedia memutuskan akses adalah sebuah privilese.
Saya tidak tahu apakah "kecerdasan terbuka" dapat berkembang tanpa berubah menjadi slogan lain. Saya tidak tahu apakah kepemilikan dan verifikasi dapat tetap selaras setelah uang dan kekuasaan masuk ke ruang, yang selalu terjadi.
Tapi celah antara menciptakan model dan bertanggung jawab atasnya terus melebar. Bagian itu terasa sulit untuk diabaikan sekarang. Mungkin kepercayaan pada AI akan berubah menjadi masalah infrastruktur, dan saya tidak yakin kita telah mengakui hal itu kepada diri kita sendiri.@OpenGradient #opg $OPG