Ada hal yang cukup aneh dalam gelombang AI saat ini.
Pasar banyak membicarakan kemampuan model, tetapi sedikit yang membahas tanggung jawab ketika model membuat keputusan yang salah.
Ini bukan masalah baru, hanya saja sering kali tertutupi oleh kecepatan pertumbuhan.
Selama bertahun-tahun, sistem AI dibangun di sekitar akurasi, tetapi ketika AI mulai terlibat dalam proses keuangan, kesehatan, atau operasional bisnis, muncul pertanyaan lain: siapa yang bertanggung jawab atas hasil yang dihasilkan?
Sistem saat ini tampaknya menangani masalah ini dengan canggung. Pengguna menerima output tetapi sulit untuk memverifikasi sumbernya, pengembang menyediakan model tetapi tidak mengontrol seluruh data, semua pihak yang terlibat diuntungkan dari skala tetapi tanggung jawab menjadi terdistribusi.
Sepertinya OpenGradient mencoba mendekati dari sudut pandang itu, OpenGradient tampaknya tidak fokus pada penciptaan model yang lebih besar, pendekatan mereka sepertinya terletak pada membangun infrastruktur untuk melacak asal usul data, proses penalaran, dan kepemilikan kontribusi dalam ekosistem AI.
Bukan perlombaan kecerdasan, tetapi perlombaan untuk kemampuan menelusuri tanggung jawab.
Tentu saja, desain sistem dan adopsi adalah dua cerita yang berbeda. Pengguna akhir biasanya lebih peduli pada hasil daripada arsitektur di belakangnya, itulah bagian yang perlu diverifikasi.
AI bisa menjadi infrastruktur umum, tetapi infrastruktur tanpa mekanisme tanggung jawab yang jelas biasanya hanya berfungsi dengan baik sampai insiden pertama muncul. OpenGradient menarik perhatian saya bukan karena AI, tetapi karena pertanyaan itu.
Saya masih memantau bagian ini.
#opg $OPG @OpenGradient
Pasar banyak membicarakan kemampuan model, tetapi sedikit yang membahas tanggung jawab ketika model membuat keputusan yang salah.
Ini bukan masalah baru, hanya saja sering kali tertutupi oleh kecepatan pertumbuhan.
Selama bertahun-tahun, sistem AI dibangun di sekitar akurasi, tetapi ketika AI mulai terlibat dalam proses keuangan, kesehatan, atau operasional bisnis, muncul pertanyaan lain: siapa yang bertanggung jawab atas hasil yang dihasilkan?
Sistem saat ini tampaknya menangani masalah ini dengan canggung. Pengguna menerima output tetapi sulit untuk memverifikasi sumbernya, pengembang menyediakan model tetapi tidak mengontrol seluruh data, semua pihak yang terlibat diuntungkan dari skala tetapi tanggung jawab menjadi terdistribusi.
Sepertinya OpenGradient mencoba mendekati dari sudut pandang itu, OpenGradient tampaknya tidak fokus pada penciptaan model yang lebih besar, pendekatan mereka sepertinya terletak pada membangun infrastruktur untuk melacak asal usul data, proses penalaran, dan kepemilikan kontribusi dalam ekosistem AI.
Bukan perlombaan kecerdasan, tetapi perlombaan untuk kemampuan menelusuri tanggung jawab.
Tentu saja, desain sistem dan adopsi adalah dua cerita yang berbeda. Pengguna akhir biasanya lebih peduli pada hasil daripada arsitektur di belakangnya, itulah bagian yang perlu diverifikasi.
AI bisa menjadi infrastruktur umum, tetapi infrastruktur tanpa mekanisme tanggung jawab yang jelas biasanya hanya berfungsi dengan baik sampai insiden pertama muncul. OpenGradient menarik perhatian saya bukan karena AI, tetapi karena pertanyaan itu.
Saya masih memantau bagian ini.
#opg $OPG @OpenGradient