Awalnya, saya mengira tantangan terbesar bagi agen AI adalah membuat mereka lebih pintar. Setelah dilihat lebih dekat, kecerdasan terasa seperti bagian yang mudah. Masalah yang lebih sulit adalah memutuskan apa yang seharusnya diizinkan dilakukan oleh sebuah agen setelah ia mampu bertindak atas kemampuannya sendiri.
Perubahan itu mengubah cara saya memandang sistem izin. Sistem izin bukan sekadar pembatasan—melainkan lapisan kepercayaan. Izin menetapkan batas, verifikasi membuktikan bahwa batas-batas tersebut dihormati, dan insentif mendorong semua orang untuk terus menegakkannya.
Hal yang terus saya pikirkan adalah apakah pengguna bahkan akan menyadari lapisan-lapisan ini secara terpisah, atau apakah infrastruktur terbaik adalah yang menghilang ke latar belakang karena setiap interaksi yang aman terasa begitu normal.
@NewtonProtocol $NEWT #Newt