Yang menonjol bagi saya bukanlah seberapa banyak AI Newton berupaya untuk memungkinkan. Melainkan seberapa banyak AI Newton berupaya untuk membatasi.
Saya menghabiskan beberapa waktu melihat bagaimana tindakan diberi otorisasi, dan pola itu terus berulang. Protokol ini tampaknya jauh lebih tidak tertarik untuk menciptakan agen yang bisa melakukan segalanya, dan jauh lebih tertarik untuk memastikan agen hanya melakukan persis apa yang diizinkan.
Kedengarannya membatasi, sampai Anda mulai memikirkan skala.
Agen AI yang membuat 5 keputusan per hari masih bisa dikelola. Agen yang membuat 5.000 keputusan per hari di seluruh wallet, API, bursa, dan alur kerja finansial adalah masalah yang berbeda. Pada titik itu, tingkat kegagalan 0,1% berarti 5 tindakan yang tak terduga. Dorong sampai 100.000 tindakan, dan tiba-tiba Anda berhadapan dengan 100 kesalahan.
Kebanyakan diskusi AI berfokus pada pertumbuhan kemampuan. Newton tampaknya lebih fokus pada batas izin.
Saya menguji beberapa alur otorisasi dan melihat sesuatu yang menarik. Sistem terus mengajukan variasi dari pertanyaan yang sama: Apakah tindakan ini boleh terjadi? Bukan: Dapatkah model menghasilkan itu? Bukan: Apakah model memintanya? Tetapi: apakah tindakan itu memang semestinya diizinkan.
Perbedaan ini terasa kecil sampai Anda membandingkannya dengan model agen tanpa batas, di mana eksekusi sering mengikuti generasi dengan sedikit sekali hambatan.
Tukarannya jelas. Lebih banyak pemeriksaan berarti lebih banyak beban. Lebih banyak tata kelola berarti lebih sedikit kebebasan. Sebagian orang mungkin akan membencinya.
Tapi setelah menyaksikan sistem AI menjadi semakin otonom, saya mulai berpikir bahwa kecerdasan tanpa batas mungkin bukan lagi masalah yang paling sulit.
Masalah yang lebih sulit mungkin adalah memutuskan siapa yang berhak mengotorisasi kecerdasan ketika ia mulai beroperasi dengan kecepatan mesin.
Newton sepertinya bertaruh bahwa jawaban atas hal itu lebih penting daripada kemampuan itu sendiri. Apakah para pengembang setuju dengan taruhan itu—mungkin di situlah perdebatan sebenarnya dimulai...
@NewtonProtocol $NEWT #Newt
Saya menghabiskan beberapa waktu melihat bagaimana tindakan diberi otorisasi, dan pola itu terus berulang. Protokol ini tampaknya jauh lebih tidak tertarik untuk menciptakan agen yang bisa melakukan segalanya, dan jauh lebih tertarik untuk memastikan agen hanya melakukan persis apa yang diizinkan.
Kedengarannya membatasi, sampai Anda mulai memikirkan skala.
Agen AI yang membuat 5 keputusan per hari masih bisa dikelola. Agen yang membuat 5.000 keputusan per hari di seluruh wallet, API, bursa, dan alur kerja finansial adalah masalah yang berbeda. Pada titik itu, tingkat kegagalan 0,1% berarti 5 tindakan yang tak terduga. Dorong sampai 100.000 tindakan, dan tiba-tiba Anda berhadapan dengan 100 kesalahan.
Kebanyakan diskusi AI berfokus pada pertumbuhan kemampuan. Newton tampaknya lebih fokus pada batas izin.
Saya menguji beberapa alur otorisasi dan melihat sesuatu yang menarik. Sistem terus mengajukan variasi dari pertanyaan yang sama: Apakah tindakan ini boleh terjadi? Bukan: Dapatkah model menghasilkan itu? Bukan: Apakah model memintanya? Tetapi: apakah tindakan itu memang semestinya diizinkan.
Perbedaan ini terasa kecil sampai Anda membandingkannya dengan model agen tanpa batas, di mana eksekusi sering mengikuti generasi dengan sedikit sekali hambatan.
Tukarannya jelas. Lebih banyak pemeriksaan berarti lebih banyak beban. Lebih banyak tata kelola berarti lebih sedikit kebebasan. Sebagian orang mungkin akan membencinya.
Tapi setelah menyaksikan sistem AI menjadi semakin otonom, saya mulai berpikir bahwa kecerdasan tanpa batas mungkin bukan lagi masalah yang paling sulit.
Masalah yang lebih sulit mungkin adalah memutuskan siapa yang berhak mengotorisasi kecerdasan ketika ia mulai beroperasi dengan kecepatan mesin.
Newton sepertinya bertaruh bahwa jawaban atas hal itu lebih penting daripada kemampuan itu sendiri. Apakah para pengembang setuju dengan taruhan itu—mungkin di situlah perdebatan sebenarnya dimulai...
@NewtonProtocol $NEWT #Newt