#newt $NEWT Kebanyakan orang yang membahas risiko AI sepertinya terobsesi pada satu hal.
Bagaimana jika model membuat keputusan yang salah?
Dulu saya juga mengira itu masalah utamanya.
Lalu saya meluangkan waktu membaca Newton Protocol, dan saya jadi terjebak pada pertanyaan yang berbeda.
Bagaimana jika AI membuat keputusan yang benar... tetapi sebenarnya sejak awal tidak pernah seharusnya membuat keputusan itu?
Jujur saja, itu terasa seperti kegagalan yang jauh lebih realistis.
AI bisa menghasilkan transaksi yang benar. Ia bisa menemukan rute terbaik. Ia bisa mengoptimalkan semuanya dengan sempurna.
Tapi tidak ada satupun yang menjawab satu pertanyaan sederhana.
Siapa sebenarnya yang memberinya izin?
Saya rasa orang sering mencampuradukkan kecerdasan dengan otoritas.
Keduanya tidak sama.
Sebuah model bisa sangat cerdas dan tetap saja tidak berhak untuk menyentuh dompet tertentu, memindahkan aset tertentu, atau menyetujui transaksi tertentu.
Itulah yang menonjol bagi saya saat membaca Newton Protocol.
Protokol ini tidak mengasumsikan bahwa setiap transaksi yang valid secara teknis harus dieksekusi. Protokol ini memeriksa apakah tindakan tersebut sesuai dengan kebijakan yang ditetapkan sebelumnya. Batas pengeluaran. Izin yang didelegasikan. Persyaratan identitas. Apa pun aturan yang diputuskan aplikasi untuk diterapkan.
Otorisasi datang sebelum eksekusi.
Di situlah cara berpikir saya berubah.
Mungkin tantangan sebenarnya bukan membangun AI yang tidak pernah membuat kesalahan.
Semoga berhasil.
Mungkin yang lebih penting adalah memastikan bahwa AI tidak bisa bertindak di luar otoritas yang diberikan—bahkan ketika secara teknis ia mampu melakukannya.
Satu hal terus terngiang pada saya saat membaca dokumentasinya.
Kecerdasan menjawab "Bisakah saya melakukan ini?"
Otorisasi menjawab "Apakah saya diizinkan untuk melakukan ini?"
Itu bukan pertanyaan yang sama.
Mungkin saya keliru, tapi kalau AI akan menangani uang sungguhan, saya ingin
izin diperiksa sebelum kecerdasan—setiap kali.
#Newt @NewtonProtocol $NEWT
Bagaimana jika model membuat keputusan yang salah?
Dulu saya juga mengira itu masalah utamanya.
Lalu saya meluangkan waktu membaca Newton Protocol, dan saya jadi terjebak pada pertanyaan yang berbeda.
Bagaimana jika AI membuat keputusan yang benar... tetapi sebenarnya sejak awal tidak pernah seharusnya membuat keputusan itu?
Jujur saja, itu terasa seperti kegagalan yang jauh lebih realistis.
AI bisa menghasilkan transaksi yang benar. Ia bisa menemukan rute terbaik. Ia bisa mengoptimalkan semuanya dengan sempurna.
Tapi tidak ada satupun yang menjawab satu pertanyaan sederhana.
Siapa sebenarnya yang memberinya izin?
Saya rasa orang sering mencampuradukkan kecerdasan dengan otoritas.
Keduanya tidak sama.
Sebuah model bisa sangat cerdas dan tetap saja tidak berhak untuk menyentuh dompet tertentu, memindahkan aset tertentu, atau menyetujui transaksi tertentu.
Itulah yang menonjol bagi saya saat membaca Newton Protocol.
Protokol ini tidak mengasumsikan bahwa setiap transaksi yang valid secara teknis harus dieksekusi. Protokol ini memeriksa apakah tindakan tersebut sesuai dengan kebijakan yang ditetapkan sebelumnya. Batas pengeluaran. Izin yang didelegasikan. Persyaratan identitas. Apa pun aturan yang diputuskan aplikasi untuk diterapkan.
Otorisasi datang sebelum eksekusi.
Di situlah cara berpikir saya berubah.
Mungkin tantangan sebenarnya bukan membangun AI yang tidak pernah membuat kesalahan.
Semoga berhasil.
Mungkin yang lebih penting adalah memastikan bahwa AI tidak bisa bertindak di luar otoritas yang diberikan—bahkan ketika secara teknis ia mampu melakukannya.
Satu hal terus terngiang pada saya saat membaca dokumentasinya.
Kecerdasan menjawab "Bisakah saya melakukan ini?"
Otorisasi menjawab "Apakah saya diizinkan untuk melakukan ini?"
Itu bukan pertanyaan yang sama.
Mungkin saya keliru, tapi kalau AI akan menangani uang sungguhan, saya ingin
izin diperiksa sebelum kecerdasan—setiap kali.
#Newt @NewtonProtocol $NEWT