Semakin saya memikirkan penegakan kebijakan, semakin terasa bahwa ini bukan sekadar pengecekan izin yang sederhana.
Awalnya, saya mengira sebuah kebijakan sama ada menyetujui suatu tindakan atau menolaknya. Keputusan ya-atau-tidak yang bersih. Tapi semakin dalam saya melihat, semakin itu mirip sistem untuk membentuk perilaku, bukan sekadar memblokirnya.
Agen AI tidak perlu bersifat berbahaya untuk menciptakan risiko. Ia bisa saja bertindak terlalu sering, meminta akses terlalu banyak, atau menjalankan sesuatu di luar konteks yang dimaksudkan oleh pemiliknya. Alih-alih memperlakukan setiap permintaan sebagai sama-sama tepercaya, Newton menilai keadaan di sekitar setiap tindakan sebelum memprosesnya di-chain.
Itu mengubah peran keamanan. Keamanan tidak lagi menjadi gerbang terakhir di akhir sebuah transaksi, melainkan lapisan berkelanjutan yang mengarahkan bagaimana otomatisasi berperilaku dari waktu ke waktu.
Bagian yang menarik justru apa yang terjadi setelahnya. Ketika para pengembang memahami bagaimana kebijakan merespons berbagai pola, mereka akan secara alami mulai merancang agen yang mengoptimalkan kepercayaan, bukan hanya kecepatan eksekusi. Keamanan tidak hanya melindungi otomatisasi—keamanan juga diam-diam memengaruhi cara otomatisasi dibangun sejak awal.
Itulah perubahan yang paling menarik bagi saya tentang @NewtonProtocol.
@NewtonProtocol $NEWT
#Newt
$POWER
$SKYAI
Awalnya, saya mengira sebuah kebijakan sama ada menyetujui suatu tindakan atau menolaknya. Keputusan ya-atau-tidak yang bersih. Tapi semakin dalam saya melihat, semakin itu mirip sistem untuk membentuk perilaku, bukan sekadar memblokirnya.
Agen AI tidak perlu bersifat berbahaya untuk menciptakan risiko. Ia bisa saja bertindak terlalu sering, meminta akses terlalu banyak, atau menjalankan sesuatu di luar konteks yang dimaksudkan oleh pemiliknya. Alih-alih memperlakukan setiap permintaan sebagai sama-sama tepercaya, Newton menilai keadaan di sekitar setiap tindakan sebelum memprosesnya di-chain.
Itu mengubah peran keamanan. Keamanan tidak lagi menjadi gerbang terakhir di akhir sebuah transaksi, melainkan lapisan berkelanjutan yang mengarahkan bagaimana otomatisasi berperilaku dari waktu ke waktu.
Bagian yang menarik justru apa yang terjadi setelahnya. Ketika para pengembang memahami bagaimana kebijakan merespons berbagai pola, mereka akan secara alami mulai merancang agen yang mengoptimalkan kepercayaan, bukan hanya kecepatan eksekusi. Keamanan tidak hanya melindungi otomatisasi—keamanan juga diam-diam memengaruhi cara otomatisasi dibangun sejak awal.
Itulah perubahan yang paling menarik bagi saya tentang @NewtonProtocol.
@NewtonProtocol $NEWT
#Newt
$POWER
$SKYAI