Saya Tidak Berpikir Masa Depan Keuangan dengan AI Bergantung pada AI yang Lebih Cerdas.
Semakin banyak saya membaca tentang AI di bidang keuangan, semakin saya kembali pada satu pemikiran.
Kecerdasan tidak lagi menjadi masalah tersulit.
Kami membangun agen AI yang dapat menganalisis pasar, mengeksekusi perdagangan, mengelola wallet, dan berinteraksi dengan protokol on-chain dengan sedikit sekali masukan manusia.
Itu mengesankan.
Namun ini juga memunculkan pertanyaan yang menurut saya kurang mendapat perhatian.
Siapa yang memutuskan apa yang sebenarnya diizinkan untuk dilakukan oleh AI?
AI tidak tahu apakah suatu keputusan berisiko, etis, atau tepat.
Ia tidak berhenti untuk bertanya apakah sebuah transaksi masuk akal.
Ia hanya beroperasi sesuai izin yang diberikan kepadanya.
Jika izin-izin itu salah, bahkan AI yang paling mumpuni pun bisa membuat keputusan yang berujung pada kerugian finansial yang signifikan.
Itulah salah satu alasan @NewtonProtocol l menarik perhatian saya.
Alih-alih hanya fokus untuk membuat agen AI lebih mampu, newton memperkenalkan lapisan otorisasi yang memeriksa apakah setiap tindakan yang dijalankan AI memenuhi kebijakan yang telah ditetapkan sebelum dieksekusi.
Hal ini memungkinkan pengembang untuk menetapkan batasan pengeluaran, protokol yang disetujui, dan kondisi eksekusi sebelum AI diizinkan untuk memindahkan dana.
Bagi saya, itu cara yang jauh lebih praktis untuk memikirkan kepercayaan.
Alih-alih berasumsi bahwa AI selalu membuat keputusan yang benar, kita harus membangun sistem yang mengurangi kemungkinan keputusan yang salah.
Seiring agen otonom menjadi bagian yang lebih besar dalam keuangan, saya percaya kerangka otorisasi akan menjadi sama pentingnya dengan model AI itu sendiri.
Karena AI yang berhasil tidak harus menjadi yang paling pintar.
Dialah yang beroperasi dalam aturan yang bisa dipahami, diverifikasi, dan dipercaya oleh orang-orang.
Menurut Anda apa?
Ketika AI mengambil tanggung jawab yang lebih besar dalam keuangan, apa yang akan lebih penting dalam jangka panjang: model AI yang lebih cerdas atau kerangka otorisasi yang lebih kuat?