Mengapa OpenGradient Membuat Saya Memikirkan Kembali Apa Arti Kepercayaan dalam AI
Saya rasa menghabiskan bertahun-tahun di pasar keuangan mengubah cara pandang Anda terhadap teknologi.
Sebagian besar percakapan tentang privasi AI berfokus pada satu pertanyaan sederhana: apakah seseorang bisa membaca data Anda? Itu penting, tetapi saya tidak yakin itu adalah pertanyaan yang paling krusial.
Apa yang menarik perhatian saya tentang OpenGradient adalah usahanya untuk mengalihkan kepercayaan dari kebijakan dan menuju kriptografi serta eksekusi yang didukung perangkat keras. Saya menghabiskan beberapa waktu membaca tentang arsitektur Private Chat-nya, dan desainnya benar-benar menarik. Pesan-pesan dienkripsi sebelum meninggalkan perangkat, informasi identitas dihapus, dan eksekusi berlangsung di dalam Trusted Execution Environments (TEEs). Bahkan operator node seharusnya tidak melihat permintaan pengguna.
Pada awalnya, saya pikir ini menyelesaikan masalah kepercayaan dengan lebih bersih daripada sistem AI tradisional.
Kemudian saya mulai berpikir lebih dalam.
TEEs masih bergantung pada asumsi. Produsen perangkat keras, pembaruan keamanan, standar attestasi, dan vendor semua memainkan peran. Tidak ada lapisan ini yang berkembang dengan kecepatan yang sama, dan masing-masing merespons insentif yang berbeda.
Itu membuat saya menyadari sesuatu yang penting: kepercayaan jarang dihilangkan. Lebih sering, itu dipindahkan.
Saat sistem menjadi lebih terhubung, koordinasi itu sendiri menjadi bagian dari model keamanan. Sebagian besar kegagalan infrastruktur tidak dramatis. Mereka terjadi dengan tenang, melalui celah kecil yang melebar seiring waktu.
Saya tidak mengkritik pendekatan ini. Jika ada, OpenGradient telah membuat saya berpikir lebih serius tentang di mana kepercayaan pada akhirnya akan berlabuh.
Dan itu mungkin pertanyaan yang paling berharga dalam AI saat ini.
#OPG @OpenGradient $OPG
$RE
$BTW
Saya rasa menghabiskan bertahun-tahun di pasar keuangan mengubah cara pandang Anda terhadap teknologi.
Sebagian besar percakapan tentang privasi AI berfokus pada satu pertanyaan sederhana: apakah seseorang bisa membaca data Anda? Itu penting, tetapi saya tidak yakin itu adalah pertanyaan yang paling krusial.
Apa yang menarik perhatian saya tentang OpenGradient adalah usahanya untuk mengalihkan kepercayaan dari kebijakan dan menuju kriptografi serta eksekusi yang didukung perangkat keras. Saya menghabiskan beberapa waktu membaca tentang arsitektur Private Chat-nya, dan desainnya benar-benar menarik. Pesan-pesan dienkripsi sebelum meninggalkan perangkat, informasi identitas dihapus, dan eksekusi berlangsung di dalam Trusted Execution Environments (TEEs). Bahkan operator node seharusnya tidak melihat permintaan pengguna.
Pada awalnya, saya pikir ini menyelesaikan masalah kepercayaan dengan lebih bersih daripada sistem AI tradisional.
Kemudian saya mulai berpikir lebih dalam.
TEEs masih bergantung pada asumsi. Produsen perangkat keras, pembaruan keamanan, standar attestasi, dan vendor semua memainkan peran. Tidak ada lapisan ini yang berkembang dengan kecepatan yang sama, dan masing-masing merespons insentif yang berbeda.
Itu membuat saya menyadari sesuatu yang penting: kepercayaan jarang dihilangkan. Lebih sering, itu dipindahkan.
Saat sistem menjadi lebih terhubung, koordinasi itu sendiri menjadi bagian dari model keamanan. Sebagian besar kegagalan infrastruktur tidak dramatis. Mereka terjadi dengan tenang, melalui celah kecil yang melebar seiring waktu.
Saya tidak mengkritik pendekatan ini. Jika ada, OpenGradient telah membuat saya berpikir lebih serius tentang di mana kepercayaan pada akhirnya akan berlabuh.
Dan itu mungkin pertanyaan yang paling berharga dalam AI saat ini.
#OPG @OpenGradient $OPG
$RE
$BTW