#opg $OPG
Co mi ciągle przychodzi do głowy po przeanalizowaniu całej tej sprawy związanej z Web3 i AI, jest właściwie dość proste, ale trochę głębokie, gdy się nad tym zastanowisz.
Naprawdę dobrze opanowaliśmy dowodzenie własności na łańcuchu. Można wyraźnie pokazać, że ten portfel posiada ten aktyw, bez żadnych wątpliwości. Ale to, co wciąż słabo uchwycamy, to myślenie za tym, dlaczego ten aktyw został przeniesiony, trzymany lub zarządzany w określony sposób.
I czuję, że ta luka staje się znacznie ważniejsza, gdy zaczynamy wyobrażać sobie agentów AI, którzy zarządzają rzeczami w tle, administrując portfelami, DAO, a nawet długoterminowymi strategiami rodzinnymi lub instytucjonalnymi po odejściu pierwotnej osoby.
Bo oto jest problem:
automatyzacja sama w sobie to za mało. Jeśli AI kontynuuje czyjąś strategię finansową, nie tylko musimy wiedzieć, co zrobiło, ale także zrozumieć, dlaczego uznało, że to jest zgodne z pierwotnym zamiarem. W przeciwnym razie to tylko ślepe kontynuowanie, a nie prawdziwa kontynuacja.
To jest miejsce, gdzie pomysły takie jak weryfikowalna inferencja i trwała pamięć stają się interesujące. Nie tylko przechowywanie danych, ale zachowanie ścieżki rozumowania, która doprowadziła do decyzji. Prawie jak pozostawienie "szlaku logicznego" zamiast tylko historii transakcji.
Ale myślę też, że istnieje tutaj napięcie, o którym ludzie nie mówią wystarczająco dużo... Ludzka intencja jest skomplikowana, czasami nawet sprzeczna w czasie. Jeśli spróbujesz jej zbyt ściśle zamrozić, możesz skończyć na nadmiernym uproszczeniu rzeczywistego myślenia osoby. A wtedy system staje się "poprawny" technicznie, ale błędny w duchu.
Więc może prawdziwe wyzwanie nie polega tylko na zachowaniu intencji, ale na zachowaniu jej w sposób, który może ewoluować bez utraty autentyczności.
Wciąż próbuję to w pełni zrozumieć, ale wydaje się, że przechodzimy od
"kto ma co" → "co powinno być zrobione" → a teraz powoli w kierunku "dlaczego powinno być zrobione"
A to ostatnie wydaje się najtrudniejszą warstwą do rozwiązania.
Jeśli agenci AI zaczną podejmować długoterminowe decyzje w naszym imieniu, jak możemy upewnić się, że pozostaną zgodne z naszym rozumowaniem, a nie tylko z naszymi zapisami?@OpenGradient
Co mi ciągle przychodzi do głowy po przeanalizowaniu całej tej sprawy związanej z Web3 i AI, jest właściwie dość proste, ale trochę głębokie, gdy się nad tym zastanowisz.
Naprawdę dobrze opanowaliśmy dowodzenie własności na łańcuchu. Można wyraźnie pokazać, że ten portfel posiada ten aktyw, bez żadnych wątpliwości. Ale to, co wciąż słabo uchwycamy, to myślenie za tym, dlaczego ten aktyw został przeniesiony, trzymany lub zarządzany w określony sposób.
I czuję, że ta luka staje się znacznie ważniejsza, gdy zaczynamy wyobrażać sobie agentów AI, którzy zarządzają rzeczami w tle, administrując portfelami, DAO, a nawet długoterminowymi strategiami rodzinnymi lub instytucjonalnymi po odejściu pierwotnej osoby.
Bo oto jest problem:
automatyzacja sama w sobie to za mało. Jeśli AI kontynuuje czyjąś strategię finansową, nie tylko musimy wiedzieć, co zrobiło, ale także zrozumieć, dlaczego uznało, że to jest zgodne z pierwotnym zamiarem. W przeciwnym razie to tylko ślepe kontynuowanie, a nie prawdziwa kontynuacja.
To jest miejsce, gdzie pomysły takie jak weryfikowalna inferencja i trwała pamięć stają się interesujące. Nie tylko przechowywanie danych, ale zachowanie ścieżki rozumowania, która doprowadziła do decyzji. Prawie jak pozostawienie "szlaku logicznego" zamiast tylko historii transakcji.
Ale myślę też, że istnieje tutaj napięcie, o którym ludzie nie mówią wystarczająco dużo... Ludzka intencja jest skomplikowana, czasami nawet sprzeczna w czasie. Jeśli spróbujesz jej zbyt ściśle zamrozić, możesz skończyć na nadmiernym uproszczeniu rzeczywistego myślenia osoby. A wtedy system staje się "poprawny" technicznie, ale błędny w duchu.
Więc może prawdziwe wyzwanie nie polega tylko na zachowaniu intencji, ale na zachowaniu jej w sposób, który może ewoluować bez utraty autentyczności.
Wciąż próbuję to w pełni zrozumieć, ale wydaje się, że przechodzimy od
"kto ma co" → "co powinno być zrobione" → a teraz powoli w kierunku "dlaczego powinno być zrobione"
A to ostatnie wydaje się najtrudniejszą warstwą do rozwiązania.
Jeśli agenci AI zaczną podejmować długoterminowe decyzje w naszym imieniu, jak możemy upewnić się, że pozostaną zgodne z naszym rozumowaniem, a nie tylko z naszymi zapisami?@OpenGradient