#opg $OPG @OpenGradient Jedno pytanie o AI ciągle wraca do mnie: "prawdziwa zmiana nie polega na tym, jak mądre są odpowiedzi, ale na tym, czy możemy udowodnić, jak te odpowiedzi zostały wyprodukowane.\n\nDziś większość ludzi korzysta z AI w prosty sposób.\n\n Zadajesz pytanie, dostajesz odpowiedź, a jeśli brzmi dobrze, idziesz dalej. Powód pozostaje niewidoczny.\n\nTo właśnie tutaj weryfikowalna AI zmienia obraz. Zamiast mówić: "Oto wynik", może również dostarczyć dowody, że wynik został wygenerowany poprawnie zgodnie z określonymi zasadami. Projekty takie jak OpenGradient badają ten kierunek.\n\nTo, co najbardziej mnie interesuje, to nie sama technologia, ale luka między tym, co systemy mogą udowodnić, a tym, co użytkownicy naprawdę się liczą. Większość ludzi nie poprosi o dowody, a jeszcze mniej je zweryfikuje. Jeśli weryfikacja działa idealnie, staje się niewidoczna jak HTTPS czy kopie zapasowe w chmurze. Rzadko o nich myślimy, dopóki coś nie pójdzie nie tak.\n\nWięc dla kogo tak naprawdę jest weryfikowalna AI?\n\n Użytkownicy końcowi, czy systemy AI komunikujące się z innymi systemami AI?\n\nJest też kompromis. \n\nSilniejsza weryfikacja często oznacza więcej obliczeń, większe opóźnienia i większą złożoność inżynieryjną.\n\n Jeśli użytkownicy nigdy tego nie zauważą, czy dodatkowy koszt jest tego wart?\n\nNiemniej jednak nie sądzę, żeby można to zlekceważyć. W finansach, autonomicznych agentach i innych aplikacjach o wysokich stawkach, zaufanie do AI tylko dlatego, że "wygląda dobrze" nie wystarcza. Już wiemy, że AI może brzmieć pewnie, będąc jednocześnie w błędzie.\n\nMoże przyszłość zaufania do AI nie polega na tym, że ludzie sami sprawdzają dowody. Może weryfikacja cicho działa pod powierzchnią, czyniąc AI bardziej niezawodnym bez zmiany doświadczenia użytkownika.\n\nA może stanie się kosztowną infrastrukturą, która ma znaczenie tylko w wyspecjalizowanych przypadkach.\n\nCo myślisz, czy użytkownicy kiedykolwiek bezpośrednio zainteresują się weryfikowalną AI, czy jej największy sukces polega na staniu się całkowicie niewidoczną?