Я раньше думал, что "проверено в сети" означает, что каждый может просто перезапустить это и проверить.
Звучит круто, пока дело не касается передачи токенов.
Это модель ИИ, сидящая за экраном пользователя.
Я всё время представлял, как один пользователь нажимает на кнопку, чтобы получить риск-оценку перед тем, как сделать движение. Ответ может появиться за секунду. Но если проверка означает, что каждый валидатор должен перезапустить тяжёлую модель, чтобы согласиться, то этот чистенький экран результатов начинает зависать.
Не падать.
Зависать.
Вот тут для меня OpenGradient стал более конкретным.
Проблема не только в том, может ли модель ИИ дать ответ. Создатель застрял между двумя плохими выборами. Показать результат быстро и попросить пользователя доверять этому, или ждать процесса доказательства и сделать продукт медленным.
Так что настоящая узкая горлышко — это не выход модели.
Это то, что происходит после того, как результат существует.
Может ли инференс работать быстро, пока след доказательства всё еще показывает, что происходило, как это проверялось и почему результат заслуживает доверия?
Я бы назвал это ловушкой повторного запуска.
Если проверка означает перезапуск тяжёлого ИИ везде, пользователь ждёт. Если проверка пропускается, создатель несёт риск доверия. В любом случае продукт ломается в месте, которое нормальные пользователи могут реально почувствовать.
Вот почему разделение инференса от проверяемого доказательства имеет значение.
Быстрый выход недостаточен.
Худший тест заключается в том, может ли ИИ оставаться удобным в использовании без превращения проверки в загрузочный экран.
#OPG $OPG @OpenGradient $RE $AXS
Звучит круто, пока дело не касается передачи токенов.
Это модель ИИ, сидящая за экраном пользователя.
Я всё время представлял, как один пользователь нажимает на кнопку, чтобы получить риск-оценку перед тем, как сделать движение. Ответ может появиться за секунду. Но если проверка означает, что каждый валидатор должен перезапустить тяжёлую модель, чтобы согласиться, то этот чистенький экран результатов начинает зависать.
Не падать.
Зависать.
Вот тут для меня OpenGradient стал более конкретным.
Проблема не только в том, может ли модель ИИ дать ответ. Создатель застрял между двумя плохими выборами. Показать результат быстро и попросить пользователя доверять этому, или ждать процесса доказательства и сделать продукт медленным.
Так что настоящая узкая горлышко — это не выход модели.
Это то, что происходит после того, как результат существует.
Может ли инференс работать быстро, пока след доказательства всё еще показывает, что происходило, как это проверялось и почему результат заслуживает доверия?
Я бы назвал это ловушкой повторного запуска.
Если проверка означает перезапуск тяжёлого ИИ везде, пользователь ждёт. Если проверка пропускается, создатель несёт риск доверия. В любом случае продукт ломается в месте, которое нормальные пользователи могут реально почувствовать.
Вот почему разделение инференса от проверяемого доказательства имеет значение.
Быстрый выход недостаточен.
Худший тест заключается в том, может ли ИИ оставаться удобным в использовании без превращения проверки в загрузочный экран.
#OPG $OPG @OpenGradient $RE $AXS