Мы всё время спрашиваем: «Как быстро работает этот ИИ?», хотя, возможно, стоит спрашивать: «Могу ли я действительно доверять тому, что он только что сказал?»
Рядом с мастерской моего деда жил старый часовщик. Люди приносили ему часы, с которыми другие мастера уже смирились и перестали заниматься. Он никогда не торопился. Прежде чем прикоснуться хоть к одной шестерёнке, он открывал корпус и просто смотрел — иногда по десять минут подряд. Однажды я спросил, почему он не начинает сразу чинить. Он сказал: «Если я не понимаю, почему оно сломалось, я не могу доверять тому, что я чиню».
Это осталось во мне сильнее, чем я ожидал.
Те часовщики, которые прожили десятилетия, не были самыми быстрыми в городе. Это были те, чью работу вам никогда не приходилось перепроверять.
Сейчас мы делаем наоборот. Модели становятся быстрее, ответы — более уверенными, и где-то по пути мы перестали спрашивать, как именно был получен ответ. Мы просто доверяем «черному ящику», потому что это звучит убедительно.
Вот одна из причин, по которой я начал(а) больше читать про @NewtonProtocol . Вместо того чтобы просто гнаться за производительностью, они создают инфраструктуру ИИ, где результаты можно реально проверять on-chain, а не слепо принимать на веру.
Возможно, я ошибаюсь, и в итоге всегда победит скорость. Но каждый раз, когда я вижу еще один заголовок про «прорыв в ИИ», я ловлю себя на мысли не столько о том, как быстро это работает, сколько о том, стал(а) бы я вообще доверять его ответу, если речь идет о чем-то действительно важном.
Возможно, самый большой прорыв в ИИ не будет связан с более быстрой моделью. Возможно, это будет тот, который мы наконец-то сможем проверить.
Вы бы доверились более быстрому решению или более прозрачному?
