Я всё время возвращаюсь к вопросу, который кажется странно игнорируемым в ИИ.
Не о том, становится ли ИИ умнее.
А о том, становится ли он ответственным.
Различие на первый взгляд кажется незначительным. Но это не так.
Большинство ИИ сегодня напоминает запечатанную коробку. Ты вводишь что-то, ждёшь несколько секунд, получаешь ответ и продолжаешь свой день. Если ответ выглядит убедительно, большинство людей никогда не задумываются над тем, что произошло под капотом.
Честно говоря, я раньше делал то же самое.
Но чем глубже ИИ погружается в исследования и принятие решений, тем менее комфортной кажется эта модель "чёрного ящика".
В какой-то момент ты перестаёшь спрашивать: "Дал ли он мне ответ?"
Ты начинаешь спрашивать: "Может ли кто-то на самом деле проверить, как был получен этот ответ?"
Этот сдвиг заставил меня потратить больше времени на изучение OpenGradient.
То, что привлекло моё внимание, не было очередным заявлением о более быстрых моделях или больших наборах данных. Мы уже слышали много этого. Интересная часть заключалась в попытке встроить верификацию непосредственно в инфраструктуру.
Их гибридная архитектура ИИ отделяет выполнение от верификации. Проще говоря, одна часть сети обрабатывает тяжёлую нагрузку ИИ, в то время как другой слой сосредоточен на доказательстве того, что произошло.
И я думаю, что именно здесь всё становится интересным.
Потому что доверие не является одной вещью.
Иногда нужна криптографическая уверенность.
Иногда достаточно доверенного оборудования.
Иногда скорость важнее, чем идеальная верификация.
@OpenGradient не предполагает, что каждое приложение нуждается в одном и том же ответе. Вместо этого оно создает спектр доверия и позволяет пользователям решать, где они хотят находиться на нём.
Чем больше я об этом думаю, тем больше это кажется следующим большим разговором об ИИ.
В последние несколько лет все были одержимы возможностями. Умные модели. Лучшие результаты. Большие бенчмарки.
Справедливо.
Но возможности без ответственности начинают казаться неполными.
Может даже рискованными.
Моё ощущение, что будущие победители в ИИ не просто будут системами, которые генерируют впечатляющие ответы.
Они будут системами, которые могут показать свою работу.
И прямо сейчас эта часть обсуждения кажется сильно недооценённой.
#OPG $OPG
Не о том, становится ли ИИ умнее.
А о том, становится ли он ответственным.
Различие на первый взгляд кажется незначительным. Но это не так.
Большинство ИИ сегодня напоминает запечатанную коробку. Ты вводишь что-то, ждёшь несколько секунд, получаешь ответ и продолжаешь свой день. Если ответ выглядит убедительно, большинство людей никогда не задумываются над тем, что произошло под капотом.
Честно говоря, я раньше делал то же самое.
Но чем глубже ИИ погружается в исследования и принятие решений, тем менее комфортной кажется эта модель "чёрного ящика".
В какой-то момент ты перестаёшь спрашивать: "Дал ли он мне ответ?"
Ты начинаешь спрашивать: "Может ли кто-то на самом деле проверить, как был получен этот ответ?"
Этот сдвиг заставил меня потратить больше времени на изучение OpenGradient.
То, что привлекло моё внимание, не было очередным заявлением о более быстрых моделях или больших наборах данных. Мы уже слышали много этого. Интересная часть заключалась в попытке встроить верификацию непосредственно в инфраструктуру.
Их гибридная архитектура ИИ отделяет выполнение от верификации. Проще говоря, одна часть сети обрабатывает тяжёлую нагрузку ИИ, в то время как другой слой сосредоточен на доказательстве того, что произошло.
И я думаю, что именно здесь всё становится интересным.
Потому что доверие не является одной вещью.
Иногда нужна криптографическая уверенность.
Иногда достаточно доверенного оборудования.
Иногда скорость важнее, чем идеальная верификация.
@OpenGradient не предполагает, что каждое приложение нуждается в одном и том же ответе. Вместо этого оно создает спектр доверия и позволяет пользователям решать, где они хотят находиться на нём.
Чем больше я об этом думаю, тем больше это кажется следующим большим разговором об ИИ.
В последние несколько лет все были одержимы возможностями. Умные модели. Лучшие результаты. Большие бенчмарки.
Справедливо.
Но возможности без ответственности начинают казаться неполными.
Может даже рискованными.
Моё ощущение, что будущие победители в ИИ не просто будут системами, которые генерируют впечатляющие ответы.
Они будут системами, которые могут показать свою работу.
И прямо сейчас эта часть обсуждения кажется сильно недооценённой.
#OPG $OPG