Cavil Zevran

تم السماح لوكيل بالأمس بالتحرك.
اليوم يجب أن تفشل نفس الحركة.
يتم خفض حد الصرف. يتم تعديل قائمة السماح. تتغير الإشارة المباشرة. لا يبدو على السطح أي شيء درامي. ما يزال الزر موجودًا. لا يزال المسار يبدو مألوفًا. وما يزال طلب الموافقة يحمل سجلًا نظيفًا خلفه.
لكن الفعل مختلف الآن.
السؤال الذي يهمني هو ما إذا كانت هذه النية المحددة ما تزال تتطابق مع القاعدة الحالية قبل التنفيذ.
هذا وحده كافٍ لي.
إذا تم التحقق من النية مقابل القاعدة الحالية بدلًا من موافقة الأمس، فيمكن قبول نفس الإجراء يومًا ما ورفضه في اليوم التالي دون تغيير الوكيل نفسه.
هل تمت الموافقة على هذا الوكيل؟
بالطبع.
ولكن هل ما تزال هذه الحركة تناسب القاعدة اليوم؟
هذا هو القرار الذي أريد رؤيته قبل التنفيذ. ليس بعد الصفقة. ليس بعد استخدام المسار. ليس بعد أن يشرح شخص ما لماذا كانت الإذن القديمة تبدو صحيحة.
قبل أن تصبح موافقة الأمس خطأ اليوم.
#Newt $NEWT @NewtonProtocol $THE #BitcoinReboundsAbove$61K $ARPA

الجزء الذي يزعجني ليس الموافقة الأولى.
إنما الإجراء اللاحق.
أخبر أحد الوكلاء بتشغيل استراتيجية بسيطة. فيحصل على وصول إلى المحفظة. يبدو كل شيء عاديًا على الشاشة. ثم تطلب المعاملة مبلغًا أكثر قليلًا مما كنت قد وضعته في ذهني.
إنفاق أكبر.
وعقد لم يكن مقصودًا أن أفتحه.
ونداء دالة قريب بما يكفي ليبدو بريئًا، لكنه مختلف بما يكفي ليجعل المحفظة تشعر بأنها مكشوفة.
لا أريد أن تتحول عبارة “وافق على هذا الوكيل” إلى ورقة تفويض فارغة. أريد التحقق من الإجراء عندما يحاول نقل القيمة، لا أن يُستحضر لاحقًا في تقرير ما بعد الحادث.
بالنسبة لي، الحدّ المفيد بسيط: إبقاء الوكيل داخل نطاق الإنفاق والعقد والدالة التي كان مسموحًا له فعلًا باستخدامها.
ليس لأن كل إجراء سيئ يبدو كأنه هجوم. بعض حالات الفشل تبدو طبيعية حتى يسأل المستخدم لماذا لمس الوكيل شيئًا خارج نطاق المهمة.
لا ينبغي أن يصبح المستخدم طبقة التدقيق بعد انتقال الأموال.
وهنا يبدو نيوتن عمليًا بالنسبة لي.
يجب أن يصطدم الإجراء الخاطئ بالسياسة قبل أن يقترب من رصيد المحفظة.
#Newt $NEWT @NewtonProtocol $TLM $BREV #Binance1B$inStocks

كنت أعتقد أن الجزء الأصعب هو كتابة القاعدة.
ثم أدركت أن المشكلة الأكثر قبحًا.
قد تكون القاعدة صحيحة ومع ذلك تكون عمياء.
إن مسار الوصول هو ما يجعلني أتوقف.
يمكن لـ dApp أن يتحقق من المستخدم في الواجهة الأمامية. يمكنه طلب التحقق الصحيح. ويمكنه جعل شاشة الإدخال تبدو خاضعة للرقابة.
لكن المعاملة لا تهتم بمدى نظافة الشاشة.
إذا قام شخص ما بالوصول إلى العقد مباشرةً، فلا تزال القاعدة مطالبة بالإجابة عن سؤال واحد قبل أن تنتقل القيمة.
هل يُسمح لهذا العنوان بأن يتصرف؟
هنا يصبح أتمتة السلسلة غير مريحة.
إذا كانت الإجابة موجودة خارج مسار المعاملة، فسيكون المُنشئ عالقًا في مفاضلة سيئة.
حافظ على أن تكون القاعدة بالكامل على السلسلة (onchain) وتقبّل أنها لا ترى ما يكفي.
أو نفّذ التحقق في مكان آخر واطلب من الجميع أن يثقوا بأنه تم تطبيقه في اللحظة الصحيحة.
لهذا الفارق تبدو مقاربة نيوتن لبيانات الأوراكل محددة جدًا بالنسبة إلي.
يُدخل نيوتن سياقًا خارجيًا تم التحقق منه إلى قرارات السياسة على مستوى المعاملة.
ليس كتقرير.
ليس كلوحة معلومات.
ليس كوظيفة تنظيف بعد أن كانت العملية قد حدثت بالفعل.
بل كجزء من مسار التفويض.
قد تكون الإقامة مهمة قبل منح الوصول.
قد تكون إشارات المخاطر مهمة قبل أن تمر تفاعلات عقد ذكي.
يبدو ذلك صغيرًا حتى تنظر إلى ما الذي ينكسر دونها.
نقطة الضعف ليست دائمًا كودًا سيئًا.
أحيانًا تكون نقطة الضعف قاعدة لم يكن لديها السياق الذي احتاجته لتقول لا.
هذه هي عنق الزجاجة الخفي في التمويل الآلي.
لا يحتاج الأتمتة فقط إلى وكلاء أكثر ذكاءً.
يحتاج إلى قواعد يمكنها فعلًا أن ترى.
القاعدة العمياء تظل وعودًا ترتدي شكل الكود.
#Newt $NEWT @NewtonProtocol $NFP $POND #Binance1B$inStocks

بحلول الوقت الذي يسأل فيه المودِع لماذا انتقلت الأموال في الخزنة إلى هناك، تكون اللحظة المفيدة قد ولّت بالفعل.
هذه هي مشكلة نيوتن التي كنت أعود إليها مرارًا.
ليس إدارة الخزائن بشكل أسرع.
تحكم أبكر.
لأن الجزء القبيح ليس التقرير الذي يأتي بعد ذلك.
بل اللحظة التي تسبق ذلك، حين يكون إجراء القيّم على وشك أن يلمس أموال المودِع، وتكون القاعدة إما ذات أهمية أو لا تكون.
يمكن لواجهة لوحة التحكم أن تُظهر الحدود.
يمكن للتفويض أن يبدو واضحًا.
يمكن لتفسير ما بعد الإجراء أن يبدو احترافيًا.
لكن أيًا من ذلك لا يفيد المودِع الذي أصبح بالفعل يحدّق في نتائج الكارثة.
السؤال الحقيقي أكثر حدّة.
لماذا سُمح أصلًا لهذا الإجراء أن يصل إلى الخزنة في المقام الأول؟
هنا تحديدًا يشعر VaultKit بأنه مخصص بالنسبة لي.
يوضع فحص السياسة بين إجراء القيّم والخزنة، دون تحويل سير العمل كاملًا إلى منتج خزنة جديد.
أعد تخصيص رأس المال.
حدِّد سقفًا.
فعِّل سوقًا.
ليست هذه نقرات إدارية غير مؤذية عندما توجد أموال حقيقية خلفها.
إذا لم يتطابق الإجراء مع القاعدة، يجب أن يحدث الفشل قبل التنفيذ.
لا بعد أن يكتب شخص ما تفسيرًا مُحكمًا.
أسمّي هذه مشكلة الإيصال المتأخر.
إيصال بعد حدوث الضرر هو مجرد توثيق.
فحص السياسة قبل التنفيذ هو التحكم.
#Newt $NEWT @NewtonProtocol $SYN $RIF #SamsungSKHynixSharesRiseYTD

تعبت من تكرار نفس الشيء على الذكاء الاصطناعي مرتين.
نفس التفضيل. نفس السياق. نفس التفاصيل الصغيرة التي شرحتها بالفعل أمس.
لذا بدا أن الذاكرة عبر التطبيقات فكرة مفيدة في البداية. يتذكر المساعد أكثر. تصبح الإجابة شخصية بسرعة أكبر. تكرار أقل. وقت مُهدَر أقل.
ثم تخيلت وكيلًا للمحفظة يستخدم تلك الذاكرة في إجراء حقيقي.
الأسبوع الماضي قلت لمساعد إني أفضّل الطرق الأكثر أمانًا. اليوم أسأل وكيلًا للمحفظة إلى أين أنقل الأموال. يستحضر الوكيل ذلك التفضيل القديم ويغيّر ملاحظة المخاطر أمامي.
على الشاشة يبدو الأمر مفيدًا.
لكن خلف الكواليس، يواجه المُنشئ مشكلة أصعب.
الإجابة لا تُشكَّل فقط بناءً على طلبي الجديد. تُشكَّل أيضًا بناءً على سياق قديم قد لا أتذكر حتى أنني قدمته.
وهنا يبدو OpenGradient أكثر تحديدًا بالنسبة لي.
MemSync ليس مجرد مربع ملاحظات للذكاء الاصطناعي. إنه يربط الذاكرة بعمليات تضمين OpenGradient والاستدلال ومسار التحقق، بحيث لا تبقى الذاكرة معلّقة خارج سياق تشغيل النموذج.
أود أن أسمي ذلك مشكلة السياق اللاصق.
المشكلة ليست فقط ما إذا كان بإمكان الذكاء الاصطناعي التذكر. بل هل يستطيع النظام إظهار أي ذاكرة شكّلت الإجابة عندما تبدأ تلك الإجابة في قيادة المستخدم عبر سير عمل.
هل تم سحب الذاكرة الصحيحة؟
هل كانت ما تزال صالحة؟
هل كانت ضمن هذه القرارات؟
إن عواقب الذاكرة القديمة ليست مجرد فكرة مجرّدة. تصبح ملاحظة المخاطر تتغير لأن سياق أمس دخل اليوم في قرارٍ بشكل خفي.
هذه هي الضغوط الظاهرة على المُنشئ.
تبدو التخصيصات سلسة عندما تعمل، لكنها تصبح أصعب في الدفاع عنها عندما توجه الذاكرة الخاطئة المخرجات بهدوء.
يصير OpenGradient مثيرًا للاهتمام لأن الذاكرة والاستدلال والتحقق في النهاية لا بد أن تلتقِي.
الوعد السهل هو ذكاء اصطناعي يتذكر.
والاختبار الأصعب هو إثبات لماذا تذكّر ذلك.
#OPG $OPG @OpenGradient $AIGENSYN $SYN #SamsungSKHynixSharesRiseYTD

كنت أعتقد أن الخطر يتمثل في إجابة واحدة سيئة من الذكاء الاصطناعي.
طلب واحد. تشغيل نموذج واحد. مخرجات واحدة للتحقق.
ثم نظرت إلى OpenGradient وكنت أعود مرارًا إلى شاشة مملة.
حد اقتراض.
تخيّل تطبيق إقراض يستخدم تنبؤًا يوميًا من نموذج لتحديث درجة مخاطرة المستخدم.
المستخدم لا يرى تشغيل النموذج.
هو فقط يرى أن الحد يتحرك.
هذه هي مشكلة المخرجات المُؤَقَّتة.
إن المخرجات ليست شيئًا يقرأه شخص مرة واحدة فحسب. بل تصبح تغذية مجدولة. قد يتحول تشغيل الغد بهدوء إلى حد الغد.
عندها شعرت أن OpenGradient أكثر حدة بالنسبة لي.
إذا تحرك الحد كل يوم، يجب أن تتحرك الإثباتات معه.
استضافة النموذج هي الخطوة الأولى فقط. يجب إعادة تشغيل الاستدلال مرارًا وتكرارًا، ويحتاج كل ناتج إلى إثبات أو اعتماد يظل مرتبطًا بالتشغيل قبل أن تستخدمه التطبيقات.
وإلا فستصبح الثقة حجة يدوية يومية.
لا يمكن للبنّاء أن يواصل طرح نفس الأسئلة كل صباح.
هل كان هذا هو النموذج الصحيح؟
هل تم التحقق من هذا المخرج قبل أن يلمس المنتج؟
يجعل الوقت الفشل أثقل.
المخرج الضعيف لمرة واحدة هو خلل.
المخرج الضعيف المُجدول يصبح عادة.
يمكن لدرجة مخاطرة يومية ضعيفة أن تُنقص حد الاقتراض بهدوء قبل أن يعرف المستخدم أن شيئًا ما قد انكسر.
وهذا هو الأثر الخفي.
على نطاق واسع، لا يقتصر OpenGradient على إثبات نتيجة ذكاء اصطناعي واحدة. بل يجب أن يجعل تشغيل المرة القادمة قابلاً للتحقق أيضًا.
الاختبار الصعب ليس نتيجة واحدة مُتحقَّق منها.
بل ما إذا كانت نتيجة الغد ما تزال تحمل الدليل.
#OPG $OPG @OpenGradient $G $RE #OilReclaims$70

يمكن لتطبيق الإقراض أن يُظهر حد اقتراضًا غير صحيح حتى عندما تكون عملية التشغيل بالنموذج سليمة.
هذا هو الجزء الذي واصلت العودة إليه.
كنت أعتقد أن النموذج هو الشيء الأساسي الذي يجب التحقق منه. ثم تخيلت مستخدمًا يطلب من تطبيق ما درجة مخاطر المحفظة قبل الاقتراض.
يعمل النموذج بشكل صحيح.
تم إثبات الاستدلال.
يبدو الإخراج طبيعيًا.
لكن قبل كل ذلك، قام التطبيق بسحب بيانات الضمان من مصدر قديم.
الآن يرى المستخدم حد اقتراض يبدو واثقًا، لكن هذه الثقة مبنية على إدخال أمس.
وهذا هو الفارق المزعج.
هنا بدأت شركة OpenGradient تبدو أكثر تحديدًا بالنسبة لي.
المضيف والاستدلال والتحقق لا يمكن أن تعني فقط أن النموذج قام بعمله. يجب أن تغطي الإيصال المسار الذي غذّى النموذج أيضًا.
إذا دخلت بيانات خارجية عبر Data Nodes، فإن عملية الاسترجاع هذه تحتاج إلى إثبات خاص بها. ليس لاحقًا. ولا كوعـد عام غامض. قبل أن يصبح الإخراج شيئًا يمكن لتطبيق حقيقي أن يتصرف بناءً عليه.
أسمّي هذه المشكلة: نموذج نظيف، إدخال متسخ.
من السهل إثبات أن النموذج أجاب.
لكن من الأصعب إثبات أن الإجابة استُمدت من بيانات الضمان الصحيحة.
بالنسبة للمُنشئ، هذا الفرق مهم. إذا حصل المستخدم على حد اقتراض سيئ لأن مسار الإدخال كان قديمًا، فإن الإشارة إلى عملية تشغيل نموذجية مُتحقق منها ليست كافية.
الإجابة النظيفة تظل مخاطرة متسخة إذا لم يمكن الدفاع عن مسار الإدخال.
#OPG $OPG @OpenGradient $ACT $S #IRGCSaysItStruckKuwaitAndBahrain

كنت دائمًا أظن أن “التحقق” يعني إظهار ما يتم فحصه للجميع.
هذا يعمل مع سجل بسيط.
لكن الأمر يصبح فوضويًا عندما يكون الشيء المُتحقق منه عبارة عن تشغيل بالذكاء الاصطناعي.
كنت أتخيل مساعدًا على شكل محفظة يقرأ ملاحظة معاملة خاصة قبل أن يعطي إشارة مخاطرة.
المستخدم يطلب شيئًا واحدًا فقط.
هل تبدو هذه الخطوة آمنة؟
على المُنشئ أن يجيب عن سؤال أصعب.
كيف يمكنني إثبات أن النموذج قد تم تشغيله فعلًا؟
لكن لماذا يجب أن يرى كل مُتحقق الملاحظة؟
تلك الفجوة الصغيرة هي ما جعل OpenGradient ينقر بالنسبة لي. ليس وسم الذكاء الاصطناعي. اللحظة التي يقترب فيها المُتحقق بما يكفي ليثق بالتشغيل، ولكن ليس بما يكفي لقراءة ملاحظة المستخدم.
عقدة الاستدلال تشغّل النموذج. المُتحقق يتحقق من الدليل. يجب ألا تتحول المطالبة الخاصة إلى ثمنٍ للإيمان بالمخرَج.
الإصدار السيئ سهل رؤيته.
التطبيق يعلّم المعاملة أنها منخفضة المخاطر. يقوم المستخدم بالتوقيع. لاحقًا، يطعن المستخدم في ذلك ويطلب تفسير لماذا عرض التطبيق تلك الإشارة.
الآن يتعين على المُنشئ إثبات ما تم تشغيله دون تحويل ملاحظة المستخدم نفسها إلى دليل يراه الجميع.
هذا هو الضغط.
إن كشفت كثيرًا، سيسرب المنتج الشيء الذي كان من المفترض أن يحميه. وإن أخفيت كل شيء، لن يستطيع المنتج الدفاع عن الإجابة التي عرضها.
سأسمي هذا “نقطة التحقق الخاصة”.
ليست شعارًا للخصوصية. بل أقرب إلى المكان الدقيق الذي يجب أن يتوقف عنده الدليل وأن تبقى عنده المطالبة خاصة.
اختبار OpenGradient الأصعب هو إثبات التشغيل دون جعل المستخدم يدفع ثمن الثقة عبر كشف المعلومات.
#OPG $OPG @OpenGradient #TradebStocks $PIVX $AGLD

كنت أعتقد أن دفع تكاليف حوسبة الذكاء الاصطناعي هو الجزء النظيف.
يقوم مُنشئ بإرسال طلب، تعمل النماذج، تحصل التطبيق على إجابة، ويتم دفع مقابل المهمة.
يبدو الأمر مناسبًا إلى أن تكون الإجابة قد غيّرت بالفعل ما يفعله المستخدم.
كنت أتخيل تطبيق محفظة يستخدم فحصًا لمخاطر الذكاء الاصطناعي قبل إجراء معاملة. تُعيد النماذج منخفضة المخاطر. يعرض التطبيق تلك الإشارة. يوافق المستخدم.
ثم تُثار تحديات للمعاملة لاحقًا.
يقول المستخدم إن التطبيق أظهر انخفاض المخاطر قبل أن يوقّع. والآن على المُنشئ أن يفتح السجل ويشرح ما الذي تم تشغيله فعليًا.
الفاتورة موجودة. تم الدفع مقابل الحوسبة. تم استخدام بعض الخدمة.
لكن ذلك لا يثبت بما يكفي.
السؤال الأصعب هو ما إذا كانت النماذج المستضافة، وتشغيل الاستدلال، ودليل التحقق ما زالت تشير إلى المهمة نفسها.
وهنا بدأ الأمر @OpenGradient يفقد بالنسبة لي طابعه التجريدي.
ليس لأن حوسبة الذكاء الاصطناعي تحتاج إلى تسمية نظيفة أخرى، بل لأن المضيف والاستدلال والتحقق لا يمكن أن تنفصل عن بعضها بمجرد أن يبدأ تطبيق في الاعتماد على المخرجات.
وأنا أسمي هذا فجوة: مدفوع لكن غير مُثبت.
يبدو الأمر صغيرًا عندما يكون الذكاء الاصطناعي مجرد إجابة عن طلب. يصبح الأمر خطيرًا عندما تصبح المخرجات جزءًا من إجراء المستخدم، ويسأل أحدهم لماذا وثق التطبيق بها.
لا يحتاج المُنشئ إلى فاتورة أكثر جمالًا.
يحتاج إلى أن تبقى عملية التشغيل ودليل الإثبات صامدين في اللحظة التي يلي فيها التطبيق تصرفه.
الإجابة المدفوعة ليست تلقائيًا إجابة مُثبتة.
#OPG $OPG @OpenGradient $G $HEI #EtherFalls5.6%To$1555

كنت أعتقد أن اللامركزية تعني أن كل عقدة يجب أن تتحقق من كل شيء.
هذا يبدو نظيفًا حتى يصبح العمل هو الذكاء الاصطناعي.
كنت أتخيل دائمًا تطبيق DeFi يسأل نموذجًا إذا كانت المحفظة تستحق حد اقتراض أكبر. المستخدم ينقر مرة واحدة، ثم يجلس على شاشة التحميل ينتظر إجابة واحدة.
موافق أو مرفوض.
هنا تكمن المشكلة التي تصبح أقل تجريدًا.
خلف تلك الإجابة الواحدة، يجب على الشبكة استضافة النموذج، وتشغيل الاستدلال، والتحقق من الإثبات دون تجميد دفتر الأستاذ. إذا حاولت كل عقدة تحمل العمل بالكامل، قد يبدو التطبيق صادقًا ولكنه لا يزال يشعر بعدم الاستخدام.
ينتظر المستخدم.
يفقد الباني اللحظة.
يصل الإثبات بعد أن شعرت القرار بالفعل بأنه مكسور.
هذه هي فخ العقدة الشاملة.
يبدو أنه أكثر أمانًا لأن الجميع يقوم بكل شيء. ولكن على نطاق الذكاء الاصطناعي، يمكن أن يعاقب الشيء الذي يحتاجه المستخدمون أكثر: نتيجة سريعة بما يكفي للاستخدام ومثبتة بما يكفي للثقة.
فتح OpenGradient لي عند تلك النقطة القبيحة تمامًا.
ليس كفكرة “الذكاء الاصطناعي على السلسلة” واسعة، ولكن كشبكة حيث الاستضافة، الاستدلال، والتحقق لا تُعتبر كتلة واحدة.
يرى المستخدم مخرجات ذكاء اصطناعي واحدة.
الإيصال خلفها يجب أن ينجو من عبء عمل مقسم.
يمكن أن تحمل آلات مختلفة أعباء مختلفة، لكن الإجابة لا تزال بحاجة إلى مسار إثبات واضح عندما تصل إلى التطبيق.
عند النطاق، الثقة ليست مجرد إضافة المزيد من العقد.
إنها إعطاء كل عقدة الوظيفة المناسبة قبل أن يُترك المستخدم يحدق في شاشة تحميل بدون سبب للاعتقاد بما سيأتي بعد ذلك.
#OPG $OPG @OpenGradient $ATM $SYN #MemeCoreMTokenCrashes80%

كنت أعتقد أن المشكلة بسيطة.
اجلب النموذج عبر الإنترنت. دع الباني يتصل به. دع التطبيق يستخدم الإجابة.
كان يبدو ذلك جيدًا حتى تخيلت تطبيق إقراض يقوم بذلك لمستخدم حقيقي.
يسأل المستخدم عن حد إقراض أعلى. يسحب الباني نموذجًا من الرف. يقوم التطبيق بتشغيل الاستدلال. تأتي النتيجة مرتفعة بشكل كافٍ. يتغير زر الاقتراض من محجوز إلى متاح.
لا يرى المستخدم الرف أبدًا.
لا يرون أي نموذج تم استخدامه، أو أين حدث الاستدلال، أو ما هي الأدلة التي تلت النتيجة. هم فقط يرون التطبيق يتصرف كما لو كانت الإجابة آمنة بما يكفي للثقة.
هنا أجد @OpenGradient أكثر حدة بالنسبة لي.
ليس كرف أكبر للنماذج، ولكن كمسار يجب أن يبقى متصلًا بعد مغادرة النموذج للرف. الاستضافة، الاستدلال، والتحقق هامة فقط إذا نجت الإيصال حتى قرار التطبيق.
أستمر في التفكير فيه كمشكلة إيصال الرف.
إذا كان النموذج متاحًا، ولكن لا يمكن تتبع الاستدلال والتحقق منه، فإن فجوة الثقة لم تختفِ. لقد انتقلت فقط إلى الجزء من التدفق الذي لا يمكن للمستخدم تفتيشه.
يبدو التطبيق نظيفًا.
الباني يحمل الفوضى.
النموذج المستضاف مفيد، لكن الاختبار الحقيقي يبدأ عندما يلمس ذلك النموذج حد المستخدم.
لا ينبغي أن يتحرك زر الاقتراض بناءً على إجابة فقدت إيصالها بين الرف والشاشة.
#OPG $OPG @OpenGradient $HEI $SAHARA #SKHynixADRListing

كنت أعتقد أن الجزء المخيف من الذكاء الاصطناعي هو الإجابة.
ثم تخيلت زر الاقتراض.
المستخدم يريد الاقتراض مقابل الضمان. التطبيق يشغل نموذجًا في الخلفية. تعود النتيجة بمعدل مرتفع بما فيه الكفاية. يتغير الحد. يفتح المسار. يمكن أن تتحرك المعاملة.
الآن مخرج الذكاء الاصطناعي ليس مجرد شيء على الشاشة.
لقد لمس الدولة.
هذه هي النقطة التي كنت أعود إليها مع OpenGradient. ليس "الذكاء الاصطناعي أعطى نتيجة." هذا الجزء سهل قوله. الجزء الأصعب هو عندما يعامل التطبيق نتيجة النموذج كافية للتنفيذ قبل أن تتغير الأموال أو حالة السلسلة.
سأطلق على ذلك خط الدولة.
قبل ذلك الخط، كانت النتيجة السيئة مشكلة في الإجابة.
بعد ذلك الخط، تصبح مشكلة في التنفيذ.
إذا كانت النتيجة خاطئة، أو غير قابلة للتحقق، أو منفصلة عن التشغيل الذي أنتجها، فإن المنشئ لا يشرح فقط لماذا أجاب النموذج بشكل سيء. إنهم يشرحون لماذا تحرك حد الاقتراض، ولماذا انفتح المسار، ولماذا تصرف التطبيق وكأن النتيجة كانت صالحة.
هنا حيث يجب أن يقوم الإثبات بعمل حقيقي.
لا يمكن للنموذج أن ينتج مجرد رقم. يجب أن يعرف التطبيق ما الذي حدث، وما إذا كانت تلك النتيجة آمنة بما يكفي للاستخدام قبل أن تستمر عملية الاقتراض.
قد يرى المستخدم فقط تدفق اقتراض نظيف.
المنشئ يحمل التسليم الخفي.
الاستدلال السريع مفيد. لكن الضغط الحقيقي يبدأ عندما يصبح الاستدلال تنفيذًا.
#OPG $OPG @OpenGradient $HEI $DEXE

تخيلت تطبيق إقراض يقوم بتقليل حد المخاطر لدى المستخدم بعد درجة واحدة من الذكاء الاصطناعي.
على الشاشة، يبدو الأمر تقريبًا غير ضار.
المحفظة تتصل. النموذج يتحقق من النمط. التطبيق يقول إن هذا الحساب أصبح أكثر خطورة من قبل، لذا يتغير الحد.
في البداية، كنت أظن أن وظيفة المدقق كانت أن يسأل عما إذا كانت تلك الدرجة من الذكاء الاصطناعي تبدو صحيحة.
هذه الصورة خاطئة.
المدقق ليس قاضيًا بشريًا يقرأ الإجابة ويقرر ما إذا كانت تبدو معقولة. السؤال الأكثر برودة هو ما إذا كان التنفيذ قد حدث بالطريقة التي يدعيها التطبيق.
هنا كان OpenGradient واضحًا بالنسبة لي.
الجزء الفوضوي ليس الدرجة نفسها. إنه الدليل المرتبط بالدرجة. أي نموذج تم تشغيله، وأين تم تشغيله، وما الدليل الذي يدعم التنفيذ. بدون ذلك، التطبيق لا يزيل الثقة حقًا. إنه فقط ينقل فجوة الثقة إلى الجزء الخلفي.
سأطلق على هذا مشكلة حزمة الأدلة.
يبدو الأمر مثل السباكة حتى يتحدى المستخدم تغيير الحد.
الآن، لدى المطور مشكلة حقيقية. لا يمكنهم الدفاع عن التطبيق بالقول إن إجابة الذكاء الاصطناعي كانت تبدو جيدة. عليهم فتح التنفيذ وإظهار أن هناك دليلًا خلف النتيجة.
OpenGradient يصبح أكثر منطقية بالنسبة لي في تلك المرحلة. ليس كذكاء اصطناعي يجب على الناس أن يصدقوا به بشدة، ولكن كإنتاج ذكاء اصطناعي يمكنه تقديم الأدلة في اللحظة التي يسأل فيها شخص ما، "هل كان هذا هو التنفيذ الحقيقي؟"
الوعد السهل هو ذكاء اصطناعي يقدم إجابات.
الاختبار الأصعب هو ذكاء اصطناعي يجلب أدلته الخاصة عندما تبدأ الإجابة في تحريك القيمة.
#OPG $OPG @OpenGradient $SYN $BEL

كنت أعتقد أن أنظف تدفق لمنتج الذكاء الاصطناعي هو مجرد مكالمة واحدة.
ثم تخيلت مطوراً يضيف مكالمة SolidML واحدة إلى تطبيق إقراض.
الوظيفة تطلب نتيجة نموذج، وتعود النتيجة، وتعدل المجموعة درجة مخاطر المقترض، وتستمر المعاملة في التحرك. من الخارج، يبدو الأمر طبيعياً. تقريباً طبيعي جداً.
تلك هي الفخ.
يمكن لمكالمة بسيطة أن تخفي الكثير.
لا يزال يجب أن يعمل النموذج في مكان ما. لا يزال يجب أن تتطابق الاستدلالات مع التنفيذ الصحيح. لا يزال يجب أن تظهر الإثبات أن المجموعة لم تستخدم فقط إجابة عشوائية من الصندوق الأسود وتتعامل معها وكأنها منطق على السلسلة.
أعتبر هذا سراب استدعاء الوظيفة.
لا يرى المستخدم مسار النموذج. هم فقط يرون التطبيق يغير شروط مركز لأنه تم قبول الإجابة. يتم تشديد حد الاقتراض ويتصرف التطبيق وكأن النتيجة تستحق الثقة بالفعل.
لكن الضغط يقع على الباني.
بمجرد أن تصبح نتيجة النموذج جزءًا من منطق المنتج، لا يمكن التعامل معها مثل استجابة API عادية. قد تبدو المعاملة نظيفة في تلك اللحظة، لكن الباني يظل مع الجزء الذي لا يراه أحد.
عليهم فتح التشغيل.
ما الذي تم تشغيله بالضبط؟
هل يمكنهم إثبات المسار بعد أن تصرف التطبيق بالفعل بناءً على النتيجة؟
هذا هو الجزء الذي يجعل OpenGradient من الصعب تجاهله بالنسبة لي. ليس الفكرة اللامعة للذكاء الاصطناعي داخل التطبيقات، ولكن الفجوة القبيحة بين استدعاء نموذج وإثبات ما حدث.
كلما أصبح استدعاء الذكاء الاصطناعي داخل التطبيقات أسهل، أصبح أكثر خطورة عندما لا يستطيع أحد إثبات ما فعله الاستدعاء بالفعل.
#OPG $OPG @OpenGradient $RESOLV $TNSR

كنت أعتقد أن "التحقق على السلسلة" يعني أن بإمكان الجميع إعادة تشغيل الشيء والتحقق منه.
يبدو ذلك نظيفًا حتى لا يكون الشيء مجرد تحويل توكن.
إنه نموذج ذكاء اصطناعي يجلس خلف شاشة المستخدم.
كنت أتخيل مستخدمًا واحدًا يضغط للحصول على درجة مخاطر قبل اتخاذ خطوة. يمكن أن تظهر الإجابة في ثانية. ولكن إذا كان التحقق يعني أن كل مُصادق يجب أن يعيد تشغيل نموذج ثقيل فقط ليوافق، فإن شاشة النتائج النظيفة تلك تبدأ في التوقف.
لا تفشل.
تتوقف.
هنا أصبح OpenGradient أكثر تحديدًا بالنسبة لي.
المشكلة ليست فقط ما إذا كان نموذج الذكاء الاصطناعي يمكنه إنتاج إجابة. المُنشئ عالق بين خيارين سيئين. عرض الناتج بسرعة وطلب من المستخدم الثقة به، أو الانتظار لعملية التحقق وجعل المنتج يبدو بطيئًا.
لذا، فإن الاختناق الحقيقي ليس في ناتج النموذج.
إنه ما يحدث بعد وجود الناتج.
هل يمكن أن تعمل الاستدلال بسرعة بينما لا تزال مسارات التحقق تُظهر ما تم تشغيله، وكيف تم التحقق منه، ولماذا يستحق الناتج الثقة؟
سأطلق على هذا فخ إعادة التشغيل.
إذا كان التحقق يعني إعادة تشغيل الذكاء الاصطناعي الثقيل في كل مكان، ينتظر المستخدم. إذا تم تخطي التحقق، يتحمل المُنشئ خطر الثقة. في كلتا الحالتين، يتعطل المنتج في مكان يمكن للمستخدمين العاديين الشعور به فعليًا.
لهذا السبب، فإن فصل الاستدلال عن الإثبات القابل للتحقق مهم.
الناتج السريع ليس كافيًا.
الاختبار الأصعب هو ما إذا كان بإمكان الذكاء الاصطناعي البقاء قابلاً للاستخدام دون تحويل التحقق إلى شاشة تحميل.
#OPG $OPG @OpenGradient $RE $AXS

يشوف المستخدم تحذير تصفية من الذكاء الاصطناعي ويوقف شوي قبل ما يقفل مركزه.
هذي اللحظة هي اللي يتوقف فيها الإثبات عن كونه شيء مجرد.
المطور اتخذ القرار المهم قبل ما يشوف المستخدم التحذير. أي نوع من الإثبات يترافق مع هالإجابة؟ شقد لازم تكون ثقيلة؟ شقد التأخير مقبول لما يكون المستخدم يشوف شاشة المخاطر؟
كنت أعتقد إن الإجابة الأكثر أمانًا من الذكاء الاصطناعي هي ببساطة تلك اللي مرتبطة بأقوى إثبات.
زيادة الإثبات، زيادة الأمان.
فكرة نظيفة.
بعدها فكرت في اللي يسويه هذا داخل المنتج.
تحذير التصفية مو نفس ملخص بسيط. هو أقرب للفعل. يقدر يغير اللي يسويه المستخدم بعدين. إذا كان فحص الإثبات خفيف جدًا، المستخدم ممكن يثق بشيء يحتاج لمسار أقوى. إذا كان مسار الإثبات ثقيل جدًا، التحذير ممكن يوصل متأخر، والحين طبقة الأمان تصير جزء من المخاطر.
هنا صار OpenGradient مثير للاهتمام بالنسبة لي.
مو لأن كل مخرج من الذكاء الاصطناعي يحتاج أقوى إثبات متاح، لكن لأنه الإثبات لازم يناسب الوظيفة. مخرج واحد ممكن يحتاج مجرد توقيع. آخر ممكن يحتاج فحص على طريقة TEE. وآخر ممكن يبرر استخدام مسار zkML الأكثر ثقلًا لأن القرار يحمل وزن أكبر.
أحب أسمي هذي الميزانية الإثبات.
مو لأن الإثبات لازم يكون رخيص.
لكن لأن الإثبات لازم يُصرف في المكان اللي تعيش فيه المخاطر فعليًا.
الضغط ينزل على مطور التطبيق. هم مو بس يسألون، "هل يمكن التحقق من هالإجابة من الذكاء الاصطناعي؟" هم يسألون، "ماذا يحدث إذا تم التحقق من هالإجابة المحددة ببطء شديد، أو ضعف شديد، أو بطريقة خاطئة؟"
هذي هي المشكلة الأصعب في المنتج.
OpenGradient يخلي "الذكاء الاصطناعي المعتمد" يبدو أقل كشارة وحدة وأكثر كقرار توقيت.
الإثبات الصحيح لازم يظهر قبل ما يتصرف المستخدم.
بعدها، حتى الإثبات القوي ممكن يتأخر.
#OPG $OPG @OpenGradient $RE $BEL