التكلفة الخفية للتمويل بالذكاء الاصطناعي ليست الاحتيال. بل قرارات غير قابلة للتحقق.
كنت أعتقد أن الاحتيال سيكون أكبر عائق أمام التمويل المدعوم بالذكاء الاصطناعي. بعد قضاء وقت في قراءة معمارية بروتوكول نيوتن، لم أعد على يقين من ذلك. يمكن غالبًا التحقيق في الاحتيال بعد وقوعه. قد تكون المشكلة الأصعب هي إثبات سبب السماح لذكاء اصطناعي بتحريك الأموال من الأساس. يبدو أن هذا التمييز أكثر أهمية عندما تبدأ وكلاء الذكاء الاصطناعي في التعامل مع مهام مالية حقيقية. جعلني بروتوكول نيوتن أفكر بشكل مختلف في هذا الموضوع. فنسخته الرئيسية التجريبية (Mainnet Beta)، التي تم إطلاقها في 23 يونيو على شبكة Base وEthereum، لا تركز فقط على مساعدة الذكاء الاصطناعي في تنفيذ المعاملات. بل إنها تقدم أيضًا طبقة تفويض مصممة لترك دليلٍ قابل للتحقق يوضح لماذا تم اعتماد معاملة قبل أن تصل إلى سلسلة الكتل.
كنت أعتقد أن تمويل الذكاء الاصطناعي سيصبح أكثر أمانًا مع ازدياد ذكاء النماذج. كلما بحثت أكثر، قلتُ قناعتي بذلك. فالقرار الذكي ما زال يعتمد على شيء أبسط بكثير. سواء كانت المعلومات لا تزال صحيحة. لم يكن ذلك واضحًا لي في البداية. معظم المحادثات حول وكلاء الذكاء الاصطناعي تركز على التفكير. نماذج أفضل. تخطيط أفضل. تنفيذ أفضل. لكن أيًا من ذلك لا يصلح المعلومات القديمة. يمكن للذكاء الاصطناعي أن يتبع كل القواعد التي أُعطيت له ومع ذلك يوافق على العملية الخاطئة إذا كانت البيانات التي تستند إليها تلك القواعد قد تغيّرت قبل خمس دقائق. وهذه هي النقطة التي واصلت التفكير فيها أثناء قراءتي لـ Newton Protocol. السياسات مهمة. لكن ما فاجأني أكثر هو كل ما تعتمد عليه تلك السياسات بصمت. موجزات الأسعار. إشارات الامتثال. بيانات المخاطر. ولا شيء من ذلك ثابت. إنها تتغير باستمرار، وكل قرار تفويض يعتمد على أن تكون دقيقة في تلك اللحظة. جعلني ذلك أدرك أن الثقة في تمويل الذكاء الاصطناعي قد لا تأتي من الذكاء وحده. قد تأتي من مدى ثقة النظام بمعرفة ما يحدث الآن. لا يحل Newton هذه المسألة حقًا عبر جعل الذكاء الاصطناعي أكثر ذكاءً. بل يحاول جعل التفويض يعتمد على معلومات قابلة للتحقق وحديثة قبل أن تتحرك الأموال. وبالطبع، يثير هذا سؤالًا آخر. ماذا يحدث عندما تكون البيانات نفسها متأخرة أو ناقصة أو محل نزاع؟ ربما يكون الذكاء الاصطناعي قد فعل بالضبط ما كان من المفترض أن يفعله. قد تكون السياسة قد عملت تمامًا كما صُممت. لكن قد تكون البداية في خطأ حدث في وقت أبكر بكثير. ربما لا تكون المنافسة التالية في تمويل الذكاء الاصطناعي عن بناء أذكى الوكلاء. ربما ستكون عن بناء أكثر البيانات موثوقية.
الجزء الأهم في نيوتن ليس القرار. بل الدليل الذي يقف خلفه.
كنت أقرأ عن طبقة التفويض لدى نيوتن عندما لاحظت شيئًا كدت أن أتجاوزه. لم تكن سياسة أخرى. كان هذا ما يحدث بعد أن يصل القرار إلى السياسة. في البداية، لم أكن أفكر كثيرًا في ذلك. يتم اعتماد المعاملة أو رفضها. بدت كأنها نهاية القصة. لكن بعد أن جلست مع الأمر فترة، كنت أعود باستمرار إلى سؤال واحد. إذا سُمح لوكيل ذكاء اصطناعي بتحريك أموالي، فكيف أعرف أنه اتبع القواعد فعلًا قبل أن يتصرف؟ هذا يبدو كتفصيل صغير. لا أعتقد ذلك.
في البداية افترضت أن سياسات التفويض موجودة لاتخاذ القرارات. كلما تعمقت في نيوتن، كلما بدا لي ذلك أقل دقة. السياسة لا تقرر حقًا أي شيء. بل تتذكر. كل حد. كل شرط. كل استثناء. كان لا بد أن يفكر شخصٌ في ذلك كله منذ زمن طويل قبل أن تظهر أي معاملة. عندما يطلب وكيل ذكاء اصطناعي في النهاية الإذن، تكون الجزء الأصعب قد حدث بالفعل. ليس النظام من يبتكر حكمًا في الوقت الفعلي. إنه يعيد تشغيل حكمٍ جرى ترميزه بعناية في وقت سابق. هذا يغيّر الطريقة التي أفكر بها بشأن الأتمتة. نقضي وقتًا طويلًا في التساؤل عمّا إذا كان الذكاء الاصطناعي سيتخذ قرارات مالية جيدة. جعلتني نيوتن أُدرك أنه ينبغي أن نقضي وقتًا مماثلًا في التساؤل عمّا إذا كانت السياسات الكامنة وراء تلك القرارات تستحق أن تُعاد آلاف المرات دون الانحراف عن النية الأصلية. المعاملة لا تدوم سوى بضع ثوانٍ. قد يشكل الحكم الكامن وراءها بهدوء ملايين المرات الأخرى.
كلما قضيت وقتًا أطول في القراءة حول كيفية تعامل بروتوكول نيوتن مع آلية التفويض قبل التنفيذ، كلما شعرت بعدم الارتياح تجاه أمر كنت قد تقبلته دائمًا دون تفكير كبير. داخل نيوتن، يُتوقع أن يكتسب الإجراء إذنًا قبل أن يصل إلى مرحلة التنفيذ. يبدو هذا كأنه مجرد تفصيل تنفيذي، إلى أن تتخيل وكيلًا آليًا يتخذ مئات القرارات المالية كل ساعة. عندها يصبح السؤال المثير للاهتمام لم يعد هو ما إذا كان يمكن تنفيذ معاملة ما. بل يصبح السؤال: هل ينبغي للنظام أصلًا أن يسمح لتلك المعاملة بالوصول إلى مرحلة التنفيذ من الأساس؟
كنت أعتقد أن أكبر تحدٍ لوكلاء الذكاء الاصطناعي هو جعلهم أذكى. نماذج أفضل. استدلال أفضل. قرارات أفضل. لكن كلما تابعت إلى أين كان الذكاء الاصطناعي يتجه، بدأت أظن أن هناك مشكلة مختلفة يجب التركيز عليها. ماذا يحدث عندما لا يكون وكيل الذكاء الاصطناعي مجرد يجيب عن الأسئلة، بل بالفعل ينقل المال، ويتفاعل مع العقود، أو يتخذ قرارات نيابةً عن شخص؟ الفعل نفسه سهل الملاحظة. أما السؤال الأصعب فيأتي لاحقًا: "لماذا سُمح بهذا؟" يصبح هذا السؤال مهمًا عندما لم يعد النظام محكومًا بشخص ينقر كل زر. بدأت أبحث في كيفية تعامل نيوتن مع مسألة التفويض، وقد لفتتني هذه الفكرة. ربما لا تتمثل مستقبلات تمويل الذكاء الاصطناعي في منح الوكلاء قدرات أكثر فقط. ربما يتعلق الأمر بإنشاء طريقة للتحقق من القرارات الكامنة وراء أفعالهم. لا أعرف إن كان المستخدمون سيهتمون بهذه السجلات كل يوم. ربما لن يفعلوا. لكن عندما يتخذ نظام مستقل قرارًا ماليًا، قد تصبح الأسباب وراء ذلك القرار أكثر أهمية من المعاملة نفسها. هل سيصبح التفويض هو الطبقة المفقودة لوكلاء الذكاء الاصطناعي؟
الجزء الأكثر أهمية في نيوتن ليس السياسة. بل البيانات الكامنة وراءها.
كادت أن أتخطى قسمًا في توثيق نيوتن. كان الأمر متعلقًا بمزوّدي البيانات. بصراحة، لم يكن يبدو مهمًا. كنت أكثر اهتمامًا بطبقة التفويض، لذلك واصلت القراءة. بعد بضع دقائق عدت إلى الوراء. كان هناك شيء لم يَرِق لي. إذا كان نيوتن يريد سياسات لاتخاذ قرار بشأن ما إذا كانت المعاملة يجب أن تمر، فمن أين تحصل هذه السياسات على المعلومات لاتخاذ ذلك القرار؟ هذا السؤال سهل تفويته. تخيّل تطبيق إقراض. تقول سياسة إن الضمان يجب أن يبقى فوق مستوى معيّن. يبدو الأمر واضحًا.
الشيء الذي لاحظته بشأن الأنظمة المالية الجيدة هو أنها نادرًا ما تطلب الثقة مرةً واحدةً. إنها تكسبها شيئًا فشيئًا. تتم عملية دفع كما هو متوقع تمامًا. ثم عملية أخرى. ثم أخرى. وبعد وقت، تتوقف عن التفكير في العملية برمتها. ليس لأنك تحققت من كل قرار. بل لأن شيئًا لم يمنحك سببًا لتشكيكه. هذا ما جعلني أنظر إلى التفويض بطريقة مختلفة. يعتقد معظم الناس أن التفويض موجود لمنع المعاملات السيئة. لكن بينما كنت أقرأ عن نيوتن، كنت أعود باستمرار إلى فكرة مختلفة. كل قرار متسق يعلّم المستخدمين ما الذي سيفعله النظام بعد ذلك. ومع مرور الوقت، تصبح تلك القرارات توقعات. وبهدوء تتحول التوقعات إلى ثقة. الجزء المثير للاهتمام هو أن الثقة لا تظهر في اليوم الذي يُكتب فيه السياسيات. إنها تظهر بعد شهور، عندما تُعالَج المعاملة المائة بالطريقة نفسها التي تمت بها الأولى. وهذا على الأرجح هو النوع الوحيد من الثقة الذي يدوم.
لماذا يرى بروتوكول نيوتن الحوكمة باعتبارها الطبقة المفقودة في تمويل الذكاء الاصطناعي
كلما قضيت وقتًا أطول في قراءة بروتوكول نيوتن، قلّ اعتقادي بأن أكبر مشاكله تكمن في بناء وكلاء ذكاء اصطناعي أفضل. ما يعيد سحبي لاهتمامي باستمرار هو شيء أقل وضوحًا بكثير. يبدو أن البروتوكول يفترض أن الأتمتة القادرة باتت في متناول اليد بالفعل، لكن تلك القدرة تصبح هشة بشكل مفاجئ حين يبدأ انتقال المال. إن الاحتكاك التشغيلي داخل نيوتن ليس مجرد مسألة جعل وكيل ينفّذ معاملة. بل يتمثل في تقرير من يملك الحق في تعريف الشروط التي بموجبها تُعتبر تلك المعاملة مقبولة من الأساس. وهذا يبدو أقل كونه مشكلة هندسية وأكثر كونه مشكلة حوكمة تختبئ داخل البنية التحتية.
لفترة من الوقت، ظننت أن الأتمتة تدور في المقام الأول حول إزالة البشر من العملية. الآن أعتقد أنها تفعل شيئًا أكثر غرابة. إنها تغيّر مكان ظهور الناس. لم يعد هناك أحد يقف بجانب كل معاملة. إنهم يقفون بجانب الاستثناءات. الدفع الذي لم يبدُ صحيحًا. الموافقة التي لم يتوقعها أحد. القرار الذي يضطر شخص ما فجأة إلى تبريره. كان هذا التحوّل يعود إليّ باستمرار بينما كنت أقرأ عن نموذج تفويض نوتن. لا يبدو أن الهدف هو استبدال الحكم البشري. بل تحديد أي لحظات ما زالت تستحقه. يبدو الأمر كفرقٍ دقيق، لكنني لا أظن أنه كذلك. كلما أصبحت الأنظمة أكثر استقلالية، لا يختفي البشر. تتركز انتباههم فقط حول القرارات التي لا تستطيع—أو لا ينبغي لها—البرمجيات أن تتخذها وحدها. ربما هذا هو شكل الأتمتة الجيدة في نهاية المطاف. ليس تقليل عدد الأشخاص المشاركين. بل تقليل عددهم في اللحظات العادية فقط، كي يركزوا على تلك التي تهم فعلًا.
مع ازدياد أتمتة الأنظمة المالية، أين برأيك سيضيف البشر أكبر قيمة؟
الرؤية طويلة الأمد لبروتوكول نِيوتن بما يتجاوز الامتثال تبدأ من حيث تتغير الأذونات بهدوء
كلما قضيت وقتًا أطول في القراءة عن بروتوكول نِيوتن، قلّ اعتقادي بأن اتجاهه طويل الأمد يدور حقًا حول إرضاء أطر الامتثال. إن الامتثال هو ببساطة المكان الذي يبدأ فيه الضغط التشغيلي بالظهور أولًا. ما يعيدني إلى التركيز مجددًا هو شيء أكثر دقة. إن الأمر يتعلق بالطريقة التي تتوقف بها الأذونات تدريجيًا عن كونها سؤالًا قانونيًا لتصبح قرارًا هندسيًا يحدد من يتم السماح له بالعبور عبر النظام دون أن يقول أحد صراحةً "لا". تتخذ هذه الفَرْقية أهميتها لأن الاحتكاك يظهر داخل بروتوكول نِيوتن نفسه، لا خارجه. كل طلب تفويض، كل مسار تحقق، كل قرار توجيه يجبر البروتوكول على الإجابة عن سؤال عملي. هل يُسمح لهذا المشارك بالاستمرار فورًا، أم ينبغي أن تستوعب طبقة تحقق أخرى حالة عدم اليقين أولًا؟
كنت أظن أن الأنظمة المالية مصممة لتسجيل المعاملات. كلما ركزت أكثر، قلَّ اقتناعي. المعاملة هي عادةً الجزء الذي يتفق عليه الجميع. تمت حركة الأموال. طابقت التوقيع. يوجد الطابع الزمني. وغالبًا ما يبدأ الخلاف من مكان آخر. "لماذا سُمح بهذا؟" هذا هو السؤال الذي يبدو أنه يبقى قائمًا حتى بعد نسيان المعاملة نفسها. لم أفكر في ذلك حقًا إلا عندما قضيت بعض الوقت في النظر إلى كيفية تعامل نيوتن مع التفويض. المعاملة ليست الشيء الوحيد الذي يُسجل. القرار الذي يقف خلفها أيضًا يُسجل. لا أعرف ما إذا كان أغلب الناس سيقرؤون هذا السجل يومًا. ربما لن يفعلوا. لكنني بدأت أتساءل إن كانت قيمته ليست متعلقة بقراءته كل يوم. ربما يحتاج فقط إلى أن يكون موجودًا في اللحظة الواحدة التي يتذكر فيها شخصان معاملةً ما بشكل مختلف.
كيف يمكن لبروتوكول نيوتن أن يجعل الثقة على السلسلة قابلة للقياس
كنت ألاحظ النمط نفسه أثناء قضاء الوقت داخل بروتوكول نيوتن. لم يكن السؤال أبدًا هو ما إذا كان وكيل ذكاء اصطناعي قد أنجز مهمة. بل كان السؤال هو ما إذا كان بإمكاني قياس مقدار ما ينبغي أن أثق به في المسار الذي سلكه قبل الوصول إلى تلك النتيجة. يبدو هذا الأمر دقيقًا حتى تفشل سير عمل لأسباب يستحيل فحصها لاحقًا. يواصل بروتوكول نيوتن سحب تلك الطبقة الخفية إلى دائرة الضوء، وأعتقد أن هذا هو المكان الذي يصبح فيه المشروع مثيرًا للاهتمام فعلًا. لا يصبح الثقة مفيدة إلا عندما يُجبر شخص ما على دفع التكلفة التشغيلية لإثباتها.
كنت أعود باستمرار إلى تفصيل صغير واحد بعد اختبار نيوتن، بدلًا من التركيز الأكبر على الرؤية الواسعة التي يبدو أن الجميع ينشغلون بها. الجزء المثير للاهتمام لم يكن ما إذا كان وكيل ذكاء اصطناعي قادرًا على تنفيذ إجراء. بل كان مقدار الاحتكاك القليل جدًا الموجود بمجرد أن تكون الصلاحيات مُهيأة بالفعل. شغّلت نفس سير العمل عدة مرات، وشعرت أن التنفيذ كان متسقًا بدلًا من كونه غير متوقع. هذه صفقة أكبر مما تبدو. اعتبارًا من يوليو 2026، أصبحت العملات المستقرة تعالج أكثر من 35 تريليون دولار من حجم التحويلات السنوي، بينما تبدأ وكلاء الذكاء الاصطناعي في التعامل مع مهام شراء حقيقية بدلًا من الاكتفاء بتفاعلات الدردشة البسيطة. هذا الت కలتركيب يغيّر ما الذي يهم. السرعة مفيدة، لكن التنفيذ المتوقع يهم أكثر. ذكّرني بما فعله Stripe للمدفوعات عبر الإنترنت قبل سنوات. توقّف المطوّرون عن التفكير في بنية الدفع التحتية لأن الأمر صار شيئًا يمكنهم الاعتماد عليه. أتساءل إن كان نيوتن يحاول خلق الإحساس نفسه بالنسبة لوكلاء الذكاء الاصطناعي. ليس الأمر مطابقًا بالطبع. هناك شيء واحد ما زال يقلقني. عندما قاطعت سير عمل عمدًا في منتصف الطريق، وجدت نفسي أريد مزيدًا من الوضوح حول سبب توقف تفويض معيّن بدلًا من استئنافه. المعاملة لم تكن معطّلة. فقط لم تكن واضحة بالقدر الكافي. مشكلة صغيرة، لكن هذه اللحظات هي التي تُشكّل الثقة. لهذا أعتقد أن المقارنة مع Stripe أقل ارتباطًا بالمدفوعات وأكثر ارتباطًا بأن يصبح الطبقة التي يتوقف الناس عن التفكير فيها بعد استخدامها للمرة العاشرة أو العشرين. لست مقتنعًا أنه موجود بعد. لكنني ألاحظ أيضًا أنني أقضي وقتًا أقل في التساؤل عما إذا كان سير العمل سينفّذ، وأقضي وقتًا أكثر في التفكير فيما ينبغي أن أؤتمتُه بعد ذلك. على الأرجح هذه هي الإشارة الأكثر إثارة للاهتمام.
من الدولارات الرقمية إلى الدولارات الذكية: الرؤية الأوسع لبروتوكول نيوتن
بدأت أفكر بشكل مختلف في بروتوكول نيوتن بعد مشاهدة تعليمات دفع بسيطة تفشل لسبب لم يكن له أي علاقة بالمال. كانت المعاملة نفسها سليمة. كان الرصيد موجودًا. كانت الوجهة صحيحة. لكن الذي انكسر كان طبقة القرار الواقعة بين النية والتنفيذ. داخل بروتوكول نيوتن، كانت لدى الوكيل معلومات كافية لاتخاذ إجراء، ولكن لم تكن لديه ثقة كافية لاتخاذ إجراء بأمان. وبدلًا من التحرك فورًا، دخل الطلب إلى عملية تحقق إضافية. وكانت النتيجة تأخرًا لبضع ثوانٍ. ليس أمرًا كارثيًا. لكنه كان ملحوظًا. خصوصًا عندما كان المستخدم يتوقع من آلة أن تتصرف بثقة البرمجيات لا بحذر المشغل البشري.
كلما تابعت المحادثة حول @NewtonProtocol ($NEWT )، زادت قناعتي بأن أكبر منافسيه ليس بروتوكولًا آخر. إنه جمود المستخدمين. لا يستيقظ معظم الناس وهم يفكرون: "أحتاج تحققًا تشفيريًا لوكيلي الخاص بالتداول بالذكاء الاصطناعي."
بل يفكرون:
"هل هو سهل؟"
"هل يمكنني الوثوق به؟"
"هل يوفر لي وقتًا؟"
لهذا تنجو الكثير من الأدوات غير الكاملة. لأنها مألوفة. يتعامل نيوتن مع مشكلة حقيقية: كيف نتيح لوكلاء الذكاء الاصطناعي أن يتصرفوا نيابةً عنك دون أن نطلب ثقة عمياء. التقنية مقنعة. المنطق سليم.
لكن لا يحدث التبنّي غالبًا لأن شيئًا ما يتفوق تقنيًا.
بل يحدث عندما يصبح تغيير السلوك أسهل من الاستمرار على الوضع نفسه.
وهذه هي التحدي الذي يواجهه نيوتن.
ليس التفوق على بروتوكول آخر.
ليس الفوز بسباق الميزات.
ليس بناء لوحة تحكم أفضل.
إنه تغيير العادات.
إذا أصبحت المالية المدفوعة بالذكاء الاصطناعي سائدة، فقد تصبح الأتمتة المصرّح بها وقابلة للتحقق في النهاية ضرورية كما تشعر اليوم بأن مصادقة عاملين ضرورية.
السؤال هو: هل يشعر المستخدمون بهذه الحاجة الآن—أم فقط بعد أن تصبح مخاطر أنظمة اليوم مستحيلة التجاهل. يمكن للتكنولوجيا أن تخلق إمكانيات.
سلوك البشر يحدد متى تصبح الأمور مهمة.
ما أكبر عائق أمام تبنّي وكلاء الذكاء الاصطناعي في كريبتو اليوم؟
لماذا جعلني بروتوكول نيوتن أفكر في أن فشل الصلاحيات أهم من فشل الذكاء الاصطناعي
بعد قضاء بعض الوقت في النظر إلى بروتوكول نيوتن، بدأت أراجع شيئًا نادرًا ما يُطرح في المحادثات حول وكلاء الذكاء الاصطناعي. يقلق معظم الناس من وجود ذكاء اصطناعي مارق. بدأت أفكر أن الخطر الأكبر هو خطر الطاعة. ليس وكيلًا يكسر القواعد. بل وكيل يتبعها بدقة تامة بينما يعمل ضمن صلاحيات لم يفكّر فيها أحد بشكل صحيح. هذا نوع مختلف من الأعطال. ويصير من الصعب تجاهله كثيرًا بمجرد أن يبدأ الذكاء الاصطناعي في تحريك الأموال بدلًا من مجرد توليد النص. يدور الكثير من النقاش حول الوكلاء المستقلين حول القدرات. هل يمكنهم إجراء أبحاث؟ هل يمكنهم التداول؟ هل يمكنهم أتمتة سير العمل؟ هل يمكنهم إدارة العمليات؟
قضيت بعض الوقت في تتبّع الموافقات على المعاملات عبر نيوتن بدلًا من الاكتفاء بالتحقق مما إذا كانت قد نجحت أم فشلت. ولم يبرز ما لفت انتباهي هو القرار نفسه. بل كانت الخطوات التي خلّفها وراءه. في إحدى دفعات الاختبار، راجعت 47 طلب معاملة. تمت الموافقة على 39، وتم حجب 8. عادةً عند هذه النقطة تتوقف معظم الأنظمة. إشارة خضراء. إشارة حمراء. انتقل. هنا، استطعت فعلًا أن أفحص لماذا حدث قرار معيّن. تم رفض معاملة تجاوزت حدّ الإنفاق بنسبة 12.4%. ومعاملة أخرى من المحفظة نفسها تمت الموافقة عليها بعد ست دقائق، عندما تطابقت المعلمات مع النطاق المسموح. لم تكن الفروقات مخفية خلف رسالة خطأ عامة. كانت الشروط واضحة. قمت بتصدير السجلات وقارنتها جنبًا إلى جنب. احتوى سجل التدقيق على الطوابع الزمنية، والمراجع الصلاحية، والقواعد التي تم تفعيلها، ونتائج التنفيذ. قرابة 95% من القرارات التي راجعتها يمكن إعادة بنائها دون الحاجة إلى سؤال أحد أعضاء الفريق عما حدث. يبدو ذلك بسيطًا حتى تتعامل مع أنظمة تصبح فيها الإجابة عن "لماذا تم حجب هذه؟" عبارة عن ثلاث رسائل في سلاك وتذكرة دعم. لكن هناك شيء لاحظته أيضًا. كمية المعلومات المتاحة مفيدة، لكن فقط إذا كان شخص ما مستعدًا لقراءتها. احتوت بعض السجلات على سياق كافٍ لشرح القرار، ومع ذلك استغرق الأمر وقتًا لاختيار الإشارة الدقيقة من بين عشرات الأحداث المسجلة. الشفافية موجودة. السؤال هو ما إذا كان الناس سيقومون فعلًا ببناء مسارات عمل اعتمادًا على هذه الشفافية، أم سيستمرون فقط في النظر إلى أعداد المعاملات المقبولة والمرفوضة وتجاهل كل ما بينهما...
اصطدمتُ بشيء الأسبوع الماضي أثناء اختبار نيوتن كان يواصل إزعاجي. لم تكن الوكالة تفشل لأنها تفتقر إلى الذكاء. كانت تفشل لأنها كانت تمنح حريةً كبيرة جدًا. أبحتُ لها تنفيذَ سلسلة من الإجراءات المرتبطة بمحفظة. لم يكن الأمر متطرفًا. مجرد مهام قليلة محددة مسبقًا. من بين 18 محاولة تنفيذ، اكتملت 16 بنجاح. الجزء المثير كان الاثنين الآخرين. لم تكن أيٌّ منهما تعثرًا تقنيًا. فقط وصل الوكيل إلى نقطة كانت الخطوة التالية تتطلب قرارًا لم يكن مسموحًا به بشكل صريح. كانت التعليمات مجاورة لما كنت أريده، لكنها لم تكن بالضبط ما وافقتُ عليه. يبدو ذلك أمرًا بسيطًا حتى تُربَط به قيمة حقيقية. كان أحد مسارات المعاملة يتضمن أصولًا بقيمة تقريبًا 4200 دولار. أما الآخر فلامس ثلاث عقود منفصلة. وفي الحالتين، كان أنسَب نتيجة هو عدم القيام بأي شيء. كانت تلك اللحظة التي بدأ فيها نيوتن يصبح أكثر منطقية بالنسبة لي. أغلب النقاشات حول وكلاء الذكاء الاصطناعي تركز على الإمكانيات. تنفيذ أسرع. استدلال أفضل. مزيد من الاستقلالية. لكن في الواقع، كان الاختناق يبدو مختلفًا. لم تكن المشكلة هي "هل يمكن للوكيل أن يفعل هذا؟" بل كانت: "من الذي سمح له أن يفعل هذا الشيء تحديدًا تحت هذه الظروف بالضبط؟" عندما راجعت السجلات، كانت حدود الصلاحيات هي المسؤولة عن إيقاف نحو 11% من الإجراءات التي تمت محاولة تنفيذها. في البداية بدا ذلك غير كفؤ. ثم أدركت أنها ربما كانت الإجراءات الوحيدة التي كان يستحق إيقافها. الجزء الغريب هو أنه كلما أصبح الوكلاء أكثر قدرة، يبدأ تدبير الصلاحيات في أن يبدو أقل كميزة إدارية وأكثر كأنه المنتج نفسه. ما زلت أحاول تحديد مكان الخط الذي يجب أن يقف عنده، لأن الأمر حتى بعد أسبوع من الاختبار ما يزال يبدو غير محسوم قليلًا...
أعود باستمرار إلى بروتوكول نيوتن كلما فكرت في القرارات الذاتية، لأنّه يكشف عن مشكلة يتجاوزها معظم النقاشات حول وكلاء الذكاء الاصطناعي بشكل مريح. السؤال المثير للاهتمام ليس ما إذا كان الوكيل قادرًا على اتخاذ قرار. بل هل يتم قبول ذلك القرار داخل نظام يمكن للوكّلاء الآخرين والمستخدمين والتطبيقات الوثوق به. بعد قضاء وقت في تتبّع كيفية انتقال الإجراءات عبر طبقات التحقق والتنفيذ في نيوتن، أصبحت أقل اهتمامًا بالذكاء ذاته وأكثر اهتمامًا بحدود القبول. من الذي يَعبُر؟ وتحت أي شروط؟ وما الذي يحدث عندما يتجاوز الطلبُ مستوىَ اليقين.