Le protocole Newton revient sans cesse dans mes pensées, et je ne pense pas que ce soit uniquement à cause de la technologie. Ce qui me ramène, c’est la question inconfortable qui se cache dessous. @NewtonProtocol tente de créer un environnement où l’IA peut fonctionner à travers des règles plutôt que des hypothèses, mais ces règles sont elles aussi conçues, interprétées et maintenues par des personnes. Je soupçonne que c’est là que commence la vraie complexité. Le protocole peut être conçu pour des machines, mais sa stabilité à long terme dépendra probablement du comportement humain.
Ce qui me trouble, c’est de voir à quel point les incitations ne restent presque jamais immobiles. Au début, les participants sont généralement motivés par la curiosité, la conviction ou un réel désir de construire quelque chose de résilient. Avec le temps, ces motivations finissent souvent par devenir plus pratiques. L’efficacité remplace la patience. La commodité devient progressivement plus précieuse que la vérification attentive. Je ne suis pas sûr que le protocole Newton puisse éviter ce changement, car tout système de coordination doit finalement affronter la réalité que les gens changent bien avant que le code ne change.
Il semble aussi possible que la gouvernance évolue de manière que personne n’avait prévue. Un réseau décentralisé ne devient pas nécessairement centralisé à cause d’une décision unique. Parfois, les mêmes contributeurs deviennent tout simplement plus dignes de confiance, plus actifs et plus influents que le reste. D’autres commencent à les suivre parce que cela semble plus facile que de remettre en question chaque décision. De l’extérieur, rien ne paraît cassé, mais la répartition de l’influence se rétrécit silencieusement.
Peut-être que la question la plus importante n’est pas de savoir si le protocole Newton peut coordonner l’IA de manière sécurisée, mais s’il peut préserver la pensée indépendante une fois l’euphorie retombée. La plus forte pression ne viendra peut-être pas d’attaquants ou de défaillances techniques. Elle pourrait venir de participants ordinaires qui cessent progressivement de se poser des questions difficiles parce que.
@NewtonProtocol #Newt $NEWT
Ce qui me trouble, c’est de voir à quel point les incitations ne restent presque jamais immobiles. Au début, les participants sont généralement motivés par la curiosité, la conviction ou un réel désir de construire quelque chose de résilient. Avec le temps, ces motivations finissent souvent par devenir plus pratiques. L’efficacité remplace la patience. La commodité devient progressivement plus précieuse que la vérification attentive. Je ne suis pas sûr que le protocole Newton puisse éviter ce changement, car tout système de coordination doit finalement affronter la réalité que les gens changent bien avant que le code ne change.
Il semble aussi possible que la gouvernance évolue de manière que personne n’avait prévue. Un réseau décentralisé ne devient pas nécessairement centralisé à cause d’une décision unique. Parfois, les mêmes contributeurs deviennent tout simplement plus dignes de confiance, plus actifs et plus influents que le reste. D’autres commencent à les suivre parce que cela semble plus facile que de remettre en question chaque décision. De l’extérieur, rien ne paraît cassé, mais la répartition de l’influence se rétrécit silencieusement.
Peut-être que la question la plus importante n’est pas de savoir si le protocole Newton peut coordonner l’IA de manière sécurisée, mais s’il peut préserver la pensée indépendante une fois l’euphorie retombée. La plus forte pression ne viendra peut-être pas d’attaquants ou de défaillances techniques. Elle pourrait venir de participants ordinaires qui cessent progressivement de se poser des questions difficiles parce que.
@NewtonProtocol #Newt $NEWT