Un voyageur arrive à un aéroport.

La vérification d’identité réussit.

Le passeport est valide.

Les contrôles biométriques passent.

La porte reste fermée.

Le système a suivi les règles.

Le voyageur ne sait toujours pas :

pourquoi la demande a été refusée,

qui a pris la décision,

ou comment la décision peut être contestée.

À mesure que les systèmes autonomes deviennent plus courants, la légitimité peut dépendre de plus que d’une exécution correcte.

Les personnes peuvent aussi s’attendre de plus en plus à autre chose :
une explication.

Parce qu’une autorité sans explication finit par engendrer la méfiance.
Et des décisions sans recours finissent par devenir un pouvoir sans responsabilité.

Les systèmes équitables expliquent leurs décisions.

@NewtonProtocol $NEWT #Newt #NewtonProtocol #newt