La responsabilité démocratique numérique : changer les règles du jeu !

Ce récit est inspiré des travaux sur les algorithmes de Cathy O'Neil, data scientist, dont voici une vidéo synthétique et pédagogique : https://frama.link/24d-1mfD, ainsi que de la pensée de Jacques Testard, François Veuillerette, Eric Sadin,  Philippe Bihouix, Fabrice Hadjhadj, Miguel Benassayag, Jean-Michel Besnier, Olivier Rey, Edgar Morin.

Le web, la recherche et l’innovation sont aujourd’hui essentiellement pilotées par des algorithmes et des intérêts économiques industriels à court terme. Or, les algorithmes définissent notre avenir en fonction de nos décisions passées, non pas du présent ! Ils ne prennent ainsi pas en compte notre capacité à changer, s’adapter. De plus, nous sommes à un tournant historique où la technoscience et l'I.A. ont le pouvoir d'énoncer "LA" vérité, en monopolisant la parole, le discours via les objets connectés, eux-mêmes codés en fonction d'algorithmes. Ils sont l'une des raisons fondamentales qui font que les inégalités s’accroissent, que le transhumanisme se diffuse et qu'il soit si difficile de changer de cap, de voie.

Le web de demain s'humanisera parce que les humains, collectivement, décident de SUBORDONNER LES TECHNOSCIENCES à l’ETHIQUE.

Ils décident de suivre 2 principes :

-       “tout ce qui peut être techniquement réalisé ne doit pas être obligatoirement réalisé” ;

-       “les lobbies sont exclus des choix scientifiques et politiques”.

Ils décident la création :

1/ d’outils et de moyens permettant :

-       D’analyser les algorithmes,

-       d’identifier les préjugés et les biais qu'ils contiennent (quelle est la définition du "succès" ou du "progrès" à partir de laquelle l’algorithme préconise un choix ?) ;

-       De créer et reconnaître des critères d’évaluation pour les chercheurs engagés dans des projets de recherche participative ;

-       De donner à la recherche publique les moyens nécessaires, sans qu’elle ait à faire appel aux fonds privés, avec une participation effective des citoyens dans la définition des priorités,

-       de créer des mécanismes correctifs dès lors que les externalités négatives et effets pervers des algorithmes et des technosciences sont avérés ;

2/ de comités de jurys citoyens :

-       sur le principe du 1 pour 1 : 1 centre de recherche <=> 1 comité d'éthique indépendant ;

-     Pour promouvoir la recherche participative, ouvrant la science à la société civile dans le domaine de l’expertise ;

-       Pour exiger une reddition de compte pour les algorithmes qui ont des conséquences graves sur le fonctionnement de la société ; ex. loi, justice, économie, environnement,

-       Pour soumettre régulièrement au Parlement l’avis d’une convention de citoyens sur les grandes priorités proposées par les acteurs de la recherche ;

3/ la création d'un système d'appel anti-algorithmique et I.A. :

-       pour tout citoyen se trouvant lésé de ses droits fondamentaux, droits constitutionnels, droits juridiques, du fait de l'usage des algorithmes ou de l’IA, par exemple du fait du déploiement de « score citoyen » ou social ranking, tel qu’il est mis en place en Chine, privant les "mauvais" consommateurs de leurs droits fondamentaux ;

-       afin que tout citoyen puisse se défendre, se justifier, s'expliquer ;

-     permettant de contrer le mécanisme de confiscation de la parole (injonctive, impérative, prescriptive, coerctive) par l'I.A. afin de remettre une parole humaine et la puissance humaine au coeur de tout processus de décision et de justice ;

4/ de soutenir à chaque fois que possible, les expériences sociales mettant en œuvre des “low-tech”... c'est-à-dire, de renouer avec des modes de rationalité proprement humains, sachant renoncer avec humilité à l'hubris et la folie d'homo deus demens, faisant renaître la puissance d'homo sapiens sapiens.

Ce récit est une ébauche : il est ouvert et ne demande qu'à être amendé, enrichi, co-construit !