Le Prince Algorithme | Yves Krief | Les Mardis du Luxembourg #03

Yves Krief Commentaires fermés sur Le Prince Algorithme | Yves Krief | Les Mardis du Luxembourg #03
Le Prince Algorithme | Yves Krief | Les Mardis du Luxembourg #03

This post has already been read 1823 times!

Initié par François Laurent, co-président de l’ADETEM, le think tank Les Mardis du Luxembourg regroupe des professionnels de plusieurs secteurs, passionnés par leurs domaines respectifs : avocats, philosophes, prospectivistes, mythanalystes, experts du marketing et de la communication, artistes…
Dans la plus grande liberté de débat et de désaccord, ils se sont donnés pour tâche l’analyse de la société sous toutes ses formes en croisant les angles de lecture.
Après la notion de disruption (Rupture, vous avez disrupture ? Éditions Kawa, 2015) et la vie privée à l’heure de l’hyper connexion (Chroniques de l’intimité connectée, Editions Kawa, 2016), l’autorité est l’objet des récentes réflexions des Mardis du Luxembourg…


 

Petit conte cruel sur un futur dystopique 

Ce matin-là en se rasant, Josef L. fut pris d’une inexplicable nausée. Rien de ce qu’il avait mangé ou bu ne pouvait être la cause de son mal-être. Après avoir avalé quelques comprimés, il se résigna à admettre que ce malaise n’était pas physiologique. Quelques jours auparavant, en consultant les data qui le concernaient, il avait pu vérifier que sa vie y était proprement consignée.  
Bien qu’il fut un spécialiste de ces questions, il restait stupéfait de la capacité de ces machines à connaître et mettre en relation des facteurs incroyablement disparates tels que ses fréquentations de sites, son CV avec toutes ses variations, les mesures de son taux de testostérone,  ses relations amoureuses et même ses désirs de partir au loin explorer les quelques forêts encore vivantes de la planète
Ingénieur système sur l’ordinateur quantique Big Trump, Joseph L. avait été à l’origine de cette tradition qui consistait à donner aux machines le nom d’un ancien Président des États-Unis, comme on le faisait pour les porte-avions ou les avenues. Et néanmoins, il se disait que la liberté dont des siècles d’humanisme lui avait procuré le goût, se dissolvait dans l’implacable déterminisme dont les machines s’étaient emparées. 

Il savait que l’efficacité opérationnelle des sciences de la nature s’étendait maintenant depuis plus de trois décennies au monde du vivant.  
Se rendant à son bureau qui se tenait près de la station Emmanuel Macron, Josef L. se souvint de cette demi-plaisanterie : « un cerveau, c’est un ordinateur fait de viande ».  
Pas d’âme, pas de libre arbitre, pas de soi ; que des gènes, des hormones, des neurones et… des algorithmes. 
Tête baissée, les yeux au sol, il se disait « si je suis ce que je fais, et si ce que je fais peut être un ensemble de données, dans l’infinité de tous mes comportements, alors mon double numérique et moi ne font qu’un ».  Cette pensée lui fut intolérable ; parce qu’il y manquait sa conscience et sa volonté. Je vois ce gratte-ciel, je sens cette odeur de pain grillé, j’entends le chuintement des drones-taxi.  
Mais enfin, quelle devait être sa liberté si tout ce qu’il voulait, tout ce qu’il espérait et même tout ce qu’il rêvait était hautement prévisible, résultat d’un calcul algorithmique dont personne n’avait plus les clefs ? 
L’alliance des neurosciences, des sciences cognitives et de l’informatique quantique avait rendu possible cette incroyable avancée de la connaissance du cerveau.  
Joseph L. malgré sa formation résistait à cette l’idée que « le cerveau sécrète la pensée comme le foie sécrète la bile ». 
Il était convaincu qu’il n’en était rien, sentant sa propre conscience comme conscience libre. En souriant en lui-même, lui revenait cette tirade de Sganarelle : « mon raisonnement est qu’il y a quelque chose d’admirable dans l’homme, quoi que vous puissiez dire, que tous les savants ne sauraient expliquer. Cela n’est-il pas merveilleux que me voilà ici, et que j’aie quelque chose dans la tête qui pense cent choses différentes en un moment, et fait de mon corps tout ce qu’elle veut ? Je peux frapper des mains, hausser le bras, lever les yeux au ciel, baisser la tête, remuer les pieds, aller à droite, à gauche, en avant, en arrière, tourner… » 
Il avait été ce jeune garçon qui avait postulé dans une société de conseil en biotechnologie. Sans même qu’il s’en fût rendu compte, il avait laissé toutes les traces de ses comportements sur les réseaux ; ses intérêts musicaux par ses abonnements sur des sites de musique ; les caméras de surveillance à reconnaissance de visages l’avaient repéré dans ses déplacements… Le DRH connaissait déjà ses besoins et ses désirs et lorsqu’il fut recruté, l’algorithme nota ses performances, lui proposa un poste puis un plan de carrière et des promotions ajustées à personnalité. 
C’était avant la politique des doubles numériques. 

Depuis, l’influence des algorithmes dans la société s’était exponentiellement accrue, et bien qu’ils suscitassent, ces algorithmes, d’intenses oppositions, ils étaient évalués à l’aune des satisfactions qu’ils procuraient, allégeant les travaux pénibles et répétitifs et devenant progressivement intelligents.  
Josef avait largement contribué à cette évolution en calculant, reliant, reconfigurant les programmes des machines. 
Sa spécialité : le domaine neuro-juridique.  
Au tout début, un juge collectait les dossiers, les témoignages, les plaidoiries, mais jugeait en dernier recours. D’abord suppléante, l’intelligence de la machine montra un tel degré  de prédictibilité et même d’humanité dans ses décisions que l’humain devient lui-même suppléant.  
Le juge devint vite obsolète. 
Après avoir traité du civil, Josef orienta les algorithmes vers le pénal. Les jugements parurent bien construits, subtilement argumentés. 
L’amélioration des performances des algorithmes devenait chaque jour plus évidente bien que leur fonctionnement interne fut de plus en plus opaques à la compréhension. 
Après les jugements sans juges, il travailla sur la physique sans physiciens, la chimie sans chimistes.   
Ainsi allait la science nouvelle sans lois générales. 

Et pourquoi alors ne pas produire des élections en fonction des désirs et intérêts les citoyens ? 
Une Assemblée Nationale fut « élue », dont les membres représentaient les votes citoyens à travers leur profilage : non pas en suivant l’état d’esprit du moment, le dernier fait-divers dont la dimension symbolique occultait les vraies questions politiques, mais en suivant le moi profond, celui de toutes les données qui étaient chacun. Ce furent donc les doubles numériques qui votèrent. 
Disparurent les représentants élus suivant la tradition, l’expérience commune et l’espace public. 
Josef comprit que les fonctions de l’État, y compris les fonctions régaliennes, étaient toutes en voie de remplacement par des algorithmes. La police-algorithme déterminait les probabilités de crime de plus en plus proches de la certitude ; les juges-algorithmes s’appuyaient sur une jurisprudence de plus en plus abondante, tandis que les tensions diplomatiques s’alimentaient de la dissémination des armes autonomes gérées par des algorithmes militaires..  
Quelles que fussent les volontés des uns et des autres, les algorithmes contrôlaient tout : la sécurité, la gestion des ressources, l’optimisation de dépenses, les politiques de santé et de défense. 
La formation initiale de Joseph L., la bio-informatique quantique, lui avait appris à rechercher les causes des phénomènes, les déterminations, les lois. Et néanmoins sa pratique quotidienne sur la conception des algorithmes heurtait sa conscience ; il se révoltait devant cette vérité : les désirs, les affects étaient le résultat de processus physico-chimiques complexes qui s’imposaient à chaque individu : plus encore, qui étaient lui. Ces processus, —il en était l’expert, expliquaient mécaniquement l’ensemble des comportements des hommes, et les algorithmes avalaient tout.  
Les données massives sur chaque acte de l’existence des hommes, sur l’état de leur corps, de leurs gènes et de leurs hormones enfermaient leur quotidien et leurs secrets.  
Chacun allait avec son double numérique en même temps qu’il le détestait. « Tu aimeras ton double numérique comme toi-même » ; voilà ce qu’on lui imposait de respecter. 
Ce matin-là, il comprit l’origine de son mal-être : non, son libre-arbitre n’était pas une illusion.  

En même temps qu’il y participait, il considérait que ce monde de surveillance devenait absurde. Il avait déjà ressenti cette étrange sensation d’avoir en même temps conscience de lui-même et de la présence de son double.  
Son malaise se changea en colère, et la colère en violence. Il ne pouvait mettre des mots sur ce sentiment d’impuissance. Il s’aperçut qu’il n’était pas seul. 
Quand la fièvre devint collective, la violence se répandit partout. Josef portait une banderole confectionnée avec un drap « je ne suis pas un numéro ».  D’autres manifestants proclamaient « mon double n’est pas moi ». Très vite les manifestations tournèrent au chaos. Le heurt entre l’asservissement par le double et la conscience d’une liberté menacée gagna l’ensemble de la population. Était intolérable l’écrasement des possibles sur le présent, la vie réduite au chiffre, les émotions et les désirs anticipés. Tous voulaient faire l’expérience de leur liberté, de leur subjectivité et niaient toute autorité morale abstraite, l’autorité des données et des algorithmes. Pour preuve, tous voulaient réaliser des actes gratuits, pleinement libres.  
Lorsqu’un manifestant tira dans la foule, ce fut un indescriptible chaos. Certains hurlaient comme des loups, d’autres crachaient au visage de leur prochain, d’autres encore laissaient parler leur instinct meurtrier.  
Tous enviaient l’acte de l’autre et voulaient surenchérir.  
On monta très vite aux extrêmes. 
Il n’y eut plus de société, plus de règles, tout était transgression. 
Le développement des sciences et techniques fut ainsi une menace tragique pour la paix publique, pour l’autorité du politique. Ce fut le début des désordres, une vendetta à l’échelle du pays, une guerre qui s’alimenta d’elle-même, dans laquelle l’ami d’aujourd’hui était l’ennemi du lendemain. Ce n’était pas la guerre des robots contre les hommes mais au contraire celle des sujets humains contre les algorithmes. Le nihilisme s’épanouit comme reconquête du sujet contre les Institutions et les Autorités, une reconquête de l’autonomie et du libre choix, mais sans respect de l’autre, sans responsabilité. 
Dans cette paranoïa paroxystique collective, chacun se sentait un ennemi de tous, chacun aurait pu clamer selon le mot de Dostoïevski : « je suis seul et ils sont TOUS ».  
Lorsque Josef cria « à l’Élysée ! », la violence se concentra sur le représentant ultime de l’autorité, le Président de la République. C’était lui en dernière instance qui avait tout permis : la gestion de l’état en « démocratie algorithmique », la révision constitutionnelle qui avait institué le vote des doubles numériques, la promotion des armes autonomes. 
La destruction du palais de l’Élysée mit fin au désordre. L’action était si énorme que l’agressivité retomba aussitôt. 
Dans les ruines fumantes et les poutrelles tordues de ce qui avait été les Ors de la République, de ce qui avait été le Palais de l’Élysée, au milieu des décombres, des charpentes noircies et des murs effondrés, tous étaient étonnés, comme sidérés devant la dimension de leur acte.  
Joseph L. et les autres émeutiers repartirent en titubant.  Tous se fixaient les uns les autres de leurs prunelles vides ; mais on voyait déjà dans leur visage noirci comme la fin d’une séquence, comme ces moments où, après avoir détruit le lien de violence qui les animaient, il se concentraient sur l’avenir. 
Joseph L. rentra dans son bureau de la rue Emmanuel Macron dans ce XXIIème arrondissement. Comment faire pour ramener un semblant de paix dans ce monde de désordre ? Comment renouer les fils brisés du consensus social ? En ouvrant toutes les interfaces de son ordinateur quantique, il eut l’idée de rassembler, dans un algorithme d’ensemble, les différents algorithmes qui géraient chacun un domaine spécialisé des institutions,  
Ce qui émergea, ce fut une super intelligence qui stupéfia tous les acteurs du carnage. Car si chacun des algorithmes était assigné profondément à une tâche, celui-ci prenait en compte en même temps latéralement tous les contextes, toute la complexité du monde. Son intelligence était redoutable ; il était capable de reprendre toutes les fonctions dévolues à un état néo-démocratique ; il gérait la totalité des aspects de la vie. C’était lui qui devait reconstruire. C’était lui qui devait assurer la sécurité des citoyens. C’était lui le Prince de la nouvelle société apaisée, lui à qui on déléguait l’Autorité, vers lequel on abdiquait ses droits ; il était la condition d’une société pacifiée. 
La figure tutélaire qui apparut à tous représentait le souverain dont le corps était la multitude des données de tous les hommes, leurs doubles numériques.  
Fait de tous les hommes, il était moins Dieu, mais plus que les hommes.
Et librement ils devinrent esclaves…

Comments are closed.