Ce que « BLACK MIRROR (saison 4) » nous dit sur demain

Olivier Parent 1
Ce que « BLACK MIRROR (saison 4) » nous dit sur demain

This post has already been read 981 times!

Deux ou trois choses que « BLACK MIRROR », la série de Charlie Brooker, aurait à nous dire sur demain… 
« Dis-moi quel film tu regardes, je te dirai quel avenir tu te prépares » pourrait tout aussi bien dire le prospectiviste…

 

Une co-production Huffington Post – C’est Demain et
Le Comptoir Prospectiviste – FuturHebdo

 


Création : Charlie Brooker
Scénarios : Charlie Brooker
Durée : env. 45 min.

 

La saison 4 de la série Black Mirror nous propose une nouvelle collection de films qui, de saison en saison, dressent l’anthologie d’une ontologie du XXIe siècle, qui tracent les principes d’une humanité, d’un être humain plongé dans un environnement de plus en plus définit par les rapports qu’entretiennent l’individu et la collectivité avec la technologie.

La nouvelle saison de Black Mirror peut être divisée en deux grands thèmes. Le premier décrit la violence qui peut émerger des rapports entre l’individu et une innovation quand celle-ci nie l’individu et plus particulièrement son intimité. Les épisodes « Crocodile » ou « Arkange » poussent à l’extrême l’intrusion des systèmes dans la vie privée de l’individu. Ils sont surtout une réponse caricaturale à la non-question trop généralement constatée, à l’état de fait trop facilement accepté : « Pour les GAFA, je suis le produit. Soit ! Je leur offre mes données en échange d’un service gratuit… et alors ? Je n’ai rien à cacher ! »

Si les deux épisodes cités plus haut mettent en scène des situations qui nient l’individu et son droit à l’intime, à la vie privée, chacun d’eux interpellent le spectateur au travers de situations très différentes : « Arkange » raconte les évidentes conséquences familiales d’une hyper protection parentale et technologique. De son côté, « Crocodile » décrit une justice qui se veut honnête et arrive heureusement à ses fins par des moyens technologiques. Toute la perversion de cet épisode réside dans ce « heureusement » car, une nouvelle fois, c’est la vie privée des individus qui se trouve bafouée.

Le deuxième thème déployé dans cette saison 4 de Black Mirror tourne autour de l’interrogation que certains considèrent comme légitime avant même l’émergence du sujet de la question : la Singularité chère aux Transhumanistes. La question peut être énoncée ainsi : “Quand les IA seront effectives, devront-elles être considérées comme des individus à part entière, qui auront le droit à la protection et au respect dus aux êtres humains ?” En se glissant dans le lit des Transhumanistes, autant commencer à nommer les humains IB, intelligences biologiques… tout en rappelant que, à ce jour, les IA, bien que très puissantes dans des domaines d’activité très étroit (jeux d’échec ou de Go, reconnaissance de forme, extraction de séquences sensées d’un océan de données brutes…) demeurent incapable de gérer la complexité qui est le quotidien de chaque humain : déplacements dans l’espace, interactions interpersonnelles, analyses des symboles corporels, figurés, verbalisés ou non, humour, sarcasme… instinct de survie, générosité, gratuité, éthique…

Cependant, derrière l’injonction transhumaniste qui dit que les IA seront des « individus comme les autres », il y a, en embuscade, une autre des visées revendiquées par les Transhumanistes : la fin de la mort grâce à la sauvegarde numérique de tout ce qui constitue une personne. La mémoire, la personnalité, les expériences d’un individu passeraient du support naturel, biologique, à un support numérique, artificiel… Alors et de manière assez logique, afin d’envisager la future existence de ses personnes digitalisées, une IA fonctionnant avec les données numérisées des éléments constitutifs d’une personne biologique il faut déjà que le substrat technologique fonctionne à « blanc », c’est à dire qu’il existe les systèmes capables, aussi bien en terme de hardware (capacité de calcul, de stockage) que de software (algorithmes, interfaces), de vérifier et de porter l’existence de systèmes cognitifs artificiels et complexes, assimilables à une intelligence biologique, des intelligences artificielles autonomes construites ex nihilo, des entités qui puissent dire par elles-mêmes : « Cogito ergo sum ». Arrivés à ce point, on pourra envisager de télécharger les données numérisées d’une IB dans un tel système, système dans lequel aucune IA n’aurait été déployée, en espérant voir ce programme complexe dire :  » je suis une IA mais j’ai été une IB ! »

En acceptant cette éventualité comme probable, tout en se gardant d’établir un rétro planning pour une telle réalisation, on peut néanmoins poser quelques questions légitimes : Cette IA copie d’une IB, d’une personne humaine, est-elle effectivement une copie conforme de cette personne ? Et, cette IA, par son origine humaine, est-elle un individu à part entière, numériquement vivant ?

Afin de tenter d’apporter des éléments de réponses à ces questions, on peut réfléchir à cette opération de numérisation d’une personne. En envisageant que l’on puisse « lire » un cerveau humain, ce qui, à ce jour, reste du domaine de la Science-Fiction, on devra donc digitaliser ces informations — mémoire, expériences, personnalité — pour les enregistrer de manière à ce qu’elles soient utilisables par un ordinateur. Il n’est pas inutile ici de rappeler que la numérisation d’une donnée analogique, biologique consiste à effectuer un échantillonnage de l’objet concerné. Si l’on prend l’exemple de la musique, on va couper en « tranches » très fines la courbe du son, couramment 48 000 fois par seconde (échantillonnage à 48 000 Hz) pour enregistrer la valeur numérique de chaque tranche. Donc, on écrête, on efface toutes les nuances plus courtes que la valeur d’échantillonnage. A l’époque de l’arrivée sur le marché du Compact Disc, il y eut des oreilles mélomanes qui se disaient capables de sentir la différence entre un signal numérique et un enregistrement analogique… Si cela était vrai, cela ne devait concerner qu’une minorité du public qui, lui, désormais se contente d’enregistrements au format mp3, une technologie qui, à partir des données numériques d’échantillonnage, crée des fichiers très légers en compressant le son, en lui enlevant toutes les nuances, les fréquences dites inaudibles par l’oreille humaine. On peut continuer l’analogie avec les images numérique : peut importe le nombre de pixels du téléviseur, l’image sera toujours constitué d’une juxtaposition d’échantillons, les pixels, ces petits carrés lumineux qui, comme des briques de couleurs, construisent l’image… là aussi, l’échantillonnage à fait disparaître une partie des informations, à moins d’augmenter la résolution de l’image, avec des quantités de données qui croissent de façon exponentielle. Comme pour le son, l’image peut être compressée : c’est par exemple le format jpeg. Et ce sont encore des informations que l’on efface parce qu’imperceptibles par l’œil humain…

Si la perte d’informations ne semble finalement pas trop dommageable en matière de musique ou d’images, quand on touche à ce qui constitue une personne, perceptions, souvenirs, expériences, comportements, on peut commencer à avoir des doutes sur le caractère soi-disant conforme d’une copie numérique d’une personnalité humaine… même en envisageant un échantillonnage extrêmement fin, ne perdra-t-on pas les nuances qui font la personnalité de l’individu biologique par le simple fait de la numérisation, en écrêtant, en effaçant les informations hors échantillonnage ? Et si la complexité d’une personne humaine était dans ces nuances soit-disant non perceptibles ? Et puis, et c’est peut-être là la question essentielle, pourra-t-on réellement extraire, copier, modéliser le logiciel analogique humain, la psychologie que développe chaque individu au cours de sa vie avec laquelle il met en relation, une nouvelle fois, de manière unique, souvenirs et expériences de la réalité, en fonction d’un corps et de ses sens, fenêtres, moyens de percevoir le monde eux aussi propres à chaque individu ?

Alors, dans un monde où une telle technologie serait accessible et mise en œuvre de manière simple, comme cela est montré dans Black Mirror, le fait, pour un mourant, de savoir que sa personnalité a bien été copiée et déployée dans un système efficace, cela le libèrerait-t-il de l’angoisse de la mort, de l’anéantissement, de l’annihilation ? Car, si l’on considère ces IA comme des consciences autonomes à part entière, à l’instant même du déploiement de données numérisée d’une IB dans un système de support d’IA, cette intelligence vivra sa propre expérience de la réalité, au travers des sens numériques qui auront été mis à sa disposition, commençant à accumuler une expérience autre que ce que vit l’IB. Il y aura donc eut divergence, créant deux individus différents et autonomes, au lieu d’une continuité de la conscience indépendante du support, biologique ou informatique.

Par ailleurs, on le sait rien qu’en observant l’informatique contemporaine : un même logiciel fonctionne de manière différente, en fonction de l’ordinateur utilisé, du type d’OS, le système d’opération de l’ordinateur, de la version de cet OS… bien que les enthousiastes de ces technologies parient sur les futures générations d’ordinateurs dits quantiques pour s’affranchir des limites de puissance de l’informatique contemporaine. Ces ordinateurs sont effectivement plus que prometteurs mais c’est tout un pan de la connaissance qui reste à être écrit, à être développé. Il n’en reste pas moins qu’une IA dépendra d’infrastructures logicielles et matérielles plus ou moins pérennes, avec le risque, pour une IA, de ne pas se savoir bridée, diminuée, tronquée d’une partie plus ou moins grande de sa personnalité et néanmoins convaincue d’être l’original biologique… comme le montre les épisodes « USS Callister » et « Black Muséum » de la saison 4 de Black Mirror. Et, il n’a pas été ici abordé la possibilité de dupliquer à l’infini une IA, situation qui soulève encore d’autres interrogations…

Alors, peut-on qualifier d’individu, de conscience autonome des systèmes manipulables, modifiables à volonté et à leur insu ? Des copies numériques d’IB qui pourraient ne jamais savoir qu’elles sont de copies plus ou moins tronquée, qui pourraient vivre dans un univers persistant, croyant vivre la réalité, comme dans l’épisode « Hang the DJ » ? Et puis, si finalement ces IA ne sont que de complexes programmes informatiques, en rien assimilables à des consciences autonomes, il n’y aurait donc aucune « contre-indication » éthique à malmener ces dites IA… non ?

A ces interrogations on peut opposer que les IB dépendent, elles, de la génétique, leur programme biologique ; qu’on a jamais retiré à un individu handicapé, diminué, son humanité pour la seule raison que son code est altéré ; que l’on peut manipuler et modifier la perception de la réalité au moyen de drogues ; que la réalité dans laquelle nous vivons pourrait bien être qu’une gigantesque simulation de la taille de l’univers, un univers procédural qui se génère à l’infini, peu importe la direction où porte le regard…

Reste un sixième et dernier épisode : “Metalhead”. Cette dystopie, assez classique, met en scène une humanité qui aurait perdu le contrôle des IA, une humanité qui serait en train de perdre définitivement la guerre contre les IA. On peut juste noter que les machines qui, dans cet épisode, pourchassent les humains ressemblent étrangement aux “chiens-robots” de Boston Robotics…

Ainsi, comme les saisons précédentes, la quatrième saison de Black Mirror pose nombre de questions sans jamais apporter de réponses définitives. La série Black Mirror invite le spectateur à se plonger dans les expériences de pensée que sont chacun de ces films pour que chacun apporte sa contribution à l’œuvre commune qu’est la quête de ces réponses, contributions qui écrivent quelques paragraphes d’une nécessaire ontologie au cœur de notre XXIe siècle.

One Comment »