Deux ou trois choses que « BLACK MIRROR », le film de Charlie Brooker, nous dit sur demain…« Dis-moi quel film tu regardes, je te dirai quel avenir tu te prépares », parole de prospectiviste !
Création : Charlie BrookerScénarios : Charlie BrookerDurée : env. 45 min.Année : 2017
La saison 4 de la série Black Mirror nous propose une nouvelle collection de films qui, de saison en saison, dressent l’anthologie d’une ontologie du XXIe siècle, qui tracent les principes d’une humanité, d’un être humain plongé dans un environnement de plus en plus définit par les rapports qu’entretiennent l’individu et la collectivité avec la technologie.
La nouvelle saison de Black Mirror peut être divisée en deux grands thèmes. Le premier décrit la violence qui peut émerger des rapports entre l’individu et une innovation quand celle-ci nie l’individu et plus particulièrement son intimité. Les épisodes « Crocodile » ou « Arkange » poussent à l’extrême l’intrusion des systèmes dans la vie privée de l’individu. Ils sont surtout une réponse caricaturale à la non-question trop généralement constatée, à l’état de fait trop facilement accepté : « Pour les GAFA, je suis le produit. Soit ! Je leur offre mes données en échange d’un service gratuit… et alors ? Je n’ai rien à cacher ! »
Si les deux épisodes cités plus haut mettent en scène des situations qui nient l’individu et son droit à l’intime, à la vie privée, chacun d’eux interpellent le spectateur au travers de situations très différentes : « Arkange » raconte les évidentes conséquences familiales d’une hyper protection parentale et technologique. De son côté, « Crocodile » décrit une justice qui se veut honnête et arrive heureusement à ses fins par des moyens technologiques. Toute la perversion de cet épisode réside dans ce « heureusement » car, une nouvelle fois, c’est la vie privée des individus qui se trouve bafouée.
Le deuxième thème déployé dans cette saison 4 de Black Mirror tourne autour de l’interrogation que certains considèrent comme légitime avant même l’émergence du sujet de la question : la Singularité chère aux Transhumanistes. La question peut être énoncée ainsi : “Quand les IA seront effectives, devront-elles être considérées comme des individus à part entière, qui auront le droit à la protection et au respect dus aux êtres humains ?” En se glissant dans le lit des Transhumanistes, autant commencer à nommer les humains IB, intelligences biologiques… tout en rappelant que, à ce jour, les IA, bien que très puissantes dans des domaines d’activité très étroit (jeux d’échec ou de Go, reconnaissance de forme, extraction de séquences sensées d’un océan de données brutes…) demeurent incapable de gérer la complexité qui est le quotidien de chaque humain : déplacements dans l’espace, interactions interpersonnelles, analyses des symboles corporels, figurés, verbalisés ou non, humour, sarcasme… instinct de survie, générosité, gratuité, éthique…
Cependant, derrière l’injonction transhumaniste qui dit que les IA seront des « individus comme les autres », il y a, en embuscade, une autre des visées revendiquées par les Transhumanistes : la fin de la mort grâce à la sauvegarde numérique de tout ce qui constitue une personne. La mémoire, la personnalité, les expériences d’un individu passeraient du support naturel, biologique, à un support numérique, artificiel… Alors et de manière assez logique, afin d’envisager la future existence de ses personnes digitalisées, une IA fonctionnant avec les données numérisées des éléments constitutifs d’une personne biologique il faut déjà que le substrat technologique fonctionne à « blanc », c’est à dire qu’il existe les systèmes capables, aussi bien en terme de hardware (capacité de calcul, de stockage) que de software (algorithmes, interfaces), de vérifier et de porter l’existence de systèmes cognitifs artificiels et complexes, assimilables à une intelligence biologique, des intelligences artificielles autonomes construites ex nihilo, des entités qui puissent dire par elles-mêmes : « Cogito ergo sum ». Arrivés à ce point, on pourra envisager de télécharger les données numérisées d’une IB dans un tel système, système dans lequel aucune IA n’aurait été déployée, en espérant voir ce programme complexe dire : » je suis une IA mais j’ai été une IB ! »
En acceptant cette éventualité comme probable, tout en se gardant d’établir un rétro planning pour une telle réalisation, on peut néanmoins poser quelques questions légitimes : Cette IA copie d’une IB, d’une personne humaine, est-elle effectivement une copie conforme de cette personne ? Et, cette IA, par son origine humaine, est-elle un individu à part entière, numériquement vivant ?
Afin de tenter d’apporter des éléments de réponses à ces questions, on peut réfléchir à cette opération de numérisation d’une personne. En envisageant que l’on puisse « lire » un cerveau humain, ce qui, à ce jour, reste du domaine de la Science-Fiction, on devra donc digitaliser ces informations — mémoire, expériences, personnalité — pour les enregistrer de manière à ce qu’elles soient utilisables par un ordinateur. Il n’est pas inutile ici de rappeler que la numérisation d’une donnée analogique, biologique consiste à effectuer un échantillonnage de l’objet concerné. Si l’on prend l’exemple de la musique, on va couper en « tranches » très fines la courbe du son, couramment 48 000 fois par seconde (échantillonnage à 48 000 Hz) pour enregistrer la valeur numérique de chaque tranche. Donc, on écrête, on efface toutes les nuances plus courtes que la valeur d’échantillonnage. A l’époque de l’arrivée sur le marché du Compact Disc, il y eut des oreilles mélomanes qui se disaient capables de sentir la différence entre un signal numérique et un enregistrement analogique… Si cela était vrai, cela ne devait concerner qu’une minorité du public qui, lui, désormais se contente d’enregistrements au format mp3, une technologie qui, à partir des données numériques d’échantillonnage, crée des fichiers très légers en compressant le son, en lui enlevant toutes les nuances, les fréquences dites inaudibles par l’oreille humaine. On peut continuer l’analogie avec les images numérique : peut importe le nombre de pixels du téléviseur, l’image sera toujours constitué d’une juxtaposition d’échantillons, les pixels, ces petits carrés lumineux qui, comme des briques de couleurs, construisent l’image… là aussi, l’échantillonnage à fait disparaître une partie des informations, à moins d’augmenter la résolution de l’image, avec des quantités de données qui croissent de façon exponentielle. Comme pour le son, l’image peut être compressée : c’est par exemple le format jpeg. Et ce sont encore des informations que l’on efface parce qu’imperceptibles par l’œil humain…
Si la perte d’informations ne semble finalement pas trop dommageable en matière de musique ou d’images, quand on touche à ce qui constitue une personne, perceptions, souvenirs, expériences, comportements, on peut commencer à avoir des doutes sur le caractère soi-disant conforme d’une copie numérique d’une personnalité humaine… même en envisageant un échantillonnage extrêmement fin, ne perdra-t-on pas les nuances qui font la personnalité de l’individu biologique par le simple fait de la numérisation, en écrêtant, en effaçant les informations hors échantillonnage ? Et si la complexité d’une personne humaine était dans ces nuances soit-disant non perceptibles ? Et puis, et c’est peut-être là la question essentielle, pourra-t-on réellement extraire, copier, modéliser le logiciel analogique humain, la psychologie que développe chaque individu au cours de sa vie avec laquelle il met en relation, une nouvelle fois, de manière unique, souvenirs et expériences de la réalité, en fonction d’un corps et de ses sens, fenêtres, moyens de percevoir le monde eux aussi propres à chaque individu ?
Alors, dans un monde où une telle technologie serait accessible et mise en œuvre de manière simple, comme cela est montré dans Black Mirror, le fait, pour un mourant, de savoir que sa personnalité a bien été copiée et déployée dans un système efficace, cela le libèrerait-t-il de l’angoisse de la mort, de l’anéantissement, de l’annihilation ? Car, si l’on considère ces IA comme des consciences autonomes à part entière, à l’instant même du déploiement de données numérisée d’une IB dans un système de support d’IA, cette intelligence vivra sa propre expérience de la réalité, au travers des sens numériques qui auront été mis à sa disposition, commençant à accumuler une expérience autre que ce que vit l’IB. Il y aura donc eut divergence, créant deux individus différents et autonomes, au lieu d’une continuité de la conscience indépendante du support, biologique ou informatique.
Par ailleurs, on le sait rien qu’en observant l’informatique contemporaine : un même logiciel fonctionne de manière différente, en fonction de l’ordinateur utilisé, du type d’OS, le système d’opération de l’ordinateur, de la version de cet OS… bien que les enthousiastes de ces technologies parient sur les futures générations d’ordinateurs dits quantiques pour s’affranchir des limites de puissance de l’informatique contemporaine. Ces ordinateurs sont effectivement plus que prometteurs mais c’est tout un pan de la connaissance qui reste à être écrit, à être développé. Il n’en reste pas moins qu’une IA dépendra d’infrastructures logicielles et matérielles plus ou moins pérennes, avec le risque, pour une IA, de ne pas se savoir bridée, diminuée, tronquée d’une partie plus ou moins grande de sa personnalité et néanmoins convaincue d’être l’original biologique… comme le montre les épisodes « USS Callister » et « Black Muséum » de la saison 4 de Black Mirror. Et, il n’a pas été ici abordé la possibilité de dupliquer à l’infini une IA, situation qui soulève encore d’autres interrogations…
Alors, peut-on qualifier d’individu, de conscience autonome des systèmes manipulables, modifiables à volonté et à leur insu ? Des copies numériques d’IB qui pourraient ne jamais savoir qu’elles sont de copies plus ou moins tronquée, qui pourraient vivre dans un univers persistant, croyant vivre la réalité, comme dans l’épisode « Hang the DJ » ? Et puis, si finalement ces IA ne sont que de complexes programmes informatiques, en rien assimilables à des consciences autonomes, il n’y aurait donc aucune « contre-indication » éthique à malmener ces dites IA… non ?
A ces interrogations on peut opposer que les IB dépendent, elles, de la génétique, leur programme biologique ; qu’on a jamais retiré à un individu handicapé, diminué, son humanité pour la seule raison que son code est altéré ; que l’on peut manipuler et modifier la perception de la réalité au moyen de drogues ; que la réalité dans laquelle nous vivons pourrait bien être qu’une gigantesque simulation de la taille de l’univers, un univers procédural qui se génère à l’infini, peu importe la direction où porte le regard…
Reste un sixième et dernier épisode : “Metalhead”. Cette dystopie, assez classique, met en scène une humanité qui aurait perdu le contrôle des IA, une humanité qui serait en train de perdre définitivement la guerre contre les IA. On peut juste noter que les machines qui, dans cet épisode, pourchassent les humains ressemblent étrangement aux “chiens-robots” de Boston Robotics…
Ainsi, comme les saisons précédentes, la quatrième saison de Black Mirror pose nombre de questions sans jamais apporter de réponses définitives. La série Black Mirror invite le spectateur à se plonger dans les expériences de pensée que sont chacun de ces films pour que chacun apporte sa contribution à l’œuvre commune qu’est la quête de ces réponses, contributions qui écrivent quelques paragraphes d’une nécessaire ontologie au cœur de notre XXIe siècle.
Toutes ces analyses sont également rassemblées sur le site www.sciencefictiologie.fr, site dédié à la science-fiction qui éclaire le présent, grâce à la plume, le crayon et l’œil des auteurs !
Les autres films analysés pour Space’ibles :
– Ce que « SILENT RUNNING » nous dit sur demain | Space’ibles 2022 (coming soon) ;
– Ce que « THE WANDERING EARTH » nous dit sur demain | Space’ibles 2022 ;
– Ce que « INTERSTELLAR » nous dit sur demain | Space’ibles 2021 ;
– Ce que « DISTRICT 9 » nous dit sur demain | Space’ibles 2021 ;
– Ce que « ANIARA » (2018) nous dit sur demain | Space’ibles 2020 ;
– Ce que « GEOSTORM » (2017) nous dit sur demain | Space’ibles 2020 ;
– Ce que « OUTLAND » nous dit sur demain | Space’ibles 2019
– Ce que « ELYSIUM » nous dit sur demain | Space’ibles 2018
– Ce que « MOON » nous dit sur demain | Space’ibles 2018
– Ce que « PASSENGERS » nous dit sur demain | Space’ibles 2017
– Ce que « 2075, LES TEMPS CHANGENT » nous dit sur demain | Space’ibles 2017
Les chroniques Cinéma de FuturHebdo pour le Huffington Post :
– Ce que « PROXIMA » nous dit sur demain | Huffington Post
– Ce que « TERMINATOR : DARK FATE » nous dit sur demain | Huffington Post
– Ce que « AD ASTRA » nous dit sur demain | Huffington Post
– Ce que « ALITA BATTLE ANGEL » nous dit sur demain | Huffington Post
– Ce que « READY PLAYER ONE » nous dit sur demain | Huffington Post
– Ce que « BLACK MIRROR (S04) » nous dit sur demain | Huffington Post
– Ce que « BLADE RUNNER 2049 » nous dit sur demain | Huffington Post
– Ce que « VALERIAN : LA CITE DES 1000 PLANETES » nous dit sur demain | Huffington Post
– Ce que « LIFE : ORIGINE INCONNUE » nous dit sur demain | Huffington Post
– Ce que « GHOST IN THE SHELL » nous dit sur demain | Huffington Post
– Ce que « MORGANE » nous dit sur demain | Huffington Post
– Ce que « HARDCORE HENRY » nous dit sur demain | Huffington Post
– Ce que « DIVERGENTE 3 : AU-DELÀ DU MUR » nous dit sur demain | Huffington Post
– Ce que « STAR WARS VII : LE RÉVEIL DE LA FORCE » nous dit sur demain | Huffington Post
– Ce que « SEUL SUR MARS » nous dit sur demain | Huffington Post
Chroniques Cinéma de FuturHebdo sans vidéo :
— Ce que « WALL-E » nous dit sur demain ;
– Ce que « LES FILS DE L’HOMME » nous dit sur demain
– Ce que « BLADE RUNNER » nous dit sur demain
– Ce que « BIENVENUE A GATTACA » nous dit sur demain
– Ce que « CHAPPIE » nous dit sur demain
– Ce que « RETOUR VERS LE FUTUR 2 » nous dit sur demain
– Ce que « ROBOT AND FRANK » nous dit sur demain
– Ce que « REPO MEN » nous dit sur demain
– Ce que « RENAISSANCES » nous dit sur demain
– Ce que « MINORITY REPORT » nous dit sur demain