Notre peur de l’IA nous a mené vers nos pires craintes | 19/03/2050

Philippe Lemonnier Commentaires fermés sur Notre peur de l’IA nous a mené vers nos pires craintes | 19/03/2050
Notre peur de l’IA nous a mené vers nos pires craintes | 19/03/2050

This post has already been read 239 times!

Il y a une cinquantaine d’années, alors que l’intelligence artificielle devenait de plus en plus commune (dans les sujets d’actualité comme dans les développements des diverses apps), de nombreuses questions ont été posées à son sujet:

  • Quels sont les risques?

  • Qui contrôle le système?

  • Y’a-t-il un moyen de “débrancher” le système?

  • Qui est responsable en cas de problème?

  • Que se passe-t-il si l’IA devient consciente d’elle-même et que, comme dans les pires films de science-fiction, elle en vient à prendre le contrôle de notre monde ?

Ces questions étaient somme toute légitimes: la technologie était nouvelle, se déployait rapidement et restait surtout très difficile à comprendre pour la plupart d’entre nous. Le fameux “deep learning”, ce système permettant d’apprendre par lui-même était notamment le plus obscur et souvent réputé comme étant incompréhensible, bien que fonctionnel, même pour les pus spécialistes en la matière.

L’IA faisait peur. Peur légitime face à la nouveauté, face à l’inconnu et face, aussi, aux capacités immenses d’une telle technologie.

Alors, l’humanité a décidé qu’elle ne jouerait pas à Frankestein et qu’elle contrôlerait le plus strictement possible sa création. Et les éléments de régulation de l’IA sont donc apparus à partir des années 2030 venant donner à nos gouvernements des rôles très importants dans le contrôle de l’IA.

Et par contrôle il faut entendre en vérité: droit de regard sur l’ensemble des données sélectionnées en entrée, analyse des données en sortie, sujets sur lesquels l’IA était en droit ou pas d’intervenir. Certains Etats sont allés très loin et ont créé des entités spécifiques en charge de couvrir l’ensemble des projets d’IA, devenant de vrais instituts de censure et “d’espionnage” des ingénieurs.

L’objectif officiel était le suivant: la population, via son gouvernement, doit savoir quelles données lui appartenant sont utilisées par les grandes entreprises (et les moins grandes) pour développer leur business (lucratif) et doivent avoir le pouvoir pour éviter que les ingénieurs, dans leurs salles de développement obscures, se croient permis de tout faire.

Oui mais voilà, comme bien souvent, l’humanité a vu la paille dans l’oeil de sa création en oubliant de voir la poutre dans le sien. Et cette formidable activité de régulation, que d’aucuns ont appelé dans bien d’autres domaines autres que la technologie (finance, social, environnemental…) s’est révélé en fait un bien formidable outil pour les gouvernements populistes et nationalistes, Frankestein des systèmes démocratiques, où un autoritarisme réel dans des habits de république est venu prendre complètement le contrôle de la situation.

Digne des plus belles scènes Orwelliennes, bien des populations se sont retrouvées sous le joug d’un gouvernement qui avait là la recette miracle pour contrôler la population. Bien évidemment la Chine a été en tête de pont de cette révolution de l’autoritarisme 3.0 en ligne, suivie de près par la Russie et leur ami américain et indien. Face à ces énormes nations désormais capables de contrôler chacun de leurs citoyens, d’autres pays leur ont emboîté le pas.

Mais aujourd’hui l’appel est lancé. Un consortium d’ingénieur internationaux appelle à une révolution: de velours à priori sauf… Sauf si véritablement aucun changement ne s’opère.

Dans un communiqué publié ce jour, différentes organisations scientifiques (dont les pionniers de la réflexion sur l’IA: OpenAI, Future of life institute…) ont réclamé:

soit une dérégulation complète de la science de l’IA, espérant que après quelque temps sans lasse la technologie trouvera son mode de fonctionnement pertinent,

La mise en oeuvre d’une régulation à l’échelle internationale par une entité réunissant et le politique et la science.

Pour le moment l’annonce a été bien évidemment mal reçue y compris par les gouvernements moins portés sur le contrôle ultra. Mais la population dans de nombreuses régions semble prête à soutenir ce mouvement.

Espérons à ce stade que la révolution puisse en effet en rester à l’état de velours…


L’Observatoire Océanien de Prospective — 2OP — est une plateforme qui a pour objectif de réfléchir aux Futurs de l’Océanie au travers d’articles envisageant les futurs possibles de cette région.

Au travers de potentielles futures actualités, l’Observatoire Océanien de Prospective cherche à aider les organisations et individus résidant en Océanie à développer une approche d’anticipation et de prospective dynamique pour trouver aujourd’hui les solutions aux challenges de demain.

Comments are closed.