Ecko Magazine 
Ces jours-ci, on entend beaucoup parler de l’éventualité d’une catastrophe de plus en plus probable avec les AI qui deviennent de plus en plus intelligentes.
De grands noms appellent à la prudence : l’optimisme futuriste de protagonistes tels que Ray Kurzweil est opposé à la prudence exprimée par Bill Gates, Elon Musk et Stephen Hawking. De son côté, les réflexions du philosophe suédois Nick Bostrom sur de l’émergence des intelligence artificielles ressemblent à une nouvelle source d’inspiration du roman noir nordique . Existe-t-il des raisons de s’inquiéter ?
Il y a presque 50 ans, le refus de l’AI Hal, dans le film 2001 : A Space Odyssey de Kubrick, d’ouvrir les portes de la baie du vaisseau spatial ressemble beaucoup moins à une fiction que quand le film est sorti. Aujourd’hui, nous avons vraie raison d’être préoccupé par le potentiel des voitures autonomes de faire un choix entre heurter un arbre ou un enfant.
You hear a lot these days about the potential for impending doom as AI becomes ever smarter.Indeed, big names are calling for caution: the futurist optimism of protagonists like Ray Kurzweil is outweighed by the concern expressed by Bill Gates, Elon Musk and Stephen Hawking. And Swedish philosopher Nick Bostrom’s scary thought experiments around what AI might lead to could well sustain a new strain of Nordic noir. There are, indeed, reasons to be concerned.The fictional Hal’s refusal to open the pod bay doors in Kubrick’s 2001: A Space Odyssey seems a lot less like fiction than it did when the movie came out almost 50 years ago. Today, we have real reason to be concerned about the potential for autonomous drones making decisions about who to take out, or self-driving cars making a choice between hitting a roadside tree and hitting a child.
Source : The era of AI-human hybrid intelligence | TechCrunch