IA : ça se passe bien pour l’instant, n’est-ce pas ?

L’intelligence artificielle continuera-t-elle d’obéir aux humains dans le futur ? Ou deviendra-t-on des esclaves des algorithmes que nous avons nous-mêmes créés ? Les scientifiques et les experts ne sont pas d’accord à ce sujet, voici un aperçu global.

IA : un aperçu de la situation actuelle

Par Heinz-Jürgen Köhler

La question du contrôle des ordinateurs est aussi vieille que ces mêmes machines intelligentes. Dès 1949, le mathématicien et philosophe américain Norbert Weiner a fait une demande pour un système de contrôle. Avec le développement de l’intelligence artificielle et des systèmes autodidactes, cette discussion chauffe et divise de plus en plus.

Les chercheurs s’accordent sur un point : des règles sont nécessaires. Plus de 4 800 scientifiques – allant de Stephen Hawking au cosmologiste Max Tegmark – ont signé le document AI Guidelines of Asilomar. Nommées après le centre de conférence où la Conférence sur l’IA bénéfique a eu lieu, en 2017. Ces directives régulent l’utilisation et la recherche associées à l’Intelligence Artificielle avec 23 stipulations. Malgré ce consensus, la question sur la menace que l’IA pose à l’humanité reste ouverte au débat, et la réponse diffère selon les experts.

Une insulte ou une solution ?

Le philosophe économiste norvégien Anders Indset avertit sur la menace d’une domination et une prise de pouvoir d’une super-intelligence artificielle sur les humains. A ses yeux, si l’on devient dépendant d’une IA, nous ne serons pas plus que des zombies. L’humanité est menacée avec « une dernière offense narcissique », d’après cette star populaire parmi les philosophes. Le seul remède à cette situation, afin de protéger l’Homme d’une manipulation collective et pour préserver son unicité, est la mise en place de structures et d’un système de règles.

De l’autre côté se trouve le Professeur Dr. Jürgen Schmidhuber, convaincu que l’intelligence artificielle n’a aucun intérêt à asservir les personnes. Le Directeur Scientifique de l’Institut de Recherche Suisse pour l’IA (IDSIA) est perçu comme le père de l’Intelligence artificielle moderne. Il accueille le développement de ce milieu les bras ouverts : « Je veux d’une IA qui apprend à résoudre les problèmes que je suis incapable de résoudre ».

Des machines bêtes ou des humains bêtes ?

Le chercheur de tendances et futurologiste, Matthias Horx, nie non seulement une potentielle menace, mais aussi les bénéfices qu’apporterait l’IA. Le chef du Zukunftsinstitut à Francfort considère que les thèmes autour de l’Intelligence Artificielle sont surcotés. Selon M. Horx, c’est devenu une sorte de fetish, avec une hype qui crée des illusions dangereuses. La plupart des problèmes sont bien trop complexes à résoudre grâce à des systèmes de données, explique le sociologue.

Alison Gopnik, professeur en psychologie, reconnaît, quant à lui, la menace – après tout, l’IA gère également des armes. Mais, « la stupidité naturelle ne peut faire plus de mal qu’une intelligence artificielle », dit-elle dans le quotidien allemand Süddeutsche Zeitung. « Les gens doivent monter en compétences pour réguler les nouvelles technologies ».

Ethique ou diversité ?

Brad Smith, Président et CLO de Microsoft Corporation, semble aller dans le même sens que Mme. Gopnik. Selon lui, c’est important de pouvoir décider ce que les ordinateurs peuvent et ne peuvent pas faire. Par conséquent, des principes éthiques doivent être établis. « Les systèmes d’IA doivent être justes, et une certaine responsabilité doit être tenue pour ceux qui les développent. Avant d’adopter de nouvelles lois pour traiter les Intelligences Artificielles, nous devons être conscients des valeurs universelles qui doivent être protégées par les principes définis » (citation issue de The Future Computed, par Brad Smith).

Est-ce que les postes à exigence doivent eux aussi être protégés, selon ces principes ? Dans tous les cas, selon Mary Gray, l’intelligence artificielle génère énormément de postes plutôt agaçants. Pour la reconnaissance de suites logiques et autres motifs, l’IA nécessite d’énormément de contribution humaine. L’anthropologue soulève le problème d’une possibilité d’avoir une quantité indénombrable de click workers. « Le plus grand paradoxe de l’Intelligence Artificielle est qu’elle a la réputation de nous enlever le travail des mains. Néanmoins, en faisant cela, elle génère une quantité illimitée de travail. Travail répétitif, qui n’est pas particulièrement diversifié », elle écrit dans le Neuen Zürcher Newspaper.

« Une IA est aussi serviable ou aussi menaçante que l’algorithme derrière elle », selon Carla Hustedt. La scientifique politique du Bertelsmann Stiftung voit un grand danger dans une sorte de culture unique des systèmes algorithmiques. Si, par exemple, chaque département de Ressources Humaines utilisait le même système, les mêmes personnes seraient discriminées à répétition. « Nous avons besoin d’une diversité algorithmique », peut-on lire dans son article du Austrian Standard, « et cela veut également dire que ce ne sont pas uniquement des jeunes hommes blancs qui modélisent la technologie ».

Découvrez plus sur l’intelligence artificielle et d’autres thématiques digitales, en téléchargeant les magazines Best Practice, par T-Systems.