Alors que l’agent conversationnel ChatGPT ne cesse d’évoluer et de faire parler de lui, des centaines d’experts dans le domaine de l’intelligence artificielle s’inquiètent dans une lettre ouverte et demandent une pause de six mois dans les recherches sur les outils plus performants que ChatGPT4. Ils déclarent que certains systèmes d’IA sont potentiellement une grave menace pour la société et l’humanité, notamment en raison de l’imprévisibilité de ces outils, même pour leurs créateurs, et des risques pour les travailleurs.
Ces dernières années, l’intelligence artificielle s’est développée à un rythme effréné et inquiétant, frôlant dangereusement des risques soulignés dans des œuvres de science-fiction. Elon Musk, cofondateur et ancien membre du conseil d’administration d’OpenAI, l’entreprise qui a par la suite créé ChatGPT, avait mis en garde le 3 décembre dernier contre les risques posés par le prototype. Dans un message sur Twitter, le milliardaire avait écrit :
” ChatGPT est terrifiant. Nous ne sommes pas loin d’une IA dangereusement puissante.”
Moins puissante que son successeur apparu peu après, le 14 mars. Ce jour-là, OpenAI a lancé sa dernière version de l’agent, ChatGPT4, qui présente davantage de précision, selon l’entreprise, et est capable d’interpréter des images. L’entreprise l’a proposé en affirmant que l’agent “est plus créatif et collaboratif que jamais. Il peut générer, éditer et itérer avec les utilisateurs sur des tâches d’écriture créatives et techniques, telles que la composition de chansons, l’écriture de scénarios ou l’apprentissage du style d’écriture d’un utilisateur.”
À l’occasion du Sommet mondial des gouvernements à Dubaï en février dernier, Musk avait appelé à développer des “règles ou des règlements pour contrôler le développement de l’IA”, en faisant une analogie avec la sécurité des transports ou médicale.
Dans la lettre du 28 mars ouverte à signature et publiée sur le site du Future of Life Institute, le fondateur de Tesla et SpaceX, est l’une des centaines de voix qui demandent une pause dans les recherches sur l’IA. Le choix du média n’est pas anodin, Musk est l’un des consultants de l’institut qui fait profession de dénoncer les risques existentiels que fait peser l’IA sur l’humanité et demande de “diriger la technologie transformatrice au profit de la vie et loin des risques extrêmes à grande échelle”.
Si nombre de signataires de la lettre ont un conflit d’intérêts dans leur critique de ChatGPT, travaillant notamment dans des entreprises concurrentes d’OpenAI et Microsoft dont l’avance est monstrueuse, leurs critiques n’en restent pas moins légitimes et préoccupantes.
Les signataires disent croire que “l’humanité peut jouir d’un avenir florissant grâce à l’IA “et parlent de “profiter d’un été de l’IA” avec des systèmes conçus “pour le plus grand bénéfice de tous” et souhaitent donner “à la société “une chance de s’adapter”. Mais cela n’est possible qu’à la condition d’agir comme lorsque “la société a mis en pause d’autres technologies aux effets potentiellement catastrophiques pour elle”.
Concluant la métaphore, ils exhortent à une pause fondée sur le principe de précaution :
“Profitons d’un long été de l’IA et ne nous précipitons pas sans préparation vers l’automne.”
Un risque pour l’humanité : l’absence de contrôle et de réflexion
Cet automne pourrait être précipité par le fait qu’il n’y a pas de possibilité actuelle de contrôler totalement les développements de l’IA. Les auteurs de la lettre déclarent que les systèmes d’IA concurrents de l’homme sont susceptibles de menacer en profondeur la société et l’humanité. Ils en veulent pour preuve les recherches exhaustives “reconnues par les principaux laboratoires d’IA”.
Au regard des principes développés en 2017 lors de la conférence d’Asilomar sur l’intelligence artificielle (coordonnée par le Future of Life Institute), disent-ils, “l’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec le soin et les ressources nécessaires.”
Malgré ces principes, “ce niveau de planification et de gestion n’existe pas”. Ils soulignent que ces derniers mois, les laboratoires se sont enfermés “dans une course incontrôlée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler avec fiabilité”.
De tels risques sont mentionnés dans des œuvres de science-fiction qui ont souvent le mérite de soulever des questions éthiques, notamment quant à l’articulation entre technologie et pouvoir politique, mais également par des penseurs comme Jacques Ellul ou Georges Bernanos. Le premier, historien, sociologue et théologien protestant, se réjouissait des apports de la technologie qui permet par exemple de voyager et de “recevoir des images du monde entier” :
“Donc, vous avez un univers libre devant vous.”
Mais l’auteur des ouvrages “Le Système technicien” ou “Le bluff technologique”, estimait que l’automobile poussait par exemple trois millions de Parisiens à se rendre chaque année en vacances au bord de la Méditerranée, comme une masse sans réflexion sur son mouvement :
“C’est très difficile dans une société [technicienne] comme la nôtre que l’homme puisse être responsable.”
Ellul mentionne les justifications données par le directeur du camp nazi de Bergen-Belsen, lors du procès de Nuremberg, selon lesquelles il n’avait pas le temps de penser aux gens qui mouraient, car il était préoccupé par les soucis techniques des fours. Les outils technologiques de plus en plus performants font, malgré leurs avantages, que l’homme devienne lui-même l’instrument de ce qui devait être des moyens.
A suivre …
