Yoshua Bengio, Elon Musk et un groupe d'expert·es en intelligence artificielle et de dirigeant·es de l'industrie appellent à une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI, dans une lettre ouverte citant les risques potentiels pour la société et l'humanité.

Soutenu par Microsoft, OpenAI a dévoilé la quatrième version de son programme d'IA GPT (Generative Pre-trained Transformer), qui a séduit les utilisateur·trices avec sa vaste gamme d'applications, allant de l'engagement des utilisateur·trices dans une conversation humaine à la composition de chansons et à la synthèse de longs documents.

La lettre ouverte, publiée par le Future of Life Institute et signée par plus de 1 000 personnes, dont Elon Musk, Steve Wozniak, Yuval Noah Harari et Evan Sharp, appelle à une pause dans le développement avancé de l'IA jusqu'à ce que des protocoles de sécurité partagés pour de telles conceptions soient développés, mis en œuvre et audités par des expert·es indépendant·es.

Voici ce que les professionnel·les de notre industrie en pensent:

Super idée de prendre du temps pour mieux encadrer le développement des solutions d’IA. Ça fait déjà longtemps que c’est nécessaire et, compte tenu de la croissance de la performance des solutions, c’est maintenant obligatoire. C’est justement pour cela que je m’implique au niveau des normes ISO ISO/IEC Artificial Intelligence (AI) pour développer des critères pour mieux évaluer la qualité des systèmes IA. Et qu’est-ce que les entreprises devraient tirer de cette pause proposée ? Cette pause est proposée pour le volet académique, et non pour les outils/frameworks commercialisés. Il n’y aura pas de «retrait» ou de perte de support pour ces solutions. Par contre, c’est une leçon importante. Il faut être conscient qu’un mauvais usage de ces technologies peut causer des problèmes importants. Par conséquent, SVP testez attentivement, vérifiez si vos projets IA sont responsables et développés selon de bonnes pratiques. Chez Moov AI, on identifie les risques et on atténue avant même le début de nos projets.

- Olivier Blais, cofondateur et VP science de la décision chez Moov AI

------------------

L’IA est un outil fantastique. J’utilise Chat GPT pour m’aider à écrire (mais pas pour écrire à ma place), mais c’est clair que nous faisons face à des risques majeurs. Je termine la rédaction d’un roman qui se passe en 2041 et où l’IA a mis 60 % des gens au chômage. Mon personnage principal est un historien qui examine notre époque et se demande pourquoi nous n’avons rien fait pour l’IA, mais aussi pour d’autres crises, comme le climat.

Ma réponse: les décideurs doivent avoir intérêt à prendre la décision. Le problème de cette lettre, c’est que les décideurs (en particulier les politiciens du gouvernement fédéral des États-Unis) n’ont pas intérêt à décréter un tel moratoire.

- Étienne Denis, Consultant en stratégie de contenu, rédacteur web, formateur, 90 degrés

---------

Nous sommes effectivement arrivés au point tant redouté d’adoption de masse sans compréhension de fond des enjeux reliés aux modèles généraux, ou même de la logique derrière ces derniers. 

Il y a 6 ans déjà, j’étais sur scène au Digital Media Summit à Toronto pour parler de «l'ère des machines» ; des différences fondamentales existent entre la syntaxe et la sémantique, entre probabilités et véracité. Mis entre les mains de consommateurs, aussi bienveillants soient-ils, ces outils peuvent évoluer rapidement au point de causer des dommages dont nous ne mesurons pas encore l’amplitude, comme ce fut le cas pour les réseaux sociaux dans la dernière décennie.

La fission nucléaire vient également à l’esprit ; cet appel à la prudence et à l’encadrement de la communauté scientifique n’est pas sans précédent. Cela dit, nous possédons de nos jours des canaux de communication beaucoup plus puissants pour que le message soit entendu, et la société civile devrait se joindre au mouvement — ou du moins à la discussion — afin que non seulement nos entreprises, mais aussi nos gouvernements soient tenus responsables de la bonne gestion des développements en la matière.

-  Audrey R., General Partner, Obsidian

--------------

J’ai beaucoup de respect pour Yoshua Bengio et son opinion. Cependant, je crois que le génie est sorti de la bouteille, il est déjà trop tard pour prendre une pause. Il faut désormais apprendre à utiliser ces technologies de manière éthique et responsable. 

- Benoit Domingue, Président, Ursa Marketing