L’intelligence artificielle

Par Edouard G. Trépanier | On en entend tellement parler qu’on pourrait bien s’en lasser et s’en désintéresser.  Peut-être que les propos des journalistes sont trop abstraits et relatent des évènements loin de notre quotidien. Mais, compte tenu de l’importance de l’avènement de l’intelligence artificielle (IA), laissez-moi tenter de résumer, dans les pages qui suivent, les effets de cette nouvelle technologie dans notre vie.

L’IA est le résultat de l’accouplement de logiciels très sophistiqués avec des ordinateurs de haute puissance.  En premier lieu, l’IA identifie les modèles (« patterns ») de l’utilisateur et opère une sélection d’offres en fonction de ses propres choix antérieurs, et de la popularité des objets ou services demandés.  Par exemple, Apple Music m’offre des pièces musicales que je ne connaissais pas, mais qui ressemblent au style de mes musiciens préférés.  Si vous magasinez sur Amazon, vous connaissez très bien ce genre d’offres automatisées produites par des « algorithmes ».  Jusqu’ici, intelligent, mais modérément.  En plus, l’IA fait la lecture de bases de données, souvent gigantesques, tout en marquant chacune de ces données comme un échantillon de connaissance dans un domaine particulier.  C’est ainsi que l’IA pourra régurgiter des connaissances pertinentes sur toutes sortes de questions.  Faites l’essai de « ChatGPT » et vous serez surpris de sa rapidité et de sa précision : https://chatgpt.com/gpts .  Voici qu’une nouvelle génération de cet outil appelé « Large Language model (LLM) » s’inspirera non seulement des données écrites, mais aussi des vidéos, par exemple You Tube et des chansons, par exemple Spotify.  Jusqu’à présent, l’IA allait chercher des données scientifiques ou littéraires validées et reconnues.  Mais, de plus en plus, les systèmes avalent de l’information sans validation.  Donc, l’IA amplifie les déviances des réseaux sociaux.  L’IA va bientôt avoir lu et assimilé tous les romans et essais écrits jusqu’à ce jour, y compris les textes de Machiavelli, trop souvent interprétés comme la recette pour manipuler le peuple.  La cerise sur le « sundae » de l’IA, c’est que cet ensemble (logiciel évolué et puissance de traitement) peut apprendre par lui-même (« Deep Learning »).  On lui a montré à apprendre et il le fait tout seul, sans commandes ni directives d’un être humain.  Le « Machine Learning » apprend d’ailleurs à une vitesse insoupçonnée par ses créateurs. 

Quand la machine apprend par elle-même et produit des textes ou prend des décisions opérationnelles sans intervention humaine.  Là ça peut faire « un petit peu » peur.  Comme le commun des mortels n’a pas encore adopté la technologie (un peu comme internet vers 1997), la crainte et même l’effroi se limitent encore aux spécialistes et chez les gouvernements les mieux informés.  On leur a bien expliqué que la « machine » qu’est l’IA dépassera l’humain en ce qui a trait aux connaissances et qu’elle prendra, sans nous, des décisions sur notre avenir.  Pour le moment, c’est encore un jeu.  Par exemple, après avoir énuméré quelques-uns de nos traits personnels et certains de nos désirs au « modèle de langage étendu » (ChatGPT), on peut poser la question : pour qui devrais-je voter ?  La « machine » répondra pour qui et pourquoi.  Autre exemple, plusieurs étudiants (et même des rédacteurs d’articles) s’en servent pour composer des dissertations qui vont contenir des connaissances plus approfondies que celles du professeur.  Voilà maintenant que les spécialistes de l’IA ont été surpris de découvrir, dans les réponses de la « machine », des points de vue qui n’ont pas été consciemment induits à la programmation ou dans les bases de données, ce qui devait pourtant avoir été vérifié.  En effet, la « machine » a, occasionnellement, craché des propos scabreux ou des faussetés, sans qu’on ne puisse l’expliquer (« the Black Box »).  C’est comme si la « machine » avait acquis une conscience, une opinion.  Vous souvenez-vous de Hal dans Odyssey 2001 ?  L’an dernier, plusieurs spécialistes ont soufflé un vent de panique.  Je peux toujours tirer la fiche électrique du mur, me suis-je alors dit à moi-même.  Mais là, je me suis rappelé ce que Hal a fait !

C’est pourquoi l’administration Biden a émis un décret et l’Union européenne a approuvé une loi sur le sujet de l’IA.  Rappelons ici que bien des gens ont méprisé la télévision (qui allait détruire le théâtre, le cinéma et allait rabaisser les esprits au plus bas dénominateur commun), l’ordinateur (qui allait réduire la réflexion chez l’humain à cause de la vitesse de réaction de la chose sur le pupitre) et ensuite les réseaux sociaux (on le sait maintenant : qui créent une dépendance et enferment les gens dans une pensée unique).  Pourtant, les technologies sont des outils avec lesquels on peut faire le bien ou le mal.  Cela dit, je ne vais certes pas reprocher aux autorités d’agir promptement, alors que les organismes de réglementation sont généralement très en retard sur le développement technologique.

Les algorithmes appliqués aux réseaux sociaux servent déjà à promouvoir de fausses nouvelles et à répandre des théories complotistes.  L’IA rendra les faussetés plus plausibles avec les « deep fakes » de la voix et de vidéos de personnes connues.  Ça va devenir plus difficile pour les journalistes et beaucoup plus difficile pour le public de trouver la vérité.  En plus de l’utilisation de ces outils par ceux qui cherchent à déstabiliser la démocratie, la « machine » produira des informations fausses d’allure crédible.  Elle peut même s’attaquer au raisonnement de l’humain avec des syllogismes habiles, mais boiteux.  On craint que les repères individuels et sociaux soient inondés dans un déluge d’information douteuse.  C’est ainsi que certains penseurs commencent même à craindre pour l’identité de chacun de nous.  Il faudra peut-être passer par une perte d’identité pour ensuite laisser l’IA nous enseigner qui nous sommes, en utilisant la différence entre nous et « la machine » (intelligence émotive ?).  Plusieurs prévoient que, dans les quelques années à venir, l’IA deviendra plus puissante que nous, quant au raisonnement intellectuel.  Dans l’évolution de l’IA, cette étape est appelée la « singularité ».

Ce qui préoccupe les autorités pour le moment, c’est que la machine lance une cyberattaque pratiquement impossible à déjouer.  Déjà, des milliards de renseignements personnels peuvent être rendus publics et échangés sur le marché illicite.  Avec la reconnaissance des traits physiques et une combinaison de tout ce qui existe sur nous, avons-nous encore une vie privée.  L’IA est entre les mains de Poutine, Kim Jung Un, etc., et Donald Trump qui a certainement déjà demandé à son équipe, comment l’IA peut l’aider à reprendre la Maison-Blanche pour imposer sa dictature.  Dans le domaine militaire en particulier, le somment du Président Biden avec Xi Jinping, en novembre dernier, n’a fait que surligner la possibilité d’une conférence sur les risques de l’IA.  Le segment suivant est inspiré par Jeffrey Lewis, professeur au « Middlebury Institute of International Studies », dont les recherches sont sur le contrôle de l’armement nucléaire (Vox, 28 novembre 2023).  On utilise déjà des robots qui cherchent et trouvent l’ennemi au moyen de l’IA.  Pour le moment, ce sont encore des humains qui tirent sur la gâchette, mais les robots pourraient bien s’en occuper.  Lorsque l’on arrive dans le domaine nucléaire, l’ampleur du geste est incommensurable.  Pour le moment, c’est encore un humain qui peut « appuyer sur le bouton ».  Mais cet humain est conseillé par des militaires qui s’appuient sur les renseignements fournis de plus en plus par l’IA.  Imaginons un scénario où l’IA détermine qu’il y a, tout à coup, suffisamment d’indices pour informer les généraux qu’une attaque nucléaire est en cours.  Le conseiller en sécurité à la Maison-Blanche, Jake Sullivan, a demandé récemment aux États nucléaires de s’engager à conserver un être humain dans la chaîne de commandement du lancement de missiles nucléaires.  Pour le moment, personne ne semble prêt à confier l’existence de l’humain sur Terre à une machine. 

Rappelons que lorsqu’il s’agit de la fin du monde, nous sommes passés proche à quelques reprises.  Les occasions les mieux connues étant celles du blocus d’octobre 1962 sur la livraison de missiles à Cuba, ainsi que l’épisode de Stanislav Petrov qui, en 1983, après avoir reçu, sur ses écrans, une alerte d’attaque nucléaire visant l’Union soviétique, a décidé que ça devait être une fausse alerte et n’a pas avisé ses supérieurs.  Utiliser l’IA pour motiver ses décisions dans ce domaine ajoute à la nervosité des armées, des pays et des peuples.  Avoir un humain qui appuie sur le bouton lorsque les renseignements proviennent de probabilités automatisées n’est pas très rassurant.  Chaque système d’IA comprend d’ailleurs des biais d’intérêts nationaux.  On peut difficilement compter sur l’infaillibilité de ces systèmes.

Alors, voilà qui explique que certaines célébrités de l’IA comme Geoffrey Hinton et Yoshua Bengio se sont jointes à des leaders de l’industrie technologique comme Elon Musk et le co-fondateur de Apple Steve Wozniak pour demander un moratoire de six mois sur le développement de l’IA.  Hormis dans le cas de la prolifération de l’arme nucléaire, les moratoires sur les développements technologiques n’ont pas réussi dans notre ère moderne.  Le dernier de ces grands moratoires à avoir eu un effet, et vous jugerez du résultat, c’est lorsque l’autorité de l’Empire Ottoman a interdit l’utilisation de l’imprimerie (cette invention de l’Ouest).  Le retard sur la dissémination de la connaissance a duré près de trois siècles. (Inspiré de « The Coming Wave », Mustafa Suleyman, Éd. Crown-Penguin, 2023)  Bon, enfin, ce moratoire sur le développement de l’IA n’a évidemment pas fonctionné. 

Je disais que l’Union européenne a élaboré un cadre réglementaire alors que les États-Unis ont plutôt publié un code d’éthique (facilement cassable par une autre administration).  La difficulté est de créer un encadrement réglementaire qui permet la créativité et l’initiative nécessaire au  développement.  Nous ne voudrions pas être en queue de parade.  Pour éviter que la démocratie soit trop balafrée, voyons brièvement le genre de règlement que tous les pays devraient adopter.

En juin 2023, L’Union européenne (EU) a créé une réglementation qui classe l’IA selon des niveaux de risques.  Interdiction de ciblage des enfants, au moyen de conversations interactives ou de quoique ce soit qui pourrait mettre l’enfant en danger.  Le fournisseur d’IA sera soumis à des exigences sévères dont la violation pourra entraîner des amendes jusqu’à 45 millions de dollars ou 7 % des revenus d’une compagnie (dans le cas de Google ou Microsoft, on parle de milliards).  L’EU proscrit tout mécanisme qui sert à identifier le visage d’une personne (« facial recognition ») ou à évaluer la propension d’une personne à commettre un crime.  Les « chatbots » du type ChatGPT devront mentionner qu’ils sont des machines et non pas des humains, ainsi que leurs sources de renseignements.  En campagne électorale, la provenance d’un message politique doit être mentionnée et les « deep fakes » sont interdits.  Le fardeau de la preuve doit reposer sur les épaules des fournisseurs de service IA pour démontrer que leur système et leur contenu ne sont pas nocifs, puisque la société ne peut plus supporter à elle seule la responsabilité des fausses nouvelles et des théories fictives.  Chaque fournisseur de services IA (comme pour les fabricants d’avions ou de produits pharmaceutiques) devra être enregistré auprès du gouvernement national où les services sont offerts.  Plusieurs croient que tout fournisseur d’IA devrait obtenir une licence afin d’être suivi d’encore plus près.  Selon moi, ce n’est pas difficile d’exiger une licence de la part des fournisseurs d’IA, car il y a peu d’entreprises d’une taille suffisante pour offrir un tel service.  Cela permettrait aussi de bloquer les fournisseurs non autorisés.  Comme pour les grands médias sociaux, il faudra trouver les meilleurs moyens d’éliminer la désinformation.  On devrait en profiter pour soumettre les réseaux sociaux aux mêmes règles.  Les contenus générés si facilement et si bon marché vont effectivement se multiplier.  Aurons-nous (les humains) les ressources en modérateurs de contenu ?  Déjà de nombreux sites internet sont remplis de textes générés par « la machine », et les médias autorisés (radio et télévision) peinent à éviter les pièges. Certains de ces textes paraissent raisonnables et plausibles, mais sont en fait truffés de faussetés.  Bien des pays, surtout les autocratiques, vont utiliser la puissance de l’IA pour surveiller des groupes ou la population tout entière.

En un peu plus d’une année, l’IA a forcé les gouvernements à se réveiller pour rencontrer le défi économique, social et existentiel de l’IA.  Cette technologie a déjà commencé à changer le marché du travail, notamment chez les rédacteurs et les réviseurs qui ont vu leur niveau d’emploi reculer de 10 %.  Bien des dissertations demandées aux étudiants ont été produites par l’IA, privant les apprenants de l’étude des méthodes de recherche, de l’amélioration de leurs habiletés de communications, du développement de leur esprit critique, ainsi que de la connaissance qui s’incruste avec la recherche.  Le domaine du droit d’auteur est pris au dépourvu.  Comment faire valoir ses droits lorsque son produit artistique ou industriel est publié par l’IA ?  Enfin, le « deep fake » a réussi à confondre un grand nombre d’électeurs Slovaques en campagne électorale, y compris une banque qui s’est fait escroquer par une voix truquée.  (« The Conversation », Matt O’Brien, 3 mai 2023)

L’Assemblée générale des Nations unies vient d’approuver une résolution (mars 2024)  concernant l’IA.  L’ONU offre son appui à tous les pays qui cherchent à ce que l’IA soit sécuritaire et vise le respect des droits de la personne.  Les États-Unis ont travaillé avec 120 pays, incluant la Chine, la Russie et Cuba, pour négocier cette résolution.  « À cette époque où le monde semble s’entendre sur si peu, cette résolution est un véritable progrès. » affirmait  l’ambassadrice américaine Linda Thomas-Greenfield (Associated Press, Edith Lederer, 21 mars 2024)

Après avoir discuté de l’IA comme s’il s’agissait d’une invasion d’extraterrestres contre lesquelles nous devrions nous prémunir, je crois important de rappeler que cette technologie nous rend service tous les jours, souvent sans que nous nous apercevions.  Non seulement on l’utilise pour optimiser de nombreux services offerts au public, mais on s’en sert pour améliorer la précision des moteurs de recherche, dans le domaine de la santé, même pour établir des diagnostics, pour ajuster des systèmes informatiques en temps réel, pour accélérer l’analyse de données, en météo par exemple, pour automatiser des processus industriels, pour la rédaction, la révision, la synthèse et la traduction ou pour générer des œuvres visuelles ou musicales originales.  L’IA a permis récemment de dévoiler un sens à des textes sur rouleaux de papyrus très endommagés par l’éruption du Vésuve, en 79 av. J.-C.

« Si on fait des machines, c’est pour qu’elles soient meilleures que nous. Les voitures étaient faites pour aller plus vite, elles ne nous ont pas remplacés. Les machines ne vont pas nous remplacer, elles font des tâches mieux que nous. Elles ne vont pas faire toutes les tâches, elles vont créer de nouveaux métiers. L’évolution de l’humanité est toujours liée aux technologies. Le feu, l’électricité, aujourd’hui l’IA. » (Pascal Picq, paléoanthropologue et auteur prolifique sur l’Homme, son origine et son évolution)   Chaque technologie amène son lot de nouveaux problèmes.  C’est pourquoi toutes les écoles devraient enseigner, à de multiples niveaux, l’interprétation des médias électroniques : radio, télévision, internet, réseaux sociaux et IA.  C’est l’univers dans lequel va vivre la génération qui pousse.

Je ne prétends pas ici avoir couvert tout le sujet avec cette infolettre.  Je voulais simplement démystifier, contribuer à ajuster les préoccupations du lecteur et, peut-être, en éveiller quelques-uns sur l’importance d’y accorder de l’attention.  Enfin, l’IA n’est pas un sujet traité dans « Les Assises de Nunaliq », mais puisqu’il s’agit du bien-être de tous et de la pérennité de la démocratie, j’ai cru bon vous renseigner sur ce phénomène, qui crée à la fois inquiétudes et insouciances.

Ce texte n’est pas écrit par une machine.