À notre intelligence de contrôler l’avenir
L’homme vient-il d’ouvrir une nouvelle boîte de Pandore ? À l’effondrement de nos écosystèmes en raison d’une industrialisation massive, va-t-on ajouter une autodestruction de notre humanité remplacée par l’intelligence artificielle ? L’éditorial de Philippe Lemoine, rédacteur en chef délégué à Ouest-France
Le nom de Geoffrey Hinton vous dit-il quelque chose ? Pourtant, l’avertissement qu’il a lancé voici quelques jours dans les colonnes du New York Times est aussi inquiétant que fondateur pour la construction de notre société à venir.
De la même façon que l’on attribue à Robert Oppenheimer l’invention de la bombe atomique, Geoffrey Hinton est considéré comme le parrain de l’intelligence artificielle. En 2019, il a reçu, avec deux autres chercheurs, le prestigieux prix Turing, l’équivalent du Nobel pour les informaticiens. Son exploit : la création d’un réseau de neurones artificiels inspirés du cerveau humain.
Des avancées « effrayantes »
Ce monsieur très câblé de 75 ans a décidé de quitter son employeur, Google, pour pouvoir tirer la sonnette d’alarme en toute liberté.
Son message est très clair : le développement de l’intelligence artificielle (IA) a été beaucoup plus rapide que prévu. Il estime « effrayantes » les avancées attendues dans les cinq ans à venir. Il ne voit pas comment empêcher des puissances malintentionnées de s’en servir à des fins destructrices, allant même jusqu’à imaginer un scénario catastrophe dans lequel il n’est « pas inconcevable » qu’une intelligence artificielle puisse « anéantir l’humanité ».
Quelques semaines auparavant, 1 100 ténors de la recherche dans ce domaine ont entonné le même air : la société n’est pas prête à utiliser tout ce qui vient d’être créé. Un propos alarmant repris par Geoffrey Hinton. Il appelle les scientifiques à faire une pause dans leurs travaux afin de s’assurer qu’ils « sont capables de les contrôler ».
Alors que l’on regarde avec étonnement les possibilités balbutiantes de ChatGPT, cette intelligence artificielle capable notamment de rédiger les devoirs d’histoire de nos enfants, Jensen Huang, le fondateur du fabricant de processeurs Nvidia, prophétise que « dans les dix prochaines années, les modèles d’IA vont devenir un million de fois plus puissants que ChatGPT ».
Autodestruction de notre humanité ?
L’homme vient-il d’ouvrir une nouvelle boîte de Pandore ? À l’effondrement de nos écosystèmes en raison d’une industrialisation massive, va-t-on ajouter une autodestruction de notre humanité remplacée par des machines ? Ce qui était de la science-fiction il y a encore dix ans, vient de faire une entrée fracassante dans notre réalité. On pensait qu’Internet avait bousculé nos modes de vie, on découvre désormais qu’il pourrait être le simple véhicule d’un bouleversement encore plus radical : économique, sociétal et géopolitique.
Sans crier à la peur de l’an mille, car des avancées sont déjà très utiles, quelques voyants rouges sont là pour nous alerter. Les géants de l’intelligence artificielle sont principalement de deux camps : les grandes sociétés américaines, dont les algorithmes dirigent déjà nos vies, et la toute-puissante Chine, dont le respect pour les idéaux démocratiques laisse pour le moins à désirer…
Pour la recherche, l’Europe a pris du retard, mais elle est en avance dans un domaine : le contrôle. Avant la fin de l’année 2023, elle devrait adopter un « acte sur l’intelligence artificielle ». Une première mondiale visant à bannir ce qui irait à l’encontre de nos démocraties. La démarche est salutaire, souhaitons qu’elle soit exemplaire.