ChatGPT : qu’est-ce que le programme d’IA dont tout le monde parle ?

Il est désormais interdit dans les écoles publiques de New York ! Le logiciel d’intelligence artificielle ChatGPT, générateur de textes d’une fluidité déconcertante, est la nouvelle source de fascination et d’effroi de la tech. Voici ce qu’il faut savoir à son sujet.

De quoi s’agit-il ?

ChatGPT est un logiciel de traitement du langage naturel créé par l’organisation américaine OpenAI et qui génère du texte automatiquement. Ce programme d’intelligence artificielle a été construit sur le principe du “machine learning” (l’apprentissage machine) qui consiste, en partie, à s’adosser à une énorme base de données, constituée notamment de documents tirés du web – mais pas tout le web, ce qui permet d’éliminer les contenus violents, racistes, sexistes. Le programme ChatGPT (plus précisément ChatGPT-3, pour la dernière version qui fait l’actualité des médias) peut être employé en plusieurs langues, dont le français.

Pourquoi le résultat est-il convainquant ?

ChatGPT utilise le texte d’amorce entré par l’utilisateur du logiciel – une question ou un bout de phrase – comme un contexte, dont les élements lui permettent de fournir en complément une prose particulièrement convaincante. Une prose… et pas seulement, puisque le logiciel peut écrire en vers, ou prendre n’importe quel style, selon les recommandations de l’utilisateur : notice de montage, roman d’espionnage, formulaire administratif, lettre d’amour, on en passe et des meilleurs. L’utilisateur peut ainsi converser avec le programme pour parcourir un sujet.

Pourquoi cela inquiète ?

ChatGPT est en accès libre sur le web. Il est nécessaire néanmoins d’ouvrir un compte OpenAI (ce qui permet à l’organisation d’engranger de la donnée sur ses usagers ; plus d’un million de personnes se sont inscrites en 5 jours pour tester le programme, écrit le New York Times). Or ce logiciel est fait pour produire des contenus plausibles, mais pas forcément exacts. C’est donc potentiellement une usine à fake news. Et puis c’est un producteur de contrefaçons. C’est-à-dire qu’un élève tricheur peut l’employer pour faire une dissertation à sa place (d’ailleurs ChatGPT est désormais interdit dans les écoles publiques de la ville de New York), ou qu’un scénariste fainéant va lui demander d’écrire le prochain scénario de sa série. Le programme pose un “problème fondamental”, celui de “notre rapport à la vérité”, comme l’écrivent dans une tribune aux Echos le professeur d’informatique à Sorbonne Université Jean-Gabriel Ganascia et la directrice de recherches au CNRS Claire Mathieu.

Quelles sont les limites de ChatGPT-3 ?

Il parle comme Achille Talon. Autrement dit, on lui demande l’heure, et il répond en développent le concept de fuseau horaire, voire de mécanique céleste. C’est-à-dire que ChatGPT-3 ne sait pas où s’arrêter… à moins qu’on ne lui demande expressément une réponse courte ! Le programme n’a par ailleurs pas d’avis propre, et ne prétend pas être autre chose qu’une série de ligne de code. Enfin, le fait que ChatGPT ne puisse pas son savoir directement dans le web dynamique (mais dans une base de données figées, même si sans doute régulièrement mise à jour) fait que ses connaissances sont déjà datées. Ainsi, à une question posée par Sciences et Avenir : “Où en est la missions Artémis 1”, il a répondu ce 11 janvier 2023 : “Le vol d’essai non habité d’Artémis 1 est prévu pour début 2022”. Or la mission a décollé le 16 novembre 2022. D’ailleurs, quand on lui demande effectivement l’heure, il répond ne pas avoir accès à cette information. Malgré son brio, ChatGPT ne paraît donc pas un bon candidat au fameux test de Turing, où une IA réussit à se faire passer pour un interlocuteur humain.

Qui a créé ChatGPT ?

Il s’agit d’une organisation à but lucratif créée fin 2015 pour promouvoir des applications bénéfiques de l’intelligence artificielle (IA). Son nom : OpenAI. Et dans ses financeurs d’origine, il y a l’inévitable Elon Musk. Co-fondateur d’OpenAI, il l’a été pour promouvoir une IA “amicale”, après ses sorties remarquées sur l’intelligence artificielle, à propos de laquelle il a affirmé qu’elle faisait peser sur l’espèce humaine un danger “existentiel”. Mais entre Twitter et Tesla en passant par Neuralink, Musk n’a pas vraiment les neurones à OpenAI. Le cerveau de l’affaire est plutôt son président et cofondateur Sam Altman. Autre petit génie du numérique, il a fait fortune en créant, et revendant, une appli mobile de géolocalisation appelée Loopt. Impressionné les capacités du programme, Elon Musk a tweeté le 3 décembre 2022 : “ChatGPT fait peur. Nous ne sommes pas loin d’une IA dangereusement forte”, celle capable de rivaliser avec l’intelligence humaine.

Et après le texte ?

L’IA qui génère des images, cela existe déjà. Depuis 2022, on voit ainsi des prouesses de la part d’algorithmes qui créent, à partir de textes, des photos, dessins, croquis, simili-collages. Et sans que rien ne permettre de dire que c’est une machine qui a tenu le crayon (ou le pinceau) numériques. D’ailleurs, le modèle de langage GPT d’OpenAI est aussi à la base du programme Dall-E 2. Son domaine, c’est le “text-to-image”, ainsi que l’expliquait notre journaliste Arnaud Devillard dans un article publié dans Sciences et Avenir – La Recherche 908.

Et si ChatGPT était directement branché sur le web ?

Le programme pourrait sans vergogne se nourrir de fake news, de biais culturels et de contenus sensibles. Et l’on pourrait imaginer que le présent article ait été écrit par ChatGPT “en personne”. Sacrées implications sur le futur de la presse et le métier de journaliste.

Posted by Minority Voice on Jan 16 2023. Filed under Sci-Tech. You can follow any responses to this entry through the RSS 2.0. You can leave a response or trackback to this entry