Séance spéciale Chat GPT : vivre avec les machines ?

Résumé de la communication : 

Il est possible de leur faire écrire toute sorte de production, des dissertations, des résumé, des articles (« scientifiques »), aussi bien que des emails professionnels, du code informatique ou encore des devoirs de mathématiques. Sans parler des traductions en toute langue,… et même d’écrire des fictions. Autant le dire, la capacité d’action de ces « ChatGPT » et autres « intelligences artificielles » est saisissante : d’un côté elle force l’admiration et de l’autre, elle n’est pas sans nous donner le frisson.

Le 6 décembre 2017, l’article « Attention is all you need » (publié par l’équipe de chez Google) décrivait un nouveau procédé : le T pour Transformer, mécanisme simple et efficace pour le traitement des langues à la base des nouvelles IA. Ce système statistique tente juste de prédire le mot suivant dans une phrase (à la condition d’avoir préalablement ingurgité plusieurs dizaine de fois wikipedia en quantité !). Pire, le système n’a pas besoin d’un entrainement spécifique sur tel ou tel problème,  il lui suffit de quelques exemples. C’est l’effet du BIG data (2019 : chatGPT-2 : 1,5 Mrd de paramètres ; 2020 : chatGPT-3 : 175 Mrd ; ChatGPT-4 : 1000 Mrd…). Désormais GPT surpasse les IA les mieux entrainées sur des tâches spécifiques. Les ingénieurs ne s’attendaient pas à ce résultat. Et vous ?

Ce qui saisit d’abord, c’est l’impression de facilité, voire d’humanité que dégagent ces objets techniques.  On peut leur demander d’inventer une couleur, une langue, ou de résoudre telle question « à la manière de ». Les professionnels du langage informatisé eux-mêmes sont impressionnés. Il existe sur ce point de nombreux témoignages. Est-on face à un changement de paradigme en informatique, voire à l’orée d’une « singularité » pour reprendre l’expression du transhumaniste Ray Kurweil, nous plaçant désormais derrière la machine du point de vue cognitif ? La réaction des deux pères fondateurs du concept de réseau de neurones (Geoffrey Hinton et Yoshua Bengio) en mai 2023 - ils ont signé lettre ouverte alertant sur le risque existentiel en les plaçant au même niveau que pandémies ou guerre nucléaire – doit-elle être prise au sérieux ? Notons que cette lettre est paraphée par quatre grands pontes de Google et OpenIA (à l’origine de ChatGPT). Où est-ce uen stratégie commerciale ?

Comme le Dr Frankenstein, nous voici face à notre créature, en tant qu’utilisateur comme en tant que concepteur. Les questions sont : de quoi sont capables réellement ces machines ? De quoi sont-elle faites ? Comment vont-elles évoluer ?

Biographie des auteurs : 

Gaël Dias, directeur adjoint du GREYC (Université de Caen) et spécialiste en traitement informatique du langage, pour une explicitation « pour les nuls » du fonctionnement des IA

Emilie Gaillard, juriste et enseignante-chercheur à science Po Rennes, spécialiste du droit des générations futures et du transhumanisme.

Ismaël Traoré (chercheur associé au CERREV/MRSH Caen), data-analyste et musicien de jazz.

Le débat est animé par Frédérick Lemarchand, Professeur de sociologie et anthropologue des techniques, Université de Caen Normandie. Il est aussi directeur de CERREV.