Alexandre Hocquet, , Professeur des Universités (historien des sciences) à l’Université de Lorraine — Merci beaucoup. Je remercie d'abord les organisatrices et les organisateurs.
Désolé d'avoir été en retard, je vais essayer d'aller vite. J'ai été invité parce que je n'étais pas un spécialiste de l'intelligence artificielle. Au début, je l'ai plutôt mal pris. Mais en fait, c'est mon défi d'arriver à dire quelque chose d'intéressant pour les débats qui vont suivre. Je suis effectivement un historien de la science computationnelle, un historien du "software" en science et ce qu'on appelle l'intelligence artificielle vient de l'informatique, de la "computing science" ou du "software engineering". Je m'excuse d'avance pour tous les anglicismes que je vais dire, il va y en avoir beaucoup. C'est parfois par paresse, mais aussi parce que c'est un champ qui est bourré de mots pas facilement traduisibles ou peu usités en Français. Il se trouve que la discipline académique que je connais le mieux en tant qu'historien, n'est ni l'une ni l'autre, ni la "computing science", ni le "software engineering". La discipline dont je suis historien c'est celle de la modélisation de molécules. Quel rapport donc ?
Et quand on entend parler de succès de l'intelligence artificielle en science, au-delà des "chatbots", de la reconnaissance vocale etc., les "success stories", elles, ne se bousculent pas au portillon. Il y a un domaine qui est souvent cité, c'est le repliement de protéines, le "protein folding" ou son incarnation la plus célèbre, AlphaFold.
Dans cette conférence, je vais donc faire d'abord un bref rappel historique de ce qu'est l'intelligence artificielle et pour que ça ne semble pas trop du réchauffé, je vais m'inspirer d'un livre de l'historien de l'ordinateur qui s'appelle Thomas Haigh dont le titre est "IA, The brand that would never die". C'est un livre qui n'est pas encore sorti chez MIT Press. Je veux faire ce bref rappel
pour distinguer très brièvement ce qu'on appelle l'IA symbolique de l'IA connexionniste et aussi pour identifier quelle façon de raisonner, donc quelle façon de faire de la science il y a entre les deux et pour ensuite décrire la façon de faire de la science d'Alphafold et ce qu'Alphafold nous dit sur la façon dont l'intelligence artificielle envahit la science. "The brand that would never die", je ne sais pas comment vous traduisez ce titre. Pour moi, ça veut plutôt dire qu'elle est increvable plutôt qu'immortelle. L'argument de Tom Haigh est le suivant : dans les années 50, "Electronic Data Processing", c'était le mot à la mode. Ensuite, il y a eu "Management information System", puis "Knowledge Management". L'industrie informatique, elle est tellement réfractaire aux idées anciennes qu'elle invente régulièrement des nouveaux noms pour leur redonner une deuxième jeunesse. Mais avec la renaissance de l'intelligence artificielle dans les années 2020, ce qu'on constate c'est le contraire. de nouvelles technologies qui sont mises en avant en leur attribuant un nom déjà vu, un nom ancien. L'intelligence artificielle, c'est une histoire de "hype", même de "overhype", avec promesses de monde meilleur ou d'apocalypse, bien nourries par la science-fiction, avec même
une attitude franchement parfois mystico-eugéniste pour certains des grands leaders de la tech spirituelle et des investissements de "venture capitalism" massifs, astronomiques même, exactement comme la fameuse "Dot-com bubble" d'il y a 25 ans. Donc la "hype", dans le cas de l'intelligence artificielle, se nourrit même de sa propre critique, surtout si elle est apocalyptique. Il se trouve que malgré le bref essor, oui, malgré le bref essor de l'industrie des systèmes experts dans les années 80, l'histoire de l'intelligence artificielle, c'est une histoire de promesses excentriques. suivies de soufflets qui retombent et de déceptions récurrentes.
Du coup le livre de Tom Haigh n'est pas encore sorti mais je me base sur une série d'éditoriaux qu'il a fait dans "Communications of the ACM". Normalement, sur ces diapos, il est marqué "Fair use". Je peux donner les références si vous en avez besoin.
Jusqu'à ce que soudain, l'IA se mette à réaliser des choses surprenantes, voire incongrues après avoir déçu pendant des décennies. Donc selon le mot de Haigh, qui aurait cru que les réseaux neuronaux pouvaient écrire des poèmes ou transformer des prompts en photographies ? Du coup, avec cette vision, on comprend mieux pourquoi Haigh appelle ça la marque increvable.
Bref rappel pour distinguer intelligence artificielle symbolique, celle du 20e siècle et intelligence artificielle connexionniste, celle du 21e. L'intelligence artificielle symbolique, c'est la colonne de gauche. L'intelligence artificielle connexionniste, c'est celle de droite. La première, c'est beaucoup de "hype", la deuxième encore plus. Les deux ont besoin d'ordinateurs de plus en plus rapides et puissants. Les deux sont appliquées à une collection de technologies arbitraires comme des "chatbots". Les deux ont une connexion vague entre ce qu'est la technologie et ce que pourraient être les capacités cognitives d'un être humain. La première est plutôt universitaire. La deuxième est très majoritairement commerciale. La première, a été financée par la recherche académique ou gouvernementale. La deuxième, elle est typique d'investissements de "venture capitalism". La première est symbolique, la deuxième est connexionniste. La première consiste à effectivement faire des recherches heuristiques tandis que la deuxième est basée sur des prédictions statistiques.
Dans la première, ce sont des humains qui formulent les règles. Dans la deuxième, on n'a pas de règles mais plutôt des "patterns" qu'on trouve à partir de systèmes qui s'entraînent sur des masses de données. Dans la première, la connaissance est codée explicitement. Dans la deuxième, elle émerge
du processus de "machine learning". La première a très peu d'applications au-delà de la curiosité du laboratoire. La deuxième est déjà dans toutes les plateformes "Big Tech" qui sont au pouvoir. Enfin, la première est critiquée comme étant une "hype" plutôt vide de résultats, décevante du point de vue des résultats. tandis que la deuxième, elle est critiquée comme toute puissante avec des biais et contrôlée par le "leadership" de "Big Tech". Donc "From Engines of logic to Engines of Bullshit". "Engines of Logic", c'est l'intelligence artificielle symbolique et pourquoi appeler "Engines of Bullshit" l'intelligence artificielle connexionniste ? Toujours selon Haigh, la science-fiction a traditionnellement imaginé les ordinateurs intelligents comme incroyablement puissants mais bridés par une rationalité rigide et un attachement excessif aux faits comme, par exemple, Hal dans 2001. Les utilisateurs naïfs se sont connectés à ChatGPT avec les mêmes attentes. Ils supposent que ChatGPT comprend leurs questions, effectue une recherche sur le web ou interroge des bases de données de faits fiables pour trouver les informations pertinentes et intègre ensuite les résultats dans une réponse. Mais ChatGPT n'effectue aucune recherche sur le web, ne possède aucune base de données de faits. Les "LLM" produisent des pastiches de textes basés sur des corpus de textes rédigés par des humains. C'est ce qu'on a appelé des "stochastic parrots", des perroquets aléatoires. Lorsque des "patterns" sont faciles à trouver dans ces corpus, les phrases générées par chat GPT sont probablement cohérentes, sinon ça devient compliqué. Et voilà, on a appelé cela des hallucinations. Donc "Bullshit", selon le philosophe Harry Frankfurt, correspond à un discours prononcé avec assurance sans se soucier de la véracité des affirmations. Le mensonge, c'est l'antithèse de la vérité mais ce qui rend le "Bullshit" pernicieux, c'est son indifférence à la vérité ou au mensonge. Donc Frankfurt en 2005, il parlait d'humains quand il a défini cela, socialement les représentants, les marketeurs, les politiciens. Mais cette description, elle s'applique parfaitement à ChatGPT. Les "chatbots" sont passés en quelques mois du statut de démo sans prétention au succès planétaire instantané grâce à des investissements massifs en capital et en énergie. Pourtant, les applications immédiates permises par la baisse du coût de la génération de contenus personnalisés sont bien réelles, mais elles concernent
toujours selon Tom Haigh, principalement le plagiat, la propagande, la désinformation, le spam, les arnaques et les fausses nouvelles. Ça fait des décennies que les ordinateurs remplacent des emplois. La nouveauté, c'est que les machines semblent s'attaquer à des emplois considérés comme attractifs pour les humains. Au lieu de libérer les humains de tâches rébarbatives pour que ces derniers puissent se consacrer à la musique ou à la peinture, l'intelligence artificielle en fait se consacre à la musique et à la peinture pour permettre aux humains de se consacrer aux tâches les plus rébarbatives, comme par exemple, les travailleurs kénians chargés de filtrer le contenu inapproprié que ChatGPT apprend et régurgite parce que ChatGPT n'apprend pas à être poli en fait, c'est juste filtré à postériori. La référence à la musique aussi, car, effectivement, vous savez ou vous ne savez pas que le "business model" de Spotify, à base de playlists, consiste à utiliser de la musique générée par l'intelligence artificielle à insérer dans les playlists par thème pour payer moins de droits d'auteur aux artistes. Et je ne parle même pas du coût écologique ou de la concentration du pouvoir aux mains de quelques "Big Tech". Il y a là aussi une façon,
et c'est plus important pour nous du point de vue scientifique, une façon de mesurer le succès par un score et un taux d'erreur qui est typique. ChatGPT peut très bien dire n'importe quoi, mais les erreurs factuelles grossières ne sont pas graves quand l'attitude épistémique considère qu'un faible taux d'erreur est un bon résultat, même si les erreurs sont grossières. C'est que l'intelligence artificielle vient de l'industrie du "Big data" et l'industrie du "Big data", elle repose sur le "Data brokering", le courtage de données, revendre des données pour des publicités, pour le "targeted advertising" qui se revend aux enchères. Dans ce monde, un taux d'erreur inférieur à 50 %, c'est déjà une victoire. C'est le principe même du spam. Donc, ma spécialité c'est la modélisation moléculaire. Quel rapport ? Quand vous écoutez Tom Haigh ou les spécialistes de l'IA parler de succès de l'IA en science, au-delà des "chatbots", il y a une application qui est assez médiatique pour être citée, c'est Alphafold. Et cette "success story", c'est d'abord un succès scientifique incontestable, mais c'est aussi un succès médiatique parfaitement orchestré et on va essayer de le décortiquer, moins sur les détails techniques que
sur le contexte disciplinaire au sens académique, le contexte entrepreneurial, le contexte computationnel et le contexte géopolitique, n'ayons pas peur des mots, pour tenter de comprendre de quelle façon de faire de la science AlphaFold est le nom et quelles leçons on peut en tirer.
Il y a donc un an, à la saison des prix Nobel 2024, l'intelligence artificielle s'est taillée la part du lion puisqu'il y a eu Geoffrey Hinton en physique, Demis Hassabis et John M. Jumper en chimie. Hassabis est le fondateur d'une société qui s'appelle DeepMind, à l'origine d'Alphafold et le Nobel de chimie leur ont été attribué pour leurs travaux sur le repliement des protéines. Et, selon la formule consacrée, la solution à un problème vieux de 50 ans en biologie structurale.
Donc le repliement de protéines, qu'est-ce que c'est ? C'est le processus par lequel une protéine acquiert sa forme tridimensionnelle essentielle à sa fonction biologique. Prédire et expliquer comment la séquence d'acide aminé d'une protéine détermine sa structure finale par des méthodes expérimentales ou informatiques, c'est complexe en raison du nombre astronomique de formes possibles. Et si les premières tentatives de modélisation du mécanisme de repliement remontent effectivement à plus de 50 ans, il serait exagéré d'affirmer que le problème est désormais résolu.
AlphaFold n'explique pas le mécanisme de repliement. Il prédit les structures tridimensionnelles en appliquant une méthode de "deep learning" pour calculer ces structures et les comparer aux structures expérimentales. C'est déjà beaucoup. Je simplifie mais jusqu'à AlphaFold, on utilisait pour simuler le repliement ce qu'on appelle un champ de force, c'est-à-dire une représentation mathématique de l'énergie, la structure des molécules basé sur des boules et des bâtons attachés entre eux, exactement comme les modèles moléculaires que vous avez manipulés au lycée ou ailleurs. L'approche d'AlphaFold, elle est extrêmement performante, bien meilleure, plus rapide que les méthodes déterministes traditionnelles qui utilisent donc des modèles prédéfinis d'interaction. L'IA, elle, n'utilise aucune de ces théories, juste l'apprentissage sur les données pour explorer le modèle du "deep learning" sans idées préconçues sur la structure à trouver. cette avancée, elle est déjà remarquable en soi. Et il y a un petit parallèle aussi avec approche symbolique, approche connexionniste. Il y a cette défaite d'une théorie physique face à une méthode complètement agnostique. On a appelé ça à un moment "The End of Theory". L'expression a fait un buzz à cause de ce genre de victoire.
Il y a des circonstances où la bonne vieille méthode est encore la meilleure, pas tellement à cause de limites computationnelles, mais plutôt que l'IA se prête à résoudre certains types de problèmes, mais pas d'autres et on va y revenir. Et pour ce qui est d'expliquer comment ça marche à partir du beau schéma en haut, en bas pardon, qui est en fait une pub, j'aurais du mal à vous expliquer les détails mais le principe similaire à ChatGPT c'est de produire des coordonnées atomiques à partir de séquences d'acide aminé au lieu de produire des mots de façon itérative. Au départ, on a des coordonnées de protéines déjà existantes, déterminées expérimentalement. On a des tableaux de coévolution de protéines qui se ressemblent qui permettent d'avoir des renseignements géométriques de départ et ensuite, un algorithme qui va trouver des "patterns" dont le score évolue en fonction de ces paramètres géométriques. Par contre, à la fin, ce qu'AlphaFold
trouve, ce sont des coordonnées géométriques qui souvent, ne ressemblent pas du tout à une molécule. Le carbone tétraédrique par exemple, toutes ces choses qu'on apprend au lycée sur la structure en trois dimensions des molécules, il ne connaît pas du tout. À la fin, on est donc obligé de passer un petit coup de modélisation moléculaire traditionnelle pour que ça ressemble effectivement à une molécule. Le chemin est encore long avant qu'AlphaFold ne permette de guérir le cancer ou la maladie d'Alzheimer comme l'affirme avec assurance ses promoteurs comme dans la conférence de Nobel. Leur discours est typique de ce que
Pierre-Benoît Joly a appelé "Le régime de la promesse Techno-cientifique". Autres exemples : nanotechnologie, le "Human genome project" ou l'intelligence artificielle. L'idée c'est de promettre monts et merveilles grâce à une technologie prometteuse ou présentée comme telle pour la rendre inévitable, en particulier dans le financement de la recherche puisque plus aucune recherche n'est financée autrement. On a donc un discours de solutionnisme technologique. Par exemple, les OGM sont une solution au problème de la fin dans le monde. Il faut rendre la solution incontournable, si possible irréversible, par exemple par le financement de la recherche et enfin, on a une marginalisation de la contestation ou de la critique. Dans le cas d'AlphaFold,
la promesse, elle est destinée à l'industrie pharmaceutique. La version grand public, ça consiste à raccourcir en disant qu'AlphaFold va guérir le cancer. L'industrie pharmaceutique, a toujours été désireuse d'investir dans des nouvelles méthodes pour explorer de potentiels nouveaux médicaments parce que ça coûte super cher et que c'est super long de concevoir de nouveaux médicaments. C'est même une crise dans l'industrie pharmaceutique. Dans les années 80, l'utilisation de logiciels de modélisation moléculaire promettait de pouvoir concevoir de nouveaux médicaments par ordinateur grâce à la compréhension des cibles biologiques. Et cette promesse scientifique, on l'appelait à l'époque le "Rational Drug Design"
qui anticipait un marché lucratif fondé sur la commercialisation de logiciels de modélisation à vendre aux départements de R&D de l'industrie pharmaceutique. Alphafold joue désormais le même rôle auprès du même public. Dans les années 70 et 80, l'attrait pour le "Rational Drug Design" reposait en grande partie sur l'esthétique flashy de molécules représentées sous forme de tubes et de sphères captant la lumière sur les nouveaux terminaux graphiques des stations "Silicon Graphics", les mêmes
qui allaient être utilisées dans Jurassic Park. Et aujourd'hui, ces mêmes images de protéines en cours de repliement accompagnent chaque communiqué de presse d'AlphaFold. Hier comme aujourd'hui, la promesse, elle sert les intérêts des géants de la Tech et de l'industrie pharmaceutique.
"Silicon Graphics", pionnière du calcul sur GPU et un géant de "Big Tech" éphémère dans les années 90, fut parmi les premières à s'intéresser au "Drug Design" pour vendre ses stations de travail à "Big Pharma" comme à Hollywood avec Jurassic Park. C'était le début de la modélisation d'objets 3D sur ordinateur. Aujourd'hui, c'est Google qui fait pareil avec Deepmind et AlphaFold.
Au-delà de l'aspect esthétique, fascinant, le repliement des protéines, c'est un domaine prisé et populaire auprès de scientifiques citoyens dans ce qu'on appelle les sciences participatives en participant à des initiatives de "gamification", telles que Foldit ou Folding@home.
Dans ce cadre, les "gamers", les joueurs, mettent leur puissance de calcul distribué de chacun de leurs PC au service du repliement des protéines, évidemment dans le but de guérir du cancer, etc. En parallèle, la société Deepmind possède également une expérience dans le domaine du jeu vidéo. Deepmind s'est fait connaître dans le monde de l'intelligence artificielle. en faisant gagner l'ordinateur non pas aux échecs, ça c'est super facile, mais au Pong, ce qui est beaucoup plus dur, le Pong, tennis de table sur ordinateur qui existait dans les années 70. Pourquoi c'est super dur de gagner au Pong pour un ordinateur ? C'est qu'il faut le jouer en regardant l'écran en fait. Et donc coder un écran entier de possibilités plutôt que des coups comme j'avance ma tour en D4, c'est beaucoup plus dur. Et donc le fait de réussir à battre un humain en Pong, c'est ce qui a fait le succès médiatique de Deepmind au début des années 2010.
C'est ce qui a entraîné son rachat par Google en tant que start-up prometteuse. Ensuite, Deepmind s'est fait connaître, s'est fait un nom médiatique grand public avec AlphaGo. C'est un programme de "machine learning" développé pour jouer au jeu de Go, donc encore plus fort que les échecs. AlphaGo a vaincu un champion de Go humain en 2016 lors d'une performance largement médiatisée par Google. Il y a un film Netflix que je ne vous recommande pas.
Pour Deepmind, il ne fait aucun doute que le repliement des protéines et la gamification, c'est fait;pour s'entendre. Comme dit Haigh, les jeux vidéos fournissent un score calculé automatiquement et ils sont donc parfaitement adaptés au développement d'algorithmes de type "deep learning" puisqu'ils n'ont pas besoin d'humains qui catégorisent manuellement des milliers d'exemples de données de tests pour eux.
Donc avant la gamification actuelle, depuis les années 90, la communauté scientifique qui s'intéresse au repliement des protéines, elle était habituée à une certaine culture épistémique, une certaine façon de faire de la science qui est basée sur les concours. C'est loin d'être le cas dans beaucoup de domaines, mais en "protéin folding", ça peut se comprendre. La modélisation moléculaire, ça consiste souvent à montrer que les résultats des calculs, sont crédibles en les comparant à des résultats expérimentaux. Pour les protéines, la technique reine pour déterminer la structure tridimensionnelle, c'est la cristallographie de rayon X. Je simplifie. Le concours appelé CASP - Critical Assessment of Structure Prediction - c'est un concours bisannuel où des équipes de recherche du monde entier s'affrontent simultanément pour tester et démontrer leur capacité à prédire des structures protéiques sélectionnées par les organisateurs et révélées au dernier moment parmi des structures expérimentales déjà connues. Donc pour savoir si un modèle marche bien, on compare la structure 3D qu'il trouve à la structure expérimentale et on calcule un score en fonction de l'écart atome par atome. Qu'on ait absolument aucune idée de pourquoi le modèle trouve ce qu'i trouve. Ce n'est pas grave.
Comment le modèle trouve le résultat n'a aucun intérêt dans ce concours. Je caricature. Comme dans les jeux vidéos et dans le "deep learning", l'important c'est le score. Il faut bien voir que les chercheurs arrêtent leur travail de recherche et se mettent à bosser périodiquement sur ces concours alors qu'on pourrait argumenter que ce n'est techniquement pas de la recherche, c'est plutôt une épreuve de figure imposée. En fait, les domaines scientifiques, ont souvent des procédures de validation, de calibration, mais ils occupent rarement le devant de la scène. Dans dans le "protéin folding", le CASP, c'est le Graal. Donc le CASP, ça date
des années 90, bien avant l'intérêt des "Big Tech" pour l'intelligence artificielle connexionniste, mais il est vite devenu l'événement majeur dans le domaine. Gagner le CASP, c'est acquérir une crédibilité dans ce domaine immédiate.
Évidemment, le prix Nobel d'AlphaFold, c'est parce qu'ils ont spectaculairement gagné le CASP quelques années auparavant.
Cette approche scientifique, elle est compatible avec ce que le sociologue, Claude Rosental, appelle la culture de la démonstration, la "démo culture" qui est chère à la "Silicon Valley" et au monde universitaire de l'informatique en général. La "démo-culture", est un concept qui décrit sociologiquement ce qu'est une démo qu'on retrouve dans divers contextes, aux puces de Saint-Ouen par exemple, mais aussi dans la "Silicon Valley", Steve Jobs, et aussi dans la science informatique en général. L'informatique, c'est une science à part où on publie dans des conférences plutôt qu'on écrit des articles ou des livres et où la démo tient une place centrale. La "The Mother of All Demos" pour ceux qui ne connaissent pas c'est à la fin des années 60, oui en 68, avec Doug Engelbart qui fait la démonstration de la souris pour la première fois. Ce qui caractérise une démo, c'est l'utilisation de capital relationnel, en particulier d'un point de vue professionnel, ce qu'on appelle un "Technology Evangelist", c'est un vrai métier dans la "Silicon Valley" et c'est lié au régime de promesses dont on parlait : à la fois raconter, rendre incontournable et démontrer visuellement. L'autre caractéristique, c'est le solutionnisme technologique. On a un discours à base de problème puis de solution, une solution évidemment technologique y compris si elle n'existe pas, comme dans le changement climatique par exemple. Ça c'est typique de "l'engineering", c'est typique de l'A connexionniste puisqu'elle vient du monde du "software engineering" et c'est une certaine vision du monde, vraiment comme dans le régime de la promesse. C'est là que Deepmind entre en scène. Les démos, ça les connaît. Le jeu vidéo, c'est exactement leur culture. Difficile de les concurrencer; Quand en plus, ils possèdent une puissance de calcul et un personnel dédié que seuls les géants de la "Tech" peuvent se permettre puisqu'ils ont été rachetés par Google. Donc aucun groupe de recherche universitaire, aucune communauté de scientifiques amateurs, ne peut rivaliser avec Google quand il s'agit de faire d'une "brute force" la solution la plus rapide à un problème donné. D'ailleurs, le concurrent le plus crédible d'AlphaFold, c'est ESMFold qui vient de Facebook.
L'apprentissage automatique comme solution au repliement des protéines a de fait une longue histoire. Son potentiel dans ce domaine a été reconnu dans les années 90, des décennies avant que ça ne soit réellement réalisable sur le plan informatique et avant même que ça ne soit à la mode.
La puissance de calcul sous forme de GPU et le personnel dédié sont donc indispensables à l'efficacité de l'apprentissage automatique. Il n'est pas surprenant que de nombreuses avancées dans ce domaine proviennent du monde de l'entreprise où les ressources informatiques et humaines sont abondantes. Mais l'apprentissage automatique, il a également besoin d'un autre élément, un jeu de données de qualité pour entraîner son modèle. Et la provenance des jeux de données d'entraînement des modèles d'apprentissage automatique fait souvent l'objet de controverses, voir par exemple la critique de ChatGPT sur la propriété intellectuelle des textes que le "LLM" absorbe pour s'entraîner. Et pour AlphaFold, il n'y a pas de controverse au point de vue du jeu de données. Il est entraîné sur la "Protein Data Bank" qui est une base de données académique et ouverte de structures protéines expérimentales créée dans les années 70 pour partager les données structurales au sein de la communauté de biologie structurale. Il s'agissait à l'époque d'une initiative pionnière en matière de science ouverte et une démarche audacieuse aussi visant à créer une base de données de structure cristallographique partagée globalement. Grâce à l'ouverture de ces données, la "Protein Data Bank" continue aujourd'hui de servir de "Dataset", d'ensemble de données, pour l'entraînement d'algorithmes accessibles à tous ceux qui disposent des ressources de calcul nécessaires.
La "Protein Data Bank", c'est donc une véritable réussite de la science ouverte et il n'y en a pas beaucoup. Elle permet la réutilisation des données par tout le monde, donc aussi par Google, une entreprise qui est reconnue pour son recours constant au logiciel libre afin de créer de nouveaux produits eux-mêmes non libres comme par exemple, le système d'exploitation Android basé sur Linux. Il se trouve que la sortie d'AlphaFold 3 en mai 2024 a suscité une controverse. Des scientifiques ont publié une lettre ouverte remettant en question sa publication en raison de l'absence de divulgation du code source et des limites à son utilisation. Il est certes possible d'utiliser AlphaFold gratuitement, mais une version bridée et uniquement à des fins non commerciales, un modèle "freemium" si vous voulez. Mais AlphaFold est bien plus qu'une simple initiative de gamification ou une opération de relations publiques. Il met à la disposition de la communauté scientifique des millions de structures calculées et accessibles qui, effectivement, aident concrètement les cristallographes à déterminer de nouvelles structures expérimentales. Il y a donc une réelle vertu scientifique là-dedans. Alphafold est également crucial pour Google afin d'ouvrir des nouveaux marchés car c'est là tout l'enjeu de la promesse. Tout comme les chimistes computationnels vendaient des logiciels de modélisation au "Big Pharma" dans les années 80, Deepmind finance aujourd'hui Isomorphic Labs, une "spin-off" dont l'objectif est de fournir de nouveaux médicaments potentiels au même "Big Pharma". Malgré donc ces engagements en faveur de la science ouverte, cette "spin-off" explique pourquoi AlphaFold est fermé aux applications commerciales. La clause de non concurrence, vise à prévenir la concurrence pendant qu'elle développe ses propres activités commerciales avec "Big Pharma". C'est un classique.
Donc à l'instar de nombreuses initiatives de "deep learning" comme ChatGPT, Llama ou DeepSeek, "l'openwashing" repose sur un jeu subtil consistant à définir ou à omettre de divulguer ce qui est ouvert, le code, les jeux de données, le poids dans le "training", afin d'obtenir ou de conserver un avantage concurrentiel. Pour Google et la "Silicon Valley" en général, il a toujours été stratégique de tirer profit d'une base de données ou d'un code source ouvert puis de gérer les détails "en petits caractères" liés à l'ouverture ou à la fermeture des outils. Les géants de la "Tech"ont fait preuve d'un certain savoir-faire en inondant les utilisateurs d'outils qui deviennent rapidement incontournables et indispensables comme Google Maps. Et c'est aussi en ce sens que l'intelligence artificielle transforme profondément notre façon de faire de la science. AlphaFold et l'essor de l'intelligence artificielle en biologie structurale ne font pas exception. Ils illustrent une tension importante entre les initiatives de science ouverte et les enclosures lucratives des technologie propriétaires. Alphafold, c'est donc un vrai outil scientifique dont on peut déjà mesurer l'importance en biologie structurale, mais on peut aussi voir AlphaFold comme un jeu vidéo, non seulement dans l'esthétique, non seulement dans la culture du "software engineering", de la "corporate culture" qui l'a vu naître, mais aussi dans son approche épistémique ainsi que dans ses stratégies de licence ou de distribution.
Qu'est-ce qu'on peut en dire sur la façon dont l'intelligence artificielle transforme la science ? Certainement pas. qu'il s'agit de quelque chose de futile. L'industrie du jeu vidéo d'ailleurs, c'est à la fois bien plus gros que le cinéma ou la musique et c'est une industrie qui a une forte influence sur l'ordinateur.
Mais en guise de conclusion, je voudrais revenir à ChatGPT et à une question que je me suis posé. quand je l'ai découvert. Pourquoi ChatGPT a-t-il été marketé comme un moteur de recherche ? Pourquoi faire semblant qu'un "chatbot" peut trouver des réponses aux questions de l'utilisateur alors qu'il est fondamentalement un "Engine of Bullshit", un "Stochastic parrot" comme dirait Tom Haigh ? Pour Tom Haigh, il y a d'abord une fascination pour les "chatbots" depuis le fameux test de Turing selon lequel une machine est intelligente si elle arrive à se faire passer pour un humain. La fascination pour les "chatbots" a toujours existé. Ensuite, le public a longtemps associé le succès de l'intelligence artificielle à la création de robots capables de se faire passer pour des humains. L'être humain semble avoir tendance à croire qu'un système capable de tenir des propos cohérents agit intelligemment, amplifié par les offres de science-fiction comme Hall dans 2001. Enfin, l'enthousiasme des investisseurs pour l'intelligence artificielle générative y semble sans limite malgré l'effondrement des précédentes vagues de technologie estampillées IA et sans compter l'exemple de la "Dot-com bubble".
Pour qu'une telle masse d'argent investi puisse un jour hypothétiquement générer des profits, il faut donc une grande "user base" et si possible captive parce que le "business model" du capitalisme de surveillance, c'est toujours le même. Captiver l'attention, optimiser l'engagement pour faire rester sur la plateforme dont les revenus viennent du "targeting advertising". Il faut donc un max de données et pour ça, il faut que le "user" reste. L'intelligence artificielle actuelle est indissociable des plateformes de "cloud" et des collections massives de données des grandes "Big Tech", ce qui signifie qu'elle hérite et même qu'elle amplifie toutes les inquiétudes que les gens ont développé à leur sujet au cours de la dernière décennie. Le mot clé c'est "engagement" et de ce point de vue, il est beaucoup plus rentable de développer une relation quasi interpersonnelle avec un "chatbot" que de se contenter de donner des informations. On a déjà transformé les citoyens en consommateurs. L'étape ultime, c'est de les transformer en "end users", des consommateurs captifs dont l'agentivité est limitée au max pour en optimiser l'extraction de données. Pardonnez-moi le néologisme, celui-là, il n'est pas de Tom Haigh, il est de moi. ce que j'appelle "l'enduserisation".
Et pour illustrer mon point de vue, je voudrais faire la pub, et c'est la comme ça que je vais terminer, pour un excellent livre sur la question qui lui est est déjà sorti ou vient de sortir, "Empire of AI" par Karen Hao. Pour elle, l'intelligence artificielle telle qu'elle est imaginée par "Big Tech" c'est une entreprise coloniale et Karen Hao la compare avec "L'East India Company", donc le colonialisme britannique en Inde par l'intermédiaire d'une compagnie créée au 17e siècle qui a régné sur tout le sous-continent indien jusqu'à la révolte des cipayes au milieu du 19e siècle, avec évidemment, une politique extractiviste à base de plantations, sa propre armée, ses propres décisions géopolitiques, y compris l'export d'opium en Chine malgré l'interdiction et à son apogée plus puissante qu'un état européen. Donc pour Karen Hao, l'intelligence artificielle et "Big Tech" ensemble sont colonialistes dans plusieurs sens.
D'abord, la politique extractiviste des ressources nécessaires à la fabrication, les terres rares, les massacres au Congo avec des armées privées, une politique coloniale dans l'emploi de Kénians pour filtrer le contenu inapproprié, pour faire le sale boulot donc, mais aussi extractiviste des utilisateurs puisque les "end users", le "business model" c'est de les rendre captifs en vue de "targeting advertising". Tout est "designé" pour maximiser l'engagement et la captivité du "end user". Et en ce sens, le "Protein folding", en tant que "vidéo game" est bien similaire du point de vue de "l'enduserisation". Et même si les applications scientifiques de l'IA sont beaucoup moins fumeuses que les "chatbots" puisquelles sont conçues pour des tâches spécifiques sur des protocoles cohérents, on a vu que comme beaucoup de choses incontournables imaginées par "BigTech", AlphaFold a tendance à transformer le chercheur en "end user". Et pour moi, l'invasion de la science par l'intelligence artificielle, ça risque de ressembler à ça. Merci.
Rémi Joinville - Urfist de Rennes — Alors, s'il y a des questions, on vous fait circuler le micro, donc n'hésitez pas.
Ophélie Fraisier-Vannier - Université de Toulouse — Bonjour, merci, merci beaucoup pour la présentation. J'avais une question à propos justement du concours dont vous parliez et qui était en place depuis les années 70, 90 pardon. J'ai un collègue avec qui je travaille qui est dans
ce milieu là et il me semblait qu'il m'avait dit qu'en fait, le concours, ces dernières années, n'existait plus parce qu'AlphaFold avait tellement tout plié les dernières années que le concours qui était un "landmark" on peut dire de la discipline a été rendu obsolète par AlphaFold et n'existe plus en tant que tel parce que les équipes qui n'utilisaient pas AlphaFold n'avaient, en fait, plus d'intérêt à concourir, et du coup, c'est quand même un impact extrêmement concret sur le champ disciplinaire en question. De fait, je ne sais pas si vous avez plus d'infos à ce sujet là parce que moi c'est juste des ouï-dire.
Alexandre Hocquet — Vous avez carrément raison. Disons que le CASP, le "Critical Assessment
of Structure Prediction", c'est un super objet pour l'historien des sciences. J'aimerais si j'avais une armée de thésards et de postdocs... Ce serait hyper intéressant.
C'est même pire que ça en fait. Effectivement, l'idée de mon discours c'était de dire que il y avait là un match entre la façon de procéder de Deepmind et la puissance de Google derrière. Si on est "Big Tech"et qu'on veut s'incruster dans le milieu académique, il y a là une opportunité géniale. Et effectivement, dès le milieu ou fin des années 2010, dès que Google est arrivé, ils ont écrasé la concurrence. Et c'est pour ça aussi que je dis qu'il n'y a aucune chance que la recherche académique puisse être à la même hauteur. C'est pour ça que le concurrent maintenant c'est Facebook en fait. Bon, il y a d'autres initiatives, je caricature.
Non seulement AlphaFold a tout de suite gagné et mais du coup, ça a une influence, parce que c'est comme au festival de Cannes, il y a plusieurs prix au CASP, et donc ça a une influence sur la définition même des prix, plus les méthodes avancent, plus il faut imaginer des nouveaux critères, des nouveaux scores, bref. Mais c'est pire que ça au sens où, en fait, le CASP c'est une conférence bisannuelle qui ne coûte pas beaucoup d'argent à faire mais ça structure une communauté. Avec toutes les coupes dans la recherche fédérale américaine, le CASP, en fait, a disparu. Mais Google est venu très généreusement donner quelques centimes, et du coup, c'est maintenant eux qui financent le CASP. C'est donc encore pire... Ensuite, il y a d'autres concours de la même sorte.
il n'y a pas que le CASP, il y a un florilège de concours différents dans ce domaine. Mais moi ce qui m'intéresse c'est justement qu'il y a là dedans une façon très facile de gagner pour l'intelligence artificielle dans la structure même d'un concours qui existait bien avant, avant même le 21e siècle quoi. avant même que l'IA connexionniste soit à la mode, largement avant, mais qui était parfait comme domaine à envahir.
Ça m'intéresse d'avoir des acteurs qui sont liés au CASP pour les interviewer.
Rémi Joinville — Juste, présentez-vous quand vous posez la question s'il vous plaît. Merci.
Sandrine Wolff - Urfist de Strasbourg — Sandrine Wolff de l'Urfist de Strasbourg. Est-ce que la "Protein Data Bank"
est alimentée elle-même par des résultats d'Alphafold ? Est-ce qu'il y a un retour à l'envoyeur quelque part ou pas du tout ? Et si oui, quid du devenir des plateformes expérimentales qui produisaient des résultats, type Synchrotron, les lignes de lumière qui produisaient des résultats alimentant la "Protein Data Bank" ?
Alexandre Hocquet — La "Protein Data Bank" a sa propre existence, AlphaFold ou pas. D'ailleurs, je ne l'ai pas cité le pauvre, mais un historien des sciences, Bruno Strasser , a fait un livre, "Making Big Data Biology", pas seulement sur la "Protein Data Bank",
qui est la source d'inspiration pour décrire ce qu'est la "Protein Data Bank". C'est donc quelque chose qui a sa propre existence et qui est une une base de données de résultats expérimentaux. On ne peut pas nourrir cette base de données là par des calculs. Mais, il y a quand même quelque chose de cet ordre là, parce qu'il y a un partenariat entre AlphaFold et le EMBL je crois, un des plus gros laboratoires européens pour faire une base de données des résultats de calculs d'AlphaFold parce-que, évidemment, là où la toute puissance de la méthode s'impose c'est qu'il y a plusieurs ordres de grandeur de plus de structures calculées que de structures expérimentales, maintenant, de la même manière que ChatGPT génère des tonnes de textes sur lesquels l'IA va bientôt s'entraîner elle-même. Effectivement, il y a maintenant un atlas de structures calculées énorme par rapport à ce qui existait avant ces méthodes et par rapport au nombre de structures expérimentales connues. Il y a donc maintenant des bases de données de structures calculées qui sont tellement plus complètes que, du coup, elles aident effectivement les déterminations expérimentales en pouvant se raccrocher par similitude, qu'est-ce que ça pourrait donner, etc. pour élucider les structures. Si j'ai parlé de la "Protein Data Bank", c'est aussi pour amener la discussion sur le fait que la science ouverte,
ça consiste à mettre à disposition de tous quelque chose produit par la recherche, un bien commun, y compris aux géants de la "Tech". Il n'y a pas de discrimination.
Enfin, en tout cas, ce sont des questions que dans le milieu du libre, on commence à se poser, mais au départ, la licence libre, elle consiste à ouvrir à tout le monde mais le "twist", c'est que par contre utiliser quelque chose de libre pour en faire quelque chose de propriétaire, en jouant sur les mots, c'est pour ça que c'est de "l'openwashing" aussi, là ça devient vicieux. C'est pour ça que ça me paraissait particulièrement important de parler de sur quoi s'entraîne AlphaFold au départ. Je ne sais pas si ça répond exactement à votre question.
Sandrind Wolff - Urfist de Strasbourg — Oui, oui, tout à fait.
Jacques Noirbent - Elsevier — Bonjour Jacques Noirbent, Elsevier. Je trouve que vous avez une vision assez pessimiste de ce qui se passe actuellement. J'aime bien la la manière dont vous avez présenté la chose parce qu'elle montre qu'un outil qui était au départ à destination plutôt d'une résolution d'une problématique scientifique est venu diffuser dans le marché de masse. Ce que je comprends aujourd'hui, c'est qu'on a, a priori, deux IA, je dis IA mais je devrais dire IA génératives puisque c'est vraiment ça aujourd'hui qui est le cœur du sujet pour le commun des mortels, pour nous tous au quotidien. L'IA générative devient un outil pour tout le monde, mais dans le même temps, je trouve que les sociétés technologiques et les développeurs de solutions, comme Mistral par exemple, considèrent que cette base là va devenir une commodité et qu'à partir de cette commodité, on va développer et c'est déjà le cas pour un certain nombre, j'ai cité Mistral parce qu'on est en France, mais vous imaginez bien qu'on peut citer
d'autres fournisseurs technologiques, on va utiliser ces commodités là pour pouvoir répondre ou résoudre une problématique spécifique. Quid d'une plateforme pour les chercheurs, quid d'une plateforme pour des industriels, etc. ? Donc moi, je pense que vous avez cette vision assez pessimiste et je suis plutôt optimiste sur cette partie là avec bien évidemment un point essentiel qui est les données, d'où elles proviennent, avoir donc une IA de confiance comme on dit. Voilà.
Alexandre Hocquet — J'atteins là mon seuil d'incompétence parce que c'est vrai que je n'y connais rien à l'lA donc je ne peux pas tellement vous parler en détail d'une initiative comme Mistral. Le tableau que j'ai voulu peindre est lié aussi à ça au sens où comment dire... Je n'ai peut-être pas assez insisté là-dessus mais une critique commune classique de ce qui se passe c'est par rapport à la concentration du pouvoir au moins de quelques plateformes que ça soit dans la recherche ou dans l'infrastructure, Nvidia, Google, Microsoft, Amazon... mais là, effectivement, c'est pas ma spécialité. C'est super dur d'imaginer une solution d'intelligence artificielle, quelle qu'elle soit, Mistral ou autre, sans avoir à passer au point de vue de l'application par les grandes plateformes de "cloud" pour pouvoir effectivement être mises en œuvre dans quelque chose qui tient la route.
Par exemple, pour revenir au repliement des protéines, ça aurait été impossible sans la puissance de frappe de Google ou d'un géant similaire parce que la logique repose sur le fait que plus on a de GPU, plus on va vite. Il y a donc une logique de puissance.
Comme le disait l'autre personne, le concours CASP devient un petit peu obsolète si ce n'est entre les géants eux-mêmes, quoi. Et du coup, pour confronter nos visions, c'est sûr, que je n'ai pas fait un tableau très optimiste mais j'aurais tendance à penser que justement, c'est plutôt des solutions générales. Enfin quand Deepmind se dit qu'ils pourraient aller dans le repliement de protéines. ce n'est absolument pas une société spécialisée dans la recherche académique. Il se trouve que Demis Hassabis a fait des études et qu'il est prix Nobel mais il n'est absolument pas chercheur. Il est entrepreneur dans le jeu vidéo. Donc il y a une vraie culture "software" mais aussi "culture corporate" à appliquer à un problème bien précis. Effectivement, de ce point de vue là, AlphaFold marche bien au sens où il y a de vraies avancées scientifiques et que ça change en effet les pratiques de la communauté scientifique en question. C'est plus les mêmes maintenant qu'il y a 10 ans mais il y a plutôt l'idée d'appliquer à un truc bien spécifique une vision du monde à la fois épistémique mais aussi coloniale, il faut dire les mots, une vision générale appliquée à un cas particulier. C'est plutôt dans ce sens-là, je trouve, que le contraire.
Olivier Wong - Université de Rennes 2 — Bonjour, Olivier Wong, vice-président numérique, Université de Rennes 2. J'interviens en fin de journée.
J'ai un commentaire d'une part, et puis une question. Il y a aussi des éléments historiques récents concernant l'accès à la puissance de calcul et aux données. Je vais prendre un exemple sur l'IA générative pour le langage. DeepSeek la société, a publié un modèle
s'appuyant sur des stratégies. Je ne vais pas rentrer trop dans la technique mais sur de l'apprentissage non supervisé, c'est-à-dire sans avoir besoin d'opérateurs humains en fait pour opérer l'entraînement des modèles. Ce qui contredit un peu cette course à la puissance de calcul finalement menée par les géants technologiques et qui leur pose des gros problèmes de "business model" aussi parce que, du coup, leurs investissements sont moins justifiés depuis qu'on s'aperçoit qu'on peut arriver à un même niveau de performance sans avoir recours à ces coûts massifs. Deuxième commentaire, si on regarde le classement mondial en termes de calculs haute performance, les plus grands super calculateurs mondiaux sont globalement étatiques ; américains, japonais, européens, même si effectivement on retrouve des calculateurs d'entreprise dans ce classement là. D'ailleurs, à titre d'information, le premier calculateur le plus efficient au monde, il est à l'Université de Reims Champagne-Ardennes, il est en France. Dans un monde où on a manifestement des problèmes d'énergie et de climat, l'efficience des infrastructures et ce qu'on fait en France, en Europe globalement,c'est quelque chose que je trouve intéressant à à suivre. Et par ailleurs, à la fois sur la méthode et sur l'utilisation du calcul, on voit qu'il y a des approches quand même plus frugales, plus vertueuses pour arriver finalement à nos fins d'un point de vue scientifique. Et du coup, j'aurais aussi une question, c'est que j'ai souvent entendu quelque part ce discours là un peu d'aveuglement, relayé par les entreprises elles-mêmes de dire, regardez, il faut énormément de datas, énormément de puissance de calcul pour arriver à faire avancer la science et vous ne pouvez pas y arriver sans nous. y arriver sans le "cloud" qu'on a, sans sans toutes les données qu'on a amassées. Il y a un peu, quelque part, ce narratif là qui installe le colonialisme quelque part. Et moi, je me dis qu'on a peut-être un devoir en tant que scientifiques du monde académique public de contrebalancer ce narratif en montrant finalement qu'il y a des choses qui sont possibles, une voie alternative en fait et que ce sont des choses qui marchent par ailleurs. Je ne sais pas s'il y a une littérature sur cette question là du narratif et de l'impact finalement qu'on voit s'installer depuis des décennies sur les politiques scientifiques ?
Alexandre Hocquet — Oui. Alors techniquement, je ne peux pas répondre à votre question de manière précise parce que...
Oliver Wong — C'était plutôt la question du narratif et de la politique...
Alexandre Hocquet — Oui, oui. Mais c'est la même chose, ce n''est pas mon domaine de compétence. Je dirais que d'un côté, je penseque vous avez sûrement raison qu'il y a une différence entre AlphaFold et ChatGPT. ChatGPT, c'est vraiment une caricature de ce point de vue-là, d'application tous usages qui concerne tout le monde et qui, du coup, produit des résultats. tellement généralistes que c'est effectivement ce genre d'approche qui va consommer le plus d'énergie, de puissance computationnelle, etc.,
alors qu'une tâche dédiée spécifique comme AlphaFold va être plus vertueuse scientifiquement, va converger vers quelque chose d'utile et nécessiter moins de ressources. Ce n'est pas AlphaFold qui va faire exploser le changement climatique avec les "data centers" tous azimuts, c'est sûr. Mais, d'un autre côté, pour ce qui est du "ranking" des plus grands ordinateurs, j'atteins aussi mon domaine d'incompétence. Il n'est pas impossible que la question soit aussi liée au style de "supercomputer" parce que c'est aussi là-dessus que le monde du "gaming" a une influence, à savoir que les GPU ne sont pas des CPU. Certains processeurs sont plus adaptés pour certains types de calculs plutôt que d'autres. C'est une question que les "gamers" connaissent bien
et par ailleurs, ce que les témoins disent, notamment les gens qui participent au CASP, que ce qui donne à "Big Tech" un avantage par rapport à la recherche académique, c'est non seulement l'accès aux puissances de calcul ou aux infrastructures en général, mais aussi la capacité à fournir du personnel dédié temporairement et à une échelle que la recherche académique est incapable de faire et que pour AlphaFold, c'est aussi ,là, j'avoue que je n'ai pas de chiffre, je n'en sais rien, évident que pour Deepmind, à partir du moment où ils ont la puissance de Google derrière eux, ils peuvent se dire qu'ils peuvent gagner dans le "Protein folding", et sont donc capables de mettre , la force de travail qu'ils veulent, quand ils veulent, pour le temps qu'ils veulent et ils peuvent virer les gens assez vite aussi par la suite, ce que la recherche académique est complètement incapable de faire.
Je ne vais pas vous apprendre que la recherche académique, dans le monde entier, n'est pas dans sa période la plus faste. Il y a la question du coût humain aussi, je pense, qui est probablement un paramètre dans cette équation.
Claire Tignolet, Urfist de Paris — Une dernière toute petite question.
Pierre -Yves SAUNIER, CNRS Rhône Auvergne— Bonjour. Merci, Pierre-Yves SAUNIER, historien mais pas des sciences, donc rassurez-vous, on ne va pas aller de ce côté-là. C'est juste pour vous demander si vous vouliez aller un petit peu en aval et nous dire, vous qui êtes un observateur de ce secteur, si vous voyez des modifications de la conversation scientifique après justement l'intrusion, l'arrivée de cet outil ? Est-ce que les protagonistes changent ? Est-ce qu'on se dispute sur les mêmes choses de la même façon ? Qu'est-ce qui est devenu l'administration de la preuve ? Comment vous voyez ces ces choses-là, ? Merci.
Alexandre Hocquet — Merci. C'est un super programme de recherche parce que c'est sûr, un peu comme pour la réponse que je faisais à à la dame, toute la communauté autour du CASP et ce qu'elle pense en ce moment par exemple, a évolué depuis 1994
donc il y a 30 ans.
Le changement des pratiques scientifiques lié à des domaines connexes mais expérimentalistes comme la Cristallo ou la RMN de protéines, je pense que c'est ce qui est en train de changer maintenant parce qu'AlphaFold, ce n'est pas
si récent que ça au point de vue de l'idée dans les cerveaux de chez Deepmind mais de comment ça diffuse dans la communauté scientifique spécialiste de ces questions, c'est ça que je voulais dire tout à l'heure c'est ça qu'il faut faire maintenant, pour en savoir plus. Ce que j'en ai dit c'est juste un "pitch" pour donner envie de s'intéresser à ces questions. Je n'en sais pas beaucoup plus.