Notice
« Transparence(s) et opacité(s) » – entre dévoilement et secret, l’IA et le traitement algorithmique des données
- document 1 document 2 document 3
- niveau 1 niveau 2 niveau 3
Descriptif
Jean-Marc Deltorn (CEIPI, Université de Strasbourg)
« Transparence(s) et opacité(s) » – entre dévoilement et secret, l’IA et le traitement algorithmique des données
Les données, notamment de santé, sont au cœur d’une nouvelle économie de la prédiction et du contrôle. Ces données représentent la matière première à partir de laquelle des algorithmes catégorisent les individus, en suivent les comportements et permettent de produire de nouvelles formes de services. L’exploitation à grande échelle de ces données – personnelles et non personnelles – au moyen des dernières générations d’applications d’apprentissage automatique et d’« intelligence artificielle » pose aujourd’hui des défis sans précédent au croisement d’enjeux de gouvernance, éthiques, psychologiques, économiques, juridiques et techniques.
Face à ces développements et confrontée à l’opacité (technique et commerciale) des processus de traitement de l’information, la notion de transparence s’est imposée comme l’une des valeurs fondamentales promues par l’UE pour le développement, le déploiement et l’utilisation des systèmes prédictifs basés sur les données. Déjà un élément incontournable du Règlement général sur la protection des données et du Livre blanc sur l’IA publié par la Commission européenne en février 2020, la première proposition législative de l’UE en la matière – la proposition de règlement sur l’intelligence artificielle de la Commission européenne (l’AI Act) – poursuit cette tendance et donne à la transparence une place centrale en incluant plusieurs articles qui lui sont explicitement consacrés. De fait, au-delà même de ces textes et des contraintes légales qu’ils imposent, la transparence semble s’être érigée au niveau d’une exigence morale.
Or, la transparence des systèmes de traitement de données connaît des limites qu’il nous faudra souligner. Limites intrinsèques, liées à l’interprétation et à la variété des sens associés à cette notion fort large, d’une part. Limites pratiques, également, dans sa mise en œuvre réglementaire et technique. Ainsi, après avoir évoqué la place d’un principe de transparence dans le paysage juridique européen, nous présenterons quelques-unes des contraintes s’opposant à son application à l’encadrement du traitement des données et à l’accès à la logique sous-jacente aux modèles prédictifs.
Avec les mêmes intervenants et intervenantes
-
Regards croisés sur la santé connectée
LindenmeyerCristinaDeltornJean-MarcOrthoMarie-Pia d'Réseaux en société, sociétés en réseau
Sur le même thème
-
En quoi l’IA transforme les pratiques dans l’enseignement supérieur et la recherche
GanasciaJean-GabrielConférence inaugurale de rentrée des Écoles Doctorales de l'Université Toulouse - Jean Jaurès donnée par le professeur Jean-Gabriel Ganascia, spécialiste de l’intelligence artificielle, des humanités
-
Explorer les connexions entre santé, écosystèmes et communautés.
Stéphanie SIGNORET présente la nouvelle définition du principe «One health » ( OHHLEEP, 2021), qui ajoute le rôle central des communautés. Elle montre comment intégrer cette dimension par l’approche
-
Santé Live #12 : Sport Santé Bien-Être
RachouEmmanuelleHoareauVincentSanté Live #12 : Sport Santé Bien-Être
-
La mécanisation du monde et le mythe de la singularité
MatternJulienLe sociologue Julien Mattern partage ses réflexions sur la mécanisation du monde, l'envahissement du numérique, l'IA et le mythe de la singularité.
-
Observation de la santé à La Réunion : enjeux et évolution
RachouEmmanuelleBrunet-MalbrancqJoëlleCauseries Santé - La santé publique #1 - Observation de la santé à La Réunion : enjeux et évolution
-
[jeu de maux] épisode 3. L'étymologie / la terminologie des Couleurs en santé (partie2)
GuerriaudMathieu[jeu de maux] épisode 3. L'étymologie / la terminologie des Couleurs en santé (partie2)
-
[jeu de maux] épisode 1. L'étymologie / la terminologie du suffixe -rrhée et la diarrhée
GuerriaudMathieu[Jeu de maux] épisode 1. L'étymologie / la terminologie du suffixe -rrhée et la diarrhée
-
[jeu de maux] épisode 4. L'étymologie / la terminologie des mots de la dermatologie (partie 1)
GuerriaudMathieu[jeu de maux] épisode 4. L'étymologie / la terminologie des mots de la dermatologie (partie 1)
-
[jeu de maux] épisode 2. L'étymologie / la terminologie des couleurs en santé (partie 1)
GuerriaudMathieu[Jeu de maux] épisode 2. L'étymologie / la terminologie des couleurs en santé (partie 1)
-
[jeu de maux] épisode 7. L'étymologie / la terminologie des mots de la douleur (partie 2)
GuerriaudMathieu[jeu de maux] épisode 7. L'étymologie / la terminologie des mots de la douleur (partie 2)
-
[jeu de maux] épisode 6. L'étymologie / la terminologie des mots de la douleur (partie 1)
GuerriaudMathieu[jeu de maux] épisode 6. L'étymologie / la terminologie des mots de la douleur (partie 1)
-
Les Causeries de l'Égalité - L'égalité et le genre #7 - Femmes et discriminations
DucretMarie PatriciaDechepy-TellierJohanLes Causeries de l'Égalité - L'égalité et le genre #7 - Femmes et discriminations