Thème : nouvelle réglementation européenne sur l’IA, quels effets sur la recherche et la conception d’EIAH ?

Résumé : l’objet de ce webinaire est de proposer une introduction et quelques échanges, à propos de l’impact sur la recherche en EIAH, y compris sur leur production effective, du nouveau cadre légal qui va être mis en place au niveau européen à compter de 2023 pour ce qui concerne l’utilisation de l'intelligence artificielle, notamment dans le domaine de l’apprentissage et de l’éducation. Ce webinaire sera animé par Céline Castets-Renard (professeure à l’université d’Ottawa et chercheure en droit spécialiste en droit numérique) et Ronan Pons (doctorant).

Argumentaire du webinaire :

Les Systèmes utilisant l'Intelligence Artificielle (SIA) ne font, pour le moment, pas l'objet d'un cadre législatif spécifique. Actuellement, un SIA est soumis aux mêmes lois que tout système de traitement d'information.

Cette situation est insatisfaisante au regard de l'importance qu'ont pris les SIA dans des aspects sensibles de la vie des citoyens Européen.

Après plusieurs années de discussions au niveau du parlement Européen, une proposition de règlement^[1] "établissant des règles harmonisées concernant l’intelligence artificielle" est maintenant mature et sera très vraisemblablement votée en 2023.

Ce texte impose aux concepteurs de SIA des obligations. Les systèmes d'IA "à haut risque", en particulier, doivent présenter des garanties fortes ex ante.

Le champ des EIAH, utilisant souvent l'IA, doit se préparer et sa communauté doit porter collectivement une réflexion sur les nouvelles pratiques à adopter. Ceci est particulièrement clair au regard du considérant (35) du règlement :

"Les systèmes d’IA utilisés dans l’éducation ou la formation professionnelle, notamment pour déterminer l’accès ou l’affectation de personnes aux établissements d’enseignement et de formation professionnelle ou pour évaluer les personnes sur la base d'épreuves dans le cadre de leur formation ou comme condition préalable à celle-ci, devraient être considérés comme étant à haut risque, car ils peuvent déterminer le parcours éducatif et professionnel d’une personne et ont par conséquent une incidence sur la capacité de cette personne à assurer sa propre subsistance. Lorsqu’ils sont mal conçus et utilisés, ces systèmes peuvent mener à des violations du droit à l’éducation et à la formation ainsi que du droit à ne pas subir de discriminations, et perpétuer des schémas historiques de discrimination."

Afin d’aborder cette réflexion, à la complexité et aux enjeux importants, nous proposons une présentation du futur cadre légal par Céline Castets-Renard, professeure à l’université d’Ottawa et chercheure en droit spécialiste en droit numérique. Cette présentation sera suivie d'une discussion collective où les différents acteurs du domaine des EIAH pourront poser des questions à Mme Castets-Renard et échanger entre eux. Mme Castets-Renard sera accompagnée de Ronan Pons (doctorant).

Présentation de l’intervenante : Céline Castets-Renard, PhD

Professeure titulaire / Full Professor - Université d’Ottawa

Faculté de droit  - Section de droit civil

Chaire Intelligence artificielle responsable à l'échelle mondiale

Co-responsable de l'Axe Relations internationales, Action humanitaire, Droits humains,OBVIA

Chair Law, Accountability and Social Trust in AI, ANITI (France-ANR)

Membre du Centre de recherche en droit, technologie et société

Livre : Droit du marché unique numérique et de l'intelligence artificielle (2020) (Larcier,Amazon)

Membre experte, Observatoire de l'Économie des plateformes en ligne, Commission européenne

https://www.castetsrenard.org/ /ccastetsrenard@uottawa.ca / Twitter : @CastetsRenard

SSRN : http://ssrn.com/author=3178140

Organisateurs : Ce Webinaire est organisé dans le cadre du groupe de travail de l’ATIEF “Adaptation et génération dans les EIAH” par Pierre Laforcade (LIUM, Le Mans Université), Pierre-Yves Gicquel (IRIT, Toulouse) et Sébastien Jolivet (IUFE et TECFA, Université de Genève).