Aspects juridiques et éthiques de l'intelligence artificielle
Photo par geralt de Pixabay
Soyons honnêtes. Peu de gens ou d’organisations aiment parler de lois et de règlements. Tout le monde ne considère pas les discussions éthiques comme quelque chose de pertinent dans le quotidien professionnel. Il y a toujours ce sentiment autour des aspects juridiques et éthiques de... pourquoi devrais-je m’en soucier? Eh bien, vous serez peut-être surpris d’apprendre qu’il existe un secteur spécifique et très célèbre qui prend ces sujets au sérieux : il s’agit de l’écosystème prometteur des données et de l’intelligence artificielle.
Comment une entreprise peut-elle utiliser des données et se conformer aux règlements locaux et internationaux? Que se passe-t-il si nous utilisons les données de nos clients? Que faire si notre entreprise est présente dans deux pays différents? Mon utilisation des données peut-elle être légale, mais contraire à l’éthique (ou vice versa)? Comment le savoir? Voici un aperçu des choses les plus importantes à savoir au Canada en 2022.
1. Les réglementations sur la confidentialité des données foisonnent dans le monde entier... et c’est une bonne nouvelle.
C’est la vérité. Le Royaume-Uni et l’Union européenne ont commencé à montrer la voie entre les années 80 et 90. Le Canada a adopté des approches similaires au fédéral et au provincial, mais ce n’était pas le cas des autres pays et régions... du moins pas directement.
Mais maintenant, de nouvelles règles en matière de confidentialité des données font constamment leur apparition : Canada et Québec, Chine, Arabie saoudite et même États-Unis (en théorie, seulement la Californie). Le niveau de protection des droits individuels sur les données augmente et c’est une excellente nouvelle pour tout le monde. Toutefois, cela demande un effort supplémentaire aux entreprises afin de planifier correctement leurs activités de gouvernance des données.
2. Les entreprises utilisent les données des clients, même si elles ne mettent pas en œuvre de systèmes d’Intelligence Artificelle (IA). Elles peuvent avoir de sérieux ennuis si elles n’analysent pas les problèmes juridiques et éthiques potentiels.
En Europe, le Règlement général sur la protection des données a obligé les organisations à embaucher une nouvelle ressource : le ou la responsable de la protection des données. C’était le 23 mai 2018. Les entreprises se sont précipitées pour embaucher une sorte de licorne qui comprendrait les aspects juridiques, la création de valeur avec les données et les pratiques internes des organisations.
Par ailleurs, la notion moderne de stratégie d’IA (c’est-à-dire les éléments constitutifs nécessaires aux entreprises pour mettre en œuvre des systèmes axés sur les données et l’IA) comprend des considérations juridiques et éthiques.
3. Le Canada est l’un des leaders en matière d’application éthique de l’IA.
En effet, le Canada n’est pas seulement un leader dans le développement de l’IA, mais c’est une nation consciente et désireuse de faire les choses correctement. Parmi les exemples pertinents, citons la Déclaration de Toronto pour le droit à l’égalité dans l’apprentissage machine et la Déclaration de Montréal sur le développement responsable de l’intelligence artificielle.
Fort heureusement, il s’agit d’une tendance croissante qui est soutenue par des villes, des pays, des gouvernements et des entreprises du monde entier. Il s’agit d’un domaine de recherche relativement nouveau qui aura une incidence sur les résultats potentiels des systèmes commerciaux basés sur l’IA.
4. L’éthique rattrape la réglementation et l’Europe montre la voie.
Avant maintenant, toutes les réglementations se concentraient sur la confidentialité des données, c’est-à-dire sur la manière dont les entreprises utilisent les données de leurs utilisateurs, clients et employés. Il y a quelques mois, une grande nouvelle est arrivée de l’autre côté de l’Atlantique, puisque le Parlement européen a publié une nouvelle proposition de règlement sur l’IA dans le but de « fixer des règles harmonisées sur l’intelligence artificielle ».
C’est la façon de définir, par la réglementation, ce que nous pouvons considérer comme admissible ou non. Cela aura une incidence non seulement sur les entreprises européennes, mais aussi sur toute autre entreprise internationale opérant en Europe. Les temps changent.
5. Il n’y a plus de place pour les données et les applications d’IA non éthiques.
La pression vient de tous les fronts : gouvernements, citoyens, médias et chercheurs en IA. De plus en plus de cas sont analysés et dénoncés afin de trouver les systèmes qui génèrent plus de discrimination et qui soutiennent les préjugés systématiques.
Par exemple, l’outil pénitentiaire « raciste » aux États-Unis qui pénalisait les condamnés noirs et latinos en raison de leurs origines, ou le système de recrutement « macho » chez Amazon qui donnait de moins bons résultats à l’embauche aux femmes qu’aux hommes, même s’ils avaient de meilleurs antécédents professionnels.
En résumé, les technologies sont de formidables vecteurs de progrès, mais elles doivent être réglementées et faire l’objet d’une surveillance permanente. C’est un nouvel espace de travail et il requiert des compétences spécifiques. Cependant, les possibilités sont infinies et les entreprises recherchent déjà ce type de talents (notamment des éthiciens de l’IA et des responsables de la protection des données).
Si vous êtes curieux et souhaitez en savoir plus en une seule matinée, notre conférencier Adrian Gonzalez Sanchez vous invite au prochain atelier en ligne Exploring Legal and Ethical Aspects of AI (en anglais).