Le chercheur Jason Edward Lewis de Concordia aspire à une intelligence artificielle éthique enracinée dans une vision du monde autochtone
L’événement déclencheur est survenu il y a deux ans, lorsque la doctorante Suzanne Kite est tombée sur une phrase marquante dans un ouvrage inédit.
Grâce à son superviseur, Jason Edward Lewis, titulaire de la chaire de recherche de l’Université Concordia en médias informatiques et en imaginaire de l’avenir autochtone, elle a découvert une ébauche de chapitre sur le biais algorithmique et l’intelligence artificielle.
« Dans le cadre de mes propres recherches, j’ai découvert une théorie oncologique du peuple Lakota selon laquelle les roches étaient douées de la faculté de volition. Lorsque j’ai lu le chapitre du manuscrit de Jason, j’ai réalisé que la vision oncologique des Lakotas cadrait avec sa réflexion », explique Suzanne Kite.
Selon cette philosophie, les formes de vie non humaines sont considérées comme des formes de consciences légitimes qui existent en dehors de l’humanité. Les Lakotas ont également établi de nombreux protocoles officiels pour identifier la relation qui existe entre les formes de vie humaines et non humaines.
Les travaux de Suzanne Kite font le lien entre la vision des Lakotas sur les formes de vie non humaines et les systèmes computationnels. C’est ce qui a amené le professeur Lewis à repenser la façon d’aborder le problème des biais en IA.
Jason Edward Lewis, titulaire de la chaire de recherche de l’Université Concordia en médias informatiques et en imaginaire de l’avenir autochtone.
Le groupe IIF est le moteur de cette recherche
« C’est la première fois que nous envisageons de repenser notre rapport à l’IA », soutient Jason Edward Lewis.
« L’oncologie et la philosophie Lakota nous ont fourni un nouveau langage qui nous permettra de porter un regard neuf sur cette question. »
Dans la foulée de cette découverte, le professeur Lewis a cofondé le groupe de travail sur l’épistémologie autochtone et l’intelligence artificielle. Composé de chercheurs autochtones, ce groupe international a pour but de définir les règles d’une relation éthique en matière d’IA inspirées du savoir et des philosophies autochtones.
Jason Edward Lewis a obtenu des subventions totalisant 130 000 $ de l’Institut canadien de recherches avancées (ICRA) et du Conseil de recherches en sciences humaines (CRSH) du Canada. Ces fonds serviront à explorer la théorie et la pratique de l’IA grâce à une série d’ateliers organisés à Hawaï au printemps et à l’été 2019. Par ailleurs, la fameuse phrase qui a capté l’attention de Mme Kite a inspiré la rédaction d’un essai récompensé par un prix de 10 000 $ et qui sera publié cet été par les presses du MIT.
Rien de tout cela n’aurait été possible sans la collaboration du groupe IFF dirigé par le professeur Lewis et du CRSH. Jason Edward Lewis, qui a obtenu les deux subventions, et Suzanne Kite sont tous deux responsables de la coordination de la rédaction de l’essai et des ateliers.
« Le groupe IIF est le moteur de cette recherche », affirme le professeur Lewis.
Un petit groupe s’est rassemblé à Honolulu pour répondre à deux questions, à savoir ce qu’ils pensaient du rapport entre la pensée autochtone et l’IA, et ce qui motivait leur intérêt pour l’IA. | Photos par ʻĀina Paikai. AbTeC © 2019.
Établir un lien avec l’intelligence non humaine
L’essai en question, intitulé Making Kin with the Machines, est cosigné par Jason Edward Lewis, Suzanne Kite, Noelani Arista (Université d’Hawai’i à Mānoa) et Archer Pechawis.
Choisi parmi 260 soumissions, c’est l’un des dix essais dans une qui seront publiés par les presses du MIT dans une édition spéciale du Journal of Design and Science. Un critique a même affirmé qu’il s’agissait probablement du seul texte du recueil qui offre une perspective véritablement nouvelle sur l’IA.
Les auteurs de l’essai affirment que les modèles de connaissance autochtones sont mieux adaptés au monde non humain que les philosophies occidentales, car dans la vision autochtone, les êtres humains n’occupent pas le centre de la création. Ils cherchent ainsi à mieux comprendre notre relation avec les intelligences non humaines : plutôt que de les voir comme de simples outils ou esclaves, peut-on les voir comme d’éventuels partenaires cohabitant avec les humains dans un respect mutuel?
Or, les auteurs affirment qu’il n’existe à l’heure actuelle aucun consensus sur la manière d’approcher la relation entre les humains et l’IA. En effet, les opinions du petit réseau de chercheurs, d’artistes, de concepteurs, de programmeurs et d’érudits autochtones qui se sont penchés sur la question sont très diversifiées. Il existe autant d’opinions sur le sujet qu’il existe de communautés autochtones, et certaines rejettent même toute possibilité d’un rapport entre les humains et les machines.
C’est ici que les subventions de l’ICRA et du CRSH entrent en scène.
Élaborer un protocole autochtone à l’égard de l’IA
Jason Edward Lewis et les collaborateurs Angie Abdilla, Oiwi Parker Jones (Université d’Oxford) et D. Fox Harrell (MIT) ont présenté une soumission dans le cadre de l’appel de proposition Ateliers de recherche Intelligence artificielle et société de l’ICRA. Le professeur Lewis et ses collègues figurent parmi les quatre équipes gagnantes et se sont vu octroyer un financement de 80 000 $ pour organiser deux ateliers sur les protocoles autochtones et l’IA. Jason Edward Lewis a également reçu une subvention Connexion du CRSH d’une valeur de près de 50 000 $.
En mars, 30 personnes se sont rassemblées à Honolulu pour répondre à deux questions, à savoir ce qu’elles pensaient du rapport entre la pensée autochtone et l’IA, et ce qui motivait leur intérêt pour l’IA. En petits groupes, les participants ont ensuite discuté et examiné divers sujets de recherche potentiels.
En mai, un autre contingent, plus petit cette fois, se réunira à Honolulu pour rédiger un mémoire préliminaire sur un protocole autochtone à l’égard de l’IA.
« J’espère que nous pourrons rédiger ce document et ensuite trouver d’autres mécanismes afin de poursuivre cette collaboration et élaborer des lignes directrices pour orienter la conception de tels protocoles », affirme le professeur Lewis.
L’essence du futurisme autochtone
Selon Jason Edward Lewis, ce projet sur l’IA comporte trois étapes. Première étape : communiquer à l’interne avec les penseurs et les acteurs autochtones en organisant des ateliers.
« Il est important de débattre de cette question à huis clos de manière à répondre à nos besoins et à ceux de nos communautés », soutient le professeur Lewis.
Deuxième étape : accroître la visibilité du groupe et de ses travaux auprès des décideurs.
« De nombreuses décisions sont prises actuellement sur la manière la plus appropriée de structurer l’IA. Nous devons faire entendre notre voix », affirme-t-il.
« Si des gens veulent inclure le point de vue des communautés autochtones dans l’élaboration de lignes directrices relatives à l’IA éthique, ils n’auront qu’à chercher “IA autochtone” pour trouver notre site Web ainsi qu’une liste de personnes-ressources à l’échelle mondiale. J’espère ainsi que nous serons plus nombreux à participer à ces échanges politiques. »
Troisième étape : passer à l’action.
En tant que développeur et artiste, Jason Edward Lewis s’intéresse à l’élaboration d’une IA Kānaka, c’est-à-dire propre aux autochtones d’Hawaï. Il collabore actuellement avec un groupe de jeunes Kānaka Maoli à Honolulu qui travaillent à l’élaboration d’un langage de programmation hawaïen. Il espère que ce projet leur permettra de concevoir un système d’exploitation et, par la suite, un programme se rapprochant de l’IA.
« Selon moi, cela constitue l’essence du futurisme autochtone. Il ne faut pas se contenter d’imaginer l’avenir, il faut se doter d’une infrastructure qui nous permettra de bâtir l’avenir que nous voulons », avance-t-il.
De son côté, Suzanne Kite utilise l’apprentissage machine dans sa démarche artistique. Elle se questionne toutefois sur la provenance de ses outils et le degré de contrôle qu’elle détient.
« Il m’apparaît tout à fait logique de chercher à savoir qui a conçu mes outils, sur quoi ils s’appuient, et pourquoi ils ont été conçus ainsi. Ce sont les mêmes questions que je me pose lors de mon processus créatif. »
D’infinies possibilités pour bâtir un monde meilleur
Jason Edward Lewis et Suzanne Kite croient tous deux qu’il est urgent d’intervenir dans l’élaboration des fondements éthiques qui encadrent l’IA.
« Nous assistons à l’éclosion d’une structure éthique à l’égard de l’IA. Si nous n’intervenons pas dès maintenant, nous risquons de sombrer dans l’hégémonie d’une pensée unique », prévient le professeur Lewis.
Par exemple, beaucoup de programmeurs spécialisés en IA ont tendance à voir la technologie comme un terrain neutre et croient que la correction des erreurs permettra de neutraliser les biais dans le système.
« Ce que je veux dire par là, c’est que corriger les erreurs n’est pas la solution. En fait, il y a quelque chose de fondamental qui cloche dans la manière de bâtir ces systèmes.
En ce sens, l’épistémologie autochtone joue un rôle très important. Il s’agit d’être respectueux envers les choses non pas parce qu’elles ont une âme, mais parce qu’elles sont l’une des mailles du réseau qui forme l’ensemble de vos relations. »
Suzanne Kite voit dans ce changement relationnel une solution de rechange nécessaire aux philosophies occidentales qui font une distinction très nette entre l’humain et le reste de l’univers. Ce mode de pensée nous permettrait d’aborder du même coup l’ensemble des enjeux sociaux, environnementaux et technologiques urgents auxquels nous nous heurtons, allant de l’IA aux changements climatiques.
« Que se passerait-il si nous envisagions sérieusement la possibilité que notre perception des choses animées ou inanimées puisse être erronée? Cette notion pourrait avoir d’énormes conséquences. Cette idée très simple ouvrirait la voie à un nombre infini de possibilités pour bâtir un monde meilleur. »
Apprenez-en davantage au sujet du carrefour sur les directions autochtones à Concordia.