Le blocage de contenus potentiellement dérangeants dans l’application Souvenirs d’Apple illustre la portée et les limites des grandes sociétés technologiques, écrit Chrys Vilvang

Comment les algorithmes déterminent-ils la façon dont nous interagissons avec nos souvenirs?

Il s’agit d’une question propre au XXI^e siècle qui est loin d’être réglée.

Dans un nouvel article paru dans la revue Memory, Mind & Media, le doctorant de l’Université Concordia Chrys Vilvang estime que la manière dont les entreprises technologiques stockent et conditionnent les contenus personnels, puis les relayent auprès des utilisateurs est opaque. Et, au vu d’une récente controverse, elle soulève d’importantes questions sur la sélection et la représentation de ces contenus.

Dans son article, M. Vilvang se penche sur le débat suscité par un article paru en avril 2022 sur 9to5Mac, un site d’actualités technologiques consacré à tout ce qui touche Apple. Les journalistes auteurs de l’article ont eu accès à la mise à jour bêta d’iOS 15.5 et ont découvert qu’elle empêchait des photos prises dans une douzaine de lieux précis d’apparaître dans la fonction Souvenirs de l’appli Photos de l’iPhone. Cette fonction permet de créer de courts diaporamas défilant sur fond musical, généralement conçus pour déclencher des sourires et des émotions.

Les journalistes ont rapidement constaté que la douzaine de sites en question étaient tous liés à l’Holocauste. Plusieurs étaient des camps de concentration établis, comme Auschwitz-Birkenau, Treblinka et Dachau. D’autres étaient des sites commémoratifs de l’Holocauste, tels que Yad Vashem en Israël, la Maison d’Anne Frank à Amsterdam et le Musée commémoratif de l’Holocauste des États-Unis à Washington, DC.

Le jeune chercheur s’est tourné vers la section des commentaires de l’article afin d’analyser l’évolution de la perception publique des technologies de mémoire automatisée et leurs conséquences potentielles. Les lectrices et lecteurs de 9to5Mac sont très au fait des questions technologiques, et Vilvang a été frappé par le scepticisme quasi généralisé du lectorat de la plateforme à l’égard de la décision d’Apple.

« La plupart semblaient très inquiets de ce que cela pourrait signifier pour l’avenir, ou de la manière dont cela pourrait être utilisé pour privilégier un certain type de représentation, explique-t-il. J’ai toutefois été impressionné par la vigueur avec laquelle les gens étaient prêts à exprimer leurs problèmes particuliers et à spéculer sur ce que cela pourrait signifier, sans parler précisément de l’Holocauste. »

Mes photos, ma décision

Dans son article, Chrys Vilvang cite plusieurs personnes utilisatrices, dont la plupart expriment leur mécontentement face à la suppression de leur pouvoir de décider ce qu’elles peuvent et ne peuvent pas voir.

« Je ne veux pas que quelqu’un d’autre décide de ce qui est “délicat”... et peut-être que je VEUX un souvenir d’un endroit particulièrement émouvant pour me garder les pieds sur terre », commente l’une d’entre elles.

« [Laissez] les gens décider eux-mêmes de ce dont ils veulent se souvenir, écrit une autre. Pour ma part, j’ai visité Dachau et j’ai pris des photos... Cela ne me dérange pas du tout quand elles apparaissent. Bien au contraire, elles constituent un puissant rappel. »

M. Vilvang indique qu’il n’a pas reçu de commentaire de la part d’Apple concernant la mise à jour, mais il soupçonne que celle-ci a été faite de bonne foi.

« Je pense que la décision d’Apple repose vraisemblablement sur de bonnes intentions et a probablement été prise sans arrière-pensée. Je suppose qu’ils étaient d’avis que des sujets d’une telle gravité ne devraient pas être représentés dans un outil qui est largement destiné à susciter des interactions positives. »

« Aussi avancée que soit la technologie aujourd’hui, ajoute-t-il, les algorithmes d’Apple ne peuvent toujours pas décider de ce qui peut être subjectivement pertinent pour une personne plutôt qu’une autre. En faisant en sorte que la fonction Souvenirs demeure essentiellement associée à un sentiment de bonheur, Apple fait délibérément des choix au nom de ses utilisateurs en bloquant les photos provenant de sites que l’entreprise juge problématiques. »

L’avenir des applications de ce genre reste aussi obscur que les algorithmes qu’elles utilisent actuellement, selon M. Vilvang. Si Apple décide de bloquer les photos sur le thème de la Shoah, que pourrait-elle bloquer ensuite?

« Cela illustre le degré d’intervention et d’intention qu’implique le blocage de ces sites particuliers malgré des motifs qui demeurent imprécis. Et si nous savons que les entreprises sont prêtes à intervenir de cette façon, nous devons nous interroger de manière critique sur nos propres interactions avec notre passé, sachant qu’elles sont désormais tributaires d’une chose sur laquelle nous n’avons aucun contrôle. »

Lisez l’article cité (en anglais) : Between automated memory and history: blocking ‘sensitive locations’ from Apple Memories.