Evan Light et Craig Fahner

MARDI 13 MAI — 16:15 à 16:30

Les nouvelles technologies sont dans un état apparemment permanent d’émergence urgente.  Hier, vous vous êtes réveillé en apprenant que l’IA avait cloné votre voix tandis que demain elle pourrait s’emparer de votre corps. Il y a une bonne chance qu’il a déjà prit ton visage. Nous permettons les entreprises à la pointe de l’innovation de saigner la société à blanc lorsqu’ils extraient des données à partir d’endroits de plus en plus innovants – voix, démarche, texture de la peau, des comorbidités non divisées. Ça se passe parce qu’on le permettre. Les enjeux étaient peut-être faibles auparavant, mais ils ont radicalement changé et il en va de même pour notre approche de la réglementation de la technologie. Le champs de technologie de reconnaissance faciale, dépourvu de tout cadre réglementaire, n’est pas un objet idéal seulement pour l’innovation réglementaire, mais aussi pour reconsidérer la manière dont ces technologies sont développées en premier lieu. 

La technologie de reconnaissance faciale est devenu répandu partout dans notre société ; elle est une partie intégral de l’industrie bancaire, de déplacement international, le contrôle de foules ainsi que la police. Elle se fondée sur le machine learning, l’intelligence artificielle et des ensembles de données volumineux mais obscurcis. Pour comprendre les inférences générées par la technologie de reconnaissance faciale, nous avons besoin d’examiner les données de formation et surveiller les décisions qui sont pris (ou qui ne sont pas pris) pendant le processus d’entraînement. Nous proposons d’utiliser des données d’entraînement à la reconnaissance faciale accessibles au public (open-source) pour entraîner notre propre modèle de reconnaissance faciale. De plus, nous allons documenter chaque étape de ce processus en vue de l’élaboration d’une recherche publique qui rendre lisibles ces processus souvent obscurcis. Ce faisant, nous proposons des méthodes pour rendre les données d’entraînement à la reconnaissance faciale et les méthodes pour les utiliser, accessibles au public à perpétuité, comme une offrande aux biens communs. 

Evan Light est professeur associé à la Faculté de l’Information, Université de Toronto. Diplômé de l’UQAM, sa recherche aborde la surveillance massive, des politiques de l’information et de la communication, ainsi que des approches recherche-création. Son projet Deobfuscating State Surveillance, vise à créer un cartographie de la surveillance de l’État au Canada. 

---

Craig Fahner est professeur adjoint invité dans le programme Integrated Design & Media à New York University. Ses travaux de recherche et de création remettent en question et réimaginent la manière dont des médias façonnent la vie quotidienne. Il est co-investigateur du projet Data Fluencies, financé par le Fondation Mellon, une initiative qui s’efforce d’établir une culture publique critique autour des technologies basées sur les données.