Appel à propositions IAEMS 2024

Équité des genres, IA générative et culture

Contexte et domaines ciblés

Le développement et le déploiement des technologies d'intelligence artificielle générative (IA générative) se sont accélérés ces dernières années, transformant divers secteurs (soins de santé, finance, éducation, etc.). Le secteur des arts et de la culture est cependant fondamental pour les sociétés démocratiques. Il joue un rôle aussi important que les médias indépendants, ce qui fait de l'impact de l’IA générative sur les artistes et les travailleurs culturels un domaine particulièrement critique à surveiller. Les droits des artistes et des travailleurs culturels n'ont donc jamais été aussi importants à défendre. Simultanément, les préoccupations concernant l'équité entre les genres, les biais en IA ainsi que les représentations erronées dans la conception des systèmes d'IA ont augmenté. Il est essentiel de développer des cadres d'évaluation de l'impact de l'IA générative afin de mieux comprendre les risques relatifs à un effacement culturel genrée sur la société. 

La recherche démontre que les systèmes de GenAI amplifient les biais sociétaux, conduisant à des représentations biaisées des femmes et des personnes racisées dans les résultats générés par l'IA. L’utilisation accrue de ces systèmes rsiquent fort d’entraîner une augmentation de la discrimination dans la vie réelle et même de la violence. Par exemple, une étude analysant les images générées par des outils d'IA populaires a révélé d'importants biais liés au genre et à la race, les femmes et/ou les personnes noires étant sous-représentées dans les portraits professionnels. Toutefois, ce que nous ignorons, c'est l'impact de cette situation sur l'intérêt des femmes pour l'utilisation de l'IA en tant qu'outil artistique, et l’impact de ce désintérêt. 

Comment l'utilisation de l’IA générative influe-t-elle sur leur sécurité économique (soit parce que l'utilisation massive de l’IA générative par d'autres menace la liberté économique des femmes artistes parce que ces plateformes empruntent ou volent les artistes sans leur consentement; soit parce qu'en n'adoptant pas les outils de la GenAI, les femmes sont exclues ou s'excluent elles-mêmes d'un marché en expansion, ainsi que de l'utilisation d'outils qui peuvent améliorer leur productivité et leur rayonnement en tant qu'artistes). Le projet propose d'aborder ces questions, entre autres.

Les femmes artistes qui naviguent dans ce paysage expriment un mélange de scepticisme et d'ouverture à l'égard de l'intégration de l'IA dans leurs processus créatifs et la plupart des femmes expriment un manque d'intérêt pour l'IA. Toutefois, la question de savoir quelles solutions concrètes nous pouvons adopter pour nous attaquer aux causes profondes de cette absence n'a pas encore été abordée. Les économies créatives inclusives et durables progresseront de manière plus significative grâce à la mise en œuvre de politiques féministes intersectionnelles et sensibles au genre ; le rôle des arts et de la culture dans la société, des femmes artistes et des travailleuses culturelles doit être soutenu par des stratégies économiques concrètes.

Pour explorer ces questions pressantes, AI Impact Alliance réunit des experts internationaux pour une table ronde d'une journée entière sur l'intersection de l'IA générative, du genre et des politiques culturelles, en mettant l'accent sur l'impact des technologies émergentes sur les femmes artistes et les travailleuses du secteur de la culture. Nous rassemblerons des experts sur les implications en matière de politique culturelle, de sécurité et de diplomatie, ainsi que des solutions sur la manière dont nous pouvons prévenir les risques inhérents (recommandations politiques, cadres d'évaluation). Le cadre d'évaluation de l'impact, ou certains de ses éléments, que nous prévoyons de proposer servira de guide pour les politiques publiques et la responsabilité sociale des entreprises (RSE). 

Notre groupe de travail produira des lignes directrices pour l'intégration d'approches féministes sensibles au genre dans les politiques nationales et internationales en matière d'IA liées aux arts et à la culture, ou dans les politiques culturelles relatives à l'IA, abordant ainsi l'intersection complexe du genre, de la race et de l'équité socio-économique. En outre, des artistes boursiers du programme les Arts-la-loi de l'AIIA participeront à la table ronde, afin d'ancrer solidement nos méthodes de recherche dans les réalités artistiques et les perspectives sectorielles.

Les ODD sur lesquels nous nous concentrons sont les suivants : ODD 5 (égalité des genres), ODD 8 (travail décent et croissance économique), ODD 10 (réduction des inégalités) et ODD 16 (paix, justice et institutions fortes).

Processus 

Nous sélectionnerons un maximum de 10 intervenants pour une table ronde qui se tiendra en ligne. Les propositions doivent être soumises par l'intermédiaire de ce lien, y compris un résumé de 650 mots de l'intervention proposée, votre affiliation et vos intérêts de recherche. Si vous souhaitez soumettre un article en plus de votre résumé (non obligatoire), il vous sera demandé de l'envoyer aux organisateurs de la conférence jusqu'à une semaine avant l'atelier, afin que nous puissions le mettre à la disposition des participants.

Où et quand : L'atelier se déroulera sur une journée entière le mercredi 27 novembre 2024 en ligne, heure de Montréal (ET). 

Comité de recherche

Initiatrice et coordinatrice, Valentine Goddard, fondatrice de l'Alliance Impact IA (AIIA), adopte une approche multidisciplinaire, combinant sa formation juridique, ses activités artistiques et son intérêt pour l'éthique et la gouvernance de l'IA. Elle utilise l'art pour explorer les implications politiques et juridiques transversales de l'IA et défend le rôle de l'art dans la compréhension et la formation des impacts sociétaux de l'IA. Elle dirige actuellement le groupe de ressources Art, IA, Droit et Société qui inclut le programme de bourses les Arts-la-loi pour les artistes, avec le soutien du Conseil des arts du Canada.

Jane Ezirigwe est professeure associée de droit à l'Institut nigérian d'études juridiques avancées (NIALS) et boursière Gordon F. Henderson au Centre de recherche et d'enseignement sur les droits de la personne (CREDP) de l'Université d'Ottawa. Docteure Ezirigwe utilise les perspectives de justice de genre et raciale pour mener des recherches sur la gouvernance des données, les droits de l'homme et le développement.

Sarah Moritz est anthropologue environnementale et directrice du Laboratoire de narration, d'ethnographie et d'action (SEAL) à l'Université Thompson Rivers. Ses recherches portent sur les écologies relationnelles autochtones, les territoires de vie et l'histoire orale matriarcale, particulièrement dans les régions salish et arctiques, et mettent l'accent sur des approches décoloniales et intersectionnelles.

Caroline Jonnaert est titulaire d'un doctorat en droit d'auteur de l'Université de Montréal. Elle est avocate et associée chez ROBIC, un cabinet d'avocats spécialisé en droit de la propriété intellectuelle. Caroline s'intéresse à l'interaction entre le secteur culturel et l'IA générative d'un point de vue juridique. Elle est l'auteure de "Intelligence artificielle et droit d'auteur, le dilemme canadien", éditions Yvon Blais, 2024.

Pierre Tircher est titulaire d'un doctorat en relations industrielles de l'Université de Montréal où il est également chercheur et chargé de cours. Son expertise réside dans l'analyse des politiques publiques. À l'aide de méthodes quantitatives, il étudie leurs effets différenciés sur les sous-groupes de population afin de mettre en lumière les inégalités que ces politiques peuvent créer.

Mariangela Mihai est une chercheuse et narratrice multimodale travaillant à l'intersection des médias transmédias, des technologies émergentes et de la société. Elle est titulaire d'un doctorat en anthropologie de Cornell, a été chercheuse postdoctorale en médias mondiaux et cinéma à Georgetown, et est professeure adjointe d'anthropologie et d'études sur les femmes, le genre et la sexualité à l'Université Western Washington. Elle est cofondatrice d'Ethnocine, un collectif de cinéastes femmes de couleur et queer qui repoussent les limites du storytelling documentaire à travers une pratique décoloniale et féministe intersectionnelle.

Sébastien Gambs est titulaire de la Chaire de recherche du Canada en analyse des mégadonnées respectueuse de la vie privée et éthique et professeur au département d'informatique de l'UQAM. Il s'intéresse à la résolution de questions scientifiques à long terme telles que la tension entre la protection de la vie privée et l'analyse des mégadonnées, ainsi que les questions d'équité, de responsabilité et de transparence soulevées par les modèles d'apprentissage automatique et les systèmes personnalisés.

Mercy Atieno Odongo est chef de cabinet adjointe au ministère des Affaires étrangères et de la diaspora du Kenya et doctorante à l'Université internationale des États-Unis. Boursière Edward Mason de la Harvard Kennedy School et leader émergente de la Fondation Obama pour l'Afrique, elle a fondé l'Adaptive Leadership Foundation. Mercy défend le leadership transformationnel et a formé plus de 140 leaders émergents à travers l'Afrique, en se concentrant sur la diplomatie, le développement durable et les stratégies de leadership adaptatif.

Domaines de contribution

Nous accueillons des contributions provenant de divers domaines et régions, y compris, mais sans s'y limiter, les arts et la culture, l'économie, le droit, la politique et la gouvernance, la diplomatie, les études de genre, la technologie et l'innovation, l'éthique de l'IA, les études indigènes et la politique culturelle. L'un des principaux objectifs est de réunir un groupe de travail intéressé par l'élaboration d'un cadre solide pour évaluer l'impact de l'IA générative sur la culture, en mettant l'accent sur l'impact genrée de l'IA générative.

Nous recherchons :

  1. Des travaux de recherche (y compris la recherche-action communautaire, la recherche basée sur l'art et la recherche menée par des organisations de la société civile) adoptant des perspectives intersectionnelles, féministes (sensible au genre), autochtones et/ou régionales sur l'IA générative dans les arts et la culture.

  2. Des projets examinant les dynamiques et les implications genrées de l'IA générative pour la représentation culturelle et pour les organisations artistiques et culturelles à but non lucratif et les organisations de services aux arts et de la culture.

  3. Des articles ou des présentations sur les risques économiques et juridiques de la sous-représentation des femmes dans l'art et la production culturelle générés par l'IA. Étant donné que nous sommes à une époque où de nouveaux corpus juridiques émergent, cela inclut également des articles qui examinent comment nous pouvons façonner les lois et politiques émergentes sur l'IA et l'IA générative pour mieux atteindre les 17 objectifs de développement durable de l’ONU (ODD), la Vérité et la Réconciliation et les 94 Appels à l'action ; renforcer le respect des droits humains, culturels, autochtones et économiques ; soutenir la consolidation de la paix.

  4. Des propositions de projets d'IA appliquée ou de cadres de gouvernance de l'IA conçus en réponse aux problématiques exprimées ci-haut.

  5. Des présentations sur les impacts économiques de l'IA générative sur les femmes artistes et les travailleuses culturelles.

  6. Des propositions de modèles d'évaluation d'impact pour atténuer les biais dans l'art et le contenu culturel générés par l'IA.

  7. Des stratégies pour intégrer les principes d'IA féministe intersectionnelle dans les cadres internationaux de politiques, de sécurité et de diplomatie culturelle.

  8. Des propositions de projets d'IA appliquée ou de gouvernance de l'IA et des données (politiques, normes, standards) conçus dans le but d'améliorer l'égalité des genres dans le secteur des arts et de la culture.

  9. Des articles ou des présentations sur les risques pour la sécurité culturelle liés à la sous-représentation des femmes artistes et des leaders culturels dans la gouvernance de l'IA (effacement culturel genré).

  10. Des articles ou des présentations explorant de nouveaux modèles de gouvernance pour les données genrées dans le financement des arts et de la culture, y compris le rôle des fiducies et coopératives de données culturelles.

Date limite

Les soumissions doivent être reçues au plus tard le 15 novembre 2024 pour être prises en compte.

Résultats attendus 

Une table ronde d'une journée, un rapport final comprenant des recommandations politiques et un projet de cadre d'évaluation sensible au genre sur les impacts de l'IA générative. Les co-chaires de même que les auteur.e.s coups de cœur parmi les les propositions acceptées seront incluses en tant que co-auteur.e.s dans le rapport final (les coups de cœur seront décidés par le comité de direction du groupe de travail suivant les présentations). Les résultats seront présentés lors de notre sommet annuel en mars (date à déterminer) et nous espérons les soumettre à des instances telles que l'UNESCO, la Fédération internationale des coalitions pour la diversité culturelle (FICDC) et la Fédération internationale des conseils des arts et des agences culturelles (FICAAC). Il sera également inclus dans notre rapport au Conseil des arts du Canada.

Lectures préparatoires (non traduit).

 

Cliquez ici pour soumettre ou visitez la section Programmes du site web de l’Alliance Impact IA (AIIA).

Écrivez à v.goddard@allianceimpact.org si vous désirez plus d’information ou pour commanditer la tenue en personne de cet atelier.