John McMullan et Glen Stasiuk, chercheurs à l’Université Murdoch, abordent dans leur article publié sur The Conversation, repris par AIhub, l’impact préoccupant des générateurs d’images d’IA sur les cultures autochtones australiennes. Ils expliquent qu’en produisant des images artificielles censées représenter des peuples autochtones, ces technologies peuvent générer de l’inexactitude culturelle et mener à une « uniformisation » culturelle nocive, appelée « aplatissement culturel ». Ceci pourrait avoir comme conséquence une perte de diversité et constituer une nouvelle forme sournoise de colonialisme technologique. Les auteurs appellent donc à une sensibilisation et à une alliance entre entreprises technologiques, chercheurs et communautés autochtones pour contrer ce phénomène problématique.
Lire l’article sur AIhub.
Je considère cette réflexion particulièrement pertinente. En effet, les systèmes d’intelligence artificielle sont conçus initialement comme des outils neutres; cependant, en réalité, ils héritent des biais et des erreurs issus des bases de données sur lesquelles ils sont entraînés. Ainsi, lorsqu’elles représentent des cultures délicates ayant déjà subi historiquement une marginalisation, ces technologies risquent d’aggraver les inégalités existantes et de renforcer des clichés réducteurs. Il est donc crucial que les entreprises technologiques assument la responsabilité éthique de leurs produits, en coopération directe avec les communautés concernées.
Et toi, quel est ton avis face aux représentations générées artificiellement des cultures autochtones? Penses-tu que la technologie puisse respecter fidèlement la richesse culturelle humaine, ou risque-t-elle inévitablement d’appauvrir cette diversité?
0 commentaire