Technocolonialisme : surveillance, données et contrôle numérique

25 févr.
4 min de lecture

Comment les grandes plateformes numériques et l'intelligence artificielle reproduisent le contrôle colonial : racisme algorithmique, appropriation des données et espionnage mondial

Le colonialisme du XXIe siècle n'utilise ni navires ni chaînes. Il utilise des algorithmes, des serveurs, des plateformes numériques et des systèmes d'intelligence artificielle qui modélisent le comportement humain à une échelle sans précédent.

Les géants de la technologie — Google, Meta, Amazon, Apple, Microsoft — sont devenus des empires plus puissants que nombre d'États-nations. Et leurs technologies ne se contentent pas d'organiser le monde : elles le contrôlent.

Surtout dans les pays du Sud.

Le nouveau butin colonial : les données

Autrefois, on pillait l'or, le pétrole et le caoutchouc. Aujourd'hui, ce sont les données qui sont pillées, une matière première qui vaut plus que n'importe quelle ressource physique. Les données des pays du Sud sont collectées en masse et stockées dans des centres situés au Nord. Elles sont traitées par une intelligence artificielle conçue et entraînée au Nord. Les bénéfices économiques restent toutefois en dehors de l'Afrique, de l'Amérique latine et des Caraïbes.

Ce phénomène est largement documenté par :

Shoshana Zuboff – L’ère du capitalisme de surveillance (2019)
CNUCED – Données et numérisation pour le développement (2021)
Privacy International – Rapports sur l’exploration de données dans les pays du Sud

Racisme algorithmique : discrimination programmée

Le racisme n'a pas disparu : il a été codifié. Les algorithmes apprennent de schémas qui reflètent les préjugés et les inégalités des sociétés dans lesquelles ils sont conçus. Il en résulte une technologie qui nuit aux personnes marginalisées depuis toujours.

Erreurs de reconnaissance faciale chez les personnes noires, autochtones ou métisses

Les systèmes de reconnaissance faciale échouent jusqu'à 100 fois plus souvent avec les visages noirs et les peaux foncées qu'avec les visages blancs.

Sources :

Joy Buolamwini et Timnit Gebru – « Nuances de genre : disparités intersectionnelles de précision dans la classification des genres dans le secteur commercial » (MIT Media Lab, 2018). Une étude révèle d’importants biais raciaux chez IBM, Microsoft et Facebook.
NIST – « Test des fournisseurs de reconnaissance faciale (FRVT) » (2019) . Confirmation que les algorithmes commettent des erreurs jusqu’à 100 fois plus souvent avec les Africains et les Asiatiques qu’avec les Européens.

Associations discriminatoires dans l'IA

Les modèles d'IA associent automatiquement les noms africains ou latins au risque, à la criminalité ou à une faible fiabilité.

Sources :

Bolukbasi et al. – « Un homme est-il à un programmeur informatique ce qu’une femme est à une femme au foyer ? » (2016). Démontre les biais des modèles linguistiques.
Latanya Sweeney – « Discrimination dans la diffusion des publicités en ligne » (Harvard, 2013). Elle a démontré que Google affichait davantage de publicités contenant des antécédents judiciaires aux personnes afro-américaines.

Pénalités automatiques dans les systèmes financiers et du travail

Les algorithmes qui attribuent des crédits, classent les CV ou détectent les fraudes appliquent des schémas discriminatoires envers les personnes originaires de pays pauvres.

Sources :

Cathy O'Neil – Armes de destruction mathématique (2016).
Commission européenne – Rapport sur les biais de l’IA (2020).

Surveillance et espionnage : l'empire qui voit sans être vu

La technologie ne se contente pas de discriminer : elle contrôle aussi.

Les États-Unis espionnent les pays du Sud global.

Les révélations d'Edward Snowden en 2013 ont montré que la NSA menait des programmes de surveillance de masse sur des millions de personnes et des gouvernements entiers dans les pays du Sud.

Sources :

Edward Snowden – Documents de la NSA divulgués (The Guardian, 2013).
Glenn Greenwald – No Place to Hide (2014).

Espionnage contre les dirigeants politiques

Le logiciel Pegasus, utilisé par de nombreux gouvernements du Nord et du Sud, a servi à espionner des journalistes, des militants et des chefs d'État en Afrique et en Amérique latine.

Sources :

Amnesty International – Projet Pegasus (2021).
Histoires interdites – Enquête conjointe (2021).

L'intelligence artificielle comme nouvelle mission « civilisationnelle »

L’IA est exportée vers les pays du Sud comme un « progrès », mais en réalité elle crée une dépendance totale :

Les serveurs sont situés au nord.
Les algorithmes se trouvent au Nord.
Les règles sont écrites dans le Nord.
Les avantages restent concentrés dans le Nord.
Le Sud consomme, il ne décide pas.

Sources :

UNESCO – Rapport sur l’éthique de l’intelligence artificielle (2021).
UIT – Rapport sur le développement numérique (2022).

Qui contrôle l'avenir ?

Le technocolonialisme n'affecte pas seulement les économies : il affecte les identités.

Les données déterminent les informations auxquelles nous avons accès, la manière dont les plateformes nous les présentent, les opportunités qui s'ouvrent ou se ferment, et même les récits culturels qui survivent ou disparaissent au gré des algorithmes. Les données sont le nouvel or noir. Les pays du Sud sont la nouvelle mine. Et leur exploitation est plus discrète que jamais.

Glossaire:

Un algorithme est un ensemble d'instructions mathématiques programmées qui permettent à un système informatique d'effectuer des calculs, de traiter des données et de prendre des décisions automatisées. Dans ce contexte, il agit comme une « règle » invisible qui régule l'accès aux opportunités ou aux services.

Sud global — Un concept géopolitique (plutôt que géographique) qui regroupe des pays de régions telles que l'Afrique, l'Amérique latine, les Caraïbes et certaines parties de l'Asie, historiquement caractérisés par le fait d'avoir subi le colonialisme et d'avoir été confrontés à des inégalités économiques face aux puissances développées.

IA (Intelligence Artificielle) — Abréviation d' Intelligence Artificielle . Ce terme désigne les systèmes informatiques conçus pour imiter les fonctions cognitives humaines, telles que l'apprentissage et la résolution de problèmes, grâce au traitement massif de données.

Racisme algorithmique : un phénomène par lequel des systèmes automatisés reproduisent et amplifient les préjugés raciaux existants, discriminant les groupes marginalisés en raison de biais dans leur programmation ou dans les données avec lesquelles ils ont été entraînés.

Technocolonialisme : une forme moderne de domination dans laquelle de puissantes entreprises ou nations exercent un contrôle sur d'autres pays grâce à la propriété des infrastructures numériques, des logiciels et de l'exploration de données, engendrant une dépendance technologique.

NSA — Acronyme de National Security Agency (Agence nationale de sécurité) . Agence de renseignement du département de la Défense des États-Unis, spécialisée en cryptographie et, comme mentionné dans le texte, responsable des programmes de surveillance de masse à l'échelle mondiale.

Reconnaissance faciale : Technologie biométrique qui utilise des algorithmes pour identifier ou vérifier l'identité d'une personne en analysant ses traits faciaux.