Tecnocolonialismo: sorveglianza, dati e controllo digitale

25 feb

Tempo di lettura: 4 min

Come le principali piattaforme digitali e l'intelligenza artificiale riproducono il controllo coloniale: razzismo algoritmico, appropriazione di dati e spionaggio globale

Il colonialismo del XXI secolo non utilizza né navi né catene. Utilizza algoritmi, server, piattaforme digitali e sistemi di intelligenza artificiale che modellano il comportamento umano su una scala senza precedenti.

I giganti della tecnologia – Google, Meta, Amazon, Apple, Microsoft – sono diventati imperi più potenti di molti stati nazionali. E le loro tecnologie non si limitano a organizzare il mondo: lo controllano.

Soprattutto nei paesi del Sud del mondo.

Il nuovo bottino coloniale: i dati

In passato, oro, petrolio e gomma venivano saccheggiati. Oggi, a essere saccheggiati sono i dati: una materia prima che vale più di qualsiasi risorsa fisica. I dati provenienti dai paesi del Sud del mondo vengono raccolti in massa e archiviati in centri situati nel Nord del mondo. Vengono elaborati da un'intelligenza artificiale progettata e addestrata nel Nord del mondo. I benefici economici, tuttavia, rimangono al di fuori di Africa, America Latina e Caraibi.

Questo fenomeno è ampiamente documentato da:

Shoshana Zuboff – L’era del capitalismo della sorveglianza (2019)
UNCTAD – Dati e digitalizzazione per lo sviluppo (2021)
Privacy International – Rapporti sul Data Mining nel Sud del mondo

Razzismo algoritmico: discriminazione programmata

Il razzismo non è scomparso; è stato codificato. Gli algoritmi apprendono modelli che riflettono i pregiudizi e le disuguaglianze delle società in cui sono progettati. Il risultato è una tecnologia che danneggia persone che sono sempre state emarginate.

Errori di riconoscimento facciale tra individui neri, indigeni o di razza mista

I sistemi di riconoscimento facciale falliscono fino a 100 volte più spesso con i volti neri e la pelle scura rispetto ai volti bianchi.

Fonti:

Joy Buolamwini e Timnit Gebru – “Gender Nuances: Intersectional Disparities in Accuracy in Gender Classification in the Commercial Sector” (MIT Media Lab, 2018). Uno studio rivela significativi pregiudizi razziali in IBM, Microsoft e Facebook.
NIST – “Facial Recognition Vendor Testing (FRVT)” (2019) . Conferma che gli algoritmi commettono errori fino a 100 volte più spesso con africani e asiatici che con gli europei.

Associazioni discriminatorie nell'IA

I modelli di intelligenza artificiale associano automaticamente i nomi africani o latini al rischio, alla criminalità o alla scarsa affidabilità.

Fonti:

Bolukbasi et al. – “Un uomo è per un programmatore informatico ciò che una donna è per una casalinga?” (2016). Dimostra i pregiudizi dei modelli linguistici.
Latanya Sweeney – “Discriminazione nella diffusione di annunci online” (Harvard, 2013). Ha dimostrato che Google ha mostrato più annunci contenenti precedenti penali agli afroamericani.

Sanzioni automatiche nei sistemi finanziari e del lavoro

Gli algoritmi che assegnano crediti, classificano i CV o individuano le frodi applicano modelli discriminatori nei confronti delle persone provenienti dai paesi poveri.

Fonti:

Cathy O'Neil – Armi di distruzione matematica (2016).
Commissione Europea – Rapporto sulla distorsione dell’IA (2020).

Sorveglianza e spionaggio: l'impero che vede senza essere visto

La tecnologia non si limita a discriminare: controlla anche.

Gli Stati Uniti spiano i paesi del Sud del mondo.

Le rivelazioni di Edward Snowden del 2013 hanno dimostrato che la NSA stava conducendo programmi di sorveglianza di massa su milioni di persone e interi governi nei paesi del Sud del mondo.

Fonti:

Edward Snowden – Documenti della NSA trapelati (The Guardian, 2013).
Glenn Greenwald – Nessun posto dove nascondersi (2014).

Spionaggio contro i leader politici

Il software Pegasus, utilizzato da molti governi del Nord e del Sud, è stato utilizzato per spiare giornalisti, attivisti e capi di stato in Africa e America Latina.

Fonti:

Amnesty International – Progetto Pegasus (2021).
Storie proibite – Indagine congiunta (2021).

L'intelligenza artificiale come nuova missione "civilistica"

L'intelligenza artificiale viene esportata nei paesi del Sud del mondo come "progresso", ma in realtà crea una dipendenza totale:

I server si trovano a nord.
Gli algoritmi si trovano al Nord.
Le regole sono scritte nel Nord.
I vantaggi restano concentrati al Nord.
Il Sud consuma, non decide.

Fonti:

UNESCO – Rapporto sull’etica dell’intelligenza artificiale (2021).
ITU – Rapporto sullo sviluppo digitale (2022).

Chi controlla il futuro?

Il tecnocolonialismo non colpisce solo le economie: colpisce anche le identità.

I dati determinano le informazioni a cui abbiamo accesso, il modo in cui le piattaforme ce le presentano, le opportunità che si aprono o si chiudono e persino le narrazioni culturali che sopravvivono o scompaiono a seconda del capriccio degli algoritmi. I dati sono il nuovo oro nero. Il Sud del mondo è la nuova miniera. E il suo sfruttamento è più discreto che mai.

Glossario:

Un algoritmo è un insieme di istruzioni matematiche programmate che consentono a un sistema informatico di eseguire calcoli, elaborare dati e prendere decisioni automatizzate. In questo contesto, agisce come una "regola" invisibile che regola l'accesso a opportunità o servizi.

Sud del mondo — Un concetto geopolitico (piuttosto che geografico) che raggruppa paesi in regioni come l'Africa, l'America Latina, i Caraibi e parti dell'Asia, storicamente caratterizzati dall'aver sofferto il colonialismo e dall'aver dovuto affrontare disuguaglianze economiche rispetto alle potenze sviluppate.

IA (Intelligenza Artificiale) — Abbreviazione di Intelligenza Artificiale . Questo termine si riferisce ai sistemi informatici progettati per imitare le funzioni cognitive umane, come l'apprendimento e la risoluzione dei problemi, attraverso l'elaborazione massiva di dati.

Razzismo algoritmico : fenomeno mediante il quale i sistemi automatizzati riproducono e amplificano pregiudizi razziali esistenti, discriminando i gruppi emarginati a causa di pregiudizi nella loro programmazione o nei dati con cui sono stati addestrati.

Tecnocolonialismo : una forma moderna di dominio in cui potenti corporazioni o nazioni esercitano il controllo su altri paesi attraverso la proprietà di infrastrutture digitali, software e data mining, creando dipendenza tecnologica.

NSA — Acronimo di National Security Agency . Agenzia di intelligence del Dipartimento della Difesa degli Stati Uniti, specializzata in crittografia e, come menzionato nel testo, responsabile di programmi di sorveglianza di massa su scala globale.

Riconoscimento facciale : tecnologia biometrica che utilizza algoritmi per identificare o verificare l'identità di una persona analizzandone i tratti del viso.