Il Grande Fratello arriva in Spagna

L’11 marzo, durante il primo “Forum contro l’odio” (Foro contra el odio), il governo spagnolo ha lanciato con enfasi l’iniziativa HODIO. Si tratta di un sistema destinato a monitorare e quantificare l’«impronta dell’odio» sui social media: presentato come uno strumento necessario per comprendere e contrastare la polarizzazione online, il sistema, leggiamo nella pagina istituzionale dedicata, «analizza la presenza di discorsi di odio e polarizzazione sui principali social network utilizzati in Spagna […] e genera una classifica pubblica e trasparente che confronta il livello di esposizione all’odio sulle diverse piattaforme». Questo sistema è nato in seno all’Osservatorio spagnolo del razzismo e della xenofobia (OBERAXE), un organismo posto sotto l’egida del Ministero dell’Inclusione, della Previdenza Sociale e delle Migrazioni. 

Senza farsi abbindolare dalla retorica della «misurazione dell’odio» è doveroso interrogarsi sul controllo politico che una tale iniziativa possa inevitabilmente contenere, considerando che di mezzi molto simili - e di orwelliana memoria - ne abbiano usufruito Paesi come il Venezuela, il Nicaragua, Cuba, per fare qualche esempio. E non pensiamo che l’Unione europea se ne discosti tanto, se consideriamo le ultime operazioni legate al mondo digitale, come il Digital Services Act approvato lo scorso anno o, del novembre scorso, lo European Democracy Shield - di fatto due sistemi per sottoporre le piattaforme a controlli normativi obbligandole a rimuovere contenuti “dannosi” e garantire una sorta di “democrazia digitale” sempre stando ai criteri di Bruxelles. 

Mentre infatti HODIO si pone l’obiettivo di «misurare la presenza, l’evoluzione e l’impatto» dell’odio online, non vengono chiariti quali siano i criteri per distinguere le opinioni legittime - anche laddove politicamente scorrette o scomode - e i contenuti effettivamente violenti o discriminatori. O meglio, i criteri vengono descritti come «di polarizzazione, discriminazione o conflitto politico», ma sono chiaramente forniti dall’esecutivo. Chi dunque potrebbe garantire imparzialità e trasparenza? Chi potrebbe assicurare che i discorsi di odio non includano satire o posizioni impopolari rendendo il sistema un vero e proprio meccanismo di sorveglianza? 

Sempre dalla pagina istituzionale apprendiamo che verrà pubblicata «periodicamente una classifica che misura la prevalenza dell'incitamento all'odio e la diffusione dei contenuti. Sulla base di questi dati viene redatto un rapporto semestrale che include una classifica, vera e propria lista di proscrizione o se preferite “indice”, per monitorare l’evoluzione su ciascun social media». Mentre ci viene raccontato come un incentivo alla responsabilità delle piattaforme, noi lo leggiamo come una forma di pressione neanche troppo velata verso aziende e utenti. 

Il progetto HODIO si inserisce in una più ampia strategia di supervisione delle piattaforme digitali promossa dall’esecutivo di Pedro Sánchez. Che prevede l’ipotesi di vietare i social ai minori di 16 anni, la responsabilità penale per i dirigenti delle piattaforme e un rafforzamento generale del controllo pubblico sull’ecosistema digitale. Se considerato nel contesto del pacchetto, sembra che la misura HODIO non abbia l’obiettivo primaria di contrastare l’odio, bensì di ridisegnare a tavolino i rapporti tra Stato, cittadini e tecnologia.

Per avvallare questa ipotesi riportiamo la posizione del fondatore di Telegram Pavel Durov che ha criticato pubblicamente i piani del ministro Sánchez spiegando che la raccolta dei dati spingerebbe le piattaforme a rimuovere i contenuti per evitare di incorrere in procedimenti giudiziari. «Queste non sono garanzie», ha aggiunto Durov, «sono passi verso il controllo totale. Abbiamo già visto questo playbook - i governi che armano la “sicurezza” per censurare i critici».  Il governo sostiene che «quando l’odio viene misurato smette di diventare invisibile». È vero anche l’opposto, quando qualcosa viene misurato può essere dettagliatamente manipolato, interpretato o strumentalizzato. A forza di voler rendere visibile l’odio, si rischia di rendere invisibile la libertà di opinione. 

ABBONATI ORA ALLA RIVISTA!