Molti studiosi, analisti e altri osservatori hanno suggerito che la resistenza all’innovazione è un tallone d’Achille dei regimi autoritari. Tali governi possono non riuscire a tenere il passo con i cambiamenti tecnologici che aiutano i loro oppositori; possono anche, soffocando i diritti, inibire l’attività economica innovativa e indebolire la condizione a lungo termine del paese.
Ma un nuovo studio co-condotto da un professore del MIT suggerisce qualcosa di completamente diverso. In Cina, secondo la ricerca, il governo ha sempre più implementato la tecnologia di riconoscimento facciale guidata dall’intelligenza artificiale per sopprimere il dissenso; ha avuto successo nel limitare la protesta; e, nel frattempo, ha stimolato lo sviluppo di migliori strumenti di riconoscimento facciale basati sull’intelligenza artificiale e altre forme di software.
“Quello che abbiamo scoperto è che nelle regioni della Cina dove ci sono più disordini, ciò porta a maggiori appalti governativi di AI per il riconoscimento facciale, successivamente, da parte di unità del governo locale come i dipartimenti di polizia municipale”, afferma l’economista del MIT Martin Beraja, che è co -autore di un nuovo documento che dettaglia i risultati. Ciò che segue, come osserva il documento, è che “l’innovazione dell’IA rafforza il regime e l’investimento del regime nell’IA per il controllo politico stimola un’ulteriore innovazione di frontiera”.
Gli studiosi definiscono questo stato di cose una “tocrazia dell’intelligenza artificiale”, descrivendo il ciclo connesso in cui l’aumento della diffusione della tecnologia basata sull’intelligenza artificiale reprime il dissenso aumentando al contempo la capacità di innovazione del paese.
Il documento ad accesso aperto, chiamato anche ” AI-tocracy “, appare nel numero di agosto del Quarterly Journal of Economics . I coautori sono Beraja, professore associato di economia per lo sviluppo della carriera di Pentti Kouri al MIT; Andrew Kao, dottorando in economia all’Università di Harvard; David Yang, professore di economia ad Harvard; e Noam Yuchtman, professore di management alla London School of Economics.
Per condurre lo studio, gli studiosi hanno attinto a molteplici tipi di prove che coprono gran parte dell’ultimo decennio. Per catalogare i casi di disordini politici in Cina, hanno utilizzato i dati del progetto GDELT (Global Database of Events, Language, and Tone), che registra i feed di notizie a livello globale. Il team ha rilevato 9.267 episodi di disordini tra il 2014 e il 2020.
I ricercatori hanno quindi esaminato i registri di quasi 3 milioni di contratti di appalto emessi dal governo cinese tra il 2013 e il 2019, da un database gestito dal Ministero delle finanze cinese. Hanno scoperto che l’approvvigionamento da parte dei governi locali di servizi di intelligenza artificiale per il riconoscimento facciale e strumenti complementari di pubblica sicurezza – videocamere ad alta risoluzione – è aumentato in modo significativo nel trimestre successivo a un episodio di disordini pubblici in quella zona.
Dato che i funzionari del governo cinese stavano chiaramente rispondendo alle attività di dissenso pubblico intensificando la tecnologia di riconoscimento facciale, i ricercatori hanno quindi esaminato una domanda di follow-up: questo approccio ha funzionato per sopprimere il dissenso?
Gli studiosi ritengono di sì, anche se, come notano nel documento, “non possono stimare direttamente l’effetto” della tecnologia sui disordini politici. Ma come un modo per rispondere a questa domanda, hanno studiato la relazione tra clima e disordini politici in diverse aree della Cina. Alcune condizioni meteorologiche favoriscono disordini politici. Ma nelle prefetture in Cina che avevano già investito molto nella tecnologia di riconoscimento facciale, tali condizioni meteorologiche sono meno favorevoli ai disordini rispetto alle prefetture che non avevano fatto gli stessi investimenti.
In tal modo, i ricercatori hanno anche tenuto conto di questioni come se i maggiori livelli di ricchezza relativa in alcune aree avrebbero potuto produrre maggiori investimenti nelle tecnologie guidate dall’intelligenza artificiale, indipendentemente dai modelli di protesta. Tuttavia, gli studiosi sono comunque giunti alla stessa conclusione: la tecnologia di riconoscimento facciale veniva impiegata in risposta alle proteste passate, riducendo quindi ulteriormente i livelli di protesta.
“Suggerisce che la tecnologia è efficace nel raffreddare i disordini”, afferma Beraja. Infine, il team di ricerca ha studiato gli effetti dell’aumento della domanda di intelligenza artificiale sul settore tecnologico cinese e ha scoperto che il maggiore utilizzo da parte del governo di strumenti di riconoscimento facciale sembra spingere in avanti il settore tecnologico del paese. Ad esempio, le aziende a cui vengono concessi contratti di appalto per tecnologie di riconoscimento facciale successivamente producono circa il 49% in più di prodotti software nei due anni successivi all’ottenimento del contratto governativo rispetto a prima.
“Esaminiamo se questo porta a una maggiore innovazione da parte delle aziende di intelligenza artificiale per il riconoscimento facciale, e in effetti lo fa“, afferma Beraja.
Tali dati – dal Ministero cinese dell’Industria e dell’Information Technology – indicano anche che gli strumenti basati sull’intelligenza artificiale non stanno necessariamente “spiazzando” altri tipi di innovazione high-tech.
Sommando tutto, il caso della Cina indica come i governi autocratici possano potenzialmente raggiungere uno stato di quasi equilibrio in cui il loro potere politico viene accresciuto, piuttosto che rovesciato, quando sfruttano i progressi tecnologici.
“In quest’epoca di IA, in cui le tecnologie non solo generano crescita ma sono anche tecnologie di repressione, possono essere molto utili” ai regimi autoritari, dice Beraja.
La scoperta riguarda anche questioni più ampie sulle forme di governo e sulla crescita economica. Un corpus significativo di ricerche accademiche mostra che le istituzioni democratiche che concedono diritti generano una maggiore crescita economica nel tempo, in parte creando migliori condizioni per l’innovazione tecnologica. Beraja osserva che l’attuale studio non contraddice quei risultati precedenti, ma nell’esaminare gli effetti dell’IA in uso, identifica una strada attraverso la quale i governi autoritari possono generare più crescita di quanto avrebbero altrimenti.
“Questo può portare a casi in cui istituzioni più autocratiche si sviluppano parallelamente alla crescita“, aggiunge Beraja. Altri esperti nelle applicazioni sociali dell’IA affermano che il documento fornisce un prezioso contributo al campo. “Questo è un documento eccellente e importante che migliora la nostra comprensione dell’interazione tra tecnologia, successo economico e potere politico“, afferma Avi Goldfarb, Rotman Chair in Artificial Intelligence and Healthcare e professore di marketing presso la Rotman School of Management presso l’Università di Toronto. “Il documento documenta un ciclo di feedback positivo tra l’uso della tecnologia di riconoscimento facciale AI per monitorare la soppressione dei disordini locali in Cina e lo sviluppo e la formazione di modelli AI. Questo articolo è una ricerca pionieristica nel campo dell’intelligenza artificiale e dell’economia politica. Man mano che l’intelligenza artificiale si diffonde, mi aspetto che quest’area di ricerca cresca di importanza”.
Da parte loro, gli studiosi stanno continuando a lavorare sugli aspetti correlati di questo problema. Un loro articolo di prossima pubblicazione esamina la misura in cui la Cina sta esportando tecnologie avanzate di riconoscimento facciale in tutto il mondo, evidenziando un meccanismo attraverso il quale la repressione del governo potrebbe crescere a livello globale.
Il supporto per la ricerca è stato fornito in parte dal programma di borse di studio per laureati della National Science Foundation degli Stati Uniti; l’Harvard Data Science Initiative; e il programma Global Professorships della British Academy.
Fonte: https://news.mit.edu/2023/how-ai-tocracy-emerges-0713
