Foto di Massimo Pistore / Università di Padova

Quando Payal Arora prende la parola tende a spiazzare il pubblico, non con allarmismi ma con l’ottimismo, disarmante ma tutt’altro che ingenuo. Antropologa digitale, autrice e docente di Inclusive AI Cultures all’Università di Utrecht, Arora studia da oltre vent’anni il modo in cui miliardi di persone nel Sud globale – dall’India al Brasile, dalla Cina all’Iran – si rapportano alle tecnologie digitali. Quello che ha scoperto contraddice buona parte delle convinzioni diffuse in Europa e negli Stati Uniti: per la maggioranza della popolazione mondiale internet e intelligenza artificiale, più che minacce da contenere, sono anzitutto strumenti di emancipazione e partecipazione sociale.

Arora è stata keynote speaker a Rethinking the University in the Age of Artificial Intelligence, conferenza internazionale di due giorni ospitata a Palazzo del Bo, sede storica dell’Università di Padova, organizzata nell’ambito della rete ALMA e dedicata al futuro della didattica universitaria nell’epoca dell’AI generativa. Il suo intervento, intitolato Teaching AI to See the World Differently, ha preso spunto spunto dal suo ultimo libro, From Pessimism to Promise (MIT Press, 2024), e dal lavoro dell’Inclusive AI Lab, il network internazionale di ricerca che ha contribuito a fondare e che riunisce ricercatori, organizzazioni civiche e realtà imprenditoriali del Sud globale per progettare sistemi di AI capaci di riflettere la reale diversità del mondo.

Sul fondo di tensioni geopolitiche e accelerazione tecnologica, Arora ha messo in guardia contro una crescente tendenza dell’Europa a ripiegarsi su sé stessa, una ‘mentalità da fortezza’ che rischia di restringere gli spazi educativi e di immaginazione a nostra disposizione. Troppo spesso, sostiene, il dibattito pubblico oscilla tra arroganza tecnologica e pessimismo sociale, sopravvalutando il ruolo delle macchine a scapito di quello di persone e istituzioni. “Continuiamo a ripetere la stessa narrazione: che le nuove tecnologie ci renderanno stupidi. Anni fa era Google, oggi è l’AI: cambia la tecnologia ma la paura resta sorprendentemente simile, spesso senza solide basi empiriche. Nel frattempo gran parte del resto del mondo vede l’AI come un’opportunità di democrazia, creare connessioni e aprire la conoscenza. E invece qui sta emergendo quasi una postura ‘puritana’: rifiutare l’uso dell’AI come segno di integrità”.

L’abbiamo incontrata a margine della conferenza, in una conversazione che ha spaziato dalle aule universitarie alle tavole familiari, da Teheran alla Silicon Valley, dalle ansie degli utenti di smartphone maturi o anziani alle abitudini silenziosamente sovversive della Generazione Z.

Domanda: Lei sostiene che le paure legate alla sostituzione delle attività umane da parte dell’IA, come ad esempio l’insegnamento, siano in parte ingiustificate. Perché?

Payal Arora: Ogni tecnologia è intrinsecamente assistiva: l’AI non sostituirà l’insegnamento umano, così come non sostituirà la genitorialità, l’attività di governo o qualunque ambito fondato sulla cura. Se iniziamo a porre la questione nei termini della sostituzione, stiamo in realtà abdicando alle nostre responsabilità, attribuendo alla tecnologia qualcosa che invece è profondamente umano. La vera domanda è un’altra ed è più difficile: qual è il ruolo delle nostre istituzioni sociali e come possono usare questi strumenti per migliorare il benessere della società e del pianeta? È una questione molto più complessa, che non finisce facilmente nei titoli dei giornali.

Eppure molti genitori e insegnanti sono preoccupati per l’impatto della tecnologia sulle nuove generazioni.

Capisco la preoccupazione, ma c’è anche la tendenza a sottovalutare ciò che i giovani stanno realmente facendo con la tecnologia. Siamo continuamente esposti a panici morali – storie di comportamenti dannosi, casi estremi – che generano ansia e spingono i genitori a fare tutto il possibile per proteggere i figli.

I dati raccontano però un’altra storia: ricerche empiriche mostrano che spesso sono proprio gli individui tra i 45 e i 65 anni a essere maggiormente dipendenti dal telefono. In molti contesti i più giovani considerano ‘poco cool’ essere sempre online, a volte anzi rimproverano gli adulti per questo. In un certo senso stiamo proiettando sui ragazzi i nostri stessi comportamenti; loro appartengono però a una generazione diversa e molti stanno consapevolmente cercando di non replicare le nostre abitudini.

L’intelligenza artificiale è più una forza di inclusione o una fonte di discriminazione e di pregiudizi?

È come chiedersi se un’università o una famiglia siano buone o cattive: dipende! Una famiglia può essere accogliente oppure produrre abusi; un’università può ampliare la conoscenza oppure limitarla. Perché dovremmo giudicare la tecnologia secondo criteri completamente diversi?

La tecnologia riflette l’intero spettro delle capacità umane – dagli usi più oscuri, come la pornografia deepfake o lo sfruttamento minorile, fino a quelli profondamente emancipativi, come offrire alle persone con disabilità nuovi modi per partecipare alla vita quotidiana. E dovremmo ricordare che tutti noi, prima o poi, sperimenteremo forme di limitazione – fisica o mentale – in cui la tecnologia potrà diventare un salvavita e un ponte verso la partecipazione sociale.

Per questo l’AI non è intrinsecamente una cosa o l’altra; è un’istituzione sociale e come tale va trattata: costruendo sistemi di responsabilità e cura, ma anche permettendole di sviluppare il proprio potenziale. Col tempo, come altre tecnologie del passato, potrebbe smettere di apparire radicale e diventare qualcosa di più ordinario, integrato nella vita quotidiana.

Photos by Massimo Pistore / University of Padua

Lei ha sottolineato come le prospettive cambino a livello globale. In alcune parti dell’Asia e del Sud globale la tecnologia viene vista in modo molto più ottimistico, ma esistono anche rischi evidenti: controllo, concentrazione del potere… Come dovremmo affrontarli?

Dobbiamo prendere questi rischi seriamente, ma anche osservare come le persone reagiscono. Pensiamo all’Iran: quando i governi bloccano internet – come è accaduto ripetutamente – diventa evidente quanto la tecnologia sia potente. I blackout della rete sono oggi uno degli strumenti di controllo più comuni, proprio perché l’accesso alla tecnologia consente conoscenza, connessione e azione collettiva.

I giovani che vivono in quei contesti non chiedono di essere disconnessi: vogliono accesso, chiedono di entrare. Questo dovrebbe dirci qualcosa; allo stesso tempo, però, volere accesso non significa ‘tutto è permesso’: implica anche una richiesta di responsabilità. Ancora una volta, quindi, non si tratta di un semplice aut-aut, ma di riconoscere insieme i rischi e il potenziale trasformativo.

Anche nelle democrazie occidentali esistono timori legati al controllo dell’informazione, dei media e perfino dei processi politici. È una minaccia crescente?

Certamente esistono nuove sfide e nuovi rischi. Credo però sia utile considerare il nostro rapporto con la tecnologia per quello che è: una relazione. Come in un matrimonio c’è coinvolgimento, ma anche lavoro da fare. La tecnologia ha un ruolo nelle nostre vite, ma dobbiamo definire e ridefinire continuamente quale sia.

Facciamo già affidamento sugli strumenti tecnologici in molti modi: per organizzare le nostre vite, motivarci, perfino riflettere sul nostro stesso pensiero. A volte la tecnologia può aiutarci a vedere oltre le nostre “bolle” informative, a riconoscere i limiti delle nostre prospettive. Può anche sostenere la crescita personale, ma solo se la utilizziamo consapevolmente.

Leggi l'intervista originale in inglese: Between Fear and Promise: Why AI Needs a More Inclusive Imagination

Nel suo intervento ha detto che dobbiamo passare da “training AI” a “teaching AI”, andando oltre i dati perché “garbage in, garbage out”. Come possiamo rendere l’AI generativa più aperta e inclusiva?

Il primo passo è cercare attivamente i bias. Quando usiamo questi strumenti, dobbiamo prestare attenzione a ciò che producono. È simile a una ricerca immagini su Google: se scriviamo ‘famiglia’, spesso vedremo una rappresentazione molto ristretta – due genitori e due figli, tutti sorridenti. Quella è però soltanto una versione della realtà, perché esiste una certa norma sociale su come una famiglia dovrebbe apparire. Allo stesso tempo, però, questi sistemi possono essere utilizzati come strumenti straordinariamente potenti: una sorta di archivio collettivo e vivente della pluralità del mondo.

L’AI generativa funziona allo stesso modo: se riflette soltanto una piccola porzione del mondo, allora dobbiamo chiedercene il perché. Da dove arrivano queste rappresentazioni? Quali dati vengono utilizzati? Sono domande importanti, perché gli output che vediamo finiscono poi per alimentare i dataset che addestreranno i sistemi futuri.

In questo senso anche gli utenti hanno un ruolo. Interrogando ciò che vediamo – mettendo in discussione norme e rappresentazioni – possiamo spingere questi sistemi verso una comprensione del mondo più ampia e inclusiva.

Speciale scienza e didattica

• Buongiorno professor AI
• Per imparare ci vuole anche un po’ di “magia”
• La matematica e le sue anime
• Insegnare: arte o scienza?

Speciale Intelligenza Artificiale

• Università di Padova protagonista al World Artificial Intelligence Cannes Festival
• L’intelligenza artificiale ci sta (già) cambiando la vita
• Niente paura, è l’AI
• Intelligenza artificiale: la padovana Audio Innova trionfa al Cannes Neurons
• Computer sempre più creativi ed “emotivi”?
• Intelligenza artificiale in medicina: buone prospettive ma studi ancora poco solidi
• Quale etica per l’AI?
• Perché ChatGPT ha bisogno di regole
• Buongiorno professor AI