L’intelligenza artificiale può rubare il lavoro ai matematici?

Sebbene anche nelle scienze sperimentali viene utilizzata per la programmazione degli esperimenti o per l’elaborazione dei dati, l’intelligenza artificiale non ha (ancora) trovato il modo di maneggiare una provetta in laboratorio. Non incontra invece questi limiti fisici in una scienza teorica come la matematica pura, dove ha già iniziato a sfornare risultati sorprendenti.

Alle Olimpiadi Internazionali della Matematica (IMO) l’anno scorso ha partecipato anche Google, iscrivendo un chatbot, Gemini Deep Think, in grado di leggere i quesiti in inglese, “ragionare” e offrire una soluzione.

Le IMO rappresentano la competizione più prestigiosa al mondo per giovani matematici non ancora iscritti all'università. Ogni Paese può presentare sei partecipanti che si cimentano nella risoluzione di sei problemi di eccezionale difficoltà. Le medaglie vengono assegnate alla metà migliore dei concorrenti: circa l'8% ottiene la prestigiosa medaglia d'oro.

L’intelligenza artificiale di Google ha risolto correttamente cinque dei sei problemi assegnati dalla competizione e il risultato è stato sufficiente a garantirle un posto sul gradino più alto del podio. Due anni fa, altri due modelli (AlphaProof e AlphaGeometry) avevano già ottenuto la medaglia d’argento.

Già questo sembrava un risultato straordinario per una macchina, ma un sistema sviluppato da OpenAI a maggio di quest’anno ha addirittura trovato autonomamente una nuova soluzione a un problema di geometria combinatoria formulato da Paul Erdős 80 anni fa: l’AI ha dimostrato che la soluzione proposta dal matematico ungherese non era la migliore possibile.

LEGGI ANCHE: Un’AI ha risolto da sola uno storico problema matematico

Anche Aristotle, un’altra AI sviluppata dalla start-up Harmonic, aveva già risolto l’anno scorso una variante di un’altra congettura di Erdős, la numero 124.

Prima dell’avvento dell’AI i matematici si affidavano già a software come Lean a cui chiedevano di verificare la correttezza dei passaggi di una dimostrazione, un po’ come se si rivolgessero a un correttore di bozze che legge e comprende il linguaggio matematico.

Oggi però l’AI ha fatto un salto di scala. Analizzando grandi database può individuare connessioni difficili da cogliere anche per l’occhio umano più allenato e suggerire di conseguenza nuove direzioni di ricerca. Può tradurre rapidamente un’idea abbozzata in linguaggio matematico formale e trattabile da un computer. Non solo può risolvere problemi meglio di quanto potrebbero fare i migliori matematici viventi e vissuti, ma può formularne anche di nuovi.

Un gruppo internazionale di matematici ha deciso che è giunto il momento di sedersi a un tavolo e provare a darsi delle regole.

La dichiarazione di Leiden

Lo scorso settembre il Lorentz Center dell’università di Leiden, nei Paesi Bassi, ha ospitato una conferenza intitolata “Meccanizzazione e ricerca matematica” cui hanno partecipato una sessantina di ricercatori da 10 Paesi. Nei mesi successivi, un gruppo più ristretto ha lavorato a un documento di una decina di pagine, pubblicato a giugno, e supportato dall’International Mathematical Union: si tratta della Dichiarazione di Leiden su Intelligenza Artificiale e Matematica.

“I matematici possono scegliere se e come adottare l'intelligenza artificiale nello svolgimento della propria attività di ricerca” si legge in apertura. “Hanno inoltre la responsabilità di garantire il continuo sviluppo e la prosperità della disciplina. Questa Dichiarazione invita i matematici ad assumersi tale responsabilità e formula raccomandazioni rivolte a singoli individui, istituzioni, governi e industria”.

Verifica dei risultati

I firmatari riconoscono che l’AI è uno strumento potente, ma mettono in guardia dai potenziali rischi: “le attuali tecniche automatizzate possono produrre argomentazioni apparentemente plausibili, ma in realtà inaffidabili (o persino errate), difficili da distinguere da dimostrazioni matematiche corrette”. La rapidità con cui vengono prodotte soluzioni dall’AI potrebbe mettere sotto pressione la capacità di verifica umana di quei risultati.

Diritto d’autore

Così come in altri campi, quali il lavoro degli artisti o quello dei giornalisti, anche i matematici sono preoccupati da un uso improprio della proprietà intellettuale dei contenuti con cui l’AI è addestrata. “I modelli addestrati su opere pubblicate producono spesso risultati che non citano correttamente i lavori degli autori da cui traggono le informazioni che rielaborano. Inoltre, molti modelli attuali sono costruiti utilizzando dati ottenuti da uno sfruttamento sistematico di licenze e modalità di accesso che non erano state concepite per l'intelligenza artificiale o, addirittura, violando le tutele previste dal diritto d'autore”.

Disuguaglianza

I firmatari sollevano poi un problema legato alla disuguaglianza che l’AI potrebbe introdurre nella comunità dei matematici: i ricercatori che non hanno accesso a tali tecnologie, o che non sono disposti a utilizzarle (per esempio in quanto controllate da organizzazioni i cui valori non condividono), potrebbero risultare svantaggiati rispetto a chi invece ne ha accesso frequente.

Comunicazione

Un’altra questione ancora riguarda il modo in cui i risultati matematici prodotti dall’AI vengono comunicati e condivisi. OpenAI per esempio ha scelto di annunciare dal suo sito la falsificazione della congettura di Erdős, e non di pubblicare il procedimento su una rivista scientifica. “Questa pratica cerca di ottenere visibilità per nuovi risultati secondo tempi di mercato, prima che possano avvenire i processi riconosciuti di valutazione della comunità matematica. In molti casi ciò porta a semplificazioni nella comunicazione, come l’eccessiva enfasi sul ruolo degli strumenti automatizzati e la sottovalutazione dei contributi umani precedenti che hanno reso possibili tali strumenti”.

Agenda di ricerca

Un altro rischio è quello di concentrarsi solo sui problemi che l’AI è in grado di risolvere, trascurando gli altri: “Il crescente coinvolgimento delle aziende tecnologiche nella ricerca matematica aumenta il pericolo che le domande di ricerca vengano privilegiate in base alla loro adattabilità alla matematica automatizzata, piuttosto che secondo il giudizio degli esperti sulla loro rilevanza più profonda. Inoltre, una comprensione più ampia del campo potrebbe andare definitivamente perduta nel processo di automazione. Con i bilanci universitari sotto pressione, questa trasformazione modifica anche gli incentivi professionali in modo tale da incoraggiare la collaborazione dei ricercatori con le aziende tecnologiche su basi asimmetriche”.

Raccomandazioni

Come già hanno fatto diverse riviste, editori e organizzazioni, anche la dichiarazione di Leiden invita i singoli ricercatori alla trasparenza, a citare nel modo corretto il lavoro altrui e a dichiarare sempre in che modo viene usata l’AI, così da poter distinguere chiaramente il contributo umano da quello della macchina. Invita inoltre i ricercatori a supportare il giornalismo scientifico che fornisce al dibattito pubblico gli strumenti per comprendere l’impatto dell’AI sulla ricerca e sulla società.

“Alcuni strumenti automatizzati e i loro sviluppatori si allineeranno alle disposizioni di questa Dichiarazione, mentre altri non lo faranno. Tenetene conto quando decidete quali strumenti utilizzare, o se utilizzarli affatto. Considerate anche se sistemi non proprietari, a basso consumo energetico o su piccola scala, possano essere sufficienti per il vostro compito”.

Oltre all’impatto ambientale, il documento invita i ricercatori a soppesare anche le conseguenze etiche: “La matematica ha portato allo sviluppo di tecnologie che migliorano notevolmente la vita quotidiana di molte persone, ma ha anche applicazioni nello sviluppo di tecnologie utilizzate per la guerra, l’oppressione, la sorveglianza di massa e l’indebolimento della democrazia. Valutate le conseguenze etiche della vostra ricerca al meglio delle vostre capacità e, se necessario, ritiratevi da attività dannose. Entrate in partnership esterne solo se queste rispettano i valori espressi in questa Dichiarazione”.

Il documento invita anche le organizzazioni di ricerca e i decisori politici a sviluppare linee guida, a stabilire standard di verifica elevati, a proteggere la proprietà intellettuale degli autori e a mantenersi il più indipendenti possibili dalle influenze dell’industria, sviluppando dove possibile alternative pubbliche a quei modelli che sono proprietà di poche grandi aziende.