Vincenzo Vespri, professore di Analisi Matematica all’Università di Firenze
L’uomo ha sempre avuto paura. E, soprattutto, ha sempre avuto paura di ciò che non conosce e di ciò che non può controllare. Per millenni abbiamo temuto la fine del mondo. L’abbiamo immaginata nel fuoco, nel diluvio, nella caduta degli astri, nell’ira degli dèi. Ogni civiltà ha costruito la propria apocalisse. Ma con la nascita della scienza è accaduto qualcosa di curioso: le antiche paure non sono scomparse. Hanno semplicemente cambiato abito. Al posto degli dèi sono comparsi gli scienziati. Al posto delle forze soprannaturali, tecnologie talmente potenti da sembrare capaci di sfuggire al controllo dei loro stessi creatori.
Un caso straordinario si verificò proprio all’alba dell’era atomica. Durante il progetto Manhattan alcuni fisici si posero seriamente una domanda inquietante: l’esplosione di una bomba atomica avrebbe potuto innescare una reazione nucleare autosostenuta nell’atmosfera terrestre? La questione fu realmente affrontata e studiata. I calcoli mostrarono che una simile catastrofe non poteva verificarsi. Ma il fatto stesso che alcuni dei più grandi fisici del Novecento abbiano ritenuto necessario fare quei calcoli è significativo. Prima di accendere il primo sole artificiale sulla Terra bisognava essere ragionevolmente certi di non incendiare il cielo. Ed è esattamente così che dovrebbe funzionare la scienza: non deridere una paura perché appare enorme, ma trasformarla in una domanda quantitativa. Quanto è probabile?
Molti decenni dopo, qualcosa di simile accadde con il Large Hadron Collider del CERN. Si diffuse la paura che le collisioni ad altissima energia potessero generare un microscopico buco nero che, invece di scomparire, cominciasse ad assorbire materia fino a inghiottire la Terra. Anche questa volta la questione fu analizzata. Il CERN spiegò che, nelle teorie speculative nelle quali micro-buchi neri avrebbero potuto essere prodotti, essi sarebbero decaduti immediatamente e non avrebbero potuto accrescere la propria massa. Inoltre, collisioni di energie analoghe o superiori avvenivano naturalmente da miliardi di anni attraverso i raggi cosmici senza aver distrutto pianeti e stelle. La paura era dunque infondata. Ma chiedersi se lo fosse non era affatto stupido.
La fantascienza ha costruito su questo meccanismo alcune delle sue storie migliori. Abbiamo immaginato che i nostri segnali nello spazio attirassero l’attenzione di civiltà extraterrestri ostili. Il problema dei tre corpi porta questa inquietudine alle estreme conseguenze: forse, in un universo sconosciuto, farsi notare non è necessariamente una buona idea.
E poi sono arrivati i robot. Da Terminator a Matrix, fino a Ultron, la cultura popolare ha trasformato una delle nostre paure più profonde in racconto: creare qualcosa più potente di noi e perderne il controllo. È una versione tecnologica del mito di Frankenstein, del Golem e, andando ancora più indietro, dell’apprendista stregone. Con l’intelligenza artificiale questa antichissima paura ha trovato un nuovo oggetto. Il punto, però, è distinguere la paura dalla valutazione del rischio. Una società razionale non deve né abbandonarsi all’angoscia né liquidarla con una risata. Deve chiedersi quali eventi siano realmente possibili, con quale probabilità possano verificarsi e quali conseguenze avrebbero. Ed è proprio per questo che una recente applicazione dell’intelligenza artificiale alla genetica merita attenzione.
Nel 2025 ricercatori di Stanford e dell’Arc Institute hanno mostrato che modelli di intelligenza artificiale possono progettare genomi virali completi. In quel caso si trattava di batteriofagi, cioè virus che infettano batteri, non esseri umani. Alcuni dei virus progettati dall’AI e successivamente sintetizzati in laboratorio si sono dimostrati realmente capaci di infettare e distruggere ceppi di Escherichia coli. È un risultato scientificamente affascinante. Ed è anche un risultato che dovrebbe farci riflettere. Non perché quei virus rappresentassero una minaccia per l’uomo: non la rappresentavano. Il problema è la porta tecnologica che si sta aprendo. Se un’intelligenza artificiale può imparare le regolarità del linguaggio genetico e proporre sequenze biologicamente funzionanti, fino a che punto arriveremo? Qui si incontrano due forme diverse della nostra ignoranza.
La prima riguarda l’intelligenza artificiale stessa. Molti sistemi di AI, soprattutto quelli basati su reti neurali profonde, sono caratterizzati da una limitata explainability: possiamo osservare l’input fornito al sistema e il risultato prodotto, ma ricostruire in termini semplici, completi e causalmente affidabili perché il modello abbia prodotto proprio quella risposta può essere estremamente difficile. Si parla per questo, con qualche semplificazione, di black box. E il problema diventa particolarmente delicato quando l’output non è una fotografia, una poesia o la risposta a una domanda, ma una sequenza genetica destinata a diventare un organismo biologicamente attivo. Perché una macchina può produrre una soluzione apparentemente eccellente seguendo correlazioni che noi non comprendiamo completamente. E talvolta, quando riusciamo a comprenderne il percorso, scopriamo che ciò che sembrava intelligenza nascondeva una scorciatoia sorprendentemente banale. Einstein viene spesso associato a una battuta irresistibile: «Due cose sono infinite: l’universo e la stupidità umana; e sull’universo non sono sicuro». L’attribuzione è dubbia, ma la frase rimane memorabile. Con l’intelligenza artificiale potremmo aggiungere una terza possibilità: la stupidità artificiale. Una macchina può essere immensamente più veloce di noi senza essere, per questo, più saggia di noi.
Il secondo problema è forse ancora più profondo: non conosciamo completamente il sistema biologico sul quale stiamo intervenendo. Abbiamo fatto progressi straordinari nella genetica, ma il genoma è enormemente più complesso di quanto immaginassimo qualche decennio fa. È significativo il cambiamento avvenuto intorno al cosiddetto “junk DNA”, il DNA spazzatura. L’espressione indicava ampie regioni non codificanti del genoma che, soprattutto nella divulgazione, venivano talvolta rappresentate come semplici residui evolutivi privi di funzione. Oggi sappiamo che la situazione è molto più complessa: parte del DNA non codificante svolge importanti funzioni regolatorie e strutturali, anche se questo non significa affatto che ogni sua sequenza abbia necessariamente una funzione. La lezione è importante. Ciò che non comprendiamo non è necessariamente inutile.
E allora mettere insieme due sistemi che conosciamo solo parzialmente — l’intelligenza artificiale e la complessità del genoma — richiede una prudenza particolare. Non significa fermare la ricerca. Significa riconoscere che esistono esperimenti nei quali l’errore non può essere trattato nello stesso modo in cui trattiamo un errore informatico. Se un programma va in crash, lo riavviamo. Un organismo biologico, invece, una volta uscito dal laboratorio, potrebbe replicarsi.
La pandemia di Covid-19 ha inevitabilmente reso questo problema ancora più sensibile. Non sappiamo con certezza quale sia stata l’origine di SARS-CoV-2. L’OMS, nella valutazione pubblicata nel giugno 2025, ritiene che il peso delle evidenze disponibili favorisca il passaggio zoonotico, direttamente dai pipistrelli o attraverso un ospite intermedio. Ma afferma anche che non sono disponibili tutti i dati necessari per chiudere definitivamente la questione e che, di conseguenza, anche l’ipotesi di un incidente di laboratorio rimane sul tavolo. Questo è sufficiente per porre una domanda che prescinde completamente dall’origine effettiva del Covid:
quanto deve essere sicuro un laboratorio che manipola un agente biologico potenzialmente catastrofico?
La risposta non può essere semplicemente: molto sicuro. Quando il danno potenziale è enorme, anche probabilità estremamente piccole meritano attenzione.
Ed esiste un’altra caratteristica che rende particolarmente inquietante un eventuale patogeno artificiale: la velocità. Non è soltanto il pericolo. È la velocità. Quando una popolazione incontra improvvisamente un patogeno contro il quale possiede poca o nessuna immunità, le conseguenze possono essere devastanti. La storia della conquista europea delle Americhe ne costituisce un esempio terribile. Vaiolo, morbillo e altre malattie provenienti dal Vecchio Mondo contribuirono alla catastrofica mortalità delle popolazioni indigene, insieme alla guerra, allo sfruttamento e alla distruzione delle strutture sociali. Il punto fondamentale è il tempo. Un sistema complesso riesce spesso ad adattarsi a un cambiamento se questo avviene lentamente. Può collassare se lo stesso cambiamento avviene troppo rapidamente. È, sotto un certo aspetto, anche una delle chiavi per comprendere il cambiamento climatico. Il pianeta ha conosciuto in epoche remote condizioni climatiche molto diverse dalle attuali. Il problema per le società e gli ecosistemi contemporanei non è semplicemente che “la Terra non sia mai stata più calda”, ma la rapidità del cambiamento, insieme alla vulnerabilità di ecosistemi, infrastrutture e società costruiti nelle condizioni climatiche relativamente stabili degli ultimi millenni.
Ed è qui che AI e biologia costituiscono una combinazione che merita particolare attenzione. L’intelligenza artificiale comprime i tempi. Ciò che richiedeva anni può richiedere mesi; ciò che richiedeva mesi, giorni. Questa accelerazione è uno dei motivi per cui l’AI è straordinariamente potente. Ma quando la applichiamo a sistemi biologici capaci di evolvere e replicarsi, la stessa accelerazione diventa anche un fattore di rischio. Elon Musk ha più volte paragonato lo sviluppo incontrollato dell’intelligenza artificiale all’evocazione di un demone. È un’immagine volutamente teatrale, ma contiene qualcosa di decisamente interessante. Il demonio, nelle antiche narrazioni, non è soltanto il Male. È anche una forza che l’uomo chiama senza essere certo di poterla rimandare indietro. Ed è precisamente questo il punto.
Non credo che la scienza debba essere fermata. Sarebbe impossibile, oltre che sbagliato. La capacità di progettare batteriofagi mediante AI potrebbe, per esempio, contribuire in futuro allo sviluppo di nuove terapie contro batteri resistenti agli antibiotici. Le possibilità positive sono enormi. Ma esiste una differenza fondamentale tra fermare la scienza e mettere la scienza in sicurezza. La prima scelta nasce dalla paura. La seconda nasce dalla ragione. Dobbiamo poter studiare questi sistemi, ma contemporaneamente sviluppare biosicurezza, controlli indipendenti, tracciabilità degli esperimenti, limiti all’accesso ai modelli più pericolosi e procedure capaci di valutare non soltanto ciò che un esperimento dovrebbe fare, ma anche ciò che potrebbe fare se qualcosa andasse storto.
Perché la storia della scienza ci insegna una cosa importante. Quasi sempre le nostre paure apocalittiche erano esagerate. La bomba atomica non incendiò l’atmosfera. Il CERN non ha prodotto un buco nero divoratore di pianeti. I robot non hanno ancora trasformato il mondo in Matrix. Ma questo non significa che fosse sbagliato porsi quelle domande. Al contrario. Forse siamo ancora qui proprio perché qualcuno, prima di premere il pulsante, si è chiesto che cosa sarebbe potuto accadere. La paura ancestrale diventa utile quando smette di essere superstizione e diventa calcolo del rischio. E oggi, mentre affidiamo all’intelligenza artificiale non soltanto parole e immagini ma anche la possibilità di scrivere pezzi del codice della vita, quella vecchia paura può ancora insegnarci qualcosa; non dobbiamo avere paura del demonio. Dobbiamo semplicemente assicurarci, prima di evocarlo, di sapere come rinchiuderlo di nuovo nella gabbia da cui l’abbiamo liberato.