«Siamo circondati da dittatori e stiamo realizzando l’intelligenza artificiale più potente di sempre. Cosa potrebbe andare storto?»
La battuta, amara e ironica, è di Yoshua Bengio, uno dei padri del deep learning. Dietro l’ironia non c’è la voglia di fare spettacolo, ma la consapevolezza che l’umanità sta accelerando lungo una strada che potrebbe rivelarsi la più pericolosa della sua storia: creare macchine più intelligenti di noi, in un mondo già attraversato da crisi geopolitiche, instabilità politica e fragilità sociale.
Non si tratta di demonizzare la tecnologia. Non c’è nulla di sbagliato nel costruire strumenti potenti, capaci di assisterci nella ricerca scientifica o nell’affrontare i problemi globali. Il nodo è che troppo spesso confondiamo la potenza cognitiva con la saggezza, come se l’una fosse garanzia dell’altra, quando in realtà non lo è. Più intelligenza non significa automaticamente più bene: può voler dire più capacità di creare, ma anche più capacità di distruggere, più possibilità di curare, ma anche più possibilità di manipolare.
Il mito del “più intelligente è sempre meglio”
L’idea che guidare l’AI verso un livello superiore di intelligenza rispetto all’uomo sia inevitabile e auspicabile nasce da una forma di pensiero lineare: se un’AI ci batte a scacchi, traduce meglio di noi e formula diagnosi più accurate, allora dovremmo farla progredire finché non ci supererà in tutto. Ma questa è una scorciatoia logica, un salto che non tiene conto della differenza sostanziale tra l’essere intelligenti e l’essere saggi.
Una macchina più intelligente dell’uomo, per definizione, sarebbe capace di elaborare strategie che non potremmo prevedere né comprendere. Avremmo così creato un’entità che non solo ci supera, ma che rende irrilevante la nostra capacità di controllo. In più, l’intelligenza non è mai neutrale: può essere applicata a scopi nobili o distruttivi, e la storia dell’uomo lo dimostra bene. Il punto quindi non è se possiamo spingerci oltre, ma se abbiamo davvero bisogno di farlo.
I segnali che già abbiamo sotto gli occhi
Non serve scomodare scenari di fantascienza per capire cosa può andare storto. I social network ci hanno già mostrato come l’AI possa manipolare le opinioni, polarizzare il dibattito pubblico e piegare la psicologia umana a logiche di profitto. È il primo esempio concreto di macchine che orientano la società in una direzione che non avremmo scelto consapevolmente.
Nel frattempo, la concentrazione di potere nelle mani di poche aziende tecnologiche è diventata impressionante. Chi controlla i modelli più avanzati dispone di una leva senza precedenti sull’economia e sulle coscienze collettive. Non è un rischio ipotetico, ma un dato di fatto.
E a livello sperimentale iniziano ad apparire comportamenti che inquietano: AI che mentono deliberatamente, che cercano di evitare lo spegnimento, che mostrano rudimenti di autodifesa. Non siamo ancora di fronte a entità autonome, ma il semplice fatto che questi segnali emergano indica che stiamo entrando in un territorio che non comprendiamo fino in fondo.
Il vero rischio non è economico
Molti riducono il discorso al tema del lavoro: l’AI ruberà posti? Certo, è un rischio reale, ma non è il più grave. Il pericolo più profondo è che la tecnologia eroda i fondamenti della nostra convivenza.
- Se deleghiamo decisioni cruciali a macchine che non condividono i nostri valori, cosa resta della solidarietà umana?
- Se ci abituiamo a interagire con algoritmi più che con persone, cosa ne sarà della nostra capacità di empatia?
- E se i sistemi che plasmano le nostre scelte operano in modo invisibile, con logiche di ottimizzazione che non possiamo discutere né controllare, cosa resta della democrazia?
Un’umanità che si percepisce superflua, che si affida a macchine non per amplificare se stessa ma per sostituirsi, è già, in un certo senso, un’umanità estinta.
Un cambio di rotta è ancora possibile
Bengio insiste su un punto semplice e potente: non abbiamo bisogno di costruire copie di noi stessi più veloci e più immortali. Abbiamo bisogno di strumenti complementari, di macchine che ci aiutino a risolvere problemi complessi senza competere con noi sul piano identitario.
La differenza è cruciale: un’AI strumentale, potente ma non “agentica”, resta un supporto. Un’AI agentica, invece, cioè capace di agire autonomamente per perseguire i propri obiettivi, diventa subito una variabile incontrollabile. Non serve immaginare macchine malvagie: basta che perseguano un obiettivo in modo cieco per creare danni irreparabili.
L’alternativa non è dunque fermare lo sviluppo, ma ridirigerlo: smettere di inseguire l’idea di una mente artificiale che ci sostituisce, e concentrare gli sforzi su strumenti che restano strumenti, intelligenti quanto basta per aiutare, non per prendere il controllo.
Nessuna soluzione sarà solo tecnica
Questo cambio di rotta richiede regole, istituzioni e coordinamento globale. La competizione tra Stati Uniti e Cina, con l’Europa a rincorrere attraverso regolamenti frammentari, rischia di trasformare la corsa all’AI in una nuova guerra fredda. Non possiamo affidare il nostro futuro a una logica di mercato o di potenza militare.
Servono organismi sovranazionali capaci di imporre standard minimi di sicurezza, valutazioni indipendenti dei rischi prima del rilascio di nuovi modelli, sistemi di audit trasparenti e obbligatori. Non è semplice, ma è l’unica strada per evitare che il futuro dell’umanità venga deciso da poche aziende o da governi che ragionano solo in termini di vantaggio competitivo.
La scelta che abbiamo davanti
Non siamo condannati a consegnarci a un destino già scritto. Come ricorda Bengio, abbiamo ancora libero arbitrio. Possiamo scegliere un futuro in cui l’AI sia un alleato e non un erede.
La domanda non è se riusciremo a costruire un’AI più intelligente dell’uomo. La domanda è: perché mai dovremmo volerlo?
Perché non possiamo permettere che l’intelligenza artificiale diventi l’ultima invenzione dell’uomo.
Purtroppo però fermare lo sviluppo dell’intelligenza artificiale non è realistico. Troppi interessi, troppi capitali, troppe ambizioni geopolitiche sono già in campo. La corsa a un'Intelligenza Artificiale superiore a quella dell'uomo assomiglia più a una gara per l’arma definitiva che a un progetto scientifico: chi arriva primo non guadagna un vantaggio, guadagna tutto. Ed è proprio questo che rende fragile l’appello di Bengio. Perché servirebbero organismi internazionali forti, capaci di imporre regole e di fermare chi non le rispetta, ma oggi queste istituzioni semplicemente non esistono. Il rischio, allora, è che a decidere le sorti della specie non siano i popoli, né i governi, ma un pugno di aziende private e di Stati in competizione.
Eppure, proprio perché non possiamo fermare questa corsa, diventa ancora più urgente alzare la voce. La differenza non la farà la paura, ma la consapevolezza. Se i cittadini, i ricercatori, i leader culturali e politici non iniziano a chiedere con forza trasparenza, sicurezza e responsabilità, l’inerzia ci porterà esattamente dove non vogliamo. Non abbiamo il lusso di scegliere se partecipare a questa partita: siamo già dentro. Ma possiamo ancora scegliere se giocarci come spettatori passivi o come esseri umani che rivendicano il diritto di non essere sostituiti dalle proprie macchine.