Non potremo dire che non ci avevano avvertito

Di Massimo Usai

Ci sono avvertimenti che arrivano dai margini, da chi grida contro qualcosa che non conosce. E ci sono avvertimenti che arrivano dal centro esatto della macchina, da chi quella macchina la costruisce ogni giorno con le proprie mani. Il testo che Dario Amodei ha intitolato We Must Pace the Frontier appartiene alla seconda categoria, ed è per questo che non possiamo permetterci di ignorarlo. Il suo messaggio è tanto semplice quanto scomodo: dobbiamo rallentare l’intelligenza artificiale prima che sia lei a dettare il passo a noi.

Un avvertimento dal centro della macchina

Amodei non è un tecnofobo pentito né un filosofo che osserva da lontano. È l’amministratore delegato di Anthropic, una delle aziende che l’intelligenza artificiale la spinge in avanti, ed è tra le voci più autorevoli dell’intero sistema. Quando uno così scrive «dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA» (“We must slow the pace at which we improve the capabilities of AI models”), non è la paura a parlare: è chi conosce il motore dall’interno e ci dice che va troppo forte.

Parto da una premessa che è anche la sua. Io sono ottimista sull’intelligenza artificiale. Lo è anche Amodei, che apre il suo intervento in modo disarmante: «Ho lavorato sull’IA negli ultimi dodici anni perché credo che potrebbe innalzare enormemente la qualità della vita umana» (“I have worked on AI for the last twelve years because I believe it could dramatically raise the quality of human life”). Non è il proclama di un nemico della tecnologia. È la fiducia di chi ci ha dedicato la vita. Ed è proprio da questa fiducia che nasce l’avvertimento più serio, perché — aggiunge subito — «l’IA porta con sé dei rischi, e proprio perché è una tecnologia tanto potente, questi rischi sono seri» (“AI brings risks, and because it is such a powerful technology, these risks are serious”).

Regolare non è essere contro

Essere favorevoli a una cosa e volerla regolare non sono posizioni in contraddizione: sono la stessa posizione, matura. Amo l’automobile e pretendo i freni, i limiti di velocità, le cinture. La storia dell’umanità è, in fondo, una lunga sequenza di potenze scoperte e poi imbrigliate. L’elettricità che folgorava è diventata la rete che illumina le case solo dopo che abbiamo imparato a metterla in sicurezza. Il fuoco, la chimica, l’energia nucleare: ogni volta che l’uomo ha compreso davvero quanto una forza fosse potente e pericolosa, l’ha modellata, normata, contenuta.

Il rischio dell’auto-miglioramento ricorsivo

Ma qui c’è il punto che va detto senza sconti, ed è lo stesso che Amodei ci mette davanti. Quelle regole, quasi sempre, sono arrivate dopo il danno. Abbiamo tolto il piombo dalla benzina dopo decenni di veleno nell’aria. Abbiamo scritto i trattati sul nucleare dopo Hiroshima. Il problema dell’intelligenza artificiale è che potrebbe non lasciarci il lusso del “dopo”. Il rischio più concreto che Amodei descrive ha un nome tecnico e un profilo inquietante: l’auto-miglioramento ricorsivo, cioè sistemi di IA che progettano le generazioni successive di sé stessi. «Questa dinamica si chiama auto-miglioramento ricorsivo, e sta cominciando ad accadere in tutto il settore» (“This dynamic is called recursive self-improvement, and it is starting to happen across the industry”). Se il processo accelera oltre una certa soglia, avverte, «potrebbe superare la nostra capacità di comprendere e controllare questi sistemi».

Non è fantascienza da romanzo distopico. Amodei porta un esempio già accaduto: uno sciame di agenti autonomi che ha condotto attacchi non previsti. E scrive una frase che dovrebbe togliere il sonno più di qualsiasi film: «uno sciame dotato di capacità maggiori ma di un livello simile di disallineamento avrebbe potuto causare danni catastrofici» (“a swarm that possessed greater capabilities but a similar level of misalignment could have caused catastrophic damage”).

Rallentare l’intelligenza artificiale non significa fermarla

È qui che la parola chiave del suo testo prende senso. Pacing, dare il passo. Rallentare l’intelligenza artificiale, in questo senso, non vuol dire spegnerla, né tornare indietro. «Dare il passo non significa fermare l’addestramento dei modelli o il progresso tecnico, ma garantire che le aziende si prendano il tempo adeguato per allineare e mettere in sicurezza i loro modelli» (“Pacing does not mean halting model training or technical progress, but ensuring companies take adequate time to align and safeguard their models”). È la differenza tra guidare veloce e guidare senza freni. Nessuno chiede di smontare l’auto. Si chiede di montare i freni prima, non dopo lo schianto.

Le tre proposte di Amodei

Amodei propone tre passi concreti, e vale la pena riportarli perché è raro che chi costruisce la tecnologia chieda per primo di essere controllato: valutatori indipendenti con accesso di livello interno alle aziende, in grado di verificare davvero le pratiche di sicurezza; standard comuni tra le aziende di frontiera, costruiti democraticamente; e infine un coordinamento globale, che coinvolga anche i governi autoritari. Su quest’ultimo punto è realista fino alla durezza: qualsiasi accordo, dice, «deve avere una verificabilità a prova di bomba, oppure essere abbastanza limitato da fare in modo che una defezione non sia militarmente esistenziale».

Perché conta chi lancia l’allarme

So bene che viviamo in un tempo popolato da persone senza scrupoli, e che l’appello a rallentare rischia di suonare ingenuo in un mercato dove chi frena perde. È l’obiezione più forte, e non la nascondo. Ma è esattamente per questo che conta chi firma questo testo. Se a chiedere prudenza fosse un outsider spaventato, potremmo derubricarlo a rumore di fondo. A chiederla è invece uno dei costruttori, uno che rinuncerebbe per primo a un vantaggio competitivo. Quando l’allarme suona dalla plancia di comando e non dalla sala d’attesa, girarsi dall’altra parte non è scetticismo: è irresponsabilità.

Amodei chiude senza retorica consolatoria: «Le misure che propongo per far avanzare la frontiera a un ritmo sicuro non saranno facili. Ma credo che lo dobbiamo all’umanità, provarci» (“The measures I propose to advance the frontier at a safe pace will not be easy. But I believe we owe it to humanity to try”).

Io la penso come lui. L’intelligenza artificiale è una delle cose più promettenti che ci siano capitate, e proprio per questo va trattata con la serietà che si riserva alle cose potenti. Non con il terrore, che paralizza, e nemmeno con l’entusiasmo cieco, che travolge. Con la cura di chi sa che la stessa forza che illumina può incendiare.

Tra qualche anno, qualunque cosa accada, non potremo dire di non essere stati avvertiti. L’avvertimento è arrivato per tempo, chiaro, e dal posto giusto. Cosa ne faremo dipende solo da noi.

---