di Micaela Antozzi {Art Director}

Diciamocelo: l’Y2K era decisamente più rassicurante. Bastava un numero a due cifre anziché quattro per mandare tutto il mondo nel panico, e la “minaccia” principale consisteva in un registratore di cassa che stampava la data sbagliata o nell’orologio di un videoregistratore VHS che smetteva improvvisamente di lampeggiare. Oggi la fantascienza è diventata noiosa, burocratica e spaventosamente reale.
Come una genuina figlia della Generazione X — cresciuta quando Internet muoveva i primi passi scalcinati, a colpi di modem a 56k — a volte rivorrei le care vecchie apocalissi informatiche, con una data di scadenza precisa e una soluzione che richiedeva solo un po’ di sano e vecchio debug!

Me lo ricordo bene quel 31 dicembre 1999

Avevamo una paura folle, terrorizzati che i bancomat andassero in tilt e gli aerei cadessero dal cielo solo per due cifre mancanti: 00 al posto di 1900.
Un banale bug di codice, circoscritto, tangibile, e proprio per questo quasi rassicurante. Oggi invece, mentre scrivo, ci ritroviamo a leggere di scienziati che si dimettono dalle Big Tech parlando apertamente di rischio p(doom), la probabilità stimata di apocalisse e di algoritmi prossimi a “sfuggire al controllo”.

La spaccatura: ricercatori dei laboratori vs chi genera gattini
In questo attuale scenario si consuma una spaccatura culturale quasi comica. Da una parte c’è l’utente medio, che usa strumenti basati su AI per scontornare vettoriali su Illustrator, correggere la sintassi di un’email o generare video di gattini per i social.
Dall’altro lato ci sono i media mainstream che sparano in prima pagina che quella stessa identica tecnologia sta per distruggere l’umanità. Il risultato è un corto circuito comunicativo paradossale e la percezione del rischio si è completamente dissociata dalla realtà d’uso.
Il linguaggio ultra-tecnico degli scienziati dei laboratori di ricerca — fatto di rigore matematico, su problemi di allineamento e su simulazioni probabilistiche — viene tradotto dall’informazione di massa in pura propaganda catastrofista acchiappaclick, così chi usa l’intelligenza artificiale, per automatizzare compiti creativi quotidiani, si ritrova schiacciato in mezzo a due estremi opposti: un tecnottimismo banalizzante della serie: “ecco i 10 tool che lavoreranno al posto tuo” e una fobia crescente da film di fantascienza alla Sarah Connor.

Perché persino chi sta dentro i laboratori è d’accordo (Il caso Coxon/Irving)
Sarebbe un errore, tuttavia, liquidare l’intero dibattito come semplice isteria collettiva o marketing del terrore. Quando figure del calibro di Jacob Coxon lasciano Anthropic spiegando la loro scelta in un post su X, o quando esperti come Geoffrey Irving (ex Chief Scientist dell’UK AI Safety Institute, con trascorsi in Google DeepMind e OpenAI) rilanciano riflessioni analoghe sul tema dei rischi sistemici in un altro post su X, ma già molto prima sull’AI Alignment Forum (Resolution (fka Sequent): scale and automation for higher confidence in alignment) , la questione si fa un po’ più seria.

Il motivo per cui persino chi lavora dentro le Big Tech concorda con questi allarmi non ha nulla a che fare con Terminator. Il paradosso vero è un altro: gli stessi ingegneri che stanno progettando la tecnologia sono i primi ad avvertire che non siamo pronti a gestirne le conseguenze.
Non c’è alcuna macchina che sta prendendo coscienza o pianificando una ribellione da film.
La preoccupazione concreta dei ricercatori riguarda l’imminente arrivo dell’AGI (Artificial General Intelligence), che eguaglia le capacità cognitive umane, o peggio dell’ASI (Artificial Superintelligence), che supera di gran lunga qualsiasi intelletto umano, unita all’incapacità di garantire modelli matematici di controllo certi, prima che questi sistemi vengano distribuiti su larga scala. Il vero panico nasce dal divario spaventoso tra la velocità supersonica dello sviluppo scientifico e la lentezza cronica della politica nel creare regole, infrastrutture e standard di sicurezza.

Dai problemi immaginari a quelli reali
Il rischio più grande di questa narrazione apocalittica sull’intelligenza artificiale è che finisce per fare un favore proprio a chi vorrebbe muoversi senza regole: distoglie l’attenzione dai problemi del presente per proiettarla su scenari ipotetici del futuro. Mentre ci interroghiamo sul fatto se una superintelligenza autonoma ci risparmierà o meno, perdiamo di vista le minacce che sono già qui, operative e concrete:

• Deepfake e propaganda: Video e audio indistinguibili dalla realtà usati per manipolare consultazioni elettorali e opinione pubblica.
• Inquinamento dell’informazione: Algoritmi disegnati per premiare la polarizzazione e la disinformazione per ragioni di profitto.
• Diritto d’autore e mercato del lavoro: La deregolamentazione selvaggia che devasta interi settori industriali e creativi senza alcuna tutela per la proprietà intellettuale.

Mentre ci preoccupiamo della macchina
che “prende vita da sola”, ci dimentichiamo di fare la cosa più importante: guardare chi impugna l’algoritmo oggi e con quali scopi

Ritrovare il pensiero critico (e il sano sense of humor)
Di fronte a questa narrazione non serve cedere né all’allarmismo paralizzante né all’ingenuità di chi pensa sia tutto un gioco. L’Y2K ci ha insegnato che i problemi informatici si affrontano con il pragmatismo, analizzando il codice, capendo i limiti della macchina e applicando i correttivi necessari. L’intelligenza artificiale non è una divinità da adorare né un mostro da temere: è uno strumento immensamente potente, progettato, alimentato e gestito dagli esseri umani.
L’unica vera linea di difesa — oggi come nel 1999 — resta la nostra capacità umana di sviluppare pensiero critico, verificare le fonti, pretendere regole chiare dalle istituzioni e, soprattutto, continuare a sorridere di fronte alle esagerazioni di chi vuole venderci la fine del mondo un click alla volta.

Mi chiedo, just my two cents, se siamo sopravvissuti alle musichette del modem a 56k e al terrore del Millennium Bug nel 1999, riusciremo a sopravvivere anche all’AGI…?
Dipenderà sempre da noi “pazzi umani” — e da quanta memoria ci rimarrà per fare il prossimo debug.