Viaggio nella mente algoritmica: l’intelligenza artificiale e la sua storia

Intervista a Stefano Maccaglia, Director of Incident Response and Red Teaming, NetWitness

Di Francesca Maccaglia

 

ROMA (RM)

 

1981: L’origine (IBM PC 5150)

Il 1° settembre 1981 il primo personal computer, l’IBM PC (modello 5150) divenne ufficialmente disponibile per l’acquisto e la spedizione sul mercato, dopo essere stato lanciato il 12 agosto 1981. Com’era il mondo dell’informatica prima del lancio di IBM PC 5150?

 Prima del 12 agosto 1981 l’informatica somigliava a una convention di alchimisti: ognuno con il suo linguaggio, il suo alimentatore, il suo cavo proprietario e la certezza che il suo fosse quello giusto. C’erano gli Apple II nei garage californiani, i Commodore PET nelle scuole, i TRS-80 nei negozi Radio Shack, gli Atari 800 in salotto, e in azienda regnavano i mainframe IBM e i mini VAX di Digital, custoditi in sale climatizzate come reliquie sacre. L’utente medio doveva scegliere una parrocchia e restarci. Il software non era portabile, i dati nemmeno, e “compatibilità” era una parola che si usava per le coppie, non per i computer. Il 5150 non fu il primo personal computer, ma fu il primo con un cognome che rassicurava gli uffici acquisti: se una cosa la vendeva IBM, il direttore finanziario poteva firmare senza sudare. Da lì in poi il PC smise di essere un hobby per ingegneri barbuti e cominciò a diventare un elettrodomestico — con tutta la noia, la standardizzazione e, involontariamente, le vulnerabilità di massa che ne sarebbero seguite.

 Anni ‘80 – ‘90: L’espansione e la potenza. I fondamenti e i primi upgrade, l’esplosione multimediale e 3D.

 Gli anni Ottanta furono l’infanzia turbolenta del PC: 8088, poi 80286, 80386, e la scoperta che si poteva avere più di un megabyte di RAM senza chiedere un mutuo. DOS era il sistema operativo del “lo sistemi tu con autoexec.bat”, e ogni gioco aveva istruzioni tipo “libera almeno 580 KB di memoria convenzionale” che oggi sembrano incantesimi druidici.

Negli anni Novanta arrivò Windows 3.1 e poi il vero terremoto: Windows 95, la scheda audio Sound Blaster, il CD-ROM, e finalmente il 3D con le Voodoo di 3dfx. Passammo dai bip del PC speaker a orchestre digitali, dai puntini ASCII ai poligoni texturizzati, dai floppy da 1,44 MB ai CD da 650. Il multimediale non era un aggettivo, era una promessa di marketing scritta sulle scatole in caratteri cubitali. Fu anche il decennio in cui l’utente scoprì tre cose fondamentali: che si poteva collegare un modem, che si poteva rompere il sistema da soli, e che qualcun altro poteva rompertelo da lontano.

La sicurezza informatica cominciò a diventare un problema domestico, non più solo militare.

Anni 2000: Internet e mobilità

 Il decennio in cui il computer smise di stare fermo. L’ADSL sostituì il modem 56k — e con lui il rumore di connessione che generazioni di adolescenti hanno imparato ad amare e temere in egual misura. Wi-Fi, laptop economici, chiavette USB, e poi il colpo di scena: il 2007, l’iPhone, il momento in cui “computer” e “telefono” hanno smesso di essere categorie separate. Nacquero Google, Wikipedia, YouTube, Facebook, e con loro il modello di business che oggi conosciamo bene: il servizio è gratis, il prodotto sei tu. Il software si spostò dai CD ai download, poi ai browser. Le aziende scoprirono che l’ufficio poteva essere ovunque e i dipendenti scoprirono che il lavoro, per la stessa ragione, poteva raggiungerli ovunque — cosa non necessariamente positiva. Sul fronte sicurezza, gli anni Duemila furono l’età dei worm di massa: Code Red, Slammer, Blaster, Sasser. Un’epoca in cui bastava collegare un Windows XP appena installato a Internet per infettarlo prima di riuscire a scaricare la patch. Da lì è nata l’industria moderna della cybersecurity, un po’ per necessità e un po’ per rassegnazione.

Oggi: Cloud, IA e dispositivi mobili

 Oggi il computer è ovunque e da nessuna parte. I dati vivono in data center che non abbiamo mai visto, gestiti da tre o quattro aziende californiane che di fatto sono diventate infrastruttura critica planetaria. Lo smartphone è più potente della workstation con cui indagavo malware quindici anni fa, e passa la maggior parte del tempo a mostrarci video di gatti — un uso della potenza di calcolo che ai progettisti del 5150 sarebbe sembrato leggermente sproporzionato.

L’intelligenza artificiale generativa ha aggiunto il tocco finale: adesso il computer non solo esegue, ma conversa, inventa e ogni tanto allucina, con tutta la dignità di un oratore ottocentesco leggermente ubriaco. Il perimetro aziendale è evaporato, l’identità ha preso il posto della rete come nuovo confine, e la superficie di attacco è cresciuta più velocemente della nostra capacità di mapparla. È un mondo affascinante e, dal mio punto di vista professionale, straordinariamente ben pagato — perché ogni singola comodità che abbiamo aggiunto negli ultimi vent’anni ha portato con sé almeno tre modi nuovi di essere compromessi.

 La Cybersecurity o sicurezza informatica, nata negli anni sessanta del Novecento, ha fatto la sua comparsa soltanto quando i computer hanno cominciato a essere connessi gli uni agli altri formando delle reti. Come ti sei avvicinato alla cybersecurity e cosa ti ha spinto a sceglierla come percorso professionale?

 Ci sono arrivato per la porta di servizio, come quasi tutti quelli della mia generazione. Negli anni Ottanta e primi Novanta la “sicurezza informatica” non era un mestiere: era una conseguenza della curiosità. Avevi un computer, avevi un modem, avevi troppo tempo libero e nessuna supervisione adulta competente. Il resto veniva da sé. Il primo contatto vero fu con le BBS, con i primi virus che circolavano sui floppy passati di mano in mano, con la scoperta che un programma poteva mentire al sistema operativo — e che il sistema operativo, dal canto suo, era pieno di crepe.

Poi arrivò Internet vera, arrivarono i primi lavori seri, e mi ritrovai a fare quello che oggi si chiama “incident response” quando ancora non aveva un nome: qualcuno chiamava, qualcosa non funzionava come doveva, e bisognava capire perché prima che diventasse un problema più grande. Ho scelto questa strada perché unisce tre cose che mi divertono profondamente: la logica investigativa (chi, come, quando), l’avversario umano (uno che pensa e reagisce, non un bug che sta lì fermo), e la responsabilità concreta di difendere qualcosa che ad altre persone importa davvero. Un’ospedale, una banca, un impianto industriale. Non è una carriera che ti dà pace, ma ti dà un senso molto chiaro del perché ti alzi la mattina. Poi c’è una quarta ragione, meno nobile: la cybersecurity è l’unico mestiere in cui essere paranoici viene considerato un pregio professionale. Per uno come me, è stato un sollievo istituzionale.

 La cybersecurity e il cybercrime, il crimine informatico organizzato, sono strettamente legati. Come la malavita attuale si può impossessare dei mezzi tecnologici? 

 La malavita ha fatto quello che fa sempre: ha seguito i soldi. E i soldi, negli ultimi vent’anni, si sono spostati online insieme al resto della nostra vita. Il crimine informatico organizzato di oggi non è più il ragazzino nel seminterrato: è un’industria matura con divisione del lavoro, service level agreement, ticket di supporto ai clienti e — non sto scherzando — recensioni. Il modello dominante è il ransomware-as-a-service: un gruppo sviluppa il malware, un altro lo distribuisce, un terzo si occupa della negoziazione, un quarto ricicla i pagamenti in criptovaluta. Ognuno prende la sua quota, come in una qualsiasi filiera industriale. Ci sono “initial access broker” che vendono accessi già pronti a reti compromesse, forum dove si comprano credenziali rubate al chilo, e programmi di affiliazione che ricordano vagamente Amway, ma con il riciclaggio. I mezzi tecnologici arrivano da diverse fonti: strumenti open source riutilizzati (Cobalt Strike, Mimikatz, tutto l’arsenale del pentesting professionale), vulnerabilità zero-day comprate sul mercato grigio, exploit trapelati da agenzie di intelligence — EternalBlue insegna — e sempre più spesso servizi cloud legittimi usati come infrastruttura di comando e controllo. Perché bloccare il traffico verso Dropbox o GitHub è complicato, mentre bloccare un dominio sospetto in Russia è banale. E poi c’è la nuova frontiera: l’IA generativa che scrive email di phishing in italiano perfetto, senza più gli errori grammaticali che erano il nostro primo indicatore di compromissione. Il crimine si è professionalizzato più velocemente della difesa, perché non deve rispondere a un consiglio di amministrazione, a un auditor, o a un regolamento europeo.

 Quanto siamo al sicuro o quanto siamo esposti al rischio informatico?

 Dipende da cosa intendiamo per “sicuri”. Se la domanda è “il mio conto in banca sparirà stanotte?”, la risposta ragionevole è no, perché le banche investono cifre serie e hanno assicurazioni. Se la domanda è “qualcuno, da qualche parte, sta cercando in questo momento di compromettere qualcosa che mi riguarda?”, la risposta è quasi certamente sì — e non è personale, è statistica. La verità operativa è questa: la sicurezza assoluta non esiste e non è mai esistita.

Esiste il rischio gestito, la resilienza, e la capacità di rilevare rapidamente quando qualcosa va storto. Un’organizzazione matura non è quella che non viene mai attaccata (impossibile), ma quella che se ne accorge in ore anziché in mesi, contiene invece di collassare, e impara invece di negare. L’esposizione varia enormemente per settore. Un piccolo studio professionale in Italia oggi è probabilmente più a rischio di una grande banca, perché ha gli stessi avversari e un decimo dei controlli. Le PMI sono il ventre molle del sistema, insieme alla filiera. Le grandi organizzazioni si difendono meglio, ma vengono attaccate da avversari più determinati e con più risorse — inclusi, sempre più spesso, attori statali. Il rischio individuale è dominato da tre cose banali: password riutilizzate, autenticazione a due fattori assente, e la nostra spontanea disponibilità a cliccare su qualsiasi cosa arrivi con un tono abbastanza urgente. La buona notizia è che risolvere questi tre punti mette l’utente medio già sopra l’ottantesimo percentile. La cattiva notizia è che la maggior parte delle persone non lo farà comunque, perché la sicurezza è scomoda finché non è drammaticamente necessaria — momento in cui è già troppo tardi.

 Cosa succede quando arriva un attacco cyber e quali sono i tipi comuni di attacchi di rete?

Phishing e credential harvesting Un attacco vero non somiglia quasi mai a quello dei film. Non c’è la schermata verde con “ACCESS GRANTED” e la barra di progresso lampeggiante. Nella pratica, un attacco moderno è lento, silenzioso, e per giorni o settimane sembra rumore di fondo indistinguibile dal traffico normale. Le fasi sono abbastanza costanti — MITRE ATT&CK le codifica bene: ricognizione, accesso iniziale (di solito phishing o una vulnerabilità esposta), esecuzione di codice, persistenza sulla macchina, escalation di privilegi, movimento laterale nella rete, raccolta delle credenziali, esfiltrazione dei dati e, se l’obiettivo è economico, il gran finale con la cifratura e la richiesta di riscatto. Tra la prima intrusione e l’impatto visibile passano in media settimane. È lì che si vince o si perde la partita, in quello spazio invisibile.

I tipi comuni di attacco di rete che vediamo quotidianamente:

Quando la telefonata arriva, il lavoro dell’incident responder è raccogliere evidenze senza contaminarle, ricostruire la timeline, contenere senza fare più danni dell’attaccante, e rimettere in piedi l’organizzazione — nell’ordine, e possibilmente prima che i giornali sappiano il nome del cliente.

 Qual è la differenza tra evento, alert e incident?

È una piramide, e come tutte le piramidi buone si legge dal basso.

Detto in modo brutale: gli eventi li genera l’infrastruttura, gli alert li genera la tecnologia, gli incidenti li dichiarano gli esseri umani. La differenza tra un buon programma di sicurezza e uno mediocre passa quasi tutta da quanto rapidamente e correttamente si transita da un livello all’altro.

 Un esempio di situazione “stressante” che hai gestito con successo.

 Alcuni anni fa mi è capitato di gestire un incidente in un impianto industriale del settore energetico. Non farò nomi né geografie precise: chi lavora nel settore capirà comunque, e chi non lavora nel settore non ha davvero bisogno di sapere.

La chiamata arriva di venerdì pomeriggio — succede sempre di venerdì pomeriggio, è una regola non scritta del mestiere. Il cliente segnala anomalie nella rete IT, ma la preoccupazione vera è un’altra: sospettano che l’attaccante possa aver toccato la rete OT, quella dei sistemi di controllo industriale. Nella rete IT, nel peggiore dei casi, si perdono dati e reputazione. Nella rete OT, nel peggiore dei casi, si fanno male le persone. La differenza non è accademica.

Arriviamo sul posto e la prima difficoltà è filosofica prima che tecnica: in un ambiente OT non puoi comportarti come in un ambiente IT. Non puoi isolare un PLC a caldo, non puoi riavviare un controllore in produzione, non puoi installare agent EDR su sistemi certificati dal vendor con cicli di validazione biennali. Devi investigare attorno ai sistemi critici, non su di essi: sonde di rete passive, analisi dei log dei sistemi usati per accedere alla rete industriale, analisi forense delle workstation lato IT, confronto delle configurazioni in produzione con le versioni salvate nei backup autorizzati.

L’attaccante era entrato tramite la rete IT — vettore banale, credenziali VPN compromesse — e si era mosso lateralmente per due settimane cercando la porta verso l’OT. La stava trovando. Aveva già mappato la rete industriale, identificato i sistemi di ingegneria, e cominciato la ricognizione sui controllori con un traffico EtherNet/IP anomalo — sessioni brevi, richieste di identità, browsing degli oggetti CIP senza il traffico ciclico I/O normale. Un pattern che, se sai cosa cercare, urla.La parte stressante non è stata tecnica. È stata la riunione con il management del sito alle due di notte, in cui bisognava spiegare che fermare la produzione avrebbe avuto un costo di sette cifre l’ora, ma non fermarla avrebbe potuto avere un costo diverso e non contabilizzabile. Abbiamo scelto un contenimento coordinato: espulsione simultanea dell’attaccante da tutti i punti di appoggio identificati, rotazione massiva delle credenziali, segmentazione di emergenza tra IT e OT, e monitoraggio rinforzato per tre settimane per intercettare qualsiasi tentativo di ritorno. Nessun impatto sulla produzione, nessun impatto sulla sicurezza fisica.

Ho imparato tre cose da quell’incidente, che ripeto ogni volta che qualcuno mi chiede consigli sulla risposta OT. Primo: il contenimento in ambiente industriale va sincronizzato, altrimenti dai all’attaccante il tempo di reinsediarsi mentre ti agiti. Secondo: la decisione di fermare o non fermare non è mai dell’incident responder, è del management — il nostro lavoro è dare loro le informazioni giuste in tempo utile, non decidere al posto loro. Terzo: dormire, prima o poi, è comunque necessario. Anche di venerdì.

 Oltre la tecnologia, cosa c’è dietro la cybersecurity? 

 Dietro la cybersecurity ci sono persone, processi, e — soprattutto — decisioni. La tecnologia è la parte più visibile e la meno interessante. Puoi comprare i migliori firewall, i migliori EDR, i migliori SIEM, e essere comunque compromesso il martedì mattina perché qualcuno ha cliccato su un allegato o perché nessuno ha aggiornato il ticket di quella vulnerabilità aperta da otto mesi. C’è la parte umana degli analisti, che è la più sottovalutata. Un SOC funziona quando ha persone che sanno leggere il contesto, non solo eseguire una checklist. La differenza tra un analista bravo e uno mediocre è la stessa che passa tra un medico che ascolta il paziente e uno che guarda solo il referto. La tecnologia amplifica il talento, non lo sostituisce — e nessuna IA, per ora, ha cambiato questa equazione in modo sostanziale.

C’è la parte organizzativa: chi decide, chi riporta a chi, con che velocità, con che autorità. Ho visto incidenti gestiti tecnicamente in modo impeccabile che sono diventati disastri perché la comunicazione interna era rotta. E ho visto incidenti tecnicamente modesti gestiti brillantemente perché il CISO aveva il numero del CEO in rubrica e l’autorità di usarlo alle tre di notte. C’è la parte etica, che si sente poco ma pesa molto. La cybersecurity opera in una zona grigia continua: quando è legittimo raccogliere dati sui dipendenti? Quando un analista può oltrepassare una linea? Come si tratta un dato che è chiaramente frutto di un data breach altrui ma che aiuterebbe la nostra indagine? E’il caso di pagare un riscatto se i miei dati e quelli dei miei clienti sono in mano all’attaccante? Sono domande a cui la tecnologia non risponde, e a cui bisogna rispondere comunque. E infine c’è una parte quasi filosofica: la cybersecurity è un mestiere che accetta l’imperfezione strutturale del mondo. Sai che perderai alcune battaglie, sai che alcuni sistemi resteranno vulnerabili, sai che la difesa perfetta è un’ideologia, non un obiettivo. Il lavoro consiste nel ridurre il danno, aumentare la resilienza, e comprare tempo. È un lavoro profondamente umano, anche quando ha a che fare con macchine — forse proprio per quello.

 Nei primi anni Ottanta del Novecento, la grande stagione inaugurata da Richard Stallmann e dei free content come modello infocognitivo libero e condiviso con la nascita del Progetto GNU (1983). L’impatto di questo modello sullo sviluppo delle moderne Intelligenze Artificiali Open Source.

 Nel 1983 Richard Stallman, con il Progetto GNU e poi la Free Software Foundation, ha fatto una cosa che all’epoca sembrava eccentrica: ha teorizzato che il software dovesse essere libero non nel senso di gratuito, ma nel senso di studiabile, modificabile, ridistribuibile. Ha inventato la GPL, un capolavoro di ingegneria giuridica che usa il diritto d’autore per garantire l’esatto opposto di quello per cui era stato pensato. È un gesto profondamente hacker: prendere il sistema, capirne le regole, e usarlo contro sé stesso. L’impatto di quella scelta è visibile oggi ovunque. Linux, che ha vinto la battaglia dei server, del cloud, del mobile e dell’embedded praticamente senza opposizione. L’ecosistema open source su cui si regge Internet, dalle librerie crittografiche ai web server ai database. E, cosa che negli anni Ottanta nessuno avrebbe potuto prevedere, l’intera infrastruttura software su cui l’intelligenza artificiale moderna gira: PyTorch, TensorFlow, JAX, Hugging Face, tutta l’impalcatura è open source. Il collegamento con le IA open source contemporanee — Llama, Mistral, Qwen, DeepSeek, i modelli europei come EuroLLM — è diretto ma anche ironico. Diretto, perché senza la cultura del software libero non avremmo mai avuto la trasparenza degli strumenti, la ripetibilità della ricerca, la possibilità per università e piccole aziende di partecipare a un campo altrimenti dominato da tre iperscaler americani. Ironico, perché il concetto stesso di “modello open source” è discutibile: rilasciare i pesi non è la stessa cosa che rilasciare il codice sorgente, e Stallman probabilmente avrebbe qualcosa da ridire sulla licenza di Llama.

Ma il principio operativo è sopravvissuto: se un’infrastruttura diventa importante per la società, la società ha il diritto di ispezionarla, modificarla, sostituirla. Applicato alle IA, significa che nessuna singola azienda dovrebbe possedere in modo esclusivo la tecnologia che sta ridefinendo il lavoro, l’informazione e la decisione pubblica. È una posizione politica, oltre che tecnica, e nasce direttamente da un manifesto scritto nel 1985 in un ufficio del MIT.

Nel mio settore, l’open source ha un effetto ulteriore: mi permette di studiare gli strumenti che gli attaccanti useranno. Quando un modello linguistico è aperto, posso testarlo, jailbrekearlo, capire come si comporta sotto stress, misurare i suoi guardrail. Quando è chiuso, mi tocca fidarmi. Fidarsi, nel mio mestiere, è la cosa più simile che abbiamo a un peccato originale.

 L’Intelligenza Artificiale (A.I.) rappresenta la più grande forza di trasformazione sociale del nostro secolo ed oscilla costantemente tra una spinta liberatrice e una forza minacciosa, ridefinendo il concetto stesso di società. Se non governata, l’A.I. rischia di amplificare le disuguaglianze esistenti e di frammentare il tessuto sociale.

 L’intelligenza artificiale è la prima tecnologia della mia vita professionale che genera, in modo simultaneo e sincero, entusiasmo genuino e paura genuina — spesso nelle stesse persone, nella stessa conversazione, a distanza di secondi. È un indicatore interessante. Le tecnologie neutre non producono quel tipo di ambivalenza.

Il potenziale liberatorio è reale. Un modello linguistico dà a un ricercatore isolato la potenza di fuoco di un piccolo team, a uno studente accesso a un tutor infinito, a un medico in una periferia dimenticata un secondo parere qualificato. La barriera tra “avere un’idea” e “prototiparla” si è abbassata di un ordine di grandezza. È un moltiplicatore di cervelli, e i cervelli — statisticamente — sono distribuiti in modo molto più democratico dei capitali.

Il potenziale minaccioso è altrettanto reale, e agisce su tre piani. Primo, l’amplificazione delle disuguaglianze: chi controlla i modelli di frontiera controlla un vantaggio cognitivo strutturale, e quel controllo è concentrato in pochissime mani. Secondo, la frammentazione dell’informazione condivisa: quando ognuno ha il suo assistente personalizzato che gli conferma la sua visione del mondo, la conversazione pubblica si dissolve in miliardi di monologhi.

Terzo, la disintermediazione del lavoro cognitivo di livello intermedio, che è esattamente lo strato sociale su cui si reggono le democrazie liberali. Se sparisce il ceto medio istruito, sparisce anche l’infrastruttura sociale che lo sosteneva.

La domanda vera, secondo me, non è “l’IA ci ruberà il lavoro” — questione mal posta — ma “chi possiederà la produttività aggiuntiva che l’IA genererà, e con quali regole?”. È una domanda politica, non tecnologica. E come tutte le domande politiche, non ha una risposta ottimale: ha una risposta contrattata.

Nel mio ambito, la governance dell’IA sta diventando una disciplina a sé. Gli agenti autonomi che eseguono azioni per conto degli utenti sono la prossima frontiera del rischio: identità non-umane che si autenticano ai sistemi, accedono ai dati, prendono decisioni, e occasionalmente sbagliano in modi che nessuno ha ancora imparato a investigare bene. Stiamo costruendo un’infrastruttura di cui non abbiamo ancora il manuale di manutenzione, e la stiamo mettendo in produzione lo stesso — cosa peraltro perfettamente in linea con la storia dell’informatica degli ultimi quarant’anni, dal 5150 in poi.

Se c’è una lezione che porto dai miei anni di incident response è questa: le tecnologie non sono buone o cattive, sono distribuite. E la distribuzione è una scelta collettiva, che possiamo ancora fare. Per un po’.