Gli LLM Sotto Attacco: Vulnerabilità Note e Responsabilità da Definire

 L'adozione degli LLM accelera, ma chi risponde delle vulnerabilità? Il modello di Shared Responsibility per un'innovazione sicura. Parola a Sergio Ajani, Service & Solutions Design Director di Innovaway

Ogni giorno, migliaia di aziende affidano decisioni, dati critici e processi operativi ai Large Language Model (LLM). L'urgenza di innovare e mantenere un vantaggio competitivo spinge le organizzazioni ad adottare questa tecnologia straordinaria, spesso sottovalutando un fattore cruciale: gli LLM rappresentano una superficie di attacco inedita e in rapida evoluzione.

I dati ISTAT del 2025 confermano questo trend: il 16,4% delle imprese italiane con almeno 10 addetti ha già integrato soluzioni di AI Generativa, un dato triplicato rispetto al 2023. Questa accelerazione, tuttavia, corre più veloce della governance, generando un'adozione priva di una matura valutazione dei rischi.

Il Perimetro del Rischio: Una Review delle Vulnerabilità

Per i C-level e gli IT Manager, affrontare il nodo della sicurezza significa innanzitutto comprendere che le vulnerabilità degli LLM non sono semplici difetti di implementazione, ma criticità che si distribuiscono lungo l'intero ciclo di vita del sistema.

• Fase di Addestramento e Architetture RAG: Il rischio primario è il Data Poisoning. Inquinare i dataset con fonti non verificate altera alla radice il comportamento del modello. Nelle architetture RAG (Retrieval-Augmented Generation), a questo si aggiunge la necessità di una rigorosa governance temporale: mantenere la knowledge base aggiornata e presidiata è un'attività critica, non automatizzabile e non delegabile al modello stesso.
• Fase di Produzione e Utilizzo: La minaccia predominante è la Prompt Injection, classificata al primo posto (LLM01:2025) nella Top 10 OWASP per la sicurezza delle applicazioni AI. Input malevoli possono aggirare le istruzioni di sistema, forzando la rivelazione di dati sensibili o output anomali. Studi di settore del 2025 confermano che, in assenza di filtri protettivi a strati, queste tecniche superano l'85% di tasso di successo.
• L'Era degli Agenti AI: Con l'integrazione degli LLM a strumenti operativi (Agenti AI), una risposta errata o manipolata si traduce in un'azione errata. Il danno evolve: da puramente informativo diventa un impatto operativo diretto sui processi di business.

Queste vulnerabilità derivano da lacune strutturali lungo la catena del valore (progettazione, integrazione e aggiornamento), aprendo la strada al problema più insidioso: la frammentazione della responsabilità.

La Dispersione della Responsabilità

 In caso di incidente di sicurezza legato a un LLM, la vera sfida non è tecnica, ma legale e di governance: chi ne risponde?

Attualmente, la risposta è opaca. Le decisioni vengono prese da attori diversi (Vendor, System Integrator, Cliente) con livelli di consapevolezza disallineati. L'output probabilistico intrinseco degli LLM e la velocità estrema di adozione hanno portato le aziende a integrare questi sistemi in processi critici prima ancora di definire un framework di rischio condiviso. Quando il perimetro viene violato, la tendenza è quella di delegare il problema ad altri anelli della catena.

I Tre Livelli Non Delegabili di Sicurezza

Per garantire l'affidabilità aziendale, è imperativo superare l'ambiguità attraverso una mappatura precisa delle responsabilità. Esistono tre livelli fondamentali i cui obblighi non possono essere trasferiti:

• Il Vendor del Modello: Ha l'obbligo di garantire che il sistema base sia resistente a tentativi di jailbreak o prompt injection volti a compromettere la sicurezza informativa. Le pressioni competitive non giustificano il rilascio di modelli intrinsecamente vulnerabili.
• Il System Integrator: Come partner tecnologico, detiene la responsabilità sulla progettazione e messa in sicurezza dell'intera infrastruttura. Questo include la cifratura dei dati, la configurazione dei modelli di sicurezza, l'architettura RAG e la segregazione degli ambienti di accesso. Il livello di esposizione del sistema dipende direttamente dall'architettura progettata.
• Il Cliente (Azienda): Agisce in un doppio ruolo. In quanto Data Controller, è responsabile della classificazione dei dati e delle informazioni immesse nel sistema. Come Committente, detiene la governance continuativa della pipeline. Nessun fornitore conosce il contesto e le specificità del business meglio dell'organizzazione stessa; delegare questa supervisione all'AI o a terzi costituisce un rischio inaccettabile.

Il Paradigma Necessario: Shared Responsibility

La transizione verso il Cloud ha affrontato sfide simili, risolte con l'adozione del modello di Shared Responsibility, che ha chiarito i compiti per ogni livello dello stack tecnologico.

Per l'Intelligenza Artificiale Generativa, questo framework è ancora assente, ma la sua costruzione rappresenta la priorità per il settore ICT. Non si tratta di una mera questione tecnica, ma di una sfida di governance strategica. Il management deve comprendere le implicazioni dell'adozione degli LLM e i pericoli dello Shadow AI, allineandosi con Vendor e System Integrator per presidiare attivamente ogni fase.

Il vero vantaggio competitivo non risiede nella semplice adozione degli LLM, ma nella loro implementazione attraverso un modello di responsabilità chiaro e strutturato. L'innovazione non ammette compromessi sulla sicurezza: ignorare questa urgenza significa esporsi a costi—non solo tecnici, ma economici e reputazionali—devastanti al primo, inevitabile, incidente.

Clicca qui per leggere l'intervista integrale a Sergio Ajani