Linee rosse

L'idea che una macchina obbedisca a regole morali prima di obbedire agli ordini è più vecchia di quanto sembri. E più scomoda. Il punto sulla vicenda Anthropic.

C'è un momento preciso in cui questa storia smette di essere una questione di appalti governativi e diventa qualcosa di più difficile da ignorare, con risvolti etici ben più estesi.

È la notte tra venerdì 27 e sabato 28 febbraio 2026. Il Pentagono ha appena comunicato ad Anthropic, l'azienda che produce Claude, uno dei modelli di linguaggio più avanzati, che la sua designazione come "supply chain risk" è effettiva da quel momento. Non è una classificazione ordinaria: è quella normalmente riservata ai fornitori di paesi ostili, alle aziende sospettate di mettere a rischio la sicurezza nazionale degli Stati Uniti. Stavolta tocca a un'azienda americana, con sede a San Francisco, fondata da ricercatori che hanno lasciato OpenAI proprio perché volevano costruire un'AI più sicura.

Poche ore dopo, OpenAI annuncia di aver firmato un accordo con il Dipartimento della Difesa per dispiegare i propri modelli all'interno delle reti classificate. Il cerchio si chiude in meno di ventiquattr'ore. Anthropic è fuori. OpenAI è dentro.

Ma la vera storia non è chi ha vinto l'appalto.

Una linea di confine nel contratto

Per mesi, Anthropic e il Pentagono hanno negoziato i termini di un contratto di collaborazione che ha raggiunto il valore di duecento milioni di dollari. L'accordo copre l'uso di Claude in sistemi di intelligence, analisi dei dati e supporto alle decisioni militari. Non è una partnership nuova: Anthropic lavora già con il Dipartimento della Difesa, e ha integrato i propri modelli nella piattaforma Maven Smart Systems di Palantir, uno degli strumenti di analisi più usati dall'esercito americano.

Il nodo del contendere è apparentemente minimo: una singola frase nel testo del contratto. Secondo quanto riportato dal New York Times e confermato dallo stesso CEO di Anthropic, Dario Amodei, in una comunicazione interna poi resa pubblica, il Pentagono chiede di eliminare una clausola che impedisce esplicitamente l'uso dei modelli per “l'analisi di dati acquisiti in blocco", il tipo di sorveglianza di massa che intercetta comunicazioni su scala indiscriminata. Anthropic dice no.

A quella richiesta se ne affianca un'altra: l'azienda non deve opporre resistenza all'uso dei propri modelli in sistemi d'arma autonomi, cioè sistemi capaci di prendere decisioni letali senza supervisione umana. Anche qui, la risposta è no.

"Non crediamo che i modelli AI di frontiera attuali siano abbastanza affidabili per essere usati in armi completamente autonome. Consentire questo tipo di utilizzo metterebbe a rischio i soldati americani e i civili", così recita la dichiarazione pubblica dell'azienda. Non è retorica. È una posizione tecnica.

La risposta del governo americano

Il Pentagono non aspetta a lungo. La designazione come rischio per la catena di fornitura, una misura prevista dal Defense Federal Acquisition Regulation Supplement, normalmente riservata ad aziende cinesi o russe, viene applicata ad Anthropic "con effetto immediato". Il Segretario alla Difesa Pete Hegseth la annuncia su X, usando il nuovo nome del dipartimento imposto dall'amministrazione Trump: Department of War.

Le conseguenze si estendono a cascata. Il Segretario al Tesoro Scott Bessent annuncia la fine di tutti i contratti con Anthropic. Il Dipartimento di Stato conferma che il suo chatbot interno, StateChat, passerà a GPT-4.1 di OpenAI. L'agenzia per i servizi sanitari HHS invia ai propri dipendenti un messaggio interno chiedendo loro di passare a ChatGPT o Gemini. Palantir, che ha integrato Claude in Maven Smart Systems, riceve istruzione di rimuovere i modelli di Anthropic.

Il presidente Trump firma un ordine esecutivo che stabilisce la transizione fuori da Anthropic per tutte le agenzie federali entro sei mesi. Non una trattativa. Una dismissione.

Amodei risponde con toni netti. In una comunicazione interna, descrive l'intera vicenda come sospetta, accusa il Pentagono e OpenAI di affermare il falso, e avanza un'ipotesi che molti osservatori trovano plausibile quanto difficile da verificare: Anthropic è stata esclusa perché non ha tributato a Trump il tipo di elogio pubblico che altre aziende tecnologiche si sono affrettate a offrire.

Il sostituto e le sue contraddizioni

OpenAI si muove con rapidità. Sam Altman, il CEO, dichiara pubblicamente di condividere le stesse linee rosse di Anthropic, niente sorveglianza di massa, niente armi autonome senza supervisione umana. Poi firma il contratto.

La contraddizione è evidente, e non passa inosservata. All'interno di OpenAI, alcuni dipendenti cominciano a esprimere frustrazione pubblica. Messaggi scritti con il gesso compaiono sul marciapiede davanti alla sede dell'azienda a San Francisco: "Where are your redlines?", dove sono le vostre linee rosse? Una dipendente dice a CNN, sotto condizione di anonimato, che molte persone all'interno dell'azienda rispettano Anthropic per aver resistito al Pentagono e si sentono a disagio con la rapidità con cui OpenAI ha colmato il vuoto.

Il contratto pubblicato da OpenAI contiene un linguaggio ambiguo: i modelli possono essere usati per "qualsiasi scopo lecito", ma con limitazioni che Altman ha descritto come equivalenti a quelle richieste da Anthropic. Gli esperti legali e tecnici che analizzano il testo trovano la formulazione meno solida di quanto Altman sostenga. L'assenza di una frase esplicita sull'analisi di dati acquisiti in blocco, esattamente la clausola che Anthropic ha rifiutato di togliere, viene notata da più commentatori.

Altman stesso ammette che l'accordo è stato "affrettato" e ha bisogno di essere rivisto. OpenAI aggiunge successivamente un linguaggio più esplicito contro la sorveglianza di cittadini americani. Sulle armi autonome, il silenzio resta più eloquente delle parole.

Il paradosso del pubblico

Nel mezzo di questa crisi istituzionale, succede qualcosa di inatteso. Claude scala le classifiche dell'App Store di Apple in più di venti paesi, superando ChatGPT e Gemini. Anthropic registra oltre un milione di nuovi utenti al giorno durante la settimana dello scontro con il Pentagono. Un numero significativo di utenti disinstalla ChatGPT dopo l'annuncio del contratto con il Dipartimento della Difesa.

È una forma di sanzione di mercato spontanea: le persone che usano questi strumenti ogni giorno hanno letto la storia e hanno fatto una scelta. Non è un boicottaggio organizzato. È una reazione distribuita, individuale, a un'informazione che ha raggiunto una massa critica di attenzione.

Questo aspetto della vicenda merita riflessione. Le aziende di AI parlano di sicurezza, di allineamento, di valori, spesso in termini astratti, nei white paper e nelle conferenze. Qui, per la prima volta in modo così visibile, una di queste aziende ha pagato un prezzo concreto per una posizione etica. E il pubblico ha risposto.

Una domanda che rimane aperta

Nel momento in cui sto scrivendo questo post, Anthropic è tornata al tavolo delle trattative. Dario Amodei ha incontrato Emil Michael, il sottosegretario della Difesa per la ricerca e l'ingegneria, lo stesso che, pochi giorni prima, lo aveva pubblicamente definito "un bugiardo" e di “giocare a fare Dio”. L'accordo da duecento milioni è ancora in bilico. Il contenzioso legale sulla designazione come supply chain risk è appena iniziato.

Non sappiamo come finirà. Ma la domanda che questa vicenda lascia aperta non riguarda chi otterrà il contratto. Riguarda qualcosa di più strutturale: chi decide come vengono usati i sistemi di intelligenza artificiale quando vengono integrati in infrastrutture militari e di sorveglianza? Le aziende che li costruiscono? I governi che li acquistano? O nessuno dei due, in egual maniera?

Anthropic ha sostenuto che i modelli AI attuali non sono abbastanza affidabili per prendere decisioni rischiose senza supervisione umana. Non è una posizione ideologica. È una valutazione tecnica del rischio, dello stesso tipo che un ingegnere ha il dovere di fare prima di certificare un sistema critico. La domanda è se esiste, nella catena di approvvigionamento militare, uno spazio per quella valutazione, o se rifiutarsi di consegnarla senza riserve è considerato, in sé, un rischio per la sicurezza nazionale.

La risposta che emerge da questa storia è inquietante, e vale la pena tenerla a mente.