Mentre si cerca una soluzione di compromesso al conflitto in Iran, prima che sfugga letteralmente di mano ai contendenti, vogliamo tornare all’inizio dell’operazione Epic Fury. Lo scorso 28 febbraio, presi dalla foga del momento epico, per l’appunto, le forze congiunte di Israele e Stati Uniti hanno sferrato un attacco violento verso molteplici obiettivi.

Tra questi, la pericolosissima scuola elementare femminile Shajareh Tayyebeh a Minab, nella parte meridionale dell’Iran. Hanno colpito  almeno due volte durante il turno mattutino (morning shift nei piani di azione ufficiali) e ucciso un numero ancora incerto di persone, stimate in 180, quasi tutte bambine e ragazzine tra i sette e i dodici anni.

Di chi è la colpa

L’esercito americano ha prontamente ammesso l’errore, citando una formula appena più elaborata e retorica del buon vecchio “in amore e in guerra”. È stata poi fatta circolare una versione che possiamo definire accettabile dal pubblico, accennando a un tale Claude, il chatbot creato da Anthropic, che nella sua intelligenza artificiale e poco umana avrebbe selezionato l’obiettivo.

Colpa dell’AI, insomma. I media si sono buttati subito su un tema già scottante e clickabile, ci sono stati articoli di quotidiani e magazine famosi, richiami al ministro della difesa, Pete Hegseth, di riportare al Congresso. Tutto intorno al povero Claude che in realtà non ha fatto altro che quello per cui è programmato: riassumere vari bollettini di guerra e presentarli in una forma leggibile.

Maven

Dietro il processo di selezione degli obiettivi militari non c’è Claude, bensì Maven, un progetto che gira dal 2018 e, attraverso la combinazione di immagini satellitari, intelligence e rilevatori biometrici, gestisce l’intero processo dall’individuazione all’attacco, la cosiddetta “kill chain”. Una delle definizioni più oneste mai sentite dall’esercito: la catena della morte.

Dopo che 4000 dipendenti firmarono una lettera contro il progetto minacciando dimissioni in massa, Google rinunciò all’appalto miliardario che fu trasferito a Palantir Technologies. L’idea è semplice: comprimere i tempi di esecuzione, migliorare l’efficienza del processo di attacco. E, non secondario, sollevare in un certo modo la responsabilità dagli esecutori e dagli autorizzatori di un assassinio.

Una storia di successo

Il progetto Maven muove i primi passi nel 2014 (secondo mandato Obama) e tenta di risolvere l’annoso problema di trovare un vantaggio sul nemico. Prima la bomba atomica, poi missili teleguidati di alta precisione e infine i sistemi di difesa dagli attacchi nemici che vediamo funzionare tanto bene in tutti i Paesi del Medio Oriente.

Il passo successivo è nel 2017 (primo mandato Trump), con la creazione del Team interdisciplinare per la guerra su base algoritmica, che efficienta i tempi di elaborazione degli analisti che, con tutti quei droni in giro, stavano scoppiando: troppe informazioni e poco tempo. Maven può guardare tutto il materiale e riportare solo le cose interessanti.

I primi test arrivano nel 2020 con un’esercitazione chiamata Dragone Rosso (chissà a cosa stavano pensando) che si è sviluppata sempre più negli anni successivi, fino a ottenere risultati incredibili. L’obiettivo era di superare i tempi di lavorazione della guerra in Iraq (2003), in cui circa 2000 persone erano impiegate nel processo. Al Dragone sono bastati 20 analisti e nel 2024 si è arrivati a 1000 decisioni all’ora, una decisione ogni 72 secondi.

Foto da Unsplash di Luke Jones

Come funziona

La tecnologia è banale, la stessa che si usa su una macchina a guida autonoma. Combina immagini, sensori, database e organizza i potenziali obiettivi in un bel foglio a quadretti, dove i target si spostano di colonna in colonna appena vengono superati i diversi controlli. È Maven a decidere quali siano gli obiettivi da sottoporre all’umano, che mantiene l’ultimo step autorizzativo ma si “perde” le fasi del processo.

Il sistema suggerisce l’obiettivo e anche la tattica migliore per attaccare, con quali mezzi e quali munizioni, così che quello che l’esercito chiama “course of action” si svolga nel modo più lineare e veloce possibile. Il bombardamento in sé passa in secondo piano. Si smette di perder tempo a giudicare se l’attacco sia strategico, ci si limita a misurarne l’efficienza.

La scuola di Minab

La verità è talmente idiota da far ancora più male. Magari si potesse dar la colpa a Claude. Il “pacchetto” informativo sull’edificio di Minab presentava un obiettivo militare certo: la sede di una caserma dei Guardiani della Rivoluzione. Nel 2016 è stato convertito in una scuola, un processo poi risultato tracciabile nei registri edilizi iraniani e visibile da Google Maps fin dal 2016.

Quasi 200 bimbe sono morte perché qualcuno ha omesso di aggiornare il database e qualcun altro ha creato un sistema talmente efficiente e veloce da trasformare quella mancanza in una strage. Un sistema in cui i singoli step di validazione non mettono in discussione quello precedente.

Qualcuno ha deciso che i dubbi sono perdite di tempo, che le verifiche producono latenza, per dirla in gergo informatico. Maven non solo produce 1000 obiettivi all’ora, ma arriva a definirli “di alta qualità”, sulla base di controlli automatici e senza contraddittorio. Senza l’inefficiente apporto umano. Non è giusto che bombardare una scuola, legalmente riconducibile a crimine di guerra, passi come l’errore di un chatbot, della brutta e cattiva AI. Dietro il massacro delle bambine c’è una scelta deliberata, una strategia coltivata con cura. La scelta di persone reali, fisiche che ne dovranno rispondere.

Uno stupido motore di ricerca l’avrebbe vista, la scuola. Nessuno ha pensato di guardare.

© RIPRODUZIONE RISERVATA