Nel mese di aprile 2017, il Pentagono ha creato una nuova unità tecnologica a disposizione della Difesa, denominata “Algorithmic Warfare Cross-Functional Team,” (AWCFT) specializzata in settori che prevedono lo studio e lo sviluppo di tecnologie dell’Artificial Intelligence (AI[1]) e del Machine Learning (ML[2]) ovvero di tecnologie che già da tempo vengono sfruttate nel settore della Difesa e dell’Intelligence non solo dagli Stati Uniti ma anche da Cina, Russia ed altri Paesi che hanno deciso di incrementare le potenzialità legate a questi sistemi tecnologicamente avanzati.[3]

Il Dipartimento della Difesa (DoD) ha con orgoglio ufficializzato la nuova iniziativa che  sfruttando i progressi ottenuti nei settori scientifici già indicati, potrà apportare innegabili vantaggi sotto diversi profili che non riguardano solo quelli indicati ma spaziano anche al settore delle comunicazioni della logistica ed è proprio in ragione di questa interazione che solo nel 2017 il Dipartimento ha speso 7,4 miliardi di dollari in aree di ricerca legate ai big data e soprattutto all’intelligenza artificiale con una previsione di spesa ulteriore per l’anno corrente.

In tale contesto si parla sempre più spesso di “algoritmo di guerra” termine coniato per indicare qualsiasi algoritmo generato da computer, che viene attivato e condotto attraverso un sistema in grado di operare nell’ambito di un conflitto armato[4].

L’unità partecipa attivamente a vari progetti di interesse tra i quali il “Project Maven”[5], di recente balzato agli onori delle cronache; una partnership con google che sta offrendo le sue competenze hi-tech per consentire al Pentagono di analizzare tutto il materiale video registrato dai droni e di decodificarlo selezionando obiettivi ed oggetti ritenuti di interesse, estrapolandoli da una mole gigantesca di filmati, utilizzando la “computer vision”, un’area di ricerca che produce algoritmi per l’acquisizione e la comprensione di immagini.

Sostanzialmente si tratta di una tecnologia finalizzata al potenziamento della sorveglianza e del monitoraggio dei target (dai pochi elementi trapelati al momento sono state inserite circa 40 classi di oggetti da estrapolare) rilevati sia in fase di attacco e sia in fase di ricognizione.

Lo strumento, per certi versi, è una evoluzione del framework TensorFlow (prodotto open source usato in ambito machine learning già dal 2015) che, nel caso specifico risulta ulteriormente sviluppato in alcune sue componenti per creare ed addestrare una rete neuronale artificiale.

In prospettiva, le competenze del team AWCF andranno oltre il monitoraggio ed l’estrapolazione dei target dai video; si occuperà di ricercare e sviluppare tutte quelle iniziative tecnologiche basate su algoritmi esistenti nei vari ambiti della difesa e dell’intelligence, ivi comprese le progettazioni in materia di intelligenza artificiale, automazione ed apprendimento automatico.

Il compito di portare avanti la nuova unità e di instradarla per il raggiungimento degli obiettivi finali, è stato dato al Lt. Gen. John NT “Shanahan”[6] attuale Direttore dell’Intelligence della Difesa (Warfigther Support) che si propone di plasmare una unità che sia in grado di operare in più settori per supportare al meglio le molteplici attività del Dipartimento, convinti che la nuova frontiera della “guerra algoritmica” sia appena iniziata e non si è ancora in grado di quantificare quanto, potenzialmente, potrà incidere sugli equilibri futuri.[7]

Interessanti spunti di riflessione sono emersi da parte di specialisti del diritto internazionale che hanno provato a ragionare sulle inevitabili ripercussioni di questa nuova realtà.

In guerra, come peraltro ormai consolidato in altre aree della vita moderna, l’uso degli algoritmi sta ulteriormente modificando regole e condotte, conseguentemente sarà interessante un approccio alla problematica anche sotto il profilo giuridico.

Concetti quali “attribuzione di responsabilità”, “controllo delle azioni”, “proporzionalità” e “corretto uso” dovranno necessariamente trovare una loro corrispondenza non solo nell’ambito del diritto dei conflitti armati ma anche per quanto concerne il diritto umanitario internazionale, il diritto penale internazionale, il diritto internazionale dello spazio: le attuali lacune sotto il profilo normativo dovranno essere colmate in fretta e soprattutto dovranno essere condivise con una platea sempre più vasta ed eterogenea.

Sebbene queste dottrine giuridiche internazionali offrano un approccio iniziale verso la regolamentazione, in termini chiave tuttavia non sono né esaurienti né necessariamente direttamente applicabili a questa nuova realtà strategica, almeno non ancora. Lo dimostra il fatto che non si traducono facilmente in regole di ingaggio (ROE) che potrebbero aiutare a governare le operazioni militari che utilizzano algoritmi di guerra.

Una nuova problematica sta emergendo nella comunità globale ormai pervasa da tecnologie che influenzano sempre più i decisori trattandosi di argomenti cogenti che hanno bisogno della più ampia condivisione ma soprattutto, di una urgente trattazione.

____________________________________________________________

[1] Traditionally a branch of computer science, AI as a holistic concept has pulled from many areas of academic arenas, from philosophy to physics. Many are aware of the recognized origins of the term – famed computer scientist John McCarthy in 1956 at the “Dartmouth summer research project on Artificial Intelligence. https://www.techemergence.com/what-is-artificial-intelligence-an-informed-definition/

[2] Machine learning (ML) is a type of artificial intelligence (AI) that allows software applications to become more accurate in predicting outcomes without being explicitly programmed. The basic premise of machine learning is to build algorithms that can receive input data and use statistical to predict an output value within an acceptable range. https://searchenterpriseai.techtarget.com/definition/machine-learning-ML

[3] Lo riferisce un rapporto edito a maggio 2017 dal centro per gli studi strategici con sede all’Aia https://www.hcss.nl/report/artificial-intelligence-and-future-defense.

[4] We define “war algorithm” as any algorithm that is expressed in computer code, that is effectuated through a constructed system, and that is capable of operating in relation to armed conflict. In introducing this concept, our foundational technological concern is the capability of a constructed system, without further human intervention, to help make and effectuate a “decision” or “choise” of a war algorithm. Distilled, the two core ingredients are an algorithm expressed in computer code and a suitably capable constructed system. https://pilac.law.harvard.edu/aws/

[5] Project Maven è stato avviato dal Pentagono nell’aprile dello 2017 con uno scopo abbastanza preciso: accelerare l’integrazione delle tecnologie per il machine learning e l’elaborazione dei big data da parte del Ministero della Difesa. Secondo il Wall Street Journal, il Dipartimento della Difesa americano, avrebbe speso 7,4 miliardi di dollari in aree relative all’intelligenza artificiale nel 2017. E le aziende coinvolte sono tante. Google, in particolare, si sta occupando di sviluppare sistemi intelligenti di analisi dei contenuti dei filmati catturati dai droni militari. http://www.repubblica.it/economia/2018/04/05/news/google_i_dipendenti_contro_il_progetto_per_il_pentagono-193085477/

[6] Lt. Gen. John N.T. “Jack” Shanahan is the Director for Defense Intelligence (Warfighter Support) (DDI (WS)), Office of the Under Secretary of Defense for Intelligence, Pentagon, Washington, D.C. The DDI (WS) ensures combatant commands (CCMD) have the intelligence policy, processes and resorces they need top lan and conduct successful operations and campaigns. http://www.af.mil/About-Us/Biographies/Display/Article/108830/major-general-john-nt-jack-shanahan/

[7] Questa visione ad ampio raggio dei possibili benefici per la guerra da parte di AI e ML si allinea fortemente con l’approccio generale definito nel Defense Science Board Summer Study on Autonomy pubblicato del giugno 2016. https://www.hsdl.org/?abstract&did=794641

Pietro Lucania
Latest posts by Pietro Lucania (see all)