“Potenziale di danno”: Microsoft produrrà cuffie per realtà aumentata per un valore di 22 miliardi di dollari per l’esercito americano

Secondo quanto riferito, Microsoft ha ottenuto un contratto decennale del valore di quasi 22 miliardi di dollari, per fornire 120.000 cuffie per realtà aumentata (AR) di livello militare all’esercito degli Stati Uniti.

Resa popolare attraverso app mobili come Pok茅mon Go e filtri per i volti sui social media, la tecnologia AR consiste fondamentalmente nella sovrapposizione di immagini digitali su ambienti del mondo reale.

L’interfaccia AR commissionata dall’esercito americano è denominata “Integrated Visual Augmentation System” (IVAS). Utilizzerà la tecnologia delle cuffie HoloLens di Microsoft come hardware di base.

Come rileva il comunicato stampa dell’esercito, il dispositivo verrà utilizzato per coordinare i soldati e implementare tecnologie di rilevamento sul campo di battaglia.

Le caratteristiche includeranno presumibilmente sensori termici, apprendimento automatico (per creare simulazioni di addestramento realistiche) e un display digitale per migliorare la “consapevolezza situazionale” dei soldati.

La notizia segue il precedente annuncio di Microsoft di un contratto militare da 480 milioni di dollari per lo sviluppo e la fornitura di prototipi Ivas all’esercito nel 2018.

Tra questo vecchio contratto, quello nuovo e il contratto di cloud computing JEDI di Microsoft da 10 miliardi di dollari per Azure, Microsoft rafforzerà la sua posizione come uno degli appaltatori della difesa statunitensi di valore più alto (insieme ad Amazon).

La relazione tra AR e guerra non è nuova

Le interfacce AR sono emerse per la prima volta negli anni ’60 con la dimostrazione di Ivan Sutherland del sistema di tracciamento Sword of Damocles. Questo è stato sviluppato nel Lincoln Laboratory del Massachusetts Institute of Technology, finanziato dal Dipartimento della Difesa degli Stati Uniti.

Il display montato sulla testa è il primo del suo genere, essendo predisposto per l’uso nella simulazione di strumenti e condizioni di volo.

Avanti veloce fino alla metà degli anni ’80 e il Lincoln Lab ha prodotto il produttore americano di AR Kopin. Nel 1990 questa società commerciale ha ricevuto un contratto da 50 milioni di dollari dal Dipartimento della Difesa per lo sviluppo di micro LCD da utilizzare nei computer indossabili per la fanteria.

L’AR continua a essere diffusa oggi, in una tendenza che il geografo Stephen Graham definisce la “militarizzazione” della vita quotidiana. E questo è particolarmente evidente con le tecnologie che governano le società urbane.

L’azienda tecnologica Vuzix è uno dei principali attori nel settore della sicurezza e delle imprese. Come afferma il suo rapporto annuale, l’azienda sviluppa prodotti per “clienti di enti governativi che forniscono principalmente servizi di sicurezza e difesa, inclusi polizia, vigili del fuoco, EMT, altri soccorritori e sicurezza nazionale e di frontiera”.

In uno sviluppo particolarmente preoccupante, l’anno scorso è stato riferito che il software di riconoscimento facciale di ClearView AI era stato testato per funzionare su hardware Vuzix.

Questa controversa azienda addestra il suo software di intelligenza artificiale su un set di dati di oltre tre miliardi di immagini da siti Web tra cui YouTube, Facebook e Instagram. Il suo matrimonio con Vuzix punta a un futuro in cui le forze dell’ordine utilizzano AR indossabile con funzionalità di riconoscimento facciale integrate.

L’uso dell’AR per governare la vita quotidiana è emerso anche durante la pandemia di COVID-19 (che abbiamo dettagliato in questo rapporto). Ad esempio, aziende come Rokid e KC Wearables hanno sviluppato dispositivi indossabili che pretendono di monitorare la temperatura corporea delle persone dal punto di vista di chi lo indossa.

Cosa c’è di male nell’AR di Microsoft?

Sappiamo poco dell’attuale prototipazione e test sul campo dell’IVAS di Microsoft. Ma l’interfaccia solleva le stesse preoccupazioni che circondano altre tecnologie progettate per prendere di mira e classificare preventivamente potenziali “minacce” come i droni.

Come si legge negli obiettivi dell’IVAS dell’esercito americano, i risultati chiave sono aumentare la mobilità, la consapevolezza della situazione e la letalità, ovvero la mancanza di scadenze sul campo di battaglia. Il documento afferma: “La letalità dei soldati sarà notevolmente migliorata attraverso l’allenamento cognitivo e sensori avanzati, consentendo alle squadre di essere le prime a rilevare, decidere e impegnarsi. È necessario uno sviluppo accelerato di queste capacità per recuperare e mantenere la sovrabbondanza”.

Gli obiettivi sono inquadrati intorno all’efficienza, al coordinamento e alla sicurezza dei soldati. Questo è simile al solito inquadramento di altre tecnologie di rilevamento predittivo, incluso il riconoscimento facciale.

La realtà, tuttavia, è che ci sarebbero esiti potenzialmente disastrosi se un tale sistema identificasse erroneamente un obiettivo. In un’intervista alla CNN del 2019, Satya Nadella, CEO di Microsoft, ha cercato di minimizzare le preoccupazioni.

“Abbiamo preso la decisione di principio di non trattenere la tecnologia dalle istituzioni che abbiamo eletto nelle democrazie per proteggere le libertà di cui godiamo”, ha affermato. La sua dichiarazione non ha riconosciuto il potenziale rischio che potrebbe derivare dall’uso dell’AR da parte dei militari.

Non è un gioco da ragazzi

A seguito del contratto IVAS iniziale di Microsoft nel 2018, i dipendenti Microsoft hanno scritto una lettera ai dirigenti dell’azienda in opposizione all’uso dell’AR per la guerra.

A nome dei lavoratori di Microsoft, rilasciamo una lettera aperta a Brad Smith e Satya Nadella, chiedendo l’annullamento del contratto Ivas con una richiesta di linee guida etiche più rigorose.
Se sei un dipendente Microsoft puoi firmare su: https://t.co/958AhvIHO5 pic.twitter.com/uUZ5P4FJ7X

Microsoft Workers 4 Buono (@MsWorkers4) 22 febbraio 2019

Sebbene la lettera stessa fosse inefficace, il recente aumento della resistenza collettiva dei lavoratori nella Silicon Valley si mostra promettente. Più scioperi e scioperi in risposta a sviluppi immorali potrebbero aiutare a respingere le visioni egoistiche del futuro delle grandi tecnologie.

Simile alla realtà virtuale, l’AR ha finora goduto di copertura dalla critica essendo considerata una tecnologia di gioco o intrattenimento benigna.

L’ultimo contratto IVAS ci ricorda urgentemente che gli sviluppi di questa tecnologia dovrebbero essere presi sul serio. E il suo potenziale danno non deve essere minimizzato.