La revisione periodica del settore dell’intelligenza artificiale rivela sfide

Nell’ambito dello studio centenario in corso di Stanford sull’intelligenza artificiale, noto come AI100, due seminari hanno recentemente esaminato i problemi delle tecnologie di cura e della modellazione predittiva per informare lo sviluppo futuro delle tecnologie di intelligenza artificiale.

“Ora stiamo assistendo a un’enfasi particolare sulle discipline umanistiche e su come interagiscono con l’IA”, ha affermato Russ Altman, professore di ingegneria a Stanford e direttore della facoltà dell’AI100. L’AI100 è un progetto dello Stanford Institute for Human-Centered Artificial Intelligence.

Dopo la prima riunione dell’AI100, il gruppo ha pianificato di riunirsi di nuovo ogni cinque anni per discutere lo stato dell’industria dell’IA. L’idea era che i resoconti di quegli incontri catturassero l’entusiasmo e le preoccupazioni riguardo alle tecnologie di intelligenza artificiale in quel momento, facessero previsioni per il prossimo secolo e servissero da risorsa per i responsabili politici e le parti interessate del settore che modellano il futuro dell’IA nella società.

Ma la tecnologia si sta muovendo più velocemente del previsto e gli organizzatori dell’AI100 hanno ritenuto che ci fossero problemi da discutere prima della prossima sessione programmata. I rapporti risultanti da quei seminari dipingono un quadro delle potenziali insidie ​​dell’esternalizzazione dei nostri problemi per la tecnologia da risolvere piuttosto che affrontare le cause, o lasciare che la modellazione predittiva obsoleta non venga controllata. Insieme, forniscono un’istantanea intermedia che potrebbe guidare le discussioni nella prossima riunione completa, ha affermato Altman.

“I rapporti catturano la natura ciclica delle opinioni pubbliche e degli atteggiamenti nei confronti dell’IA”, ha affermato Peter Stone, professore di informatica presso l’Università del Texas ad Austin, che è stato presidente del panel di studio per l’ultimo rapporto e ora è presidente del comitato permanente . “Ci sono momenti di clamore ed eccitazione con l’IA, e ci sono momenti di delusione e disillusione: chiamiamo questi inverni dell’IA”.

Questo studio longitudinale mira a incapsulare tutti gli alti e bassi, creando una visione a lungo termine dell’intelligenza artificiale.

Ad Alexa non importa di te

Sebbene l’intelligenza artificiale sia diffusa nelle app sanitarie, i partecipanti al workshop sulla capacità di prendersi cura dell’IA hanno concluso che l’assistenza in sé non è qualcosa che può essere codificata nella tecnologia. Sulla base di ciò, raccomandano che le nuove tecnologie siano integrate nelle relazioni di assistenza da uomo a uomo esistenti.

“La cura non è un problema da risolvere; è una parte fondamentale del vivere come esseri umani”, ha affermato Fay Niker, docente di filosofia all’Università di Stirling e presidente del workshop Coding Caring. “L’idea di una soluzione tecnica per qualcosa come la solitudine, ad esempio, è sconcertante”.

I partecipanti al workshop inquadrano le tecnologie di cura come strumenti per integrare le relazioni di cura umana come quelle tra un caregiver e un caregiver. La tecnologia può certamente fornire promemoria per assumere farmaci o tenere traccia delle informazioni sulla salute, ma è limitata nella capacità di mostrare empatia o fornire supporto emotivo che non può essere mercificato o ridotto a compiti orientati ai risultati.

“Ci preoccupiamo che l’interazione umana significativa possa essere bloccata dalla tecnologia”, ha affermato Niker. “La speranza è che il rapporto AI2020, e altri lavori in questo settore, contribuiranno a prevenire questa ‘era glaciale’ sfidando e quindi cambiando la cultura e il dibattito sulla progettazione e implementazione delle tecnologie di cura nelle nostre società”.

Regolazione delle tecnologie predittive

Le tecnologie di intelligenza artificiale possono essere in grado di apprendere, ma non sono immuni dal diventare obsolete, spingendo i partecipanti al secondo seminario a introdurre il concetto di “date di scadenza” per governare il loro dispiegamento nel tempo. “Si allenano sui dati del passato per prevedere il futuro”, ha affermato Altman. “Le cose cambiano in qualsiasi campo, quindi è necessario eseguire un aggiornamento o una rivalutazione”.

“Significa che dobbiamo prestare attenzione ai nuovi dati”, ha affermato David Robinson, uno scienziato in visita del Cornell’s College of Computing and Information Science e uno degli organizzatori del workshop. Se non diversamente informato, l’algoritmo presumerà ciecamente che il mondo non sia cambiato e fornirà risultati senza integrare i fattori di nuova introduzione.

Decisioni importanti possono dipendere da queste tecnologie, compresa la valutazione del rischio nel sistema di giustizia penale e gli screening da parte dei servizi di protezione dell’infanzia. Ma Robinson ha sottolineato che è la combinazione netta dei risultati dell’algoritmo e l’interpretazione di coloro che utilizzano la tecnologia che si traduce in una decisione finale. Ci dovrebbe essere tanto controllo sulle informazioni fornite dall’IA quanto sugli utenti che interpretano i risultati dell’algoritmo.

Entrambi i seminari sono giunti alla conclusione che la regolamentazione è necessaria per la tecnologia di intelligenza artificiale, secondo Altman, il che non dovrebbe sorprendere coloro che sono in sintonia con i riferimenti della cultura popolare del campo. È ancora in discussione se l’industria possa autoregolamentarsi o quali altre entità dovrebbero supervisionare i progressi nel campo.

Sia i partecipanti che gli organizzatori ritengono che l’AI100 abbia un ruolo da svolgere nel futuro delle tecnologie di intelligenza artificiale. “Spero che aiuti davvero a educare le persone e il pubblico in generale su come possono e devono interagire con l’IA”, ha affermato Stone. Forse ancora più importante, i risultati dei rapporti sull’IA possono essere referenziati da quei responsabili politici e addetti ai lavori del settore, plasmando il modo in cui queste tecnologie vengono sviluppate.