IA e comportamento umano di prossima generazione: promuovere un approccio etico
Gli attuali sviluppi e l'apprendimento nel settore dell'IA derivano da una forte collaborazione di gruppi multidisciplinari che collaborano per acquisire ulteriori conoscenze in materia di cognizione e comportamento umani al fine di comprendere, prevedere e influenzare il comportamento umano. Per sviluppare sistemi di IA efficaci, i ricercatori mirano a migliorare la loro comprensione del modo in cui il cervello umano impara e trasferisce le conoscenze.
Tale comprensione contribuirà potenzialmente a costruire sistemi e processi di IA spiegabili, affidabili e antropocentrici. Tuttavia, sebbene i sistemi per il riconoscimento automatico delle emozioni e l'analisi del sentimento possano facilitare progressi enormi, essi sono anche fattori che comportano rischi considerevoli. Oltre a garantire la protezione dei partecipanti alla ricerca, l'esame etico della ricerca svolge un ruolo centrale nel facilitare l'integrazione delle preoccupazioni etiche nei progetti e nei protocolli di ricerca sin dalla fase di concezione.
Al fine di promuovere una progettazione e uno sviluppo responsabili, affidabili e antropocentrici della prossima generazione di intelligenza artificiale (IA), i progetti proposti dovrebbero contribuire ai seguenti risultati:
- Rendere operativi gli orientamenti generali disponibili sull'etica dell'IA in orientamenti pratici specifici. Tali orientamenti si concentreranno sull'impatto dell'IA sulla cognizione e sul comportamento umani. Gli orientamenti devono inoltre affrontare la dimensione etica dello studio del comportamento umano e della cognizione nello sviluppo e nel miglioramento dei sistemi di IA. Gli orientamenti dovrebbero integrare l'etica nei pertinenti processi di ricerca e sviluppo e tenere conto delle strategie volte a garantire un'adeguata partecipazione di tutti coloro che sono interessati dallo sviluppo, dalla diffusione e dall'utilizzo delle pertinenti applicazioni;
- Sviluppare e convalidare materiale didattico e formativo che rispecchi gli orientamenti prodotti. Ciò dovrebbe basarsi su processi partecipativi che coinvolgano tutte le parti interessate, compresi i gruppi di cittadini e l'industria.
Data la portata di questo tema, oltre al numero minimo di partecipanti stabilito negli allegati generali, le proposte devono comprendere almeno due partecipanti provenienti da Giappone, Cina, Repubblica di Corea e/o paesi africani non associati a Orizzonte Europa. I partecipanti di paesi che non sono ammissibili al finanziamento in base agli allegati generali possono partecipare al progetto in qualità di partner associati.
