Skip to main content

Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact

Article Category

Article available in the folowing languages:

Collocare l’etica al centro delle tecnologie emergenti

Sono stati sviluppati nuovi metodi e strumenti per far sì che l’etica e i diritti umani siano presi pienamente in esame durante l’introduzione di tecnologie all’avanguardia di fondamentale importanza.

Economia digitale
Sicurezza

È probabile che l’intelligenza artificiale, la genomica umana e il potenziamento umano avranno forti ripercussioni economiche e sociali nel prossimo futuro. Al tempo stesso, queste tecnologie emergenti sollevano questioni gravi relative all’eticità, alla legalità e ai diritti umani. «L’obiettivo del progetto SIENNA consisteva nell’analisi di tali questioni e nella proposta di modalità per affrontarle», spiega Philip Brey, coordinatore del progetto e professore di filosofia della tecnologia presso l’Università di Twente, nei Paesi Bassi.

Sfide tecnologiche ed etiche

L’intelligenza artificiale comprende sistemi che sostengono il processo decisionale umano, e sono in grado di analizzare vaste serie di dati e di riconoscere volti e comportamenti. Inoltre, dispone di macchine, tra cui robot intelligenti e automobili a guida autonoma. «L’IA riesce a prendere decisioni e a svolgere azioni in autonomia in modi che in passato erano di esclusivo appannaggio degli esseri umani», afferma Brey. «Tuttavia, ciò significa che è anche capace di compiere azioni deplorevoli, proprio come gli esseri umani. Può, ad esempio, controllare le persone, fare discriminazioni e violare la privacy. Di chi è la responsabilità se le macchine intelligenti commettono azioni spregevoli?». La genomica umana è una tecnologia potente che potrebbe migliorare la salute umana. «Eppure, anche in questo ambito entrano in campo implicazioni etiche rilevanti», osserva Brey. «Il sequenziamento del genoma solleva notevoli problemi legati alla privacy, poiché terze parti vengono a conoscenza del patrimonio genetico dettagliato di una data persona. Questo tipo di informazione potrebbe essere utilizzato per attuare discriminazioni contro dipendenti o beneficiari di polizze». Infine, il potenziamento umano riguarda il miglioramento delle prestazioni umane trascendendone i limiti normali. Tra tali potenziamenti potrebbero figurare vista e udito superiori oppure gambe e braccia dotate di una maggiore forza e resistenza. «Molte persone ritengono che l’idea stessa sia sbagliata», afferma Brey. «In ogni caso, esistono rischi per la salute e la sicurezza nonché preoccupazioni relative alla perdita dell’identità umana e all’affermarsi di disuguaglianze».

Aumentare la consapevolezza etica

Il progetto SIENNA, sostenuto dall’UE, si è prefissato di individuare e di studiare le questioni relative alla sfera dell’eticità e dei diritti umani legate a queste tre tecnologie, dedicandosi allo sviluppo di strumenti e metodi per aiutare le parti interessate ad affrontare e a mitigare meglio tali preoccupazioni. «Intendevamo delineare le questioni attuali nonché le difficoltà che potrebbero presumibilmente scaturire nel corso dei prossimi vent’anni», spiega Brey. «Inoltre, volevamo conoscere le preoccupazioni e i punti di vista delle parti interessate». Per raggiungere questo obiettivo, sono state consultate centinaia di parti interessate e sono stati intervistati circa 11 000 cittadini in 11 paesi. Inoltre, è stata condotta un’analisi legale completa per comprendere l’odierno panorama normativo. «Abbiamo elaborato proposte e soluzioni sulla base della nostra comprensione di tali questioni», afferma Brey. «Abbiamo anche redatto linee guida sull’etica. Ciò risultava particolarmente necessario per il potenziamento umano, non essendo presenti alcune linee guida». Sono altresì state proposte raccomandazioni normative e politiche riguardanti questi tre ambiti tecnologici. Sul versante della genomica umana, è stato sviluppato un codice di condotta internazionale per la condivisione delle informazioni e sono state stilate alcune raccomandazioni volte all’inclusione dei requisiti etici e relativi ai diritti umani nel quadro giuridico e normativo. È stato inoltre presentato un approccio basato sull’etica sin dalla progettazione da applicare all’IA. «Si è già riscontrata l’adozione delle nostre analisi e raccomandazioni», afferma Brey. «La Commissione europea impiegherà le nostre linee guida sull’etica della ricerca per l’IA e il potenziamento umano, e adotterà il nostro approccio di etica sin dalla progettazione nella sua procedura di revisione dell’etica nell’ambito del nuovo programma di ricerca Orizzonte Europa. Ciò implica che, potenzialmente, centinaia di nuovi progetti di ricerca si avvarranno dei nostri strumenti e spunti». In definitiva, il progetto SIENNA ha posto sotto i riflettori l’esigenza di rendere centrali, e non aggiuntive, l’etica e i diritti umani nello sviluppo e nell’utilizzo di tecnologie emergenti. «Le linee guida etiche generali possono costituire un primo passo importante per sensibilizzare sulle questioni etiche», afferma Brey. «Tuttavia, occorre corredarle di strumenti e metodi specifici, tra cui quadri in materia di etica della ricerca, codici di etica professionali e approcci di etica sin dalla progettazione». Ciò dimostra il determinante contributo del progetto poiché l’Europa si trova in procinto di inaugurare una nuova era all’insegna dell’innovazione tecnologica.

Parole chiave

SIENNA, IA, genomica, tecnologie, robot, etica, salute, umano, intelligente

Scopri altri articoli nello stesso settore di applicazione