Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Governing AI Technologies in Weapon Systems from the Bottom Up: Practices to Sustain and Strengthen Human Control

Descrizione del progetto

Migliorare l’intervento umano nei sistemi d’arma che integrano le tecnologie basate sull’IA

Attualmente stiamo assistendo all’integrazione di tecnologie autonome e di intelligenza artificiale (IA) nelle armi; ciononostante, mancano norme giuridiche specifiche che ne disciplinino l’utilizzo. Queste tecnologie stanno plasmando le norme relative alla qualità dell’intervento umano sull’uso della forza, ponendo delle sfide a un suo esercizio significativo in guerra. Le parti interessate dispongono dell’opportunità di cambiare le loro pratiche e di stabilire una prassi positiva in relazione all’intervento umano e alla responsabilità in tal ambito. In questo contesto, il progetto AutoPractices, finanziato dal CER, si propone di sensibilizzare l’opinione pubblica, di co-sviluppare migliori pratiche e di facilitarne la diffusione per garantire un’elevata qualità di intervento umano nei sistemi d’arma che integrano tecnologie autonome e basate sull’IA, nell’ambito di un’iniziativa volta a stabilire una prassi positiva a tal riguardo partendo dal basso verso l’alto, piuttosto che aspettando direttive dall’alto verso il basso.

Obiettivo

Autonomous and AI technologies have become integrated into the targeting functions of weapons. Algorithmic rather than human decision-making may therefore prevail in warfare, raising humanitarian, legal, ethical, and security concerns. Currently, there are no specific, legal rules to govern autonomy and AI in the military. In their absence, ERC AutoNorms has found that use of autonomous and AI technologies in weapon systems makes norms. Practices of design, of training personnel for, and of using such weapons shape a norm of what counts as the requisite form of human control over the use of force. AutoNorms has revealed that this emerging norm accepts a diminished, reduced form of human control when designing and using military autonomous/AI technologies as “normal”. This emerging norm is a societal challenge and a public policy problem because it undercuts the meaningful exercise of human agency over life and death decisions in war. The insight that practices make norms holds the potential for social innovation as a process of recontextualising norms through enacting different practices. Stakeholders could therefore shape a positive norm of human control through changing their practices from the bottom up. The ERC PoC project AutoPractices initiates and accompanies this social innovation process in three ways via multi-stakeholder collaboration: first, AutoPractices raises awareness among stakeholders about the differential effect of their practices on the emerging human control norm in the military domain via empirical mapping. Second, AutoPractices co-creates a set of best practices with stakeholders to sustain human control in weapon systems integrating autonomous and AI technologies at three workshops. Third, AutoPractices diffuses the co-created set of best practices via an operational toolkit and dissemination through multipliers. In this way, AutoPractices becomes a source of diffusing a positive norm of human control in weapon systems from the bottom-up.

Campo scientifico (EuroSciVoc)

Questo progetto non è ancora stato classificato con EuroSciVoc.
Suggerisci i campi scientifici che ritieni più rilevanti e aiutaci a migliorare il nostro servizio di classificazione.

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) ERC-2023-POC

Vedi tutti i progetti finanziati nell’ambito del bando

Istituzione ospitante

SYDDANSK UNIVERSITET
Contributo netto dell'UE
€ 150 000,00
Indirizzo
CAMPUSVEJ 55
5230 Odense M
Danimarca
Regione
Danmark Syddanmark Fyn
Tipo di attività
Higher or Secondary Education Establishments
Collegamenti
Costo totale
Nessun dato

Beneficiari (1)