Opis projektu
Innowacyjny zestaw narzędzi do kontrolowania stronniczości technologii SI
Nowe trendy techniczne spowodowały znaczny wzrost wykorzystania technologii modeli sztucznej inteligencji (SI) w różnych branżach, w tym w finansach, edukacji i opiece zdrowotnej. Jednak ekspansja ta budzi obawy dotyczące stronniczości tych algorytmów i spełniania przez nie unijnego aktu w sprawie sztucznej inteligencji. Zespół finansowanego przez ERBN projektu Act.AI stara się sprostać temu wyzwaniu poprzez opracowanie rozwiązania wykorzystującego dopasowanie statystyczne w celu ograniczenia i kontrolowania stronniczości w modelach SI. Stronniczość ta staje się coraz trudniejsza do rozpoznania. W związku z tym zespół chce stworzyć łatwe do zintegrowania narzędzie obsługujące przepływy pracy SI, oferujące funkcje ciągłego monitorowania i naprawy.
Cel
The vision behind Act.AI is to utilize statistical matching for mitigating and auditing bias in Artificial Intelligence (AI) models. AI has been rapidly growing in various industries, from financial services to healthcare, education, and job recruitment. However, as AI algorithms have become increasingly sophisticated and pervasive in decision-making processes, concerns have arisen about their fairness and compliance with regulations. In particular, the EU AI Act requires that AI providers in high-risk applications -- such as employment, credit, or healthcare -- to identify (and thereby address) discrimination by their algorithms against certain demographics of people. However, ensuring compliance with the Act can be challenging, particularly for AI startups that may not have the resources or expertise to fully understand and implement the Act's requirements. Addressing existing disconnects between AI fairness toolkits' capabilities and current practitioner needs, the Act.AI tool can be easily integrated into any AI workflow, in a plug and play fashion, to continuously monitor and improve its fairness. A key aspect of Act.AI is the ability to operate with different types of data (tabular, images, and text) in a variety of contexts (binary and multiclass classification and regression). It is also able to match datasets in different domains including out-of-distribution data even if these datasets have different numbers of variables or features. To ensure usability of Act.AI it will integrate feedback from relevant stakeholders from two immediate target markets: financial service and healthcare.
Dziedzina nauki (EuroSciVoc)
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego.
Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego.
- nauki społecznesocjologiaproblemy społecznenierówności społeczne
- nauki przyrodniczeinformatykasztuczna inteligencjauczenie maszynowe
Aby użyć tej funkcji, musisz się zalogować lub zarejestrować
Słowa kluczowe
Program(-y)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
System finansowania
HORIZON-ERC-POC - HORIZON ERC Proof of Concept GrantsInstytucja przyjmująca
48009 Bilbao
Hiszpania