Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Algorithmic Contract Design for AI Markets: Learning, Information Design, and Robustness to Strategic Manipulation

Cel

Artificial Intelligence (AI) markets, such as outsourced data labelling and model training, are expanding rapidly but face incentive problems. Service providers may reduce effort to cut costs, while the complexity and randomness of machine-learning (ML) outputs make it difficult to verify quality or effort.

While contract theory offers tools to align incentives, a gap remains between theory and practice. Classical models assume that game parameters are commonly known, whereas in reality, much of this information is private. The learning efficiency and computational tractability of finding good contracts under such incomplete information remain largely unexplored. The irregular structures often lead to hardness results, while positive findings are scarce. Furthermore, when learning algorithms are deployed, agents with information advantages may manipulate the process, undermining the reliability of ML in economic interactions.

This project develops an algorithmic framework for contract design with incomplete information, with applications in AI markets. It focuses on two fundamental questions: efficient learning and strategic use of information. Three objectives guide the work: (1) characterizing when optimal contracts are efficiently learnable under realistic conditions; (2) studying how committed information disclosure (information design) shapes contract choices and payoffs; and (3) analyzing how informed agents manipulate a learning principal and designing robust countermeasures.

Combining the applicant’s expertise in algorithmic game theory with the host’s strengths in statistical learning and optimization, the project will advance contract theory along computational, learning, and economic dimensions, develop techniques that extend to general ML theory and Stackelberg games, and contribute to responsible AI markets. It supports Work Program’s priorities on human-centric, trustworthy AI and on strengthening Europe’s competitiveness in the digital transition.

Dziedzina nauki (EuroSciVoc)

Klasyfikacja projektów w serwisie CORDIS opiera się na wielojęzycznej taksonomii EuroSciVoc, obejmującej wszystkie dziedziny nauki, w oparciu o półautomatyczny proces bazujący na technikach przetwarzania języka naturalnego. Więcej informacji: Europejski Słownik Naukowy.

Aby użyć tej funkcji, musisz się zalogować lub zarejestrować

Słowa kluczowe

Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.

Program(-y)

Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.

Temat(-y)

Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.

System finansowania

Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.

(odnośnik otworzy się w nowym oknie) HORIZON-MSCA-2025-PF

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

INSTITUT NATIONAL DE RECHERCHE EN INFORMATIQUE ET AUTOMATIQUE
Wkład UE netto

Kwota netto dofinansowania ze środków Unii Europejskiej. Suma środków otrzymanych przez uczestnika, pomniejszona o kwotę unijnego dofinansowania przekazanego powiązanym podmiotom zewnętrznym. Uwzględnia podział unijnego dofinansowania pomiędzy bezpośrednich beneficjentów projektu i pozostałych uczestników, w tym podmioty zewnętrzne.

€ 226 420,56
Koszt całkowity

Ogół kosztów poniesionych przez organizację w związku z uczestnictwem w projekcie. Obejmuje koszty bezpośrednie i pośrednie. Kwota stanowi część całkowitego budżetu projektu.

Brak danych
Moja broszura 0 0