Projektbeschreibung
Eine vertrauenswürdige, datenschutzfreundliche und nutzungszentrierte KI-gestützte Suchmaschine
Die jüngsten Fortschritte bei großen Sprachmodellen (LLMs) und KI-Lösungen haben zu einer wachsenden Nutzung von KI-gestützten Suchmaschinen (AI-Powered Search Engines, AIPSEs) wie Perplexity geführt. KI-Suchmaschinen könnten den europäischen grünen Deal erheblich voranbringen da sie wichtige Informationen aus verschiedenen Quellen zusammenfassen. Allerdings bergen aktuelle KI-Suchmaschinen ernsthafte Risiken, darunter Datenschutzbedenken und Antworten mit Verzerrungen, sodass sie für diese wichtigen Aufgaben ungeeignet sind. Mit Unterstützung durch das Marie-Skłodowska-Curie-Maßnahmenprogramm wird Projekt AURORA einen vertrauenswürdigen, nutzungsorientierten und datenschutzfreundlichen Prototyp entwickeln, der den Anforderungen der DSGVO und der EU-KI-Verordnung entspricht. Hierzu werden wesentliche Studien durchgeführt sowie Modelle und Datenschutzkonzepte entwickelt, um Falschinformationen zu unterbinden und den Datenschutz der Nutzerschaft zu gewährleisten.
Ziel
The European Green Deal aims to build a resource-efficient, competitive EU economy with net-zero greenhouse gas emissions, clean energy and sustainable industries. Achieving this requires quick and reliable access to information on climate change, energy production, and technological developments. AI-powered search engines (AIPSEs) like Perplexity, can automatically retrieve information from multiple sources and deliver synthesized answers to users—saving them time browsing various websites.
However, AIPSEs are still in their infancy and face critical security challenges, including generating biased or malicious responses, privacy leaks, and limited research in this area. For instance, Google’s AI Overviews generated dangerous responses like suggesting user eat rocks and glue (2024), and attackers can trick AIPSE into citing malicious content from phishing websites. Some AIPSEs track user histories for personalization, raising privacy risks; notably, a ChatGPT glitch exposed users' private conversations (2023).
AURORA (Advanced User-centric, tRustwOrthy and pRivacy-preserving AI-powered search engine) is my proposal to mitigate these challenges, which aims to develop a user-centric AIPSE that provides trustworthy responses while protecting user privacy, and adhering to GDPR and EU AI Act. AURORA includes: 1). a user study on how users perceive malicious responses generated by existing AIPSEs, to guide user-centric design (WP1); 2). a multi-agent debate model with ML-based filters to automatically block fabricated and malicious content (WP2), which is expected to block around 90% of malicious sources, and to reduce hallucinations by about 10%; 3). a local differential privacy scheme to protect user data (WP3). By preventing the spread of misinformation, blocking malicious responses, and protecting privacy, AURORA enables policymakers, researchers, and citizens to make informed decisions about energy, environmental policies, and sustainable practices.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
- Technik und Technologie Umwelttechnik Energie und Kraftstoffe erneuerbare Energie
- Geisteswissenschaften Geschichte und Archäologie Geschichtswissenschaft
- Naturwissenschaften Geowissenschaften und verwandte Umweltwissenschaften Atmosphärenwissenschaften Klimatologie Klimaänderungen
- Sozialwissenschaften Wirtschaftswissenschaften Wirtschaftswissenschaft nachhaltige Wirtschaft
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) HORIZON-MSCA-2025-PF
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenKoordinator
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
OX1 2JD Oxford
Vereinigtes Königreich
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.