CORDIS - Forschungsergebnisse der EU
CORDIS

Robust statistical methodology and theory for large-scale data

Projektbeschreibung

Neue statistische Methoden für weniger unsichere Big-Data-Analysen

Große Datenmengen sind meist unübersichtlich, denn der Anteil der Datenungenauigkeiten nimmt mit wachsendem Datenvolumen zu. So kann es schwierig sein, zuverlässige Schlussfolgerungen zu ziehen, wenn Daten unter unterschiedlichen Bedingungen erhoben werden bzw. wenn bestimmte Daten fehlen oder beschädigt sind. Ziel des EU-finanzierten Projekts RobustStats ist die Entwicklung robuster statistischer Methoden und Theorien, um die Herausforderung Big Data in den Griff zu bekommen. Im Zusammenhang mit dem Transferlernen werden die Forschenden geeignete Methoden einsetzen, um die Verteilungen zwischen dem Quell- und dem Zielbereich auszunutzen. Zudem werden sie Mechanismen für fehlende Daten erproben sowie praktische Instrumente für den Umgang mit fehlenden und heterogenen Daten in Klassifizierungskennzeichen bereitstellen. Außerdem wird eine Datenpertubation für robuste Schlussfolgerungen bei großen Datenmengen eingeführt.

Ziel

Modern technology allows large-scale data to be collected in many new forms, and their underlying generating mechanisms can be extremely complex. In fact, an interesting (and perhaps initially surprising) feature of large-scale data is that it is often much harder to feel confident that one has identified a plausible statistical model. This is largely because there are so many forms of model violation and both visual and more formal statistical checks can become infeasible. It is therefore vital for trust in conclusions drawn from large studies that statisticians ensure that their methods are robust. The RobustStats proposal will introduce new statistical methodology and theory for a range of important contemporary Big Data challenges. In transfer learning, we wish to make inference about a target data population, but some (typically, most) of our training data come from a related but distinct source distribution. The central goal is to find appropriate ways to exploit the relationship between the source and target distributions. Missing and corrupted data play an ever more prominent role in large-scale data sets because the proportion of cases with no missing attributes is typically small. We will address key challenges of testing the form of the missingness mechanism, and handling heterogeneous missingness and corruptions in classification labels. The robustness of a statistical procedure is intimately linked to model misspecification. We will advocate for two approaches to studying model misspecification, one via the idea of regarding an estimator as a projection onto a model, and the other via oracle inequalities. Finally, we will introduce new methods for robust inference with large-scale data based on the idea of data perturbation. Such approaches are attractive ways of exploring a space of distributions in a model-free way, and we will show that aggregation of the results of carefully-selected perturbations can be highly effective.

Finanzierungsplan

ERC-ADG - Advanced Grant

Gastgebende Einrichtung

THE CHANCELLOR MASTERS AND SCHOLARS OF THE UNIVERSITY OF CAMBRIDGE
Netto-EU-Beitrag
€ 2 050 068,00
Adresse
TRINITY LANE THE OLD SCHOOLS
CB2 1TN Cambridge
Vereinigtes Königreich

Auf der Karte ansehen

Region
East of England East Anglia Cambridgeshire CC
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
€ 2 050 068,00

Begünstigte (1)