Recoding Criminal Justice in the Age of Generative AI Disruption

Projektbeschreibung

Wie sich generative KI auf die Strafjustiz auswirkt

Polizeibeamte nutzen möglicherweise KI bei der Erstellung von Berichten. Richter orientieren sich eventuell bei der Strafzumessung daran. Häftlinge könnten anhand von Algorithmen beurteilt werden, die ihr zukünftiges Verhalten vorhersagen. Generative KI verändert die Strafjustiz im Stillen – teils über offizielle Kanäle, teils durch einzelne Praktiker, die diese Werkzeuge in Eigeninitiative einsetzen. Das ERC-finanzierte Projekt RecodingJustice bildet diesen Wandel im gesamten Strafverfahren ab, von der Polizeiarbeit über Ermittlungen und Gerichtsverfahren bis hin zur Inhaftierung und Resozialisierung. Das Projekt untersucht anhand von vier Ländern (Brasilien, Israel, den Niederlanden und den Vereinigten Staaten) sowohl, was Institutionen formell übernehmen, als auch, was Praktiker informell hinter den Kulissen anwenden. Zu den Zielen gehören ein neuer Rahmen sowie neue Regulierungsstrategien zum Schutz der Menschenrechte und fairer Verfahren – in einer Zeit, in der KI die Art und Weise verändert, wie Recht gesprochen wird.

Ziel

How will Generative AI (GenAI) reshape criminal justice? Unlike earlier AI systems, often confined to specific tasks and users, GenAI democratizes and boosts AI’s capabilities, transforming our understanding of AI’s role in justice systems. GenAI enables wider access—for police officers, investigators, lawyers, judges, prison staff, and rehabilitation workers—and diverse applications, from aiding in crime analysis and drafting legal arguments to generating personalized rehabilitation plans, spanning all stages of the justice cycle, from pre-crime prevention to post-incarceration reintegration. Its potential to enhance efficiency, personalize interventions, and expand access to justice is vast. Perhaps most strikingly, GenAI excels in tasks typically human-dominated, such as interpreting complex narratives or creating nuanced analyses. These advancements offer remarkable opportunities for justice but also carry substantial risks that extend beyond the familiar risks of bias, opacity, and lack of accountability. While those dangers continue to shape the AI landscape, GenAI gives rise to novel perils, such as hallucinations and large-scale manipulation, like systemic exploitation or misuse. GenAI’s risks are amplified by its dual use: institutionalized applications governed by inadequate regulation and informal uses that often largely operate “under the radar,” allowing injustices to proliferate, affecting both individual outcomes and the broader integrity of the criminal justice system.

Recoding Justice will systematically examine both formal-institutionalized and informal-ad hoc uses of GenAI and their impact internationally across four diverse and distinct legal settings (Brazil, the United States, the Netherlands, and Israel). The project will draw on empirical case studies to reimagine justice in the AI age on the theoretical level. The proposed theory could guide regulatory strategies to ensure that GenAI’s disruptive potential aligns with justice principles.