Algorithmic Risk Assessment als Medium des Rechts

Zusammenfassung

In diesem Beitrag stellen wir die Frage nach den praktischen und institutionellen Konsequenzen rechtsintrinsischer Digitalisierung am Beispiel von Risk Assessment Software an US-amerikanischen Gerichtshöfen aus theoretisch konzeptioneller und programmatischer Perspektive. Dazu werden Debatten um Recidivism Risk Assessment Sentencing Decision Support Systems (SDSS), wie etwa COMPAS, betrachtet sowie ihre Kerninhalte und diskursive Lücken identifiziert. Diese Softwaresysteme finden in den USA an County Courts Einsatz, um Strafmaß und Bewährungsoptionen in Strafrechtsverhandlungen zu eruieren. Durch die Auseinandersetzung mit den technischen Funktionsprinzipien solcher Software soll deren Bedeutung für die bestehenden Strukturen und Praxen judikativer Institutionen von einem technik- wie rechtssoziologischen, sozialtheoretischen Standpunkt aus beleuchtet werden. Dieser Art lassen sich drei wesentliche Verschiebungen in der US-amerikanischen Judikative identifizieren: (1) wie statistische Populationen, Modelle und Verfahren die Wissensproduktion und Problemwahrnehmung beeinflussen; (2) wie Risk Assessment Softwares als proprietäres Produkt die inter-institutionellen Grenzen zwischen Recht und Ökonomie, Strafrecht und Strafvollzug verwischen; (3) wie der Einsatz der Software intrainstitutionell auf die gerichtliche und außergerichtliche Expertise und performative Herstellung des bürgerlichen (Recht‑)Subjekts einwirkt. Diese Verschiebungen erscheinen perspektivisch aus einer Techniksoziologie des Rechts, die die Produktion von Wissen, Technologie, Rechtspraxen und -institutionen gleichermaßen und symmetrisch in den Blick nimmt. Nur unter diesen Voraussetzungen lassen sich rechtsintrinsische Technologien in ihren Bedingungen und Konsequenzen angemessen erfassen.

Abstract

With this contribution, we develop a theoretical perspective on the practical and institutional consequences of the digitization of law using the example of risk assessment software employed in US courts. Our article is based on the ongoing journalistic and scientific debates about recidivism risk assessment sentencing decision support systems (SDSS), such as COMPAS, which are being used in US county courts for criminal law issues to determine parole, custody and/or sentences. We summarize and highlight central contents and identify missing discourse positions in those debates. The basic technological concept of recidivism risk assessment SDSS is also taken into account. From there, we argue that three shifts have appeared in the US judiciary system: (1) statistical populations, models and methods shape knowledge production and the subsequent rise of new or additional discursive sensitivities and controversies; (2) risk assessment SDSS are blurring inter-institutional boundaries between law and economy, punitive justice and penitentiary; (3) risk assessment SDSS cause intra-institutional shifts, affecting the performativity of punitive judiciary and its practices of law and civic subjectivation. Thereby, this article is oriented towards a sociology of legal technology, analytically bringing together perspectives on the production of knowledge, technology, legal practices and legal institutions. Only, as we argue, by consequently thinking of the sociology of law together with the sociology of technology can the social phenomenon of legal-tech be understood adequately.