KISTRA - Einsatz von Künstlicher Intelligenz (KI) zur Früherkennung von Straftaten

• Dr. Robert Pelzer

• Michael Hahne

• Jonatan Schewe

Das Forschungsprojekt wird im Rahmenprogramm „Forschung für die zivile Sicherheit 2018-2023“ in der Programmsäule „Schutz vor Kriminalität und Terrorismus“ vom Bundesministerium für Bildung und Forschung (BMBF) gefördert.

Juli 2020 – Juli 2023

• Bundeskriminalamt (BKA), Johannes Gutenberg-Universität Mainz (JGU), Ludwig-Maximilians-Universität München (LMU), Munich Innovation Labs GmbH (MIL), RWTH Universität Aachen (RWTH), Technische Universität Darmstadt (TUD), Universität Duisburg-Essen (UDE), Zentrale Stelle für Informationstechnik im Sicherheitsbereich (ZITiS)

Durch das Anfang 2021 in Kraft tretende Gesetz zur Bekämpfung des Rechtsextremismus und der Hasskriminalität wird auch das Netzwerkdurchsetzungsgesetz (NetzDG) novelliert. Sogenannte Telemediendienstanbieter wie Facebook sollen strafbare Inhalte künftig nicht mehr nur löschen, sondern im Falle bestimmter Delikte auch dem Bundeskriminalamt melden müssen. Strafverfolgungsbehörden stehen vor der Herausforderung, eine Vielzahl an Postings unter anderem unter strafrechtlichen Gesichtspunkten bewerten zu müssen. In dem Forschungsprojekt untersuchen wir, wie Strafverfolgungsbehörden dabei durch den Einsatz Künstlicher Intelligenz (KI) unterstützt werden können und unter welchen rechtlichen und ethischen Rahmenbedingungen KI-Systeme zur Entscheidungsunterstützung genutzt werden könnten. Zu den übergeordneten Zielen des KISTRA-Verbunds gehören unter anderem:

·       die Betrachtung der Rechtmäßigkeit und der ethischen Vertretbarkeit der angestrebten KI-Lösungen und daraus resultierender Methoden für Sicherheitsbehörden,

·       die Erkennung und sozialwissenschaftliche Betrachtung politisch motivierter Hassreden und Hasskriminalität im Internet,

·       die Erarbeitung und Implementierung von adaptiven KI-Methoden zur Unterstützung der polizeilichen strafrechtlichen Bewertung von Vorgängen, die Hasskriminalität betreffen, sowie

·       die ganzheitliche Betrachtung der einzelnen technischen Komponenten und wissenschaftlichen Ergebnisse und deren Übertragung in eine technische Gesamtlösung (Framework).

Als Teil des Forschungsverbundes untersuchen wir die organisationalen Rahmenbedingungen des Umgangs mit und Einsatzes von KI zur Verfolgung von Hasskriminalität im Internet im Bundeskriminalamt. Zudem untersuchen wir die Akzeptanz einer KI-unterstützten Auswertung von Online-Inhalten bei polizeilichen Nutzer*innen, in der Bevölkerung und bei professionellen Stakeholdern. Hierzu kommen (Experten-)Interviews und Fokusgruppen-Interviews zum Einsatz. Einbezogen werden dabei auch Justizbehörden und andere professionelle Stakeholder. Übergeordnetes Ziel des Teilvorhabens ist es, ethische und gesellschaftliche Fragen in den Entwicklungsprozess KI-gestützter Lösungen in den  Polizeibehörden einzubringen und diesen dadurch mitzuprägen.

Bereich
Sicherheit - Risiko - Kriminologie