News

Auf dieser Seite möchten wir Sie und Euch laufend über den Fortgang und Neuigkeiten bezüglich unseres Projekts informieren.

...

Zur Diskussionsveranstaltung des Neuen Deutschland und CILIP zu KI-gestützter Videoüberwachung in Berliner Kiezen ist unser Kollege Fabian de Hair eingeladen.

Nähere Informationen hier.

Datum und Uhrzeit: Freitag, 16. Oktober, 19 Uhr
Ort: aquarium, Skalitzer Straße 6, Berlin (U8 Kottbusser Tor)

Im Sammelband „Transitionen“ anlässlich des 42. Kongresses der Deutschen Gesellschaft für Soziologie wurde der Artikel „Seeing like the machine: Artificial Intelligence, Surveillance Experiments and the Police Gaze. Künstliche Intelligenz, Überwachungsexperimente und der polizeiliche Blick“ unseres Kollegen Dr. Philipp Knopp veröffentlicht.

Ihr findet den Artikel (open-access) hier.

Abstract

This article introduces the concept of surveillance experiments to examine the intertwining of surveillance and experimentation in AI development for the police. It assumes that these central epistemic practices of modernity are intertwined in current efforts to develop AI technologies for video surveillance, thereby producing significant reconfiguration effects that shift the problematic aspects of the police gaze. In the adaptation of surveillance spaces to real-world laboratories and the hybridization of police observation, it becomes clear that surveillance experiments are not only technical tests according to fixed criteria or implementations of existing technology in stable settings, but also give rise to new phenomena and orders of seeing.

Vom Datenzentrum über Deepfakes bis hin zur Überwachung wird der Komplex ‚KI‘ zunehmend zum Gegenstand von Protest. Unser Co-Leiter Philipp Knopp nahm bei der Jahreskonferenz des Instituts für Protest- und Bewegungsforschung an einer Podiumsdiskussion zum Thema teil. In der Diskussion mit Can Şimşek (Humboldt Institute for Internet and Society) und Lisa Bogerts (Institute for the Study of Protest and Social Movements) kam die Veränderung von Protestformen und die Forderungen der Protestierenden zur Sprache, aber auch wie algorithmische Systeme und Machine Learning neu gedacht und verändert werden müssten, um progressive gesellschaftliche Transformationen zu bewirken.

Mehr Informationen findet ihr hier.

In dem Schwerpunktheft „Neue Instrumente der Überwachung“ der Fachzeitschrift Bürgerrechte & Polizei/Cilip wurde unser Artikel „Polizeiliche Überwachungsexperimente. Moving target der gesellschaftlichen Bewertung“ veröffentlicht.

Die Redaktionsmitteilung dazu findet ihr hier.

Und das Inhaltsverzeichnis der Ausgabe hier.

Abstract

In mehreren Bundesländern verschiebt sich derzeit, wie Polizeibehörden KI-gestützte Videoüberwachung nutzen. Erprobt und implementiert werden unfertige Techniologien in unrbanen Räumen, wobei Gesetzesnovellen die Bedingungen schaffen, damit die Polizei künftig selbst an der Weiterentwicklung von Algorithmen mitwirken kann. Diese Überwachungsexperimente zeichnen sich als paradigmatisches Modell polizeilicher KI-Nutzung ab und werden zu Infrastrukturen, mit Folgen für die Objekte und Räume der Überwachung sowie die zivilgesellschaftliche Bewertung.

Im Journal AI & Society (peer-reviewed) wurde der Artikel „Data sacrifices and the ‘third way’ toward AI: justification and critique in local conflicts over automated surveillance“ unseres Kollegen Dr. Philipp Knopp veröffentlicht.

Ihr findet den Artikel (open-access) hier.

Abstract

Datafication has become a central concern in debates on artificial intelligence (AI). In these discussions, the European approach to AI is often portrayed as a ‘third way’ that balances public interests with innovation. This article examines par- liamentary discourse on a police project in Hamburg, Germany, to show how the seemingly value-pluralistic ‘third way’ compromise is mobilized to justify the extraction of data to test and train an AI system for CCTV surveillance. Drawing on the pragmatist “economy of conventions,” the article introduces the original notion of data sacrifices. The concept allows critical data studies to examine how the diverse sociomaterial costs and reductionist generalizations of formatting the world into data are linked to the dynamics of justification and critique that shape the moral conditions of possibility for data extraction. In the article, Critical Discourse Analysis is used to reconstruct five specific suborders of worth invoked in the parliamentary debate to (de-)legitimize the AI system: security, individual freedom, social justice, automation, and experi- mentalism. It is demonstrated how the ‘third way’ works as a specific mode of justification in which civic values such as equality and privacy are internalized to legitimize the industrialization of surveillance. Claiming an effective technological compromise for complex moral stakes realigns key political actors and watchdogs in support of data extraction. However, Critical Discourse Analysis also demonstrates how this compromise silences certain civic critics to legitimize sacrifices for AI training. The interplay of internalization and exclusion of critique thereby modifies the moral underpinnings of AI surveillance. The framework provided in this article thus enables researchers to reveal the paradoxical nature of ‘third way’ compromises for data extraction. In the case studied, these paradoxes culminate in the first German law explicitly permitting the police to transfer anonymized and non-anonymized surveillance data to external partners for machine learning purposes.

Unser Kollege Dr. Philipp Knopp sprach im Rahmen eines Interviews über die Ergebnisse unseres Projekts und die sich daraus ergebenden Bedeutungszusammenhänge für Berlin, wo eine vergleichbare KI-Videoüberwachung zeitnah von der Polizei eingesetzt werden soll.

Den Beitrag findet ihr hier.

Unser Kollege Dr. Philipp Knopp war anlässlich der 73. Sitzung des Ausschusses für Inneres, Sicherheit und Ordnung des Berliner Abgeordnetenhauses eingeladen, auf Grundlage der Forschungsergebnisse unseres Projekts eine Stellungnahme mit Blick auf die in Berlin geplante KI-Videoüberwachung zu geben.

Ihr findet die Aufzeichnung hier (Stellungnahme ab 01:17:00).

Unsere Kollegen Dr. Philipp Knopp und Fabian de Hair sprachen im Rahmen eines Interviews über die Ergebnisse des LoKI-Projekts und die Implikationen, die sich davon ausgehend ergeben.

Den Beitrag findet ihr hier.

Über die Forschungsergebnisse des LoKI-Projekts und die sich in Deutschland derzeit ausbreitende KI-Videoüberwachung sprach unser Kollege Fabian de Hair in der Sendung „Breitband“.

Ihr findet den Beitrag hier.

Im Kriminologischen Journal (peer-reviewed) wurde der Artikel „Künstliche Intelligenz und die ‚gute‘ Überwachung: Purifizierung und Legitimation im Echtzeit-Policing“ unserer Kollegen Fabian de Hair und Philipp Knopp veröffentlicht.

Ihr findet den Artikel hier.

Eine präfinale Manuskriptversion findet sich hier.

Abstract

Mit der Ausbreitung von Technologien künstlicher Intelligenz verändern sich polizeiliche (Video)-Überwachungspraktiken. Der Beitrag fragt am Beispiel des Tests einer automatisierten Detektionssoftware für sog. atypische Bewegungsmuster in Hamburg nach den Rationalitäten und Legitimierungsweisen der neuen Techniken sozialer Kontrolle. Auf der Basis einer Kritischen Diskursanalyse der Mediendebatte wird dabei argumentiert, dass die Automatisierung auf eine Purifizierung der Videoüberwachung zielt, die einerseits einer veränderten Rationalität effizienter Machtausübung folgt und andererseits die legitimatorische Effizienz der Überwachung, d. h. ihre gesellschaftliche Durchsetzbarkeit, erhöht. Indem die KI-Technik als datenschutzsensibel und diskriminierungsfrei gerahmt wird, gewinnt sie nicht nur die Polizei als ordnungspolitische Diskursautorität, sondern auch Datenschutzbeauftragte und liberale Parteien für sich, die vormals kritische Positionen bezogen. Die Purifizierung der Überwachung bewirkt so neben der Veränderung von Kontrollpraktiken auch eine Neuordnung des diesbezüglichen Diskurses.

Wie verändert KI-gestützte Videoüberwachung den öffentlichen Raum – und was bedeutet das für die Akteur:innen vor Ort?

Zwölf Monate lang haben wir uns im Forschungsprojekt „Lokale Öffentlichkeiten und soziale Konflikte um KI-gestützte Sicherheitstechnologien“ (LoKI) intensiv mit der Frage beschäftigt, wie KI-gestützte Sicherheitstechnologien im städtischen Raum verhandelt werden, in welchen sozialen Kontexten sie stehen und wie lokale Öffentlichkeiten damit umgehen. Ausgangspunkt war das 2023 am Hansaplatz in Hamburg-St. Georg gestartete Pilotprojekt „Intelligente Videobeobachtung“ der Hamburger Polizei. Dabei wird KI-gestützte Kameraüberwachung eingesetzt, um durch die Analyse von Bewegungsmustern potenzielle Gefahrensituationen frühzeitig zu erkennen.

Im gut gefüllten Hörsaal der Universität Hamburg haben wir die zentralen Ergebnisse des LoKI-Forschungsprojekts vorgestellt und anschließend mit den Teilnehmenden diskutiert.

Im gleichen Atemzug ist unsere Toolbox online gegangen, die lokale zivilgesellschaftliche Initiativen und Interessierte zukünftig bei ihrer Auseinandersetzung mit KI-Videoüberwachung an anderen Orten unterstützen soll.

Wir bedanken uns ausdrücklich bei der Stiftung Mercator für die Förderung des Projekts sowie allen, die zu dem Projekt als Interviewte, Kommentator:innen, Expert:innen und Unterstützer:innen beigetragen haben.

Solltet ihr Fragen haben, meldet euch gern unter: loki.wiso@uni-hamburg.de

Visibility, Surveillance, and Policing: Reconfigurations of Suspicion and Accountability in Protest Policing and Beyond.

Gemeinsam mit dem Arbeitskreis „Soziale Bewegungen und Polizei“ im Institut für Protest- und Bewegungsfoschung und dem DFG-geförderten Forschungsprojekt „Visions of Policing“ haben wir einen fachinternen Workshop in den Räumlichkeiten der Technischen Universität Chemnitz veranstaltet.

Die Panels waren interdisziplinär und international besetzt und die Programmgestaltung beabsichtigte, aktuelle Perspektiven auf die Fragen um Visualität polizeilicher Praktiken zu entwickeln und miteinander zu vernetzen.

Wir bedanken uns herzlich bei allen Teilnehmenden.

Learning to see like the Machine: Künstliche Intelligenz, Realexperimente und der polizeiliche Blick.

Anlässlich des DGS-Kongresses 2025 hielt unser Kollege Dr. Philipp Knopp einen Vortrag über erste Ergebnisse unseres Projekts. Dabei ging es vor allem darum, wie Automatisierung und experimentelle Entwicklung den Blick der Polizei auf die soziale Welt verändert.

 Vielen Dank für das rege Interesse sowie den produktiven, fachlichen Austausch.

Für einen Artikel zu KI-gestützter Videoüberwachung sprach der Standard aus Österreich mit unserem Kollegen Dr. Philipp Knopp.

Ihr findet den Artikel hier.

Ihr findet den Artikel hier.

Auf dem Weg zu einer informierten gesellschaftlichen Debatte über KI-Sicherheitstechnologien.

Im Projekt LoKI möchten wir gemeinsam mit zivilgesellschaftlichen Akteur:innen der Frage nachgehen, was es konkret braucht für eine informierte, gesellschaftliche Debatte um KI-Sicherheitstechnologien?

Dazu haben wir kürzlich einen Co-Creation-Workshop veranstaltet, zu dem mehrere lokale und bundesweite Initiativen und Organisationen gekommen sind, die auf verschiedene Weise mit der Thematik befasst sind.

In gemeinsamen Arbeits- und Diskussionsgruppen haben wir zusammengeführt, wie und unter welchen Bedingungen Personen in der Praxis auf KI-Sicherheitstechnologien aufmerksam werden. Über welche Zugänge, Expertisen und Plattformen werden verschieden gelagerte und relevante Informationen erarbeitet? Wo bestehen Hürden, was sind zu wenig ausgeschöpfte Möglichkeiten in der Praxis? Was sind Kriterien und Dimensionen der Bewertung von KI-Sicherheitstechnologien – und welcher unterschiedlichen Perspektiven bedarf eine solche Bewertung überhaupt?

Wir freuen uns über das Interesse und die zahlreiche Beteiligung. Dieser wechselseitige Wissenstransfer bietet die Grundlage für die weitere Ausarbeitung unserer Tool-Box. Mit dieser wollen wir zukünftig einen empirisch gestützten Vorschlag bieten, wie sich Zivilgesellschaft im Kontext der Herausbildung von KI-Sicherheitstechnologien informiert in Debatten einbringen kann.

Lokale Konflikte um KI-Sicherheitssysteme: Welche Tools braucht die vernetzte Zivilgesellschaft?

Inwiefern ist die Gesellschaft derzeit mit KI-Sicherheitstechnologien konfrontiert? In welchem Rahmen werden diese Technologien eingesetzt und implementiert? Wie funktionieren diese und was sind ihre Effekte und die potenziellen Risiken? Und nicht zuletzt: Wie ist eine Zivilgesellschaft in Deutschland derzeit aufgestellt, um sich kritisch und partizipativ in diese richtungsweisenden Debatten um KI-Sicherheitstechnologien einzubringen?

Unter anderem diese Fragen wollten wir im Rahmen unseres offenen Meet Ups am Beispiel unseres Forschungsgegenstands, der KI-Kameraüberwachung am Hansaplatz, im Hamburger Stadtviertel St.Georg, mit interessierten der diesjährigen re:publica 2025 besprechen.
Wir freuen uns sehr über das Interesse und den spannenden Austausch mit allen, die vorbei gekommen sind und nehmen die neuen Impulse mit, in die weitere Ausarbeitung unseres Projekts.

Ort: STATION Berlin, Luckenwalder Str. 4-6, 10963 Berlin

Stage: Fabmobil

Uhrzeit: 17.30-18.30 Uhr