✧˖°₊ ⊹.

Vom 26. Juli bis zum 8. September 2024 finden in Paris und anderen Teilen Frankreichs die Olympischen und Paralympischen Spiele statt. In Vorbereitung darauf hat die französische Regierung am 19. März 2023 ein Sondergesetz verabschiedet, das unter anderem Bestimmungen zur Verbesserung der Sicherheit enthält (Artikel 9–19).¹ Im Fokus steht die experimentelle Nutzung algorithmischer Videoüberwachung zur Kontrolle von Menschenmengen bei Sport-, Freizeit- und Kulturveranstaltungen.

Das Experiment findet auf mehreren Ebenen statt. Einerseits geht es um die technische Effizienz der Algorithmen und Programme, gleichzeitig wird die gesellschaftliche Akzeptanz dieser Maßnahmen politisch auf die Probe gestellt. Privatwirtschaftliche Unternehmen nutzen außerdem die seltene Gelegenheit, mit diversen öffentlichen Akteuren zusammenzuarbeiten.

✧˖°₊ ⊹.

Algorithmische Videoüberwachung (VSA) besteht aus der Installation und Nutzung einer Software durch die Polizei, die die Bilder der Überwachungskameras exekutiv analysiert, um bestimmte Verhaltensweisen, Situationen, Objekte und Personen zu erkennen, zu identifizieren oder zu klassifizieren.

Die Software wird von privaten Unternehmen wie Briefcam, Datakalab, Two-I² und anderen entwickelt und basiert auf sogenannten Computer-Vision-Algorithmen (maschinen-unterstützte Bildverarbeitung), einer Technologie, die auf statistischem »Lernen« beruht und es ermöglicht, spezifische Informationen aus Stand- oder Bewegtbildern zu isolieren und bestimmte Elemente darin automatisch zu erkennen.

»Diese Software wird hauptsächlich von der Polizei in Verbindung mit Überwachungskameras verwendet: entweder zur Echtzeit-Erkennung bestimmter ‘Ereignisse’ oder nachträglich im Rahmen polizeilicher Ermittlungen. Die Echtzeit-Alarme ermöglichen es einem kleineren Team, in einer großen Menge von Video-Streams ‘Ereignisse’ zu identifizieren, die für die Polizei von Interesse sind: Die Software erkennt automatisch Situationen, die als verdächtig oder riskant wahrgenommen werden, und benachrichtigt die Beamten im städtischen Überwachungszentrum, in den die Video-Streams zur Überwachung geleitet werden. In der Praxis zielt die VSA darauf ab, Objekte (einen Koffer, Müll), Personenmerkmale (Personen, die auf dem Boden liegen, Sprayer [sic], Kleidung) oder Ereignisse (Überschreiten einer Linie, Gruppierung von Personen) zu erkennen.«³

Biometrische Identifizierung ist eine Technik, mit der man eine Person in einer Stichprobe von Personen anhand von physischen, physiologischen Schemata oder Verhaltensmustern wiedererkennen kann. Anonymität und die Achtung der Privatsphäre sind von grundlegender Bedeutung, da sie die Ausübung anderer Freiheiten ermöglichen: Demonstrationsfreiheit, Freizügigkeit und Meinungsfreiheit. Indem der Staat jedoch die Überwachungsvorrichtungen verstärkt und die Anzahl der Kameras erhöht, um ihre Bilder mit Analysealgorithmen auszuwerten, macht er die Verletzung der Privatsphäre zur Regel. Aus diesem Aufbau folgt, dass alle Bürgerinnen und Bürger potenziell verdächtig seien und es an ihnen läge, abweichendes Verhalten oder ihre bloße Anwesenheit zu rechtfertigen. Die VSA steht im grundlegenden Widerspruch zur Verteidigung demokratischer Lebensformen.⁴

✧˖°₊ ⊹.

Ein wichtiger Akteur in der Analyse sowie politischen und juristischen Aktionen ist La Quadrature du Net. Die französische Organisation »fördert und verteidigt die Grundfreiheiten in der digitalen Welt«⁵. Sie engagiert sich national in Debatten um Meinungsfreiheit, Urheberrecht und Datenschutz im Internet, kämpft gegen Zensur und setzt sich gegen die Überwachung durch Staaten und private Unternehmen ein.

Im Kontext der gesellschaftlichen Beeinflussung durch die digitale Welt haben sich innerhalb von La Quadrature du Net und darüber hinaus Gruppen formiert, die aus der virtuellen Sphäre in die physische Öffentlichkeit treten. Angelehnt an den Begriff ‚technopolis', der eine Gesellschaft mit einer hohen Konzentration an technologieorientierten Unternehmen beschreibt, steht Technopolice vor allem für die Beobachtung der Polizei, die zunehmend auf technologische Mittel zurückgreift. Die Technopolice-Ortsgruppen beobachten den lokalen Ausbau der Überwachungsinfrastruktur und setzten sich gegen die Ausbreitung der algorithmischen Videoüberwachung ein.

Die ‚Smart City’, als Zukunftsvision der Technopolice, transformiere die städtische Umgebung in ein umfassendes Überwachungssystem. Sie wird beschrieben als »eine makroskopische Überwachung, die darauf abzielt, Bevölkerungs- und Warenströme in Echtzeit zu steuern und zentral von einer hoch vernetzten Kommandozentrale aus zu verwalten. Im Falle verdächtiger Verhaltensweisen können diese sofort von Strafverfolgungsbehörden geahndet werden, während tugendhaftes Verhalten belohnt wird. Die Technopolitik führt zu verstärkter Diskriminierung und Segregation, Entpolitisierung des öffentlichen Raums und Automatisierung der Polizei. [...] Dies geschieht auf Kosten enormer finanzieller und ökologischer Ressourcen, um die Machtausübung und die Schwächen ihrer Politik zu verschleiern. Die Technokraten setzen also auf den Plan und die Maschine, um unsere Städte und unser Leben zu regulieren. Anstelle der Polis, die als demokratische Stadt, als pluralistischer Raum, als Ort des Flanierens, der spontanen Begegnungen und der Konfrontation mit dem Anderssein verstanden wird, bringen die Technokraten die Stadt unter Kontrolle. Technopolice gleicht einem riesigen Reagenzglas, in dem die fortschrittlichsten Formen der sozialen Kontrolle entwickelt werden können.«⁶

✧˖°₊ ⊹.

Die aktuelle Entwicklung der Politik der inneren Sicherheit in Paris ist in der EU beispiellos. Nichtsdestotrotz wurden auch in anderen Städten bereits technisch ähnliche Experimente durchgeführt. So etwa in Valenciennes, wo seit 2017 dank eines Videoschutzparks von Huawai mit intelligenter Videoüberwachung gearbeitet wird⁷, oder in Toulouse, wo durch automatisierte Bilderkennung soziale Vergehen auditiv durch ‚sprechende Kameras’ (IBM) kommentiert wurden⁸. In Deutschland finden sich Beispiele in Mannheim, wo ein Pilotprojekt an mehreren Plätzen algorithmenbasierte Videoüberwachung im öffentlichen Raum zur Bekämpfung von Straßenkriminalität einsetzt. Dort wird aus den Videoaufnahmen zunächst die Position der Körper und Gliedmaßen (‚digitales Skelett’) extrahiert. Auf dieser Basis kann die KI dann bestimmte Verhaltensweisen klassifizieren und bei Bedarf Polizeikräfte alarmieren.⁹ Ähnlich am Hansaplatz in Hamburg, wo die Datensätze der Kameras hinsichtlich auffälliger Bewegungsmuster wie z. B. Schlägen, Tritten oder Stürzen ausgewertet werden.¹⁰ In Köln wird derzeit die Infrastruktur der durchgängigen und flächendeckenden Videoüberwachung drastisch ausgebaut, insbesondere in den Bereichen Dom/Hbf., Ringe, Breslauer Platz, Ebertplatz, Neumarkt, Wiener Platz und Kalk.¹¹ Die Initiative »Kameras stoppen« wirft der Polizei vor, keine stichhaltigen Statistiken vorzulegen, die untermauern, dass die Überwachung erforderlich sei. Auf dieser Grundlage hat sie u.a. am 14. Mai 2024 Klage gegen die Videoüberwachung in Köln-Kalk und Humboldt-Gremberg beim Verwaltungsgericht Köln eingereicht.¹²

✧˖°₊ ⊹.

»Das schlimmste kommt noch: Die Kontrolle des öffentlichen Raums beschleunigt sich drastisch durch die Entwicklung biometrischer Überwachungsalgorithmen. «¹³ Mit der sicherheitsorientierten Umgestaltung des öffentlichen Raums werden in Zukunft auch weitere techno-sicherheitsrelevante Maßnahmen legalisiert werden, die teilweise bereits (illegal) getestet wurden.¹⁴ »Die politischen Forderungen nach der Legalisierung neuer Überwachungsinstrumente sind zahlreich, und ihre Umsetzung könnte viel schneller kommen, als man erwarten könnte.«¹⁵

Am Wahlabend der Europawahl am 9. Juni 2024 hatte der französische Staatspräsident Emmanuel Macron die Auflösung seines Parlaments angekündigt, nachdem die europäischen Wahlergebnisse sein Parteienbündnis mit über 10% Stimmverlust gestraft hatten.¹⁶ Die vorgezogene Parlamentswahl findet am 30. Juni und am 7. Juli 2024 statt. In zwei Wahlgängen werden die 577 Abgeordneten der 17. Nationalversammlung bestimmt. In den vorläufigen Ergebnissen hat die rechtsextreme Partei Rassemblement National die Mehrheit errungen.¹⁷ Eine mögliche Machtablösung der konservativen ‚Mitte’ durch rechtsextreme Positionen ist ein Trend, der sich in vielen Teilen Europas abzeichnet.

In Zeiten der Implementierung von Machtinstrumenten wie der Erfassung biometrischer Daten durch Videoüberwachung können wir uns keine naive Argumentation mehr erlauben. Die Vorstellung, 'Ich habe kein Problem damit, gefilmt, überwacht und kategorisiert zu werden, da ich nichts Falsches tue', steht im krassen Gegensatz zu einer potenziellen Verschärfung der Überwachung sowie der Einschränkung von Datenschutz und persönlichen Freiheiten unter einer rechtsextremen, menschenfeindlichen Regierung. In einem solchen Umfeld würden rassistische und queerfeindliche Perspektiven weiter angeheizt, regimekritische Personen ins Visier genommen und öffentlich bloßgestellt.

Es kann nicht davon ausgegangen werden, dass eine Infrastruktur, die einmal in Stand gesetzt ist, wieder abgebaut wird. Wenn wir heute mit einem ethischen und moralischen Einsatz der Technologien argumentieren, können wir nicht davon ausgehen, dass diese Spielregeln beibehalten werden. Diese Risiko-Verwendung spiegelt auch die Einschätzung des Europäischen AI Acts wider, der (neben ausgedehnter Risikobewertungen) explizit untersagt, KI-Systeme einzusetzen, die die Schwächen bestimmter Personengruppen ausnutzen, um ihr Verhalten signifikant zu beeinflussen und ihnen oder anderen Personen erheblichen Schaden zuzufügen. Diese Regelung betrifft insbesondere die Nutzung von KI zur fortlaufenden Bewertung oder Klassifizierung natürlicher Personen oder Personengruppen, basierend auf persönlichen Merkmalen, sozialen Verhaltensweisen oder abgeleiteten Merkmalen über einen längeren Zeitraum hinweg.¹⁸

Nicht alle großen Versprechen können gehalten werden. Datensammlungen sind immer auch anfällig für kriminelle Angriffe. Ipsotek, eine Firma, die kürzlich von ATOS aufgekauft wurde und VSA-Technologien verkauft, wurde offenbar vor einiger Zeit gehackt, ein Teil der Daten sei nun auf der Website einer Ransomware-Gruppe verfügbar.¹⁹

✧˖°₊ ⊹.

Für Dead Glitch ist eine performative Figur entwickelt worden. In bisherigen Auftritten (Westwerk, Hamburg;The Film Gallery, Paris) trug sie ein Skript aus Texten und Kommentare zum Thema vor. Das gesprochene Wort wird dadaistisch verlängert, wiederholt und verzerrt. Die Figur sitzt mit Katze auf dem Schoß, einem schnurrenden Roboter für Menschen mit Demenz. Performerin und Katze werden begleitet von einer Livekamera, einem Video fortlaufender Counter-Surveillance sowie einem Thermodrucker, der das Skript als ‚Quittung’ oder Prophezeiung ausgibt. Ihre Erscheinung ist im Wesentlichen durch zwei literarische Figuren geprägt.

Einerseits Ernst Stavro Blofeld, kriminelles Mastermind mit Ambitionen auf die Weltherrschaft und Erzfeind des fiktiven britischen MI6-Agenten James Bond. Als Antagonist trat er in den Verfilmungen von 1963 bis 1971 auf, sein Erbe lebt auch in den neueren Filmen bis 2021 weiter. Blofelds markantestes Accessoire ist eine weiße, blauäugige Perserkatze, die er, kontrastierend zu seinen brutalen Befehlen und Handlungen sowie seiner massiven, kraftvollen Statur, auf zärtlichste Weise streichelt und hält. In Voraussicht des Zweiten Weltkriegs kopierte er Geheimakten, verkaufte sie an Nazi-Deutschland und versorgte zu Kriegszeiten beide Seiten mit Informationen, bevor er seine eigene Geheimdienstorganisation SPECTRE gründete, die sich ihrerseits auf Informationsbeschaffung, Überwachung und Terror spezialisierte.

Andererseits die Priesterinnen des Orakels von Delphi. Um sie ranken sich mehrere Geschichten. Sibylle sagte im Gegensatz zu anderen göttlich inspirierten Sehern ursprünglich unaufgefordert, doppeldeutig und in Form eines Rätsels die Zukunft voraus. Kassandra, die die Gabe der Weissagung durch den Gott Apollon verliehen bekam, war verflucht, sodass niemand ihren Warnungen Glauben schenken sollte (Kassandrarufe). Pythia, eine Priesterin, die auf einem Dreifuß saß und Dämpfe aus einer Spalte im Boden des Tempels inhalierte, wurde als Orakel mit Fragen von ratsuchenden Reisenden konfrontiert. Die Antragstellenden mussten zunächst Auskunft über Inhalt und Art ihrer Fragen geben, ähnlich wie bei der Datenbereinigung heute. Anschließend wurden dem Orakel Geschenke überbracht – eine frühe Version von Results-as-a-Service, bei dem sozusagen pro Anfrage bezahlt wurde. Die finalen Prophezeiungen stammten auch nicht von Pythia selbst, sondern wurden von anderen Priestern in sinnvolle, daktylische Hexameter „übersetzt“. (Auch durch Machine Learning generierte ‚Vorhersagen’ müssen in eine für Fachanwender verständliche Sprache übertragen werden. Dieser Schritt ist entscheidend, damit Prognosen zur Entscheidungsfindung genutzt werden können.)

✧˖°₊ ⊹.

PS: Der Titel »Dead Glitch« spielt nicht zuletzt auf das tödliche Fehlerpotenzial an, welches das Vertrauen in diese Technologien mit sich bringt. Das Erbe der Massenüberwachung, das uns aus urbanen Räumen übermittelt wird, breitet sich zunehmend an staatlichen Außengrenzen und in Kriegsgebieten aus. So wird derzeit in der EU Migration als Sicherheitsproblem behandelt und die EU-Kommission forscht intensiv an automatisierten Sicherheitstechnologien, um das Mittelmeer, das bereits als eine der tödlichsten Grenzregionen der Welt gilt, durch entmenschlichte KI-gestützte Technologien zu ‚verteidigen‘.²⁰ Im Gazastreifen werden Systeme wie Lavender eingesetzt, die Menschen durch Bereitstellung von Informationen über ihre Personen und Wohnorte direkt zum Ziel von Tötungen machen. Russland und China arbeiten aktiv an der Entwicklung automatisierter und autonomer Waffensysteme – ein Grund dafür, dass die USA und die EU über die NATO einen Schwerpunkt auf die Entwicklung ähnlicher Lösungen legen. Die Kriegsführung wird zunehmend digitalisiert und automatisiert. Dadurch verschiebt sich die Rolle der Bürger im Rahmen der Genfer Konventionen.²¹

Maja Funke, 1. Juli 2024.

¹ https://www.legifrance.gouv.fr/jorf/article_jo/JORFARTI000047561989
² https://technopolice.fr/entreprises/
³ https://www.laquadrature.net/vsa/
⁴ https://www.laquadrature.net/wp-content/uploads/vsa/VSA-brochure-planche.pdf
⁵ https://www.laquadrature.net/nous/
⁶ https://technopolice.fr/presentation/
⁷ https://technopolice.fr/presentation/
⁸ https://technopolice.fr/toulouse/
⁹ https://www.iosb.fraunhofer.de/de/projekte-produkte/intelligente-videoueberwachung.html
¹⁰ https://www.datenschutz-notizen.de/intelligente-videoueberwachung-am-hansaplatz-0347871/
¹¹ https://koeln.polizei.nrw/artikel/polizeiliche-videobeobachtung-in-koeln
¹² https://kameras-stoppen.org/klage-kalk-wird-am-14-5-2024-beim-vg-koeln-eingereicht/
¹³ https://disclose.ngo/fr/article/reconnaissance-faciale-gerald-darmanin-veut-enterrer-laffaire-briefcam
¹⁴ "https://www.laquadrature.net/wp-content/uploads/vsa/VSA-brochure-planche.pdf
¹⁵ https://elections.europa.eu/
¹⁶ https://www.resultats-elections.interieur.gouv.fr/legislatives2024/referentiel.html
¹⁷ https://artificialintelligenceact.eu/de/article/52/
¹⁸ Chat Technopolice Ortsgruppe Paris-Banlieu, 01.07.2024
¹⁹ https://fuckoffai.eu/
²⁰ https://blog.fiff.de/content/files/2024/04/2024_04_29_Stellungnahme-lavender.pdf
²¹ https://netzpolitik.org/2024/artificial-intelligence-automated-warfare-and-the-geneva-convention/?via=nl

Studio Snapshots, Offene Ateliers 2024. / Rundgang KHM 2024, Foto: Dörthe Boxberg.