KI-gestützte Videoschutzsysteme an kriminalitätsbelasteten Orten (kbO) in Berlin

Die auf dem Hinweisschild dargestellte rote Leuchtdiode befindet sich jeweils am Sockel einer einzelnen Kamera bzw. am gemeinsamen Sockel mehrerer Kameras.

Aktueller Projektstatus

Wichtiger Hinweis

Während der Konfigurations- und Testphase erkennt oder meldet das System keine Gefahrensituationen. In Notfällen wählen Sie bitte jederzeit den Polizeinotruf 110.

Konfigurationsphase

In der Konfigurationsphase werden die Kameras auf die Umgebung des kriminalitätsbelasteten Ortes Kottbusser Tor eingestellt. Dafür werden sie schrittweise zu unterschiedlichen Zeitpunkten in Betrieb genommen. Die von den Kameras aufgenommenen Bilder dienen ausschließlich der technischen Einrichtung und Überprüfung des Systems. Eine Speicherung der Bilddaten erfolgt in dieser Phase nicht.

Testphase

In der Testphase wird das vollständige System mit Kameras, KI-Funktion und Videomanagementsystem technisch geprüft. Mitarbeitende des beauftragten Dienstleisters und Polizeikräfte testen die einzelnen Komponenten und ihr Zusammenspiel. Das System befindet sich noch nicht im operativen 24/7-Betrieb. Während der jeweiligen Einsatzzeiten werden die anfallenden Bilddaten gespeichert.

Probeechtbetrieb

Im Probeechtbetrieb wird das System erstmals rund um die Uhr unter realen Einsatzbedingungen betrieben und die anfallenden Bilddaten gespeichert. Die Nutzung des Systems erfolgt nun ausschließlich durch Polizeikräfte. Der beauftragte Dienstleister unterstützt ausschließlich den technischen Betrieb. Ziel dieser Phase ist die Überprüfung der Funktionsfähigkeit und Stabilität des Systems im täglichen Einsatz.

KI-gestützte Videoschutzsysteme an kriminalitätsbelasteten Orten (kbO) in Berlin

Die Polizei Berlin setzt an ausgewählten kriminalitätsbelasteten Orten (kbO) ein von Künstlicher Intelligenz (KI) gestütztes Videoschutzsystem ein, um polizeiliche Einsatzkräfte bei der frühzeitigen Erkennung von Gefahrensituationen im öffentlichen Raum zu unterstützen. Die Polizei Berlin kann dadurch im Ernstfall schneller reagieren und gezielt Hilfe leisten.

Die Kameras erfassen das Geschehen ausschließlich in den eigens gekennzeichneten Bereichen. Durch eine Anzeige auf einem Bildschirm wird eine polizeiliche Einsatzkraft automatisch auf potenziell gefährliche Situationen in Echtzeit hingewiesen, etwa bei körperlichen Auseinandersetzungen. Die Entscheidung über polizeitaktische Maßnahmen wird anschließend durch die polizeiliche Einsatzkraft getroffen.

Wichtig: Die Anzeige befindet sich grundsätzlich im Stand-by-Modus ohne Darstellung des Videobildes. Erst wenn das System eine potenzielle Gefahrensituation erkennt, wird die zuständige polizeiliche Einsatzkraft automatisch auf die Situation aufmerksam gemacht (Anlassbetrieb).

Eine biometrische Live-Fernidentifizierung ist im Rahmen des Allgemeinen Gesetzes zum Schutz der öffentlichen Sicherheit und Ordnung in Berlin (ASOG Bln) nicht zulässig.

Die KI erkennt keine Personen, sondern Situationen

Die Kl wurde anhand vieler Beispiele darauf trainiert, Muster und Merkmale in Videoaufnahmen zu erkennen, die auf Gewalt- oder Notsituationen hindeuten können, und diese mathematisch abzubilden.

Vereinfacht gesagt vergleicht die Kl eine neu erfasste Situation mit den Mustern, die sie im Training gelernt hat. Dabei berücksichtigt sie verschiedene Merkmale und deren Zusammenspiel. So können beispielsweise „einen Ball werfen” und „eine Person schlagen” wegen einer ähnlichen Armbewegung zunächst Gemeinsamkeiten aufweisen. Entscheidend ist aber auch der Zusammenhang: In einem Fall ist die Bewegung Teil eines Ballspiels, im anderen gegen eine Person gerichtet. Dadurch ähnelt die zweite Situation stärker den Mustern, die das System für
mögliche Gewaltsituationen gelernt hat. Ist diese Ähnlichkeit ausreichend groß, kann eine Auslösung erfolgen.

Für diesen Vergleich werden die erkannten Merkmale mathematisch dargestellt. Diese Darstellung erfolgt in einem sogenannten Vektorraum. Die Kl versteht das Geschehen dabei nicht wie ein Mensch, sondern bewertet es anhand der im Training erlernten Muster und Ähnlichkeiten.

Die Kl liefert ausschließlich einen Hinweis auf eine mögliche Gefahrensituation. Ob tatsächlich eine Gefahr vorliegt und welche Maßnahmen erforderlich sind, beurteilen und entscheiden stets
qualifizierte Einsatzkräfte der Polizei Berlin. Die Kl unterstützt bei der Wahrnehmung von Gefahrensituationen, trifft jedoch keine eigenen Entscheidungen.

Die datenschutzkonforme Software arbeitet dabei in vier Schritten:

1. Lokale Erkennung
   Mehrere Kameras erfassen das Geschehen in den gekennzeichneten Bereichen und ordnen die erkannten Situationen anhand definierter Kriterien ein. Im Live-Betrieb bleibt der Bildschirm in der Leitstelle grundsätzlich im Stand-by-Modus, ohne Darstellung des Videobildes.
2. Anlassbetrieb in der Leitstelle
   Werden mögliche Gefahrensituationen wie körperliche Auseinandersetzungen oder medizinische Notfälle erkannt, wird das zugehörige Kamerabild im Anlassbetrieb angezeigt. Eine dauerhafte Beobachtung der Kamerabilder durch polizeiliche Einsatzkräfte findet grundsätzlich nicht statt. Dieses Vorgehen stärkt den Datenschutz, da Videobilder nur bei einem konkreten Anlass angezeigt werden. Ansonsten bleibt der Bildschirm schwarz.
3. Der Mensch entscheidet
   Die KI kann auf mögliche Gefahrensituationen hinweisen. Ob tatsächlich eine Gefahr vorliegt und welche Maßnahmen erforderlich sind, prüft und entscheidet immer eine qualifizierte Einsatzkraft der Polizei Berlin. Die KI unterstützt bei der Erkennung von Gefahrensituationen, trifft jedoch keine eigenen Entscheidungen.
   Ihre Rolle ist vergleichbar mit einem eingehenden Hinweis oder Notruf: Sie liefert einen möglichen Anhaltspunkt. Die Bewertung und Entscheidung erfolgt jedoch ausschließlich durch polizeiliche Einsatzkräfte.
4. Reaktion & Nachweis
   Nach der Prüfung entscheidet die polizeiliche Einsatzkraft über das weitere Vorgehen und das Ereignis wird nachvollziehbar dokumentiert.

Rechtsgrundlage

Der Einsatz des KI-gestützten Videoschutzsystems an kriminalitätsbelasteten Orten beruht auf § 24e ASOG Bln. Dieser Paragraf erlaubt der Polizei Berlin innerhalb der Grenzen der kriminalitätsbelasteten Orte Kameras einzusetzen, um Bildaufnahmen, mittels Software automatisiert auszuwerten.

Bei der Verarbeitung der Bildaufnahmen werden die gesetzlichen Vorgaben zum Schutz persönlicher Daten eingehalten. Maßgebend sind hierbei datenschutzrechtliche Regelungen nach der „Datenschutzgrundverordnung“ (DSGVO), dem „Berliner Datenschutzgesetz“ (BlnDSG) und die Anforderungen nach der EU KI-VO. Das System wurde nach dem Prinzip „Privacy by Design“ entworfen, welches den Schutz der/des Einzelnen von Beginn an im technischen Kern verankert.

Häufig gestellte Fragen

• Warum setzt die Polizei Berlin ein KI-gestütztes Videoschutzsystem ein?

  Das KI-gestützte Videoschutzsystem soll dabei helfen, mögliche Gefahrensituationen frühzeitig zu erkennen. Bei einer herkömmlichen Videoüberwachung müssen polizeiliche Einsatzkräfte die Kamerabilder dauerhaft beobachten oder später auswerten. Das KI-gestützte System analysiert die Videodaten dagegen automatisch und in Echtzeit. Dadurch ist keine permanente Beobachtung der Kamerabilder durch Menschen notwendig. Polizeiliche Einsatzkräfte werden nur dann informiert, wenn das System eine sicherheitsrelevante Situation erkennt, zum Beispiel einen körperlichen Übergriff. So kann die Polizei Berlin schneller reagieren, Situationen besser einschätzen und polizeiliche Einsatzkräfte gezielter einsetzen.

  Das Videoschutzsystem trifft dabei keine polizeilichen Entscheidungen. Es unterstützt die polizeilichen Einsatzkräfte und ist eine von mehreren Maßnahmen, um die Sicherheit an ausgewählten kriminalitätsbelasteten Orten zu erhöhen.

• Warum wird das System am Kottbusser Tor eingesetzt?

  Das Kottbusser Tor ist durch die Senatsverwaltung für Inneres und Sport als kriminalitätsbelasteter Ort eingestuft. An solchen Orten ist die Kriminalitätsrate ausgewählter Delikte statistisch erhöht. Deshalb darf die Polizei Berlin unter den gesetzlichen Voraussetzungen besondere Maßnahmen zur Gefahrenabwehr ergreifen. Die gezielte Maßnahme soll die Sicherheit für Anwohner, Passanten und Gewerbetreibende spürbar erhöhen.

• Wo genau werden Kameras eingesetzt?

  Die Kameras erfassen ausschließlich festgelegte öffentliche Bereiche an kriminalitätsbelasteten Orten. Private Wohnräume, Hauseingänge sowie Bereiche außerhalb des vorgesehenen Erfassungsbereichs werden nicht erfasst beziehungsweise technisch unkenntlich gemacht, soweit dies erforderlich ist.

• Was kann die Künstliche Intelligenz erkennen?

  Die unterstützende semantische KI betrachtet Situationen im Zusammenhang. Dadurch kann sie besser zwischen alltäglichen und möglicherweise relevanten Situationen unterscheiden.

  Die KI analysiert dabei keine Gesichter oder personenbezogenen Merkmale. Stattdessen bewertet sie Bewegungsabläufe, räumliche Beziehungen zwischen Personen und den situativen Kontext eines Geschehens. Sie erkennt somit keine Personen, sondern mögliche Gefahrensituationen.

  Vereinfacht gesagt: Ein E-Scooter, ein Fußballspiel sowie tanzende oder sich umarmende Menschen sind keine Gefahrensituationen. Deshalb bewertet die KI nicht nur einzelne Bewegungen, sondern den jeweiligen Zusammenhang einer Situation.

  Die KI kann dabei auf mögliche Gefahrensituationen hinweisen. Ob tatsächlich eine Gefahr vorliegt, beurteilen jedoch immer qualifizierte Einsatzkräfte der Polizei Berlin. Die KI trifft keine eigenen Entscheidungen.

• Entscheidet die KI selbst über einen Polizeieinsatz?

  Die KI löst keinen Polizeieinsatz eigenständig aus. Die KI weist lediglich auf eine mögliche akute Gefahrensituation hin. Eine qualifizierte Einsatzkraft der Polizei Berlin prüft das aufgeschaltete Kamerabild in der Wache/Leitstelle und bewertet die Situation (dieses System bezeichnet man als Human in the Loop). Erst danach entscheidet die Polizei Berlin, ob Maßnahmen erforderlich sind.

• Wie werden Grundrechte und Datenschutz gewährleistet?

  Auf einen Blick

  • keine biometrische Echtzeit-Fernidentifizierung
  • Anlassbetrieb anstatt dauerhafter Beobachtung
  • Zugriff nur für berechtigte Stellen
  • nachvollziehbare Protokollierung von Zugriffen
  • keine Tonaufzeichnung
  • Zweckbindung und gesetzlich geregelte Speicher- und Löschfristen
• Wird Gesichtserkennung eingesetzt?

  Eine biometrische Echtzeit-Fernidentifizierung von Personen findet nicht statt. Das System ist nicht darauf ausgerichtet, Personen anhand ihres Gesichts zu identifizieren.

  Die eingesetzte KI identifiziert keine Personen, sondern mögliche Gefahrensituationen. Dazu analysiert sie Bewegungsabläufe, räumliche Zusammenhänge und den situativen Kontext eines Geschehens. Eine Identifizierung einzelner Personen erfolgt dabei nicht.

  Die KI liefert ausschließlich Hinweise auf mögliche Gefahrensituationen. Ob tatsächlich eine Gefahr vorliegt und welche Maßnahmen erforderlich sind, beurteilen und entscheiden stets qualifizierte Einsatzkräfte der Polizei Berlin.

• Werden Menschen gezielt und individuell überwacht?

  Das System ist nicht dafür bestimmt, einzelne Personen gezielt zu identifizieren.

  Es dient dazu, innerhalb eines festgelegten Bereichs Hinweise auf mögliche Gefahrensituationen zu geben. Die Bewertung erfolgt immer durch eine qualifizierte Einsatzkraft der Polizei Berlin.

• Beobachten Menschen die Kamerabilder dauerhaft?

  Die Kamerabilder werden nicht dauerhaft durch polizeiliche Einsatzkräfte beobachtet. Ein Live-Bild wird grundsätzlich erst dann angezeigt, wenn das System einen Hinweis auf eine mögliche Gefahrensituation gibt.

  Dieses Vorgehen wird als Anlassbetrieb bezeichnet.

• Entscheidet die KI selbst über einen Polizeieinsatz?

  Die KI trifft keine polizeilichen Entscheidungen. Sie kann lediglich auf mögliche Gefahrensituationen hinweisen.

  Ob Maßnahmen erforderlich sind, entscheidet immer eine qualifizierte Einsatzkraft der Polizei Berlin.

• Was kann die KI erkennen?

  Das System kann auf mögliche Gefahrensituationen hinweisen, beispielsweise auf körperliche Auseinandersetzungen.

  Ein solcher Hinweis bedeutet nicht automatisch, dass tatsächlich eine Gefahr oder Straftat vorliegt. Jede Meldung wird deshalb durch eine polizeiliche Einsatzkraft geprüft und bewertet.

• Wird Ton aufgezeichnet?

  Das System zeichnet zu keinem Zeitpunkt Ton auf. Es handelt sich um ein rein visuelles Assistenzsystem.

• Wer ist für die Verarbeitung der Bilddaten verantwortlich?

  Für die Verarbeitung der Bilddaten ist die Polizei Berlin verantwortlich.

  Den Zugriff auf Live-Bilder und gespeicherte Aufnahmen erhalten ausschließlich Beschäftigte der Polizei Berlin, soweit es für die Wahrnehmung ihrer dienstlichen Aufgaben erforderlich ist. Zugriffe werden dokumentiert und nachvollziehbar protokolliert.

  Die Aufzeichnungen werden einen Monat gespeichert (§ 24a Abs. 3 ASOG Bln) und danach automatisch gelöscht. Hierbei orientiert sich die Polizei am kürzest möglichen Monat eines Jahres, so dass 28 Tage Speicherfrist im System hinterlegt sind.

• Was passiert bei Versammlungen?

  Die Versammlungsfreiheit genießt in Deutschland besonderen Schutz. Deshalb gelten für Versammlungen besondere rechtliche Regelungen. Die Polizei Berlin setzt diese Vorgaben konsequent um. Der Videoschutz wird während einer Versammlung abgeschaltet, soweit Versammlungsteilnehmende von den Kameras erfasst werden könnten. Dies gilt unabhängig davon, ob es sich um eine angemeldete Versammlung, eine Eil- oder Spontanversammlung oder um einen sich fortbewegenden Aufzug handelt.

  Der Betriebszustand der Anlage ist für Bürgerinnen und Bürger erkennbar. Eine aktive rote Leuchtdiode zeigt an, dass eine Kamera in Betrieb ist und Daten aufgezeichnet und ausgewertet werden. Ist die Leuchtdiode deaktiviert, ist auch die Kamera deaktiviert. Es werden keine Daten aufgezeichnet.

• KI unterstützt – der Mensch entscheidet.

  Das KI-gestützte Videoschutzsystem hilft dabei, mögliche Gefahrensituationen frühzeitig zu erkennen. Über polizeiliche Maßnahmen entscheidet immer eine qualifizierte Einsatzkraft der Polizei Berlin – auf gesetzlicher Grundlage und unter Beachtung strenger Datenschutzvorgaben.