KI-Fahndung: Der Weg in die flächendeckende Überwachung?
Die Bundesregierung plant einen massiven Ausbau der digitalen Ermächtigungen für Sicherheitsbehörden. Mit neuen Gesetzesentwürfen aus dem Bundesjustiz- und Bundesinnenministerium soll die Polizei künftig KI-gestützte Gesichtserkennung im offenen Internet und die algorithmische Zusammenführung von Massendaten erlauben werden. Doch der Widerstand formiert sich. Eine Allianz aus zivilgesellschaftlichen Organisationen, darunter Amnesty International und der Chaos Computer Club (CCC), zieht in einer gemeinsamen Stellungnahme eine vernichtende Bilanz: Die Pläne seien nicht einfach nur nachbesserungsbedürftig – sie sind nach Überzeugung der Kritiker strukturell verfassungswidrig.
Symptomatisch statt akzidentiell: Das grundlegende Defizit
Die Kritik der Zivilgesellschaft setzt tief an. Es geht nicht um fehlerhafte Formulierungen im Gesetzestext, die sich durch juristische Korrekturen beheben ließen. Vielmehr sehen die Organisationen das gesamte Regelungsvorhaben als grundgesetzwidrig an. „Wir betonen, dass eine grundrechtskonforme Ausgestaltung dieser Befugnisse auch durch Nachbesserungen im Verfahrensrecht nicht erreichbar wäre“, heißt es in der Stellungnahme. Die Mängel seien symptomatisch für ein strukturelles Defizit.
Konkret bemängeln die Organisationen das Fehlen eines richterlichen Vorbehalts, die ungenügende Transparenz für Betroffene und die mangelhafte Dokumentation der Arbeitsweise der eingesetzten KI-Systeme. Auch fehlten klare Einschränkungen bei den einbezogenen Daten und Analysemethoden. Besonders brisant: Die drohenden Grundrechtseingriffe durch Privatunternehmen, die diese Technologien betreiben und operativ einsetzen.
Gesichtserkennung im offenen Internet: Jeder ist verdächtig
Ein Kernstück der Gesetzesentwürfe ist die Erlaubnis, das Internet nach Gesichtern zu durchsuchen. Ein Fahndungsfoto soll künftig biometrisch mit allen im öffentlichen Internet auffindbaren Gesichtern abgeglichen werden können. Bundesjustizministerin Stefanie Hubig (SPD) und Bundesinnenminister Alexander Dobrindt (CSU) haben sich auf diese weitreichenden Pläne geeinigt.
Das Bündnis warnt jedoch: Dies schaffe de facto die Infrastruktur für eine flächendeckende Verfolgbarkeit der Bevölkerung. Der Einsatz kommerzieller KI-Systeme wie PimEyes oder Clearview AI greife massiv in das Recht auf informationelle Selbstbestimmung ein – und zwar bei allen Menschen, die im Internet Fotos oder Videos mit biometrischen Merkmalen veröffentlichen, ohne dafür einen Anlass gegeben zu haben. Auch Personen, die nur ungewollt im Hintergrund eines öffentlich zugänglichen Bildes auftauchen, würden so biometrisch erfasst.
Abschreckung und Diskriminierung als Systemfolge
Die Folgen dieser Technologie gehen weit über den reinen Datenschutz hinaus. Die Stellungnahme macht deutlich, dass die biometrische Erfassung auch die Meinungs- und Versammlungsfreiheit massiv einschränkt. Wer befürchten muss, bei einer Demonstration biometrisch erfasst zu werden, verzichtet möglicherweise gänzlich auf die Teilnahme. Dieser Abschreckungseffekt verhindert die Wahrnehmung grundlegender demokratischer Rechte.
Hinzu kommt die Gefahr der Diskriminierung. Empirische Daten zeigen, dass insbesondere People of Color überproportional häufig zu Unrecht von polizeilichen Maßnahmen betroffen sind. Die Nutzung fehleranfälliger KI-Systeme verschärft dieses Problem und gefährdet das Diskriminierungsverbot im Grundgesetz.
KI für die polizeiliche „Super-Datenbank“
Ein weiterer Entwurf sieht die automatisierte Datenanalyse mittels KI-Systemen wie Palantir vor. Massendaten von Bundes- und Landespolizeibehörden sollen unabhängig vom Einzelfall zusammengeführt und algorithmisch ausgewertet werden. Opfer, Zeug:innen und gänzlich unbeteiligte Personen landeten so in derselben „Super-Datenbank“. Das Resultat: tiefgreifende Persönlichkeitsprofile auf Basis algorithmisch ausgewerteter Massendaten.
Solche Systeme sind laut Stellungnahme strukturell fehleranfällig, intransparent und diskriminierungsfördernd. Dies gelte umso mehr für KI-Systeme, die nach ihrer Einführung selbstlernend bleiben – was in den Entwürgen nicht ausgeschlossen werde. Die Schlussfolgerungen solcher Analysen gingen weit über die ursprünglichen Erhebungszwecke der Daten hinaus.
Ein Frontalangriff auf die EU-KI-Verordnung
Die Europäische Union verbietet in ihrer KI-Verordnung eigentlich die massenhafte Verarbeitung von Gesichtsbildern zu biometrischen Datenbanken. Die aktuellen Entwürfe der Bundesregierung stellen demnach einen Versuch dar, dieses EU-Verbot zu umgehen. Auch die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) kritisiert die Initiativen scharf und kommt zu dem Schluss, dass die Befugnisse in der vorgesehenen Form nicht mit den verfassungsrechtlichen Vorgaben vereinbar seien.
Forderungen: Verbot statt Regulierung
Die zivilgesellschaftlichen Organisationen fordern in der Konsequenz die vollständige Rücknahme der Gesetzesentwürfe. Stattdessen solle es ein gesetzliches Verbot „biometrischer Massenerkennungssysteme“ geben. Zudem werden verbindliche Regeln zu Transparenz, Kontrolle und Haftung für die algorithmische Datenanalyse gefordert.
Die Debatte knüpft an das sogenannte Sicherheitspaket der Ampel-Regierung aus dem Herbst 2024 an, das damals an den Ländern scheiterte, weil diesen die Überwachungsbefugnisse nicht weit genug gingen. Die jetzigen Entwürfe setzen diesen Kurs fort – und sehen sich nun massivem Widerstand ausgesetzt.
Quelle: Netzpolitik.org
