Session 6
Gesichtserkennung im öffentlichen Raum
Lernziele:
- Die Vorteile Fernerkennungssysteme zur Erhöhung der Sicherheit vulnerabler Personen verstehen.
- Die Risiken von biometrischen Erkennungssystemen wie Gesichtserkennung in Bezug auf Datenschutz, Grundrechte und Diskriminierung reflektieren.
- Die rechtliche und politische Lage der Gesichtserkennung in der Schweiz analysieren.
- Unterscheidung zwischen biometrischen Erkennungssystemen wie Gesichtserkennung und dem Fernerkennen von Personenströmen im öffentlichen Raum.
- Risiken und Vorteile im Kontext von Verfassungsrecht, Datenschutz und Menschenrechte diskutieren
Gliederung der Unterrichtseinheit:
1. Einführung (10 Min.)
- Überblick über die Sitzung.
- Einführung in biometrische Systeme: Definition und Anwendungsbereiche.
- Darstellung der zentralen Fragestellung:
- „Können Fernerkennungssysteme überhaupt Sicherheit bieten, ohne Grundrechte zu gefährden und Diskriminierung zu reproduzieren?“
2. Technologische und ethische Grundlagen (35 Min.)
- Präsentation der Forschung von Buolamwini & Gebru:
1.1. Bias in Gesichtserkennungsalgorithmen.
1.2. Diskriminierung gegenüber Frauen und nicht-weißen Personen.
1.3. Auswirkungen auf gesellschaftliche Gruppen.
1.4. Lösungen der Autorinnen für fairere Gesichtserkennungssysteme herausarbeiten.
1.5. Impact der Forschung der beiden Autorinnen auf die Entwicklung dieser KI (wie haben Microsoft und Google darauf reagiert?)
- Überleitung zur aktuellen Forschung:
2.1. Fortschritte in der KI zur Reduktion von Bias in Gesichtserkennung.
2.2. Kritik an der Transparenz und Nachvollziehbarkeit solcher Systeme.
2.3. Fallbeispiele aus anderen Ländern (z. B. London, China).
2.4. Fallbeispiele aus der Schweiz?
3. Rechtliche und politische Situation in der Schweiz (20 Min.)
- Gesetzliche Rahmenbedingungen:
1.1. Datenschutzgesetz (DSG) und EU-Einfluss (DSGVO).
1.2. Öffentliche Überwachung und Gesichtserkennung: aktuelle Regelungen.
1.3. Diskussion über Haltung des Bundesrates und geplante Gesetzesänderungen.
- Politische Debatte:
2.1. Argumente von Datenschutzorganisationen vs. Sicherheitsbehörden.
2.2. Öffentliche Wahrnehmung und gesellschaftlicher Diskurs in der Schweiz.
2.3. Kantonale Entwicklungen und Anwendungen (beispielsweise bei kantonalen Polizeibehörden wie im Aargau)
4. Interaktive Gruppenarbeit (15 Min.)
- Fallstudienanalyse: Studierende diskutieren in Gruppen:
1.1. Fall 1: Erfassen der Kundenströmen an Bahnhöfen zur Erhöhung der Sicherheit von Frauen.
1.2. Fall 2: Massenüberwachung durch biometrische Systeme in Innenstädten.
- Reflexion: Wo verläuft die Grenze zwischen Sicherheit und Überwachung? Wie werden Grundrechte beschnitten? Gibt es Alternativen zu biometrischen Fernerkennungssystemen, die ebenfalls zur Sicherheit von gefährdeten Personen wie Frauen beitragen, ohne geltendes Recht und persönliche Rechte zu beschneiden?
5. Abschlussdiskussion und Fazit (10 Min.)
Offene Fragen und ethische Dilemmata.
Abschlussfrage: „Wie sollten Staaten mit Gesichtserkennung umgehen?“
Vorbereitete Lektüre:
Gesichtserkennung in der Schweiz: https://algorithmwatch.ch/de/tag/gesichtserkennung/
Weiterführende Medien:
Film Coded Bias von Shalini Kantayya, 2020 7th Empire Media