Decoding Inequality 2025
  • Kursbeschreibung
  • Syllabus
  • Interessante Links
  • Studentische Beiträge
  • Über uns
  1. Syllabus
  2. Session 6
  • Kursbeschreibung
  • Syllabus
    • Session 1
    • Session 2
    • Session 3
    • Session 4
    • Session 5
    • Session 6
    • Session 7
    • Session 8
    • Session 9
    • Session 10
  • Interessante Links
  • Studentische Beiträge
    • Saubere und gerechte KI?
    • ChatGPT im Klassenzimmer
    • The Humans in the Loop: Labor Exploitation and AI Training
  • Über uns
  1. Syllabus
  2. Session 6

Session 6

Gesichtserkennung im öffentlichen Raum

Author
Affiliations

Rachel Huber

University of Bern

Koordinationsstelle Teilhabe (Kanton Zürich)

Published

March 28, 2025

Modified

May 31, 2025

Lernziele:

  1. Die Vorteile Fernerkennungssysteme zur Erhöhung der Sicherheit vulnerabler Personen verstehen.
  2. Die Risiken von biometrischen Erkennungssystemen wie Gesichtserkennung in Bezug auf Datenschutz, Grundrechte und Diskriminierung reflektieren.
  3. Die rechtliche und politische Lage der Gesichtserkennung in der Schweiz analysieren.
  4. Unterscheidung zwischen biometrischen Erkennungssystemen wie Gesichtserkennung und dem Fernerkennen von Personenströmen im öffentlichen Raum.
  5. Risiken und Vorteile im Kontext von Verfassungsrecht, Datenschutz und Menschenrechte diskutieren

Gliederung der Unterrichtseinheit:

1. Einführung (10 Min.)

  1. Überblick über die Sitzung.
  2. Einführung in biometrische Systeme: Definition und Anwendungsbereiche.
  3. Darstellung der zentralen Fragestellung:
  • „Können Fernerkennungssysteme überhaupt Sicherheit bieten, ohne Grundrechte zu gefährden und Diskriminierung zu reproduzieren?“

2. Technologische und ethische Grundlagen (35 Min.)

  1. Präsentation der Forschung von Buolamwini & Gebru:

1.1. Bias in Gesichtserkennungsalgorithmen.

1.2. Diskriminierung gegenüber Frauen und nicht-weißen Personen.

1.3. Auswirkungen auf gesellschaftliche Gruppen.

1.4. Lösungen der Autorinnen für fairere Gesichtserkennungssysteme herausarbeiten.

1.5. Impact der Forschung der beiden Autorinnen auf die Entwicklung dieser KI (wie haben Microsoft und Google darauf reagiert?)

  1. Überleitung zur aktuellen Forschung:

2.1. Fortschritte in der KI zur Reduktion von Bias in Gesichtserkennung.

2.2. Kritik an der Transparenz und Nachvollziehbarkeit solcher Systeme.

2.3. Fallbeispiele aus anderen Ländern (z. B. London, China).

2.4. Fallbeispiele aus der Schweiz?

3. Rechtliche und politische Situation in der Schweiz (20 Min.)

  1. Gesetzliche Rahmenbedingungen:

1.1. Datenschutzgesetz (DSG) und EU-Einfluss (DSGVO).

1.2. Öffentliche Überwachung und Gesichtserkennung: aktuelle Regelungen.

1.3. Diskussion über Haltung des Bundesrates und geplante Gesetzesänderungen.

  1. Politische Debatte:

2.1. Argumente von Datenschutzorganisationen vs. Sicherheitsbehörden.

2.2. Öffentliche Wahrnehmung und gesellschaftlicher Diskurs in der Schweiz.

2.3. Kantonale Entwicklungen und Anwendungen (beispielsweise bei kantonalen Polizeibehörden wie im Aargau)

4. Interaktive Gruppenarbeit (15 Min.)

  1. Fallstudienanalyse: Studierende diskutieren in Gruppen:

1.1. Fall 1: Erfassen der Kundenströmen an Bahnhöfen zur Erhöhung der Sicherheit von Frauen.

1.2. Fall 2: Massenüberwachung durch biometrische Systeme in Innenstädten.

  1. Reflexion: Wo verläuft die Grenze zwischen Sicherheit und Überwachung? Wie werden Grundrechte beschnitten? Gibt es Alternativen zu biometrischen Fernerkennungssystemen, die ebenfalls zur Sicherheit von gefährdeten Personen wie Frauen beitragen, ohne geltendes Recht und persönliche Rechte zu beschneiden?

5. Abschlussdiskussion und Fazit (10 Min.)

  1. Offene Fragen und ethische Dilemmata.

  2. Abschlussfrage: „Wie sollten Staaten mit Gesichtserkennung umgehen?“

Vorbereitete Lektüre:

  1. (Buolamwini and Gebru 2018)

  2. Gesichtserkennung in der Schweiz: https://algorithmwatch.ch/de/tag/gesichtserkennung/

Weiterführende Medien:

  1. Film Coded Bias von Shalini Kantayya, 2020 7th Empire Media

  2. (Zuboff 2017)

  3.  https://www.hachettebookgroup.com/titles/shoshana-zuboff/the-age-of-surveillance-capitalism/9781610395694/?lens=publicaffairs.

Slides
Back to top

References

Buolamwini, Joy, and Timnit Gebru. 2018. “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.” In Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 77–91. PMLR. https://proceedings.mlr.press/v81/buolamwini18a.html.
Zuboff, Shoshana. 2017. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. First trade paperback edition. New York, NY: PublicAffairs. https://www.hachettebookgroup.com/titles/shoshana-zuboff/the-age-of-surveillance-capitalism/9781610395694/?lens=publicaffairs.
Session 5
Session 7
  • Edit this page
  • Report an issue