Decoding Inequality 2025
  • Kursbeschreibung
  • Syllabus
  • Interessante Links
  • Studentische Beiträge
  • Über uns
  1. Syllabus
  • Kursbeschreibung
  • Syllabus
    • Session 1
    • Session 2
    • Session 3
    • Session 4
    • Session 5
    • Session 6
    • Session 7
    • Session 8
    • Session 9
    • Session 10
  • Interessante Links
  • Studentische Beiträge
    • Saubere und gerechte KI?
    • ChatGPT im Klassenzimmer
    • The Humans in the Loop: Labor Exploitation and AI Training
  • Über uns

Auf dieser Seite

  • Syllabus
    • Sessions
      • Session 1 (21. Feb 2025)
      • Session 2 (28. Feb 2025)
      • Session 3 (7. Mär 2025)
      • Session 4 (14. Mär 2025)
      • Session 5 (21. Mär 2025)
      • Session 6 (28. Mär 2025)
      • Session 7 (4. Apr 2025)
      • Session 8 (11. Apr 2025)
      • Session 9 (2. Mai 2025)
      • Session 10 (9. Mai 2025)
      • Session 11 (16. Mai 2025)
      • Session 12 (23. Mai 2025)
    • Leistungsnachweis
      • Blogbeitrag
      • Poster
      • Vortrag
      • Hilfreiche Ressourcen
    • Literatur
  • Seite editieren
  • Problem melden
Veröffentlichungsdatum

22. Oktober 2024

Geändert

31. Mai 2025

Syllabus

Sessions

Session 1 (21. Feb 2025)

Formen der Diskriminierung (Rachel Huber): Workshop, Hands-on Session

Leseauftrag:

  • Kein Leseauftrag, da Workshop.

Weiterführende Literatur:

  • Catherine D’Ignazio und Lauren F. Klein, Data Feminism, First MIT Press paperback edition (Cambridge, Massachusetts: The MIT Press, 2023), https://data-feminism.mitpress.mit.edu/.

Session 2 (28. Feb 2025)

Architecture (Moritz Mähr): Gegenüberstellung von wie Computer Scientist über Architekturentscheide sprechen vs. Humanities Scholars

Leseauftrag:

  • Fabian Offert und Ranjodh Singh Dhaliwal, «The Method of Critical AI Studies, A Propaedeutic», 10. Dezember 2024, https://doi.org/10.48550/arXiv.2411.18833.

Weiterführende Literatur:

  • Duri Long und Brian Magerko, «What Is AI Literacy? Competencies and Design Considerations», in Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems, CHI ’20 (New York, NY, USA: Association for Computing Machinery, 2020), 1–16, https://doi.org/10.1145/3313831.3376727.

Session 3 (7. Mär 2025)

Collecting Data (Moritz Mähr)

Leseauftrag:

  • Kapitel 3 aus Yanni A. Loukissas, All Data Are Local: Thinking Critically in a Data-Driven Society (Cambridge, Massachusetts: The MIT Press, 2019), https://doi.org/10.7551/mitpress/11543.001.0001.

Session 4 (14. Mär 2025)

Training (Moritz Mähr): Environmental impact of training AI

Leseauftrag:

  • Alexandre Lacoste u. a., «Quantifying the Carbon Emissions of Machine Learning», 4. November 2019, https://doi.org/10.48550/arXiv.1910.09700.

Weiterführende Literatur:

  • Long Ouyang u. a., «Training Language Models to Follow Instructions with Human Feedback», 4. März 2022, https://doi.org/10.48550/arXiv.2203.02155.

Session 5 (21. Mär 2025)

Application (Recruiting) (Rachel Huber)

Leseauftrag:

  • Zhisheng Chen, «Ethics and Discrimination in Artificial Intelligence-Enabled Recruitment Practices», Humanities and Social Sciences Communications 10, Nr. 1 (13. September 2023): 1–12, https://doi.org/10.1057/s41599-023-02079-x.
  • Eleanor Drage und Kerry Mackereth, «Does AI Debias Recruitment? Race, Gender, and AI’s ‹Eradication of Difference›», Philosophy & Technology 35, Nr. 4 (Dezember 2022): 89, https://doi.org/10.1007/s13347-022-00543-1.

Session 6 (28. Mär 2025)

Application (CCTV/Facial Recognition) (Rachel Huber)

Leseauftrag:

  • Joy Buolamwini und Timnit Gebru, «Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification», in Proceedings of the 1st Conference on Fairness, Accountability and Transparency (Conference on Fairness, Accountability and Transparency, PMLR, 2018), 77–91, https://proceedings.mlr.press/v81/buolamwini18a.html.

Weiterführende Literatur:

  • Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, First trade paperback edition (New York, NY: PublicAffairs, 2017), https://www.hachettebookgroup.com/titles/shoshana-zuboff/the-age-of-surveillance-capitalism/9781610395694/?lens=publicaffairs.

Session 7 (4. Apr 2025)

Application (Predictive Policing/Migrationsalgo CH …) (Rachel Huber)

Leseauftrag:

  • Lauren Kirchner Mattu Jeff Larson, «Machine Bias» (ProPublica), zugegriffen 25. November 2024, https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.
  • «Jobs für Flüchtlinge - Algorithmus verteilt neu Asylbewerber auf Kantone» (Schweizer Radio und Fernsehen (SRF), 10. Mai 2018), https://www.srf.ch/news/schweiz/jobs-fuer-fluechtlinge-algorithmus-verteilt-neu-asylbewerber-auf-kantone.
  • «Algorithmus verbessert Erwerbschancen von Flüchtlingen» (ETH Zürich, 18. Januar 2018), https://ethz.ch/de/news-und-veranstaltungen/eth-news/news/2018/01/algorithmus-verbessert-erwerbschancen-von-fluechtlingen.html.

Weiterführende Literatur:

  • Kirk Bansak u. a., «Improving Refugee Integration through Data-Driven Algorithmic Assignment», Science 359, Nr. 6373 (19. Januar 2018): 325–29, https://doi.org/10.1126/science.aao4408.

Session 8 (11. Apr 2025)

Application (ChatGPT) (Moritz Mähr)

Leseauftrag:

  • Emily M. Bender u. a., «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜», in Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, FAccT ’21 (New York, NY, USA: Association for Computing Machinery, 2021), 610–23, https://doi.org/10.1145/3442188.3445922.

Weiterführende Literatur:

  • Ted Chiang, «ChatGPT Is a Blurry JPEG of the Web», The New Yorker, 9. Februar 2023, https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web.
  • Deep Dive into LLMs Like ChatGPT, 2025, https://www.youtube.com/watch?v=7xTGNNLPyMI.

Session 9 (2. Mai 2025)

Evaluation and Monitoring (Moritz Mähr)

Leseauftrag:

  • Alexandra Sasha Luccioni u. a., «Stable Bias: Analyzing Societal Representations in Diffusion Models», 9. November 2023, https://doi.org/10.48550/arXiv.2303.11408.
  • Ninareh Mehrabi u. a., «A Survey on Bias and Fairness in Machine Learning», ACM Comput. Surv. 54, Nr. 6 (13. Juli 2021): 115:1–35, https://doi.org/10.1145/3457607.

Session 10 (9. Mai 2025)

Governance and Regulation (Rachel Huber)

Leseauftrag:

  • «EU Artificial Intelligence Act | Up-to-Date Developments and Analyses of the EU AI Act», zugegriffen 25. November 2024, https://artificialintelligenceact.eu/.
  • «AlgorithmWatch» (AlgorithmWatch), zugegriffen 25. November 2024, https://algorithmwatch.org/de/.

Weiterführende Literatur:

  • Milton L. Mueller, «It’s Just Distributed Computing: Rethinking AI Governance», Telecommunications Policy, Februar 2025, 102917, https://doi.org/10.1016/j.telpol.2025.102917.

Session 11 (16. Mai 2025)

Poster/Blog/Presentations

Leseauftrag:

  • Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, First edition (New York: Crown Publishing Group, 2016).

Session 12 (23. Mai 2025)

Poster/Blog/Presentations oder Glüehfisch mit Wichtel*in

Leseauftrag:

  • Kein Leseauftrag

Leistungsnachweis

Der Kurs wird mit Bestanden/Nicht Bestanden (Pass/Fail) bewertet. Für den Leistungsnachweis stehen drei gleichwertige Formate zur Auswahl: Blogbeitrag, Poster oder Vortrag. Alle drei Optionen werden als gleichwertig betrachtet und nach den gleichen Kriterien beurteilt, sodass Sie das Format wählen können, das am besten zu Ihren Stärken passt. In allen Fällen geht es darum, ein Thema des Kurses selbstständig zu bearbeiten und verständlich aufzubereiten.

Blogbeitrag

Ein Blogbeitrag ist ein (wahlweise) online veröffentlichter, schriftlicher Artikel, der ein Kursthema in verständlicher und ansprechender Form für eine breite Leserschaft aufbereitet. Dieses Format bietet Ihnen die Möglichkeit, komplexe Inhalte in einem populärwissenschaftlichen Stil zu vermitteln. Beachten Sie dabei, dass ein Blogtext keine formelle Hausarbeit ist – der Ton darf lockerer sein, doch die inhaltliche Qualität und Fachlichkeit sollen trotzdem gewährleistet sein (Wie schreibe ich einen Blogeintrag?). Wichtig ist, die Aufmerksamkeit der Leserinnen und Leser von Anfang bis Ende zu gewinnen und zu halten – etwa durch einen persönlichen Zugang, anschauliche Beispiele, einen eingängigen Schreibstil sowie das Einbinden von weiterführenden Links. Auf diese Weise können Sie Ihr Fachwissen einem interessierten Publikum effektiv und unterhaltsam näherbringen.

Poster

Ein Poster ist ein wissenschaftliches Plakat, auf dem ein Thema visuell ansprechend und in prägnanter Kürze dargestellt wird (Wissenschaftliches Poster: Tipps + Beispiel). Auf dem Poster fassen Sie die wichtigsten Erkenntnisse oder Kernideen Ihres gewählten Themas so zusammen, dass sie auf einen Blick erfassbar sind. Ein gutes Poster enthält insbesondere die folgenden Elemente (in gekürzter Form):

  • Titel und Einführung: Ein prägnanter Titel sowie eine kurze Einführung ins Thema (Fragestellung und Kontext).
  • Methode und Ergebnisse: Die Darstellung des Vorgehens bzw. der Methode und die zentralen Ergebnisse (unterstützt durch Grafiken oder Abbildungen).
  • Fazit und Quellen: Ein Schlussfazit (ggf. mit Ausblick) sowie die Angabe der wichtigsten Quellen.

Diese Inhalte sollten klar strukturiert und optisch übersichtlich präsentiert werden. Das Poster wird idealerweise im Grossformat (z. B. A0) erstellt, damit Text und Abbildungen auch aus einiger Entfernung gut lesbar sind. In der Regel präsentieren Sie Ihr Poster auch mündlich im Kurs, daher lohnt es sich, das Poster übersichtlich zu gestalten und sich auf mögliche Nachfragen vorzubereiten.

Vortrag

Ein Vortrag ist eine mündliche Präsentation eines Kursthemas vor Publikum im Kurs, typischerweise von 10 bis 15 Minuten Dauer, in der Sie das gewählte Thema in eigenen Worten erklären und die Zuhörenden mit einem klar strukturierten Aufbau – Einleitung, Hauptteil, Schluss – durch die wichtigsten Punkte führen (Präsentation im Studium halten - So klappt’s! | Studieren.at. Ein guter Vortrag folgt einem roten Faden und bereitet die Inhalte verständlich für das Publikum auf. Achten Sie dabei auf eine deutliche, nicht zu schnelle Aussprache und halten Sie Blickkontakt mit den Zuhörenden. Visuelle Hilfsmittel (z. B. Folien) sollten übersichtlich gestaltet sein und nur zur Unterstützung dienen – lesen Sie also nicht einfach Ihren Text ab. Rechnen Sie ausserdem mit Fragen im Anschluss und seien Sie bereit, diese kompetent zu beantworten.

Hilfreiche Ressourcen

  • Wie schreibe ich einen Blogeintrag? (Wie schreibe ich einen Blogeintrag? – Korpora zur Analyse von Sprache und Kontext) – Praktische Anleitung zum wissenschaftlichen Bloggen (Uni Basel).
  • Mein erster wissenschaftlicher Blogartikel – was schreibe ich bloß? (Mein erster wissenschaftlicher Blogartikel – was schreibe ich bloß? – Redaktionsblog) – Erfahrungsbericht und Tipps für den ersten Blogpost (Sabine Scherz, Redaktionsblog).
  • Essay Einleitung: Grundlagen, Tipps & Expertenhilfe (Essay Einleitung: Grundlagen, Tipps & Expertenhilfe von StudiBucht.) – Hinweise zum Aufbau einer guten Einführung (Struktur, fesselnder Einstieg), übertragbar auch auf andere Formate.

Literatur

Hinweis: Urheberrecht

Wir bemühen uns, frei zugängliche Literatur zu verwenden. Sollte dies nicht möglich sein, bitten wir Sie, die Literatur über die Bibliotheksplattform swisscovery zu beziehen. Von der Verwendung von Plattformen wie Library Genesis raten wir trotz stichhaltiger Argumente ab.

Siehe Joe Karaganis, Hrsg. Shadow Libraries: Access to Knowledge in Global Higher Education, International Development Research Centre (Cambridge: The MIT Press, 2018), https://doi.org/10.7551/mitpress/11339.001.0001.

«Algorithms of Oppression». In Wikipedia, 28. Juni 2022. https://en.wikipedia.org/w/index.php?title=Algorithms_of_Oppression&oldid=1095369660.
«Algorithmus verbessert Erwerbschancen von Flüchtlingen». ETH Zürich, 18. Januar 2018. https://ethz.ch/de/news-und-veranstaltungen/eth-news/news/2018/01/algorithmus-verbessert-erwerbschancen-von-fluechtlingen.html.
«AlgorithmWatch». AlgorithmWatch. Zugegriffen 25. November 2024. https://algorithmwatch.org/de/.
Alma’aitah, Wafa’ Za’al, Abdullah Zawawi Talib, und Mohd Azam Osman. «Opportunities and Challenges in Enhancing Access to Metadata of Cultural Heritage Collections: A Survey». Artificial Intelligence Review 53, Nr. 5 (1. Juni 2020): 3621–46. https://doi.org/10.1007/s10462-019-09773-w.
Bansak, Kirk, Jeremy Ferwerda, Jens Hainmueller, Andrea Dillon, Dominik Hangartner, Duncan Lawrence, und Jeremy Weinstein. «Improving Refugee Integration through Data-Driven Algorithmic Assignment». Science 359, Nr. 6373 (19. Januar 2018): 325–29. https://doi.org/10.1126/science.aao4408.
Bender, Emily M., Timnit Gebru, Angelina McMillan-Major, und Shmargaret Shmitchell. «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜». In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–23. FAccT ’21. New York, NY, USA: Association for Computing Machinery, 2021. https://doi.org/10.1145/3442188.3445922.
Buolamwini, Joy. Unmasking AI: A Story of Hope and Justice in a World of Machines. First edition. New York: Random House, 2023.
Buolamwini, Joy, und Timnit Gebru. «Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification». In Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 77–91. PMLR, 2018. https://proceedings.mlr.press/v81/buolamwini18a.html.
Chen, Zhisheng. «Ethics and Discrimination in Artificial Intelligence-Enabled Recruitment Practices». Humanities and Social Sciences Communications 10, Nr. 1 (13. September 2023): 1–12. https://doi.org/10.1057/s41599-023-02079-x.
Chiang, Ted. «ChatGPT Is a Blurry JPEG of the Web». The New Yorker, 9. Februar 2023. https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web.
D’Ignazio, Catherine, und Lauren F. Klein. Data Feminism. First MIT Press paperback edition. Cambridge, Massachusetts: The MIT Press, 2023. https://data-feminism.mitpress.mit.edu/.
Deep Dive into LLMs Like ChatGPT, 2025. https://www.youtube.com/watch?v=7xTGNNLPyMI.
Drage, Eleanor, und Kerry Mackereth. «Does AI Debias Recruitment? Race, Gender, and AI’s ‹Eradication of Difference›». Philosophy & Technology 35, Nr. 4 (Dezember 2022): 89. https://doi.org/10.1007/s13347-022-00543-1.
«EU Artificial Intelligence Act | Up-to-Date Developments and Analyses of the EU AI Act». Zugegriffen 25. November 2024. https://artificialintelligenceact.eu/.
«Jobs für Flüchtlinge - Algorithmus verteilt neu Asylbewerber auf Kantone». Schweizer Radio und Fernsehen (SRF), 10. Mai 2018. https://www.srf.ch/news/schweiz/jobs-fuer-fluechtlinge-algorithmus-verteilt-neu-asylbewerber-auf-kantone.
Karaganis, Joe, Hrsg. Shadow Libraries: Access to Knowledge in Global Higher Education. International Development Research Centre. Cambridge: The MIT Press, 2018. https://doi.org/10.7551/mitpress/11339.001.0001.
Lacoste, Alexandre, Alexandra Luccioni, Victor Schmidt, und Thomas Dandres. «Quantifying the Carbon Emissions of Machine Learning», 4. November 2019. https://doi.org/10.48550/arXiv.1910.09700.
Long, Duri, und Brian Magerko. «What Is AI Literacy? Competencies and Design Considerations». In Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems, 1–16. CHI ’20. New York, NY, USA: Association for Computing Machinery, 2020. https://doi.org/10.1145/3313831.3376727.
Loukissas, Yanni A. All Data Are Local: Thinking Critically in a Data-Driven Society. Cambridge, Massachusetts: The MIT Press, 2019. https://doi.org/10.7551/mitpress/11543.001.0001.
Luccioni, Alexandra Sasha, Christopher Akiki, Margaret Mitchell, und Yacine Jernite. «Stable Bias: Analyzing Societal Representations in Diffusion Models», 9. November 2023. https://doi.org/10.48550/arXiv.2303.11408.
Mattu, Lauren Kirchner, Jeff Larson. «Machine Bias». ProPublica. Zugegriffen 25. November 2024. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.
Mehrabi, Ninareh, Fred Morstatter, Nripsuta Saxena, Kristina Lerman, und Aram Galstyan. «A Survey on Bias and Fairness in Machine Learning». ACM Comput. Surv. 54, Nr. 6 (13. Juli 2021): 115:1–35. https://doi.org/10.1145/3457607.
Mueller, Milton L. «It’s Just Distributed Computing: Rethinking AI Governance». Telecommunications Policy, Februar 2025, 102917. https://doi.org/10.1016/j.telpol.2025.102917.
Noble, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York university press, 2018.
O’Neil, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. First edition. New York: Crown Publishing Group, 2016.
Offert, Fabian, und Ranjodh Singh Dhaliwal. «The Method of Critical AI Studies, A Propaedeutic», 10. Dezember 2024. https://doi.org/10.48550/arXiv.2411.18833.
Ouyang, Long, Jeff Wu, Xu Jiang, Diogo Almeida, Carroll L. Wainwright, Pamela Mishkin, Chong Zhang, u. a. «Training Language Models to Follow Instructions with Human Feedback», 4. März 2022. https://doi.org/10.48550/arXiv.2203.02155.
Penedo, Guilherme, Hynek Kydlíček, Loubna Ben allal, Anton Lozhkov, Margaret Mitchell, Colin Raffel, Leandro Von Werra, und Thomas Wolf. «The FineWeb Datasets: Decanting the Web for the Finest Text Data at Scale», 31. Oktober 2024. https://doi.org/10.48550/arXiv.2406.17557.
«Surveillance Capitalism». In Wikipedia, 12. August 2024. https://en.wikipedia.org/w/index.php?title=Surveillance_capitalism&oldid=1239902991.
Zuboff, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. First trade paperback edition. New York, NY: PublicAffairs, 2017. https://www.hachettebookgroup.com/titles/shoshana-zuboff/the-age-of-surveillance-capitalism/9781610395694/?lens=publicaffairs.
Zurück nach oben
Kursbeschreibung
Session 1
  • Seite editieren
  • Problem melden