In einer Phase beschleunigter Innovation – insbesondere in den Bereichen maschinelles Lernen und künstliche neuronale Netze – hat sich die gesellschaftliche Reichweite KI-gestützter Technologien stark erweitert, was weitreichende Folgen für die soziale Organisation, Wissensregime und globale Wirtschaftsstrukturen mit sich bringt.

Zu diesen Folgen gehören: (1) die Neugestaltung von Machtdynamiken, da KI-Systeme Entscheidungsprozesse vermitteln, die zuvor von menschlichem Urteilsvermögen bestimmt wurden; (2) die Intensivierung von Überwachungs- und Kontrollmechanismen, die zu neuen Formen sozialer Normalisierung und Ausgrenzung beitragen; (3) die Destabilisierung epistemischer Autorität, da algorithmische Modelle traditionelles Fachwissen in Frage stellen und umstrittene Formen der Wissensproduktion hervorbringen; und (4) die Verschärfung wirtschaftlicher Ungleichheiten, da KI-gestützte Automatisierung Arbeitsmärkte umgestaltet und Wohlstand asymmetrisch umverteilt (5). Zusammengenommen erfordern diese Entwicklungen eine kritische Auseinandersetzung mit den ethischen, politischen und sozialen Rahmenbedingungen, die die Integration von KI-Technologien in demokratische Gesellschaften bestimmen.

Das Seminar konzentriert sich auf die kritische Auseinandersetzung damit, wie KI-Systeme nicht nur die Welt widerspiegeln, wie sie ist, sondern dazu beitragen, genau die Strukturen der Ungleichheit und Ausgrenzung zu reproduzieren und zu verschärfen, die sie angeblich überwinden wollen. Besonderes Augenmerk wird auf die algorithmische Datenverarbeitung im Kontext von Plattformkapitalismus, staatlicher Überwachung, biometrischer Kontrolle und der zunehmenden Kommerzialisierung sozialer Praktiken gelegt.

Inwieweit kodieren KI-Technologien Kategorien sozialer Differenz – wie Ethnizität, Rasse, Geschlecht, Klasse, Behinderung, Alter und sexuelle Orientierung – und wie wirken sich diese Repräsentationsmechanismen auf soziale Teilhabe, Gerechtigkeit und epistemische Autorität aus?

Ein besonderer Schwerpunkt des Seminars liegt auf der kritischen Analyse zentraler Konzepte, die das aktuelle Verständnis von KI und der digitalen Gesellschaft prägen: Maschinelles Lernen, Dataveillance, Datafizierung, digitale Ökologie, algorithmische Verzerrung und KI-Verzerrung. Diese Begriffe bezeichnen Kernprozesse, durch die datengetriebene Technologien in soziale, politische, wirtschaftliche und ökologische Systeme eingreifen – oft unter dem Deckmantel objektiver Effizienz, jedoch häufig mit intransparenten und normativ aufgeladenen Auswirkungen.

Kritische KI untersucht die institutionellen, wirtschaftlichen und politischen Kontexte, in denen KI-Anwendungen entstehen, und die damit verbundenen epistemischen und sozialen Ausgrenzungen. Ebenso eröffnet die Perspektive der Queer-KI neue konzeptionelle Räume jenseits binärer Klassifikationslogiken. Sie setzt sich kritisch mit normativen Annahmen zu Geschlecht, Verkörperung, Identität und Repräsentation auseinander, die in Datenmodellen und Trainingsdatensätzen verankert sind, und schlägt gleichzeitig spekulative Alternativen zu hegemonialen KI-Designs vor.

Ein weiterer Schwerpunkt liegt auf Datenfeminismus und feministischer KI, einem Ansatz, der feministische Theorie, postkoloniale Studien, soziale Gerechtigkeit und kritische Datenpraktiken integriert. Datenfeminismus stellt die Illusion objektiver Datenerhebung in Frage und plädiert für kontextuelle, partizipatorische und gerechte Formen der Wissensproduktion. Er stellt die Sichtbarkeit struktureller Ungleichheiten in den Vordergrund und untersucht kritisch, wie epistemische Gewalt in Datenmodellen verankert ist – durch den Ausschluss, die Verzerrung oder die Homogenisierung pluraler sozialer Realitäten. Ergänzt werden diese Ansätze durch postkoloniale und dekoloniale Perspektiven auf Rasse und Technologie, die untersuchen, wie KI-Infrastrukturen rassistische Klassifizierungen aufrechterhalten – beispielsweise bei der biometrischen Gesichtserkennung, beim Profiling oder bei algorithmischen Entscheidungen in Polizei- und Migrationssystemen.

Unser Seminar ist weitgehend prüfungsimmanent aufgebaut. In kollaborativen Materialsichtungen werden wir visuelles Material sichten und gemeinsam kontextualisieren.

In jeder Lehrveranstaltung wird es einen Theorie-Input geben (20 Minuten), Case Studies (50 Minuten) und Close Reading (20 Minuten), es wird von den Studierenden erwartet, dass sie regelmäßig anwesend sind, sich an den Diskussionen beteiligen und ein kurzes Impulsreferat (5 Minuten) im Semester vorbereiten.

Die Leistungsüberprüfung wird mit einer schriftlichen Abschlussarbeit abgeschlossen (ca. 4-5 Seiten), es besteht auch die Möglichkeit, ein Video-Tutorial, ein Serious Game, einen Watchblog oder einen Podcast zur Themenstellung der LV zu produzieren: Details und Optionen werden in der ersten LV-Einheit diskutiert.