In this course we will deal with the rise of synthetic media caused by artificial intelligence (AI), such as deepfakes, and we will work together to find out how these challenge traditional media theories. The term “deepfake” is composed through the combination of the two English terms “deep learning” (a specific class of machine learning methods) and “fake” and describes the manipulation or falsification of (photo) realistic media content (video - and audio content) through artificial neural networks, which manipulations or forgeries can generate largely autonomously - without any human interaction or correction. Synthetic media generated by artificial intelligence (AI) has the potential to undermine every digital communication channel and question our certainty about our reality: the videos have fictional content, but look deceptively "real", the audio content sounds absolutely authentic and is for the eye or the ear of the untrained recipient difficult recognize as fiction or fake.

Up until recently the photo-realistic manipulation of moving images was a complex and time-consuming endeavour and was therefore made only by professional (film) studios and specialists for visual effects. Today, this technology is available as an app on almost every smartphone, so that photo-realistic manipulation is increasingly becoming a mass phenomenon. Deepfakes appeared on the Internet for the first time in 2017. Today experts based at the Amsterdam-based company Deeptrace suspect that around 15,000 deepfake videos are currently circulating online. Although 96% of these videos have pornographic content, it is already foreseeable that these new synthetic media can lead to misinformation or disinformation and thus to destabilization and the erosion of political processes, as there is a connection between disinformation campaigns, media manipulation and increasing authoritarianism. If the creation of deepfakes becomes a mass phenomenon and thus makes it difficult to clearly differentiate between real and faked or say manipulated video and audio content, then all media content will be under suspicion of being manipulated, which in turn points to facts that if our processen of fabricating public opinion gets under pressure, this can have fatal consequences.

In addition to the introduction to reading some key texts on the topic, the course also serves to deepen technical and methodological skills with regard to the evaluation of some central texts and their relationship to traditional media theories. During the seminar we want to discuss how viable media-theoretical ideas and assumptions are still today, especially for the current discussion of the subject of "deepfakes" in the course of media globalization.

At the end we want to deal with a few selected projects by media artists and designers too, such as Machine Auguries (2019) by British designer Alexandra Daisy Ginsberg. Ginsberg is collaborating from the perspective of critical design with AI experts to generate and detect synthetic media in order to be able to use the singing of great tits, redstarts, robins, thrushes, willow warblers and whole morning choirs from the archives of the British Library in this project. As a result, two neural networks were optimized, which were trained against one another with the help of a competitive neural network, a Generative Adversarial Network (GAN).

Attendance at our first meeting on October 6, 2020 is mandatory because on this day we will discuss the lecture topics and present the content (with the help of a detailed syllabus), which we will deal with during the semester. At the beginning of our meeting, texts and materials are made available on BASE Angewandte, on the website of the department for media theory medientheorie.ac.at there are always announcements and updates about the event.

In diesem Proseminar werden wir uns mit der Erzeugung von synthetischen Medien durch Künstliche Intelligenz (KI) befassen, wie etwa Deepfakes und werden zusammen erarbeiten, auf welches Weise diese tradierte Medientheorien herausfordern. Der Ausdruck „Deepfake“ setzt sich aus den englischen Begriffen „Deep Learning“ (einer bestimmten Klasse von Methoden des maschinellen Lernens) und „Fake“ (Fälschung) zusammen und beschreibt die Manipulation bzw. die Fälschung von (foto)realistisch wirkenden Medieninhalten (Video- und Audioinhalte) durch künstliche neuronale Netze, die Manipulationen bzw. Fälschungen weitgehend autonom – ohne menschliche Interaktion und Korrektur – erzeugen können. So können durch Künstliche Intelligenz (KI) erzeugte synthetische Medien heute jeden digitalen Kommunikationskanal untergraben und unsere Realitätsgewissheit in Frage stellen: die Videos haben fiktive Inhalte, sehen jedoch täuschend echt aus, die Audioinhalte hören sich absolut authentisch an und sind für den nicht geschulten Rezipienten, bzw. das geübte Ohr nicht als Fiktion bzw. Fälschung zu erkennen.

Bis vor wenigen Jahren war die fotorealistische Manipulation von Bewegtbildern sehr aufwendig und zeitintensiv und damit professionellen (Film-)Studios und Spezialisten für Visual Effects vorbehalten. Heute gibt es diese Technik als App auf beinahe jedem Smartphone, sodass sich die fotorealistische Manipulation zunehmend zu einem Massenphänomen entwickelt. Deepfakes kamen im Internet zum ersten Mal vereinzelt 2017 auf. Heute vermuten Experten der in Amsterdam ansässigen Firma Deeptrace, dass gegenwärtig etwa knapp 15000 Deepfake Videos online zirkulieren. Obwohl 96% dieser Videos pornographische Inhalte haben, ist schon heute absehbar, dass diese neuen synthetischen Medien zu Fehl- oder Desinformationen führen können und damit zu einer Destabilisierung und Erosion politischer Prozesse, da ein Zusammenhang existiert zwischen Desinformationskampagnen, Medienmanipulation und zunehmendem Autoritarismus. Wird die Erzeugung von Deepfakes zu einem Massenphänomen und erschwert damit eine klare Unterscheidung zwischen echten und gefälschten bzw. manipulierten Video- und Audioinhalten, dann werden alle Medieninhalte unter Generalverdacht stehen, gefälscht bzw. manipuliert zu sein, was wiederum auf eine auf Fakten und wahren Informationen basierende öffentliche Meinungsbildung fatale Auswirkungen haben kann.

Neben der Einführung in die Lektüre einiger Schlüsseltexte zum Thema dient das Proseminar zugleich der Vertiefung von fachlich-methodologischen Fähigkeiten im Hinblick auf die Bewertung einiger zentraler Texte und deren Beziehung zu tradierten Medientheorien. Im Seminar wollen wir diskutieren, wie tragfähig tadierte medientheoretische Vorstellungen und Annahmen heute noch sind, insbesondere für die gegenwärtige Auseinandersetzung mit dem Thema „Deepfakes“ im Zuge der medialen Globalisierung unsere Gegenwart.

Am Ende wollen wir uns mit einigen ausgewählten Arbeiten von MedienkünstlerInnen und DesignerInnen befassen, wie zum Beispiel mit Machine Auguries (2019) der britischen Designerin Alexandra Daisy Ginsberg. Ginsberg arbeitet in der Perspektive des Critical Designs mit KI ExpertInnen zur Generierung und Detektierung synthetischer Medien, um in dieser Arbeit den Gesang von Kohlmeisen, Rotstarts, Rotkehlchen, Drosseln, Weidenlaubsänger und ganzen Morgenchören aus den Archiven der British Library verwenden zu können. Es wurden in der Folge zwei neuronale Netze optimiert, die mithilfe eines kompetitiven neuronalen Netzwerks, eines Generative Adversarial Networks (GAN), gegeneinander trainiert wurden.

Die Anwesenheit zum Einführungstermin am 6. Oktober 2020 ist notwendig, da wir an diesem Tag die Referatsthemen besprechen und die Inhalte vorgestellt werden (mit Hilfe eines ausführlichen Syllabus), mit welchen wir uns im Seminar beschäftigen werden. Zu Beginn der Veranstaltung werden auf der BASE Texte und Materialien zur Verfügung gestellt, auf der Seite der Abteilung für Medientheorie medientheorie.ac.at gibt es immer wieder Ankündigungen und Updates zur Veranstaltung.

Anwesenheit, Präsentation/Referat im Seminar von etwa 30 Min. (und ein Abstract mit 300 Worten) sowie schriftliche Arbeit am Ende des Semesters (4000 Worte) - Attendance, 30 min. presentation (including an abstract with 300 words), written essay on February 15, 2021 (4000 words essay)

Der Kurse findet online statt, via ZOOM.