Wie KI-Videos entstehen: Thomas Hartl von schwammerl.tv über Satire, Deepfakes und die Grenzen künstlicher Intelligenz

Mit seinen „Narrischen Schwammerln“ lässt Thomas Hartl österreichische Politiker rappen, singen und in absurde Rollen schlüpfen.  Hartl komponiert Musik, singt Stimmen ein, trainiert eigene Modelle und arbeitet manchmal wochenlang an wenigen Minuten Video. Im Interview erklärt er, warum künstliche Intelligenz ausgerechnet beim Humor an ihre Grenzen stößt, die KI echte Schauspieler und Filmproduktionen noch lange nicht ersetzen wird und warum die letzten 5 Prozent der Qualität oft 95 Prozent des Aufwands bedeuten. Über Beschwerden von Politikern und den darauf einsetzenden Streisand-Effekt würde er sich sehr freuen.

kontrast.at: Sie betreiben das bekannte Satire-Format „Narrische Schwammerl“ und die Multimediaagentur „schwammerl.tv“. Wie sind Sie zu ihrer Tätigkeit als KI Video Producer gekommen?

Thomas Hartl: Ich bin mir nicht sicher, ob „KI Video Producer“ überhaupt das Etikett ist, das ich mir auf die Stirn kleben möchte, zumal ich versuche, immer auch „Echtes“ ganz bewusst als lebendigen Kontrast zur KI in meine Inhalte einzubinden. Das Verbinden von Technik und Kreativität hat mich jedenfalls schon immer sehr angezogen und angetrieben, was sich bei mir bereits im jugendlichen Alter in der Musikproduktion manifestiert hat. Da hab ich mir dann später ein kleines Studio gebaut, es allerdings immer nur als Hobby betrieben. Als ich dann so Mitte 2023 über die ersten Anwendungen gestolpert bin, mit denen man Bilder herbeiprompten konnte, habe ich sofort Blut geleckt – obwohl diese Tools eigentlich noch grottenschlecht waren.

Die folgenden drei Jahre, bis heute, habe ich dann kaum etwas anderes gemacht, als der rasenden Entwicklung generativer KI hinterherzujagen und dabei ständig die Grenzen des Machbaren auszureizen. Das besagte Zusammenspiel von Technik und Kreativität war damit auf einer ganz neuen Ebene für mich, wie auf Steroiden. Das eine hat das andere befeuert und scheinbar unendlich neue Möglichkeiten eröffnet. Dabei hatte ich auch den Eindruck, dass ich alles, was mir liegt und Spaß macht, im Format „Narrische Schwammerl“ zu einem Ganzen verschmelzen lassen kann – einschließlich der „handgemachten“ Elemente, der Musik, den Stimmen, dem Spiel mit der Sprache etc. Mit der steigenden Aufmerksamkeit kamen dann zunehmend professionelle Anfragen – Filmproduktionen, Unternehmen, Verlage, Fernsehen, Werbetreibende. Manche wollten Technisches, manche Kreatives, manche beides. Die Gründung einer Multimediaagentur, „schwammerl.tv“, war die naheliegende Konsequenz. Da darf man mich jetzt auch gerne anschreiben.

kontrast.at: Wie würden Sie ihre Arbeit beschreiben? Sind Sie Filmemacher, Satiriker, Künstler …. ?

Thomas Hartl: Auf dem Papier bin ich eine Multimediaagentur, Neudeutsch würde man vielleicht „Content Creator“ sagen. Meine Arbeit besteht zu einem großen Teil aus Spaß, Neugier und spielerischer Leichtigkeit. Manchmal fühle ich mich wie ein Fünfjähriger, der Häuser aus Legosteinen baut, aber am Ende damit ein Einkommen bestreitet. Mit einem Augenzwinkern bin ich einfach ein professionelles Kind – und könnte mir nichts Besseres vorstellen. „Künstler“ wäre mir selbst zu hochtrabend, empfinde die Zuschreibung von außen aber durchaus als schmeichelhaft.

Mit einem Augenzwinkern bin ich einfach ein professionelles Kind – und könnte mir nichts Besseres vorstellen.

Klicken Sie hier, um Cookies zu akzeptieren und diesen Inhalt zu laden.

kontrast.at: Werden Leute wie Sie gebucht für Stunt-Szenen, Action Szenen in Filmen?

Thomas Hartl: Die neue Technologie wird zunehmend immer höheren Ansprüchen gerecht. Im einen Fall bedeutet sie eine immense Kostenersparnis oder Finanzierbarkeit, im anderen Fall überhaupt erst eine generelle Machbarkeit. Da entsteht vermehrt eine Nachfrage, der viele konventionelle Filmproduktionen gar kein Angebot entgegenstellen können. Die melden sich dann bei mir zwecks allfälliger Zuarbeit.

kontrast.at: Wie aufwändig ist die Produktion von KI-Videos, wie Sie das machen auf dem „Narrische Schwammerl“-Kanal? Wie lang arbeiten Sie an einem Clip? Und wie teilt sich die Zeit auf Skript, KI-Generierung, Schnitt und Postproduktion auf?

Thomas Hartl: Auch weil ich mich vom Fast Food abgrenzen will: Die Kochzeit hängt stark vom Gericht ab. Dazu kommt einiges an Vorarbeit, bevor ich mich mit einem konkreten Clip überhaupt erst beginne. Die besteht vor allem in der sorgfältigen Erstellung eigener Modelle für Charaktere, Stimmen, Animationen etc. Die eigentliche Clip-Produktion dauert dann von wenigen Stunden bis zu mehreren Wochen.

Ein Skript gibt es nie. Zwar hab ich oft ein grobes Konzept oder zumindest eine Grundidee im Kopf, aber die besten und meisten Ideen kommen im Prozess selbst, der oft beim Experimentieren mit neuen Tools beginnt. Ich schlage dann folglich immer wieder einige Haken, verwerfe viele Elemente und springe ständig zwischen den einzelnen Arbeitsschritten und Tools hin und her. Das bringt mein Hirn oft zum Rauchen, weil dort alle Arbeitsschritte vorwärts, rückwärts und überkreuz gleichzeitig ablaufen, schafft aber eine gute Mischung aus Spontaneität und stur ausgetüftelter Kleinarbeit in einem sehr dynamischen Prozess. In jedem Fall steckt sehr viel Akribie drin. Die letzten 5 Prozent der Qualität bedeuten manchmal 95 Prozent des Aufwands.

kontrast.at: Welche Skills, wieviel Personal benötigen Sie für die Produktion von solchen Clips? Was ist da an Arbeit zu machen, wie muss man sich das vorstellen? Beschreiben Sie der KI per Text, was sie wollen und die setzt das dann um? Passiert das zb in 10 Schleifen oder setzen Sie möglichst früh alle Details fest?

Thomas Hartl: Bis dato mache ich alles im Alleingang. Ein Teil ist die Aufbereitung und Verbesserung von Datensätzen, die ich dann unterschiedlichen Modellen anlerne. Das betrifft vor allem Aussehen und Stimmen. Die Stimmen spreche ich selbst ein, wobei es für ein überzeugendes Ergebnis wichtig ist, auf Wortwahl, Sprachmelodie, Tonhöhe, Muster usw. zu achten und generell möglichst nahe am Original zu sein. Dazu sammle ich schon Notizen, während ich die Datensätze aufbereite.

Die Schwierigkeit ist, den blinden Zufall der KI-Modelle möglichst unter die Kontrolle der eigenen Vorstellungen zu bringen.

Viele Clips beginnen erst einmal mit der Musik. Die spiele und produziere ich komplett selbst, singe auch sämtliche Stimmen und verschiebe die Tonart wenn nötig ein Stück in Richtung der Zielstimme. Wenn dann ein fertiges Musikstück da ist, kommt erstmals KI zum Einsatz, wenn mein imitierender Gesang durch das eigens erstellte Stimmmodell läuft. Beim Ton beschreibe ich KI-Modellen also gar nichts. Für die Visualisierung beginne ich meist mit Einzelbildern, die über mehrere Schritte nach meinen Vorstellungen justiert werden und später, für die Animation, als sogenannte „Keyframes“ fungieren. Das Beschreiben, also „Prompten“, ist dabei nur eine mögliche Technik von sehr vielen. Das Ziel ist immer ein möglichst großer Werkzeugkoffer und die richtige Wahl und Bedienung der Werkzeuge für den jeweils konkreten Zweck. Die Schwierigkeit ist, den blinden Zufall der KI-Modelle möglichst unter die Kontrolle der eigenen Vorstellungen zu bringen. Schnitt, Compositing, Vertonung etc. erfolgt dann wieder ganz klassisch, ohne KI.

kontrast.at: Wenn ich jetzt zB eine Fortsetzung von Sissi (dem Film aus 1955) produzieren möchte … sagen wir mal in voller Länge, so 100 Minuten. Sissi verliebt sich in ihr Zimmermädchen, brennt mit ihr durch und beginnt ein neues Leben in Paris und erlebt dort diverse Abenteuer. Wieviel Zeit und Aufwand würde das benötigen?

Thomas Hartl: Wenn ich das ganz alleine und nach meinen Ansprüchen umsetze, würde ich bestimmt mehr als ein Jahr dafür benötigen – und ob sich dann viele Zuseher am Ergebnis erfreuen, da habe ich starke Zweifel. Ich denke, im Film wollen wir eine Widerspiegelung von Menschlichem, Emotionen, wollen uns hineinversetzen oder identifizieren. Der Halbgottstatus von vielen Schauspielern oder auch Popstars zeugt von genau diesem Projektionsbedürfnis.

Gerade ein Beispiel wie Sissi ist heikel, weil für das Publikum so viel Nostalgie und Heimatgefühl mitdranhängt. Eine Romy Schneider aus der KI-Retorte würde man mit echten Tomaten bewerfen. Die Dimension Spielfilm ist nochmal etwas anderes als Satire und Klamauk in Kurzclips. Solange einem Film auch nur marginal der künstliche Stallgeruch von KI anhaftet, wird er im Regelfall auf sehr viel Ablehnung stoßen und auch den KI-Superstar wird es wohl so eher nicht geben. So beeindruckend und schnell die Entwicklung der Technologie auch ist – da fehlt noch ein gutes Stück zur wirklich perfekten Illusion und die Frage nach grundsätzlichen Grenzen bleibt obendrein. Kurz- bis mittelfristig sehe ich KI jedenfalls nicht als Substitut für die klassische Filmproduktion, eher als ein komplementäres Werkzeug.

kontrast.at: Wie geht man als Content Creator damit um, dass die KI-Tools ja auch gebiased sind? Also wenn ich zum Beispiel ein Video machen will, wo zb Frauen mitspielen …. werden diese Frauen sehr stereotyp aussehen (weiß, hübsch, jung) – ist das ein Ziel überhaupt, dass man das ausgleicht? Kann man das überhaupt?

Thomas Hartl: Damit hab ich überhaupt kein Problem. Klar, wenn ich bei einschlägigen Online-Diensten schlicht ein Bild prompte, dann gibt es dort diesen Bias. Jedes Modell spuckt am Ende das aus, womit es gefüttert wurde. Auf der professionellen Ebene füttert man aber viel selbst und hat eine Vielzahl an weiteren Möglichkeiten, Ergebnisse nach den eigenen Vorstellungen zu justieren. Man kann auch ein Video erstellen, in dem alle Frauen statt der Nase einen Rüssel haben, von Baum zu Baum springen und dabei „Eye of the tiger“ mit der Stimme von Hans Moser singen. Man kann alles anpassen und auch jeden Bias über Bord werfen.

Klicken Sie hier, um Cookies zu akzeptieren und diesen Inhalt zu laden.

kontrast.at: Mit welchen KI-Tools arbeiten Sie konkret bzw wie oft müssen Sie umlernen, weil ein neues Modell alles überholt, also besser funktioniert?

Thomas Hartl: Nahezu alles, was ich an KI-Tools nutze, ist Open Source und basiert auf Python. Das Herzstück ist ComfyUI, dort lässt sich alles nach modularem Baukastenprinzip nach den eigenen Vorstellungen zusammenbauen. Neue Modelle unterschiedlicher Entwickler lassen sich dort genauso integrieren und arrangieren wie eigens trainierte Ergänzungen. Früher war’s tatsächlich ein sehr abruptes Tool-Wechseln und Umlernen. ComfyUI wächst aber mit, das Umlernen ist jetzt mehr ein Dazulernen. Mit der Nutzung und dem Trainieren von neuen Modellen macht man sich in der Regel relativ schnell vertraut. Aber wer weiß, vielleicht kommt auch wieder mal ein größeres Umlernen.

kontrast.at: Wo liegen heute noch die klaren Grenzen, also Dinge, die die KI einfach nicht überzeugend kann?

Thomas Hartl: Ich kann natürlich nicht für KI insgesamt, sondern nur für einen Teilbereich innerhalb der generativen KI sprechen. Da hat zum einen jedes Modell Schwächen, die sukzessive überwunden werden. Hände sind vermutlich das prominenteste Beispiel. Dann gibt es aber auch die Dinge, die KI – möglicherweise – grundsätzlich nicht kann, da kommt mir sofort Humor in den Sinn.

KI operiert streng nach dem Prinzip der Wahrscheinlichkeit, Humor bedeutet aber oftmals gerade den Bruch mit der Wahrscheinlichkeit. In dem Sinne ist KI sogar die Antithese zum Humor.

Ich hab es immer wieder mal probiert, konnte aber nie etwas entlocken, was auch nur im Entferntesten an Brauchbarkeit gekratzt oder auch nur ein bisschen inspiriert hätte. Klar kann KI den Witz zum Sonntag rezitieren, aber ist das dann Humor? KI operiert streng nach dem Prinzip der Wahrscheinlichkeit, Humor bedeutet aber oftmals gerade den Bruch mit der Wahrscheinlichkeit. In dem Sinne ist KI sogar die Antithese zum Humor.

kontrast.at: Sperren die Tools bei echten Politikern oder heiklen Inhalten? Wie gehen Sie mit solchen Filtern um?

Thomas Hartl: Ich arbeite lokal, da gibt es keine Sperren oder Filter.

kontrast.at: Wo ziehen Sie selbst die Grenze beim Spott? Gibt es Themen oder Personen, die für Sie tabu sind?

Thomas Hartl: Das ist eine Frage, die immer im Nacken sitzt und die auch nicht immer einfach zu beantworten ist. Das gilt für die hypersensible Gegenwart ganz speziell. Blättere heute ein Buch von Manfred Deix durch – da musst du praktisch jede Seite herausreißen und den Einband hinterherschleudern, wenn du es nicht riskieren möchtest, am Galgen des Zeitgeists zu baumeln.

Die Lynchjustiz des Internets ist immer im Dienst und schneller, als jedes Gericht.

Es fühlt sich schon manchmal an wie ein Minenfeld, auf dem ein falscher Tritt fatal wäre. Die Lynchjustiz des Internets ist immer im Dienst und schneller, als jedes Gericht. Meine Videos gehen deshalb in Zweifelsfällen vorab an einen kleinen Kreis des Vertrauens, weil mir nach langem Herumschrauben auch oft schon der nötige Abstand fehlt. Bisher ist das auch gut gegangen, von einzelnen Beleidigungen gegen mich abgesehen, aber die waren eh immer schon miteingepreist. Ich lehne mich schon gerne mal aus dem Fenster und nehme auch in Anspruch, dass man immer jemandem auf die Zehen treten darf und muss, wenn es satirisch wird, speziell bei Personen, die sich bewusst dazu entschlossen haben, in ihrer Berufswahl im öffentlichen Interesse zu stehen.

Eine Grenze ist jedenfalls, einfach nur auf rein persönlicher Ebene zu beleidigen. Wer sich auf Tucholskys „Satire darf alles“ bezieht und es als Freibrief versteht, hat den restlichen Text nicht gelesen. Eine mehr stilistische als moralische Grenze ziehe ich außerdem bei zu plumpen Inhalten – eine Pointe, die sich in einem viele Zigaretten rauchenden van der Bellen erschöpft, fände ich entsetzlich langweilig. Dann lieber ins Absurde abdriften und ihn als abgehobene Esterházy-Erbin mit ungarischem Akzent darstellen.

kontrast.at: Hat je eine der parodierten Personen reagiert, sich beschwert oder mit rechtlichen Schritten gedroht?

Thomas Hartl: Nein, aber ich bin natürlich darauf vorbereitet und würde mich über den Streisand-Effekt sehr freuen.

kontrast.at: Sehen Sie eine Gefahr, dass dieselbe Technik für echte Desinformation missbraucht wird, und unterscheidet sich Ihre Arbeit davon?

Thomas Hartl: Selbstverständlich, aber Desinformation gab es auch vorher schon und so ziemlich jede Technik kann für irgendetwas missbraucht werden. Die größte Unbehaglichkeit besteht bei der KI wohl darin, dass sie die höchste Verifikationsinstanz des Alltags in Frage stellt. Etwas mit seinen eigenen Augen gesehen (oder Ohren gehört) zu haben, hat einem bisher nicht nur sprichwörtlich die ultimative Sicherheit geboten. Sich daran nicht mehr so sehr festhalten zu können, bereitet natürlich vielen ein gewisses Unwohlsein.

Meine Arbeit tangiert die Kategorie der Information aber überhaupt nicht. Die negativen Attribute, die man mir an den Kopf werfen kann, sind eher ästhetischer und damit auch sehr subjektiver Natur: Unlustig, geschmacklos, im Äußersten beleidigend oder verletzend – aber weder informiere noch desinformiere ich. Ich würde es jedenfalls als positiven Nebeneffekt bewerten, wenn Menschen über harmlosen Schabernack mit neuen, technischen Möglichkeiten vertraut werden, als über Betrug oder ähnliche Absichten.

kontrast.at: Der Kickl-Rap ging viral. Was macht aus Ihrer Sicht den Unterschied zwischen einem Clip, der untergeht, und einem, der explodiert?

Thomas Hartl: Vieles liegt am Algorithmus. Der Kickl-Rap ist auf YouTube eines der meistgeklickten, auf Instagram eher eines der am wenigsten aufgerufenen Videos. Ich bekomme auch immer wieder Links zu Reuploads meiner Videos geschickt, die haben manchmal zigfache Aufrufzahlen meiner eigenen Uploads, obwohl es sich um dasselbe Video auf derselben Plattform handelt. Was aber ursprünglich als Resteverwertung begonnen und sich als Dauerbrenner etabliert hat, ist das Format im Format, „Schwammerlgulasch“. Schneller Schnitt, hohe Pointendichte und viele Überraschungsmomente scheinen den Zeitgeist ganz gut zu treffen.

Ich versuche aber in erster Linie weniger ein Patentrezept zu finden, als selbst Spaß beim Erstellen zu haben und immer wieder Neues und Überraschendes aus dem Hut zu zaubern, sonst würde ich mich auch schnell selbst langweilen. Wenn’s dann auch noch bei einem Publikum funktioniert, großartig, kann ich aber eh nicht beeinflussen und möchte mich letztlich auch nirgendwo anbiedern.

kontrast.at: Wie viel kosten Ihnen die Benutzung oder Lizenzen für die Programme, die Sie für Ihre Videos benutzen?

Thomas Hartl: Meine Dauerbrenner-Tools wie Cubase oder DaVinci Resolve sind einmal erworbene Dauerlizenzen, der Rest ist Open Source. Um alles, was mit dem Trend Abo- bzw. Credit-Modell zu tun hat, mach ich einen möglichst großen Bogen.

kontrast.at: Sie betreiben den Kanal schon seit einiger Zeit. Hat sich die Reaktion der User:innen auf ihren Content in dieser Zeit verändert? Akzeptieren User:innen KI-Inhalte heute mehr als vor etwa einem Jahr?

Thomas Hartl: Nicht wesentlich. Die Wortschöpfung „AI Slop“ kommt nicht von ungefähr, das Internet wird ja tatsächlich mit KI-Inhalten regelrecht zugemüllt – und die Tendenz scheint nicht sinkend. Dass damit einhergehend eine pauschale Ablehnung eher zu- als abnimmt, sollte nicht verwundern. Ich lese oft Kommentare von Personen, die meine Videos wohlwollend als positive Ausnahme bezeichnen, aber mittlerweile gibt es auch einzelne „Hardliner“, die alles, was mit KI zu tun hat, kategorisch ablehnen. Das ist auch völlig in Ordnung, ich kann gut nachvollziehen, woher diese Haltung kommt und verüble das auch niemandem.

Das Thema "Satire" im Parlament