Game over
Wissen Sie, was VEO 3 ist? VEO 3 und seine Geschwister werden Ihr Leben vermutlich nachhaltig verändern. Das Programm ist in der Lage, realistische Videos auf Basis von schriftlichen Prompts zu erstellen. Und wir sprechen hier nicht von Videos, bei denen Menschen sieben Finger an einer Hand haben oder auf Schildern nur Fantasieworte stehen, wie wir es bisher von KI bei dieser anspruchsvollen Aufgabe gewohnt sind. Wir sprechen von filmreifen Szenen in Netflix-Qualität mit beliebigen Wesen, die realistisch sprechen und dabei passend die Gesichtsmuskeln bewegen und gestikulieren. Aber was ist daran so bahnbrechend, dass ich plakativ „Game over!“ betitele? Schauen wir es uns gemeinsam an.
Wie moderne KI unsere Gesellschaft erobert
Der breite Siegeszug der „modernen KI” beginnt mit den unscheinbaren Large Language Models (LLM) und der generativen KI (GenAI). Kurz gesagt: Big (Training) Data + Statistik = Magie.
Es kommt nicht von ungefähr, dass Google mit all seinen YouTube-Daten und der damit verbundenen Erfahrung mit Videoinhalten und detaillierter Konsumentenanalyse mit VEO 3 einen bahnbrechenden Videogenerator geschaffen hat. Die fehlende digitale Souveränität begünstigt natürlich vor allem jene, die schon im Besitz von Big Data sind. Mit dem Data Act versucht die EU hier ein wenig gegenzusteuern.
Generative KI ist deshalb so einflussreich – also erfolgreich, uns Menschen zu beeinflussen –, weil sie ihre Kreationen gerade darauf optimiert, etwas möglichst Attraktives für Menschen zu schaffen. Dazu nutzt sie Interpolation und Extrapolation auf einer großen Menge passenden menschlichen Kulturguts.
Über den Autor
Marc-Oliver Pahl ist Professor für Cybersicherheit an der französischen Grande Ecole IMT Atlantique. Er leitet dort den größten industriellen Lehrstuhl für Cybersicherheit Frankreichs rund um Cybersicherheit für kritische nationale Infrastrukturen. Er studierte Informatik und Medienwissenschaft in Tübingen, promovierte in Rechnernetzen und Verteilten Systemen an der TU München und befasst sich seit vielen Jahren mit Cybersicherheit. Als Experte für E-Learning hat er unter anderem die praktische universitäre Ausbildung in Rechnernetzen und Verteilten Systemen in Deutschland nachhaltig beeinflusst. Zudem ist Marc-Oliver Pahl Mitglied des GI-Präsidiums, Präsident des German Chapter of the ACM sowie aktives Mitglied in den Präsidiumsarbeitskreisen Digitale Souveränität und Schutz vulnerabler Gruppen.
Shakespeare auf Knopfdruck
Die Kreationen von generativer KI lassen sich vielfältig einsetzen. Viele Early Adopters – sprich Schüler*innen – nutzen den ausführbaren Shakespeare, Rilke oder Mann schon als billigen Ghostwriter. Täuschend gute Qualität auf Knopfdruck. Lehrkräfte erstellen bessere Lehrmaterialien, Kreative können ohne großes Team ganze Kampagnen aus dem Boden stampfen oder nun eben auch Vlogs oder Kinofilme generieren und damit Großes leisten. Oder eher leisten lassen? Wer ist der Urheber? Wer braucht noch die, die übersetzen, Storyboards schreiben, Protokolle erstellen oder Folien bauen?
Wir müssen all das als Gesellschaft zeitnah und ausgiebig diskutieren und die Diskussion gerade aus der Perspektive der Informatik noch stärker in die Gesellschaft bringen. Denn wie so oft in unserer Disziplin bewegt sich das Feld schnell und die Gesellschaft hinkt hinterher. Durch ihren transformativen Charakter ist der Einfluss von KI auf die Gesellschaft ohne passenden Diskurs in der Gesellschaft sehr gefährlich. Und das Feld bewegt sich selbst in Informatik-Dimensionen sehr schnell.
Bis andere Wissenschaften oder die Gesellschaft nachkommen, ist die – oder richtiger – hat sich die KI schon um Meilen weiterentwickelt. Und die Reflexivität des „Sich-selbst-Entwickelns“ ist heutzutage nicht mehr nur Rhetorik. Eine signifikante Menge an Code wird schon heute von KI geschrieben.2 Aber dieser Diskurs wird bereits an anderer Stelle geführt.3
Medienkompetenz als Schlüssel
Wie gehen wir mit der schönen neuen Welt der menschlichen Koexistenz mit KI um? Ein für mich essenzieller Teil eines gesunden Umgangs ist Medienkompetenz. Unter Medienkompetenz verstehe ich nachfolgend vor allem den informierten und kritischen Umgang mit Medien. Als das Internet aufkam, war es für viele schon sehr schwierig mit der Medienkompetenz. Letztlich lässt sie sich auf die Frage herunterbrechen, wem oder was ich trauen kann.
Früher schien man dieses Vertrauen einfacher zu vergeben. Es gab sogenannte seriöse Medien. Dahinter steckte ein kluger Kopf beziehungsweise eine Redaktion, ein verantwortlicher Mensch. Dies gab der Gesellschaft mithilfe des Mandats an die Politik Kontrollmöglichkeiten bezüglich der kommunizierten Inhalte. Ziel dieser Kontrolle ist es, die Gesellschaft vor gefährdenden Inhalten zu schützen. Eine prominente Instanz ist der Fernsehrat, der das Programm aller deutschen Sendeanstalten kontinuierlich kritisch auswertet.
Das alles funktioniert aber nur gut in Massenmedien, also Medien, die sich an ein Massenpublikum wenden. Denn nur bei solchen Medien ist das, was empfangen wird, für eine große Zahl von Menschen gleich. Beispiele sind lineares Fernsehen, Zeitungen, Plakate, Filme, Zeitschriften oder auch Computerspiele. Bei Letzteren geht das Problem allerdings schon los: Inhalte werden in Spielen dynamisch generiert. Das ist schwieriger zu kontrollieren. Daher gibt es eine Freiwillige Selbstkontrolle (FSK), bei der sich Hersteller an bestimmten Kriterien orientieren, um sicherzugehen, dass die ausgespielten Inhalte für die entsprechende Zielgruppe geeignet sind. Mit KI-generierten Inhalten ist die notwendige Kontrolle zum Schutz des Individuums und der Gesellschaft viel schwieriger.
Personalisierung ist Programm
Vor gar nicht allzu langer Zeit hat sich der Konsum und damit die Medienlandschaft massiv verändert. Covid-19 hat seinen Teil beigetragen. Ein wenig überspitzt formuliert leben wir heute in einer Informationsgesellschaft, in der jede*r individuelle Informationen bekommt. Nach dem Aufkommen von Plattformen wie YouTube, wo alle rauspusten konnten, der Fokus also auf den Schaffenden lag, liegt jetzt der Fokus klar auf den Konsument*innen: Durch das Überangebot von vermeintlicher Wahrheit kann jede Person ihren individuellen Vertrauensanker bestimmen.
Die vielfach beforschten Echokammern sind kein Nischenphänomen mehr. Sie sind eine Massenrealität: So ist es zum Beispiel sehr unwahrscheinlich, dass Sie auch nur annähernd die gleichen Informationen konsumieren wie ich, wenn wir auf Plattformen wie Facebook, Instagram, YouTube oder Telegram gehen.
Personalisierung ist Programm! Dieser Trend ist schon länger zu beobachten, aber mit KI gewinnt er eine völlig neue Qualität. Personalisierte Medien lassen sich mithilfe von generativer KI zielgerichtet auf die einzelnen Nutzenden erzeugen. Wir sind nicht mehr Teil einer Filterblase, sondern eine Ein-Personen-Bubble – jeder findet den ganz persönlichen Wohlfühlort in seinen Medien.
Testen Sie Ihre Medienkompetenz!
Die im Projekt entwickelte WebApp präsentiert Ihnen textuelle Nachrichten und lässt Sie bewerten, ob diese mithilfe von KI oder von Menschen geschrieben wurden – und ob diese auf wahren Tatsachen oder falschen Behauptungen basieren. Ein wichtiger Teil der Arbeit ist das Sammeln und Auswerten von Daten. Wenn Sie der Datensammlung zustimmen, helfen Sie dem Team, besser zu verstehen, wie Desinformation in Zukunft effizienter begegnet werden kann – und schärfen gleichzeitig Ihre Medienkompetenz!
Probieren Sie es aus:
https://judgegpt.streamlit.app
Cybersicherheit in privaten Echo-Oasen
Halten wir fest: Private Echo-Oasen machen die Kontrolle schwer. KI ermöglicht endlose Bespielung mit Inhalten – kostenlos, aber nicht ohne Folgen. So weit, so gut. Nun gehen wir nach dieser kleinen medienwissenschaftlichen Grundlagenbetrachtung einer weiteren meiner Leidenschaften nach, der Cybersicherheit.
Denn auch hier machen sich die Fortschritte in puncto KI bemerkbar. Wer früher erfolgreich Beeinflussung oder Phishing betreiben wollte, brauchte Menschen mit ausgeprägten sprachlichen und sozialen Fähigkeiten. Diese waren teuer und, um das Ganze zu skalieren, brauchte es viele davon. Das sorgte für eine natürliche Regulierung des Marktes. Letztlich schützte es die Gesellschaft.
Wenn ich heute Ihre Zugänge „abphischen“ möchte, schreibe ich Ihnen keine holprigen Mails mehr. Ich lasse meine KI Ihnen personalisierte Lyrik schicken, angepasst an Ihre Interessen, angereichert mit zahlreichen Fakten zu Ihrer Person. Sie haben sicher schon ähnliche Mails bekommen. Aber haben Sie auch gemerkt, dass diese KI-generiert waren? Hier schließt sich der Kreis zur Medienkompetenz: Aktuell ist es fast unmöglich für Menschen wie auch für Algorithmen (!), KI-generierte Inhalte nur aus den kommunizierten Medieninhalten zu erkennen.
Unsichtbare Wasserzeichen
Tools wie ChatGPT bauen daher standardmäßig Wasserzeichen ein, bei Texten beispielsweise mit unsichtbaren Zeichen, die als Leerzeichen erscheinen. Eine solche Kennzeichnung erfolgt nicht (nur) aus Altruismus, sondern insbesondere auch, um das eigene zukünftige Trainingsmaterial nicht völlig zu verunreinigen. Denn menschenähnliche Qualität erfordert von Menschen erstelltes Trainingsmaterial.
Und KI ersetzt nicht nur die Medienersteller, sondern die komplette Kill Chain, also alles, was notwendig ist, damit ein Social-Engineering-Angriff möglichst erfolgreich verläuft. Sie können einer KI Ihr Ziel mitteilen und daraus eine Strategie entwickeln lassen. Sie können die KI bitten, die Strategie umzusetzen, und wenn Sie es geschickt machen, erhalten Sie beispielsweise Python-Skripte, die Sie direkt in eine Shell kopieren und ausführen können. Wenn Sie noch nicht wissen, wie das geht: Die KI hilft.
Das Sammeln von Informationen und das Beeinflussen beispielsweise von Wähler*innen sind Angriffe, die auf Ihr Vertrauen bauen. Gerade KI-generierte Inhalte begünstigen ein solches Vertrauen, weil sie unseren Erwartungen entsprechen und damit unverdächtig erscheinen. Wir sind konstruktionsbedingt sehr anfällig, alles zu glauben, was die KI uns serviert.
Wie in diesem Abschnitt dargelegt, sind Social-Engineering-Angriffe, die ironischerweise zu den ersten Cyberangriffen überhaupt zählen, heute demokratischer denn je: Jede Person, die ausdrücken kann, welches Ziel sie erreichen will, kann einen solchen Angriff heute mithilfe von KI in nie da gewesener Qualität und damit mit nie zuvor erreichbarem Erfolg implementieren.
Um nicht völlig den Kreationen von KI ausgeliefert zu sein, gibt es aktuell einige Forschung rund um die Erkennung und Kennzeichnung. Das funktioniert aktuell aber nur mäßig. Der vielversprechendste Ansatz ist es heutzutage, Menschen zu sensibilisieren, sogenanntes Prebunking. Das ist allerdings gar nicht so einfach.
Mit Alexander Loth, Elie Chedemail, Martin Kappes sowie einigen weiteren entwickle ich gerade ein Tool, das sich auf Texte spezialisiert3. Wir haben verschiedene Prompts geschrieben, um aus wahren, mutmaßlich von Menschen geschriebenen Informationen sowohl wahre als auch falsche Folgemeldungen mit KI zu erstellen.
Wir beziehen dabei bewusst verschiedene Tools wie ChatGPT, Gemini, Claude oder DeepSeek mit ein. Unser primäres Ziel ist es, Nutzende zu sensibilisieren und zu stimulieren, um ihnen die Notwendigkeit aufzuzeigen, aktuelle Medieninhalte noch kritischer zu konsumieren. Mehr dazu im Infokasten.
Mein Resümee: Seien Sie gesund misstrauisch. Mein Aufruf insbesondere an uns als Informatik-Community: Führen Sie den Diskurs um die Auswirkungen von KI auf unsere Gesellschaft und insbesondere die Gefahr von KI als Autor in der Medienlandschaft bei jeder Gelegenheit. Übernehmen Sie die Verantwortung, die wir als Fachleute in dieser Diskussion haben.
1https://www.youtube.com/watch?v=gcZwE5cM4xs
2https://www.businessinsider.com/mark-zuckerberg-meta-ai-replace-engineers-coders-joe-rogan-podcast-2025-1
3 Marc-Oliver Pahl, Gerhard Schimpf, „MenschSein mit Algorithmen – Eine Initiative zu 50 Jahre German Chapter of the ACM“,
http://menschsein-mit-algorithmen.org
