#11 Deep Dive Deepfakes: Trau keinem Pixel, das du nicht selbst gefälscht hast | mit Maria Pawelec

00:00:00: Und wir erleben häufig auch über Nachfragen dann von Schülerinnen und Elternteilen, aber auch Lehrkräften.

00:00:05: Immer so ein Stück bei dieser Erwartungshaltung ist gibt da so einen Katalog.

00:00:09: Wenn wir den abhaken und wenn diese Merkmale nicht dabei sind, dann sind wir auf der sicheren Seite.

00:00:13: Wenn

00:00:14: Wir glauben dass wir das können und wenn wir versuchen das zu vermitteln, auch gerade an SchülerInnen, dann werken wir uns und die SchülerInne in einer falschen Sicherheit!

00:00:38: Endlich ist es wieder so weit.

00:00:40: Wir sind wieder da mit unseren regulären Folgen von Spotlight Medienbildung, wir kommen sozusagen zurück aus unserer Sommerpause.

00:00:48: Genauso ist es erst mal.

00:00:49: Hallo an dich Mirna schön dass du wieder da bist hier.

00:00:52: Ja hallo an dich Kevin

00:00:53: Danke danke.

00:00:54: ja zwei Monate glaube ich oder über zwei Monate ist es her als wir glaube ich die letzte reguläre Folge zu Klassen Chat veröffentlicht haben.

00:01:03: und ein bisschen zur ja zur Verteidigung, warum eigentlich jetzt längere Zeit in diesem regulären Format nicht so viel passiert ist.

00:01:10: Es ist eigentlich in der Zwischenzeit einfach bei uns sehr viel passiert.

00:01:12: Ja Sommerpause klingt so falsch denn wir haben keine Pause gemacht sondern wir haben in der zwischenzeit ein ganz tolles neues Projekt gestartet und zwar eine eigene Podcast-Staffel in unserem größeren Konstrukt Spotlight Medienbildung Generation KI.

00:01:27: Wir haben mit Jugendlichen von drei verschiedenen Schulen Workshops gemacht zum Thema KI, wie nutzt ihr KI in eurem Alltag?

00:01:36: Welche Gedanken macht ihr euch dazu?

00:01:38: Welches Chancen seht ihr?

00:01:39: Welchen Risiken seht Ihr aber auch.

00:01:41: All das haben wir die Jugendlichen gefragt und dabei begleitet Und das könnt ihr auf diesem Kanal hier nachschauen.

00:01:48: also schaut sehr gerne rein.

00:01:49: Bislang sind zwei tatsächlich vollständige Episoden schon erschienen Da wird es aber noch weiteres geben.

00:01:54: Also ihr dürft gespannt sein und weiter immer regelmäßig mal reinschauen ob's was Neues gibt.

00:02:00: Ja Ich sage mal das Thema KI, was dort natürlich groß oben drüber steht.

00:02:05: Das wird uns auch jetzt weiter begleiten und zwar nicht nur jetzt sondern eigentlich für die nächsten zwei regulären Spotlight Medienbildung folgen denn wir wollen ja man kann sagen so ein bisschen wirklich tief abtauchen in die Welt der deepfakes.

00:02:22: Und das Spannende ist eigentlich, was wir hier auch schon verkünden können diesen Tauchgang den bestreiten wir nicht alleine da sind wir auch sehr froh drüber denn wir befinden uns in bester Begleitung von zwei wirklich ausgewiesenen Fachexpertinnen zu diesem Thema.

00:02:34: genau

00:02:34: du hast für diese Folge mit Maria Pavelets gesprochen.

00:02:37: ich bin sehr gespannt auf dieses Gespräch.

00:02:39: erzähl doch mal ganz kurz worüber habt ihr so geredet?

00:02:42: Wir wollen tatsächlich heute so eine allgemeine Einführung erstmal in dieses Phänomen Deepfakes geben.

00:02:47: Ein Begriff, der in aller Munde ist aber gar nicht so einfach ist erst mal aufzuklären was es sich da eigentlich bei rumhandelt.

00:02:55: und tatsächlich wollen wir dann auch noch in der Folge diese Frage wirklich einen Mittelpunkt stellen die uns alle bewegt und die uns ja auch viele lehrkräfte pädagogische Fachkräfte gespiegelt haben oder auch Schülerinnen im Übrigen.

00:03:07: Ja, was tun wir eigentlich?

00:03:08: Wenn wir halt Deepfakes als solche nicht mehr erkennen können.

00:03:11: Wenn wir immer mehr Schwierigkeiten haben, authentische von eben Fake-Inhalten zu unterscheiden.

00:03:16: Darum wird es in dieser Folge gehen und damit würde ich sagen, können wir gleich starten!

00:03:20: Es geht direkt rein mit der Folge.

00:03:23: Hallo Maria!

00:03:23: Zunächst erstmal vielen Dank dass du für die heutige Folge dabei bist.

00:03:28: Schön das du hier bist herzlich willkommen.

00:03:30: Vielen Dank für die Einladung.

00:03:31: Ich freue mich sehr

00:03:32: Bevor wir innerlich so richtig reinstarten, vielleicht nochmal ein paar Infos zu deiner Person.

00:03:38: Und ich glaube du kannst es am besten wiedergeben anstatt dass ich dich jetzt vorstelle.

00:03:44: deswegen gleich das Wort an Dich sagt vielleicht einfach mal wer Du bist was Du tust und ja vielleicht auch wird dann deutlich warum Du gerade heute hier bist und auch eine wichtige und spannende Ansprechpartnerin bist.

00:03:56: Ja sehr gerne!

00:03:58: Also mein Name ist Maria Pavelitz.

00:04:00: Ich bin wissenschaftliche Mitarbeiterin am Internationalen Zentrum für Ethik in den Wissenschaften, IZEW der Uni Tübing.

00:04:08: Und ich arbeite tatsächlich schon seit Jahr zwanzig zum Thema Deepfags und forsche eben über die politischen gesellschaftlichen und ethischen Implikationen der Technologie und die Frage wie wir als Gesellschaft besser mit der Technologie umgeben können.

00:04:23: Von Haus aus bin ich Politikwissenschaftlerin aber Am Ethikzentrum ist die Forschung sehr interdisziplinär und natürlich kommt dann beispielsweise auch sehr viel ethische Reflexion mit dazu.

00:04:33: Ja, spannend eine erste kleine Gemeinsamkeit denn ich kann mich eigentlich auch ein bisschen Politikwissenschaftler nennen.

00:04:39: zumindest habe ich auch Sozialwissenschaften und Politikw Wissenschaft studiert auch wenn es mich ein bisschen in andere Bahnen jetzt verschlagen hat.

00:04:46: Danke für die kurze Vorstellung.

00:04:48: du hast das Wort Deepfakes schon in den Mund genommen.

00:04:51: da wird's ganz prominent heute darum gehen.

00:04:54: Und ganz zu Anfang vielleicht mal ein ganz persönlicher Einstieg einfach.

00:04:59: Ist dir in deinem alltäglichen Medienkonsum so einen sogenannten Deepfake mal begegnet und ganz offen gesprochen oder auch schonungslos ehrlich bist du da auch mal reingefallen?

00:05:12: Na klar, also das war tatsächlich vor nicht allzu langer Zeit und eigentlich so ein ganz harmloser... Kontext.

00:05:18: und zwar war ich da in so einer Social Media Gruppe unterwegs.

00:05:21: Und das ging einfach um Outfit, ein Outfit-Wahl!

00:05:25: Es war eine Bild und ich habe dann darunter gefragt wo es denn diese Hose zu kaufen gibt weil die mir so gut gefallen hat und dann war die Antwort darauf ja gar nicht.

00:05:34: Weil das ganze Bild ist KI generiert, das ganze Outfit die Hose ist KI.

00:05:41: Da musste ich dann schon auch bei mich ein bisschen schmunzeln, weil ich mir dachte, oh man jetzt arbeite ich seit sieben Jahren zum Thema Deep Fakes.

00:05:46: Und jetzt ist es soweit dass sich in meiner Freizeit darauf reinfalle und sogar noch dazu Fragen stelle und mir dann gesagt wird, ne?

00:05:54: Ist KI generiert!

00:05:56: Ja super spannender Fall!

00:05:56: Also das geht auch wieder!

00:05:59: Es ist genau eigentlich auch eine tolle Erkenntnis schon gleich zu beginnen.

00:06:02: Ich glaube niemand von uns ist davor gefeilt Deepfakes auf den Lime zu gehen.

00:06:07: Aber wir wollen heute ja ein bisschen darauf schauen, wie wird das doch möglichst zumindest verhindern können auch?

00:06:12: Jetzt haben wir ... Das Wort Deepfake ist ja schon direkt in den Mund genommen.

00:06:18: Es ist sowieso ein Wort was da in diesem KI-Diskurs der sehr breit und laut geführt es sehr häufig fällt.

00:06:26: Gleichzeitig habe ich immer den Eindruck so in meiner Vorrecherche zur heutigen Folge Naja!

00:06:30: Da gibt's sehr viele Diskursteilenehende Die verstehen das auf die eine Art und Weise.

00:06:35: Und wieder andere verstehen etwas völlig anderes darunter, so ein bisschen vergleiche ich das immer mit dem Begriff Deepfakes Fake News was ja von Donald Trump geprägt, so'n absoluter politischer Kampfbegriff irgendwo ist.

00:06:47: Auf der anderen Seite kann es aber auch für so ne Gattung von Desinformationen stehen Nämlich dass eben Desinformation im Gewand einer authentischen Nachricht im Prinzip daherkommt.

00:06:58: Deswegen Lass uns vielleicht zu Beginn auch mal einfach klären, worüber sprechen wir da eigentlich?

00:07:03: Um so ein bisschen diese babillionische Sprachverwirrung, dass jeder irgendwo über was anderes spricht.

00:07:07: Mal so'n bisschen aufzudröseln.

00:07:09: Deshalb vielleicht als erste Frage gibt es aus deiner Sicht etwas wie eine allgemein anerkannte Definition?

00:07:16: Ja also das ist ja erstmal nichts Ungewöhnliches Da sehr viele verschiedene Definitionen kursieren geradezu komplexe oder begriffene und neuere Technologien.

00:07:27: Tatsächlich, als ich angefangen habe zu dem Thema zu arbeiten in den Jahren ist es noch nicht so die eine anerkannte Definition.

00:07:33: Wobei sich da auch schon bestimmte Elemente rauskristallisiert haben.

00:07:37: aber tatsächlich gibt es inzwischen die Definitionen die die EU gegeben hat in der KI-Verordnung Und darin definiert sie auch Deepfakes und das ist schon eine relativ breit anerkannte Definition.

00:07:50: Also, Sie spricht da von KI-generierten oder mit Hilfe von KI manipulierten Bildern, Videos und Audiodateien die existierende Personen oder Objekte Gebäude Ereignisse darstellen um die möglicherweise auch also die einer Person fälschlicherweise als echt erscheinen könnten, also sie täuschen könnten.

00:08:09: Das ist schon ein relativ weit verbreitete Definitionen inzwischen.

00:08:14: Das heißt, wir sprechen von KI-manipulierten oder komplett KI-generierten Bildern, Videos und Audiodateien die schon so einen gewissen Grad an Realismus aufweisen.

00:08:25: Und ich würde mit dieser Definition eigentlich auch mitgehen.

00:08:27: allerdings finde ich da gibt es einen Knackpunkt der ein bisschen problematisch daran ist nämlich dass die EU sich auf existierende Personen oder Gebäude oder Ereignisse beschränkt.

00:08:39: aus der Forschung, dass auch zum Beispiel sowas wie komplett KI-generierte InfluencerInnen oder so KI-Persona, sagt man

00:08:48: z.B.,

00:08:49: sehr viel Wirkung entfalten können gerade in einem politischen Bereich.

00:08:53: Aber ansonsten ist es schon eine ziemlich breite anerkannte Definition.

00:08:57: Der Grund warum ich auch Frage ist, weil wir tatsächlich auch bei dem Rahmen von Veranstaltungen und auch Zuschriften von pädagogischen Fachkräften bei uns häufiger tatsächlich diese Definitionsfrage so ein bisschen gestellt bekommen haben was erstmal verwundert, weil das ja in der Regel immer so abstrakte und auch nicht immer die spannendsten Themen sind, damit sich mit Definitionen auseinanderzusetzen.

00:09:17: Aber da war häufig so eine Verunsicherung zu spüren.

00:09:20: Ja okay bezieht sich das nur irgendwie auf Personen?

00:09:23: Also geht es dann nur um Personendarstellung.

00:09:26: Was ist mit der Abgrenzung zu anderen Phänomen?

00:09:28: kommen wir gleich noch zu.

00:09:30: Und wie ich auch diese EU-Definition halt lese ist sie ja wirklich sehr breit.

00:09:35: Es geht eben nicht nur um diese Personedarstellung sondern es geht eigentlich um dieser Täuschungswirkung, noch nicht mal eine Absicht.

00:09:42: Sondern all das was da irgendwo abgebildet ist, was potenziell eine Täuschwirkung haben kann über eine Ähnlichkeit zu irgendwie realen Ereignissen fällt irgendwo darunter.

00:09:56: Gleichzeitig haben wir ja so ein Begriff auch synthetische Medien glaube ich.

00:10:00: Ist es dasselbe?

00:10:02: Ist das nochmal irgendwie ein Überbegriff?

00:10:04: Kannst du da vielleicht nochmal etwas sagen?

00:10:06: Ja, also synthetische Medien ist nicht dasselbe.

00:10:09: Es ist schon ein Überbegriff.

00:10:11: Also ich würde sagen alle Deepfakes sind synthetischer Medien aber nicht alle synthetischen Medien sind deepfakes.

00:10:15: Also synthetisch Medien ist breiter.

00:10:17: das umfasst zum Beispiel auch KI-generierte Musik ohne dass jetzt eine menschliche Stimme dabei ist.

00:10:24: es umfasste auch sowas wie KI generierte Texte einen Riesenbereich also was large language Models L&M's produzieren Aber sogar sowas die KI generiete.

00:10:33: Videospielwelten Und deepfax sind im Prinzip sozusagen der audiovisuelle Teil von generativer KI.

00:10:42: Aber wenn wir jetzt auf den Audiobereich schauen, dann würden wir tatsächlich nur das als Deepfax bezeichnen wo eine menschliche Stimme dabei ist und nicht so etwas wie eine KI-generierte Melodie.

00:10:51: aber insofern es sind Deepfx sozusagen Teilbereiche vom synthetischen Medien.

00:10:55: Der Begriff wird immer häufiger verwendet, das merke ich auch im Diskurs weil er natürlich auch neutraler ist.

00:11:01: also deepfx Inherent negativ konnotierter Begriff, weil da ist das Wort Fake mit drin.

00:11:09: Auch wenn er gar nicht unbedingt immer so negativ verwendet wird.

00:11:11: also gerade zu Beginn der Technologie haben auch sehr viele Firmen beispielsweise ihre Produkte als Deepfake beworfen einfach weil Menschen damals vor einigen Jahren mit diesem Begriff schon was anfangen konnten aber mit dem begriff synthetische Medien zum Beispiel weniger und wie gesagt der Begriff ist auch spezifischer.

00:11:28: also man müsste sonst halt von audiovisuellen synthetischen Medien sprechen.

00:11:33: Und was du auch angesprochen hast, so diese Frage muss da eigentlich ein Mensch dabei sein.

00:11:37: Das ist bei mir in der Forschung auch immer so einen Knackpunkt weil ich mich in meiner Forschung tatsächlich auf Deepfakes von Menschen konzentriere also von menschlichen Stimmen Gesichtern und Körpern.

00:11:47: Aber die EU-Definition ist ja breiter.

00:11:49: Also die will auch sowas wie zum Beispiel den KI generiertes Bild von einem zerstörten Straßenzug in Gaza Auch als Deepfake bezeichnen.

00:11:58: Also solche Medien haben natürlich auch oft ähnliche Auswirkungen, gerade was zur Desinformation angeht.

00:12:06: Es gab halt früher als es noch nicht so diese EU-Definitionen gab.

00:12:08: da wurde häufig zum Beispiel definiert das Deepfax an Menschen zeigen wie diese Person etwas sagt oder tut, was sie nie gesagt oder getan hat.

00:12:17: also diese Konzentration auf Menschen ist gewissermaßen ein bisschen historisch erwachsen und aus der Geschichte der Technologie Weil jetzt, wenn wir von Deepfacts reden, reden wir eigentlich fast immer von dem was rauskommt.

00:12:28: Wenn wir Bild- oder Audio- oder Videogeneratoren benutzen können wir vielleicht auch noch über die Technik ein bisschen sprechen Aber dazu gehört eigentlich noch viel mehr.

00:12:37: Also der klassische Deepfake ist zum Beispiel so einen Face-Swap-Deepfake also einen Gesichtstauschtiebwerk in dem das Gesicht einer Person im Video mit dem Gesicht einer anderen Person getauscht wird.

00:12:47: Und das sind natürlich per Definition dann Medien, die Menschen abbilden oder auch Lippensynchronisation.

00:12:53: Also wo die Lippenbewegungen angepasst werden an eine beliebige Auditatei kann man natürlich auch nur mit Abbildung von Menschen machen.

00:12:59: oder Voice Cloning also Stimmenclone.

00:13:02: Das heißt sehr viele Technologien, die wir auch als Deepfakes Technologin bezeichnen würden konzentrieren sich halt explizit auf Menschen und deepfakes von existierenden Menschen bringt natürlich auch noch mal so ein eigenes Set an Problemen mit sich, also sowas wie Zustimmung und Würde der Abgebildeten beispielsweise.

00:13:20: Was jetzt so was wie ein KI-generierter Straßenzug nicht mit sich bringt?

00:13:24: Also es ist schon aus einem Knackpunkt muss dann Mensch dabei sein oder nicht?

00:13:27: nach der EU Definition nicht Und das ist auch durchaus legitim.

00:13:32: aber ich würde sagen diese Kategorie Diebfax von Menschen ist schon nochmal eine eigene Kategorie mit eigenen Problemen.

00:13:39: Das war auch genau das, was ich mich in der Vorbereitung so gefragt hat.

00:13:42: Weil wir haben ja sehr problematische auch generierte Inhalte im Netz.

00:13:46: Du hast ein Beispiel genannt mit Gaza.

00:13:48: Mir fallen jetzt spontan auch andere Beispiele ein wie zum Beispiel dieses vermeintlich brinnende Pentagon Was es mal irgendwie gab dieses Bild oder im Zuge hier der Waldbrennen in Kalifornien, wo dann auf einmal dieses Hollywood-Sign irgendwie gebrannt haben sollte.

00:14:01: Das sind ja auch alles Fälle die eben schon – du hast es gesagt – auch desinformative Zwecke irgendwo haben.

00:14:07: Die sind also notorisch irgendwo dann auch problematisch und wenn man sie halt nicht da irgendwie drunter packen kann, dann brauchst du halt irgendein anderen Begriff um eigentlich die Problemdimension halt auch aufzuzeigen.

00:14:18: Und genau deshalb finde ich das spannend und gut dass wir auch so ein bisschen über Begrifflichkeiten reden bevor wir dann natürlich gleich übergeben.

00:14:25: Eine letzte quasi noch mal Aspekt der Begrifflichkeit.

00:14:28: Wir haben ja auch dieses Phänomen Slop, AI-Slop was ja auch ganz groß im Diskurs so drin ist.

00:14:36: Wie siehst du das da?

00:14:37: Kann man Deepfakes und Slop-Content, wir haben ja auch jetzt immer dieses Sloppagenda ist ja auch so ein Begriff was man von Trump vor allem von der Administration kennt aber auch anders wo eben solche minderwertigen schnell daher fabulierten Inhalte also ganz gezielt zur politischen Kommunikation irgendwo genutzt werden.

00:14:57: Siehst du da eine Trennung?

00:14:58: sind Deepfake etwas anderes oder müsste man das eigentlich auch irgendwie zusammensehen?

00:15:04: Ja, die Frage ist gar nicht so einfach zu beantworten.

00:15:06: Also du hast es ja schon gesagt KI Müll, KI Schrott wie man es vielleicht auf Deutsch nennen könnte sind ebenso KI generierte Inhalte von minderwertiger Qualität.

00:15:15: aber das ist natürlich keine sehr trennscharfe Definition Und da gehört sehr viel dazu.

00:15:20: Also einmal eben Abbildungen von Menschen auch die potenziell politische Wirkung haben könnten, aber da gehören dann zum Beispiel auch... Es gibt sehr viele Trends das irgendwelche Tiere menschliche Dinge tun in kari generierten Videos oder dass irgendwelchen Farbewesen aus verschiedenen Tieren zusammengesetzt werden oder Früchte irgendwelcher Liebesbeziehung führen.

00:15:40: oder ein ganz frühes Beispiel war auch Shrimp Jesus zum Beispiel.

00:15:43: Da gab es ja so einen Bild wie eine Jesusfigur aus Shrimps irgendwie im Meer entsteht.

00:15:47: also Das ist so schwierig abzugrenzen.

00:15:51: Also ich würde sagen KI-Schrott oder die KI Möhl, das AI Slop, ist ein Phänomen was eben aus dem Aufkommen von vor allem von Bildgeneratoren aber auch von Videogeneratoren und Audiogeneraturen aufgekommen ist.

00:16:03: Und wir sprechen wahrscheinlich da noch ein bisschen über die Geschichte der Technologie Aber die gibt es ja erst seit twenty-einen und zwanzig öffentlich zugänglich.

00:16:10: die ersten Bildgeneraturen Deepfakes, habe ich ja schon gesagt ist technisch breite.

00:16:15: Also dazu gehören schon diese komplett KI-generierten Inhalte aber es gehört eben auch Facebook Videos dazu, es gehört Lip Sync dazu Es gehört Puppeteering dazu also dass man Bewegungen von der Kamera macht und die Personen im Video das wird dann eins zu eins übertragen wie so eine Marionette.

00:16:31: Das heißt, dass es technisch Breiter Aber es gibt Überschneidungen.

00:16:35: Also es gibt Medien die wirklich sowohl als deepfake bezeichnen als auch als AIS-Lob.

00:16:40: Da muss man jetzt auch sagen, Dieepfakes müssen noch nicht unbedingt absolut perfekt und total qualitativ hochwertig aussehen um als Deepfake zu gelten.

00:16:49: Das sehen wir allein schon daran dass die ersten Deepfakes veröffentlicht wurden, das waren so Facebook-Deepfaks und die waren keineswegs irgendwie total perfekt.

00:16:58: also da war den Betrachtern eigentlich auch klar dass das kein echter Inhalt ist.

00:17:03: trotzdem wurde das Ganze als deepfake bezeichnet.

00:17:05: Ich glaube, der Beknackpunkt ist wenn wir existierende Personen in solchen AI-Slopdarstellungen haben und die entweder herabwürdigend abgebildet werden oder irgendwie auf eine gewisse Weise überhöht sozusagen um sich vom politischen Gegner abzubrenzen.

00:17:22: Und da haben wir einige ziemlich bekannte Fälle also zum Beispiel Donald Trump Und die Trump-Administration, die posten ja gerne sowas wie Donald Trump als Papst.

00:17:31: Donald Trump Als Sith Lord, Donald Trump in so einem Kampfjet via Fekalien auf protestierende Runterregnen lässt.

00:17:39: Aber es gibt auch diffamierende Darstellungen vom politischen Gegner Also zum Beispiel in den ungarischen Wahlen, im Jahr oder im Jahr und zwei Tausend sechsundzwanzig da gab's sehr viele.

00:17:49: Ich würde sie auch als Deepfakes bezeichnen.

00:17:51: Also es gab sehr viele sehr realistische Ausdeckende Diebwegs vom Oppositionskandidaten Peter Modja, aber es gab auch so Darstellungen wo eigentlich von der Absurdität der Situation her klar ist dass das KI generiert ist also zum Beispiel Modja an der Leine von EU-Politiker Manfred Weber.

00:18:06: Bei der Bundestagswahl gab's so Sachen wie Olaf Scholz auf TikTok als Dönerverkäufer und Olaf Scholze als Bodybuilder.

00:18:13: Das sind alles so Fälle wo ich sag will da sind existierende Personen abgebildet und gleichzeitig dass sie das so nicht gemacht haben, dass die nicht Bodybuilder oder Kampfjetpilot sind.

00:18:23: Und trotzdem entfaltet es eben Wirkung.

00:18:26: also... Die Bilder bleiben im Kopf!

00:18:29: Die dienen dazu diese Personen irgendwie entweder herab zu würdigen oder den politischen Gegner irgendwie zu reizen, zu ärgern und die eigene Anhängerschaft zu mobilisieren.

00:18:40: Das heißt da gibt's schon Überschneidungen.

00:18:41: andere Sachen wie zum Beispiel Schwimm Jesus würde ich sagen Das ist wirklich AIS-Lob und kein Diebweg, weil jedem klar ist dass keine Jesusfigur aus irgendwelchen Schrimms im Meer entsteht.

00:18:50: Und das auch keine Situation ist die auch nur hypothetisch so hätte passieren

00:18:53: können.".

00:18:54: Das zeigte ja auch so ein bisschen.

00:18:55: es ist nicht ganz einfach abzutrennen in Sinne von dass da irgendwie eine ganz klare Trennlinie irgendwo gibt.

00:19:02: und wenn man über diese Realitätstreue kommt oder ob das eine Art von hyperrealistische Darstellung auch ist, die sehr nahe kommt.

00:19:09: Ist ja dann eben auch nicht immer für dieses Täuschungspotenzial worüber ja auch Diebwegs dann eben definiert sind maßgeblich weil es kann eben auch viel weniger ausreichen um mich davon täuschen zu lassen.

00:19:23: Es geht vielleicht gar nicht unbedingt immer darum getäuscht zu werden sondern dass man wirklich denkt, dass das passiert ist also dass man richtig denkt, Sondern es geht auch um dieses Beeinflussungspotenzial.

00:19:38: Also das sind halt einfach Bilder, die im Kopf bleiben und dann hat man sozusagen dieses Narrativ in dem Fall im Kopf dass er eine Marionette der EU ist und dass er nicht im Sinne von Ungang handelt sondern im Sinne der EU.

00:19:50: also da wird eben so eine politische Story sozusagen über auch solchen AI-Slop, den man eben dann auch als DeepVeg bezeichnet könnte würde ich sagen verbreitet.

00:19:59: aber die Abgrenzung ist wirklich nicht trennscharf.

00:20:03: Ja, vielen Dank erstmal dafür.

00:20:05: Du hast es jetzt ein bisschen gerade schon angeteasert die kurze Geschichte der Deep Hakes und natürlich schaffen wir nur einen kleinen Abriss davon.

00:20:14: Wir reden jetzt wie selbstverständlich davon.

00:20:16: Ich finde auch schon spätestens seit zwei zwanzig ist mir so bewusst geworden, weil dann eben auch mit Schädgipetie und in Erfolge mit den ganzen Bild- und Videogeneratoren die so aufgekommen sind das natürlich immer mehr ins Bewusstsein gerückt ist.

00:20:28: Auch das Wort, das Phänomen es gab's ja ein Stück weit aber auch schon vor glaube ich zumindest These kannst du da vielleicht mal einen ganz kurzen Abriss geben?

00:20:38: Wie ist das Ganze entstanden?

00:20:41: auf und ist das auch wirklich etwas total substanziell neues?

00:20:45: Weil eine technische Medienmanipulation hat ja eigentlich ne lange Geschichte.

00:20:49: Also, das gabs natürlich schon vor zwei tausendzweiundzwanzig die Grundlagen der DeepFech-Technologie wurden zwei Tausend vierzehn gelegt.

00:20:57: da hat ein Google Mitarbeiter einen Paper veröffentlicht zum Thema Generative Adversarial Networks oder GAMS Das ist eine Art von Neuronalen Netz Zumindest sehr vielen Frühen, die Plex zugrunde lag.

00:21:11: Und da passierte dann so aus dem Jahr zwei Tausend vierzehn bis zwei tausend siebzehn auch sehr viel Entwicklung der Technologie in großen Firmen wie Google oder Nvidia.

00:21:20: Und dann hat das Ganze im ersten Mal, sozusagen auf Licht der Öffentlichkeit so wirklich erreicht.

00:21:25: Also fernab von irgendwelchen wissenschaftlichen Journal-Publikationen.

00:21:29: Da hat nämlich ein anonymer Nutzer oder eine anonyme Nutzerin auch Reddit also auf der Plattform Reddit die ersten Deepfakes veröffentlicht und das waren eben so Facebook-Deepfakes in denen das Gesicht von Pornodarstellerinnen ersetzt wurde durch das Gesicht vom berühmten Schauspielerin.

00:21:46: Und dieser Anonyme Nutzer hat auch gleichzeitig den Code, also den Algorithmus dafür öffentlich gemacht auf GitHub.

00:21:55: Auf so einer Code-Sharing-Plattform.

00:21:57: und seitdem passiert tatsächlich sehr viel technologische Entwicklung an Deepfakes in diesem Open Source Bereich.

00:22:03: Also sehr viele... Anonyme, häufig auch Entwicklerinnen kommen da zusammen und bringen die Technologie voran.

00:22:10: Auch fernab von irgendwelchen kommerziellen Interessen.

00:22:13: gleichzeitig passiert natürlich im kommerziellem Bereich viel also bei spezialisierten Start-ups aber auch in größeren Firmen sehr viele kommerzielle.

00:22:20: diese Entwicklung hat sich aber auch sehr lange an diesen Open Source Entwicklungen bedient Und es hat dann dazu geführt dass die technologie immer besser wurde und auch immer zugänglicher.

00:22:30: Also Anfangs brauchte man eben noch Programmier-Innen wissen, um darauf zugreifen zu können und die Algorithmen verwenden zu können.

00:22:37: Und DeepVegs zu erstellen.

00:22:39: Dann wurden da so Foren eröffnet wo man Hilfe bekommen konnte es gab dann Anleitungen später dann erste Tools also sowas wie einfache Apps wo man eine bestimmte Art von DeepVegg erstellen kann zum Beispiel sich in irgendwelche berühmten Filmszene hineinversetzen kann oder sowas.

00:22:54: So wurde die Technologie immer zugänglicher Und das hat dann wirklich noch mal in dem Aufkommen der ersten öffentlich verfügbaren Bildgeneratoren eine richtige Revolution erfahren.

00:23:03: Also diese Tools, wo man einfach nur den Textbefehl ein Text prompt eintippt und man kann dann ganz genau definieren was man sehen möchte und bekommt einen ziemlich futurialistisches Bild ausgegeben.

00:23:14: Das hat eben dazu geführt dass man jetzt gar kein technisches Know-how mehr braucht und eigentlich auch so gut wie kein Zeitaufwand kostet auch oft überhaupt nichts und man kann eben sehr realistische Bilddiebfakes erstellen.

00:23:27: Und inzwischen haben wir das Ganze auch im Audio-Bereich und sogar im Videobereich, also es gibt Audiogeneratoren da kann ich Stimmen klonen.

00:23:33: dafür brauche ich weniger als dreißig Sekunden mit Schnitt einer Stimme und kann die dann klonen und die dann wiederum alles sagen lassen was ich möchte oder ich kann aus so einem Katalog von Stimmen auswählen können zum Beispiel Arnold Schwarzenegger's Stimme wählen in zwanzig verschiedenen Sprachen das Ganze mehr ausgeben lassen.

00:23:52: Und jetzt haben wir sogar Videogeneratoren, also die ersten Videogenaraturen kamen im Jahr- und Jahrzehnte auf und dann im Jahrzehn bis zu den ersten, die passend dazu auch die Audiospur generieren konnten und auch inhaltlich überzeugend waren sozusagen, anatomisch korrekt und von physikalischen Gesetzen her korrekte usw.

00:24:10: Das heißt ich kann einfach einen Text eingeben und ich halte ein ziemlich realistisches Aussehen des Videos Ganz ohne technisches Know-how.

00:24:19: Und jetzt, dass ihr gefragt ist das was gänzlich Neues?

00:24:23: Also natürlich ist Medienmanipulation nichts Gänzlich neues also es so alt wie die Medien selbst.

00:24:29: Gerade Bild Manipulation da haben wir uns ja schon lange daran gewöhnt dass gerade mit Photoshop Bilder einfach manipuliert werden können.

00:24:37: Aber auch schon vor Photoshop gab es das ja, also Stalin ist ja weltberühmt dafür dass er Bilder hat, Fotos hat retuschieren lassen und dann unliebsame politische Weggefährten einfach entfernt gelöscht hat sozusagen aus der Erinnerung, aus der Geschichte Geschichtsschreibung.

00:24:52: Und im Prinzip ist das jetzt einfach eine Kontinuität dessen, also gewissermaßen ne neue Quantität, weil es so einfach zugänglich ist und so viele Akteure das erstellen können.

00:25:04: Führt es dazu, dass es eine wahnsinnige Flut an manipulierten Bildern, Audiodateien und Videos gibt?

00:25:11: Und gleichzeitig ist aber nicht nur quantitativ was Neues sondern dass es so einfacher ist und überzeugend führt dazu, da sehr viele neue Akteuren auf den Plan gerufen werden die auch neue Motive haben und neue Nutzungen der Technologie.

00:25:26: also wenn wir zum Beispiel Bildbasierte sexualisierte Gewaltdenken ist auch das nichts Neues, also dass irgendwie das Gesicht von jemandem auf nacktfoto drauf retuschiert wurde.

00:25:37: Das gibt es schon seit Jahrzehnten.

00:25:39: aber dass es jetzt per Mausklick so einfach möglich ist und so realistisch führt eben dazu, dass zum Beispiel so Phänomene aufkommen wie das Schüler von ihren Minderjährigen Mitschüleren sowas erstellen und teilen.

00:25:51: Dass es sehr viel mehr rache Pornografie zum Beispiel gibt Aber auch im politischen Bereich und im Bereich Kriminalität nimmt das immer mehr zu oder auch im Bereich Unterhaltung.

00:26:00: Also ich kann plötzlich einfach lustige Bilder von mir und meinen Freunden tanzen, singen lassen und das dann teilen.

00:26:07: Es hat schon sehr vielen neuen Phänomen geführt und ich würde sagen es ist schon qualitativ was anderes als bisherige Medienmanipulation.

00:26:17: Ja, total spannend.

00:26:18: Also im Endeffekt aber ist es dann ja auch wenn ich dich richtig verstehe nicht die große Revolution dass etwas total jetzt da ist auf einen Schlag und ein komplett neues Problem mit sich bringt sondern wie du sagst das einmal die Zugangsschwelle ist jetzt extrem gesunken.

00:26:34: früher brauchte man gewisse Kenntnisse.

00:26:36: auch fühlte mich noch dran erinnert auch in der Vorbereitung Auch ein Artikel, den ich gelesen hatte, wo noch von Photoshop als großen Bildmanipulator irgendwie gesprochen wurde.

00:26:45: Also es gab ja auch früher eben diese Bildbearbeitungsprogramme und so weiter die Leuten diversiert waren und gewisse Kenntnisse hatten entsprechende Leistungen hochqualitativ ermöglicht hat will sagen im Endeffekt das Phänomen ist an sich nicht neu sondern wirklich diese Schwelle ist extrem gesunken, die Quantität wie du sagst.

00:27:04: Ist eine ganz andere weil eben die Schwellen gesunken sind und ein Stück weit ja auch die Qualität.

00:27:08: also das was da rauskommt wir haben es ja gerade auch festgestellt ist ja teilweise so überzeugend einfach dass man sich schon fragt wie kann das eigentlich sein?

00:27:17: Also das ist schon erstaunlich.

00:27:20: Also grade muss ich sagen gerade der Audio- und Videobereich ist besonders wichtig enorme Fortschritte gemacht worden.

00:27:28: Also da braucht man eben bis vor kurzem immer noch ziemlich viel technisches Nopau, viel Zeitaufwand.

00:27:34: das heißt es war wenigen Akteuren eigentlich vorbehalten dass sie Audio und Video manipulieren oder erstellen können.

00:27:41: zum Beispiel bei Audio braucht man lange Zeit noch Schauspieler in ihren Stimmen imitieren würden.

00:27:45: einen perfekten Videodiebwerk erstellen konnte.

00:27:49: Ich konnte nicht die passende Audiosport dazu generieren und musste dann Schauspieler in dafür anheuern, also das ist schon noch mal so ein Bottleneck sozusagen gewesen was es jetzt einfach nicht mehr gibt.

00:27:59: und das führt eben dazu dass wie gesagt sehr viele neue Akteure auf dem Plan sind aber auch sehr viel neue Phänomene und das Ganze ist natürlich auch nochmal viel stärker durch die Verbindung mit den neuen Verbreitungsmöglichkeiten über die sozialen Medien.

00:28:11: Also wir leben ja eine Welt wo ich nicht nur per Maus klick etwas KI generieren oder manipulieren kann, sondern auch enorme Reichweiten erreichen kann.

00:28:20: Einfach als ganz normale Privatperson.

00:28:22: Ich muss nicht mal viele Follower in haben wenn ich irgendwas Virales poste und das für Entsetzen sorgt und für viele Interaktionen, viele Klicks usw.

00:28:31: Kann ich damit wirklich viral gehen um Millionen von Menschen erreichen?

00:28:35: Und ich glaube dass gibt im Ganzen auch nochmal so eine neue Qualität.

00:28:38: Du hast gerade ja auch schon so ein bisschen die Bandbreite an, ich nenn es jetzt mal Risiken und Gefahren aufgemacht.

00:28:45: Vielleicht nimmst du uns da nochmal mit ganz kurz auf eine Reise.

00:28:49: was gibt's da eigentlich alles in welchen Anwendungskontexten?

00:28:52: In welchen gesellschaftlichen Bereichen können allen eigentlich deepfake solche problematischen Wirkungen eben haben?

00:28:58: Ja das könnte eine sehr lange Reise werden!

00:29:01: Sehr gerne, aber

00:29:03: für den Überblick sozusagen sage ich eigentlich immer es gibt drei Hauptprobleme Bereiche.

00:29:08: Das erste große Problem ist, dass Deepfakes hauptsächlich dafür verwendet werden nicht einvernehmliche sexualisierende Inhalte zu erstellen.

00:29:16: Was oft so als Deepfake Pornografie bezahlen wird.

00:29:19: aber ich finde den Begriff problematisch weil er eine Einvernehnlichkeit suggeriert die einfach nicht gegeben ist das bildbasierte sexualisierte Gewalt.

00:29:26: Das zweite Hauptproblem ist der Thema Politik politische Desinformationen und Manipulation.

00:29:32: Und das dritte Problem ist das Thema Kriminalität, weil tatsächlich werden Diebwerks auch immer häufiger eingesetzt.

00:29:38: Insbesondere für Betrug und Identitätsdiebstahl sowohl gegenüber Individuen als auch gegenüber Firmen und aber auch für Erpressungen zum Beispiel.

00:29:47: Das sind so die drei Hauptproblemenbereiche über die wir jeweils mindestens eine Stunde reden könnten.

00:29:55: Ja du sagst es an der Stelle vielleicht ein kleiner Hinweis oder ein kleiner Disclaimer genau zu diesem Problembereich?

00:30:01: Sexualisierte oder sexualisierende Deep Facts wird auch noch mal eine gesonderte Folge bei uns geben.

00:30:06: Also freut euch gerne darauf, liebe Zuhörerinnen und Zuhörer die wir jetzt bald tatsächlich schon geben.

00:30:12: und wie du sagst es eigentlich verdient ist jeder Problembereich eigentlich nochmal eine eigene Folge dazu aufzunehmen.

00:30:18: aber wie das so ist heute müssen wir erstmal mit dem auskommen was für uns heute quasi das Zeitkontingent so bietet.

00:30:25: deswegen erst einmal danke für diesen Überblick ist eine Sache, finde ich die auch immer so ein bisschen untergeht.

00:30:33: Also wir reden ja dann oft bei Deepfax auch darüber über diesen Fakt.

00:30:36: einfach okay es kann tatsächlich eingetretenes oder es können künstliche Realitäten im Prinzip geschaffen werden, die so nicht eingetrehten sind.

00:30:46: gleichzeitig funktioniert das Ganze auch umgekehrt.

00:30:48: Wir erleben ja auch so ein Stück weit so'n bisschen vertrauensverlust generell dadurch dass sich jetzt auch einfach Akteure hinstellen können und sagen können dass was da tatsächlich passiert ist, ist in Wahrheit nie passiert.

00:30:58: Dieses klassische It's AI, das man auch von Donald Trump tatsächlich kennt, konzentriert ja auch noch mal ein ganz neues Problem eigentlich.

00:31:07: Was man glaube ich mit irgendwie lügner Innendividende sehr, ich finde sehr kryptisch irgendwie beschreibt, kannst du das normal auch ein bisschen einordern?

00:31:15: Was heißt es eigentlich und wie groß schätzt du eigentlich dieses Problem

00:31:18: ein?".

00:31:19: Genau, das große Problem was du da ansprichst ist eben dass fernab von irgendwelchen konkreten Anwendungen von Deepwakes in jeder Natur eigentlich also ob jetzt unterhaltsam oder politisch oder sexualisieren oder wie auch immer die Existenz der Technologie dazu führt und beiträgt dass wir immer mehr zu einer Atmosphäre kommen wo Menschen das Gefühl haben dass sie gar nichts mehr glauben können.

00:31:42: Was sie irgendwie online sehen oder hören oder nicht wissen können.

00:31:48: Und das ist tatsächlich, wenn wir jetzt auf die politischen Auswirkungen und Demokratie schauen.

00:31:53: Ist das sehr gefährlich?

00:31:54: Weil wir uns dann politisch gesehen in so Debatten verlieren ob etwas überhaupt stattgefunden hat oder nicht.

00:32:00: Ob jemand etwas überhaupt gesagt hat oder nichts.

00:32:02: Dann können wir uns gar nicht mehr konzentrieren auch vernünftige politische Diskussionen, die auf irgendwelchen empirischen Grundlagen beruhen und irgendwie vernünftig eine politische Problemlösung und Willensbildung betreiben.

00:32:15: Das ist eine riesengefahr für die Demokratie.

00:32:18: Und damit hängt auch zusammen, dass Deepfakes, weil sie so eine Flut an potenziell manipulierten Medien ermöglichen.

00:32:25: Auch den Journalismus-Schwächen.

00:32:28: Also Journalisten müssen das ja irgendwie alles jetzt verifizieren und darüber berichten aber gar nicht die technischen Tools dazu.

00:32:33: Gar nicht die finanziellen Möglichkeiten, die personellen Ressourcen stehen hier ohnehin wahnsinnig finanzielle Unterdruck und teilweise auch politisch gerade von Seiten von rechten und populistischen Akteuren.

00:32:44: Und wenn ihnen dann Fehler passiert und die fälschlicherweise über irgendwas berichten, das war eigentlich ein Diebfegd.

00:32:49: Dann untergrebt es ja weiteres Vertrauen in sie.

00:32:51: Das gehört auch zu diesem großen Problemkomplex des Vertrauensverlusts.

00:32:55: Was du angesprochen hast – die Lügner-Individende gehört dazu.

00:33:00: Denn die Lügner-individende ist eine Strategie, die meistens politische Akteure ausnutzen.

00:33:07: Sie nutzen nämlich diesen Vertrauungsverluste aus.

00:33:10: strategisch Und ursprünglich besagte die Lügner Individende, nämlich dass Personen des öffentlichen Lebens, die in der Kritik stehen, einfach behaupten können das belastende Beweise fakes sein.

00:33:22: Inzwischen ist es sogar noch mal weitergefasst, dass mit dem bloßen Verweis auf die Existenz von Diebfakes die Realität angezweifelt werden kann.

00:33:30: und jetzt sehen wir erschreckenderweise auch immer mehr im Justizsystem, also dass Menschen die angeklagt sind einfach behaupten das Video gerade Video und Audio Beweise, die vorher eigentlich wirklich als handfeste Beweise galten, Kali generiert oder KI manipuliert sein.

00:33:47: Aber wir sehen es auch sehr häufig im politischen Bereich und du hast ja schon angesprochen Donald Trump zum Beispiel hat das in der Vergangenheit mehrfach gemacht zb beim Präsidentschaftswahlkampf.

00:34:00: Da hat er behauptet, dass ein oder echte Bilder von einer Wahlkampfveranstaltung von Camilla Harris KI generiert sein.

00:34:07: Also so einer kann ja gar nicht sein, dass da so viele Menschen ... So einen großen Menschenauflauf war bei einer Wahl-Kampfveranstalung von Camila Harris, das ist alles KI-generiert.

00:34:16: Das ist aber bei weitem nicht das erste Mal.

00:34:18: Gerade in den USA sehen wir diese Lübnerindividende häufiger.

00:34:23: also davor gab es auch immer wieder Vorwürfe von beiden politischen Lagern dass irgendwelche Videos von Joe Biden oder von Donald Trump jeweils KI manipuliert oder generiert seien, zum Beispiel um den angeblich schlechten Gesundheitszustand von Joe beiden zu vertuschen.

00:34:38: Und es gab auch einen sehr krassen Fall nämlich die Tötung von George Floyd durch einen weißen Polizeibeamten vor gut fünf Jahren und da ging ja dieses Video weltweit viral wie dieser Polizeibeamt auf dem Hals von George Floyd kniet und sorgte weltweit für Entsetzen.

00:34:52: Da verging aber weniger als ein Monat bis eine republikanische Politikerin behauptete, so einem dreiszwanzigseitigen Bericht in Anführungszeichen, dass das Ganze ein Fake sei.

00:35:02: Das heißt es wird ausgenutzt.

00:35:04: und wenn wir noch ein bisschen weiter denken also nicht nur in den USA gerade autoritäre Regime nutzen das immer häufiger um die Beweislastung zu kehren und zu behaupten, dass echte Videos von Menschenrechtsverletzungen gefaked seien.

00:35:18: Also ein Riesenproblem auch ... pro demokratische AktivistInnen in solchen Ländern.

00:35:22: Und selbst im Deutschland hatten wir schon einmal die, haben wir das... Also meines Wissens einmal schon gesehen, die lübner Individende, nämlich ... ... zwanzundvierundzwanzig da gab es so große Demonstrationen gegen rechts und unter anderem auch in Köln.

00:35:35: Da haben AfD-Nahe Akteure in den sozialen Medien behauptet dass echte Luftaufnahmen von dieser Großdemo in Kologne KI generiert oder KI manipuliert sein.

00:35:46: Ja

00:35:46: ich erinnere mich stimmt ja sehr gut zum Beispiel!

00:35:49: Wahnsinn.

00:35:50: Also dieses Thema Vertrauensverlust und Lügner im Dividende ist schon ein großes Thema, was diskutiert wird aber das ist ja unabhängig von einem konkreten Deepfake-Nutzung und wir haben ja dann zusätzlich noch gezielte politische Nutzungen von Deepfakes und da wird tatsächlich auch sehr viel darüber diskutiert und gibt es wahnsinnige Befürchtungen gerade im Bereich Wahlmanipulationen aber auch im Bereich ausländische Einflussnahme Also Propaganda, hybride Kriegsführung und so weiter mit Hilfe von Deepfakes oder auch was Desinformationen und Spaltung außerhalb von Wahlen angeht.

00:36:26: Für all diese Dinge gibt es immer mehr Beispiele.

00:36:29: Gerade Lehrkräfte sind bei Deepfaks sozusagen doppelt konfrontiert.

00:36:33: also die Herausforderungen ist einerseits dieses thema sexualisierende Deepfake, das ja auch an Schulen immer mehr zum Problem wird weil wie gesagt Solche Skandale sich mehren, dass Schüler von ihren Minderjäggen Mitschülerinnen so was erstellen und teilen oder sogar Lehrkräfte abgebildet sind.

00:36:49: Dass sie betroffen sind davon.

00:36:50: Das ist der eine große Problemkomplex mit dem Schulen- und Lehrkräften irgendwie umgehen müssen.

00:36:55: Und der andere ist natürlich das, dass Schulen auch im zentraler Punkt sind, um Medienkompetenz im Sinne demokratischer Resilienz zu vermitteln.

00:37:04: Es ist also ein bisschen der klassischere Gedanke, die man bei dem Thema Deep Fake und Schulen hat Und da geht es zum Beispiel auch ganz viel darum, dass man eben sich bewusst ist wie sowas eingesetzt wird in Wahlkämpfen z.B Also vielleicht kann ich einfach so ein paar Beispiele geben zu dem Thema Wahlkampf damit man sich das so bisschen vorstellen kann.

00:37:22: Wir können vielleicht einfach mal auf den deutschen Kontext gehen weil Ich glaube das ist etwas was in der öffentlichen Wahrnehmung nicht so richtig durchgetrunken ist.

00:37:30: aber tatsächlich gab es Auch im Bundestagswahlkampf Gerade auf diese Olaf Scholz Memes, die ich angesprochen habe.

00:37:39: Die erst mal harmlos klingen aber dann teilweise zum Beispiel von Russland nahen Accounts auch verbreitet wurden und in der Summe schon dazu geführt haben dass er so gewissermaßen ein bisschen lächerlich gemacht wurde.

00:37:50: Aber es gab beispielsweise einen Deepfake Video von Friedrich Merz was diffamierend war und was aber sozusagen als Satire gelabelt wurde und einem sogar von einem SPD Bundestags Abgeordneten geteilt wurde das sehr viel Kritik mit sich gebracht hat.

00:38:07: Aber die überwiegende Mehrzahl aller Deepfakes im Bundestagswahlkampf waren tatsächlich pro AfD und da gibt es ziemlich krasse Beispiele, also da gab es zum Beispiel einen komplett KI-generierten Wahlkampflip der AfD Brandenburg in dem sie erst mal so dargestellt hat was ihre Meinung nach in Deutschland alles falsch läuft.

00:38:27: und dann sieht man so KI generierte Videoclips von blonde Frauen die von arabisch aussehenden Männern bedroht werden oder von blonden blauäugigen Schülern, die auf dem Schulhof und ihre nicht so ganz blonde blau-äugige Mitschülern angegangen werden.

00:38:43: Von weißen Rentnern, die im Müll wühlen.

00:38:45: Und dann aber auch kari generierte Kurzclips von Ampelpolitikern nämlich von Karl Lauterbach wie an Handschellen abgeführt wird und Robert Habeck wir Bücher verbrennt beim Arbeitsamt sitzt und anschließend in Warnweste Müll sammeln muss.

00:38:59: Das heißt, es war ein sehr diffamierendes, sehr rassistisches komplett nicht als KI-generiert gekennzeichnetes Video.

00:39:07: Es gab ein ähnliches Video der AfD Brandenburg im Landtagswahlkampf, da wurde Zugang von den Landesmedienanstalten gesperrt weil es eben entwicklungsbeeinträchtigende Inhalte für Kinder und Jugendliche gezeigt hat.

00:39:19: Das Gleiche ist aber nicht mit diesem Bundestags-Clip passiert und da sieht man auch, also wie das auch bewertet wird sozusagen als Gefahr gerade für Kinder und Jugendliche.

00:39:28: Und was auch ein sehr spannendes Phänomen war es gab komplett kaigenerierte Profile.

00:39:32: und da komme wieder zum Anfang zurück dass ich meinte auch nicht existierende Personen die kaigeneriert sind können grade auch im Bereich politische Desinformationen gefährlich sein.

00:39:42: Da gab es nämlich Kaigenerite Profile von jungen hübschen AfD-Wählerinnen, zum Beispiel Larissa Wagner die überhaupt nicht existieren und die dann da auf X vor allem Wahlkampfwertung für die AfD gemacht haben aber auch über andere Parteien und Journalisten in den hergezogen sind.

00:39:59: Und rassistische und desinformierende Statistiken verbreitet haben.

00:40:03: Und da sieht man schon, wie die Technologie immer mehr auch in Wahlkämpfe integriert wird.

00:40:07: Also wir haben wahnsinnig viele Beispiele aus den USA, im Jahr zwanzig aus Indien, im Jahre zwanziger.

00:40:12: Da ist Deutschland fast noch zurückhaltend.

00:40:14: In Ungarn gab es eine ganze Flut an Deepfakes und Desinformationen im Kontext der Wahlen.

00:40:21: Aber auch in Deutschland ist das inzwischen durchaus angekommen.

00:40:24: Und also da ist schon eine große Gefahr dahinter, ne?

00:40:28: Unsicherheit noch mal befeuert wird, was Menschen eigentlich glauben können gerade auch in Bezug auf Kandidierende und Parteien- und Wahlprogramme.

00:40:37: Aber defects können auch einfach Wähler in Abhalten wählen zu gehen wenn sie zum Beispiel die Information über den Wahlprozess verbreiten.

00:40:44: das haben wir auch schon gesehen in den USA zum Beispiel.

00:40:47: Und das ganze erweckt auch so oft den Eindruck dass bestimmte Positionen sehr viel verbreiteter sind als sie eigentlich sind also in Deutschland zum Beispiel der AfD Position weil eben AfD-Anhängerinnen sehr viele solche Deepfakes generiert und verbreitet haben.

00:41:01: Und das erregt ihnen anscheinend, dass das irgendwie eine sehr anerkannte und weitverbreitete politische Position wäre.

00:41:07: Das Ganze schwächt letztlich auch die Legitimität von solchen Wahlen weil wenn so dieser Eindruck entsteht, selbst wenn es gar nicht unbedingt der Fall ist oder wenn der Eindruck entsteht, dass einer Wahl dominiert wurde von Desinformationen und Deepfags dann bereitet es ja auch noch mal den Grund für solche Anzweifeln des Wahlergebnisses.

00:41:24: Also dieses Thema Wahlen ist ein Riesenproblem und im Wachsen das Problem, also seit dem Jahr zwanzig sind wir immer mehr Deepfakes in Wahlen weltweit.

00:41:33: aber es ist nicht das einzige politische Problem ich habe es ja schon so ein bisschen angesprochen.

00:41:37: also außerhalb von Wahlen sehen wie immer mehr Verleumdung und Diffamierung und interne Spaltung durch Deepfake's.

00:41:43: Und dann haben wir noch das große Thema ausländische Einflussnahme und Propaganda.

00:41:47: Und da ist es vielleicht auch nochmal für Lehrkräfte interessant, dass gerade Schüler in ihren Social Media Feeds häufig sehr viele Inhalte zu aktuellen Kriegen erhalten.

00:41:58: Also vor ein paar Jahren war das noch so sehr viel Inhalt zum Ukraine-Krieg.

00:42:01: Inzwischen ist es sehr viel z.B.

00:42:02: zum Iran-, USA-Krieb und da gibt's auch wahnsinnig viele kari generierte Inhalten also gerade im Iran... Da sind so viele KI-generierte Inhalte unterwegs, unter anderem deswegen weil es so schwierig ist aus dem Iran heraus tatsächliche Berichterstattung zu leisten.

00:42:21: Und diese Lücke wird sozusagen auch durch KI generierte Inhalten gefüllt also zum Beispiel durch sowas wie Fake Video Clips von irgendwelchen israelischen Soldatinnen die sich in Todesangst irgendwo verschanzen oder aber auch gefälschte Videos von wunderschönen iranischen Kampfpilotinnen und Soldatinnen, was einfach jeglicher faktischen Grundlage entbehrt.

00:42:42: Weil Iranerinnen überhaupt nicht in den Streitkräften aktiv sein dürfen.

00:42:47: Und was ich dazu noch kurz sagen will bevor wir dann vielleicht zu dem Chancen kommen ist dass wir hier jetzt auch ganz aktuell so eine Vermischung sehen.

00:42:55: also desinformation kann ja politisch motiviert sein aber auch wirtschaftlich motiviert seien.

00:43:00: manchmal ist sie auch.

00:43:01: beides kann man Millionen von Menschen erreichen und man kann auf den Social Media-Plattform natürlich auch solche viralen Clips monetarisieren.

00:43:12: Und das nutzen jetzt tatsächlich viele Akteure aus, da sind wir wieder bei einem neuen Phänomen was wir vielleicht vor Deep Facts nicht so hatten.

00:43:19: es ruft neue Akteuren auf dem Plan die einfach nur mit solchen KI generierten Inhalten also auch politischer Natur zu kriegen Geld machen wollen.

00:43:28: Und das sehen wir einfach, dass da zum Beispiel so eine Flut von irgendwelchen KI-generierten Bildern ist wie angeblich die Leiche von Agatola Alichaminé gefunden wird oder sowas und dahinter stecken nicht unbedingt Menschen, die irgendeine Position in diesem Krieg vertreten sondern die vielleicht auch einfach nur Geld machen ...

00:43:48: das, was wir über Slop gesprochen hatten.

00:43:50: Also ich glaube genau da sind die Grenzen ja dann fließend... ... weil Slop-Content also dieser Schund dieser Müll... ... meistens mit dieser Monetarisierungsabsicht auch entsteht.

00:44:00: Deswegen ist es super spannend und auch danke dass du nochmal den Fokus... ... und den Finger in die Desinformationswunde gelegt hast.

00:44:08: Es gerade auf meinen Herztes Thema, auch wenn's natürlich kein schönes Thema ist,... ... ganz wichtig, dass wir da auch noch mal tiefer reingeschaut haben!

00:44:16: Ich glaube deutlich wurde bislang es gibt da verdammt viele problematische Aspekte, viele Risiken.

00:44:23: Deshalb nochmal den Bogen zurückschlagen.

00:44:25: ganz kurz aber auch nur... Es ist ja meistens in dieser Welt nicht alles nur schwarz-weiß und vielleicht gibt es ja auch Anwendungen von Deepfakes gerade eben wie gesagt im Bildungskontext wo man sagt naja da eröffnet das aber auch neue Chancen.

00:44:40: Gibt's da was?

00:44:41: ich frag mal so vorsichtig

00:44:43: Ja, also da gibt's was.

00:44:45: Du hast es schon richtig gesagt Also ich sehe in der Technologie natürlich schon vordergründlich sehr viele Gefahren.

00:44:51: Aber das ist eine sehr breite anwendbare Technologie und die wird auch immer schon sehr breit angewendet Und gerade im Bereich Unterhaltung aber auch im wirtschaftlichen Bereich In allen möglichen verschiedenen Industrien Werbeindustrie Marketing Fashion InfluencerInnen Medizinische Assistenz-Technologie.

00:45:07: Das ist wirklich sehr, sehr breIT!

00:45:09: Und dann gibt es auch so diese Ideen dass man zum Beispiel für Bildung benutzen kann, also gerade für historisch-politische Bildung zum Beispiel.

00:45:16: Und da gibt es so einige Projekte die dann immer wieder genannt werden.

00:45:19: Also z.B.

00:45:20: gibt es schon sehr lange ein Museum in den USA ich glaube seit dem Jahr zwanzig wo man mit dem Avatar des verstorbenen Künstlers Salvador Dalí interagieren kann und dann können Besucher in dem Fragen stellen zu seiner Kunst, zu seinen Werken und da einen neuen Zugang zu der Kunst erhalten.

00:45:37: Es gibt Reden von verstorbenden Persönlichkeiten die vertont werden in ihrer Stimme, die sie eigentlich gehalten hätten.

00:45:44: Wenn der Verlauf der Geschichte anders gewesen wäre.

00:45:48: also zum Beispiel JFK Unsilenced.

00:45:50: das ist ein Projekt wo die Rede von John F Kennedy vertont wurde, die er am Tag seiner Ermordung in Dallas eigentlich gehalten hätte.

00:45:59: es gibt sogar so immersive Virtual Reality und augmented reality Erlebnisse.

00:46:04: da setzt man sich eine dreideh Brille auf zum Beispiel im Museum Bei dem Projekt The March zum Beispiel ganz nah ran gehen an Martin Luther King, während er seine berühmte I Have A Dream Rede hält.

00:46:17: Und durch die Deep Fact Technologie sieht man sozusagen jede Probe und kann sich ganz, ganz nah dran begeben bei ihm.

00:46:24: Dann gibt es auch so interaktive Erlebnisse.

00:46:26: also es gibt Ideen dass man Avatare generiert und denen dann Fragen stellen können.

00:46:31: und da gab's zb ein Projekt von einer UN Hochschule, die haben zum Beispiel einen Avatar einer somalischen Geflüchteten erstellt.

00:46:39: Man konnte dann da eben Fragen stellen.

00:46:42: es gibt auch zb von der LFK Baden-Württembergs und Projekt namens KI Fernsprecher.

00:46:48: Da kann man so einen physischen Telefonhörer in die Hand nehmen Und dann ruft man eine Person aus der Vergangenheit an Und da sind Bilder von dieser Person.

00:46:57: Also verschiedene Personen können auswählen, KI-generierte Bilder, Porträtfotos und dann kommt eine KI generierte Stimme und beantwortet Fragen zu der jeweiligen Zeit.

00:47:07: Die Grundlage ist eben so ein Large Language Model, also textbasierte generative KI die trainiert wurde auf irgendwelchen Quellen aus der jeweilligen Zeit.

00:47:16: und diese ganzen Projekte haben natürlich schon Chancen, dass man gerade zu politischen Themen aber auch vor allem auch historischen Themen, so einen niedrigschwelligen und neuartigen Zugang ermöglicht.

00:47:28: Wo gerade vielleicht auch Schülerinnen empfänglich dafür sind, weil sie sagen wow das begeistert irgendwie, dass motiviert mich über etwas nachzudenken, über was ich sonst nicht nachgedacht hätte zum Beispiel ja auch über alternative Geschichtsverläufe oder sowas.

00:47:41: man kann eben auch gerade durch Live Language Models sehr persönliche Interagieren und persönliche Fragen stellen Und es muss auch gar nicht immer so High Level sein.

00:47:49: also Die Technologie kann zum Beispiel auch benutzt werden, damit ich meine ganzen textbasierten Lernmaterialien reinfüttere.

00:47:56: Zum Beispiel als Lehrkraft.

00:47:58: und dann erhalte ich z.B.

00:47:59: ein Podcast also ein Audio-Datei oder ich er halte einen Video wo ich so eine KI Avatar habe der das dann irgendwie vermittelt oder es kann in sehr viele verschiedene Sprachen übersetzt werden.

00:48:12: Ich könnte auf diesen Podcast hier zum Beispiel in unseren Stimmen dann auf Englisch zum Beispiel übersetzen, da hätten wir gleich eine ganz neue Zielgruppe erreicht.

00:48:21: Also das Ganze hilft natürlich auch, dass man Leute ansprechen kann mit verschiedenen Lernstilen oder mit unterschiedlichen sprachlichen Hintergründen und trotzdem sind all diese Anwendungen jetzt auch nicht ganz ohne Probleme.

00:48:31: also ich bin an einem Ethikzentrum, ich beschäftige mich sehr damit und natürlich muss man sagen es bringt so ganz eigene Herausforderung mit sich.

00:48:41: wenn man z.B.

00:48:41: die Flex von Verstorbenen macht auch verstorbenen historischen Persönlichkeiten, dann wirft es immer Fragen auf nach der Würde der Verstorbenden.

00:48:49: hätten die dieser Nutzung eigentlich zugestimmt zu Lebzeiten.

00:48:53: Diesen Aussagen, die da vielleicht auch getätigt werden oder wie wichtig ist das ihre Hinterbliebenen zustimmen?

00:48:58: Oder was macht das eigentlich mit den Hinterbliebenden wenn sie immer wieder in Deep Fake Form konfrontiert werden mit ihren Verstorbenenen Angehörigen und SchülerInnen zum Beispiel, in dem Fall kann es auch zu so einer emotionalen Überwältigung führen.

00:49:12: Also gerade so VR-AR-Erlebnisse du bist da richtig drin, immersiv das kann dich überfordern, du hast keine Distanz mehr.

00:49:21: Du kannst vielleicht auf das Gefühl bekommen ich war dabei Ich weiß wie's gewesen ist und da gehen dann auch so Norsen in der Geschichtsvermittlung verloren weil letztendlich sind solche Projekte ja immer nur eine Interpretation der Geschichte Und manche Projekte waren auch wirklich stark in der Kritik.

00:49:36: Also gerade dieser somalisch Flüchtlings-Avatar wurde sehr stark kritisiert, weil es hier ist ja gut.

00:49:41: wozu brauchen wir jetzt eine KI Avatar?

00:49:43: Wir haben ja Millionen von tatsächlichen Geflüchteten die können ja wohl eigentlich am besten für sich selbst sprechen.

00:49:48: und dann haben wir das Problem sobald solche Dinge interaktiv sind und kombiniert werden mit large language Models, dann handeln wir uns die ganzen Probleme ein, die wir durch large language models haben.

00:49:58: Nämlich sowas wie faktische Fehler und Translucenationen.

00:50:01: Es ist da nicht unbedingt ein Problem der deep fact Technologie.

00:50:04: aber wenn das kombinieren wird, dann müssen wir auch damit irgendwie umgehen.

00:50:07: Also es zeigt...es ist nicht alles schlecht, es ist nicht alle dunkel.

00:50:13: Im Endeffekt sind diese positiven Anwendungen, die es durchaus gibt auch immer meistens verbunden.

00:50:17: Das habe ich auch festgestellt, auch in der Therapie gibt's ja auch entsprechende Ansätze, die Facts zu verwenden.

00:50:22: Irgendwo doch mit großen ethischen Fragestellung wo man auch sehr unterschiedlich drüber denken kann.

00:50:27: aber ich finde ist das auch nochmal sozusagen versöhnlich das auch noch mal aufzuzeigen.

00:50:31: okay im Endeffekte ist eine Technologie die auch ne ambivalenz halt besitzt wie eigentlich so jede technologie und man kann sie auch potenziell je nach einsatz für durchaus gute Dinge nutzen.

00:50:44: Genau, jetzt ist und ich glaube da bietet es sich jetzt an mal zu quasi so einen zweiten Folgenteil ein bisschen überzugehen die entscheidende Frage, die uns eigentlich immer hier im Kontext unseres Schaffens so entgegengeschlagen ist eigentlich folgende was können wir denn jetzt eigentlich noch tun angesichts dieses enormen Täuschungspotenzials?

00:51:04: Was wir feststellen das Deepfakes also mit sich bringen um im Endeffekt diese Gefahren und Risiken, um den zu begegnen.

00:51:11: Und um, ich sage mal ganz plakativ untergebrochen, um Deepfacts überhaupt noch zu erkennen.

00:51:15: Wodoch alles immer realistischer wird... ...und das genaue Hinschauen, dass genaues Hinhören ja eigentlich wahrscheinlich würde ich jetzt vermuten immer weniger Auskunft gibt!

00:51:26: Wie siehst du?

00:51:27: Das gibts da eine einfache Platentlösung?

00:51:30: oder was können wir

00:51:31: tun?!

00:51:32: Ich habe es ja schon anfangs gesagt, das ist auch immer so eine zentrale Frage mit der ich mich in meiner Forschung und meine Arbeit beschäftige.

00:51:38: Weil es reicht ja nicht nur die ganzen Gewahren aufzuzeigen man muss ja auch ein bisschen positiv in die Zukunft schauen und proaktiv schauen.

00:51:45: was kann und sollte man jetzt als Gesellschaft eigentlich machen?

00:51:48: Und da gibt es natürlich keine einfache Patente-Lösung.

00:51:52: das wäre ja zu schön.

00:51:54: tatsächlich Ich sage immer, die Technologie ist gekommen um zu bleiben.

00:52:01: Also die kann man nicht verbieten auch weil es so viele legitime Anwendungen gibt Auch viele politische Anwendung selbst wenn sie uns nicht gefallen sind.

00:52:09: von der Meinungsfreiheit gedeckt zum Beispiel Und auch ganz praktisch gesehen ist ja sehr viel auch Open Source zum Beispiel.

00:52:15: also man würde dem Ganzen auch ganz Praktisch überhaupt nicht mehr handhabbar werden.

00:52:18: das heißt Man muss da als Gesellschaft sehr viele verschiedene Akteure aktivieren, die dann auch verschiedene Instrumente anwenden.

00:52:28: Die drei Hauptstränge sind eigentlich immer Politik.

00:52:31: Also die Politik muss regulieren.

00:52:33: Dann das Thema technische Lösungen also Arbeit zum Beispiel auch an KI-basierter Detektion weil wir es eben nicht mehr mit den bloßen Auge erkennen können aber auch sowas wie Kennzeichnung authentischer Medien.

00:52:46: und dann das dritte Medienkompetenz und Bildung da sind ja heute auch so ein bisschen dabei.

00:52:52: Es gibt aber auch noch andere Sachen, die helfen würden.

00:52:54: Also so ist die Stärkung von Journalismus und von Faktenchecks, also professionellen Faktonchecks.

00:53:00: Institutionen und auch Individuen können sich zum Beispiel gegen Betrug auch ganz gut selber beschützen teilweise durch sowas wie zwei Faktor-Authentifizierungen oder in der Familie Code Wörter vereinbaren damit man nicht auf betrügerische Enkel Tricks bei Punkt Null Anrufe reinfällt und solche Dinge.

00:53:15: natürlich spielt auch Berufsethik und Unternehmensverantwortung eine Rolle, also gerade von Seiten der EntwicklerInnen aber vor allem natürlich auch der Firmen die sowas anbieten und in all diesen Bereichen passiert tatsächlich auch ganz viel.

00:53:28: Da kommen wir ja vielleicht auch noch drauf zurück und dann hast du ja schon so ein bisschen die Frage anklingen lassen ob man das dann auch... Also dass man es ja eigentlich nicht mehr erkennen kann und dem würde ich also zustimmen, ist mir auch ganz wichtig zu sagen Man kann schon noch einige Diebwerks erkennen, also es gibt ja auch manchmal Artifakte, nennt man das.

00:53:48: Also irgendwelche Unstimmigkeiten zum Beispiel Gegenstände erscheinen plötzlich oder verschwinden und verändern ihre Größe oder ihre Form hier nach Kamereinstellung zum Beispiel Und diverse andere Dinge, da wurde ja auch in den letzten Jahren viel darüber diskutiert.

00:54:03: Sechs Finger oder asymmetrische Ohrringe oder seltsame Lichtreflexe und so war es alle das kursierte Jahr zurecht auch noch weil bis vor wenigen Jahren auch noch häufig der Fall war.

00:54:14: aber einen gut gemachten Liebfeg kann man nicht mehr mit dem bloßen Auge erkennen oder hören mit dem Ohr sozusagen.

00:54:22: also wenn wir glauben dass können und wenn wir versuchen das zu vermitteln, auch gerade an Schülerinnen dann werken wir uns und die Schülerin in einer falschen Sicherheit.

00:54:31: Und dann fallen wir erst recht auf gut gemachte Deep Six

00:54:34: ein.".

00:54:34: Das ist eine ganz spannende Aussage und eine starke Aussage.

00:54:38: Lass uns da auch noch mal gerne reingehen weil das ist total spannend!

00:54:41: Wir haben auch einen Schülerprojekt mit Generation KI für Demokratie gemacht wo Ja im Prinzip Schüler auch in den Mittelpunkt gestellt haben und wo wir genau diese Frage auch ein bisschen aufgeworfen haben.

00:54:53: Wir haben Quiz mit ihnen gemacht, mit eben authentischen Inhalten und von uns sozusagen gediebt fähigten Inhalten Und wir haben einmal schon immer noch festgestellt dass man diese Fähigkeiten zur Erkennung von gewissen Merkmalen die du auch schon aufgeführt hast durchaus ein Stück weit trainieren kann.

00:55:11: also Das ist aber auch alles natürlich immer ein bisschen vorgeframet, das heißt die Schülerinnen wissen natürlich auch was da kommt.

00:55:16: Da wäre ein paar Sachen sein, die wahrscheinlich wahr sind und welche nicht.

00:55:20: Aber man hat schon durch die Bank, was für uns erstmal ein positives Erlebnis war gemerkt, okay, ein Stück weit kann man dieses skeptische Sehen und das skeptische Hören auch noch trainieren.

00:55:30: Gleichwohl geben wir auch immer mit genau das, was du sagst allein schon perspektivisch wenn man sich so diese technologischen Sprünge ansieht.

00:55:39: Wie lange funktioniert das noch?

00:55:41: Und ich habe auch nochmal bei Professor Dr.

00:55:43: Martin Steinwerfer von Fraunhofer Institut für Sicherheit in der Informationstechnik nachgefragt im Vorfeld, ja... Ich fragte, was sind denn noch so aktuelle Merkmale überhaupt?

00:55:53: und dann gibt es natürlich eine ganze Liste, von denen du auch teilweise jetzt welche aufgezählt hast aber auch da immer!

00:56:00: Das hat teilweise eine Halbwertzeit von fünf Minuten und dann ist nicht mal der sechste Finger sondern es sind vielleicht noch irgendwie Ja, Gelenkstellungen die jetzt noch im Gespräch sind, die dann irgendwie nicht mehr ganz richtig sind.

00:56:11: Aber das heißt es ist ja alles sehr krass vergänglich, sehr schnelllebig und wir erleben häufig auch über Nachfragen von Schülerinnen und Älternteilen aber auch Lehrkräften immer so ein Stück weil diese Erwartungshaltung gibt da einen Katalog Und wenn wir den abhaken und wenn diese Merkmale nicht dabei sind, dann sind wir auf der sicheren Seite.

00:56:31: Das ist genau das was du, wenn ich dich richtig verstehe auch nochmal hier ein Stück weit den Zahn ziehst, leider funktioniert das nicht mehr so.

00:56:40: Genau also wie du dir sagst die Technologie entwickelt sich so rasant weiter und solche Kataloge werden ja auch sehr gerne genutzt um dann die DeepFake Generierung zu verbessern.

00:56:49: Also es ist hier so ein bisschen wie.

00:56:50: vielen Dank für den Hinweis.

00:56:52: jetzt gucken wir besonders darauf dass Und dann gibt es ja auch schon Akteure, die technisch versierter sind und die auch solche Kataloge im Kopf haben.

00:57:01: Und die genau darauf achten und die das dann genauso tweaken sozusagen damit dass dann eben nicht mehr erkennbar ist.

00:57:08: Und wie gesagt sie sind dann besonders gefährlich wenn wir denken wir könnten es noch erkennen und dann haben die Akteüre genau darauf geachtet und wir können es eben nicht merken dann werden wir besonders stark getäuscht.

00:57:17: Dann muss man auch sagen Verantwortung und Mühe können wir eigentlich Individuen aufbürden, also gerade auch Schülerinnen die ja jeden Tag teilweise Stunden lang in den sozialen Medien unterwegs sind.

00:57:31: Und eben keine Experten der Bildforensik oder sowas sind.

00:57:36: Können wir auch nicht erwarten dass sie dann wirklich bei jedem Medium ganz genau hingucken.

00:57:42: Das heißt aber nicht das wir gar nichts mehr machen können was so Medienkompetenz und Resilienz angeht.

00:57:46: Ich glaube wir müssen es nur wieder ein bisschen klassischer Denken, sozusagen.

00:57:51: Also dass wir wieder mehr zurückkommen zu so klassischen Medienkompetenzen und kritischem Denken.

00:57:56: nicht darum das man jetzt jedes Katzen Video oder sowas überprüft weil das also näher wir sehne Flut an KI-generierten Inhalten in den sozialen Medien und für SchülerInnen ist es einfach Alltag geworden sondern da geht es dann wirklich darum dass man kritisch nachschaut bei denen Inhalten wo es dann potentiell relevant wird, also wo zum Beispiel jemand defamiert wird oder was betrügerisch ist.

00:58:18: Oder wo irgendjemand so komplett aus der Rolle fällt und etwas tut, was er oder sie sonst normalerweise nie getan hätte.

00:58:25: Und dann geht es darum eben diese einzelnen Medien kritischer zu überprüfen.

00:58:29: Da kommen wir wieder auf klassische Medienkompetenzen zurück.

00:58:32: Also sowas wie die Quelle prüfen.

00:58:34: Ist das überhaupt eine vertrauenswürdige Quelle?

00:58:36: Oder ist das ein Profil, was nur zwei Wochen vor einer Wahl erschienen ist und seltsamerweise nur Inhalte zu der Wahl postet?

00:58:45: Oder fünfzig irgendwie doch dann seltsam anmutende Beiträge pro Tag.

00:58:51: Dann ist es vielleicht ein Bot oder gibt es eben andere vertrauenswürdige Quellen die auch über das gleiche Thema und den gleichen Inhalt berichten.

00:59:00: Manchmal hilft auch eine Bilderrückwärtssuche noch, also wird ein Bild einfach aus dem Kontext gerissen.

00:59:03: Das ist dann kein Thema für KI-generierte Bilder.

00:59:08: Man kann auch sagen okay es gibt so ein paar Tools mit denen man technisch überprüfen kann ob etwas KI generiert ist oder nicht.

00:59:14: Also ich habe ja schon über die DeepVelk Detektoren gesprochen, die auch KI basiert sind.

00:59:18: Da muss man aber sagen die Tools die der Öffentlichkeit zur Verfügung stehen und damit zum Beispiel auch Lehrkräften und Schülerinnen nicht die Neuesten und Besten.

00:59:26: Und das auch aus gutem Grund, weil wie gesagt auch jeder Detektor ist im Prinzip einfach nur so eine Benchmark für die Menschen, die die Flex generieren um das dann zu verbessern.

00:59:36: Ich glaube was wir dann auch noch machen müssen.

00:59:38: neben so einem klassischeren Medienkompetenz Training ist auch dass wir so grundlegendere Themen behandeln nämlich dass SchülerInnen ein grundlegenderes Verständnis dafür bekommen nicht nur Schülerinnen eigentlich alle Menschen in den sozialen Medien nutzen wie Desinformation funktioniert, welche Strategien da gefahren werden und auch wie die Plattformökonomie funktioniert.

01:00:00: Also sozusagen das Ökosystem in dem das Ganze verbereitet wird.

01:00:04: Da gehört dann auch dazu dass wir sowas vermitteln wie dass es so kognitive Verzerrungen gibt, die ganz gezielt ausgenutzt werden von desinformierenden Akteuren.

01:00:14: also.

01:00:14: zum Beispiel gibt es den sogenannten Negativity-Bias, also Menschen tendieren dazu negativen Inhalten sehr viel mehr Aufmerksamkeit zu geben.

01:00:22: Also Inhalte die z. B. Hass oder Angst schüren, die interagieren wir länger damit und verharren länger.

01:00:30: Wir schreiben mehr dazu und das ist natürlich wieder positiv für die Plattformökonomie denn die profitiert dann davon dass wir länger auf ihren Plattformen verharrenden mehr Daten preisgeben und kann das Ganze monetarisieren.

01:00:42: Und dazu gehört zum Beispiel auch der Confirmation-Bias, also der sogenannte Bestätigungsfehler.

01:00:47: Also das Menschen dazutendieren eher Inhalte zu glauben die ihrem eigenen Weltbild entsprechen als Inhalten, die dem widersprechen.

01:00:53: und das führt eben auch dazu dass wir uns dann in so gewisse Bubbles begeben oder bestimmte Inhalter eben besonders stark angezeigt bekommen.

01:01:00: So funktionieren ja auch die Algorithmen und ich glaube, dass es schon auch hilfreich ist, dass man solche Strategien vermittelt und wie dieses Ökosystem wirtschaftlich funktioniert, sodass Schülerinnen dann innehalten können und sagen okay wer profitiert denn eigentlich gerade davon dass ich mich jetzt gerade so aufrege oder dass ich jetzt da gerade so Angst bekomme bei dem Post zum Beispiel.

01:01:22: Und ich glaube das sind schon nochmal so grundlegendere Strategien.

01:01:26: Und bei sowas wie Betrug und Sexualisierenden Deepfakes brauchen wir dann wieder andere Strategien, also da wird es ja auch im nächsten Podcast rumgehen aber da gibt's zum Beispiel auch darum dass man eben positive Rollenbilder vermittelt.

01:01:37: Also nochmal eine ganz andere Strategie sozusagen der Medienkompetenz- und Resilienzvermittlung durch Schulen und Lehrkräfte.

01:01:45: Ja, also wir wollten nämlich heute genau in der Folge auch ein bisschen genau das in den Fokus stellen.

01:01:51: Kernfrage, die uns immer wieder entgegen gebracht wird.

01:01:53: Was tun wir denn jetzt?

01:01:54: Und vor allem was können wir selbst tun als Schülerin, als Lehrkraft, als Elternteil?

01:01:59: und das ist eigentlich wenn ich dich auch richtig verstanden habe ja auch so ein bisschen dieser springende Punkt dass man sagt okay diese ich glaube wie es auch genannt wird diese innere Logik der Prüfung also dass man quasi dieses Bild oder was auch immer da ist nimmt nach irgendwelchen Merkmalen sucht die nach Artifakten nach Fehlern.

01:02:16: Das wird uns Nicht lange mehr weiterhelfen.

01:02:19: Das ist noch gut, wenn man das trainiert und auch genau hinzuschauen macht immer Sinn aber es wird über kurz oder lang einfach nicht mehr allein funktionieren und vor allen Dingen nicht so eine schwarz-weiß Ja nein Einschätzung ermöglichen sondern dass es immer dann irgendwo eine Wahrscheinlichkeit Sache.

01:02:34: Und dann geht's halt über zu diesen klassischen Informationskompetenzen wie du sagst.

01:02:38: und Dann sind wir halt wieder bei ganz klassischem Themen, wie prüf ich Quellen?

01:02:43: Wie finde ich zum Beispiel eine Primärquelle auch von so einem Digfake raus.

01:02:46: Was angesprochen zu Techniken wie Bilderrückwärtssuche bieten sich da immer total an.

01:02:50: also auch immer als Empfehlung einfach mal Google Lens zu nutzen.

01:02:53: oder die Anbieter anderer Suchmaschinen eben Yandex.

01:02:58: Bingen alle ja gängigen Marktanbietern haben da im Prinzip solche Funktionen TinEye beispielsweise auch und dann eben alles Ich sag mal indirekte Punkte, also wie plausibel ist das was ich da sehe oder höre?

01:03:14: Also im Kontext herzustellen.

01:03:16: Wie emotional wird etwas dargestellt?

01:03:18: du hast die AfD Beispiele ja auch angesprochen Das merkt man ja immer dass das Hardcore auch über Emotionalität halt funktioniert und dass man quasi über diese indirekten Punkte quasi dann diesen Schluss eben auch macht wahrscheinlich deepfake oder eben wahrscheinlich eher ein authentisches Medium.

01:03:36: Und ganz spannendes Beispiel noch, was mir heute morgen nochmal eingefallen ist.

01:03:41: Wahrscheinlich hast du das auch gesehen hier von dem Fußballer Haarland der sich ja vor so einem eigenen Spiegelbild erschreckt hat vermeintlich.

01:03:47: Das war auch so einen Clip, der total viral gegangen ist und es stellte sich raus dass es eben auch in Deepfake ist.

01:03:54: Mir ist das Ganze untergekommen als ich tatsächlich bei Instagram dann diesen Beitrag ... von OE-IVI-AT gesehen habe, was ein Boulevardmedium in Österreich ist.

01:04:05: Und das hatte diesen Beitrag einfach genommen und gepostet... ...und wenn ich jetzt dieses Hintergrundwissen eben nicht habe, ...was ist das für ein Medium?

01:04:12: Welche politische Richtung hat dieses Medium?

01:04:15: Wie wird es finanziert?

01:04:16: All diese Folgenfragen komme ich eigentlich nicht weiter,... ...weil auch da gab es überhaupt keine Anreize irgendwie noch zu erkennen, dass das ein Diebwerk ist.

01:04:25: Also ich finde, das macht nochmal so deutlich.... Es braucht eigentlich diese klassischen Informationskompetenzen, nichts Neues in dem Sinne.

01:04:34: Aber halt wirklich genau dort reinzugehen immer stärker und vor allen Dingen sich nicht auf so eine Lösung zu verlassen dass man denkt es gibt da irgendetwas was sofort dir eine Einordnung gibt.

01:04:44: also das haben wir nämlich auch so erlebt Auch in Nachfragen Diebferd-Diktatoren die sind leider auch nicht verlässlich.

01:04:51: Also da ist auch ein bisschen immer so diese Erwartung Ah ja, das ist ja toll!

01:04:55: Da schmeiß ich einmal da rein und ich kriege jetzt eine hundertprozentige Aussage.

01:04:59: Und das funktioniert ja eben leider auch nicht.

01:05:01: Genau, also Diebfeg, wie gesagt die guten sind sowieso nicht öffentlich verfügbar.

01:05:06: aber generell ist einfach so...die hinken immer der Generierung hinterher, sie sind nie perfekt.

01:05:11: d.h.,

01:05:12: es gibt immer authentische Medien, die fälschlicherweise als Diebpfege kennzeichnet werden um Diebfegs, die durchs Raster fallen Und die geben immer so eine Wahrscheinlichkeit raus.

01:05:21: Also sowas wie fünfundachzig Prozent Wahrscheinlichkeiten ist das Ganze ein Fake.

01:05:24: und dann ist die Frage, was mache ich damit?

01:05:26: Also als Privatkonsumierender sozusagen ist es jetzt vielleicht nicht so dramatisch.

01:05:30: aber was mache Ich zum Beispiel als Plattform dann damit?

01:05:32: oder als Strafverfolgungsbehörde?

01:05:34: und da muss man ja auch zu dem Ganzen sagen also du hattest ja noch mal die Bilder rückwärts Suche hervorgehoben Die funktioniert natürlich nicht bei rein KI generierten Bildern.

01:05:42: Also die funktionieren eben bei echten Bildern.

01:05:45: Aber da sind wir trotzdem bei so einem Problem nämlich nur weil wir erkennen dass ein illustriertes Bild zum Beispiel KI-generiert ist.

01:05:51: Heißt es ja nicht, dass die Information dahinter falsch ist?

01:05:56: Also gleichzeitig nur weil das Bild echt ist und nicht kari generiert heißt es ja nichts, dass der Informationen richtig ist.

01:06:02: also da werden dann auch solche Mechanismen wieder gefährlicher, dass man irgendwie meint okay dieser Postel ist ja stimmig, weil das ist kein kari-generierter Bild.

01:06:10: was kann genauso des Informationen sein?

01:06:12: Das kann zb einfach ein Bild sein, das aus einem ganz anderen Kontext gerissen wurde oder anders geschnitten würde zum Beispiel, sodass Informationen fehlen.

01:06:20: Also die pfexen ja nicht die Gesamtheit des Problems an der Information.

01:06:24: Das ist dann nochmal größer.

01:06:26: Ganz wichtiger Punkt gut dass du das noch mal sagst.

01:06:29: ganz wichtig richtig da gibt es noch viel anderes.

01:06:32: nur ganz kurz zur Einordnung mit den Bilder rückwärts Suche genau war von mir auch nochmal so gemeint.

01:06:37: Ja, darüber kommt man schon auch bei vollständig KI-generierten Material ja sehr häufig zum Beispiel auf Faktenchecks.

01:06:42: Was ja immer eine super Sache ist.

01:06:44: Das heißt, man sieht ja schon wo entsprechende Inhalte noch gepostet wurden und das kann einem auch unheimlich weiterhelfen.

01:06:50: Ist im Übrigen auch ein Tipp den wir auch immer mitgeben, auch in unserer Unterrichtseinheit deepfax durchschauen also auch so gerade bei viralen Social Media Inhalten mal zu schauen okay gibt es nicht da eigentlich schon Faktonchecks?

01:07:03: Und da gibt es ja sowas wie diesen Google Fact Check Explorer.

01:07:06: Das ist quasi so eine Suchmaschine für Faktenchecks, die man tatsächlich durchsuchen kann nach entsprechenden Themen und filtern kann.

01:07:13: Und auch zum Beispiel das auch als kleiner Tipp noch mitgegeben – das Faktoncheck-Archiv von der German Austrian Digital Media Observatory.

01:07:20: Klingt furchtbar kompliziert!

01:07:22: Ist im Endeffekt ne Zusammenschluss aus verschiedenen Nachrichtenagenturen ... die auch, was ich wirklich total toll finde so eine Art Nachschlagewerk halt ... ... haben von deutschsprachigen Faktenchecks.

01:07:33: Und da sind dann teilweise genau solche viralen Social-Media Clips auch entkräftet.

01:07:37: Die brauchen natürlich immer ein bisschen der Fallhöhe und eine gewisse Relevanz... aber ich find' auch das kann eine super Anlaufstelle für Schülerinnen und Schüler sein,... wo man einfach mal reinschauen kann.

01:07:47: Wo man nach Stichworten suchen kann und auch filtern kann zum Beispiel nach Deepfakes oder künstlicher Intelligenz.

01:07:53: Dann kriegt man wirklich toll schon überprüfte... Tatsachenbehauptungen im Prinzip raus.

01:07:59: Also das könnte, glaube ich auch noch ein guter Tipp sein.

01:08:02: Ja damit haben wir glaube schon einiges besprochen was man auch tun kann.

01:08:07: Gott sei Dank können wir da noch einiges tun.

01:08:09: es bleibt aber eine lange Kampf und eine lange Anstrengung.

01:08:13: vielleicht noch abschließend zu der weil das ganz frisch jetzt ja auch quasi auf der Agenda steht diese Kennzeichnungspflicht von KI generierten Inhalten die jetzt seitens der EU kommt Kann die vielleicht dieses Deepfake-Problem auch lösen?

01:08:31: Oder ist das eine vergebene Hoffnung, was meinst du.

01:08:35: In der KI-Verordnung wird auf Deepfakes ein Zweirein eingegangen.

01:08:39: Einmal gibt es diese Kennzeichnungspflichten.

01:08:42: Von der KI vor Ort betroffenen Akteure müssen Kennzeichen mehr etwas KI generiert sind um eben Täuschung zu verhindern.

01:08:49: und dann kommt noch so ein Verbot von Nacktbildgeneratoren oder tools desexualisierenden Deepfags erstellen können.

01:08:59: Das klingt erstmal gut und ist sicher auch ein richtiger Schritt mit diesen Kennzeichnungspflichten.

01:09:05: Und gleichzeitig wird es nicht alle Probleme lösen.

01:09:08: Das hängt unter anderem damit zusammen, dass die KI-Verordnung aus dem Verbraucherschutz kommt.

01:09:16: nicht für Privatpersonen, die rein in privater Absicht sozusagen handeln.

01:09:21: Das heißt zum Beispiel Diebfacks, die im Freundeskreis geteilt werden in der Chatgruppe, die werden davon nicht betroffen sein.

01:09:28: und aktuell ist es noch unklar, inwiefern DiebFacts, die eine Privatpersonin den sozialen Medien postet von der Kennzeichnungspflicht betroffen seien werden?

01:09:36: Also wahrscheinlich wird so sein wenn gerade jemand irgendwie einen Dieb-Fact einer Politikerin zum Beispiel postet.

01:09:43: Also auch wenn es eine Privatperson ist, muss sie das Kennzeichnen.

01:09:45: Aber das ist noch nicht hundertprozent klar.

01:09:48: und dann ist es natürlich so dass viele böswillige Akteure sich nicht in die Kennzeichnungspflichten der EU halten werden also gerade staatsnahe ausländische Akteur die Desinformation verbreiten wollen.

01:10:00: Es gibt zwar empfindliche Strafen wenn man sich nicht daran hält aber es ist ja immer eine Frage der Durchsetzung.

01:10:06: Und wenn wir uns die Masse an Inhalten online anschauen um die Schwierigkeit sowas zu erkennen dann müssen wir uns ja auf KI-basierte Deepfake-Direktion verlassen.

01:10:16: Und da hatten wir es ja gerade schon davon, dass die eben immer imperfekt ist und dass sie immer hinterherhängt und immer auch Wahrscheinlichkeitsbasiert ist.

01:10:25: Dann ist auch so die konkrete Frage wie gehen dann Plattformen damit um?

01:10:29: Also wie gehen Sie zum Beispiel mit oben wenn der Deepfak Detector anschlägt und sagt, eighty fünf Prozent Wahrscheinlichkeit ist das ein Fake?

01:10:35: wird es dann gekennzeichnet oder nicht, denn gibt es vermutlich Widerspruchsmöglichkeiten also widersprechen können und sagen, nee das ist aber ein echtes Medium.

01:10:45: Wie geht man damit um?

01:10:46: Also da gibt es so viele praktische Umsetzungsprobleme auch wenn man sich einfach diese Flut an Medien vor Augen hält, diese Millionen von Inhalten die täglich gepostet werden.

01:10:55: Das heißt es wird durchaus sehr viele Deepfakes geben, die durchs Raster fallen und die könnten dann wieder besonders gefährlich werden, wenn wir eigentlich so diese Erwartungshaltung haben dass alles was KI generiert ist, auch als KI generieren gekennzeichnet ist.

01:11:08: Und dann gibt's noch das Problem, es gibt Studien die zeigen dass so Kennzeichen und tatsächlich vielleicht auch das generelle Misstrauen in Medien steigern werden.

01:11:16: Das hatten wir schon angesprochen.

01:11:18: Auch die Lügner Individende zum Beispiel weil diese Kennzeichnung eben darauf hinweisen das und wie viel und wie gut Inhalte in den sozialen Medien KI generiert sind.

01:11:29: und wenn ich ständig sozusagen darauf verwiesen werde, dass ja irgendwie auch dieses tolle Video was so echt aussieht KI generierte ist dann entsteht bei mir vielleicht noch mehr das Gefühl, wow also eigentlich kann ja alles KI generiert sein und ich weiß gar nicht mehr was sich glauben soll.

01:11:44: Und dann haben wir noch dazu dieses Problem, was hier auch gerade meinte dass nur weil etwas KI-generierte Medien beinhaltet ist der Inhalt nicht falsch und nur weil die Medien echt sind ist der inhalt nicht richtig und auch das kann im Gekennzeichnungspflicht nicht angehen.

01:11:58: Das heißt es ist schon ein richtiger und wichtiger Schritt Und es wird auch viele, also gerade Unternehmen zum Beispiel.

01:12:03: Die Werbeklipps beispielsweise Posten die KI generiert sind betreffen oder auch Parteien, die KI-generierte Inhalte betreffend wahrscheinlich auch Privatpersonen, die zumindest politische Inhalt posten.

01:12:14: aber viele Akteure werden sich auch nicht dran halten und dann haben wir eben sehr viele Durchsetzungsprobleme und wir haben auch diese ja vielleicht unerwarteten negativen Nebenfolgen.

01:12:25: Ich will sagen unter dem Strich leider auch nicht die Patentlösung, glaube ich können wir gut zusammenfassen.

01:12:31: Ja also es zeigt sich... Wir können viel tun und müssen viel tun.

01:12:35: aber quasi die Hoffnung darauf dass es entweder einen ganz einfachen Merkmalskatalog gibt den man beim Anschauen solcher fraglichen Inhalte abhakt oder die Hoffnungen auf eine gesetzes Änderung die dann auch maximale Klarheit schafft wird uns nicht komplett zum Ziel führen, sondern es braucht verschiedene Anstrengungen.

01:12:56: Wir versuchen es halt genau unser Beitrag zu leisten bei Informations- und Medienkompetenz.

01:13:01: Und da haben wir glaube ich heute auch erfahren dass es da diverse Ansätze gibt, genau weiter quasi Handlungsstrategien auch zu stärken um die Pfeiks nicht auf den Leim zu gehen.

01:13:11: Jetzt kommen wir quasi schon fast zum Abschluss und ich entlasse dich quasi nicht mit einer ohne dir eine spannende Frage nochmal zum Schluss zu stellen.

01:13:19: denn Du hast, wenn ich richtig aufgepasst habe oder leitest einen Forschungsprojekt Deep Prisma.

01:13:27: Was sich ja ganz dezidiert mit Deepfakes auseinandersetzt und da arbeitest du, wenn nicht richtig informiert bin auch sozusagen im Schulkontext oder hast mit Lehrkräften und Schülerinnen eben auch Gespräche geführt.

01:13:37: korrigier mich gleich, wenn hier Quatsch erzähle aber auch für logischerweise, für unsere Zuhörerschaft wäre es natürlich total spannend mal zu wissen was sind denn da vielleicht erste Erkenntnisse die du auch mitgeben könntest und teilen könntest?

01:13:50: Und was wäre so zusammengefasst ja vielleicht so der wichtigste Tipp den du vor allen Dingen Schülerinnen und Schülern geben würdest um Deepfakes im Prinzip nicht offline zu gehen.

01:14:00: Eine komplexe Abschlussfrage.

01:14:01: Also tatsächlich das Projekt Die Prisma ist ein Forschungsprojekt, was dieses Jahr erst begonnen hat und von dem Bundesministerium für Forschung, Technologie und Raumfahrt gefördert wird und wir sind ein Konsortium also wie es ja auch bei solchen Projekten ist von verschiedenen Universitäten und Institutionen und ich leite das Projekt eben an der Uni Tübingen aber nicht das Gesamtprojekt dass nur damit bin ich hier auch irgendwie des Informationen verbreiten Und die Prisma konzentriert sich auf Deepfags von normalen Menschen, kann man sagen in Deutschland.

01:14:37: Also sexualisierende Deepfaggs, betrügerische Deepfagues und rufschädigende DeepFaggs.

01:14:42: Weil tatsächlich die Deepfage Debatte sich sehr lange vor allem um diese High-Level politischen Inhalte gedreht hat und diese Themen eher wenig Aufmerksamkeit bekommen haben.

01:14:55: Es gibt auch sehr wenige Daten tatsächlich dazu, gerade auch in Deutschland wie viele Menschen betroffen sind von solchen Liebfelks.

01:15:00: Wie sie dagegen vorgehen können?

01:15:03: All das wollen wir mit dem Projekt angehen indem wir aus so eine große Bevölkerungsumfrage machen um genau die Daten zu erheben.

01:15:08: und an der Universität Tübing werden wir Interviews führen unter anderem mit Betroffenen aber auch mit verschiedenen Stakeholdern nennen wir es und dazu gehören zum Beispiel auch Schulen Lehrkräfte und Medienbildungseinrichtungen.

01:15:25: Wo es dann auch um solche Fragen geht, wie habt ihr schon mal einen Fall an eurer Schule gehabt?

01:15:29: Was ist da passiert?

01:15:30: Wie seid ihr dagegen vorgegangen?

01:15:33: Was war das Endergebnis, mögliche Strafverfolgung zum Beispiel?

01:15:36: Wo waren die Probleme?

01:15:37: Gibt es Strategien an der Schule, dass ihr vorbereitet seid auf solche Fälle.

01:15:41: Es gibt auch noch andere Akteure, die wir fragen, z.B.

01:15:42: Straf Verfolgungsbehörden.

01:15:43: aber das ist so dieser Schulkontext und tatsächlich haben wir erst dieses Jahr begonnen mit dem Projekt.

01:15:49: insofern gibt es jetzt nicht die ersten Erkenntnisse aus diesen Interviews zum Beispiel.

01:15:53: Aber da nutze ich doch gleich mal die Chance hier als Werbeblock dafür zu werben, dass Schulen und Lehrkräfte die sich damit beschäftigen sehr gerne auf uns zukommen können.

01:16:03: Also entweder wenn es schon mal Fälle an der Schule gab oder wenn's schon tiefere Überlegungen dazu gibt wie man sich darauf vorbereiten kann oder welche Strategien man zum Beispiel ausarbeiten kann um beispielsweise auch mit TäterInnen umzugehen mit Strafverfolgungsbehörden oder auch in der Krisenkommunikation oder vielleicht auch Akteure die eher so eine Bildungspolitik unterwegs sind und sich da auf einer höheren Ebene Gedanken dazu machen.

01:16:26: Das wäre alles sehr spannend für uns, weil letztendlich wollen wir auch zu so einer größeren Wissensbasis zum Thema beitragen.

01:16:32: Wo eben noch sehr viele Wissenzlücken bestehen und letztendlicher auch gerade auch zum Beispiel eine bessere Vorbereitung von Schulen und Lehrkräften auf gerade auch mögliche Skandale im Zusammenhang mit sexualisierenden Deep Packs

01:16:45: wie ich finde sehr wertvolles Projekt.

01:16:47: also auch da nochmal explizit die Einladung.

01:16:50: Ich weiß gar nicht können wir auch von dir einen Link wahrscheinlich in den Show Notes setzen?

01:16:55: Ja, genau.

01:16:56: Perfekt.

01:16:57: Pädagogische Fachkräfte auch bei dir direkt melden könnten.

01:16:59: Ansonsten meldet euch natürlich auch gerne bei uns mit Fragen und Ideen.

01:17:04: Und ja vielleicht bevor das nämlich untergeht eine Frage oder Teilfrage in meiner komplizierten Frage war noch offen.

01:17:12: Was wäre denn so aus dem Bauch heraus?

01:17:14: Und auch aus deiner eigenen Erfahrung mit Medienkonsum, mit Deepfakes.

01:17:20: Du hast ja selbst Beispiele gebracht!

01:17:21: Wir haben alle schon festgestellt wir sind mal drauf reingefallen Was wäre so für Schülerinnen und Schülern vielleicht der springende Tipp, wo du sagen würdest?

01:17:29: Das ist eigentlich das Wichtigste.

01:17:31: Aber was man tun sollte um eben die wächst nicht auf den Leim zu gehen auch wenn es natürlich ein ganzes eine ganze Bandbreite gibt natürlich ja

01:17:39: also vielleicht eben Nichts versuchen dass man noch irgendwie in dem Bild oder Video da wie ich immer erkennen kann und irgendwelche Artefakte suchen oder sowas sondern eher so einen Schritt zurückgehen und sich überlegen Was passiert hier eigentlich gerade mit mir?

01:17:53: Zum Beispiel, warum werde ich jetzt gerade so wütend profitiert?

01:17:57: da vielleicht jemand davon?

01:17:59: Was sind das für Akteure die das gepostet haben als diesen größeren Kontext zu betrachten?

01:18:03: und auch was mit mir selbst passiert.

01:18:04: Also das erfordert natürlich sehr viel Selbstreflexion.

01:18:07: ist man sich eingesteht okay Ich werde hier gerade total emotional auf eine negative Art und Weise oder dass da etwas mir angezeigt wird Das ist genau meine Meinung aber vielleicht ist es ein bisschen zu sehr genau meine Meinung bestätigend.

01:18:20: Aber diesen Schritt zurückzugehen, den finde ich sehr wichtig um sich bewusst zu machen in welcher also dass man sich einfach auf Plattformen geht die eine enorme wirtschaftliche Macht und Logik haben und die genau davon profitieren das wir zum Beispiel Angst haben und wütend sind und viel interagieren und Datenpreis geben.

01:18:38: Und ich glaube mir da alle wenn es darauf ankommt kritischer werden nicht nur bei Katzen Videos sondern eben dann wenn's wirklich Harig und gefährlich wird, dann ist schon sehr viel gewonnen.

01:18:48: Ja super!

01:18:49: Vielen Dank.

01:18:50: sagt uns auch dass wir glaube ich auf einem sehr ähnlichen Weg unterwegs sind denn wir haben auch da nochmal die kleine Empfehlung an euch ja eine Unterrichtseiner Deepfax durchschauen erstellt wo wir genau eigentlich nicht nur Awareness für das Problem schaffen wollen also auch zeigen wollen wie schwer es eigentlich noch ist das noch zu unterscheiden authentische Inhalte von Deepfacts sondern eben genau wie du sagst ... auch dann weiterzugehen.

01:19:14: Und da haben wir so eine Art ... ... Liebfelkscheckliste, das haben wir es genannt mit Tipps und Tricks... ... auch zusammengestellt die dann gemeinsam auch in einer Methode ... ... in einer Aufgabe erprobt werden auf was man denn da eigentlich noch alles achten kann und sollte?

01:19:27: Das hast du eigentlich perfekt gerade auch angerissen!

01:19:31: Schaut mal gerne rein!

01:19:32: Auch diese Unterrichtseinheit ist in Shownotes verlinkt.

01:19:35: Ich würde sagen damit sind wir leider Gottes muss ich persönlich sagen am Ende der Folge angekommen.

01:19:40: Wir könnten noch sehr viel Worte verlieren.

01:19:42: Das Thema wirkt auch noch ganz viel Potenzial, aber an der Stelle müssen wir leider mal so langsam zum Ende kommen.

01:19:50: Ich danke dir Maria dass du da warst und dass du wirklich so viele spannende Erkenntnisse beistrungen konntest für mich auch sehr erhellend.

01:19:58: also ich wusste ganz vieles nicht.

01:20:00: Ich hoffe daraus für euch war es genauso spannend und erkennungsreich.

01:20:04: Vielen vielen Dank!

01:20:05: Kommt gerne auf mich und uns zu in den Forschungsprojekt wenn das Thema für sie und euch spannend und relevant ist.

01:20:12: Und vielleicht auch schon mehr dazu gemacht worden?

01:20:15: Ja, vielen Dank für dieses superinteressante Gespräch!

01:20:17: Es hat wirklich Spaß gemacht, euch zuzuhören.

01:20:20: Wie ihr ja schon erwähnt habt, dürft ihr gespannt sein denn in wenigen Wochen kommt unsere zweite Folge zum Thema Deepfakes raus.

01:20:27: In dieser Folge schauen wir uns dann deepfakes und sexualisierte Gewalt ganz genau an Und für die Zwischenzeit könnt ihr sehr gerne bei uns auf dem Campus vorbeischauen.

01:20:35: Wir haben drei verschiedene Unterrichtsempulse zu dem Thema Deep Fakes, die er dort findet.

01:20:41: Das sind zum Beispiel Quisse, die ihr mit eurer Klasse spielen könnt.

01:20:44: Schaut einfach vorbei!

01:20:45: Die Links dazu findet ihr in den Show Notes.