Spotlight Community #12 Deep Dive Deepfakes

00:00:00: Je nach Studienlage sind bis zu ninety-fünf bis achtundneunzig Prozent aller Deep Fake Bilder, Videos und Materialien im Internet sexualisierte Deep Fakes.

00:00:13: Also wenn es wirklich darum geht was kann ich jetzt tun?

00:00:14: Da fühlen sich viele viele Menschen oder eben auch junge Menschen sehr unsicher und stehen halt vor dem entsprechenden Material und wissen jetzt nicht was sie damit tun können.

00:00:33: Wir

00:00:33: haben drei verschiedene Unterrichtsempulse zum Thema deep fakes.

00:00:38: Die Links dazu findet ihr in den Schauenouts.

00:00:40: Herzlich willkommen zurück zu einer weiteren Ausgabe unseres Community-Formats, dort wisst ihr geht's um euch, um eure Fragenanmerkungen euer Feedback basierend auf das was wir in unseren Themen folgen im Rahmen unseres Podcasts, Spotlight Medienbildung alles so angesprochen haben.

00:00:58: und ja wenn wir zurückschauen liebe Vera denn heute begrüßen wir Vera im Studio herzlich Willkommen.

00:01:04: Ja, hatten wir so ein kleines Deepfake Special.

00:01:06: Wir hatten quasi zwei Folgen zum Thema Deepfakes mit interessanten wie wir fanden und spannenden Gästen die wirklich viel externes Fachwissen auch eingebracht haben.

00:01:17: Wie hast du das Ganze erlebt?

00:01:18: Was waren so die wichtigsten Punkte?

00:01:21: wenn wir auch ein bisschen heute chronologisch reingehen bei dieser ersten Folge wo wir Maria Pavelets zu Gast hat einen Deepfak Forscherin an der Uni Tübingen was hast du da so um so ein kleines Rap abzuprobieren, zentral mitgenommen.

00:01:37: Ich denke das Wichtigste war die Erkenntnis dass die Diebwerk-Technologie ein noch nie da gewesenes Täuschungspotenzial mit sich bringt.

00:01:46: Dank der Technologie die sich ja auch in einer rasanten Geschwindigkeit immer weiter verbessert mussten wir feststellen in der Folge unsere menschlichen Sinne reichen nicht mehr aus und werden noch weniger auch in Zukunft ausreichen.

00:01:59: manipuliert es oder per KI überhaupt erstellt das Material mit unseren eigenen Sinnen zu erkennen.

00:02:05: Zu hören, zu sehen dass da irgendetwas nicht stimmen kann wird uns künftig nicht mehr weiterhelfen und führt eigentlich zu der nächsten Schlussfolgerung.

00:02:14: Wir brauchen weder das Handwerkszeug, dass wir auch beim Erkennen von Desinformationen im Allgemeinen gebraucht haben so etwas wie weitere Quellen zu suchen, Faktencheckdienste zur Rate zu ziehen oder ähnlichem also ein bisschen back to the roots zu gehen nochmal drei Schritte zurück und zu gucken was hilft uns denn dann wenn unsere Sinne es nicht mehr tun?

00:02:35: Absolut du hast glaube ich schon perfekt zusammengefasst und ich fand's auch sehr eindrücklich dass Frau Pavel jetzt ja auch noch mal wirklich drauf Ja, gepocht hat.

00:02:42: Dass man wirklich nicht mit dieser Vorstellung ja wir haben einen einfachen Merkmalskatalog auch an Schülern und Schüler eben herantreten sollte.

00:02:50: so das klingt im ersten Moment toll und es klingt verlässlich aber es ist eben nie ein beständiges Hilfsmittel weil eben wie du richtig sagtest diese Technologie so rasant fortschreitet in ihrer Entwicklung dass eben morgen teilweise nicht mehr gilt was das eben heute noch gilt.

00:03:06: Und sie hat ja dann auch explizit wirklich gesagt, wenn man das tun würde und dort stehen bleiben würde mit diesem Eindruck.

00:03:13: Es gibt diese entsprechenden Merkmal auf die muss ich nur achten und dann ist es gut dass man dann und das war ja wirklich fand ich sehr eindrücklich sich selbst aber eben auch Schülerinnen und Schüler in einer falschen Sicherheit wiegen würde.

00:03:28: Da wollen wir heute auch noch mal mit euch tatsächlich reingehen, weil wir hatten euch ja wie immer eigentlich zu unseren Community-Fragen im Nachgang unserer Themenfolgen nochmal zwei Instaumfragen im Prinzip ausgespielt.

00:03:44: Wo wir ja mal wissen wollten von euch ihr denn eigentlich mit dem Thema Deepfake umgeht und da sind wir eingestiegen, mit einer Frage.

00:03:54: Wo es darum ging wie seid ihr eigentlich damit betroffen ist euch das schon mal vorgekommen?

00:03:58: Seid ihr da schon mal drauf reingefallen?

00:04:00: Das hatten wir euch gefragt und da fand ich es ganz spannend wäre dass also dort ja sechsten dreißig Prozent also so gut wie jeder dritter aus unserer Community eben sagte.

00:04:10: auf jeden Fall Ich bin mir sehr sicher, dass ich darauf reingepallen bin was er schon sagt.

00:04:15: Ja gut, da muss es auch im Nachgang irgendeine Form von Aufklärungsmoment gegeben haben.

00:04:22: Da ist man entweder selbst draufgekommen oder es gab eine Einordnung in den Medien einen Faktencheck wo ich drauf geschossen wurde und dann eben ja ich vermute es ganze forty fünf Prozent was aber schon so ein bisschen auch zeigt ja das ist eine gewisse Unsicherheit.

00:04:36: auch da so ganz sicher ist man sich nicht Und Ich weiß Es Nicht.

00:04:40: Also Was Ich So Deuten Würde Das Ist Schon Die maximale Form der Unsicherheit, ich weiß eben gar nicht.

00:04:46: Ja war das authentisch oder nicht?

00:04:49: Das haben immerhin achtzehn Prozent also so gut wie jeder fünfte gesagt.

00:04:53: Was sind so deine Gedanken dazu?

00:04:56: Ich hätte mich auch definitiv verortet bei ja!

00:04:59: Ich bin schon mal auf einen Deepfake reingefallen.

00:05:01: Ich finde total spannend in der Summe wenn ich mir das anschaue dass niemand geantwortet hat Nein, ganz sicher bin ich noch niemals reingefallen auf einen Deepfake.

00:05:11: Das habe ich natürlich vergessen.

00:05:12: jetzt noch!

00:05:12: Ja ja, so richtig.

00:05:14: Und tatsächlich unterstelle ich da auch bei der Art zu antworten eine gute Medienkompetenz überhaupt das Wissen zu besitzen dass Deepfakes inzwischen so gut und überzeugend wirken dass wir alle von uns aus gar nicht mehr behaupten können dass wieder darauf niemals reinfallen.

00:05:32: also es ist schon ein gewisses Grundwissen vorhanden um überhaupt zu erkennen.

00:05:36: Das kann mir passiert sein und vielleicht habe ich das noch nicht mal gemerkt.

00:05:41: Niemand ist davor gefeit, also man muss sich da auch nicht der Illusion hingehen dass ja... Dass das unendlich sozusagen trainierbar ist und wir sind dann über alle Zweifel erhaben.

00:05:51: Nichtsdestotrotz und das werden wir heute auch nochmal gemeinsam herausarbeiten Kann man natürlich was tun.

00:05:56: Wir sind nicht hilflos ausgeliefert.

00:05:58: Und genau Da haben wir ja auch nochmal Fragen quasi an euch gerichtet, nämlich wenn es darum geht was tun wir denn jetzt eigentlich und wie können wir den Deepfakes jetzt erkennen?

00:06:08: Und da hatten wir euch gefragt ob ihr konkrete Merkmale eben kennt auf die ihr mit euren eigenen Sinn noch achten könnt derzeit.

00:06:17: Was euch helfen kann deepfakes auszumachen.

00:06:20: Und dort haben von euch sagen uns schreibe null Prozent gesagt ja wir kennen sehr viele wir sind da komplett im Bilde.

00:06:27: einige haben gesagt, also beziehungsweise es ist jetzt noch mehr als ein Prozent haben gesagt ja wir kennen einige Merkmale.

00:06:34: Also auch wieder circa jeder dritte.

00:06:37: dann aber auch wieder finde ich sehr eindrücklich eigentlich kaum über fünffünfzig Prozent und nein gar keine neun Prozent.

00:06:45: also wenn man die zwei Prozentwerte mal zusammenzählt kann man so wirklich sagen ja im Endeffekt Zwei von drei von euch haben gesagt, na ich fühle mich dann nicht so sicher.

00:06:54: Was gibt's denn da überhaupt Konkretes auf was sich stand jetzt noch achten kann?

00:06:58: Was mir wirklich bei dieser Einordnung hilft und darüber hinaus haben wir ja dann quasi die weitergehende Frage eben dann gestellt Naja wenn wir diesen das Reich der Sinnes Wahrnehmung sozusagen verlassen wo wir eben schon auch festgestellt haben in der Themenfolge naja dass wird irgendwann nicht mehr reichen im wahrsten Sinne des Wortes Wir dürfen dann nicht stehen bleiben.

00:07:18: Kennt ihr da draußen eben noch ... weitere Handlungsstrategien, was man eben noch tun kann.

00:07:22: Du hast ein paar Dinge schon angesprochen und da hatten wir als Feedback eben bekommen ... ... acht Prozent.

00:07:28: ja ich kenne ganz klare Strategie nicht fühle mich da sicher.

00:07:31: eine ungefähre Vorstellung habe ich davon was ich sonst noch tun ... ... kann.

00:07:35: das hat jeder vierte von euch eben gesagt.

00:07:38: aber auch wieder einen finde ich zusammengenommen Ja auch wieder sehr großer Prozentsatz nämlich auch wieder circa zwei Drittel die gesagt haben na Ich weiß meistens, wenn ich ehrlich bin nicht weiter was ich jetzt noch tun kann oder ich kenne eben überhaupt keine Strategien.

00:07:52: Und das fand ich sehr eindrücklich weil es ja zeigt wir alle haben oder quasi.

00:07:57: im ersten Schritt ist es wichtig dieses Grundproblem erstmal zu erkennen diese Awareness dafür zu schaffen.

00:08:02: Es ist eine wahnsinnige Ununterscheidbarkeit von authentischen und deepfake Inhalten inzwischen gegeben.

00:08:08: Wir sind da angekommen die Technik wird immer besser.

00:08:10: Wo stehen wir jetzt?

00:08:12: Da hat sich ja auch wahnsinnig viel getan.

00:08:14: Man denkt an die Will Smith, die klassische ein bisschen informelle Deep Fake-Tests sozusagen wo man diese Entwicklungssprünge wirklich mal nachschauen kann also diese berühmten Spaghetti S Clips die da so kursieren.

00:08:28: Also das ist der erste Schritt sich dessen bewusst zu sein.

00:08:32: aber jetzt ist eben die ganz große Frage wie gewinnen wir in Schule?

00:08:38: Das geht uns Erwachsenen genauso gut an.

00:08:40: Wirklich Handlungs-Wirksamkeit, Sicherheit selbstwirksamkeit und da haben wir uns natürlich jetzt auch nochmal gefragt das sind ja alles immer Einblicke bisschen anekdotische Evidenz wie eine kleine Bubble dank euch die wir natürlich dort auch fragen können.

00:08:57: aber wie sieht dass das große weite Bild der Forschungslandschaft eigentlich genau zu diesen Fragen aus?

00:09:03: Wie gehen wir mit Deepfakes um?

00:09:06: insbesondere was junge Menschen angeht.

00:09:09: Und da schauen wir jetzt, glaube ich mal noch einmal gemeinsam ein bisschen tiefer rein und haben uns so viel kümmer verraten wirklich so ein paar Studienarbeiten durchgewühlt und wir versuchen euch dann mal einen kleinen Überblick zu geben.

00:09:20: aber wir haben ja beide so ein bisschen gewälzt.

00:09:22: die Forschungslage zu all diesen Fragen ist relativ dünn das hast du glaub ich auch so festgestellt.

00:09:28: also es gibt zwar Forschungsarbeiten Aber eigentlich gerade, wenn es um Kinder und Jugendliche gibt, gibt's kaum wissenschaftliche Erkenntnisse dazu.

00:09:36: Also wie häufig eigentlich Diebfegs irgendwie vorkommen?

00:09:39: Und wie sie damit interagieren ist schon mal eine riesige Herausforderung.

00:09:43: aber ja, es lohnt sich trotzdem mal genau hinzugucken in die Arbeiten dies schon gibt.

00:09:48: Ist andererseits auch absolut natürlich unverständlich dass die Forschungslage dünn ist denn das ist ein Bereich der sicher auch unglaublich schnell weiterentwickelt bei dem ich vermute, dass Forschung nur sehr schwer Schritt halten kann.

00:10:03: Denn wenn Sie heute ein Studie in Auftrag geben ist ja übermorgen schon wieder alles überholt was sie planen zu fragen noch bevor sie die Befragungen umgesetzt haben oder die Studie umgesetzt mit den anderen Methoden.

00:10:17: von daher können wir uns da wahrscheinlich auch eine gewisse Zeit nur im Bereich befinden wo man Ja, in der Summe dann vielleicht Tendenzen erkennt die auch angereichert mit eigener Erfahrung sind und wir nicht davon ausgehen können dass wir erst dann handeln können wenn es eine absolut valide Forschungsgrundlage gibt.

00:10:39: Denn sonst würden wir wichtige Zeit verpassen.

00:10:43: um zum Beispiel im Bereich der Prävention aktiv zu werden braucht's meine Auffassung nach nicht eine ganz stabile Forschungslage, um aktiv zu werden.

00:10:51: Ja man muss sich ja auch immer genau wie gesagt vor Augen führen wie jung dieses Phänomen unter dem Strich doch immer noch ist also in infekt zehn Jahre maximal.

00:10:59: könnte man jetzt eigentlich davon sprechen gerade was so jetzt gesellschaftliche Auswirkungen und Verbreitung halt angeht.

00:11:05: Stichwort Verbreitung.

00:11:06: dann steigen wir ein bisschen mit ein.

00:11:08: wir haben uns nämlich dann auch erstmal nochmal gefragt auch für euch naja gut Deepfakes, viel wird darüber geredet.

00:11:16: Aber wie verbreitet ist das eigentlich in unserem alltäglichen Medienkonsum?

00:11:19: Und auch gerade eben von jungen Menschen.

00:11:21: und ganz spannend da fand ich festzuhalten Naja im Endeffekt ist es mitten in der Gesellschaft angekommen mitten auch in der Schule mitten Auch bei Schulungen und Schülern und wir hatten da zum Beispiel ein Forschungsbericht gefunden Der Universität Leipzig die so ein deepfake-Projekt haben uns sehr viel dazu forschen.

00:11:39: und Da wurde eben an zwei Zeitpunkten sozusagen mal geschaut Zwei, zweiundzwanzig Aufkommen von Chatchy Pity und Co.

00:11:47: Und zweifünquenzwanzig?

00:11:49: Naja was hat sich da in der Zwischenzeit eigentlich getan?

00:11:51: und das fand ich also wirklich eindrücklich weil da wirklich im Jahr zwei, zwanzig noch siebensitzig Prozent der Befragten gesagt haben ja ich hatte überhaupt keine Berührungspunkte mit dem Alltag.

00:12:01: Mir ist es noch nie vorgekommen in den letzten zwölf Monaten und dieser Wert sankt dann eben auf.

00:12:06: Ja, siebenzwanzich Prozent im Jahr zweifunzwanzzig sechsundzwantzig.

00:12:10: Also das zeigt schon des Das nimmt zu, wir erleben es ja überall eben auch gerade auf den Social Media Plattformen wie Slop Content.

00:12:19: Also auch Schund sehr schnell und billig produzierter KI-Content Schnipsel sozusagen kursieren und ich glaube uns allen ist das schon irgendwo untergekommen.

00:12:30: Das zeigt, das nimmt unheimlich zu!

00:12:32: Und wenn wir jetzt auf Jugendliche schauen da haben Gymstudie, die wir auch immer sehr häufig zitieren vom Medienpädagogischen Forschungszentrum Südwest.

00:12:42: Oder genauer gesagt da gab es die GymPlus-Studie in diesem Jahr und da hat jeder dritte Jugendliche eben gesagt ja mir sind auf Social Media schon mal deepfakes untergekommen finde ich tatsächlich sogar noch etwas gering.

00:12:53: den Wert also hätte ich höher vermutet.

00:12:56: aber insgesamt wenn man sich über den zeitverlauf das anguckt ist ganz klar, wir alle sind immer mehr davon betroffen.

00:13:03: Jeder ist da irgendwo schon mal mit konfrontiert gewesen.

00:13:08: Es ist kein Nischenthema mehr oder irgendwie ein ... weiß ich nicht etwas wo sich nur eine Forschungsgemeinschaft in ihrem stillen Kämmerlein irgendwie mit befassen sollte.

00:13:16: es ist definitiv bei uns allen angekommen.

00:13:19: Das hat auch so der Punkt mit jeder Dritte Jugendlicher, jeder dritte Jugendliche ist schon einmal in Kontakt gekommen mit Deepwakes.

00:13:26: dazu gehört ja um diese Aussage treffen zu können, dass ich diesen als solchen erkannt habe.

00:13:33: Und das ist auch noch mal ein Punkt, da darf nicht die Ableitung getroffen werden, dass nur jede dritte Person in dem Alter jemals Kontakt hatte zur Defax sondern, dass sie in dem Moment auch das Bewusstsein hatte oder vielleicht ihm auch wirklich nachgegangen und geprüft hat und darüber dann erkannt hat,

00:13:50: Das ist auch nochmal gut, dass du auf ihn weißt.

00:13:52: Weil das sind ja alles ist uns auch aufgefallen immer fast Selbstzuschreibungen.

00:13:56: Also es wird immer gefragt danach wie schätzt du das ein?

00:13:59: Bist du schon mal einem Deepfake begegnet?

00:14:01: Es sind also immer selbst zu schreiben eigene Wahrnehmung was eben nicht damit zusammenhängt ob das jetzt tatsächlich so gewesen ist.

00:14:09: und da kommen wir tatsächlich später noch einmal drauf wenn's wirklich um Selbstwilligkeitsamkeit die Frage geht Wie gut sind wir darin eigentlich entsprechende Inhalte zu erkennen?

00:14:18: Da ist auch noch mal einen Punkt Definitiv in Kontakt gekommen.

00:14:22: auf Social Media sind laut dieser Gym Plus-Studie ja über dreißig Prozent von der Jugendlichen, aber insgesamt vierundvierzig Prozent aller Befragten.

00:14:34: Sind sich ziemlich sicher schon mal die Pfeffs begegnet zu sein.

00:14:37: auch das beinhaltet ja zumindest die Erkenntnis.

00:14:42: Vermutlich war ich schon in Kontakt habe es aber nicht gemerkt und dann sind wir schon bei fast der Hälfte aller Jugendlichen, die zumindest im Kopf haben dass ihnen das begegnen kann.

00:14:51: Und dass sie das möglicherweise nicht als solchen erkennen können.

00:14:54: Ich sehe gerade genau das was du sagst.

00:14:56: Das war zum Beispiel eine Erkenntnis jetzt der Landesanstalt für Medien.

00:15:00: Die hatte eine Vorsatzbefragung eben dazu gemacht auch zum Thema Informationsverhalten und da waren deepfakes Thema.

00:15:08: Deswegen gut, dass du es einbringst.

00:15:09: Es sind zwei verschiedene Studien die wir jetzt hier anschauen aber da sieht man schon wie unterschiedlich auch wieder die Zahlen ausfallen und genau den Punkt den du vorhin meintest.

00:15:17: also auch dort zu irgendeiner gesicherten Aussage zu kommen ist schwierig.

00:15:20: es sind immer Trends was wir definitiv festhalten können.

00:15:23: das ist Wahnsinn.

00:15:24: wie schnell diese Verbreitung eigentlich vorangeschritten.

00:15:28: in wenigen Jahren muss ich immer mal wieder klar machen dass das ja wirklich im Endeffekt seit drei vier jahren überhaupt erst Ja, flächendeckend Thema ist so.

00:15:37: Und Ruckzuck ist das ganze Internet, dass halb überflutet eigentlich mit solchen Inhalten und es nimmt eben junge Menschen nicht aus.

00:15:44: Das ist eben ganz der wichtige Punkt.

00:15:46: ja und dann haben wir uns natürlich nochmal gefragt Wissenstand wie sieht das da eigentlich aus?

00:15:51: Also wie umfassend ist das Wissen zum Thema DeepFacts?

00:15:54: Es ist die Kernfrage wo wir auch mit unserem Angeboten natürlich rein wollen dieses Wissen zu mehren Und da fand ich es auch wieder super interessant, wirklich zu sehen.

00:16:05: Ja dieser Begriff deepfakes der ist in aller Munde im wahrsten Sinne des Wortes.

00:16:09: Der ist breit in der Öffentlichkeit.

00:16:11: man hört hier und da immer mal wieder diesen Begriff und das spiegelt sich in entsprechenden Umfragen auch.

00:16:18: also wenn die Leute danach gefragt werden eben auch junge Menschen danach gefragt wären ja kennst du diesem Begriff?

00:16:23: ganz viele sagen ja das ist mir schon Mal untergekommen.

00:16:27: Gleichzeitig, wenn man jetzt aber wirklich so an das Phänomen, was steckt da wirklich hinter?

00:16:32: Was ist das?

00:16:32: Welche gesellschaftlichen Herausforderungen, Risiken und so weiter sind damit verbunden.

00:16:37: Aber auch Vorteile.

00:16:39: Dann merkt man dann wird es irgendwann relativ dünn.

00:16:41: Und da fand ich's eben auch sehr bezeichnet.

00:16:43: Auch in dieser besagten Vorsa-Befragung für die Landesanstalt für Medien NRW wurde dann zum Beispiel herausgefunden dass nur forty zwei Prozent aller Befragten eben Angaben wirklich zu wissen, was dieser Begriff meint.

00:16:58: Was wirklich dahinter steckt und das ist ja schon ein hoher Prozentsatz.

00:17:02: Was für uns glaube ich auch noch mal zeigt wie wichtig es nicht nur zwei Folgen dazu gemacht haben sondern auch Unterrichtsmaterial eben zu diesem Thema bereitzustellen weil man schon geneigt ist und ehrlicherweise war ich das auch so anzunehmen.

00:17:17: mein Gott das ist doch jetzt mal langsam irgendwie auserzählt.

00:17:19: Es wird so viel medial darüber berichtet Es ist doch vielleicht schon flächendeckend angekommen Aber das zeigt, ist es ja eben nicht.

00:17:27: Ja und bezüglich Wissenstand fand ich sehr eindrücklich auch nochmal die schon benannte Studie der Universität Leipzig wo sie diesen Wissenstand sich angeschaut haben, Da ist einmal die positive Botschaft, wirklich das Wissen hinzu.

00:17:44: Immer mehr Menschen wissen um was es sich bei DeepWax handelt.

00:17:47: aber wenn man wirklich tiefer reingeht und die haben dann ja auch spezifischere Wissensfragen zum Hintergrund gestellt zu den Gefahren zur Einsatzmöglichkeiten, zur Erkennungsmöglichkeit und Regulierungsfragen Dann sieht man schon naja dass da noch sehr viele blindestellen sind und sehr viele Lücken vorherrschen.

00:18:07: Wenn man sich dann eben das Jahr zwei tausendfünfundzwanzig, also quasi den aktuellen Iststand eigentlich anschaut.

00:18:12: Dann ist es da schon finde ich nachdenklich.

00:18:14: stimmt dass vielen vierzig Prozent der Befragten eben gesagt haben Ich habe nach wie vor kein Wissen zu dem Thema was nochmal deutlich macht Dass es wichtig ist sich diesem Thema anzunehmen und auch mit vollem Hauptaugenmerk reinzugehen.

00:18:27: Und nur ein zwanzig Prozent also jeder fünfte dem wurde ein hohes Wissen, einen hohen Wissenstand eigentlich beigemessen.

00:18:38: Also das zeigt schon da ist noch viel zu tun.

00:18:41: gleichzeitig und das leitet perfekt über wird auch so ein bisschen deutlich dass es einen teilweise vielleicht ein bisschen verzehrtes Bild eigentlich von Deepfakes gibt.

00:18:52: aber da hast du dich glaube ich nochmal näher mit beschäftigt.

00:18:54: Ja

00:18:54: genau das finde ich auch ein ganz spannenden Punkt.

00:18:59: Diebfakes können ja ganz unterschiedlicher Natur sein und zu ganz unterschiedlichen Zwecken eingesetzt werden.

00:19:04: Das heißt, wenn ich sage Ich habe Wissen über diebfake Sagt das auch nicht so wirklich viel?

00:19:10: Über welche Arten von deepfakes spreche ich in welchen Bereichen?

00:19:12: Und auch da liefert die Studie der Uni Leipzig ganz spannende insights nämlich Die Befragten geben zum Beispiel an In welchen bereichen zu welchen Themen sie schon deepfake begegnet sind Und da steht an oberster Stelle als häufigste Nennung im Bereich Politik mit seventy-vier Prozent.

00:19:34: Gefolgt von Wirtschaft, den Bereich der Wissenschaft mit neunzehn Komma vier Pornografie, sexuelle Darstellung an vierter Stelle Kunst Religion und Bildung dann etwas unterrepräsentierte.

00:19:48: Das heißt wenn ich schon einmal einen Deep Fake gesehen habe Dann ist die Wahrscheinlichkeit hoch dass er eher im bereich Politik war.

00:19:58: Danach folgt lange Zeit erst mal nichts.

00:20:02: Sie wurden auch befragt nach der Art der Deepfakes, was für Arten waren das?

00:20:05: Und da gibt es auch der größte Teil mit siebenundvierzig vier Prozent an, die waren politisch beeinflussend.

00:20:12: Dicht gefolgt von Bloßstellen herabwürdigend – was aber durchaus in Kombination passieren kann.

00:20:18: Dreizig, sechs Prozent sagten satirisch parodierend.

00:20:21: Achtzehn Prozent unterhaltsam, fünfzehn bis vier Prozent gewaltverherrlichend und sexistisch mit dreizehn, eins Prozent an letzter Stelle.

00:20:30: Bei den abgebildeten Personen die in den Deepfakes zu sehen waren handelte es sich bei siebenundsebzig Prozent der gesehene Deepfake um öffentliche Personen und um unbekannte oder fiktive Personen nur bei von dreizig, sieben Prozent also Privatpersonen oder Fantasiefiguren.

00:20:48: Die häufigsten Orte des Kontaktes waren im weitesten Sinne Social Media Plattform.

00:20:53: Ganz oben steht Instagram, nahezu identisch in der Nennung jeweils mit dreidreißig Prozent.

00:21:00: auch Facebook gefolgt von YouTube mit zwanzig Komma sechs Prozent Tiktok mit zwantsich Komma acht X und Reddit dann noch im einstelligen Bereich.

00:21:10: Demnach sind die Sorgen, die sich die Menschen in Verbindung mit Deepfacts machen auch ein bisschen geframed durch das was ich da bisher so gesehen habe.

00:21:19: In dem Bereich.

00:21:19: Fünfzig, fünf Prozent der Befragten machen sich Sorgen dass sie den Inhalt eines Deepfacs glauben oder auch zum Beispiel finanziellen Deepfact Betrug erliegen könnten also finanziellen Verlust haben.

00:21:35: Also es ist alles auch in dem Zusammenhang dessen, was sie sehr häufig gesehen haben.

00:21:38: Es wird also sehr dominiert von einem Bild das deepfakes sehr häufig einen politischen Hintergrund haben mich manipulieren möchten auf Social Media Plattform mir bekannten die ich täglich Nutze auftauchen und dass ich dann darauf hereinfallen könnte, dass aus versehenen Teile oder auch von den finanziell Schaden dann betroffen bin.

00:21:59: letzten Endes Das finde ich insofern spannend, als dass es andere Studienlagen gibt die untersuchen wie häufig Deepfakes in welchen dieser Bereichen überhaupt im Internet kursieren auf unterschiedlichsten Plattformen und das zeigt uns ein ganz ganz anderes Bild.

00:22:15: Das sind nämlich nicht die deepfakes mit politischem Hintergrund sondern sexualisierte Darstellungen.

00:22:21: je nach Studienlage sind aller Deepfake-Bilder, Videos und Materialien im Internet sexualisierte Deepfakes.

00:22:34: Betroffen sind.

00:22:35: neunundneunzig Prozent dieser Deepfaks sind Frauen die abgebildet werden und damit betroffen sind von den Deepfags.

00:22:42: Sie sehen also eine absolute Dominanz von sexualisierten Deepfacks im Internet.

00:22:47: Das sind dann vermutlich nicht die Plattformen auf denen sich das Groh der Befragten auffällt weswegen ihnen das noch nicht begegnet ist d. h. aus der eigenen Alltäglichen Internet-Nutzung heraus ergibt sich ein ganz verzerrtes Bild über die Problematik in dem Bereich Deep Fake und auch der Betroffenheit.

00:23:07: Was könnte ein Gegengewicht liefern?

00:23:09: Mediale Präsenz, ich fände es sehr spannend jetzt nochmal diese Befragungen zu haben und zu gucken.

00:23:14: hat sich das zum Beispiel durch Eine sehr öffentlichkeitswirksame Situation rund um die Schauspielerin Colleen Fernandez verändert?

00:23:25: möglicherweise, dass da auch die Sensibilität größer geworden ist.

00:23:29: Dass auch in diesem Bereich es deutlich mehr Deepfakes gibt als die Menschen erwarten würden aber ja fand ich ganz spannend.

00:23:39: im nächsten Schritt Ich war gerade schon so ein bisschen bei Sorgen.

00:23:41: im Vergleich Machen sich die Menschen Sorgen das sie Diebfacks glauben, die Hälfte der Befragten ziemlich genau.

00:23:48: Fortzig Komma fünf Prozent waren es, die gesagt haben ich habe Sorge dass ich persönlich auf den finanziellen Dieb Fake Betrug hereinfallen könnte.

00:23:55: Fünfe Dreißig Komma zwei Prozent machen sich Sorgen das sie aus Versehen ein Dieb Fact teilen und Achtundzwanzig Kommaa acht Prozent Machen Sich Sorgen Dass Sie in einem pornografischen Dieb Fak dargestellt werden.

00:24:08: Den letzten Punkt finde Ich besonders interessant weil ich mich da gefragt habe ist Das Nicht Der Einzige Die einzige der Antwortoptionen, die durchaus geschlechtsspezifisch geframed sein könnte in der Beantwortung.

00:24:19: Weil... ...die Sorge selbst betroffen zu sein von einem pornografischen Deep-Wake werden sich vermutlich eher Frauen machen oder Mädchen?

00:24:29: Von daher sehe ich da die eigene Sorge durchaus In Relation zu den anderen Angaben recht hoch an Sich selbst als Betroffen zu sehen möglicherweise auch wegen der großen Tragweite, die das hätte im Vergleich zu... naja ich teile ein Deepfake mit einer Freundin.

00:24:47: Da ist meine Sorge vielleicht nicht so hoch ob der folgen.

00:24:51: Spannend fand ich dass dann auch gefragt wurde Ich mache mir Sorgen, dass andere Menschen Und da gab es die gleichen Antwortmöglichkeiten, dem Inhalt eines Deepfakes-Glauben auf einen finanziellen Deepfakebetrug hereinfallen.

00:25:01: Aus Versehen ein Deepfakteilen oder in einem pornografischen DeepfAKT dargestellt werden.

00:25:06: und naja doppelt so hoch ist jetzt bisschen zu hoch gegriffen.

00:25:08: aber da sehen die Zahlen durchaus anders aus weil das andere den Inhalt des Deepfaks glauben das befürchten durch aus Einen und Achtzig Komma Sechs Prozent Auf dem Deepfack Betruger reinfallen.

00:25:19: seventy fünf Prozent.

00:25:22: Das ist ganz spannend, weil das zeigt den mediumpsychologischen Third-Person-Effekt ganz gut.

00:25:28: Ich erkenne da ist ein Problem.

00:25:29: ich selbst bin davon vielleicht nur bedingt betroffen aber ich sehe das Risiko bei anderen höher.

00:25:36: Die Frage wie gut kann ich meine eigenen Fähigkeiten einschätzen und da denke ich auch so ein bisschen an die Angaben vorhin bei den Studien wenn das Studien sind die sich auf eine Selbsteinschätzung beziehen.

00:25:45: Wie gut kannst du das erkennen und wie gut schätzt du deine Fähigkeiten ein, defekt zu erkennen?

00:25:49: Und wir haben da eigentlich schon verhältnismäßig recht niedrige Zahlen.

00:25:53: Wenn wir dann noch den Zvd-Person-Effekt mitdenken und überlegen, dass man die eigene Fähigkeit möglicherweise tendenziell eher überschätzt und die der anderen unterschätst sind die Zahlen umso kritischer zu sehen beziehungsweise dem Bedarf, den ich daraus ableiten würde, dass in der Breite der Gesellschaft mehr zu verankern.

00:26:10: Das Wissen würde ich als noch höher sehen.

00:26:12: vor dem Hintergrund dieses Effektes ...

00:26:14: sehe ich ganz genau so.

00:26:15: Ja, danke für die Vorstellung vor allen Dingen auch der Zahlen.

00:26:18: nochmal weil das Ganze noch mal viel greifbarer und auch eindrücklicher macht... ...und das war ja auch für uns nochmal wirklich der Grund warum wir auch dafür plädiert haben.

00:26:27: Das sind eigentlich zwei verschiedene Themenbereiche und die verdienen es auch zwei Folgen zu bekommen.

00:26:32: Wir haben eben in der ersten Folge mit Frau Pewele jetzt ja vor allem auch Desinformationen besprochen also genau dieses Täuschungspotenzial was mit Diebwegs anhergeht und haben uns dann aber dafür entschieden dieses ganze Thema nicht einvernehmlich ist, sexualisierte Diebwegs in einer eigenen Folge eben mit Frau Sittig als Expertin noch mal anzugehen.

00:26:49: Weil es eben gerechtfertigt ist von dem Hintergrund dieser Problemdimensionen die ansonsten ja bislang zumindest auch im öffentlichen Diskurs relativ stückweit unterbelichtet einfach war und das zeigen wir eben genau diese Umfrage-Daten die du dargestellt hast dass diese Schwere aber auch die Verbreitung dieser Problemdimension ja, sexualisierte Deepfakes ein bisschen unterschätzt wird auch in weiten Teilen der Bevölkerung.

00:27:17: Du hast es vollkommen richtig gesagt?

00:27:19: Klar sind meistens nicht die Plattformen, die öffentlich zugänglichen oder zumindest nicht die wie soll ich sagen auf die man die meiste Zeit unterwegs ist wo genau dieses Problem wirklich virulent und transparent wird.

00:27:31: das heißt das ist schon eine Erklärung.

00:27:33: Aber auch, wenn man sich so den medialen Diskurses die Berichterstattung anschaut.

00:27:36: Ja es geht sehr häufig um Politik Es geht sehr häufig um irgendwie CEO fraud also Betrügereien im großen Spiel bei Unternehmen wo Geld über Deepfacts erpresst wird aber verhältnismäßig wenig mit Ausnahme dieser neuen Medienberichte um letztendlich ja auch Skandale, die einzelne Personen betreffen eben um dieses Thema.

00:27:58: Also auch dort in der Schule versuchen zu sensibilisieren.

00:28:02: dafür für diese Problemedimension ist glaube ich ganz wichtig dass man eben nicht nur und die Dimension bleibt weiterhin wichtig politisch und wirtschaftlich aber nicht nur das Hauptaugenmerk darauf legt.

00:28:14: genau.

00:28:15: Und dann eine Frage die ihr uns ja auch im Rahmen zum Beispiel von unserem Didakterauftritt gestellt habt War so ein bisschen auch, ja gut.

00:28:24: Wie ist das denn jetzt?

00:28:25: Ist es eigentlich ein Problem was eher junge Menschen betrifft also gibt's da eine Art Alters Effekt?

00:28:31: oder ist das etwas was uns alle irgendwo angeht?

00:28:34: sind ältere Menschen vielleicht sogar davor gefeiert weil die mehr Lebensweisheit besitzen und besser irgendwie durchschauen Und da, wenn man sich so die Studienlage anguckt ist auch ganz klar festzuhalten.

00:28:45: Nein das ist kein exklusives Problem junge Menschen und das wollen wir auch an der Stelle noch mal ganz klar sagen sondern im Gegenteil es ist sogar im Trend so dass wir älteren sogar von den Jüngeren lernen können in vielerlei Hinsicht denn umso jünger die Generation ist der Mann angehört desto besser ist eigentlich das Wissen ... über Deepfakes als auch die Erkennungsfähigkeiten.

00:29:06: Da werden wir gleich nochmal tiefer drauf eingehen, aber das auch nur noch mal um ganz klar zu sagen... Ja, es ist nicht irgendwie ein Problem jetzt von jungen Menschen was nur forciert auch in der Schule angegangen werden muss.

00:29:18: Nein, das braucht eigentlich eine breite Anstrengung in der Gesellschaft und insbesondere auch Menschen zu erreichen die sechzig plus irgendwo sind, die gar nicht mit dieser Technologie ja auch in Berührung kommen könnten.

00:29:28: sie wachsen damit nicht auf Sie sind damit nicht konfrontiert Die sind viel stärker noch auf dieser ich sag mal alten Daumenregel unterwegs.

00:29:37: Ja gut!

00:29:37: Was ich sehe, was ich höre Das ist ein Ausweis von Authentizität, dass sich etwas tatsächlich zugetragen hat.

00:29:44: Und was können wir jetzt tun und wie groß es eigentlich auch diese Selbstwirksamkeit nämlich im Erkennen von Deepfakes?

00:29:51: Und da haben uns mal auch nochmal angeschaut ja einmal dieses wirklich... Diese empfundene Selbstwirksamkeit.

00:29:56: Wie gut kann ich denn das noch erkennen?

00:29:58: Wie schätze ich mich dabei ein?

00:30:00: Versus!

00:30:00: Wie sieht das dann tatsächlich eigentlich aus?

00:30:02: Wie sind die menschlichen Fähigkeiten eben im Umgang mit Deepfake?

00:30:08: Können wir das eigentlich tatsächlich erkennen?

00:30:10: oder sind wir da nicht mittlerweile mehr auf dem Holzweg sozusagen unterwegs?

00:30:15: Und wenn man sich dieses erfundene und selbst zugeschriebene mal anschaut, dann hat das perfekt was wir gefunden haben so in Forschungsarbeiten auch unsere eigene Insta-Umfrage tatsächlich gespiegelt.

00:30:25: Denn es gibt dort flächendeckend ein sehr geringes Vertrauen in dieser eigenen Selbstwirksamkeit Und vor allen Dingen eben auch, was so konkrete Erkennungsstrategien und Techniken angeht.

00:30:36: Also wenn es wirklich darum geht, was kann ich jetzt tun?

00:30:38: Da fühlen sich viele, viele Menschen oder eben auch junge Menschen sehr unsicher... ...und stehen halt vor dem entsprechenden Material und wissen jetzt nicht, was sie damit tun können.

00:30:48: Das gilt vor allen dingen – du hast es gerade angesprochen – Nicht für die Sachen wo es um die eigene Sinneswarnung geht.

00:30:56: Da kann man sich gewisse Dinge immer noch erschließen.

00:30:58: Es gibt Bildfehler, es gibt Dinge die wir alle auch ein bisschen erspüren können.

00:31:02: Das stellt sich auch auf zum Bauchgefühl irgendwie ein.

00:31:06: Es gilt aber vor allen Dingen eben nicht für was man so als äußere Prüfungslogik bezeichnet also diese... Was drum herum steht Kontext prüfen, Quelle prüffen das sind alles diese weitergehenden Techniken, die wir ja im Bereich klassischer Informationskompetenz hier bei uns verorten.

00:31:24: Das sind Techniken, die sind vielen nicht geläufig und es wird auch entsprechend sich dann zugeschrieben.

00:31:31: Und ja das fand ich auch noch mal spannend dass die Studienlage wirklich sehr eindeutig hergibt und auch hier wieder die Studie der Universität Leipzig, die das wirklich finde ich sehr gut erhoben hat und auch sehr übersichtlich wo wirklich nur jeder vierte sagt Ich bin zuversichtlich dass ich in der Lage bin einen Deepfake selbst zu erkennen gleiche Prozessats ungefähr bezogen auf Videos wirklich, dass man sich da eben auch nur jeder vierte Zuversichtliche ist solche Clips noch Bewegtbildmaterial zu erkennen.

00:32:02: und ja auch wieder nur jeder Vierte circa ist zuverlässlich nicht reinzufallen.

00:32:07: Und das deckt sich sehr stark mit den eigenen Ergebnissen die wir unsere kleinere natürlich nicht repräsentative Umfrage erzielt haben.

00:32:17: gerade wenn wir dann aber auch nochmal speziell uns Jugendlicher anschauen wie es denn da aussieht finde ich wird es auch noch mal ganz klar, dass das eben auch hier ein großes Problem ist.

00:32:27: Denn dort haben wir ja die Gymstudie gehabt und vom letzten Jahr, zweifemundzwanzig und da hat jeweils ein Drittel aller Jugendlichen im Alter von zwölf bis neunzehn Jahren eben gesagt nur... Ja, ich fühle mich damit kompetent im Umgang mit Deep Facts!

00:32:44: Ich kann das erkennen.

00:32:45: und gerade so zentrale Techniken wie Bilderrückwärtssuche Kommen wir später auch noch mal zu.

00:32:51: Das hat auch nur dreidreißig Prozent der Leute, der Jugendlichen hatte eben gesagt Ja das kenne ich!

00:32:56: Ich fühle mich da sicher wie ich das durchzuführen habe und ich kann das auch anwenden Und ich finde es zeigt schon viel.

00:33:02: Also da ist viel zu tun Da ist viel Aufklärungsarbeit zu leisten aber auch gerade in der praktischen Umsetzung.

00:33:08: Wie mache ich das denn jetzt eigentlich?

00:33:09: Dann auch wirklich praktisch Nicht einfach nur zu kennen, dass es das gibt als Begriff so ähnlich wie bei Deepfakes.

00:33:16: Aber wirklich hinter die Kulissen zu gucken und auch in die Praxis zu gehen.

00:33:22: Das scheint vielen Menschen jung wie alt hochgradig schwer zu fallen.

00:33:28: Dann gibt es eine super spannende Metastudie, die Svalvierundzwanzig gegeben hat... wo sechsten Achtzig tausend Versuchspersonen eben befragt wurden und untersucht wurden sozusagen, ob sie entsprechende Inhalte.

00:33:39: Und da war alles berücksichtigt Audio Video Textinhalte erkennen können und haben.

00:33:45: nur Sechsten Fünfzig Prozent also knapp über Zufalls Niveau waren in der Lage im Prinzip diese Unterscheidung vorzunehmen.

00:33:54: Also es ist ähnlich so wäre wenn du jetzt eine Münze werfen würdest.

00:33:58: Das war repräsentativ.

00:33:59: Es ist eben eine Riesenstudie gewesen und es zeigt eigentlich, wir dürfen uns das nicht einbilden, dass wir das besonders gut können richtig?

00:34:07: Also das ist einfach so.

00:34:09: Sechsundfünfzig Prozent hört sich erst mal so viel an!

00:34:12: So super, das ist über die Hälfte.

00:34:13: wenn man

00:34:14: aber dann

00:34:14: die fünftig-fifty Chance zugrunde legt, liegt es ja wirklich nicht nennenswert über einem Zufallsergebnis, wenn ich rate

00:34:23: Und das ist genau, was du vorhin ja auch meintest.

00:34:25: Dieses Third-Person-Effekt spielt da sicherlich auch rein, dass man immer eben meint naja die anderen können das nicht ich kann das schon und das paart sich so ein bisschen ungünstig auch mit diesem... Was man Overconfidence nennt also schon immer unsere Neigung uns selbst als besonders fähig zu empfinden bei sowas Das kommt zusammen.

00:34:43: Das heißt wir haben stückweit schon eine Diskrepanz immer zwischen Selbsteinschätzung und was tatsächlich jetzt Erkennungsfähigkeiten sind.

00:34:52: Und wenn man dann noch überlegt, dass da ja vermutlich in dieser Metastudier-Meteranalyse sehr häufig die Situation war, dass die Teilnehmenden schon wussten, in welchem Prüfsetting sie sitzen und worauf sie achten müssen.

00:35:09: Dass das überhaupt infrage kommt, dass etwas nicht stimmt hat man eine Grundlage, die eigentlich für eine bessere Chance spricht Das zu erkennen, denn wenn ich in meinem Alltag auf mein kleines Device schaue kann ich optisch viele Dinge gar nicht so sehen.

00:35:25: Bin aber auch mit der Aufmerksamkeit möglicherweise gar nicht komplett bei dem was ich mir gerade anschaue sondern noch bei der Einkaufsliste oder dem Ereignis in der Schule.

00:35:35: das heißt die Chance im Alltag wirklich aufmerksam darauf zu werden und dann auf Details zu achten um sie zu erkennen liegt ja unter einem Setting, das man in den Studien vermutlich hatte.

00:35:47: Von daher ist die Zahl im Alltag dann vermutlich wirklich nur noch bloßer Zufall?

00:35:52: Ja aber die große Frage ist da natürlich gerade wenn du das jetzt nochmal hervorhebst was kann man also?

00:35:58: können wir uns jetzt alle zurücklegen und sagen Dann brauchen wir auch gar nix mehr machen.

00:36:02: Es bringt eigentlich nichts mehr dafür zu sensibilisieren, natürlich nicht!

00:36:06: Das sollte nicht die Ableitung sein, denn das haben eben wieder Studien gezeigt.

00:36:10: es gibt diese gute Nachricht dass wir diese Erkennungsfähigkeit tatsächlich verbessern können.

00:36:14: Wir können sie ein Stück weit trainieren.

00:36:18: kleinen Experiments sozusagen mit den Schülerinnen und Schülern, mit denen wir im Rahmen des Projekts Generation KI zusammenarbeiten durften erleben.

00:36:25: Aber es ist eben auch ja in Studien oder durch Studien gedeckt.

00:36:30: Auch hier muss man nur wieder sagen, auch dort kann man keine Wunder erwarten.

00:36:34: Also das macht Sinn zu trainieren Es macht Sinn Und da kommen wir jetzt In diesem Teil so wirklich sich wirklich zu fragen Was kann ich denn jetzt konkret tun?

00:36:43: Sowohl auf der Bildebene als auf dieser Kontextebene.

00:36:47: Aber man sollte sich auch dann zusammengenommen, nicht dieser Illusion hingehen.

00:36:50: Dass wir irgendwann bei einer hundertsprozent Trefferrate ankommen.

00:36:53: Das wird es nicht geben... das muss man sich ganz klar machen!

00:36:56: Es wird also immer eine Wahrscheinlichkeits-Einschätzung bleiben.

00:37:00: Wir können dem versuchen aber möglichst nahezu kommen und eine möglichst große Sicherheit eben auch herzustellen.

00:37:06: Es gibt eigentlich so drei Herangehensweisen.

00:37:11: Prüfungsverfahren würde ich jetzt mal nennen, die wirklich am Material selbst ansetzen.

00:37:15: Das ist das was wir zum Beispiel in solchen Quizzes ja eben versuchen.

00:37:19: Versuchen auf Fehler zu achten und auf bestimmte Merkmale zu achting um dann eben authentisches Material von Deepfake Content zu unterscheiden.

00:37:29: Dann gibt es diese sogenannten Deepfakes Detektoren Ja, auch wieder KI-Systeme die nur dafür programmiert sind andere KI Inhalte zu entdecken.

00:37:38: Haben wir auch in der Folge eben sehr eindrücklich auch von Frau Pavelets gesagt bekommen ist kein Verlass drauf ja gerade für Leinen.

00:37:46: im Prinzip sind diese die entsprechenden Tools nicht ausreichend.

00:37:51: sie führen zu unterschiedlichen Ergebnissen und es bleiben auch immer Wahrscheinlichkeitsaussagen.

00:37:56: Und die dritte Rangehensweise ist ein bisschen, was man so als äußere Prüfungslogik bezeichnet.

00:38:01: Also wirklich den Schritt rauszunehmen nicht mehr mit einer Lupe quasi auf einzelne kleine Details zu achten und seinen detektivischen Spürsinn mal ein Stück weit auch dann bei Seite zu legen sondern herauszusuchen und von außen drauf zu schauen.

00:38:15: Das ist das wo es darum geht dann wirklich den Kontext sich mal anzuschauen wer ist die Quelle?

00:38:22: gibt es andere Medien, die darüber berichten.

00:38:24: Gibt es Faktenchecks?

00:38:25: Du hast das vorhin angesprochen.

00:38:26: All solche Fragen stellt man sich im Rahmen dieser äußeren Prüfungslogik.

00:38:32: Wir starten aber bei der Inneren und da ist ja so ein bisschen in der Themenfolge... Ich will nicht sagen zu kurz gekommen, aber wir hatten natürlich den Zeitraum wirklich jetzt auf konkrete optische akustische Erkennungsmerkmale einzugehen wo ihr also heute noch drauf achten können, wo es sich noch lohnt drauf zu achten um irgendwie ein Gefühl dafür zu bekommen ist das echt oder nicht.

00:38:56: Und in der Zwischenzeit haben wir tatsächlich einfach mal nachgefragt denn wir haben im Rahmen unseres Fachtags Ende April mit Professor Martin Steinebach von Fraunhofer Institut für Sicherheit in der Informationstechnik haben wir ja dort zusammengearbeitet und wir konnten ihn inzwischen fragen, was sind denn solche aktuellen Merkmale?

00:39:18: dann eine Liste erhalten, die auch nochmal angepasst.

00:39:21: Und das ist wirklich Wahnsinn was es da noch alles theoretisch gibt auf was man achten kann.

00:39:29: Wir haben während auch jetzt nicht die Möglichkeit haben das alles durchzugehen aber nur vielleicht mal so ein paar Sachen rausgegriffen die wir auch total spannend fanden weil sie tatsächlich manchmal Richtig gut funktionieren.

00:39:40: Vielleicht steigen wir mal mit dieser MbP-Lippenprobe ein, Vera?

00:39:43: Und was handelt es sich da an?

00:39:45: Die fand ich total spannend weil das war mir nicht bewusst dass es ein Merkmal ist auf das ich achten kann.

00:39:52: Mbp Lippen Probe steht für drei Buchstaben bei denen ich meine Lippenschließe wenn ich den Buchstabenaussprache büpf!

00:40:00: Das kann KI noch nicht so gut.

00:40:03: Das heißt, ich kann Deepfakes möglicherweise daran erkennen dass die Lippen nicht vollständig geschlossen sind obwohl diese entsprechenden Buchstaben ausgesprochen werden.

00:40:13: Der nächste Punkt den ernannte bezieht sich eigentlich auf etwas Ähnliches in der Mimik nämlich auf die Augen und da weiß ich noch ein Zeit lang hat man ja immer die Wimpern.

00:40:22: so komisch gesehen.

00:40:23: das da ist KI deutlich besser geworden.

00:40:26: die Deepfake Technologie.

00:40:28: Dennoch können wir weiterhin auf die Augen achten, nämlich zum Beispiel auf das Blinzelmuster.

00:40:33: wie häufig oder selten blinzelt ein Mensch.

00:40:36: Ist das besonders häufig oder besonders selten?

00:40:40: Könnte das ein Aspekt sein der darauf hindeutet dass es ein Deepfake sein kann?

00:40:45: ich kann aber auch zb auf die Iris achten die möglicherweise unnatürlich aussieht.

00:40:51: dem allen ist vorausgesetzt Die Fake-Werk in einer guten Auflösung vorhanden ist und möglichst auf einem großen Gerät angeschaut wird, weil das sind ja wirklich Details.

00:41:01: Und da muss man auch nochmal einsteigen.

00:41:03: Gerade beim Blinzeln sehen wir so ein bisschen den Widerspruch besonders häufig, besonders selten.

00:41:07: wie oft blinzelt ein Mensch, blinzelnen Kontaktlincenträger, einen häufiger als andere Menschen.

00:41:12: also können wir wirklich diese Frequenz so erkennen?

00:41:15: fällt uns das noch als Detail auf?

00:41:17: es sind wirklich... Es wird immer mehr zu Nuancen letzten Endes die man erkennen kann.

00:41:22: Genauso ich sag mal so merk mal wie Bruch mit physikalischen Gesetzen oder das zum Beispiel Fluchtpunkte nicht stimmen, also in der räumlichen Darstellung muss man sich auch mal wieder ganz klar vor Augen führen.

00:41:36: Das ist

00:41:36: z.B.,

00:41:37: kann ein guter Hinweis tatsächlich sein.

00:41:39: aber wenn wir an unserem Smartphone sitzen... Also ich fange da nicht an jetzt einen Geodreieck anzulegen und irgendwie die Fluchtpunkte zu überprüfen ob die auf einem gemeinsamen Punkt halt zulaufen.

00:41:49: Da zeigt es sich auf, dass sind viele dieser Punkte die wir euch versuchen mal in anderer Form auch noch einmal in Zukunft sich bereitzustellen, die sind eigentlich wenn wir ehrlich sind auch eher Verifikationsexperten vorbehalten.

00:42:06: Also so jemanden wie Herrn Steinebach der sich Zeit seines Lebens auch damit beschäftigt.

00:42:10: Die Zeit dazu hat sich damit zu beschäftigen technische Hilfsmittel hat.

00:42:14: Sich das genau... sich die Zeit auch nehmen kann, sich das ganz genau im Großformat mit höherer Auflösung anzuschauen geht an unserer Lebensrealität und auch eben der von jungen Menschen ja eigentlich komplett vorbei, muss man an dieser Stelle sagen.

00:42:27: Ich erlebe Erwachsene wie auch junge Menschen in dieser Test-Situation wo sie sich selbst und ihre Sinne mal auf die Probe stellen als sehr motiviert.

00:42:37: Es macht einfach unglaublich viel Spaß Mal zu schauen.

00:42:40: kann ich das überhaupt noch erkennen Kann ich es nicht mehr erkennen?

00:42:43: Wie gut bin ich selbst darin?

00:42:45: Wie gut ist die Technik inzwischen?

00:42:47: Das ist ein super, toller niedrigschwelliger Einstieg um in dieses Thema reinzugehen.

00:42:52: Erstmal und es bietet auch Erkenntnismöglichkeiten bei Deepfakes die wir nämlich nicht mehr mit unseren eigenen Sinnen als solche erkennen können wirklich festzustellen In der letzten Faser des Körpers Oh Gott!

00:43:07: Ich hab das nicht gesehen ich kann das nicht mehr erkennen Um dann ein Grundverständnis dafür in dieser spielerische Weise zu verankern, das ist dann anderes braucht und damit auch die Motivation erhöhen.

00:43:21: Zu erhöhen danach auch dann die anderen Schritte zu gehen, die zugegebenermaßen oft nicht ganz so viel Spaß machen und auch zeitkosten und mühsam sind.

00:43:32: Aber wenn ich diese Erkenntnis habe, ich brauche das.

00:43:33: Weil ich kann es nicht mehr und bin erschrocken, dann bin ich eher offener dafür.

00:43:37: auch von daher würde ich das als ganz tollen pädagogischen Türöffner sehen um in dieses Thema reinzugehen Schlussfolgerung daraus zu ziehen und weiterzumachen zu gucken was machen wir denn jetzt?

00:43:47: Also nicht so stagnieren bei dieser Hilflosigkeit die sich möglicherweise einstellt sondern dann zu gucken.

00:43:55: Wir sind nämlich ausgeliefert, wir können etwas tun.

00:43:57: Wenn das Missverständnis vorherrscht, dass wir mit solchen Merkmalzelisten eine eindeutige Gewissheit... an die gelangen können, dann ist das fatal und darf es nicht sein.

00:44:08: Darauf müssen wir achten dass wir da eben wie gesagt nicht stehen bleiben oder diesen Eindruck erwecken wenn wir auch über bestimmte Merkmal eben jetzt wie gerade gesprochen haben.

00:44:18: trotzdem ist es ja so dass es uns tatsächlich immer noch manchmal weiterhelfen kann weil eben nicht alle Deepfakes da draußen mit den modernsten KI Tools beispielsweise erstellt worden sind sondern auch noch alte Deepfake kursieren gepromptet wurden.

00:44:35: Das heißt auch dort wieder es ist, it depends sozusagen und es macht sicherlich Sinn weiterhin aus seinen Blick noch zu schärfen, auch wenn die Luft für den Blick sozusagen immer dünner wird keine Frage.

00:44:48: aber wir haben uns deswegen gut das so sagt.

00:44:50: Wir haben es natürlich jetzt auch immer Gedanken gemacht.

00:44:53: gehen wir nochmal auf diese einzelnen Merkmale teilweise ein oder nicht?

00:44:58: Es ist einfach der Punkt, dass man das wie du sagt es als Türöffner nimmt.

00:45:02: Es ist super um zu motivieren gerade auch junge Menschen sich damit auseinanderzusetzen.

00:45:06: Das ist ein wahnsinniger.

00:45:07: wir haben's auch erlebt.

00:45:08: Aha Effekt!

00:45:09: Ein Wow-Effekt wenn man teilweise dann ja einfach eine Erfolgserlebnis wenn man gesehen hat oh ich hab den kleinen Sticker da am Schuh entdeckt.

00:45:17: er war vorher nicht da.

00:45:19: und das... diese Motivation als Grundbaustein, als Fundament zu nehmen um dann so in die vielleicht auch trockene Prüfungslandschaft einzusteigen was wir jetzt tun werden.

00:45:31: Ja das kann einfach ein schöner Aufhänger sein und dafür sollte man das auch weiterhin nutzen.

00:45:38: Kommen wir zur angesprochenen äußeren Prüfungsologik.

00:45:41: also wenn jetzt wir uns einig sind es reicht nicht mehr!

00:45:44: Die eigenen Sinne sind irgendwann erschöpft Was können wir dann eigentlich noch ganz konkret tun?

00:45:52: Und haben wir vielleicht auch eine Möglichkeit, das mal live an einem Beispiel durchzu exerzieren.

00:45:57: Weil wir haben ja gesagt es ist eigentlich die größte Herausforderung dass wirklich mal praktisch auch erlebbar zu machen was das eigentlich bedeutet.

00:46:05: Ja und da habe ich dir oder hab ich mir einmal erlaubt ihr einfach Mal ein Beispiel rauszusuchen was mir untergekommen ist Und das habe Ich dir gerade zugeschickt Das Ist Ein Ja, Beitrag von Social Media.

00:46:19: Schau dir den gerne mal an was ich dir da geschickt habe.

00:46:23: vielleicht beschreibt gerade für die Leute die uns auf dem Audioplattform zu hören Mal was du dort siehst.

00:46:31: Ich habe hier einen Instagram-Beitrag.

00:46:33: Auf dem ist Zelensky zu sehen Mit zwei Bildern.

00:46:40: Also es ist Zelemski zu sehen der vor einem Redner Pult steht und der Text dazu lautet.

00:46:46: Zelenski erscheint hinter kugelsicherem Glas, ja es ist links eine Glasscheibe zu erkennen für mich auf dem Bild hinter der er steht.

00:46:55: okay Es geht also darum dass er jetzt aufgrund von Protesten aus der eigenen Bevölkerung geschützt werden muss das er würde ich daraus ableiten keine Rückhalt aus der eigen Bevölkerung hat als Botschaft dass er sich sogar ... jetzt hinter Kugelsichern Glas steht.

00:47:14: Ergänzen vielleicht dazu nochmal, weil das der wichtige Punkt ist... Also das Bild, was in des Wortes hier gegeben wird,... ... ist ja das ist jetzt ein schwacher Präsident.

00:47:23: Dann findet sich in dieser Kriegs-Situation mit der Situation konfrontiert, dass der Rückhalt aus der Bevölkerung der eigenen schwindet.

00:47:31: Das ist schon mal eine ganz wichtige Botschaft die transportiert wird.

00:47:34: und wenn wir da anknüpfen und du würdest es so nur mit deinen eigenen Sinnen versuchen zu prüfen, diesen medialen Inhalt.

00:47:43: Dann wärst du ja jetzt erstmal auf diese zwei Bilder zurückgeworfen und würdest du da jetzt irgendwas erkennen können?

00:47:53: Ich erkenne zwei Dinge.

00:47:55: ich würde gerne erst einmal auf das Bild selbst eingehen weil wir haben viel über die Bilder gesprochen was mein Weg ist den ich immer mache wenn ich mal Stocke und Überlege Soll ich da manipuliert werden?

00:48:07: In meiner Meinung kann ich dem trauen.

00:48:10: Ich mache tatsächlich diese Rückwärtsbildersuche, ich mach die in ganz unterschiedlichen Kontexten auch unabhängig von Informationsrecherche!

00:48:17: Ich finde sie super hilfreich und ich bin sehr verwundert über die Zahlen, die weiterhin so niedrig liegen weil ich halt das führt einen tollen Weg um recht schnell zu einer Lösung zu kommen im Alltag und deswegen sehr praktikabel.

00:48:28: was ich mache ist... ich mache jetzt ein Bildschirmfoto.

00:48:33: Ich nehme noch mal diese Bildüberschrift, mit die ich hier sehe.

00:48:35: Da steht Serlensky erscheint hinter kugelsicherem Glas.

00:48:38: Das fotografiere ich.

00:48:39: Ich nutze tatsächlich Google jetzt weil ich denke das ist auch für Schülerinnen und Schüler das praktikabelste Weil die App haben sie auf dem Gerät Und es ist die wahrscheinlichste die Sie im Kopf haben.

00:48:49: damit klappt das schon Mal recht gut so.

00:48:52: Jetzt wird mir angezeigt an welchen Orten dass noch zu finden ist und als erstes Ergebnis ist hier irgendwas von Instagram.

00:49:02: Als Zweites kommt schon Spiegel.

00:49:04: An dritter Stelle sehe ich hier AFP-Faktencheck.

00:49:07: und wenn ich Faktencheck lese, ist super weil dann weiß ich sofort das ist meine Seite der Wahl!

00:49:11: Weil da wurde schon mal überprüft.

00:49:13: was hat es mit dem Bild auf sich?

00:49:15: Jetzt ist der Faktoncheck leider sehr weit oben gekommen... Was keine Seltenheit ist.

00:49:18: ganz oft sind sehr schnell irgendwelche Faktingchecks ganz weit oben angezeigt.

00:49:23: Sprach Zelenski im Juli, XXVI Hinterkugelsicherem Glas falsch.

00:49:29: Ich habe dich enttarnt.

00:49:30: Ja, guck mal.

00:49:31: Bild

00:49:31: von Selensky hinter Schleswig im Glas wurde mit KI generiert.

00:49:34: Aha!

00:49:35: Wir haben jetzt und das finde ich auch ganz wichtig.

00:49:38: weshalb ich dann immer den Weg der Faktenchecks gehe ist nochmal die Auflösung.

00:49:42: wie sind sie dazu gekommen?

00:49:43: anhand welcher Merkmale?

00:49:43: was ist der Hintergrund zu dem Bild?

00:49:46: wenn nicht mehr jetzt dass lange durch lesen würde würde ich wahrscheinlich noch einiges lernen auch über das erkennen von fakes.

00:49:54: ja genau aber sehe schon Mal auf einen Blick Ist nichts vertrauenswürdig, stimmt so nicht.

00:50:01: Was ansonsten auch noch ein Punkt gewesen wäre, wo ich direkt so ein bisschen drüber gestolpert bin ist der Kontext.

00:50:07: den hatte ich ja erwähnt weil vorhin habe ich gesagt naja aber wenn man überlegt es liegt nicht weit mehr über Zufall dann betrifft das ja eigentlich auch nur die Situation dass wir ein blankes Bild oder ein blankest Video ohne Kontext für uns haben.

00:50:20: Ich finde der kontext gibt oft mehr her.

00:50:22: da brauche ich gar keine umgekehrte bildersuche.

00:50:25: Was ich jetzt nämlich auch ansonsten tun würde, ist mir den nochmal genauer anzuschauen.

00:50:29: Weil so wie das geschrieben ist habe ich schon ein erstes Bauchgefühl bekommen dass ich da irgendwie beeinflusst werden soll eine Haltung zu entwickeln.

00:50:39: und jetzt gehe ich mal auf diesen Nutzanahmen und guck mal auf das Profil.

00:50:43: du hast mir hier nur den Link zum Beitrag geschickt.

00:50:53: vermeintlich deutscher Account, garniert mit Deutschlandflaggen rechts und links neben Sachsenpost.

00:51:02: Da werde ich immer aufmerksam.

00:51:03: blaue Herzen, Deutschlandflagen... Es geht um März, Wand, AfD, Wähler erneut.

00:51:09: also es hat einen klaren politischen Hintergrund müsste man sich dann noch mal in Ruhe anschauen?

00:51:13: aber da würde ich im Alltag tatsächlich auch schon schnell.

00:51:16: das sind schon viele.

00:51:16: Belege einmal der Faktencheck dann Gesamteindruck vom Profil kostet nicht viel Zeit, um zum Ergebnis zu kommen.

00:51:24: Ja vorbildlich wäre also kann man nur an der Stelle sagen... Also du hast gerade ja im Prinzip schon wieder zwei dieser äußeren Prüfungsstrategien angewandt.

00:51:33: und dann du hast einmal im Prinzip eine Bilderrückwärtssuche gemacht bis darauf auf Faktenchecks gekommen, also eine bestehende Überprüfung einer Tatsachenbehauptung und du hast quasi den Quellencheck gemacht.

00:51:43: Du hast eben angeguckt wer ist der Urheber?

00:51:45: Was ist die Quelle?

00:51:46: Und hier scheint es zu sein das ist ein privaten Mensch auf jeden Fall, der aber den Anschein eben erweckt über solche Zusätze wie BCC News oder eben Sachsenpost was auch so klingt das ist irgendwie vielleicht ne Lokalzeitung oder sonstwas als wenn das irgendwie ein ja journalistischer Ja, so seriöser Content sein könnte zumindest.

00:52:07: Das wird aber schnell eben ad absurdum geführt wenn man sich dann genau diese restlichen Beiträge anguckt wie du sagst dieses emojis die da teilweise eben beistehen und das zeigt schon dass kann einem unheimlich weiterhelfen und wo ich ein stückweit auch bei dem Beispiel drauf hinaus wollte.

00:52:23: deswegen die eingangs die Frage hätte dir das Bild alleine wirklich weiter geholfen wenn nur das vor dir gelegen hättest?

00:52:31: Siehst du da irgendwelche doppelten Hände, sechs Finger oder sonst was?

00:52:36: Dann würde ich fest von ausgehen.

00:52:39: Zumindest nicht in dieser Auflösung und auch nicht bei Insta in der Gegenüberstellung von so zwei kleinen Mini-Kacheln das man überhaupt irgendwas erkennen könnte.

00:52:47: Und das ist wieder ein super Beleg dafür, ein super Fallbeispiel an der Stelle.

00:52:52: Na ja das hilft einem einfach nicht.

00:52:54: Wir könnten jetzt die Merkmalsliste auspacken und zweifelt es ohne wenn man sich den Faktencheck Agents French Press, also der französischen Faktencheck-Organisation anschaut.

00:53:05: Dann wird da auch von gesprochen, von solchen optischen Artefakten ... Aber dann muss man sich wieder überlegen... Ja das machen die in ihrer Arbeit!

00:53:14: Die legen sich das Groß dahin ja?

00:53:15: Die vergrößern das, können genau hinschauen Das haben wir nicht diese Möglichkeiten und da müssen wir ganz andere Kaliber auffahren.

00:53:23: D.h.,

00:53:23: diese innere Prüfungslogik über die eigene Sinne.

00:53:28: Das würde hier schon eigentlich zu kurz greifen, das würde uns nicht helfen und

00:53:33: wäre ich mir viel zu unsicher.

00:53:34: Ich habe jetzt gerade überlegt ist es vielleicht die Perspektive anders?

00:53:38: Auf dem einen steht er sehr frontal vor dem Gebäude auf dem anderen Schreck aber scheint ja die gleiche Situation im Hintergrund differieren ein bisschen.

00:53:47: Das eine ist deutlich gelbstichiger als das andere, aber das kann auch ein Problem der Aufnahme sein.

00:53:51: Also ich hätte nicht dieses sichere Gefühl, dass in viel schnellerer Zeit anders eingestellt hat.

00:53:57: Einmal Rückwärtssuche, Faktencheck, vertrauenswürdige Quelle ist AFP.

00:54:01: also das ist halt auch der Grund, dass man das einordnen

00:54:03: kann.

00:54:05: Wie ist die Quelle, die ich dann heranziehe hinsichtlich der Glaubwürdigkeit zu beurteilen?

00:54:10: Deswegen bin ich auch bei der Reportage wenig aufmerksam geworden.

00:54:12: Weil sie war vom öffentlichen rechtlichen... Ich hatte so ein Grundvertrauen!

00:54:15: Aber das ist ja das Problem auch beim Verbreiten von Deepfakes dass ich manchmal auch einen Grundvertrauen habe wenn meine Freundinnen und Freunde mir etwas schicken weil die kenne ich, die mag ich, denn Meinung finde ich gut.

00:54:26: großmaß an Grundvertauen.

00:54:29: Ja also da es ist so ein Repertoire wo sich dann doch irgendwie Fragmente zusammensetzen je häufiger ich das mache.

00:54:35: Aber dann ist es gar nicht mehr so eine akribische, detektivische Arbeitszwangsweise bei jenem Bild.

00:54:39: Sondern wenn ich mir das einmal aufgebaut habe und ein bisschen geübt hab auch weiß A. Es gibt diesen und jeden Faktenchecker die kommen da und daher DPA-Faktencheck, ah sieh deutsche Presseagentur... Dann baut sich das Wissen nach und nach auf über kleine Fragmente und dann kann ich bei sehr vielen Dingen zumindest sehr schnell einschätzen.

00:54:56: Ist es glaubwürdig oder nicht?

00:54:59: Ja und was auch deutlich wurde glaube ich ... für verschiedene Wege nach oben sozusagen.

00:55:04: Also wie du jetzt vorgegangen bist total valide, total vernünftig das genau so zu machen... Man kann aber auch beispielsweise, das hatte ich nämlich dann an der Stelle gemacht ja mal quasi Fakten-Check Suchmaschinen nenn ich es jetzt mal oder Archive sich anschauen.

00:55:21: Das ist im meisten glaube nicht bekannt dass es das gibt.

00:55:24: da gibts zum Beispiel von Google selbst diesen sogenannten Google Fact Check Explorer haben wir auch ganz kurz in der Themenfolge drüber gesprochen.

00:55:31: Da kann man, das muss man dann einfach nur einmal eingeben bei Google.

00:55:34: Dann landet man entsprechend auf der Seite und das ist im Prinzip eine aggregierte Darstellung die auch durchsuchbar ist.

00:55:42: also wie so ne Faktenchecksuchmaschine tatsächlich wo man anhand von Stichworten und Kategorien nach Faktschecks suchen kann.

00:55:48: Und da müsste ich jetzt nur eben einmal Zelenski beispielsweise eingehen sieht man schon, dass als einer der obersten Treffer genau diese Meldung eben überprüft wird.

00:55:58: Und man kommt genau auch über den Weg zu dem Faktencheck, den du erwähnt hast sogar zu zweien von der DPA und von der AFP.

00:56:07: Gleiches.

00:56:08: es gibt auch dieses GATMO Das ist auch ein Zusammenschluss von deutschsprachigen Faktoncheckern vier an der Zahl die auch genau das vorhatten Dass wir eine gemeinsame Anlaufstelle haben für Überprüfte eben Tatsachenbehauptung.

00:56:23: Und auch dort gibt es ein sogenanntes Faktencheck Archiv, super einfach zu nutzen.

00:56:28: man kann danach Stichworten suchen, man kann nach Kategorienfiltern zum Beispiel KI mal einfach auswählen und dann kriegt man nur solche Defax beispielsweise Faktonchecks dazu eben ausgegeben.

00:56:38: das heißt dass kann auch eine total niedeschwellige Variante sein sowas mal auszuprobieren und da sieht man schon es gibt ganz verschiedene Wege um dann aber zur einer relativ verlässlichen Einschätzung dann eben zu kommen.

00:56:49: Es waren jetzt auch nur wieder einzelne Umgangsstrategien, Tipps die wir jetzt mitgeben konnten an der Stelle.

00:56:57: Es gibt natürlich noch viele weitere und da kann man auch unendlich tief eigentlich absteigen.

00:57:02: Die große Frage, die sich immer natürlich stellt ist hilft das eben bei nicht einvernehmlichen sexualisierten Deepfakes überhaupt weiter?

00:57:10: Hilft uns das in irgendeiner Form weiter?

00:57:13: Faktenchecks

00:57:14: etc.?

00:57:15: Ja es ist eine Riesenherausforderung weil sämtliches Handwerkszeug steht mir dar nicht zur Verfügung.

00:57:21: Ein Faktencheck wird es im seltensten Fall auseinandernehmen, unter die Lupe nehmen.

00:57:27: auch weitere Quellen sind hinfällig weil sie ... wir wissen wie schnell sich intime Bilder verbreiten.

00:57:35: ich werde weitere Quelle finden auf denen Sie auftauchen aber das gibt mir überhaupt keinen Rückschluss darauf ob sich dabei um Deep Fake handelt oder um reale Aufnahmen.

00:57:46: und dann ist es so dass Ja, die Plattform selbst und der Kontext mir nicht viel weiterhelfen.

00:57:52: Das findet ja nicht auf den etablierten Social Media Plattform statt.

00:57:56: Das würde zensiert werden.

00:57:58: Ich habe da entweder den Bereich der Gruppenchats, der Messenger-Dienste oder aber dem Bereich der Plattform, die pornografisches Material bündeln... Da kann ich nicht aus dem Kontext herauslesen in der Regel ob es manipuliertes Material sein könnte oder nicht schon gar nicht, wenn ich die Erstellerinnen und Erstellern nicht kenne.

00:58:21: Das ist ein großer Unterschied.

00:58:22: das heißt der Bereich wird mit viel größeren Unsicherheiten alleine deshalb belegt sein weil... Ich gar nicht weiß wie kann ich denn jetzt einschätzen ob es eine echte Aufnahme ist oder nicht?

00:58:33: Wenn dann noch hinzukommt dass viele nicht im Kopf haben, dass es in diesem Bereich sehr sehr viele Deep Facts gibt gar nicht daran denken, dass es da eine Rolle spielt.

00:58:44: Manipulation von Bild- und Videomaterial im Bereich Intima Aufnahmen?

00:58:51: Dann könnte der Rückschluss naheliegen... Na ja dann muss das ja eher ne echte Aufnahme sein!

00:58:56: Da bin ich vielleicht weniger sensibel und deswegen bringt mich das Thema sexualisierte Deep Fakes in eine andere Richtung.

00:59:02: was pädagogische Maßnahmen betrifft Wir hatten die tolle Folge bei der es um Intervention geht letzten Endes.

00:59:10: Er haben die Frage, was können Betroffene tun?

00:59:12: Ich würde jetzt gar nicht auf diese juristische Ebene und auf den Bereich der Intervention gehen sondern eher auf das Alltägliche denn darüber können wir sprechen.

00:59:19: ich bin ein Juristin deswegen hat mir entsprechende Expertise in unserem Podcast dabei.

00:59:26: Wir stellen aber Material zur Prävention zur Verfügung Und ich finde ganz wichtig In dem Bereich in Schule Grundsätzlich überhaupt dafür zu sensibilisieren dass es diesen Problembereich gibt eben weil er in den Medien nicht allzu präsent ist.

00:59:41: Und auch in der Erfahrungswelt der Schülerinnen und Schüler, wenn sie jünger sind möglicherweise auch noch nicht aufgekommen ist – die haben noch nicht mitbekommen, dass irgendjemand in der Schule betroffen war, wenn Sie zehn, elf, zwölf Jahre alt sind.

00:59:51: Das stellt sich dann möglicherweise erst in höherem Alter ein.

00:59:54: Also da erstmal für eine gute Wissensbasis zu schaffen das nur ein einziges Bild reicht um einen sehr überzeugend wirkenden Deep-Fact zu erstellen auch da nochmal gemeinsam überlegt wird, welche Motive stecken dahinter.

01:00:12: Ja um das einfach Wissen aufzubauen damit dann nicht irgendwelche Fehlschlüsse gezogen werden wenn sie mangels wissen irgendwann der Situation begegnen dass ihr ein intimes Bild einer ihnen bekannten Person seht es jetzt eine bekannte Persönlichkeit oder einen Personen die sich aus ihrem näheren Umfeld kennen.

01:00:30: Dann geht es aber im nächsten Schritt eher nicht so drum zu schauen, welches Handwerkszeug steht mir zur Verfügung.

01:00:36: Das zu erkennen sondern diese Grundhaltung zu haben.

01:00:41: erst mal kann es sein und der betroffenen Person erstmal Glauben zu schenken als Grundhaltungen Und das ist ganz wichtig auch in Zuge der Thematisierung an Schule Auch mit der Grundhaltigung in der Situation schon zu sein.

01:00:55: Die Person ist nicht schuld daran Sie ist betroffen und es hat schlimme Auswirkungen, sprich da sehe ich viel relevanter den Bereich.

01:01:02: Was macht das mit Betroffenen?

01:01:04: Welche Konsequenzen hat das?

01:01:07: Was kann das bewirken um zu sensibilisieren für das was ausgelöst werden kann?

01:01:11: weil Es ist ein neues Phänomen deepfake im sexualisierten Bereich dass junge Menschen Denken möglicherweise nicht an die Tragweite wenn sie selbst Mit den Bildern mal ausprobieren, was man damit Lustiges machen kann.

01:01:24: Unmöglicherweise bestätigen wir aus der P-Group zu bekommen oder was auch immer Motivation sein kann dahinter oder Rache zu nehmen oder was das auch immer.

01:01:31: Diese Dimensionen in dem Moment nicht einordnen zu können zu denken naja ich habe hier doch einfach nur das Bild wo ich das Gesicht nehme und dann mache ich da ein Video draus ist es ja nicht echt!

01:01:42: Die Scham ist aber für die Betroffenen selbst wenn jede Person die dieses Video oder Bild Sieht Wüste, dass es manipuliert ist oder KI erstellt.

01:01:52: Ist die Scham trotzdem da?

01:01:53: Also diese Auswirkungen sind die gleichen für die Betroffenen und dafür im Vorfeld zu sensibilisieren und aufzuklären halte ich dafür immens wichtig.

01:02:01: das ist dann weniger rationales Handwerkszeug was ich irgendwie je nach Zweck einsetzen kann sondern so eine Grundhaltung Grundverständnis victim blaming einschätzen zu können.

01:02:17: diese Mechanismen zu kennen, halte ich dafür deutlich wichtiger.

01:02:22: Ja weil letzten Endes gibt es ist einfach ein ganz anderer Fall als Deepfakes in anderen Bereichen.

01:02:28: nochmal hat noch mal ganz andere Dimension was die Auswirkungen für Betroffene betrifft aber auch die Handlungsmöglichkeiten für Betroffene.

01:02:37: wenn ich jetzt zum Beispiel denke Kennzeichnungspflicht ist ja auch so was, wo man sagen könnte wäre für uns ein Merkmal wenn es mit KI gekennzeichnet ist.

01:02:45: Das wird es im Bereich sexualisierter Deepfags nicht geben weil das primär von Privatpersonen erstellt wird die Sinn der Kennzeichnungspflicht aber nicht betroffen.

01:02:54: Für die gilt die nicht.

01:02:55: Das heißt dieses Kriterium habe ich da gar nicht und ich kann auch in der Regel oft gar nicht einschätzen von wem kommt dass.

01:03:03: wer hat das erstellt?

01:03:04: Wer ist die erstellende Person?

01:03:07: oft anonyme Täterinnen und Täter.

01:03:09: Möglicherweise sitzen sie im Ausland, ich kann die rechtlich gar nicht belangen.

01:03:12: also wir brauchen da was anderes.

01:03:14: Wir brauchen das tiefer angerte Wissen dass wenn es in der Gruppe passiert und irgendwo möglicherweise im schlimmsten Fall ein KI manipuliert ist oder KI generiertes sexualisiertes Deep Fake auftaucht zu wissen Das is bildbasierte Sexualisierte Gewalt die da passiert.

01:03:32: Es ist äh Die Betroffenen tragen keine Schuld Und im nächsten Schritt auch schon zu wissen und im besten Fall vorher gemeinsam in der Klasse erarbeitet zu haben.

01:03:42: Was können wir denn tun, um Betroffene zu unterstützen?

01:03:44: Wie reagieren wir denn darauf, dass einfach die gesamte Klasse vorbereitet ist auf den Moment?

01:03:51: Denn es wird auch im Elternhaus kein Thema sein.

01:03:53: wenn wir uns dann anschauen Wir haben ja die Studien gesehen wie die Wissenslage bei Erwachsenen ist So stehen den jungen Menschen da Im eher unwahrscheinlicheren Fall erwachsene Menschen als Vertrauenspersonen zur Seite, die sich damit auskennen.

01:04:07: Die kennen sich auch nicht damit aus und ich habe als junger Mensch vielleicht gar nichts gefühlt.

01:04:10: Ich kann mich an Erwachsene wenden damit.

01:04:12: Die haben davon irgendwie Ahnung und können mir helfen, kennen sich in der Regel schlechter aus per Statistik Und ich schäme mich Es braucht da eher so wie im Bereich Mobbing, Klassen Chat nochmal Aufklärung Wissen Auch gemeinsame Absprachen auf präventiver Ebene

01:04:35: Als ich mir Gedanken dazu gemacht habe, also im Kern ist es ja wirklich erst mal dieser ganz große Unterschied.

01:04:40: Dass das gar nicht so sehr ums Erkennen geht bei sexualisierten Deep Wecks genau wie du sagst Es sind die Folgen real unabhängig davon ob Ich weiß als Betroffener aber auch als jemand der das sieht Ist es echt oder Nicht Die Person die da dargestellt ist die leidet und Diese psychischen Folgen vor allen Dingen, die stellen sich ein.

01:04:59: Es ist völlig egal ob da jetzt auch ein Label dran wäre oder nicht und ob das alle wissen?

01:05:03: Das ist einfach so!

01:05:04: D.h.,

01:05:05: dass... Die Zielrichtung, die man dann auch dort verfolgen wollte, ist natürlich eine ganz andere als wenn es irgendwie um Tatsachenbehauptungen im politischen Bereich geht, wie auch immer, um Informationen geht.

01:05:15: Hier geht's im Kern ja nicht irgendwie um Informationen, die handlungswirksam für irgendwas daraus sind sondern eben um letztendlich Gewalt in der Gewaltform.

01:05:24: Schwieriges Thema, es bleibt weiterhin glaube ich für viele Stakeholder egal ob Schule Eltern politische Bildung.

01:05:32: Es bleibt eine große Herausforderung aber ja ein paar Angebote und damit kommen wir auch zum Ende der heutigen Folge haben wir für euch eigentlich schon zusammengestellt die euch bei diesem schwierigen Prozess auch ein Stück weit helfen.

01:05:43: Den Unterrichtsimpuls sexualisierte Deep Facts ohne Zustimmung ist das Gewalt.

01:05:48: Unterrichtsempuls bedeutet dass ausgearbeiteter Inhalt mit dem Lehrkräfte?

01:05:55: Schulsozialarbeit, eine fünfundvierzig-mütige Unterrichtsstunde zu dem Thema gestalten kann.

01:06:00: Wir haben alle Methoden und Auflösungen auch für die Gruppenarbeit ausformuliert so dass nur ne geringe Vorbereitung möglich ist.

01:06:08: wir haben noch einen weiteren Unterrichtsimpuls was auch wieder bedeutet.

01:06:12: Nenn sich checks do deepfakes und desinformation erkennen und da geht es um genau das was wir heute gesagt haben was es braucht das alte Handwerkszeug Das wird darunter die Lupe genommen Und für alle, die es ein bisschen mehr sein darf und für die Mehrzeit zur Verfügung steht haben wir die Unterrichtseinheit deepfakes durchschauen gestaltet.

01:06:30: Bei dem wir das Thema dann nochmal ganzheitlicher betrachten ist unterscheidet unsere Unterrichtsimpulse von Unterrichtseinheiten.

01:06:35: Unterrichtsinpuls ist immer so einen Fokus auf einen speziellen Zuschnitt innerhalb eines Themenbereiches.

01:06:43: Die UnterrichtSeinheit schaut sich das Thema etwas umfassender an und dann finden wir also den Bereich der Informationsrecherche Deepfakes auch mit politischen Hintergründen, aber auch dem Bereich des sexualisierten Deepfags in einer Unterrichtseinheit.

01:06:57: Ja genau!

01:06:58: Und vieles weitere zum Thema KI gibt es auch noch alles wie gesagt auf unserem Campus.

01:07:03: Wir werden euch das natürlich wie immer in den Schauen uns verlinken.

01:07:07: ja und damit können wir eigentlich ist für heute fast beschließen Sendet uns gerne immer auch weiter eure Fragen zu Anregungen.

01:07:14: Wir sind dafür alles sehr, sehr offen und auch dankbar.

01:07:17: Gerne über spotlightatdigital-helden.de einfach per Mail oder halt über Kommentare beispielsweise auf unseren Social Media Kanälen wie Instagram.

01:07:26: in diesem Sinne danke liebe Vera dass du heute an meiner Seite warst.

01:07:30: vielen Dank auch für die ganzen Insights.

01:07:32: Und ja bis zum nächsten

01:07:35: Mal.