generation:ki #02 | Trust Issues bei KI: Erkennst du noch, was echt ist?

00:00:00: Welcher Information oder welchem Bild kann man eigentlich noch trauen?

00:00:03: Genau da setzen wir heute an und tauchen ein in die Welt der Deep Fakes.

00:00:08: Also von Bildern, Videos und Stimmen, die mit KI erzeugt oder verändert wurden und manchmal täuschend echt wirken.

00:00:15: Und wir greifen die Frage auf, die am Ende der letzten Folge offen geblieben ist Wie erkennen wir eigentlich noch was echtes und was nicht?

00:00:39: Hi und willkommen zurück zur zweiten Folge unserer Staffel Generation KI.

00:00:44: Am Ende unserer letzten Folge blieb ein Gefühl der Unsicherheit zurück.

00:00:48: Eine Frage, die sich alle gestellt haben war ja – wie erkennt man in Zukunft noch was wahr ist und was falsch ist?

00:00:56: Kann man den Videos und Bildern auf der eigenen For You-Page noch trauen?

00:01:00: Und wie leicht ist es eigentlich solche Fakes selbst zu erstellen?

00:01:04: Genau das schauen wir uns heute an!

00:01:06: Schülerinnen und Schüler aus Hessen testen, wie gut wir KI generierte Inhalte erkennen können wo unsere Augen und Ohren an ihre Grenzen kommen, was uns dabei helfen kann nicht auf Fälschungen hereinzufallen.

00:01:18: Bühne frei für unsere Gäste der St.-Lioberschule, der Gutenberg-Schule und der Otto-Hahn-Schulle aus Hessen!

00:01:27: Wir sind wieder im Event & Community Space Display in Frankfurt am Main.

00:01:34: Nachdem wir schon eine ausführliche Diskussion über künstliche Intelligenz geführt haben wollen wir heute ein Spiel mit den Schülerinnen und Schülern spielen.

00:01:45: Dafür haben wir ein Quiz vorbereitet mit teils echten, teils KI-generierten Fotos, Audios und Videos.

00:01:53: Wir wollten sehen wie gut unsere Gruppen echte von gefakten Inhalten unterscheiden können.

00:02:00: Wir starten mit der Kategorie Bilder.

00:02:02: Ihr seht jetzt gleich mehrere Bilder und könnt dann immer danach abstimmen.

00:02:06: ist das ein echtes Foto oder wurde das Bild KI generiert?

00:02:13: Okay ich sehe jetzt hier überwiegend grüne Schilder.

00:02:16: ihr sagt es ist ein echtstes

00:02:17: Bild.

00:02:18: Wir lösen mal auf.

00:02:20: Jetzt sehen wir

00:02:21: mal... Aber ihr kennt hier, das bin ich tatsächlich!

00:02:26: Ja beim falschen Springen aber ich bin noch nicht falsch im Besprung also es ist ein Gefächt.

00:02:32: Aber sieht

00:02:32: richtig gut aus oder?

00:02:36: Wie sieht's hiermit aus?

00:02:37: echt oder KI generiert manipuliert?

00:02:41: gerne wieder abstimmen hier sehr zögerlich hier.

00:02:50: wir brauchen die nächsten Hände noch hier.

00:02:52: ja kommen wir zur Auflösung.

00:02:55: Bera

00:03:12: Die ersten beiden Fotos waren komplett KI generiert.

00:03:15: Das wurde zu Beginn jedoch gar nicht direkt erkannt.

00:03:19: Beim nächsten Foto wurde es dann noch etwas kniffliger!

00:03:26: Die Jugendlichen waren sich schnell einig.

00:03:29: Irgendwas könnte mit diesem Bild nicht stimmen, aber sie kamen nicht genau darauf.

00:03:34: was und warum sollte jemand so ein Bild faken?

00:03:37: Okay, es ist einige die sagen das ist echt.

00:03:40: ein paar sagen fake.

00:03:43: Ich habe gerade gehört.

00:03:44: hast du gerade gemeint du wirst es nur halb zeigen?

00:03:47: Es wurde ganz genau hingeschaut und analysiert Wollen wir das mal auflösen?

00:04:00: Als du eben meintest, du würdest gerne halb-halb machen, hattest du eigentlich schon recht.

00:04:03: Weil dieses Foto mit dem geschmolzenen Müllcontainer das ist ein echtes Foto also das basiert auf einem echten Foto.

00:04:11: aber mit KI wurden dann noch Sachen hinzugefügt wie zum Beispiel der Rosanne Rucksack und das Saal wird alles noch so ein bisschen ja noch ein bisschen dreckiger bisschen dramatischer gemacht Aber es basiert auch im echten

00:04:22: foto.

00:04:24: Mit diesem Bild haben wir Zweifel in den Köpfen gesät.

00:04:27: Die Idee, dass auch ursprünglich echte Fotos mithilfe von KI manipuliert sein können ließ sie von nun an viel kritischer auf jedes weitere Beispiel schauen.

00:04:38: Okay, wir machen weiter!

00:04:42: Vermeintlich einfache Fotos wurden ab jetzt ganz genau unter die Lupe genommen.

00:04:50: Niemand war sich mehr so richtig hundertprozentig sicher.

00:05:04: Okay, wir lösen's aus.

00:05:13: Und dann kam ein Beispiel bei dem wirklich gar nicht mehr auszumachen war ob es real oder fake ist... Ein einfaches Bewerbungsfoto von einer Frau.

00:05:28: Das Foto sieht super professionell aus und es gibt keinerlei Anzeichen dass hier etwas manipuliert oder KI generiert sein könnte.

00:05:36: Aber können wir unseren Augen trauen?

00:05:40: Was meintest du gerade?

00:05:53: Und tatsächlich zeigte die Auflösung, das Bild ist KI generiert.

00:06:00: Dass dann hauptsächlich die Augen irgendwie nicht so ganz richtig aussehen und also man kann es sich ganz

00:06:05: besonders beschreiben.

00:06:06: was ist einfach dieses Gefühl dass bei den Augen irgendwas nicht ganz passt.

00:06:20: Das hat die Gruppe super zusammengefasst.

00:06:23: Denn dieses Bild enthält eigentlich keine handfesten Hinweise mehr dafür, dass es sich nicht um ein echtes Foto handelt.

00:06:34: Wir haben ihnen dann noch ein paar weitere Bilder gezeigt, die zum Teil für hitzige Diskussionen gesorgt haben.

00:06:41: Am Ende wurden die Schülerinnen und Schüler immer sicherer und geübter, was das Erkennen von KI-generierten Bildern anging.

00:06:47: Und früher war es so, weil wir hier ein gutes Beispiel haben also sowas wie diese verformten Hände oder eine Hand mit sechs Fingern oder zehn, drei Zollen Stück wie auch immer... Das war so früher so ein klassisches Hinweis.

00:07:01: daran hat man sofort erkannt.

00:07:02: Das passiert aber immer seltener.

00:07:03: Also zum Beispiel wie hier.

00:07:05: Das kommt mal noch vor, aber bei Weitem nicht mehr so oft wie früher.

00:07:08: Jetzt ist es eher so dass auch Hände Füße usw.

00:07:11: alles richtig dargestellt

00:07:13: werden.".

00:07:14: Deshalb gingen wir weiter zur nächsten Kategorie und wollten wissen, wie sieht es mit dem Erkennen von Audioaufnahmen aus?

00:07:21: Wir verlassen jetzt die Kategorien Bilder und machen weiter mit Audioaufnahme.

00:07:25: also ihr könnt jetzt nichts mehr sehen, ihr werdet jetzt gleich Sachen hören.

00:07:29: Als erstes haben wir ihnen eine Werbung vorgespielt.

00:07:52: So richtig hat sie das nicht überzeugt.

00:07:54: Sie waren der Sache schon schnell auf der Spur Und waren absolut nicht überrascht über die Auflösung.

00:08:02: Es ist sick.

00:08:03: Und ihr habt es ganz gut erkannt!

00:08:06: Weiter ging's mit Musik ohne Gesang, ein Klavierstück.

00:08:27: Nach einer Weile waren sich alle irgendwie einig Das ist ein echtes Klavierstück und keine KI.

00:08:34: Und ihr hattet recht, das ist echt.

00:08:37: Vielleicht waren die Beispiele mit Musik auch zu einfach.

00:08:41: Deswegen haben wirs danach mit verschiedenen Sprachen amt versucht.

00:08:45: Traubenvollz hier von der Haddamer Steinbachversicherung.

00:08:47: Hallo Wir haben versucht sie zu erreichen wegen ihrem Versicherungsfall mit der Endnummer zwei, sieben, null vier.

00:08:56: Wir bräuchten da noch ein paar Angaben von ihnen.

00:09:00: Daher würde ich Sie bitten mich zurückzurufen.

00:09:03: Ich bin erreichbar in der Zeit

00:09:05: Montag bis

00:09:05: Freitag zwischen neun und siebzehn Uhr.

00:09:08: Vielen Dank!

00:09:16: Okay müssen wir auf?

00:09:19: Und ihr habt alle recht gehabt, das

00:09:21: ist echt.

00:09:22: Herzlich willkommen zu einem neuen Video hier auf meinem Kanal!

00:09:25: Ihr habt letzte Woche alle sicherlich den aktuellen Skandal in der Influencer-Szene mitbekommen.

00:09:30: Das habe ich mir natürlich wieder ganz genau für

00:09:33: euch angeschaut

00:09:34: und werde da jetzt

00:09:35: heute

00:09:35: mal alles etwas genauer auseinander nehmen und euch

00:09:38: mitnehmen.

00:09:52: Er betrat das Zimmer seines Großvaters.

00:09:55: Zwischen alten Klamotten und überfüllten Pappkartons mit Büchern, fand er nach kurzem Suchen einen kleinen Schlüssel.

00:10:03: Er erinnerte sich an eine kleine rote Box aus Metall die immer in Großvater Schrank

00:10:08: versteckt war.

00:10:11: Ja es klingt wie ein Hörbuch, wenn eine Geschichte vorgelesen wird.

00:10:31: Wir waren wirklich positiv überrascht, wie gut die Gruppen darin waren, die Fake-Audios zu erkennen.

00:10:41: Wir glauben aber auch, dass sie zu diesem Zeitpunkt im Quiz schon sehr eingespielt waren im Erkennen von Fakes.

00:10:47: Danach haben wir weitergemacht mit der Kategorie Videos!

00:10:53: Und da sind auch wir dann, wie eben.

00:10:58: Manche sind echt und manche sind KI generiert.

00:11:12: Also ich tue Frau Fake weil beim Döffel irgendwie... Ich weiß ob es so

00:11:15: extra gemacht ist aber der Döfel hängt so mitten in der Schüssel gerade

00:11:18: von mir aus drin und das sieht jetzt

00:11:20: nicht so echt aus.

00:11:22: Auflösung?

00:11:23: Es ist fake und ihr habt recht!

00:11:24: Das ist ein KI-generiertes Video.

00:11:26: Aber Zum Beispiel dieser Löffel, der hier so komisch in die Schüssel geht.

00:11:31: Das ist tatsächlich ein Löffeln, den man über die Schüßeln hängen kann.

00:11:35: und zwar war das Foto dieses Standbild also ohne die Stäbchen und ohne die Hand, es ist ein echtes Foto von einem echten Tellerrahmen und das Video ist dann generiert.

00:11:55: Zu perfekt geteim oder?

00:11:57: Ja,

00:11:58: wir nehmen auf!

00:12:02: Der Prompt war einfach nur, zeig mir eine deutsche Stadt.

00:12:07: Also so stellt sich KI tatsächlich eine typische deutsche Stadt

00:12:10: vor.".

00:12:11: Aber beim nächsten Video fingen sie an zu rätseln.

00:12:15: Irgendwas war in diesem Video seltsam – aber was?

00:12:20: Die beiden Jungs im Beispiel sehen unglaublich realistisch aus!

00:12:24: Aber der Teufel steckt im Detail und bei genauem Hinschauen fielen dann doch ein paar kleine Fehler im Video auf.

00:12:50: Das ist mir nicht mal aufgefallen!

00:12:52: Das war Teamwork, sehr, sehr gute Arbeit.

00:12:55: Sogar diesen Fake haben die Jugendlichen entlarvt.

00:12:58: Wir haben dann noch ein paar weitere Videos gezeigt, aber die Gruppen waren nicht mehr reinzulegen und hatten mittlerweile insgesamt einen sehr geschulten Blick entwickelt.

00:13:10: Ja, das ist Fake!

00:13:13: Wir haben nochmal gemeinsam reflektiert.

00:13:15: Gegen Ende des Quizzes waren die Schülerinnen und Schüler so geübt im Erkennen der Fakes dass wir uns sicher sind Wenn wir das Bild vom Anfang erst am Ende gezeigt hätten, hätten sie es alle direkt als fake enttarnt.

00:13:29: Was würdet ihr sagen,

00:13:29: wie fit fühle ich euch

00:13:31: im Erkennen von Deepfakes?

00:13:33: Man weiß auf jeden Fall in welchen

00:13:35: Gründenladen

00:13:36: man es festlegen kann.

00:13:37: Wir haben jetzt gesprochen an was man das so

00:13:40: festmachen kann.

00:13:41: Es lohnt sich also mit kritischem Blick genau hinzuschauen und Medieninhalte akribisch zu analysieren.

00:13:49: Und wenn man das erstmal drauf hat, kann man viele Fakes auch trotz immer besser werdender KI-Technologie oft noch erkennen.

00:14:02: Im Anschluss haben wir den Gruppen dann noch die Aufgabe gegeben, selbst KI-Inhalte zu erstellen.

00:14:07: Sie haben festgestellt wie einfach das geht und welche simplen Schritte es nur braucht um Inhalte richtig echt aussehen zu lassen!

00:14:25: Diese Zahnpasta schmeckt nicht nur fantastisch nach Wassermelon, sondern zaubert ihr auch jeden Morgen mit den bunten Farben ein Lächeln aufs Gesicht unter Regenbogen-Zahnpaster – die Erfrischung für den Tag.

00:14:38: Damit kamen die Projekttage zum Abschluss!

00:14:40: Wir bedanken uns ganz herzlich bei den teilnehmenden Schulen, bei den begleitenden Lehrkräften und natürlich bei allen zwanzig Schülerinnen und Schülern, deren Input für das gesamte Projekt super wertvoll war und die beiden Folgen überhaupt erst zu dem gemacht hat was sie sind.

00:14:59: Danke noch mal an alle, die heute mit dabei waren.

00:15:01: Wir haben ja heute dieses Quiz gespielt und ich finde das hat super Spaß gemacht!

00:15:05: Die Stimmung war total ausgelassen und gleichzeitig war es so schön einfach mal nach dieser Gesprächsrunde am ersten Projekttag jetzt ins Tun zu kommen und selbst was auszuprobieren und selbst mitzuraten wie siehst du das?

00:15:18: Ich fand dich genauso.

00:15:19: das teile ich absolut.

00:15:20: Ich fand's super spannend auch zu erleben wie sich auch das Gespür für Fakes zwischen dem ersten Bild und dem letzten Video verändert hat.

00:15:32: Ich fand sehr interessant, auch erleichtern zu festzustellen dass wir lernen können die Fakes auch zu erkennen und das alle immer besser wurden Merkmale zu identifizieren und dann auch wirklich zunehmend im Verlauf des Quiz immer besser einschätzen konnten.

00:15:47: ist es jetzt fake oder ist es echt?

00:15:49: Gleichzeitig gab es aber auch Bilder, wo wir das nicht mehr mit bloßen Sinnen erkennen konnten.

00:15:56: Es gab keinerlei Hinweise auf Fakes und trotzdem hat sich's um Fakes gehandelt.

00:16:00: Einerseits hatten wir die Erleichterung, man kanns lernen andererseits haben wir alle Grenzen gespürt dass das bei manchen Bildern einfach nicht möglich ist weil die Technologie heute so weit entwickelt ist.

00:16:09: Ja total ich denke jetzt an dieses Bild von der Frau in dieses Bewerbungsfoto wo sie ja wirklich überhaupt keine Anzeichen mehr waren.

00:16:18: Und gleichzeitig kann ich auch nur wiederholen, was du gerade gesagt hast.

00:16:21: Ich war so beeindruckt, auch grade dann in der Kategorie Audio und auch am Ende Video.

00:16:27: die Jugendlichen waren so gut dass ich also Quizleiterin teilweise schon ein bisschen fast enttäuscht war das sie immer alles richtig hat.

00:16:37: Nee aber total beeindruckend!

00:16:39: Aber was ja auch schon in der ersten Folge so aufkam, war ja die Frage gerade bei den Beispielen wo man es eben nicht mehr fest machen kann Weil es so gut gefaked ist, weil es keine Bildfehler mehr gibt zum Beispiel.

00:16:52: Wie kann man das in Zukunft noch erkennen?

00:16:54: Und das ist ja schon auch eine Frage die einen total umtreibt, weil das zu einer großen Verunsicherung führen kann!

00:17:00: Ja wir werden sie immer weniger mit unseren Sinnen erkennen können.

00:17:04: was hilft uns dann aber denn?

00:17:06: brauchen wir neue Strategien im Umgang damit und wie können die aussehen.

00:17:10: genau diese Frage nehmen wir mit zur Expertin und Experten in der nächsten Folge Denn... Auch wir können das nur bedingt beantworten und wir werden damit Menschen sprechen, die sich wirklich ausschließlich mit dem Thema auseinandersetzen.

00:17:23: Und sind total gespannt auf die Antworten!

00:17:25: Ja es klingt total spannend und ich freue mich auch schon sehr auf diese Folge.

00:17:29: Für die Zeit dazwischen spielt ihr doch das Quiz von heute mit euren Mitschülerinnen und Mitschülern und testet deren Wissen wie gut sie im Erkennen von KI Fakes sind.

00:17:40: Das Quiz findet ihr bei uns in den Shownauts.

00:17:43: Danke, dass ihr dabei wart.

00:17:44: und bis zur nächsten Folge von Generation KI.

00:17:47: Wenn euch die Folge gefallen hat, lasst gerne eine Bewertung da, teilt sie mit euren Freundinnen und Freunden und folgt uns damit ihr die nächste Folge nicht verpasst!

00:17:56: Tschüss!