Bonus Spotlight Medienbildung: Künstliche Intelligenz und menschlicher Fremdscham

00:00:00: Wir haben uns gefragt, gibt es da draußen so etwas wie eine Sammelstelle für KI-Fails?

00:00:05: Also vor allen Dingen auch für textgenerative KI Fails sogenannten Halluzinationen.

00:00:10: Und wir sind eigentlich zu dem Schluss gekommen die scheint's nicht wirklich zu geben.

00:00:13: aber was haben wir gemacht?

00:00:14: Wir haben einfach mal bei Reddit vorbei geschaut denn da gibt es sogenannte Subreddits also vorhin diese speziell solchen Themen widmen und da sind uns wirklich spannende Beispiele untergekommen.

00:00:27: Da wollen wir heute mal drüber sprechen.

00:00:39: Und zwar haben wir da gefunden, ich lese dir das mal vor liebe Jena einen Beitrag von einem ja ich würde jetzt einmal sagen deutschsprachigen User oder Userin die Google AI also den KI Modus gefragt hat Ja generiere mir doch bitte eine Liste mit deutschen Frauennamen die auf Arte enden A-Tee.

00:01:04: Genau, das muss man tatsächlich auch noch mal so gut stabilieren um Verwechslung auszuschließen.

00:01:09: und was war wohl die Antwort?

00:01:11: Ich lese mal vor hier eine Liste deutscher beziehungsweise im deutschen Sprachraum gebräuchlicher Frauennamen.

00:01:17: dir auf Atee enden.

00:01:20: da haben wir einmal Beate lateinisch für die glückliche.

00:01:23: Das war meine erste mein erster Geranke.

00:01:26: Du bist der KI viel näher als man denkt Renate.

00:01:29: Ja, war mein zweites.

00:01:31: Meine Güte!

00:01:32: Lateinisch für die Wiedergeborene – das wusste ich tatsächlich nicht.

00:01:36: Dann haben wir die gute Agate.

00:01:39: Fair?

00:01:40: Aber und zwar ohne Tee, Variante von Agathe mit H...

00:01:44: Ohne Tee.

00:01:45: ...ohne Haar.

00:01:46: aber das ist quasi die Variant von Agata mit H griechisch für Die Gute.

00:01:50: dann haben wir Alate seltene Nebenform zu Adelheit.

00:01:58: Hab ich noch nie gehört, du?

00:02:01: Es klingt wie eine Margarine.

00:02:04: Finde ich auch.

00:02:05: und dann haben wir jetzt am überraschendsten Schalotte.

00:02:12: Aber hier steht Schalotte das ist was die Google hier rausgespissen hat ja was schon mal ein wenig sagen wir mal verblüfft.

00:02:21: also ein klassisches Beispiel wieder wo jetzt Dinge ausgegeben werden die sagen wir Mal Einfach unfugselt.

00:02:28: Ist ja noch harmlos, das sehe ich ja direkt.

00:02:30: Genau

00:02:31: es ist noch harmlos aber es wird eigentlich noch besser weil das nicht der letzte Name der ausgespuckt wurde von der Google KI sondern wir haben da auch noch obacht Konzentrate und Desiderate.

00:02:43: Aber da ist wenigstens das ATE wieder richtig.

00:02:44: Da ist es definitiv wieder das RTE da.

00:02:47: aber ich fand dass auch so schön diese diese Erklärung dabei Historisch selten als klangliche Ableitung, jedoch kaum noch gebräuchte.

00:02:55: Ich

00:02:57: hab auch meine Ahnengalerie nachgeschaut und niemand hat so geheißen.

00:03:00: Ich google

00:03:00: jetzt!

00:03:01: Ist wirklich interessant.

00:03:02: Konzentrate mit C oder mit K?

00:03:04: Mit K

00:03:06: Wie das Konzentrat?

00:03:07: Ja genau.

00:03:08: Koncentrate Vorname

00:03:12: Geht's

00:03:13: wirklich?!

00:03:13: Übersicht mit KI.

00:03:14: Die Suchergebnisse enthalten keine Informationen zu einem Vornamen namens Konzentraat.

00:03:19: Also sprich der KI-Modus hat jetzt was anderes gesagt wie die Übersichten mit KI.

00:03:23: Das ist schon mal auch eine interessante Feststellung eigentlich.

00:03:25: Moment!

00:03:27: Zwanzig Vornahmen, die Magie oder Zauber bedeuten?

00:03:32: Nee.

00:03:33: Auch Konzentrale nicht dabei.

00:03:35: Ja aber man sieht schon so... Die Magie der KI hält sich manchmal bisweilen doch dann auch in Grenzen wie wir an dem Beispiel glaube ich ganz gut erkennen können.

00:03:42: Aber das ist nicht alles was uns darunter gekommen ist.

00:03:45: Wir haben noch ein zweites Beispiel Was jetzt vielleicht ein bisschen ja man kann sagen auch potenziell folgenreicher einfach sein kann Weil ich glaube davon auszugehen, dass du jetzt nicht zum Beispiel deinen Kind Konzentrate oder Desiderate nennen würdest nach dieser Ausgabe.

00:04:01: Halt dich für unwahrscheinlich!

00:04:02: Auf jeden Fall fand ich das hier auch nochmal sehr spannend.

00:04:06: Da hat jemand, also quasi in der Google Suchleiste eingegeben Rotlichtverstoß über eine Sekunde Strafe.

00:04:14: Also man kann sich das Setting wahrscheinlich vorstellen warum das jemand gesucht hat.

00:04:19: Rotlicht Verstoß Über Eine Sekunde Straf

00:04:22: im Straßenverkehr wahrscheinlich über die rote Ampel gefahren.

00:04:25: Ja,

00:04:25: weil man muss jetzt auch schon sagen Rotlicht?

00:04:27: Naja okay ja.

00:04:29: Ja

00:04:29: aber ich nehme an das ist gemeint jemand ist über die Rote Ampel gefahren und will

00:04:33: jetzt wissen

00:04:34: was droht mehr.

00:04:35: Und hat das Gefühl es war über eine Sekunde schon rot.

00:04:38: So dann wurde die Übersicht mit KI eben ausgespuckt.

00:04:43: zitiere ein Rotlichtverstoß von über einer Sekunde ist ein qualifizierter Verstoß mit empfindlicheren Strafen.

00:04:50: Es drohen mindestens zwei Hundert Euro Bußgeld, zwei Punkte in Flensburg und ein einstündiges Fahrverbot.

00:05:00: Ja also da war ich jetzt leicht irritiert als ich das gelesen habe.

00:05:03: es ist auch eine Quellenangabe dabei die man allerdings hier nicht anklicken kann.

00:05:07: aber jedenfalls ist diese Aussage in irgendeiner Form belegt vermeintlich Was ja natürlich jetzt im ersten Moment wieder diese Suggestion erst mal hervorruft.

00:05:17: Ja, das wird schon irgendwie stimmen.

00:05:18: Das ist die schlaue KI, die das ausgespuckt hat und die hat auch sogar ein Beleg da für ... Dabei ist es natürlich non-sense denn es ist ein Monat.

00:05:27: Ja das hätte ich mir erst gedacht dass es ein einstündiges Fahrverbot ist!

00:05:32: Ja also es wäre schön wenn so was geben würde ne?

00:05:34: Aber

00:05:34: fändest du das gut mit einstundiges Fahrverbot?

00:05:37: Fragt mich nicht warum ich das manchmal gut finde

00:05:39: würde.

00:05:39: Einstündige Fahrverbote Ist das ein Ding?

00:05:44: Und schön auch sehe ich gerade, also in den Kommentaren hat dann jemand eben klassisch nachgeschissiert und hat dann eben sofort gesagt okay.

00:05:52: Ich habe im Bußgeldkatalog nachgeschaut, da steht aber was von einem Monatsfahrverbot?

00:05:57: Also wenn ich jetzt eingebe einstündiges Fahrverbot und dann sagt der KI Modus, ne nicht der KI-Modus die über sich mit KI sagt Ein einmonatiges Fahrverbot wird in Deutschland bei schwerwiegenden Verkehrsordnungswidrigkeiten bla, bla.

00:06:13: Ich hab ein Stündig eingegeben aber der sagt direkt einen Monat und dann sagt er hier auch Ein Fahrverbot um fast mindestens einen monat.

00:06:23: Und da sieht man wieder schön.

00:06:24: beides kommt kam jetzt offensichtlich von Der KI Übersicht.

00:06:29: Es sind völlig widersprüchliche Ausgaben.

00:06:32: letztendlich und natürlich dieses Beispiel ist einfach Quatsch, es stimmt einfach nicht.

00:06:39: Aber potenziell hat das natürlich auch wieder eine Relevanz, eine Lebensrelevanz für Entscheidungen die du triffst.

00:06:43: ob du dir jetzt Sorgen machst was du fühlst, ob du Angst hast...

00:06:46: Ich meine einstelliges Verwurz ist nicht so schlimm.

00:06:48: da kannst du auch schon mal über die rote Ampel fahren?

00:06:50: Eben!

00:06:50: Da würdest du jetzt auch Ableitung für dein Leben treffen die vielleicht mal sozial gesehen jetzt vielleicht auch nicht ganz gut wären.

00:06:59: Ja ist einfach spannend anhand von solchen Auch relativ harmlosen Beispielen mal zu sehen, okay.

00:07:05: Das kann aber alles auch wirklich nach hinten losgehen sich bei Informationssuche sage ich jetzt mal allein auf KI zu verlassen.

00:07:12: und dann haben wir hier noch was ganz aktuelles gefunden.

00:07:14: da hat jemand gepostet Meta AI is struggling with fairly simple world problems.

00:07:20: Und zwar hat da jemand die Anfrage an eben die KI von Meta gestellt.

00:07:30: So, und die Ausgabe dann der KI war... Konsonanten, P-N-S-S vier.

00:07:49: Also dann einfach gezählt ... Aber das Ganze ja offensichtlich stimmt ja auch wieder nicht, ne?

00:07:54: Ich muss

00:07:57: vor mich gestrümmeln, es klingt alles falsch!

00:07:59: Es klingt komplett falsch,

00:08:02: ne?!

00:08:03: So kann man's eigentlich mal zusammen ...