Spotlight Community #07: Die neue Macht der KI-Chatbots

00:00:00: Die Suche nach guten Quellen für die Höhe des Brandenburger Tors.

00:00:03: Ein Recherchebeispiel, das wir in unserer zurückliegenden Folge ausgegoogelt die neue Macht der KI-Schwettbots besprochen hatten hat jemand von euch aus der Community auf interessante Irrwege geführt – nämlich in eine Urberliner Kneipe!

00:00:18: Wie das passieren konnte?

00:00:20: Darum um eure Erfahrungen und Insights sowie weitere Beispiele für KI-Recherchefels soll es in der heutigen Community Ausgabe gehen.

00:00:38: Wir brauchen eure Unterstützung.

00:00:41: Damit wir vor euch weiterhin kostenfrei spannende Themen aufbereiten und recherchieren können, benötigen wir euer Feedback!

00:00:48: Keine Sorge dafür braucht es nicht viel.

00:00:51: Ein Klick auf den Link in unserer Beschreibung führt euch zu einer kleinen Umfrage darüber wie ihr den Podcast nutzt.

00:00:57: Vielen Dank fürs mitmachen.

00:01:07: Auf einen Ausschnitt unserer letzten Podcastfolge, ein Follower namens Der Warburger Wiegandt schreibt.

00:01:27: Okay zur Erklärung die Tiergartenquelle ist eine Kneipe und ich musste wirklich lachen als ich den Kommentar gesehen habe weil es natürlich auch so ganz vielen Ebenen Hier zu Missverständnissen kam und lustig ist.

00:01:41: Also, dass eben jetzt hier der Follower von uns das was wir ausprobiert hatten mit Quellen zur Höhe des Brandenburger Tors selbst auch ausprobierter Zuhause fragt.

00:01:52: die KI nenne mir Quellen bezüglich Brandenburgator Und die KI versteht es als einen Aufruf nach natürlichen Quellen zu suchen.

00:02:01: im Park, im Tiergarten nennt dann auch eine und diese Quelle ist aber keine natürliche Quelle, sondern eine Kneipe.

00:02:12: Es ist zum Schmunzeln!

00:02:14: Ja es ist einfach ein super harmloses Beispiel für so eine sogenannte Halluzination.

00:02:19: Das hatten wir ja genau in der letzten Folge eben besprochen dass das nach wie vor immer noch ein großer Stolperstein im Umgang mit KI gestützter Recherche ist.

00:02:28: also wenn wir gerade an Chatbots denken man weiß jetzt nicht ganz genau was der gute wiegand grüße gehen raus im prinzip genutzt hat.

00:02:37: ob es schädt die titi war ob ist der k.e.

00:02:40: modus von google war das wissen wir alles nicht.

00:02:42: aber genau wie du gesagt hast es eigentlich total spannend mal zu sehen.

00:02:46: ok dass kontext verständnis da hat sie schon dran gemangelt und eigentlich hat er sich ja vorbildlich verhalten.

00:02:51: er hat eben nach quälen gefragt.

00:02:53: auch da hatten wir in unserer bonus folge im übrigen hier auch darauf hingewiesen beziehungsweise frau baller in dem fall dass es so wichtig ist, eben immer wieder die Quellen auch einzufordern.

00:03:02: Also genau das ist hier passiert und trotzdem kam zu Deutsch Bullshit eigentlich bei Rumm.

00:03:07: Und deswegen ein tolles Beispiel.

00:03:08: einfach, das zeigt okay Halluzination passieren nach wie vor und in dem Fall ist unterhaltsam, es kann aber auch mal ganz anders laufen.

00:03:16: Es

00:03:16: ist so lustig mit der Doppeldeutigkeit des Wortes Quelle.

00:03:19: ich habe da noch nie darüber nachgedacht im Zusammenhang.

00:03:22: Ich hab' auch die KI schon öfter nach Quellen gefragt natürliche Quellen auszuspocken.

00:03:31: Und vor allen Dingen dann nicht eine Ur-Berliner Kneipe mit vielen Bienen vom fass und deftiger, hausgemachter Kost.

00:03:37: urig gemütlich buntes Publikum wie man dann nämlich wenn man die Suchmaschine bemüht aus dem Snippet an sich ziehen kann.

00:03:44: Ja einfach glaube ich das ist ne sehr, sehr schöne

00:03:46: Falscheulichung.

00:03:47: für so einer Haluzination müssen wir eigentlich hin.

00:03:49: absolut definitiv Betriebsausflug würde ich sagen.

00:03:56: Vor Ort-Recherche.

00:04:00: Wie immer haben wir natürlich auch eine generelle Instagram Umfrage geschaltet und ich würde sagen, auch da gucken wir jetzt mal rein in die natürlich nicht repräsentative aber trotzdem immer eine schöne tendenzanzeigende Umfrage unserer Instagram Community.

00:04:18: Und die erste Frage, die wir gestellt haben war Wir wollten von euch wissen wie suchen Deine Schülerinnen und Schüler hauptsächlich online nach konkreten Informationen.

00:04:28: Was sind deine Erfahrungen aus dem eigenen Klassenzimmer?

00:04:46: Ja und es

00:04:51: waren ja im Prinzip drei Auswahlmöglichkeiten die wir gegeben hatten, nämlich einmal eben teamfertige KI Antwort.

00:04:57: Einmal... Rückgriff auf Suchmaschinen-Linklisten, also klassische Suchmaschinensuche eben oder eben Informationen über Social Media.

00:05:05: Und das fand ich sehr spannend weil ja eigentlich auch Studien hergeben dass sehr viel über Social media bei TikTok zum Beispiel recherchiert wird durch junge Menschen was zumindest laut der Einschätzung der Lehrkräfte die geantwortet haben gar nicht so ausgeprägt ist sondern eigentlich hier wirklich dieses Bild was du erwähnt hast ganz klar in die Richtung weiß, dass ja Suchmaschinen deutlich offensichtlich an Bedeutung verloren haben und auch so Schmiede gar nicht so eine Rolle spielt.

00:05:31: Sondern wirklich diese Chatbots wahrscheinlich, ChatGPT da die meiste Nutzungen eben auch schon aufweisen.

00:05:38: also total spannend was sich der offensichtlich geändert hat.

00:05:41: Ja ist natürlich ne Einschätzung von euch.

00:05:44: also wir haben jetzt nicht die Schülerinnen und Schüler selbst gefragt oder wissen jetzt nicht wie viele Jugendliche vielleicht an dieser Umfrage teilgenommen haben wahrscheinlich eher weniger.

00:05:52: Und es wäre auch interessant gewesen, wenn wir mehrfach Antworten ermöglicht hätten ob dann vielleicht doch der Social Media Balken oder auch der Suchmaschinenlink-Liste Balken höher ausgefallen wäre.

00:06:04: Aber gut!

00:06:04: Wir haben gefragt was ist hauptsächlich die präferierte Art der Informationssuche?

00:06:10: und da war eben das Ergebnis KI antwortet.

00:06:12: aber es überrascht uns ja jetzt auch nicht großartig.

00:06:16: Insofern nicht, weil es eigentlich ja nur das bestätigt was wir auch in der Hauptfolge drüber gesprochen hatten.

00:06:20: Also dass da offensichtlich so ein bisschen so einen Paradigmenwechsel stattfindet.

00:06:24: die Suchmaschine verliert eigentlich an Bedeutung sie verändert sich selbst ganz krass und es geht immer mehr dass das individuelle ich sage mal die individuelle Informations suche geht immermehr in Richtung eben benutzen da irgendwie Chatbot, eine entsprechende KI-Anwendung die uns einen fertigen Text ausgibt.

00:06:39: Das ist schon ein Beleg dafür und zeigt aber wie schnell das alles sich innerhalb von etwas mehr als drei Jahren entwickelt hat was vor langer Zeit einfach nicht so war sondern da war die Suchmaschine der Platz hier.

00:06:55: Wir haben in der nächsten Frage gestellt Wie sieht es denn bei euch eigentlich selbst aus?

00:07:01: Einmal wie schätzt ihr es bei euren Schülerinnen und Schülern an?

00:07:03: Wie nutzt ihr die verschiedenen Möglichkeiten für die Informationssuche?

00:07:09: Ich google noch selbst und durch stilbere verschiedene Webseiten antworten Möglichkeit A haben immerhin dreißig Prozent von euch angegeben.

00:07:17: Antwortmöglichkeit B, ich lasse mir ausformulierte KI-Antworte ausgeben, haben null Prozent von Euch angegeben und da habe ich gedacht das kann doch irgendwie nicht sein!

00:07:27: Aber dann antwortet Möglichkeit C, ich kombiniere beides war mit ... meist angegebene Antwort und hat auch für mich dann wieder so ein bisschen erklärt, warum bei B ... ... Null Prozent rauskamen.

00:07:38: Weil natürlich vorbildlich ...

00:07:40: Ich vergesse einen vorbildlichen.

00:07:41: Dann auch immer noch selbst wenn die KI genutzt wird ihr dann angebt dass ihr auch außerhalb von KI nach Informationen sucht um das vielleicht zu bestätigen oder zu widerlegen was die KI euch da ausgespuckt hat.

00:07:55: also von daher eine sehr erfreuliche Erfreuliches Ergebnis der Umfrage.

00:08:02: Auch wenn ich sehr skeptisch war bei den Nullprozent?

00:08:05: Ja, allerdings ist auch mal die Frage der Selbstwahrnehmung und der Ehrlichkeit gegenüber sich selbst.

00:08:12: Kommt

00:08:12: vielleicht auch immer so ein bisschen drauf an nach was man sucht.

00:08:16: Wie wichtig sind die Informationen wie folgenreich wäre es, wenn da etwas Falsches rauskommt.

00:08:22: Aber als Tipp so, den wir auch immer wieder geben können, ist sicherlich genau das, was ich in der Hand ... Antwort eben ich kombiniere beides spiegelt immer an zu raten also wenn wirklich alles in Kombination miteinander nutzen das was sich sehr schnell über eine kaie antwort irgendwo ja mir erschlossen habe immer wieder auch im einzelnen gegen zu prüfen.

00:08:39: Auch wenn es mühsam ist, auch wenns zeit braucht an sich auch immer wir wollen dem Eindruck entgegenwirken dass es also das KI generell eine ganz schlechte Wahl ist bei der Recherche.

00:08:50: Das ist natürlich mit nicht so, sondern sie kann definitiv unterstützen.

00:08:55: aber es bringt halt nichts sich komplett drauf zu verlassen.

00:08:59: das ist eigentlich die ganz wichtige Botschaft die wir auch in einer Hauptfolge eben geben wollten und das muss man immer wieder betonen.

00:09:04: deswegen die Kombination aus Beiben sehr wichtig.

00:09:08: Ich würde gerne noch mal auf die dritte Fragerunde eingehen, die wir in der Story gestellt haben.

00:09:13: Und zwar nochmal mit dem Fokus eben auf die KI-Antworten bezogen auf die erste Frage.

00:09:19: Die Schülerinnen und Schülern suchen vor allem mit der KI nach Informationen.

00:09:25: Frage auch an euch als Lehrkräfte wie schätzt ihr das ein?

00:09:29: Mit bei euren Schülerinnen?

00:09:31: überprüfen sie denn dann auch die Antworten oder die Informationen von der KI bekommen Und Antwortmöglichkeit A. Ja, immer kritisch haben Null Prozent von euch angegeben B. Nein sie haben Vertrauen in das was die KI ausgibt sagen achtzig Prozent von Euch.

00:09:51: und C ich weiß es nicht, zwanzig Prozent immerhin ist es im Endeffekt ja auch eine persönliche Einschätzung von euch.

00:09:59: aber ich finde dass ist auch schon ganz bezeichnend dass mal hin achtzig prozent sagen Ich schätze es so ein dass meine Schülerinnen und Schüler kritisch hinterfragen, sondern vollständiges Vertrauen in die Antworten der KI haben.

00:10:13: Und das deckt sich auch mit dem was wir in der Hauptfolge schon besprochen

00:10:16: hatten.

00:10:16: Genau und das macht nur einfach auch nochmal deutlich auch wenn es immer natürlich ein Schlaglicht ist ja dass es wichtig ist sich mit dem Thema auseinanderzusetzen.

00:10:24: Das ist ein Thema was so ein bisschen immer hinten rüber fällt.

00:10:26: Wir haben's auch schon häufiger betont im Kontext von Deep Fakes was natürlich das größere und gesellschaftlich breiter diskutierte Thema ist.

00:10:34: Aber letztendlich jeden Tag informieren wir uns im Netz online.

00:10:39: Und wenn wir immer mehr darauf zurückgreifen und quasi dieses Verhalten, was dann eher unkritisch ausgeprägt ist... ...und sehr schnell und ich übernehme einfach alles ungeprüft,... ...dann kann das auch eben verhängnisvoll im Zweifel eben auch sein zu schlechten Entscheidungen führen.

00:10:53: Ja und auf einfach auf ihr Wege führen, auf die wir glaube ich alle nicht treten wollen.

00:10:57: Deswegen ist es eigentlich nur wieder ein Beleg dafür, dass es gut ist, dass wir darüber gesprochen haben und es sollte auch weiterhin... Ja, eine Sensibilisierung da in Genstadt finden.

00:11:05: Genau!

00:11:07: Ich würde ganz gerne einmal auf die Begrifflichkeiten eingehen, die wir so ein bisschen wie in einem Vokaveltest abgefragt haben.

00:11:15: Und zwar lautet sie die Frage, weißt du etwas mit den Begrifflichkeiten?

00:11:20: Wie Halluzination, Automation Bias oder Psycho-Fancy?

00:11:26: Psycho Fancy?

00:11:27: Ich weiß es gar nicht, aber ich muss

00:11:29: sagen ... Ich glaub ... Psychophonzie?

00:11:31: Ich glaub, Psycho-Fans sind tatsächlich.

00:11:34: Psychophonsie!

00:11:35: Irgendwie eine Kombination davon.

00:11:37: Glaub

00:11:37: ich gibt's doch auch

00:11:38: eingedeutscht im Begriff aber... Wir

00:11:39: blenden ihn ein.

00:11:40: Genau wir blenden ihm einfach

00:11:42: ein.

00:11:43: Es hat ja in der Instagram Story niemand vorgelesen sondern ihr habt das alles selbst einfach gelesen wie es da steht.

00:11:50: und die Frage weiß du etwas mit diesen Begrifflichkeiten anzufragen?

00:11:55: Die erste Antwortmöglichkeit war ja, ich kenne allesamt und weiß auch was die bedeuten.

00:11:58: Das haben null Prozent von euch angegeben.

00:12:00: Ich würde mal behaupten das liegt an Psychophantie.

00:12:03: Vermutlich!

00:12:04: Das war auch der Begriff über den ich am meisten gestolpert bin oder jetzt gerade drübergestolpert sind.

00:12:10: Auch noch Jahr schon von gehört aber mir ist die Bedeutung nicht bewusst haben.

00:12:14: Dreiunddreißig Prozent gesagt und nein kenn' ich nicht.

00:12:17: Was ist das?

00:12:18: Das sagen sieben und sechzig Prozent von Euch und vielleicht können wir das einfach mal... Erläutern, was diese Begriffe bedeuten.

00:12:25: und ich würde sagen wir fangen an mit dem wahrscheinlich noch geläufigsten Begriff.

00:12:29: Den wahrscheinlich wenn wir nur Deen abgefragt hätten viele von euch gekannt hätten nämlich Halluzination.

00:12:34: aber vielleicht können wir auch nochmal da kurz eine Definition geben.

00:12:37: Genau Halluznation.

00:12:39: das Beispiel hatten wir am Anfang.

00:12:41: eigentlich ein super Beispiel dafür eben ist genau dass Wenn KI aufgrund oder ... näher gesagt generative KI aufgrund dieser wahrscheinlichkeitsbasierten Funktionsweise, die im Prinzip ja wie so ein vereinfacht gesagt ... ... Lückentextfüller oder du hast es immer so schön gesagt wie eine Autokorrekturfunktion beim Handy eigentlich funktioniert und das nächste Wort vorschlägt auf Basis der ... ... Wahrscheinlichkeiten wie in einem riesen Fundus an Trainingsmaterial Wörter zusammenstehen.

00:13:11: dass da natürlich auch völlig wirres und sinnloses Zeug bei rumkommen, vereinfacht gesagt.

00:13:16: Der Begriff an sich Halluzinationen ist insofern auch schon wieder problematisch, haben wir auch schon das Öfteren darauf hingewiesen weil er es so ein bisschen insinuiert.

00:13:25: Ja, der träumt jemand.

00:13:26: also die KI ist eine

00:13:27: Art Wesen.

00:13:28: Genau sie hat ihn verstanden.

00:13:29: Es ist eine art Wesen was es natürlich nicht ist sondern im Endeffekt gibt's da kein Weltverständnis.

00:13:34: KI versteht nichts.

00:13:37: Sie erschließt eben das ganz anders, als wir das eben tun und deswegen ist eigentlich dieser Begriff Bullshit auch wenn der hart klingt.

00:13:45: Eigentlich der passendere oder einfach Unfug weil es gibt eben keinen Wahrheitsbezug den KI herstellen kann.

00:13:52: genau Das ist im Prinzip dieser Halluzinationsbegriff.

00:13:54: aber ich glaube da wie du schon sagtest dann viele schon von gehört.

00:13:57: Automation Bias ist tatsächlich dieses Übervertrauen auf dass wir auch in der Hauptfolge hingewiesen haben was sehr schnell passieren kann dass ich technischen Systeme eben sehr schnell vertraue, in eigener Entscheidungskraft abtrete.

00:14:11: Das erlebt man bei ganz vielen technischen Systems ist einfach so eine Eigenschaft die aber noch verstärkt wird durch dieses ... Jetzt kommen wir wieder drauf.

00:14:19: Psycho-Fancy wie auch immer Deutsch, Speichelickerei.

00:14:22: Psychophantie

00:14:23: ist eigentlich nicht

00:14:23: richtig!

00:14:25: Wie auch immer.

00:14:25: Psychofantie?

00:14:27: Wir machen es jetzt mal in Deutsch einfach.

00:14:30: dass das im Endeffekt beschreibt, dass KI so programmiert ist, dass sie vom Duktus her von der Art und Weise wie sie halt Sprache produziert nahbar wirkt.

00:14:42: Dass sie sich bedankt bei einer... Wie man eine Frage gestellt hat?

00:14:46: Und was also diese ganzen Wortfetzen die oft drum herum gestreut werden um die eigentliche Information?

00:14:54: Das ist genau das wo häufig eben so ne Art Beziehung dann auch entstehen kann.

00:15:00: Ja, schnell so ein Übervertrauen.

00:15:02: Ein unkritisches Übervertrauen und das wird natürlich verstärkt im Prinzip durch diese Art und Weise ja des Menschelns sag ich mal der Sprache die KI dann ausgibt.

00:15:15: Genau!

00:15:16: Hast du es rausgefunden wie's richtig ausgesprochen wird?

00:15:20: Ich... Achtung!

00:15:21: Zike fancy!

00:15:24: Gut wissen wir mehr.

00:15:25: Wissen wir Bescheid.

00:15:26: Also

00:15:26: ich lag falsch.

00:15:29: Psyche fancy!

00:15:30: Aber schön, dass wir jetzt den live Fakten-Shake gemacht haben in dem Sinne

00:15:33: perfekt.

00:15:35: Ja...

00:15:36: Aber auch da im Endeffekt nochmal zusammengefasst die Rückmeldung zeigt mit siebensechzig Prozent die offensichtlich nicht alle Begriffe eben kannten von euch.

00:15:46: es ist wichtig darüber zu sprechen weil das sind genau die Dynamiken die gerade auch in diesem Monat beim Selfie Internet Month von Klicksafe organisiert, wo es gerade um diese Beziehungsdimension geht auch eine Rolle spielen.

00:15:58: Das ist unheimlich wichtig da eigentlich Bescheid zu wissen und eben auch Schülerinnen und Schülerin drüber zu sensibilisieren.

00:16:05: Genau!

00:16:06: Ja vielen Dank für deine Definitionen und wir wissen jetzt auch wie man Psycho-Fansie auspricht.

00:16:13: Perfekt, dass ich jetzt nicht besser machen kann.

00:16:15: ja

00:16:17: Also haben wir auch live was gelernt.

00:16:20: Ich würde noch einmal zur der letzten Frage die wir in dem Kontext besprechen ... übergehen.

00:16:26: Und zwar haben wir noch gefragt, Stichwort Halluzination, das ist gerade erklärt, bist du schon mal selbst falschen von KI ausgegebenen Informationen?

00:16:36: Also sogenannten Halluzination oder zweifelhaften Quellen begegnet?

00:16:40: und neunundsiebzig Prozent von euch sagen ja bin ich und null Prozent nein.

00:16:45: also das ist ja auch ein sehr starkes Signal.

00:16:49: und die dritte Antwortmöglichkeit eben einundzwanzig Prozent von Euch sagen Ich weiß es nicht!

00:16:53: Ich bin mir irgendwie unsicher Kann sein, keine Ahnung.

00:16:59: Ja ... Und ich find das zeigt auch noch mal so krass...

00:17:04: Das

00:17:06: ist ein verbreitetes Phänomenis?

00:17:07: Es ist schon schön, dass hier immerhin so viele die Reflexionsfähigkeit haben und sagen, ja, wer weiß wie oft es einem passiert, ohne dass man's gemerkt hat.

00:17:16: Man kann sich nur an die Dinge erinnern, wo es einem aufgefallen ist.

00:17:20: Genau.

00:17:21: Aber immerhin!

00:17:23: Schon so viele also ... Und vor allem wenn wir jetzt noch mal darauf zurückgehen auf den Anfang der Umfrage, wo die meisten von euch gesagt haben aber für die Informationssuche benutze ich entweder eigentlich ganz klassisch die Google-Suche oder eine Kombination aus Beidem.

00:17:40: Also da hat ja null Prozent von euch haben gesagt Ich verlasse mich nur auf die KI.

00:17:43: und trotzdem sagen so viele von euch mir sind diese Halluzinationen schon begegnet.

00:17:49: Es wirkt so als gäbe es da eigentlich gar keinen Entkommen.

00:17:52: ist passiert wenn man KI benutzt findet man Halluzinationen früher oder später.

00:18:00: Wenn man davon Ahnung hat und wenn man weiß, dass das gibt, dann merkt man es.

00:18:06: Und wenn man sich in einem Thema besonders gut auskennt ... Da hatte auch in der Bonusfolge Frau Baller eben unsere Expertin drüber gesprochen.

00:18:14: Man muss sich auch gut auskennen.

00:18:15: Dann fällt's einem natürlich am ehesten erst auf.

00:18:20: Genau deshalb... Ja wir auch meinen, dass es quasi so wichtig ist in der Schule im Endeffekt genau dieses Thema Halluzinationen aufzugreifen und das man da eben auch wirklich dann mal schund ausgegeben bekommen kann.

00:18:34: Haben wir euch dann ja noch einmal ein bisschen dazu animiert?

00:18:38: quasi eure KI-Fails, die euch so untergekommen sind bei uns einzusenden.

00:18:42: Da ist jetzt leider nicht viel rumgekommen bis auf das Beispiel was wir am Anfang quasi erläutert hatten.

00:18:48: aber auch von uns noch mal der eindringliche Tipp weil das ist nämlich genau das Problem.

00:18:52: Häufig begegnet uns das.

00:18:54: Das zeigt ja auch eben die Umfrage, aber wir sichern das nicht.

00:18:56: Wir dokumentieren es nicht!

00:18:57: Wir machen kein Stream-Shout oder sonst was und drei Sekunden später macht man dieselbe Anfrage... ...und dann mag das auch wieder stimmen.

00:19:03: letztendlich?

00:19:04: Oder kommt etwas ganz anderes darum?

00:19:05: Das heißt dieses Thema Reproduzierbarkeit von KI Fels ist eigentlich nicht gegeben und deswegen ist es eigentlich total eine super Idee, die ich auch persönlich immer mache wenn mir sowas unterkommt sofort ein Screenshot machen.

00:19:18: Und sowas kann man auch super im Unterricht tatsächlich mal einfach so als Feiberspiel herhalten, wo man das schön darüber diskutieren kann und oft sind dann ja auch Alltagssachen vielleicht unterhaltsame Sachen lustige Sachen.

00:19:29: Total!

00:19:30: Also ich muss gerade denken wenn man genug davon gesammelt hat können wir einen schönen Abrisskaletten da draus machen.

00:19:35: So ist es ganz genau.

00:19:37: Kann man halt auch ein bisschen drüber schmunzeln in den... In der Regel sind das ja grade bei so Alltagssuch-Anfragen.

00:19:44: ob wir jetzt das mit dem Brandenburger Tor und der Tiergartenquelle, sind das ja harmlose Sachen über die man lachen kann.

00:19:52: Aber sie geben eben Anlass um das mal so ein bisschen weiterzuspinnen?

00:19:56: Niedelschwellig aber pädagogisch dann total wertvoll auch darüber quasi auf die problematischen ernsteren Fälle irgendwie überzugehen.

00:20:05: Also falls euch noch KI-Fails unterkommen in nächster Zeit macht ein Screechert oder schreibt Sie uns ... Wir sind total gespannt.

00:20:15: Ihr könnt es uns über Instagram schicken oder an spotlighteddigital-helden.de.

00:20:21: Dann machen wir ein

00:20:23: Abrisskalender raus!

00:20:24: Oder so eine richtige Beitragsrubrik, KI-Fail?

00:20:26: Wer

00:20:26: weiß?!

00:20:28: Du hast auch noch einen eigenen KI-fail mitgebracht den du mir voll... Ich habe noch gar keine Ahnung, worum es geht.

00:20:38: Ja ich war ganz gespannt!

00:20:39: Wo wir gerade dabei waren und weil jetzt ja eben nicht viele Einsendungen hatten wo die wir diskutieren könnten fand ich das nochmal ganz witzig.

00:20:45: was mir halt passiert war.

00:20:47: kurz zur Einordnung.

00:20:48: ich bin sehr auf kleiner Zeigenportalen unterwegs und interessiere mich dann auch so für alte Auto Teile für Ultramar Youngtimer Und es gab dann eben auch damals Unternehmen, was in Deutschland ganz viele Tuning-Teile gemacht hat.

00:21:06: Unter anderem hat es aber auch so Uhren produziert im Tacholuk.

00:21:10: Hast du vielleicht auch schon mal gesehen?

00:21:12: Dann hast du im Prinzip da so ein Tacho abelt als Ziffernblatt abgebildet und ich hatte mir einen Katalog davon geholt.

00:21:18: Ich hatte diese Uhr entdeckt in diesem Katalog.

00:21:21: beim Durchblättern Und durch Zufall war es so dass sich dann am selben Tag auf einem kleinen Anzeigenportal in Österreich tatsächlich diese Uhr wiedererkannt habe Und habe ich in die Beschreibung geguckt und mir ist dann schon aufgefallen, dass der Verkauft nicht so richtig wusste was das ist.

00:21:40: Erst mal hat es dann irgendwie in Richtung von einem Computerspiel geschoben weil diese Abkürzung dieser Firma hätte sein können, dass sie das mit diesem Computerspiegel zu tun haben.

00:21:51: Dann hab' ich ihn darauf hingewiesen.

00:21:53: Das ist nicht so!

00:21:54: Ich weiß, dass das nicht so ist.

00:21:57: Dann hat sich auf einmal den ganzen Radsex geändert.

00:21:59: Auf einmal stand da seltene, weiß ich nicht was Uhr.

00:22:03: Ich hab mir noch hier extra notiert.

00:22:04: Hat sich

00:22:06: der

00:22:06: Preis auch geändert?

00:22:07: Der ist auf einmal gestiegen weil er wahrscheinlich jetzt dachte jemand meldet sich aus Deutschland.

00:22:10: das muss jetzt etwas ganz Besonderes sein.

00:22:13: Genau und Das spannende war dann eben dass auf einmal da Stand im Titel selten eine Mur-Tacho-Armband-Uhr circa achtzehn, neunzeh Jahre Sammlerstück.

00:22:23: Und dann guck ich in die Inseratsbeschreibung.

00:22:25: Wunderbar formuliert alles Uhr der österreichischen Marke, er hat nur GmbH aus Gunthermsdorf.

00:22:32: Bist du jetzt irgendwie ... bist Du Meschugge?

00:22:35: Hast Du irgendwas nicht mitbekommen?

00:22:36: Ich hab die Uhr doch selbst im Katalog hier liegen!

00:22:40: Und dann habe ich natürlich gegen recherchiert weil das klang alles wunderbar eindrücklich was da stand super formuliert so.

00:22:45: und dann hab' ich erst mal geguckt.

00:22:47: also diese Firma gab es in der Form nicht beziehungsweise sie gibt es aber sie macht etwas komplett anderes.

00:22:53: Der Ort konnte nicht sein.

00:22:54: Also es gab keinen Urnersteller der sich jenig wieder mit in Verbindung setzen konnte.

00:22:59: Und ich wusste es ja auch eigentlich, das kann nicht sein!

00:23:02: Dann habe ich mir den Text weiter angeguckt und dann ist mir erst mal aufgefallen.

00:23:05: Überall dazwischen stand diese klassischen KI-Ausgabe, Texte, diese Hinweise, KI-Texte können Fehler enthalten.

00:23:14: Sprich, da hatte jemand einfach im Endeffekt wahrscheinlich die Uhr als Bild beim Chatboard hochgeladen und hat gesagt was ist das?

00:23:22: Ich weiß nicht, was das ist... Was ist das von der

00:23:24: Uhr?!

00:23:25: und hat diesen kompletten Text daraus gekommen, ist einfach da reinkupiert.

00:23:28: Und wahrscheinlich auch den Preisvorschlag von Chatchivity dann übernommen?

00:23:31: Ganz

00:23:31: ... hundertprozentig!

00:23:32: Genau dieser Preisvorschlag stand darin inklusive der Frage was könnte denn so was in dem Text... In den

00:23:37: Text?!

00:23:37: Oh nein!

00:23:38: Das ist keinlich!

00:23:39: Dann hab ich ihn wieder drauf aufmerksam gemacht dass das ja alles, dass das KI-Bullshit wäre.

00:23:44: Und dann hat sich die des Inserats wieder alles geändert.

00:23:48: Und auf einmal war auf einmal das Jahrzehnt auch ein anderes, war auf mal von siebziger, achtziger Jahre die Rede.

00:23:54: Und jetzt kam auf einmal die Uhr von der deutschen Marke Gebrüder Mur aus Vorzheim, was komplett anderes war.

00:24:01: Es gibt es auch nicht oder?

00:24:03: Und es gibt's auch nicht!

00:24:04: Aber

00:24:05: dass er nicht mal gegen gecheckt hat...

00:24:09: Richtig und das ist ja jetzt auch wieder das total spannende finde ich.

00:24:12: Was macht man damit?

00:24:13: also?

00:24:14: wie interpretiert man das ganze?

00:24:16: zum einen ist ja Jetzt möglich dass da jemand wirklich total übersteigertes Vertrauen hat in diese K.I.-gestützte Recherche über Chatbots und ... Und dich?

00:24:27: Und mich wahrscheinlich auch.

00:24:28: genau das ... Du warst

00:24:28: ja immer der Anlass, dass er doch gedacht hat, oh Mist ich muss da noch

00:24:32: mal was ändern!

00:24:32: Wahrscheinlich, aber er hat natürlich den Schritt zum Chatbot gefunden.

00:24:36: Also so könnte man es deuten, dass da jemand wirklich... Wir kennen das ja auch.

00:24:40: wenn du aus dem Haushalt etwas ältere Sachen und fragst sich, was könnte das sein diese Vase dann machst du in der Regel eine Bilder rückwärts.

00:24:47: Suche kann man machen.

00:24:48: Dann siehst du wann ein Bild in anderen Kontexten auftaucht Dann erschließt sich oft so was.

00:24:54: Hier scheint es mir aber so, da hat jemand quasi die Chatbot-Rückwärtsduche gemacht und macht das auch bei anderen Artikeln.

00:25:00: Das habe ich dann auch mal gegen recherchiert.

00:25:02: Und er schmeißt einfach das, was dieser Chatbot ausgibt in seine Beschreibung.

00:25:07: Entweder ist das jetzt einfach Naivität oder sagen wir mal mangelndes Wissen darüber, dass man den Ausgaben nicht trauen kann...

00:25:13: Oder eine Betrugsmasche?

00:25:14: Eine

00:25:14: Betrugsmasche!

00:25:15: Weil man ja wunderbar glaubwürdig klingende Hintergründe zu Produkten erfinden kann.

00:25:20: Aber egal was es ist, völlig egal wie man's interpretiert.

00:25:23: Es ist eigentlich ein super auch tolles Beispiel davor zu warnen und auch daran zu mahnen.

00:25:28: eben okay Halluzination das ist n Ding nach wie vor Und da sollte man genau hinkucken.

00:25:34: hast

00:25:34: du die gekauft?

00:25:35: Nein ich hätte sie tatsächlich gerne gehabt so aber als alter sammler.

00:25:40: Aber ich habe es dann auch gelassen

00:25:42: ja nicht ob das jetzt der vertrauenswürdigste Verkäufer

00:25:45: ist.

00:25:45: nein

00:25:47: Ja, für eine Betrugsmasche ist das dann wieder ein bisschen zu blöd.

00:25:51: Dann würde man doch denken, dass zumindest so einen Dialog fragen mit der KI ...

00:25:56: Stimperhaft würde

00:25:58: man's nennen?

00:25:59: Ja, du sagst es.

00:26:01: Schlecht gemacht!

00:26:02: Das hat er nachher immer bereinigt tatsächlich.

00:26:04: Da war eine gewisse Evolution vor allem aber du hast recht.

00:26:09: Aber wie gesagt wenn es keine Betrugsmasche ist...

00:26:13: Wie viel Geld wollte er für die Uhr am Ende haben?

00:26:16: Es waren dann fünfzig Euro und von fünfzehn Euro ging es eben ursprünglich dann auch fünfzig euro hoch.

00:26:21: Ja, für jetzt nicht eine besondere Uhr also das muss man auch immer dazusagen ist nur fand ich auch ein tolles Beispiel aus dem Alltag was uns jedem passieren kann und was man auch super besprechen kann.

00:26:33: ganz genau ja.

00:26:35: und dann vielleicht noch so zum Abschluss kommend wir haben jetzt über Haluzination nochmal gesprochen dass das eben ein ganz wichtiges Thema ist, auch aufzugreifen.

00:26:46: Wir haben auch das angerissen dieses Übervertrauen, dass es sehr schnell passieren kann über die Art und Weise wie Chatbots mit uns sprechen?

00:26:54: Zikoffen ... noch mal?

00:26:57: Ja!

00:26:59: Wir haben's im Kopf.

00:27:01: Genau.

00:27:01: Äh,

00:27:02: Psycho- ... Psycho... Nein, nein, nein.

00:27:05: Egal,

00:27:05: mach weiter.

00:27:06: Psychofency war's, glaube ich.

00:27:09: Genau, dass das Übervertrauen eben gepaart mit dieser Art wie KI quasi mit uns spricht in Anführungsstrichen.

00:27:19: Dass es auch ein großes Problem darstellt und dass wir dann ganz schnell Dinge sofort fürbare Münze nehmen.

00:27:25: Und da sind wir auch immer auf einem eindrückliches bis auch finde ich beunruhigendes Beispiel gekommen.

00:27:32: Beunruhmigend

00:27:33: trifft's

00:27:34: ja!

00:27:34: Nämlich gibt es eine eigenen... Ja, man kann sagen ein Schwurbler-Shed-GPT könnte man's fast.

00:27:40: So

00:27:40: würden die sich selbst

00:27:43: nicht nennen?

00:27:43: Ich würde sie so nennen!

00:27:45: Warum?

00:27:46: Weil es im Endeffekt einen Shadpot ist der aus zweifelhafter Quelle kommt und sich ein bisschen Spektrum der Leutner der Existenz von Infektionskrankheiten vieren irgendwo so anhängig ist.

00:28:01: Also sagen wir mal dubiose pseudo medizinische Überzeugungssysteme, die da im Hintergrund so agieren.

00:28:06: Und das ist wirklich ein eigenes programmiertes Ding, was auf einer eigenen Wissensbasis mit sehr zweifelhaften nicht wissenschaftlichen oder pseudo-wissenschaftlichen Grundlagen gründet und was aber dann so verkauft wird als wenn es sozusagen ... Der heilige Graal der Gesundheitsempfehlung und Ratgeber ist so, ne?

00:28:29: Und das selbst Marketing.

00:28:30: ich zitiere es hier jetzt einmal.

00:28:33: Mexika, so heißt dieser Chatbot, is die weltweit führende KI für Gesundheit, Ernährung, kritisches Denken und wissenschaftliche Fragen optimiert für maximale Antwortqualität in Sekunden.

00:28:44: Das ist auch schon so schön kritisches Denken als eine Marketingtext für eine KI.

00:28:52: Absolut Das ist schon ein Widerspruch in sich.

00:28:55: Na ja, also es ist wirklich ... Wir haben euch das mal in den Show notes verlinkt.

00:29:00: Da gibt's eine super, super Aufarbeitung sehr humorvoll und kurzweilig durch Martin Moder, das is'n österreichischer Molekularbilologe- und Wissenschaftskaparitist, der das Ganze mal wirklich setziert was dahinter steckt und was da für Gesundheitsratschläge bei rumkommt.

00:29:15: Also das is Harnbüchen!

00:29:18: Und zeigt nur eben auch wieder ganz klar diesen Punkt.

00:29:21: naja wenn ich Wenn ich sehr unkritisch daran gehe und eben gepaart dieser Automation bei ist, wir haben es gesagt mit diesem ... Mit der Art mit uns zu kommunizieren die... Die sehr schnell in so eine Bestätigungshaltung reingeht.

00:29:34: Und wir fühlen uns verstanden

00:29:36: etc.,

00:29:36: pp.

00:29:37: Na ja dann ist schon die Gefahr da dass man sehr schnell eben sowas für barmen zu nimmt und meint Ja steht ja auch intelligent in künstlicher Intelligenz das wird schon alles irgendwie Hand und Fuß haben.

00:29:49: Und das ist eigentlich mal ein Beispiel was wirklich ernster ist, deutlich ernster.

00:29:55: Wo man aber auch sehen kann okay so weit kannst gehen.

00:29:59: und also auch spannend sich das mal anzuschauen.

00:30:02: einfach so als Fallbeispiele für die Probleme, die wir in der Hauptfolge eben auch angesprochen haben.

00:30:08: ja und damit kommen wir eigentlich für heute zum Ende.

00:30:12: so ist es was bleibt uns noch wie immer

00:30:15: Wie immer.

00:30:16: Also wenn ihr im Unterricht etwas zu dem Thema KI Chatbot als Nachfolger der Google Suche machen möchtet und vielleicht auch genau solche kritischen Beispiele besprechen wollt, dann schaut bei uns aufm Campus vorbei in den neuen... im neuen Unterrichtsimpuls.

00:30:34: Wissen auf Knopfdruck, ChatGBT vs Google Suche findet ihr einen Unterrichtsempuls für eine fünffizie-minütige Schulstunde.

00:30:42: ohne viel Vorbereitung könnt ihr das im Unterricht mit euren Schülerinnen und Schülern umsetzen.

00:30:47: Ihr findet auf dem Campus außerdem auch noch viele weitere Unterrichtseinheiten und Materialien zum Thema Recherchekompetenz, Fake News, KI generell.

00:30:58: also schaut euch gerne vorbei alles kostenlos für euch nutzbar.

00:31:02: Genau, und nochmal ans Herz sei euch gelegt die Bonusfolge zum Selfie Internet Day, die wir kürzlich veröffentlicht haben eben mit der Recherche-Expertin Heike Baller.

00:31:12: Die gibt da auch noch mal spannende Einblicke eigentlich aus ihrer Erfahrung und Ihrer Praxis zu dem Thema.

00:31:18: Ja vielen Dank fürs dabei sein und bis zum nächsten Mal!