#07 Ausgegoogelt: Die neue Macht der KI-Chatbots

00:00:00: Wie hat sich dieses Nutzungsverhalten, Suchmaschinen zu Antwortmaschinen, Chatbots verändert in der Gesellschaft und vor allem auch bei der jüngeren Generation?

00:00:09: Wir müssen eigentlich dieses kritische Denken, das kritische Denkvermögen noch mehr in den Mittelpunkt stellen.

00:00:17: Das war schon früher wichtig, aber das wird umso wichtiger, wenn wir quasi von hinten das Feld aufrollen müssen.

00:00:33: Siebzig Prozent der Jugendlichen in Deutschland und damit siebenzwanzig Prozent mehr als noch im Vorjahr nutzen inzwischen KI aktiv zur Informationssuche.

00:00:42: Ganze siebenfünfzig Prozent vertrauen dabei ihren Ausgaben, so die aktuelle Gymstudien.

00:00:48: Besonders bei jungen Menschen bröckelt damit langsam aber sicher die langjährige Vormachtsstellung der Suchmaschine als platziersch und synonym für die gezielte Online-Suche.

00:00:58: Gleichzeitig aber ist das Googlen selbst heute lange nicht mehr das, was es mal war.

00:01:04: Statt dem Ranking von Suchergebnestreffern mit uns Nutzenden als menschlichen Filter und Schiedsrichter, die wir Auswahl, Sichtung und das Zusammensetzen von Informationen vornehmen, zieht auch hier immer mehr generative KI ein.

00:01:18: Frei nach dem Motto, wer sucht, der bequem durch KI die Antwort findet.

00:01:23: Der neueste Streich in dieser Entwicklung, der sogenannte KI-Modus von Google.

00:01:27: Das Versprechen, Schluss mit der Vermittlerrolle, her mit der fertigen Antwort auf dem Silbertablett.

00:01:33: Vielversprechend, verlockend, bequem, doch auch vertrauenswürdig und ohne Tücken.

00:01:39: Und genau das wollen wir uns heute fragen.

00:01:41: Ist die Antwortmaschinen nun wirklich da?

00:01:44: Und wenn ja, können wir ihr vertrauen?

00:01:47: Und was bedeutet diese neue Art der Informationssuche eigentlich für das Vermitteln von Informationskompetenz in der Schule?

00:01:54: Und damit herzlich willkommen zu unserer heutigen Folge.

00:01:57: Und herzlich willkommen im neuen Jahr.

00:01:59: Happy, es ist so ein Zwangssich.

00:02:02: Schön, dass ihr auch wieder eingeschaltet habt.

00:02:04: Genauso ist es die erste Folge im neuen Jahr.

00:02:07: Oder wir hoffen vielmehr.

00:02:08: Es hat auch euch Spaß gemacht, die Weihnachtsfolge euch anzuschauen.

00:02:12: Da waren wir ja mal besonders seriös und auch mal wirklich ernst unterwegs, so wie man das von uns eigentlich sonst gar nicht so kennt.

00:02:20: Genau, und bei uns stehen dieses ja auch ganz spannende Themen an in diesem Podcast.

00:02:24: Und wir fangen heute an, du hast es gerade schon angekündigt mit dem Thema, wie verändert sich eigentlich die Art und Weise, wie wir im Internet nach Informationen suchen durch generative KI und KI Chatbots?

00:02:38: Genau, so ist es.

00:02:40: Wie bin ich so ein bisschen selbst auf das Thema noch mal aufmerksam geworden?

00:02:44: Weil, ja, ich weiß nicht, wie dir das so untergekommen ist.

00:02:47: Aktuell ist sehr stark immer diese Thematik Deep Fakes in den Medien, wird überall diskutiert.

00:02:53: Aber auch dieses KI-Slop oder AI-Slop, also dieser Müllschund.

00:02:58: Ja, und die ganze Debatte, also auch der Problematisierung, was macht das mit uns Menschen, findet vor allen Dingen eigentlich im Bereich dieser audiovisuellen Medien statt.

00:03:10: Das ist mir dann auch so aufgefallen.

00:03:12: Ja, da gibt es ja auch noch was anderes, was sich eigentlich parallel die ganze Zeit entwickelt hat.

00:03:15: Und das ist sozusagen der Einzug von KI in die Online-Suche.

00:03:20: Und das ist ein, finden wir, ein wichtiges Thema, was auch auf jeden Fall mal adressiert gehört.

00:03:26: Ja, und darauf wollen wir heute eigentlich eingehen, weil auch das ... ganz krass mit unserem Vertrauen zu tun hat.

00:03:33: Das Vertrauen ist nicht nur in Gefahr bei solchen Audiovisuellen Medien wie Deepfakes oder eben Slop, sondern auch hier müssen wir die Vertrauensfrage stellen, aber eben ganz anders.

00:03:45: Ja, wir haben es gerade schon ein bisschen genannt, die Begriffe Suchmaschine versus Antwortmaschine.

00:03:51: Was macht das mit uns, wenn wir nicht mehr anhand von bestimmten Schlagworten unsere Informationen selbst zusammensuchen müssen, sondern sie auf dem Silbertablett präsentiert bekommen, genauso wie wir sie haben wollen.

00:04:04: Weil uns auch ein ganzes Stück Arbeit abgenommen wird.

00:04:06: Aber ist das so gut, dass uns diese Arbeit abgenommen

00:04:08: wird?

00:04:08: Genau.

00:04:09: Dem wollen wir heute unter anderem nachgehen und ... Mir ist bei der Recherche ein spannender Clip bei YouTube untergekommen von einem Content-Creator, wo ich persönlich fand, dass in sehr kurzer Zeit sehr viel dessen, worüber wir heute sprechen werden, eigentlich in den Natural abgebildet ist.

00:04:29: Den habe ich dir mal rausgesucht, den habe ich dir gerade geschickt.

00:04:33: Ich bin mal gespannt.

00:04:34: was wir da auch gemeinsam so ein bisschen schon mal so als Einstimmung und und an Tisa so ein bisschen auch auf die heutige Folge, die heutigen Inhalte so rausarbeiten können.

00:04:43: Ja, ich schau's mir

00:04:44: an.

00:04:45: Hey Google, can you tell me that name of that one actor from that one movie?

00:05:02: I don't remember what the movie is called, explain it.

00:05:05: It's hard to explain, just try your best.

00:05:07: I don't know, is that one movie with that one actor?

00:05:10: I need more details.

00:05:10: I don't know, he's

00:05:13: black, he plays as a cop.

00:05:20: Okay, well here are twelve million results of a black cop.

00:05:24: Ich mach mal hier kurz schon mal Pause.

00:05:26: Vielleicht beschreiben wir das erst mal.

00:05:28: Genau, ich würde einmal

00:05:29: kurz.

00:05:30: Er spielt hier eine Person, die möchte wissen, ich hab irgendwie im Kopf, es gab da einen Schauspieler, der sah so und so aus.

00:05:37: Wie heißt der denn?

00:05:38: Ich hab irgendwie keine Informationen, ich weiß nicht, wie ich draufkomme.

00:05:41: Die Person jetzt hier, bei Körper dann in einem anderen Zähnausstand, dann eben Google als personifizierte Suchmaschine, die sagt, ja, keine Ahnung, gib mir mehr Infos.

00:05:52: Ich kann mit deinen kleinen ... mit deinen zwei Schlagwörtern hier nichts finden.

00:05:56: So, jetzt musst du halt selbst gucken, was du mit dieser Liste machst.

00:06:00: Tchau halt, klick dich durch, geh auf die Webseiten, du wirst schon irgendwann fündig werden.

00:06:06: Dann eben in der dritten Einstellung kommt dann eben personifizierte ChatGPT-Person hinzu, die Antwort weiß, direkt weiß, was der Anfragensteller sucht.

00:06:20: Kontextinformationen dazu gibt, also die perfekte Antwort gibt.

00:06:23: Und am Ende, das fand ich jetzt ganz interessant, auch noch ein Kompliment gibt.

00:06:27: Und am Ende noch sagt, ach übrigens, tolles T-Shirt hast du an, gefällt mir richtig gut.

00:06:31: Und das ist auf jeden Fall schon auf eine sehr humoristische Art und Weise dargestellt.

00:06:38: So dieser größte Unterschied zwischen Google als Suchmaschine, ChatGPT als Antwortmaschine, Google, was dir so den ersten... eine erste Auswahl gibt, die aber auch sehr groß sein kann.

00:06:51: Du musst irgendwie selbst weiter recherchieren und ChatGbt, wo du das Gefühl hast, oh Mensch, der Chatwort hat genau verstanden, was ich wollte und mir genau die richtige Antwort gegeben und ist dabei auch noch megafreundlich zu mir.

00:07:04: Und ich hab ein gutes Gefühl danach.

00:07:06: Ich hab jetzt nicht nur meine Antwort, sondern ich hab auch noch ein Kompliment bekommen.

00:07:10: Und ja, das ist eine sehr treffende

00:07:14: Idee.

00:07:16: Das ist wirklich so natürlich überspitzt.

00:07:19: Aber die wesentlichen Punkte, die unterschiedliche Funktionsweise, wie du sagtest, von einmal auch irgendwie.

00:07:24: Ich habe jetzt die Möglichkeit, Fragen zu stellen über Promps, also über Eingabeaufforderungen in defekt Frageform, in natürlicher Sprache versus wie man es in der alten Welt in Anführungsstrichen kannte.

00:07:36: Okay, ich habe Suchstrings.

00:07:37: Also einzelne Begriffe, die ich, wo ich mir auch überlegen muss, in welcher Reihenfolge, schmeiß ich die bei Google oder bei Suchmaschinen generell rein, welcher Verknüpfung und so weiter.

00:07:48: Also das wird gezeigt, dann aber auch so ganz finde ich sehr schön dargestellt, wie also Shatchity BT eigentlich Druck auf das Geschäftsmodell und die Funktionsweise auch von klassischen Suchmaschinen wie Google macht, weil eben ... Ja, es total verlockend ist, wenn ich natürlich sofort eine kurze, fertig formulierte Antwort da habe, mit Zweifel schon Kontextinformation und genau mein initiales Informationsbedürfnis, denn ich wollte ja nur wissen, wer ist dieser Schauspieler, direkt befriedigt wird und ich muss nicht auf zehn Seiten rumklicken und mir das selbst zusammensuchen.

00:08:21: Und ganz spannend, was ich noch fand, auch wenn man in die Kommentare guckt.

00:08:26: Dann gibt's also viele auch, die das natürlich auch sehr, sehr witzig und zutreffend fanden, diese Zuspitzung.

00:08:34: Aber dann hat jemand auch geschrieben, und umgesetzt hat dann jemand darauf wieder reagiert, das würde bedeuten in diesem Rollenspiel, Google, also das pentasonifizierte Google müsste sagen, you couldn't live with your own failure, where did that bring you?

00:08:53: Back to me.

00:08:55: Da kommen wir später noch mal drauf zurück, aber hiermit wird auch schon wieder deutlich, okay, das ist genau diese Vertrauensfrage, die wir auch heute so ein bisschen stellen müssen.

00:09:03: Ja, Moment.

00:09:04: Muss ich nicht eigentlich, also kann ich diesen Ausgaben von LLMs, großen Sprachmodellen, also generativer KI, die Texte eben produziert, kann ich den blind vertrauen?

00:09:14: Oder muss ich nicht eigentlich wieder händisch gegenprüfen?

00:09:18: Und was bedeutet das eigentlich?

00:09:20: Ich weiß nicht, wie das bei dir ist, aber wenn ich Chatchi Pity eine Frage stelle, kommt immer, bevor ich die Antwort bekomme, noch zurück, spannende Frage.

00:09:28: Toll, dass du dich damit beschäftigst.

00:09:30: Das ist wirklich eine sehr differenzierte Fragestellung, die du dir da überlegt hast.

00:09:34: Also, bevor ich meine Antwort bekomme, kommt so diese Bestätigung und so dieses Lob und es fühlt sich gut an.

00:09:43: Aber ... Wie sieht das in der Gesellschaft insgesamt aus?

00:09:47: Wir wollen uns anschauen, wie hat sich dieses Nutzungsverhalten, Suchmaschinen zu Antwortmaschinen, Chatbots verändert in der Gesellschaft und vor allem auch bei der jüngeren Generation?

00:10:00: Schauen wir erstmal so.

00:10:01: Allgemein drauf, da gibt es ein paar schöne Analysen und Arbeiten, die man sich einfach angucken kann.

00:10:07: Zum Beispiel gibt es von Open AI selbst so eine Art Nutzungsstudie, die in diesem Jahr veröffentlicht wurde.

00:10:14: Und da hat man sich angeguckt, wie einst Komma fünf Millionen Nutzende in Zeitraum Mai, vierundzwanzig bis Juni, fünfundzwanzig mit Chatchity eigentlich interagiert haben.

00:10:22: Was haben die gemacht?

00:10:23: Wofür haben die das eigentlich genutzt?

00:10:25: Was war quasi der Zweck?

00:10:27: der Nutzung.

00:10:29: Erstmal muss man sagen, es sind jetzt über achthundert Millionen wöchentliche Nutzende, was schon gigantisch ist.

00:10:35: Das ist unvorstellbar.

00:10:37: Genau, das ist unvorstellbar.

00:10:40: Und gleichzeitig zeigt sich, wenn man sich diese Nutzungszwecke anguckt, ein spannendes Bild, nämlich, dass die Informationssuche an sich schon an Platz drei liegt.

00:10:51: Dritt meiste Verwendungszweck sozusagen ist tatsächlich die gezielte Suche und damit in gewisser Weise schon wirklich dieser Suchmaschinen Ersatz, also eine Suchmaschinen Ersatzfunktion.

00:11:01: Gleichzeitig haben wir dann auf Platz eins und Platz zwei in dieser Reihenfolge einmal praktische Tipps und Alltagshilfe.

00:11:09: Das ist bei achtundzwanzig Prozent dieser Anfragen so gewesen.

00:11:12: und Texte erstellen und optimieren.

00:11:16: Ja, da ist auch, da kann man sich natürlich die Frage stellen.

00:11:18: Moment mal, da steckt auch viel Informationssuche letztendlich drin.

00:11:21: Total.

00:11:22: Also ich habe mich das auch selbst gefragt, als ich mir den Artikel dazu durchgelesen habe zu dieser Studie.

00:11:28: Die hatten dort als Beispiel aufgezählt bei praktische Tipps und Alltagshilfe, was eben auf Platz eins ist.

00:11:34: Die meiste Nutzung findet zu diesem Zweck statt laut dieser Studie.

00:11:38: Da hatten sie als Beispiel angegeben.

00:11:41: Ich informiere mich.

00:11:42: Nicht ich informiere es darüber, aber ich möchte wissen, wie ich Flecken aus meiner Kleidung entfernen kann als praktische Tipps und Alltextilver.

00:11:49: Aber natürlich ist auch das eine Art der Informationsbeschaffung.

00:11:52: Also ich finde da die die Trennschärfe sehr ungenau.

00:11:55: und auch auf Platz zwei Texte erstellen und optimieren, wenn ich einen Text erstellen lasse, ohne mich vorher selbst dazu zu informieren, was in diesen Text dann reinkommt, sei es jetzt für die Uni oder für irgendwas redaktionelles oder so.

00:12:10: dann nimmt auch da die KI-Mail komplett diese Informationsbeschaffung, die ich eigentlich bräuchte, um den Text überhaupt schreiben zu können, nimmt mir das komplett ab.

00:12:18: Also eigentlich steckt die Informationsbeschaffung

00:12:21: überall

00:12:22: drin.

00:12:22: Und ich finde es lustig, dass es, also es ist lustig, aber ich habe es irgendwie ein bisschen merkwürdig, dass es so auf Platz drei als eigener Punkt ist.

00:12:30: Es würde mich sehr interessieren, da noch mal tiefer reinzuschauen, wie genau definieren Sie hier in dieser Studie Informationssuche?

00:12:35: Weil wenn wir das alles zusammenrechnen, dann ... Dann ist das die absolute Hauptnutzung von ChatGPT.

00:12:45: Nämlich Informationsbeschaffung, in welcher Weise auch immer, aber für solche Dinge hätte man früher eine Suchmaschine verwendet.

00:12:52: Auch wenn ich gegoogelt hätte, wie entferne ich Sonnencremeflecken aus meinen T-Shirts, hätte ich das bei Google gesucht und dann hätte ich mir vielleicht zwei, drei verschiedene Seiten angeschaut, die mir unterschiedliche Tipps gegeben hätten.

00:13:04: Richtig und das ist ein ganz wichtiger Punkt.

00:13:06: Das ist also wirklich auch schwierig, sauber zu differenzieren und zu definieren.

00:13:11: Aber einfach als Trend auch, den man mitgeben kann.

00:13:14: Es ist ganz klar, einfach rauszulesen, dass das dieser Zweck enorm zunimmt.

00:13:20: Und das gilt nicht nur für Erwachsene.

00:13:22: Also wir haben da auch noch mal was rausgesucht.

00:13:24: Zum Beispiel gibt es da eine spannende Search-Studie genannt von der ja seo und content marketing agentur namens klaneo.

00:13:35: die haben genau dasselbe gemacht.

00:13:36: die haben sich auch überwiegend auch erwachsene bzw.

00:13:38: eine allgemeine bevölkung angeguckt.

00:13:40: jetzt also nicht mit spezifischen fokus auf junge menschen und da zeigt sich auch ja es ist noch so.

00:13:45: also dem eindruck muss man auch entgegenwirken.

00:13:47: also es ist nicht so dass keiner jetzt mehr die google suche oder suchmaschinen per se nutzt sondern das ist immer noch klar erste anlaufstelle für informations suche hier mit sieben sechzig prozent angegeben aber eben kaillösung holen extrem auf.

00:14:05: und da gab es auch eine spannende tabelle die das auch noch mal ganz klar gemacht hat eine grafik wo gezeigt wurde also wie krass einfach das zunimmt und nicht nur die Nutzung zu diesem Zweck zunimmt, sondern auch, und das ist ganz wichtig, auch das Vertrauen tatsächlich in diese Dienste.

00:14:23: Total.

00:14:24: Also, dass das Vertrauen so zunimmt, und ich wollte gerade noch das so sagen, hier ist ja jetzt in dieser Studie von Claneo eben, du meinst gerade mit dem unsechzig Prozent immer noch Google so platzhirscht, aber natürlich ist auch bei Google eine KI mittlerweile integriert.

00:14:38: Also, auch da nicht so ganz Trennscharf haben die Leute dann am Ende ... sich einfach die GoogleKI Antwort durchgelesen und geben jetzt hier in der Studie an, ich informiere mich über die Suchmaschine Google.

00:14:49: oder haben sie tatsächlich sich die Ergebnisseite angeschaut und sich die verschiedenen Links angeschaut und eine Quelle ausgewählt für ihre Informationen, also bewusst eine Quelle gewählt.

00:15:00: Auch da einfach schwierig das so zu erfassen.

00:15:03: Schwierig

00:15:04: zu erfassen, weil kommen wir gleich auch noch drauf, eben die Suchmaschine von damals.

00:15:09: Sozusagen jetzt mal nicht mehr die ist von heute.

00:15:12: Da hat sich auch sehr, sehr viel getan.

00:15:13: Das werden wir gleich auch noch mal ein bisschen skizzieren.

00:15:15: Wir wollten eigentlich über Vertrauen reden.

00:15:17: Alles, alles wunderbar.

00:15:19: Das fand ich nur selbst auch so eindrücklich.

00:15:21: Also, weil gerade bei der Studie war es dann so vom letzten Jahr auf dieses Jahr, beziehungsweise, man muss sagen von zwei, vierundzwanzig auf zwei, zwanzig korrekterweise, plus einzwanzig Prozent waren es, glaube ich.

00:15:33: Ja.

00:15:34: Bei AI Chatbots und bei wirklichen AI-Suchmaschinen wie Perplexity, U.com und was es da so gibt.

00:15:40: Also,

00:15:41: konkret wurde die Frage gestellt, wie sehr vertraust du folgenden Plattformen?

00:15:45: Und da ist eben die Antwort bei AI Chatbots wie ChatGPT und so weiter auf neunundseventig Prozent gestiegen.

00:15:52: Die sagen, ich vertraue diesen Plattform und das ist

00:15:56: ein bisschen beängstigend.

00:15:57: Es ist

00:15:57: gigantisch hoher Wert.

00:15:59: Und deswegen lass uns jetzt mal schauen, das sind alles, also diese Studie ist zum Beispiel auch nicht repräsentativ.

00:16:04: Aber ich möchte noch auf eine Säule eingehen in dieser Studie.

00:16:06: Und zwar hatten Sie ja auch gefragt, was ist wichtig bei der Suche nach Infos und Produkten?

00:16:12: Und da kam eben ganz oben an zweiter Stelle vertrauenswürdige Ergebnisse.

00:16:18: Aber an dritter Stelle mit forty-three Prozent leicht verständliche Inhalte.

00:16:23: Also auch das ist wichtig, wenn nicht nach Informationssuchen.

00:16:26: Da sind natürlich Chatbots.

00:16:28: Wir hatten uns diesen Clip am Anfang angeguckt.

00:16:30: Viel besser darin, mir leicht verständliche Inhalts zu geben.

00:16:33: Ob die stimmen, spielt keine Rolle, aber ich versteh es.

00:16:36: Ja, ja, hundert Prozent.

00:16:38: Deswegen ist ja auch im Schulkontext genau das, diese Differenzierung, dass man auf unterschiedliche Sprachniveaus sehr gut anpassen kann, eben auch so einen einfachen Anwendungsfall, ein guter Anwendungsfall einfach von solchen Sprachmodellen.

00:16:52: Wenn man sie als Werkzeug nutzt.

00:16:53: Genau, wenn man sie als Werkzeug nutzt, aber auch da spannend gut, dass du es nochmal ansprichst, deswegen danke dafür.

00:16:58: Also auch da nochmal an zweiter Stelle wirklich, also ganz vorne mit dabei, die Erwartung, ich möchte, dass das vertrauenswürdig ist.

00:17:06: Und das ist eigentlich das Bedürfnis, Suchende Menschen, wie wir alle letztendlich haben.

00:17:12: Aber jetzt haben wir uns das ein bisschen auf der allgemeinen Ebene insgesamt angeguckt.

00:17:17: Jetzt schauen wir mal so ein bisschen altersspezifisch noch mal bei den jungen Menschen vorbei.

00:17:21: Und da gibt es ja auch die JEM-Studie, die man sich da gut anschauen kann, die spannende Daten geliefert hat.

00:17:29: Und da ist auch deutlich geworden, das bezieht sich auf zwölf bis neunzehnjährige ... ... dass über eighty-vier Prozent das Tool ... ... ChatchiBT bereits verwendet haben, ... ... dass ChatchiBT tatsächlich so zum neuen Google ... ... auch gerade dieser jungen ... ... heranwachsenden Generation, ... ... also das jetzt mal wird, ... ... was so uninterfrakt stattfindet wie bei uns auch.

00:17:52: Man ist damit groß geworden, ... ... in unserem Fall mit Suchmaschinen, ... ... hauptsächlich Google, ... ... Anfang der Jahrtausendwende, ... ... ich glaube, achtundneunzig war es ja, ... ... wo Google wirklich durchgestartet ist.

00:18:02: Damit sind wir groß geworden.

00:18:03: Das hat sich in unserem Nutzungsverhalten als Gewohnheit etabliert.

00:18:06: Ähnliches.

00:18:07: Das zeigen die Daten.

00:18:09: Passiert jetzt eigentlich auch.

00:18:11: Und ganz spannend eben, dass Shatchity auch das Tool ist, was sich da am meisten durchzusetzen scheint.

00:18:18: Also weit auch bei den jungen Menschen vor sowas wie Gemini, Formeta AI, vor auch sowas wie My AI von Snapchat.

00:18:27: Also da sieht man schon, da macht sich quasi Shatchity als neuer platziersch.

00:18:32: Das

00:18:33: waren halt auch die, die irgendwie zuerst da war.

00:18:35: Also, zuerst eine Präsenz hatten.

00:18:37: Startvorteil.

00:18:38: Durchgesetzt dadurch.

00:18:40: Absolut.

00:18:41: Also, das fanden wir auf jeden Fall spannend, dass sich das da einmal zeigt von der reinen Nutzung her.

00:18:47: Dass das eben enorm zunimmt, auch bei den jungen Menschen.

00:18:49: Und auch hier gibt es zwei dominierende Einsatzfelder.

00:18:54: Und das ist einmal ganz vorne mit dabei erwartbar irgendwo Hausaufgaben und Lernen.

00:18:59: Klar.

00:19:00: Logisch.

00:19:02: Und dann aber direkt dahinter schon mit siebzig Prozent auch die Informationssuche und auch ganz spannend im Jahr zwei, vierundzwanzig haben das nur dreinvierzig Prozent der Befragten gesagt.

00:19:13: Das heißt auch hier dieser extreme Bedeutungszuwachs einfach dieses Einsatz wächst.

00:19:20: Und da sieht man, da ist richtig was im Fluss, da ändert sich richtig was.

00:19:24: Ja, und das ist eben ... Die Frage, was das eigentlich bedeutet.

00:19:28: Siebzig Prozent ist so viel.

00:19:30: Und vor allem, weil es auch hier wieder nicht trennschaf ist.

00:19:33: Also, wenn vierundsebzig Prozent davor auch noch angeben ist, für Hausaufgaben und zum Lernen einzusetzen, ist auch das Informationsbeschaffung.

00:19:40: Ja, das

00:19:41: ist wieder schwerzähnbar.

00:19:42: Wir

00:19:42: haben überall Informationsbeschaffungen.

00:19:44: Also,

00:19:45: genau.

00:19:46: Fast überall.

00:19:48: Ja, und man muss sich immer vor Augen fühlen.

00:19:50: Wir haben jetzt gerade drei Jahre.

00:19:52: Seitdem Chech GPT eingeführt wurde bei Google, wie gesagt, als Stellvertreter für viele weitere Suchmaschinen, muss man auch dazu sagen, da reden wir von fast dreißig Jahren.

00:20:03: Über einen viel längeren Zeitraum sich entwickelt.

00:20:05: Auch diese nutzenden Zahlen, die wir vorhin genannt haben, nutzende bei Chech GPT, wie lange hat das bei Google gedauert?

00:20:12: Wir haben jetzt keine Zahlen dazu.

00:20:13: Aber es ist nicht in dem gleichen Tempo passiert.

00:20:16: Wahrscheinlich nicht,

00:20:18: genau.

00:20:20: Ich weiß es, aber ich kann den nicht genau zahlen.

00:20:22: Ich auch nicht.

00:20:23: Genau, Faktensteck im Nachgang.

00:20:26: Ja, aber genau, ganz wichtige Punkte.

00:20:29: Also auch hier sieht man, egal ob man die Gesamtgesellschaft im Prinzip anschaut oder ganz spezielle junge Menschen, da ist richtig ein Schiff da in zu mehrer Nutzung von KI-Instrumenten für Informationssuche und eben ganz krass bei jungen Menschen, die damit ... aufwachsen.

00:20:48: Und die spannende Frage ist natürlich, die sich jetzt direkt anschließt ist, haben wir denn auch schon erkennen es darum, wie mit diesen Suchergebnissen mit den Outputs eigentlich umgegangen

00:20:57: wird.

00:20:58: Also du meintest vorhin schon im Intro, siebenundfünfzig Prozent der Jugendlichen vertrauen auf das, was die KI ausgibt.

00:21:07: Was viel ist,

00:21:07: was schon

00:21:08: viel ist.

00:21:11: Wir haben jetzt hier Zahlen, die noch Die noch krasser sind irgendwie.

00:21:16: Wobei man da auch wieder sagen muss, da ist jetzt wieder nicht der Fokus auf Jugendliche, sondern allgemeine Bevölkerung.

00:21:22: Aber da hatten wir auch eine spannende Analyse gefunden von einer Prüfungs- und Beratungsgesellschaft zum Thema künstliche Intelligenz.

00:21:30: Und die sagt nur circa ein Viertel, genau genommen, siebenzwanzig Prozent der Nutzer in Deutschland überprüft die Ergebnisse auf im Prinzip Korrektheit.

00:21:40: Und was das Ganze noch, sagen wir mal, in der... Ja, noch steigert von der Aussage her nur fünfzehn Prozent der Befragten, bearbeiten diese Outputs, die sie generiert haben, überhaupt noch nach.

00:21:52: Also das zeigt ja auch noch mal.

00:21:53: Das

00:21:53: finde ich so verrückt.

00:21:54: Das ist Wahnsinn, also da findet gar nichts mehr Eigenes damit statt, sondern man nimmt das einfach und verwendet es.

00:22:01: So, und das ist ein, wie soll ich sagen, ein beides, beide Zahlen weisen also ganz klar darauf hin, oder ist ein sehr, sehr hohes.

00:22:10: Vertrauen, was zumindest implizit herangetragen wird, da.

00:22:14: Und wir wollen eben heute fragen, ist das gerechtfertigt?

00:22:17: Ist das ein guter Umgang damit?

00:22:19: Oder müssen wir vielleicht auch ein bisschen aufpassen?

00:22:22: Ich denke, wir müssen auch ein bisschen aufpassen.

00:22:24: Ich könnte mir vorstellen, dass eben diese jetzt irgendwie erschreckenden, erschreckend klingenden Zahlen, also nur ca.

00:22:30: ein Viertel überprüft die Ergebnisse.

00:22:32: Natürlich auch damit zusammenhängen, was wir uns vorhin angeschaut haben, wozu sie nutzen, für Alltagstipps oder so.

00:22:40: dann hab ich hier rausgefunden, wie ich meinen Sonnencreme-Fleck entferne und dann mach ich das so, wie es G.G.P.T.

00:22:44: mir gesagt hat, uns hat funktioniert und ich überprüfe das Ergebnis nicht noch mal, indem ich andere Quellen suche oder so.

00:22:51: Natürlich hängt das auch damit zusammen, wie wichtig oder wie weitreichend auch potenzielle Folgen einer Fehlinformation wären und ob ich es deswegen überprüfen muss.

00:23:03: Natürlich ist das aber trotzdem eine sehr, sehr geringe Zahl, siebenundzwanzig Prozent.

00:23:09: Aber wichtige Differenzierung, ganz klar.

00:23:11: Kommt immer auf die Fallhöhe natürlich auch an.

00:23:12: Das merkt man ja auch generell, wie man hinterher ist, Sachen gegen zu prüfen.

00:23:17: Unabhängig von der Art und Weise, wie man Informationen sucht.

00:23:21: Aber grundsätzlich sind das schon erstaunliche

00:23:23: ... Sehr niedrige Zahlen.

00:23:24: Genau, erstaunliche und sehr niedrige Zahlen, ganz genau.

00:23:29: Jetzt haben wir uns angeguckt, ja, ich sag mal, das Nutzungsverhalten, was sich schon deutlich geändert hat.

00:23:36: Gerade auch bei jungen Menschen.

00:23:38: Gleichzeitig haben wir das gerade schon so ein bisschen angeteasert.

00:23:41: Ja, aber die Suchmaschine von damals ist nicht mehr die von heute.

00:23:45: Es hat sich auch dort viel verändert.

00:23:46: Und Kai steckte eigentlich auch schon vor, da drin.

00:23:50: Genau.

00:23:50: Man hat so dieses Gefühl, es kam jetzt von heute auf morgen, Chattipiti wurde eingeführt.

00:23:53: Und jetzt ist es da und vorher gab es nichts.

00:23:56: vergleichbares, dadurch ja auch diese Faszination.

00:24:00: Und ähnlich auch jetzt eben mit so KI-Integrationen bei Google.

00:24:03: Also wir haben jetzt seit einer Weile eben diese KI-Zusammenfassungen, wenn wir etwas in die Google Suchleiste eingeben.

00:24:09: Es gibt jetzt neuerdings den KI-Modus bei Google.

00:24:13: Kann das von heute auf morgen?

00:24:15: Gab es auch da eine Hinführung zu diesen Integrationen?

00:24:20: Hat sich das nicht über einen längeren Zeitraum auch schon angebahnt?

00:24:23: Ja, und wir können da jetzt nur logischerweise in dem Rahmen nur einen kurzen Abriss machen.

00:24:28: Aber die Antwort auf deine Frage letztendlich ist ganz klar, ja, es gab einen schrittweisen Prozess, an deren Ende jetzt eigentlich dieser KI-Modus steht, der im Oktober zwei fünfundzwanzig eingeführt wurde.

00:24:41: begonnen hat das ganze wenn man das jetzt wirklich mal gerastisch vereinfacht damit dass es am anfang so war dass du wir betrachten jetzt wie gesagt google als hauptsuchmaschine die von den meisten menschen genutzt wird.

00:24:52: du hattest im endeffekt so eine blulinklist wie so immer schon hieß.

00:24:56: du hattest einfach eine suchergebnestrefferseite mit meistens irgendwie zehn links blauen hyperlinks die du anklicken konntest und mehrere seiten wo du quasi dann auf die nächste ergebnestrefferseite konntest und so weiter und so fort.

00:25:11: Und dann kam so was wie, kennen wir alle, so Kacheln zum Beispiel.

00:25:15: So Informationskacheln, wenn du irgendwie sagst, Bundespräsident Deutschland.

00:25:20: Dann steh ich auf einmal schon rechts daneben wie so eine Tabelle, Frank-Walter Steinmeier, genau.

00:25:25: Steckbrief.

00:25:26: Steckbrief, genau.

00:25:28: Das nennt man dann Knowledge Chart zum Beispiel auf Englisch.

00:25:31: Also es kamen Zusatzelemente hinzu.

00:25:34: sogenannte hervorgehebenes nipples.

00:25:37: das kam auch das sind quasi direkt zitat oder textausschnitte aus den einzelnen quellen aus den weltseiten die dann auch direkt unterhalb des treffers platziert wurden so dass du warum das ist der eigentliche grund eigentlich direkt dein informationsbedürfnis befriedigen kann schneller befriedigen kann und das ist sozusagen der gemeinsame fluchpunkt dieser entwicklung.

00:25:59: also diese ganzen features wurden eingeführt um eigentlich dich schneller zum Ziel zu bringen, was per se erst mal was Gutes ist.

00:26:08: Aber da sieht man schon, überall spielt da KI eine Rolle.

00:26:13: Das ist also bei all diesen Elementen spielt KI eine entscheidende Rolle.

00:26:16: Das Neue, was dann mit generativer KI passiert ist, ist eigentlich, dass du jetzt wirklich diese Ausformulierungen hast, diese Text.

00:26:26: Generation.

00:26:27: Das hast du im Vorfeld in der Form nicht gehabt.

00:26:30: Da gab es sowas wie Direktantworten.

00:26:32: Das war dann auch mal so, wenn du zum Beispiel nach einem Namen einer Person irgendwie gefragt hast, dann wurde die direkt angezeigt, ohne Quellenhinweis, weil das dann auf Google eigene Datenquellen irgendwo zurückging.

00:26:42: Aber dieses wirklich, dir wird ein Text generiert aus verschiedenen Quellen, die da mit einem Sprachmodell im Prinzip, also die werden ausgewertet und dann irgendwie zusammengewürfelt.

00:26:55: Das ist die neue Geschichte, die dann, du erwähntest es, mit dieser sogenannten KI-Übersicht erst im März, zweitausendzwanzig eingeführt wurde in Deutschland.

00:27:05: Das war dann eine Kurzzusammenfassung, die immer oberhalb der eigentlichen Treffer stand, direkt ganz oben, wo du auch gar nicht mehr so richtig den ... Die Lust hast weiter runter zu ...

00:27:14: Es rutscht doch alles sehr weit runter.

00:27:16: Teilweise musst du auch die noch ausklappen.

00:27:18: Richtig.

00:27:19: Das sind sehr

00:27:20: viel Text erst mal.

00:27:21: Du hast sehr viel Text, genau.

00:27:22: Und du hast viel weniger Anreiz eigentlich, dich noch mit diesen eigentlichen, organischen, wie man so schön sagt, Suchergebnestreffern zu beschäftigen.

00:27:29: Also die eigentliche Logik, wie eine Suchmaschine damals funktioniert.

00:27:31: Du hast ja schon das, wonach du gesucht hast.

00:27:33: Aber du hast eben nicht die Quellen selbst ausgewählt, sondern ... Du weißt gar nicht so richtig, wo kommen denn jetzt diese Antworten her?

00:27:40: Aber sie befriedigen dich erst mal in dem Moment, weil du hast deine Antwort.

00:27:44: Du hast deine Antwort sehr schnell bekommen, mühelos.

00:27:49: Ja, aber damit geben wir genau jetzt gleich darauf ein, über die Unterschiede von beiden.

00:27:53: Genau.

00:27:54: Und nur um ganz das nochmal abzuschließen, das war die KI-Übersicht.

00:27:58: Haben wir gerade ... beschrieben.

00:28:00: Das war diese Kurzzusammenfassung.

00:28:02: Die gibt's auch nach wie vor noch.

00:28:03: Die wird nicht immer ausgegeben.

00:28:04: Bei bestimmten Suchanfragen kommt das, bei bestimmten nicht.

00:28:07: Ist auch total intransparent eigentlich für einen.

00:28:11: Aber da war noch nicht diese Dialogmöglichkeit.

00:28:13: Also das, was man von Chatchi Pity und LLMs kennt, das... Gab's da noch nicht.

00:28:19: und da hat Google dann eben gesagt, okay, wir werden eigentlich von denen so im Markt getrieben, wir müssen auch so was haben.

00:28:26: Und dann haben sie diesen KI-Modus eingeführt, der das jetzt quasi auch noch ermöglicht.

00:28:30: Das ist eine auswählbare Registerkarte aktuell.

00:28:33: Da klickst du drauf und dann kannst du halt auch ganz dialogisch Sachen erfragen.

00:28:38: So.

00:28:38: Und es wird unheimlich gepusht auch von Google.

00:28:40: Also wenn man jetzt mal sich mal wirklich ... wenn man bei YouTube ist oder egal, wo man unterwegs ist.

00:28:46: Es läuft gerade eine wahnsinnige Werbekampagne, Just Ask Google, mit Clips, mit allem drum und dran, die dazu auffordern, diesen KI-Modus immer mehr zu verwenden.

00:28:55: Und warum machen sie das?

00:28:57: Weil sie sich eigentlich, wie gesagt, getrieben fühlen und Angst haben, um es mal sozusagen das Schädgipetie, wir haben es am Nutzungsverhalten gesehen, in den Rang abläuft.

00:29:06: Ja, rechtlich der Angst an der Stelle von Google.

00:29:09: Aber was ist, wenn ich jetzt so ganz blöd frage?

00:29:12: Wo ist denn der Unterschied?

00:29:16: Ich frage mal ganz stumpf.

00:29:18: Wo ist denn der Unterschied?

00:29:19: Ist es nicht egal, ob ich das jetzt meine Antwort bequem per KI bekomme oder mir mühevoll selbst raussuchen muss aus den Links, die mir Google irgendwie ausgibt.

00:29:30: Ist es nicht letztendlich toll, wenn wir Menschen irgendwie Zeit sparen können, unsere Informationen bequem und auch verständlich von der KI bekommen?

00:29:41: Wo ist das Problem?

00:29:42: Die Informationen müssten doch die gleichen sein.

00:29:45: Das haben wir uns auch gefragt.

00:29:47: Und haben das einmal ausprobiert.

00:29:49: einer relativ zu simplen Suchanfrage.

00:29:52: Also wenn man denken würde, dann gibt es eine sehr klare Antwort drauf.

00:29:56: Jetzt nicht irgendwelche heiß diskutierten Themen, wo man sich verschiedene Meinungen zu angucken muss, sondern wir haben ganz einfach gefragt.

00:30:06: Sowohl die Google KI, als auch die Google Suchleiste ganz normal, als auch Chatchity.

00:30:14: wie alt ist der älteste Mensch der Welt.

00:30:18: Und die Antwort auf diese Frage haben alle drei, also jetzt eben KI Modus Google, Google Suchleiste und Chatchity.

00:30:28: uns richtig ausgegeben, die haben uns Jahreszahl genannt, die haben uns auch den Namen dieser Person genannt und noch ein paar Kontext-Infos gegeben, nachdem wir gar nicht gefragt haben.

00:30:37: Zumindest die KI's.

00:30:42: Und das ist der Punkt, an dem es dann auf einmal komplizierter wurde oder irgendwie verwirrend.

00:30:49: Mir fällt es gerade auch schwer, das zusammenzufassen, weil ... Bei dieser simplen Suchernfrage.

00:30:54: Wir saßen gestern da und haben das recherchiert.

00:30:56: Und uns haben die Köpfe gequeren, weil es wurde so verwirrend.

00:31:01: Weil eben doch unterschiedliche Antworten rauskam.

00:31:03: Also die Google KI sagte uns, der älteste Mensch der Welt heißt so und so, ist so und so viele Jahre alt.

00:31:11: Das stimmt überein mit dem Ergebnis, was wir in der Google Suche bekommen haben.

00:31:15: Das stimmt überein mit dem, was Chichi Pity uns gesagt hat.

00:31:19: Und dann kommen wir zu den Zusatzinformationen, denn die KI Chatbots geben uns nicht nur eine Antwort auf die Frage, die wir gestellt haben, sondern geben uns auch Antworten auf Fragen, die wir gar nicht gestellt haben.

00:31:29: Also die geben uns Kontextinfos, nachdem wir nie gefragt haben.

00:31:32: Und da haben sich die Kontextinfos auf einmal widersprochen.

00:31:38: Und die Kontextinfo in dem Fall war eben, dass uns die, die KI's noch mitgeben wollten.

00:31:45: Vielleicht interessiert sich ja auch, Wer vorher die älteste Person der Welt war.

00:31:50: Exakt.

00:31:51: Da haben sich die Antworten unterschrieben.

00:31:53: Da gab es dann auch verschiedene Namen, die da genannt wurden.

00:31:56: Über die ganz klassische Google-Suche habe ich andere Dinge herausgefunden als das, was die Google-KI mir gesagt hat.

00:32:02: Die Google-KI nannte mir einen Namen der Vorgänger ältesten Person und das hat einfach nicht gestimmt.

00:32:09: Man kann sich im Google-KI-Modus Quellen anzeigen lassen.

00:32:14: Das muss man erst mal machen.

00:32:15: Den Schritt gehen die meisten nicht.

00:32:17: Man kann theoretisch sagen, wo hast du denn diese Info her?

00:32:22: Da war das Interessante, dann haben wir uns diese Quelle angeschaut.

00:32:26: Die verlinkt war zu der Fehlinformation, die uns die Google AI gesagt hat.

00:32:29: In dieser Quelle stand es aber richtig.

00:32:31: Ja, genau.

00:32:32: Da hab ich mich gefragt, wie kommt denn hier gerade Google auf eine falsche Antwort?

00:32:37: Und verlinkt aber eine Quelle mit ... der richtigen Antwort.

00:32:41: Es ist verwirrend.

00:32:42: Ich kann auch jetzt nicht noch tiefer reingehen, weil ich...

00:32:44: Uns rauchen jetzt schon wieder, wie man merkt.

00:32:46: Es geht

00:32:46: sich schon alles, wie wir es gestern versucht haben, zu sortieren.

00:32:48: Aber es ist eigentlich

00:32:49: ein tolles, spontanes Beispiel gestern gewesen, was ja eben zeigt.

00:32:53: Selbst mit Quellenangabe, wir denken zurück, ganz am Anfang, wo GDPT und Co.

00:32:57: vorgestellt wurden, da wurden gar keine Quellen ausgegeben.

00:33:01: Dann gab es das irgendwann.

00:33:04: Und jetzt sieht man an solchen Beispielen, selbst wenn Quellenangaben da sind, die dann ja auch meistens in dann... die Abschnitten zugeordnet.

00:33:10: Also man kann eigentlich, sollte man das rückführen können, wovon jetzt diese Teilinformation, die durch KI ausgegeben wurde, aus welcher Quelle die gezogen wurde, selbst dann werden Informationen falsch gezogen.

00:33:24: Das heißt, ich muss eigentlich, um wirklich sicher zu sein, möglich sicher zu sein, mir jede einzelne Quelle irgendwo angucken, ob das wirklich übertragen wurde korrekterweise.

00:33:33: Und das war ein schönes Beispiel.

00:33:35: Und dann hatten wir aber noch ein Beispiel, was ich auch ganz... Toll fand, da haben wir auch eine sehr simple Frage gestellt.

00:33:41: Nämlich ist ein bisschen jetzt auch eine Anspielung auf unsere Folge Nummer vier.

00:33:46: Wer erinnert sich?

00:33:47: Wer war aufmerksam?

00:33:48: Genau, wer war aufmerksam?

00:33:50: Da haben wir das auch schon mal so ein bisschen als Beispiel-Frage thematisiert.

00:33:52: Wie hoch ist das Brandenburger Tor?

00:33:54: Einfach als so eine einfache Sachfrage.

00:33:56: Und da haben wir eben auch genau das gefragt.

00:33:59: Und da war es spannend, dass, ja, Chatchi

00:34:03: B.T.,

00:34:03: in die richtige Antwort gab, glaube ich, zu sechsundzwanzig Meter, von sich aus keine Quelle dafür anführte, sich dann ja auch so ein bisschen geweigert hat.

00:34:12: Das war ganz merkwürdig.

00:34:13: Also das hatte ich auch mit Chagy Pity noch nie.

00:34:15: Ich habe in meiner Beziehung zu Chagy Pity noch nicht erlebt.

00:34:21: Ich habe, genau, das war eben die Frage, Juris, das Brandenburger Tor.

00:34:24: Chagy Pity sagt, sechsundzwanzig Meter, ganz kurze Knappe Antwort, gibt noch ein paar Kontextinfos.

00:34:29: Und ich frage, was sind deine Quellen?

00:34:31: Und Chagy Pity fängt erst mal an.

00:34:33: Ist auch schon wieder so eine vermenschliche Umgebung, aber fängt erst mal an sich zu rechtfertigen.

00:34:37: Dafür brauche ich keine Quellen.

00:34:38: Das handelt sich um ein historisch stabiles Faktum.

00:34:41: Wie ein Allgemeinplatz, den man nicht mehr belegen muss.

00:34:45: Das war spannend, aber die Information war korrekt.

00:34:47: Und dann haben wir ja auch den KI-Modus von Google eben befragt.

00:34:51: Und das fand ich auch total erhellend, auch da, richtige Antwort.

00:34:55: Mit sage und schreibe einer Quellenangabe.

00:35:00: Und auch das ist an sich ja jetzt auch nicht unbedingt problematisch, aber man muss ja dann eben noch schauen, was war das denn jetzt für eine Quelle?

00:35:06: Und da war das Spannende.

00:35:08: Ja, das war im Prinzip eine PDF-Datei, einer Holzwerkstatt, die ein Miniaturmodell im Prinzip dort vermarktet hat und beschrieben hat in dieser PDF-Datei und es gab... Beilegend quasi Informationen dazu, wie natürlich das Vorbild, wie groß das ist.

00:35:24: Ein Miniaturmodell vom Brandenburger Tor.

00:35:26: Die

00:35:26: haben es dort verkauft.

00:35:27: Richtig.

00:35:28: Und das war

00:35:28: die,

00:35:29: aus der die Informationen bezogen wurden.

00:35:31: Und das ist so spannend, weil wenn wir jetzt wieder nachdenken, wer das die Quelle, die wir selbst, wenn wir die Schritte gehen, klassisch, Übersuchmaschinen suche, Wäre das die erste Quelle, die du konsultieren würdest?

00:35:44: Definitiv

00:35:45: nicht.

00:35:46: Das ist genau das, was wir auch versuchen, bei Informationskompetenz und so kritischer Informationskompetenz zu vermitteln.

00:35:52: Gerade wenn es um Informationen geht auf Webseiten, die euch was verkaufen wollen, hinterfragt das mal kritisch.

00:36:00: Höhenangabe.

00:36:01: Das ist jetzt ein bisschen harmlos.

00:36:02: Aber eigentlich ist es genau das, was wir ja auch immer in unseren Unterrichtseinheiten zum Beispiel davor warnen.

00:36:08: Schaut euch genau an.

00:36:09: Wer gibt diese Informationen?

00:36:10: Haben die irgendein Interesse?

00:36:12: Verkaufen die was?

00:36:13: Und genau das sagen wir eigentlich eher.

00:36:15: Zieht euch nicht unbedingt die Informationen von Seiten, die euch ein Produkt antrehen wollen.

00:36:19: Und das finde ich ziemlich lustig.

00:36:23: Gleichzeitig muss ich sagen, ich hatte das Bei mir dann ja auch gesucht, auch über die Google KI und bei mir wurden andere Quellen angegeben.

00:36:30: Also wir haben die gleiche Anfrage gestellt an die Google KI, dir gibt sie diese eine Quelle, sie gibt uns beiden die gleiche Antwort, aber die Quellen unterscheiden sich.

00:36:37: Ich habe mehrere Quellen bekommen, ich habe auch vertrauenswidrige Quellen bekommen, wo ich sagen würde, ja gut, gut gemacht Google, gut ausgewählt, richtige Quellen.

00:36:45: Vielleicht schätzt Google dich anspruchsvoller ein und intelligenter als einfach meine Wenigkeit.

00:36:49: Genau,

00:36:50: es sind ja auch personalisierte Antworten.

00:36:52: Da können wir auch später noch mal drauf zurückkommen.

00:36:54: Was ich so interessant finde oder auch so kritikwürdig eben finde, ist, dass die KI selbst nicht, dass selbst nicht zugibt, dass es vielleicht widersprüchliche Informationen geben könnte.

00:37:09: Also wenn wir jetzt an das Beispiel vorher denken mit der ältesten Person der Welt und wer war das vorher.

00:37:15: Da hätte die K.I.

00:37:16: auch sagen können, die Google K.I Ich habe hier Quellen gefunden, die unterschiedliche Dinge sagen.

00:37:22: Es ist nicht ganz klar oder so.

00:37:24: Aber die K.I.

00:37:25: mit einem Selbstbewusstsein haut es dir die Sätze raus.

00:37:29: Und du glaubst es dadurch auch einfach, dass es so formuliert ist.

00:37:33: Als Fakt, als Tatsache mit einem Punkt hinten dran und nicht mit einem Fragezeichen.

00:37:37: Also auch da irgendwie ... Dieser Vertrauensaufbau, der passiert dadurch einfach, dass es sich vertrauenswürdig anhört.

00:37:46: Aber genau darauf, da gehen wir auch noch mal später drauf ein, wenn es so ein bisschen auch so noch mal um die Problematisierung des Umgangs einfach damit geht.

00:37:55: Aber wenn wir jetzt noch mal irgendwie zusammenfassen, was ist jetzt wirklich so der Unterschied zwischen klassischer Suchmaschinsuche wie Vizekanten und dem neuen?

00:38:04: Da fand ich sehr spannend, wenn man sich das Ganze mal so als so eine Analogie, so ein Bild vorstellt.

00:38:10: Dann kann man einfach mal so überlegen, was war denn dann die alte Suchmaschine, das alte Google?

00:38:16: Das war so ein bisschen wie so ein Bibliothek, der wissbegierigen Informationssuchenden den Weg weist.

00:38:26: Der steht in seiner Bibliothek, in seiner Wissensbibliothek, steht da am Tresen und du kommst mit deiner Anfrage um die Ecke und dann sagt er dir dort irgendwo in Regal, Stehen die und die Bücher, guckt doch mal rein.

00:38:40: Zumindest ganz zu Beginn der Suchmaschine noch auch vor der Kommerzialisierung, würde ich sagen.

00:38:44: Aber ursprünglich ein guter Vergleich.

00:38:49: Ja,

00:38:50: und da war unsere Rolle selbst.

00:38:53: war, dass wir im Prinzip die Schiedsrichter waren und auch der Filter.

00:38:57: Das heißt, wir wählen dann ganz konkret aus, wo wir in die Bibliothek hingehen, welche Bücher wir uns anschauen, also welche Informationsquellen wir eben verwenden.

00:39:07: Wir schätzen auch ein Stück weit die Vertrauenswürdigkeit dann selbst logischerweise ein Schauen rein, überlegen und entscheiden selbst, welche Seiten lese ich, welche Teilinformationen interessieren mich eigentlich.

00:39:19: und verweben die dann zu unserer Antwort auf unser eigenes Informationsbedürfnis.

00:39:25: Das heißt auch, wir gewichten, wir nuancieren, wir individualisieren, wir passen das sehr auf unseren Informationsbedarf an.

00:39:34: Die neue Welt in Anführungsstrichen, die neue Antwortmaschine, wenn wir es denn so jetzt auch vereinfachen wollen, da ist dann Google ja immer mehr so ein vermeintlich alle Wissen des Orakel oder stellt sich zumindest so da.

00:39:49: Ja, und dieser Bibliothek ist nicht mehr ein klassischer Bibliothek.

00:39:52: Der hat alle Bücher selbst gelesen, alle Klappentexte, alle Verweise.

00:39:57: Und du gehst in die Bibliothek rein und musst eigentlich nur noch am Dresen und da gibt dir die fertige Antwort.

00:40:03: Und das war's.

00:40:03: Das hat sowas Orakelgleiches.

00:40:06: Und wir selbst, unsere Rolle in diesem Prozess ist aber eine ganz andere.

00:40:10: Wir sind auf einmal Menschen, die mit dieser fertigen Antwort konfrontiert sind und jetzt von hinten das Pferd aufzuholen müssen.

00:40:18: Das hat viel mit der Reihenfolge zu tun, ne?

00:40:20: Ja, und extertiv

00:40:21: viel mit der Reihenfolge zu tun.

00:40:22: Vorher

00:40:23: in der klassischen Google suchst du dir, noch bevor du sie anklickst, entscheidest du, was klick ich an, über welche Quellen habe ich auch schon irgendwie in Kontext wissen und entscheide mich deswegen für oder gegen sie.

00:40:36: Wenn ich mich informieren möchte zu irgendetwas aus dem Weltgeschehen zum Beispiel und mir werden als Quellen bei Google dann angezeigt, die Tagesschau und die Bild.

00:40:45: Dann klicke ich auf die Seite der Tagesschau.

00:40:48: Aufgrund von Informationen, die ich habe zu diesen Quellen, aufgrund von Informationen, die ich erworben habe, die mir es erlauben, die Vertrauenswürdigkeit unterschiedlich einzuschätzen.

00:40:57: Und ich entscheide mich für die Quelle, die ich am vertrauenswürdigsten finde.

00:41:03: Anders ist es eben in diesem KI-Modus, in diesem Dialog-Modus.

00:41:07: Und du musst das anders machen.

00:41:09: Also die meisten Menschen ... Überprüfen da die Quellen im Nachgang gar nicht, haben wir vorhin gesehen.

00:41:14: Aber selbst wenn ich das tue, sind das Quellen, die die KI vorher ausgewählt hat und bewertet hat und gewichtet hat.

00:41:21: Ich bekomme nicht mehr alle Quellen und kann selbst aussuchen, sondern ich muss im Nachhinein mit dem Leben, was die KI ausgewählt hat.

00:41:27: Und da ist da natürlich auch eine bestimmte Gewichtung schon vorgenommen worden, aber eben nicht von mir.

00:41:32: Ja, und das ist so ein bisschen, du hast es super zusammengefasst, das ist so ein bisschen wie schon auch Outsourcing.

00:41:38: von eigenem Denken das muss man schon sagen.

00:41:40: also das ist ganz viel Entscheidungen ja auch wirklich und all das sind ja Entscheidungen.

00:41:44: also was gucke ich mir an?

00:41:46: wie gewichte ich was welche Aspekte worauf will ich hinaus?

00:41:50: das sind alles eigentlich menschliche Entscheidungen die ich in der weise der der Maschine eigentlich über antworte.

00:41:55: und jetzt der Schritt zurück also.

00:41:57: Man nennt es ja auch immer so schon Reverse-Engineering.

00:41:59: Also man quasi von hinten, man hat das fertige Produkt und guckt wie es zusammengezimmert wurde.

00:42:04: Das ist natürlich viel herausfordernder auch und diesen Schritt zu gehen vor dem Hintergrund, dass es ja eigentlich total bequem ist, das ist natürlich sehr veraussetzungsreich.

00:42:13: Und ich glaube, das ist so dieser fundamentale Unterschied, wo man sich erstmal Ja auch bei jungen Menschen, dass ich mal bewusst machen muss, das ist ja was ganz anderes und da geht auch was verloren.

00:42:24: Also ich gewinne nicht nur vielleicht Produktivität und irgendwie ein Zeitvorteil, sondern da geht auch ein Stück weit eigene Informationshoheit und Verantwortung.

00:42:35: verloren

00:42:35: ein Stück weiter.

00:42:36: Zumal es dann auch noch so ist, dass ja die KI-Ergebnisse hochpersonalisiert sind und das auch noch weiter werden sollen.

00:42:44: Es gab einen Interview, was wir uns durchgelesen hatten, das der NDR geführt hat mit dem deutschen klapswaderische Pressesprecher von Google, der natürlich mit großer Überzeugung von der Google KI gesprochen hat und als positiv Beispiel genannt hat, Es ist eine totale Personalisierung möglich, das ist total toll.

00:43:06: Und als harmloses Beispiel genannt hat, wenn ich zum Beispiel nach Cafés in Hamburg suche, dann werden mir jetzt nicht zweitausend Cafés angezeigt, die es dort gibt, sondern die KI entscheidet schon aufgrund des Wissens, was sie über mich hat, welche Cafés wären für mich interessant.

00:43:23: Und eine andere Person bekommt eine andere Liste an Cafés angezeigt, obwohl sie nach dem gleichen Suchtbegriffen sucht.

00:43:31: Und ein Stück weit hat Google diese Personalisierung natürlich auch schon vorher gehabt in den letzten Jahren.

00:43:37: Aber Google betont eben so, dass sie das mit ihrem KI-Modus noch weiter auf die Spitze treiben wollen.

00:43:43: Das klingt toll, wenn ich einen Kaffee suche, was mir gefällt.

00:43:46: Aber was bedeutet das denn, wenn ich nach Fakten suche, bekommt jetzt jeder personalisierte Fakten.

00:43:52: Schlimm

00:43:53: wär's.

00:43:54: Also, das ist ja durchaus sehr kritisch zu betrachten.

00:43:58: Das ist eben sich sehr unterscheidet.

00:44:00: je nachdem, wer gerade diese Anfrage stellt und welches Profil Google von dir bereits erstellt hat.

00:44:08: Genau.

00:44:08: Und eben auch, dass es, wie du schon sagtest, auch nicht reproduzierbar ist.

00:44:11: Wir können hier über Fälle sprechen und auch die Beispiele, die wir eben mitbringen, das sind immer Momentaufnahmen.

00:44:17: Wir können das gar nicht beweisen, dass das so eingetreten ist, weil wenn wir es jetzt machen würden ... kann wieder was ganz anderes bei rumkommen.

00:44:24: Das ist auch die ganz große Tücke tatsächlich auch in der Forschung, um da überhaupt zu verlässlichen Aussagen zu kommen.

00:44:28: Das ist fast unmöglich.

00:44:30: Deswegen all das, was wir auch heute sagen, das sind immer Trends natürlich und gewisse Entdichtungslinien.

00:44:36: Und das ist auch immer eine Momentaufnahme.

00:44:38: Es kann morgen schon wieder anders sein.

00:44:40: Ganz... Wichtig, wenn wir jetzt ein Stück weit noch mal weitergehen, okay, die Online-Informationssuche ändert sich, haben wir gesehen, aber damit ist noch was ganz Großes verbunden, was noch viel weitgehender ist.

00:44:51: Nämlich ein ganzes, ja man kann sagen Geschäftsmodell, was stellvertretend so für das sogenannte freie Netz steht, so.

00:44:58: Netz heißt nicht umsonst so, das hat auch technische Gründe, aber es hat auch damit zu tun, würde ich jetzt mal sagen, dass wir eigentlich eine Struktur haben von Klick auf Link.

00:45:08: Und dann komme ich auch irgendwo anders hin.

00:45:10: Netz wie Vernetzung.

00:45:11: Genau, Netz wie Vernetzung gedacht.

00:45:13: Und Google oder die klassische Suchmaschine in der bisherigen Form.

00:45:17: Das war der ehrliche Magler in Anführungsstrichen.

00:45:20: Kann man auch wieder relativieren, aber zumindest eher eine Vermittlerrolle.

00:45:24: Und hat im Prinzip Aufmerksamkeit verteilt.

00:45:28: Und da erinnert sich jetzt auch eben genau durch die beschriebene Entwicklung ganz viel.

00:45:33: Denn wenn ... Suchmaschinen wie Google die Antworten selbst schon geben über KI.

00:45:40: Warum soll ich dann noch meinetwegen auf, ja, Tageszeitungen gehen, auf irgendwelche interessanten Informationsangebote, wenn ich das doch dort eh schon ausgespielt bekomme?

00:45:52: Und der Witz ist eben, dass die ganze Finanzierung dieser qualitativ hochwertigen Informationen, die eben Verlage leisten etc.

00:46:01: pp.

00:46:02: Die muss ja finanziert werden und die wird bisher über Werbung finanziert.

00:46:06: Das ist wie so ein stilles Übereinkommen eben zwischen Suchmaschinen wie Google und eben diesen Informationsproduzenten.

00:46:16: Das ist wie so ein gegenseitiger Handel.

00:46:18: Über Werbefinanzierung profitiert jeder davon.

00:46:21: So und das droht jetzt auch eben komplett zu kollabieren.

00:46:24: Und was ist dann eigentlich mit den Anbietern von gerade guten ... journalistisch hochwertigen Informationen.

00:46:35: Wie sollen die eigentlich noch weiter in diesem System bestehen, wenn immer weniger im Prinzip auf ihre Seiten kommen?

00:46:42: Und sich die KI aber an ihren Informationen bedient.

00:46:45: Also auch da ist das vielleicht ein bisschen zu kurz gedacht von Google.

00:46:50: Also ist das dann irgendwann nicht auch einfach dünnt sich das nicht immer weiter aus, wenn eben ... hochwertige Quellen, die darauf angewiesen sind, dass ich auf ihre Seite klicke.

00:47:02: Ja, pleite gehen, weil niemand mehr auf die Seite klickt.

00:47:04: Dann können sie auch keine Informationen mehr produzieren.

00:47:07: Und woher zieht sich dann die Google KI in Zukunft ihre Informationen?

00:47:10: Ja, und das ist so ein bisschen die Revolution, Frist ihre Kinder, wie es so schön heißt.

00:47:14: Also da kann man zumindest... ... auch ein großes Fragezeichen dran machen, ... ... was da alles noch in Zukunft so droht, ... ... einfach bei dieser Entwicklung ... ... und ganz spannend nur noch mal so ... ... um so ein paar Zahlen mal zu nennen.

00:47:25: Also dieser Traffic-Einbruch, ... ... wie es so schön heißt, also einfach dieses ... ... Wer klickt noch durch auf die Zielseite, ... ... das ist schon heftig.

00:47:32: Also wir haben uns da ja auch mal ein paar Zahlen angeguckt.

00:47:36: Da gab es aus einer ... ... Spiegelkolumne von Sascha Lobo ... ... auch eine super Aufstellung, ... ... wo gesagt wurde, also vor sechs Monaten ... ... da war das noch so, dass ... sechs Suchen zu einem Klick führten auf Google.

00:47:49: So.

00:47:50: Mit der KI-Übersicht, achtzern Suchen, ein Klick.

00:47:53: Mhm.

00:47:54: Und ganz spannend, ChatGPT, tausend Fünfhundert Anfragen führen dazu, dass jemand einmal rausklickt.

00:48:02: Auf eine Quelle.

00:48:02: Auf eine Quelle.

00:48:03: Das muss man sich wirklich mal auf der Zunge zergehen lassen.

00:48:08: Ja, und das hat weitreichende Folgen eben für die Anbieter von Informationen.

00:48:13: Und das muss man in Blick behalten.

00:48:16: Obgleich, dass auch keine ganz neue Entwicklung ist.

00:48:19: Auch das ist schleichend gekommen.

00:48:20: über diese ganzen Features, die wir vorhin erklärt haben, hat das schon begonnen.

00:48:26: Aber jetzt sozusagen droht mit gerade diesen KI-Modus so wie so ein Schlussstein hinter dieser Entwicklung gesetzt zu werden, wo ganz viele Kommentatoren eben sagen, oh, da kann also wirklich das ganze Netz eigentlich in Gefahr durchgeraten.

00:48:41: Also auch eine spannende Perspektive, die einfach mal oben drüber aufspannen muss.

00:48:45: Ja, total.

00:48:46: Super wichtig.

00:48:48: Wir haben vorhin über Vertrauen geredet.

00:48:49: Lass uns noch mal dahin zurückkommen, weil es so ein wichtiges Thema ist.

00:48:53: Wir haben jetzt vorhin schon aufgezeigt, warum vielleicht blendes Vertrauen in Suchmaschinen nicht so eine gute Idee ist, weil eben Informationen auch falsch sein können.

00:49:02: Gleichzeitig haben wir uns angeschaut, dass das Vertrauen in KI steigt.

00:49:08: besamtgesellschaftlich und auch bei Jugendlichen.

00:49:13: Wieso ist das keine gute Idee?

00:49:14: Lass es da noch mal tiefer reingehen.

00:49:15: Wieso ist das so gefährlich?

00:49:17: Diese ganze Vertrauensfrage, diese ganze Vertrauenssache.

00:49:20: Also genau darum, warum soll es heute ja auch hauptsächlich gehen?

00:49:24: Tatsächlich, wir wollen diese Vertrauensfrage noch mal stellen, weil sie so unfassbar wichtig ist.

00:49:31: Man muss erst mal ein Ordnend sagen, es hat sich viel gebessert.

00:49:34: Das muss man dazugehen.

00:49:35: Also, vor einem Jahr auch noch gab es ... viel mehr solcher sogenannte Halluzination.

00:49:41: Wir setzen das immer bewusst in Anführungsstrichen, weil das so suggeriert irgendwie.

00:49:46: Da ist eine denkende Wesenheit und die denkt sich irgendwas aus, was KI mit Nichten ist oder diese Sprachmodelle nicht sind, sondern letztendlich ist es Bullshit.

00:49:54: Es ist einfach fabulierte zusammen gemächste Information, ein Knoll von Silben und Wörtern, die dann effektiv nicht mit der Wahrheit übereinstimmen.

00:50:06: Und das hat es damals viel, viel mehr gegeben.

00:50:09: Das ist deutlich besser geworden, das muss man wirklich sagen.

00:50:13: Auf der anderen Seite gibt es diese Fälle zweifelsohne immer noch.

00:50:17: Es wird ja auch nur dadurch besser, dass dadurch, dass diese Fälle bekannt werden, publik werden.

00:50:21: Also es gibt sehr viele KI-Fail-Beispiele aus der Vergangenheit und sobald aber die genug Aufmerksamkeit hatten, würde das irgendwie korrigiert.

00:50:29: Also diese Sachen funktionieren nicht mehr.

00:50:31: Das dauert aber natürlich oder ist eigentlich nicht zu bewältigen, dass wirklich alle diese KI-Fails irgendwann ans Licht kommen, besprochen werden, korrigiert werden, sondern das meiste davon passiert.

00:50:45: dir und mir und jedem anderen auch, gerade vielleicht so im Privaten.

00:50:49: Selbst wenn ich sehe, da hat KI ein Fehler gemacht, dann melde ich das ja nirgendwo.

00:50:53: Es gibt ja nicht irgendwelche Meldeportale oder eine Sammelstelle, wo ich sage, hier guck mal, ChatGPT macht hier was falsch, können wir das korrigieren.

00:51:01: Sondern häufig bleiben die Sachen unbemerkt.

00:51:03: Nach und nach werden es natürlich mehr Sachen, die irgendwie bemerkt werden, öffentlich besprochen werden, es wird korrigiert.

00:51:10: Aber es wird immer Dinge geben, die nicht ... die es noch nicht gab, die vorher noch nicht angefragt werden, wo es noch niemandem aufgefallen ist, dass es falsch ist.

00:51:19: Ganz genau.

00:51:19: Und es ist auch technisch, soweit ich das zumindest weiß, gar nicht möglich, dass du wirklich diese hundertprozentige Sicherheit hast.

00:51:26: Und das hat mit dieser Funktionsweise im Prinzip zu tun, weil es ja am Ende probabilistische, also auch auf Wahrscheinlichkeiten basierende Systeme sind, die die Ketten von sogenannten Tokens, also Wortbestandteilen, war einfach gesagt.

00:51:42: Ja, zusammenführen und die Wahrscheinlichkeit des nächsten, der nächsten Silbe, des nächsten Satzzeichens, des nächsten Worts eigentlich auf Basis ist das Kontext davor.

00:51:51: Wieso so ein Lückentext, so die Autofilmfunktion am Smartphone oder so.

00:51:56: Damit kann sich das noch mal so...

00:51:57: Ja, ist ein guter Vergleich, genau.

00:52:02: Man muss sich immer klar machen, da versteht... Niemand etwas.

00:52:05: Und da hat auch nie jemand etwas wie ein Journalist nachgeprüft oder verifiziert oder irgendwo angerufen, ob das wirklich stimmt.

00:52:11: Das passiert alles da nicht.

00:52:13: Es ist aber ganz vielen Menschen eben nicht bewusst, weil das Ganze in der Interaktion so unfassbar menschlich wirkt.

00:52:20: Und eben mit so einer gewissen ... Ja, auch mit einem gewissen Duktus halt vorgetragen wird.

00:52:26: Und zurückkommt auf diese Halluzinationen, es gibt die immer noch.

00:52:31: Und ich hab mich auch noch mal auf die Suche gemacht.

00:52:34: Und hab mir auch gefragt, wie kann man das zum Beispiel im Unterricht auch gut mal einfach mal so ausprobieren?

00:52:38: Und dann fängst du natürlich an bei Dingen, wo man sich recht sicher ist, dass Sachen stimmen und wo man viel Wissen zu hat.

00:52:45: Das ist meistens die eigene Person, sollte es zumindest sein.

00:52:48: Auch bei meinem löchrigen Gedächtnis fallen mir da manche Dinge ein, die ich zu mir selbst sagen kann.

00:52:53: Und da hab ich dann einfach mal auch ... was jetzt in dem Fall der KI-Modus zu meiner eigenen Person denn so gesagt

00:52:59: hat.

00:53:00: Und?

00:53:00: Und dann hat er erst korrekterweise eben gesagt, ja, es gibt mehrere Personen mit den Namen, was ja auch völlig stimmt, hat mich dann aber als eine Person beschrieben, wo eben Details drin waren, die allesamt gestimmt haben.

00:53:13: Also ich hab mal Leistungssport gemacht, bin gelaufen und war da halt relativ.

00:53:21: Ganz gut unterwegs, im Vergleich zu anderen natürlich alles noch ausbaufähig.

00:53:25: Also diese Informationen haben alle gestimmt.

00:53:27: Ich hatte erst mal sofort eine High Effect, krass.

00:53:29: Ich habe nur meinen Namen eingegeben, so sofort habe ich eine krasse Zusammenfassung.

00:53:34: Die KI kennt dich und deine spritzen Sportler vergangen.

00:53:36: Das

00:53:37: Gefühl lasst wir auch sofort.

00:53:38: Das ist ja Wahnsinn, super.

00:53:39: Und dann habe ich mal weiter mir das angeguckt, was dann noch so für Informationen ausgegeben wurden, so quasi als Kontext.

00:53:46: Und dann waren dann zum Beispiel auch Bestseiten genannt, die ich angeblich gelaufen wäre.

00:53:52: Und dann wurde tatsächlich eine falsche Bestseite ausgegeben.

00:53:55: Bist du dir sicher, dass du sie nicht falsch im Kopf hattest?

00:53:58: Das habe ich mir natürlich als kritischer Mensch, wie ich bin, auch sofort gedacht, vielleicht ist einfach deine Erinnerung verblasst.

00:54:04: Und dann ist mir das so wie Schuppen vor der Augen gefallen, dass wieder da die Art und Weise, wie man jetzt als Mensch auch über eine klassische Suchmaschinsuche wohlgemerkt vorgehen würde, Doch eine ganz andere ist, man würde jetzt überlegen, okay, jemand ist im Sportverein.

00:54:18: Dann stelle ich erst mal diese Verbindung her.

00:54:19: Könnte es sein, dass auf der, zum Beispiel der Website, dieses Sportverein, sofern es die gibt, nicht da Informationen, so wie eine besten Liste, eine ewige besten Liste irgendwo hinterlegt ist.

00:54:32: So würdest du rational daran gehen.

00:54:34: Genau das habe ich in dem Fall gemacht.

00:54:36: Und dann hab ich das auch gefunden und hab in dieser ewigen Bestenliste nachgeschaut.

00:54:41: Da stand eine andere Zeit.

00:54:42: Da war ich mir eigentlich sicher.

00:54:43: Da stand die Zeit, die du auch im Kopf hattest.

00:54:45: Die Zeit, die du im Kopf hattest, war richtig.

00:54:47: Die Zeit, die die KI gesagt hat, war falsch.

00:54:49: Haluziniert.

00:54:50: Die war haluziniert.

00:54:51: Und ich hab dann auch versucht, quasi diese falsche Antwort zu rekonstruieren.

00:54:56: Im Sinne von diesen, was wir gerade sagten, Reverse-Engineering zurück.

00:54:59: Wo hat er die denn her?

00:55:00: Hab dann gezielt danach gefragt, was ist denn deine Quelle dafür?

00:55:03: Und das war auch immer ausweichend.

00:55:05: Oder wurde dann irgendwie auf eine Datenbank des Leichtathlegendeverbands verwiesen, die ich aber gar nicht zugreifen kann.

00:55:12: Also ich konnte das nicht verifizieren und es kann eben nicht stimmen.

00:55:15: Weil ich habe mich mit dieser Zeit auch damals qualifiziert für eine Veranstaltung.

00:55:21: Das kann man alles nachprüfen.

00:55:23: Das kann nicht stimmen.

00:55:24: Und das war für mich wieder so ein schönes Beispiel.

00:55:27: Ganz einfach, wo man mal das sehen kann.

00:55:31: Vorsichtig sein.

00:55:33: Das ist, finde ich, eine sehr schöne Idee.

00:55:35: Oder vielleicht kann auch beängstigend werden, das an der eigenen Person mit dem eigenen Namen auszuprobieren.

00:55:41: Was man auch durchaus im Unterricht oder als Hausaufgabe geben kann.

00:55:45: Was kommen denn dafür Informationen?

00:55:46: Man kann dann auch noch mal eine ganz andere Debatte aufmachen zum Thema Datenschutz, um das zu besprechen in der Schule.

00:55:53: Was möchte ich, welche Informationen gibt es von mir im Netz?

00:55:56: Und welche davon möchte ich vielleicht nicht teilen?

00:56:00: Aber gerade eben auch, wenn es so die eigene Person angeht, das ist jetzt bei dir vergleichsweise ein harmloses Beispiel, weil es geht eben nur um diese Zeit, die macht, also jetzt heute bringt dir das nichts mehr, ob die jetzt schlechter oder besser ist oder so.

00:56:16: Das ist aus der Vergangenheit und das ist nichts, was irgendwie groß

00:56:20: folgen hätte

00:56:21: oder irgendwas über deine Persönlichkeit oder so aussagt.

00:56:24: Aber es gibt ja durchaus auch Fälle, gerade wenn es eben um Menschen geht, was weiß die KI über Personen?

00:56:31: wo das unangenehmer werden kann.

00:56:33: Und es gab da dieses Beispiel, das war jetzt auch gerade relativ aktuell, mit einer Journalistin, Selina Euchner, die auf mehreren KI-generierten Nachrichten seiten.

00:56:46: Da müssen wir überhaupt auch gleich erst mal noch darüber sprechen, dass es das gibt.

00:56:51: Genannt wurde als die Freundin.

00:56:54: Oder Mutter der Kinder oder Partnerin auf jeden Fall, das Deutschrappers Kontra K, das stimmt nicht.

00:57:01: Also sie ist nicht seine Freundin und sie ist auch nicht eine Freundin von ihm, sondern die beiden kennen sich eigentlich gar nicht.

00:57:08: Und ihr ist das eben zugetragen worden oder aufgefallen, dass sie da genannt wird als seine Partnerin und hat versucht, der Sache so auf den Grund zu gehen.

00:57:17: Woher kommt das?

00:57:18: Und es war wirklich auf... Hunderten solcher KI-generierten Seiten stand diese Information.

00:57:25: Chatbots wiederum ziehen sich ihre Informationen ja auch von solchen Seiten.

00:57:29: Also die unterscheiden ja auch nicht nach Vertrauenswürdigen oder nicht Vertrauenswürdigen Quellen.

00:57:32: Und ich meine, das müsste ich also mal nachgucken.

00:57:35: Ich meine, dass auch gelesen zu haben, dass selbst dann auch ChatGBT zum Beispiel später das so angegeben hat.

00:57:41: Also sie als Freundin von Kontra-K genannt hat.

00:57:44: So, sie hat das recherchiert und vermutet, dass diese Info ursprünglich sich eine KI gezogen hat aus einem Interview oder Interview, was sie vor einigen Jahren geführt hat mit dem Rapper.

00:57:56: Das war der einzige Berührungspunkt, den sie jemals mit ihm hatte.

00:58:00: Und dass die KI da irgendwas halluciniert hat, weil eben der Name dieser Journalisten und der Name des Rappers dort

00:58:09: in

00:58:10: Verbindung aufgetaucht sind irgendwie.

00:58:13: Und sie selbst ... Sie selbst hat gesagt, Zitat, ich fühle mich bloß gestellt, irgendwie beschmutzt.

00:58:23: Nichts davon stimmt, aber für wen spielt das eine Rolle?

00:58:27: Und das zeigt so schön, wie problematisch das auch werden kann, auch gefährlich, so Verleumdungen auch von Personen, Rufmord.

00:58:37: Ich weiß nicht, was da alles noch passieren kann.

00:58:40: Und auch bei Personen ... Klar ist sie als Journalistin auch irgendwie mit ihrem Klarnamen im Web zu finden, aber sie ist jetzt keine Berühmtheit.

00:58:51: Sie ist keine Person des öffentlichen Lebens, wo man irgendwie sagen würde, ja, klar, bei irgendwelchen Stars gibt's ja immer irgendwelche komischen Gerüchte oder so, sondern es kann ganz normale ...

00:59:02: Kann jeden treffen.

00:59:03: ... Menschen

00:59:03: wie dich und mich kann sowas treffen und Folgen haben.

00:59:07: Und auch da dann, wie sie es berichtet hat ... dass es total schwer war, an die Wurzel irgendwie zu gehen von dieser Nachricht und auch rauszufinden.

00:59:19: Also erst mal, woher kam das?

00:59:21: Und dann aber auch, wie werde ich jetzt diese Informationen wieder los aus dem Netz?

00:59:25: Es gibt eben diese KI-generierten Nachrichtenseiten, die aussehen wie echte Nachrichtenseiten, aber alles darauf ist KI-generiert und zum großen Teil auch einfach haluziniert dann.

00:59:34: Und es ist nicht so leicht herauszufinden, wer steckt dahinter, wer ist verantwortlich für die Inhalte auf dieser Webseite und wer kann auch... Artikel wieder löschen.

00:59:42: Ja, und das ist Verantwortung, Haftung, das ist genau auch das Stichwort.

00:59:47: Da sind ganz viel ja auch noch ungeklärte Fragen, weil genau das, was du gestildert hast, das gibt es bei Unternehmen auch.

00:59:54: Also da gibt es auch diverse Fälle, wo im Endeffekt rufschädigend, rufschävenigende Informationen, falsche Informationen durch GPD und Co.

01:00:02: ausgegeben wurden, wo wirklich dann ja ... Aufträge ausgeblieben sind, was auch immer aufgrund dieser Information, die einfach nicht stimmten.

01:00:13: So, das hat also reale Folgen.

01:00:14: Du hast es gerade beschrieben, das sind persönliche Folgen, die also auch schon weitreichend sein können.

01:00:21: Es kann wirtschaftliche Folgen haben, es kann aber auch sich zum Beispiel auch auf die politische Meinungsbildung auswirken.

01:00:27: Und da ist mir noch eingefallen, da gab es ja auch, ich glaube Mitte letzten Jahres, Auch diesen Fall mit einem erfundenen Leserbrief, der sie in den Spiegel geschafft hatte, der eigentlich eine falsche Information über Friedrich Merz dem aktuellen Bundeskanzler enthalten hat.

01:00:48: Das war potenziell damals auch einstellungs- oder auch wahlrelevant, weil da eben behauptet wurde, der hätte an der Universität St.

01:00:56: Gallen in Schweiz irgendwie als Honorar-Professor Wirtschaftswissenschaftsvorlesung gehalten.

01:01:03: Und die wären ganz furchtbar gewesen.

01:01:04: und dann hättest du Moulte gegeben, der Studenten, die sich dagegen irgendwie aufgebracht hatten.

01:01:09: Und es stellte sich eben heraus, dass dieser Leserbrief Einsender im Endeffekt auch, ich glaube, es war Diebsiq und ChatGPT befragt hätte, weil er irgendwie sowas gehört hatte.

01:01:20: Und die hatten ihm das mehr oder weniger bestätigt.

01:01:23: Und deswegen hat er das... dem Spiegel geschickt.

01:01:26: und der Spiegel hat eben das Versäumnis in dem Fall getan sozusagen, dass sie das nicht gegen geprüft

01:01:32: haben.

01:01:33: Aber all diese Beispiele zeigen ganz gut, das kann, also diese Halluzination, diese falsche Information, die können reale Folgen haben.

01:01:41: Das ist nicht mal eben so von der Hand zu wischen, auch wenn die Wahrscheinlichkeit dafür insgesamt schon deutlich... abnimmt.

01:01:48: Sie nimmt ab, aber sie ist nicht null.

01:01:50: Und gerade wenn es dann eben um die Schicksale einzelner Menschen geht, gerade wenn es in die Richtung geht zu rufschädigende Gerüchte, die dann in die Welt gesetzt werden, die vielleicht auch jetzt nicht nur Wahlentscheidungen beeinflussen, sondern auch jetzt außerhalb der Politik leicht dazu führen, dass du einen Job nicht bekommst oder so.

01:02:10: Also ... Das kann einfach sehr verheerende, im Einzelfall sehr verheerende Auswirkungen haben auf einzelne Menschen.

01:02:18: und wie viel Prozent ist wenig genug, um es irgendwie in Ordnung zu finden.

01:02:24: Also sagen wir, es werden nur fünf Prozent der Antworten sind halluciniert, deswegen ist es okay.

01:02:30: Oder sollten wir da einen anderen Anspruch haben an die KI, die als wirklich so alles Wissen des ... tool verehrt wird.

01:02:40: Und dass man nicht einfach leichtsinnig überall mit einem kleinen Hinweis, KI kann Fehler enthalten, KI kann sich irren, was an sich schon auch wieder problematisch ist, weil auch das wieder Vermenschlichung ist, sich da aus der Erfahrung zieht.

01:02:54: Also falsche Angaben über Halluzinationen sind im Prinzip diese eine wichtige Dimension, die man immer im Blick haben sollte.

01:03:03: um eben zu erkennen, ja, also blind vertrauen ist keine gute Idee.

01:03:07: Das haben wir uns jetzt angeschaut, auch da nur noch mal ganz kurzen Randnotiz, also da gibt es auch eine ganz, ganz spannende Untersuchung der Europäischen Rundfunkunion, EU, die da eben auch verschiedenste Ausgaben von LLMs, ich glaube, es waren über circa dreitausend Antworten auf dreißig definierte Fragen analysiert haben.

01:03:30: und Da kam dann auch tatsächlich darum, dass forty fünf Prozent der Ausgaben mit mindestens einem signifikanten Fehler.

01:03:40: Einher gingen und das ist natürlich enorm, wenn man sich das überlegt, fast die Hälfte.

01:03:45: Ein dreißig Prozent hatten da falsche Quellenangaben, zwanzig Prozent wirklich falsch Informationen oder veraltete Informationen.

01:03:53: Und das zeigt schon, das sind schon hohe, immer noch Prozentwerte.

01:03:56: Auch da muss man leider Gottes immer einschränken, sagen, dass auch das wieder nicht mehr ganz den aktuellen Stand abbildet.

01:04:03: Weil das eben schon alte Modelle waren.

01:04:06: Und jetzt sind wir schon wieder bei neuen Modellen, die natürlich besser sind.

01:04:10: Aber auch da muss man immer sagen, was nutzen wir denn?

01:04:14: Die meisten Menschen und auch junge Menschen vor allen Dingen sind meistens die kostenfreien Modelle, die auch von der Performance her natürlich nicht immer die besten sind.

01:04:23: Also gerade diese sogenannten Reasoning oder Fanking-Modelle, die länger bearbeiten, die tiefer gehen, die strukturierter vorgehen, die führen durchaus zu besseren Informationen.

01:04:36: Aber die meisten Menschen von uns haben da gar keinen Zugriff drauf.

01:04:39: Auch das ist immer eine Dimension, die man noch reinbringen muss.

01:04:41: Aber das ist sozusagen dieser eine Ebene Halluzination.

01:04:45: Und dann gibt es aber auch weitere, sagen wir mal, Problemquellen.

01:04:49: Und das sind eigentlich Informationen, die entstehen nicht, weil das irgendwie technisch bedingt ist, sondern weil da gezielte Manipulationen ... Passiert seitens bestimmte Akteure.

01:05:02: Und da erinnere ich mich noch ganz gut zurück.

01:05:05: Das war auch irgendwann im Jahr zweitausendfünfzwanzig, ich glaube im Mai, wo der südafrikanische Präsident dabei, Trump zu Besuch war, auf Staatsbesuch und auf einmal diese White Genocide Verschwörungserzählung, die Runde mache.

01:05:20: Das kam ursprünglich aus dem Gedankenmodell von Elon Musk, der zu der damaligen Zeit auch noch eng an der Seite von Donald Trump war.

01:05:28: Donald Trump.

01:05:29: konnte sich mit dieser Idee auch assoziieren, ist quasi auf den Zug aufgesprungen.

01:05:36: Und die haben dann ja auch fingiertes Material bei diesem Staatsbesuch vorgeführt.

01:05:41: Der spannende Punkt war aber, dass Elon Musk eben als Besitzer von Ex und eben auch Entwickler sozusagen oder an der Spitze der Entwicklung von deren Chatbot Grock, ja ... wo man nicht nachweisen kann, ob das natürlich durch ihn kommt.

01:06:03: Aber da gab es dann auf einmal so eine Anomalie, dass auf einmal GROC zu einer bestimmten Zeit auch diese Verschwörungserzählung gepusht hat.

01:06:10: In allen möglichen Anfragen war es noch nicht mal nachgefragt.

01:06:12: Auf einmal kriegtest du Ausgaben, die im Prinzip bestätigt haben, dass es das gibt in Südafrika.

01:06:18: Das ist wahnsinnig,

01:06:20: ganz genau.

01:06:21: Und dann haben sie irgendwann in einer Untersuchung gesagt, ja okay, da hätte es eine Änderung an ein System prompt gegeben, der im Prinzip prächt, wie die Persönlichkeit grocks ist und auf welche Art und Weise er antwortet.

01:06:33: Wenn man sich die Besitzverhältnisse anschaut, ist das ja ein riesiges politisches Macht- und Sensorenstrument, was in den Händen einzelner Unternehmen liegt, die dann auch noch extrem verbandelt sind, zum Beispiel mit der US-amerikanischen Regierung.

01:06:49: wo man ganz gezielt auch Meinung steuern kann.

01:06:51: Es bietet unglaubliches Manipulationspotenzial auf jeden Fall.

01:06:56: All diese Punkte, die wir jetzt aufgezählt haben, machen eigentlich nur eins deutlich.

01:07:01: Es ist wichtig... Nicht blindes Vertrauen zu üben und sich darauf zu verlassen und sich auch immer dieser schwierigen Mechanismen bewusst zu sein, dass da eben eine Vermenschlichung dauern stattfindet.

01:07:11: Wir merken gerade selbst, wir reden irgendwie von er hat gesagt, das ist ultra schwer, auch Sprache, die damit sauber umzugehen.

01:07:17: Es geht

01:07:17: sehr schnell, dass man da so weit rutscht.

01:07:19: Aber das macht was mit uns.

01:07:20: In dem wir schon so sprechen, haben wir ein höheres Vertrauen.

01:07:24: Die Art und Weise, wie die Tools mit uns kommunizieren.

01:07:28: Schafft auch irgendwie so eine Art Over-Confidence, dass wir da sehr schnell irgendwie einfach auf dem Zug aufspringen.

01:07:33: Ja, wird schon stimmen.

01:07:34: Also das muss man sich immer wieder bewusst sein und das ist ganz wichtig auch im Unterricht und im Basis von als Grundlage von Informationskompetenzvermittlungen anzubringen.

01:07:44: Und das leitet uns, glaube ich, elegant.

01:07:47: Genau, also wir haben uns jetzt angeschaut, also die... Die Art, wie wir nach Informationen im Internet suchen, das hatte sich über zwanzig, dreißig Jahre irgendwie etabliert mit Google da als Platzheelschampus vorhin genannt.

01:08:00: Und das hat sich jetzt innerhalb kürzester Zeit geändert oder ist gerade dabei, sich in sehr kurzer Zeit drastisch zu ändern.

01:08:09: Die Suchmaschine wird gewissermaßen zu einer Antwortmaschine, sollten wir es am Anfang auch genannt.

01:08:13: Wir haben uns angeschaut, dass es nicht immer alles richtig, was dabei rauskommt.

01:08:16: Da sind viele Tücken und Fehler auch drin versteckt.

01:08:21: Gleichzeitig steigt das Vertrauen in die KI in der Gesellschaft.

01:08:25: Was bedeutet das in der Schule?

01:08:26: Was können wir im Unterricht tun?

01:08:27: Wie können wir Kinder und Jugendliche am besten auf diese Welt, in die sie hineinwachsen jetzt, die geprägt ist von KI vorbereiten?

01:08:37: Gerade im Hinblick auf Informationssuche.

01:08:40: Ist eine sehr große Frage, die ... Garantiert auch nicht, wie wir jetzt vollumfassend hier beantworten können, aber wir können versuchen mal so ein paar Dinge mitzugehen.

01:08:48: Einmal muss sich, glaube ich, das Verständnis von Informationskompetenz und ja auch im weitesten Sinne von Suchmaschinen einfach ändern.

01:08:58: Da gibt es auch einen super spannenden Artikel, den verlinkt wurde, euch auch mal in den Show Notes des Medienwissenschaftlers Michael Keres, der Ja, auch im Titel gesagt hat Informationskompetenz neu denken, was das genau schön zusammenfasst, dass da einfach was passieren muss.

01:09:14: Warum?

01:09:15: Bisher war es zum Beispiel so, dass ja Informationskompetenz vor allen Dingen auch, wenn es um die Online-Suche von Informationen ging, darauf abgestellt hat, ja.

01:09:23: Wie funktionieren denn jetzt die klassischen Suchmaschinen?

01:09:26: Wie sind Ranking-Mechanismen?

01:09:28: Also warum ist das in welcher Reihenfolge?

01:09:30: Warum sind nicht unbedingt die ersten Treffer die besten?

01:09:33: Wie finde ich gute Schlagwörter?

01:09:34: Wie

01:09:34: finde ich gute Schlagwörter?

01:09:35: Genau, was für, man spricht von Operatoren.

01:09:38: Also was kann ich noch besser machen, um bessere Ergebnisse zu erzielen?

01:09:42: Phrasensuche in Anführungsstriche setzen und und und.

01:09:45: Das war im Endeffekt so ein bisschen die alte Logik, was man so vermittelt hat.

01:09:48: Das ist nicht komplett unwichtig geworden und auch nicht falsch und weiterhin auch immer noch.

01:09:53: einfach gute Dinge, die man tun kann, machen wir ja unter anderem auch.

01:09:56: In unserer Unterrichtseinheit besser recherchieren gehen wir da auch noch mal gezielt darauf ein.

01:10:02: Aber das kann nicht mehr alles sein, weil wir haben heute gesehen, da ist hat sich ganz viel verändert und diese klassische Definition von Suchmaschinen, die ist einfach nicht mal die Taug nicht mehr.

01:10:13: Deswegen brauchen wir da eigentlich sowas wie eine Redefinition und Wir müssen eigentlich dieses kritische Denken, dieses kritische, das kritische Denkvermögen noch mehr in den Mittelpunkt stellen von allen möglichen Vermittlungsprämien, weil das ist wie eine noch mal potenzieierte Kulturtechnik.

01:10:31: Das war schon früher wichtig, aber das wird umso wichtiger, wenn wir quasi von hinten das Feld aufrollen

01:10:36: müssen.

01:10:37: Genau.

01:10:37: Weg vom Auswendiglernen, denn wir brauchen das immer weniger in unserem Alltag.

01:10:42: Wir haben ... Die Informationen sind irgendwie alle da.

01:10:44: Wir müssen aber wissen, wie können wir sie überprüfen.

01:10:47: Und deswegen wird es immer unwichtiger, eben ganz viel in der Schule einfach ganz viel Wissen, trockenes Wissen anzuhäufen.

01:10:55: Wenn ich nicht gleichzeitig oder noch viel vordergründiger lerne, wissen, was mir an anderer Stelle irgendwie reingegeben wird, zu überprüfen, zu hinterfragen, Quellenkompetenz noch mehr zu lernen und auch wirklich mich ganz kritisch mit auch dieser... persönlichen Ebene, die KI Chatbots zu uns aufbauen, die eben dieses Vertrauen stärken, das irgendwie kritisch zu hinterfragen und auch zu verstehen, wieso vertraue ich denn dem Chatbot so sehr?

01:11:25: Wieso vertraue ich dem Chatbot denn vielleicht mehr als meine eigenen Google-Suche?

01:11:32: Weil ich eben vielleicht noch diese persönliche Ebene habe, weil es so Vertrauenserwecken klingt.

01:11:38: Genau, aber es ist halt auch wirklich, und das ist mir auch noch mal irgendwie ein persönliches Anliegen, geht ein bisschen auch vielleicht in eine Meinungsäußerung über, aber auch wirklich uns als Menschen quasi nicht aus diesem ganzen Prozess immer weiter heraustreiben zu lassen.

01:11:54: Also wir sollten der entscheidende Filter für Informationen eigentlich sein und bleiben, da bin ich eigentlich ganz überzeugt von und eben nicht die Maschine.

01:12:04: was wir gerade oder was wir heute anhand der Suchmaschine, Entwicklung der Suchmaschine und den ganzen KI-Tools dargestellt haben, das betrifft eben auch viele weitere Ebenen, die wir aktuell beobachten.

01:12:15: Also bei Social Media-Plattformen gibt es eine ähnliche Entwicklung.

01:12:19: Das heißt, wir geben überall eigentlich immer mehr Kuratierungshoheit, Eigenverantwortung, Anteile von uns selbst

01:12:26: ab,

01:12:27: sowohl was die Produktion, die Auswahl, die Gewichtung und Einordnung irgendwie von Content anbetrifft.

01:12:32: Und das, sag ich jetzt, ist eine Meinungsäußerung, aber das ist für mich nicht erstrebenswert auf lange Sicht, weil da geht es sehr, sehr viel verloren.

01:12:42: Und Lernen bedeutet ja auch eben eigentlich der Weg zum Ziel, ist das Entscheidende und nicht, dass ich am Ende das Ergebnis irgendwo möglichst perfekt habe und dass es einfach vom Himmel fällt, sondern darauf kommt es eigentlich an.

01:12:55: Und das drohen wir ein Stück weit dazu verlieren, wenn wir uns darauf verlassen.

01:13:00: Damit

01:13:00: die Qualität nicht auf der Strecke bleibt?

01:13:01: Genau,

01:13:01: damit die Qualität nicht auf der Strecke bleibt und die Verlässlichkeit.

01:13:04: Und die Frage ist aber, ob wir uns gesellschaftlich darauf kommenten können, dass wir uns die Zeit auch noch geben.

01:13:10: Denn wenn wir immer mehr in diesen Normalmodus reinkommen, dass das das New Normal ist, alles einfach über KI auszugeben und diese Schritte nicht zu machen, das ist ja das eigentlich Versprechen, die Bequemlichkeit, dass es alles noch schneller geht, dann wird das die Neuerwartungshaltung.

01:13:25: Und das kann es eigentlich nicht sein, also auch da ein Zeichen zu setzen, nein, das ist wichtig.

01:13:31: Und das ist uns wert, diese Qualitätssicherung, die Brauchzeit.

01:13:35: Das ist einmal ein Eintreten für unsere Eigenverantwortung, aber auch letztendlich für gute journalistische Arbeit, weil die funktioniert auch so.

01:13:42: Die kann nicht so schnell funktionieren.

01:13:45: Wenn ihr das Thema im Unterricht besprechen wollt und die Informationskompetenz eurer Schülerinnen und Schüler stärken möchtet, dann findet ihr auch wie immer zu dieser Folge einen maßgeschneiderten Unterrichtsimpuls und den verlinken wir euch in den Show Notes.

01:13:59: Und außerdem werden es vorhin schon einmal ganz kurz so angeschnitten, findet ihr bei uns auf dem Campus auch Unterrichtseinheiten zum Thema besser recherchieren, zum Thema Fakt oder Fake News.

01:14:09: Wenn ihr generell euch mit dem Thema Desinformationen erkennen, Informationen im Internet suchen und finden im Unterricht beschäftigen wollt.

01:14:21: Und auch ganz spannend, wir haben ja noch diesen Campus Talk, den haben wir Ende letzten Jahres aufgenommen.

01:14:26: Eine Folge dazu zu einem sehr ähnlichen Thema, was wir heute eben beackert haben.

01:14:32: Auch da immer mal spannend zu gucken, was sich in dieser Zeit getan hat und was vielleicht auch übergeordnete Fragen sind, die weiterhin relevant bleiben.

01:14:40: Und als kleiner Aufruf an euch tatsächlich wird uns mal interessieren, welche Wir nennen es mal Halluzinationen.

01:14:49: Welche Falschinformationen ihr vielleicht durch KI schon ausgegeben habt.

01:14:54: Welche KI Fails?

01:14:57: Welche KI Fails sind euch schon untergekommen?

01:15:01: Teilt sie gerne mit uns.

01:15:02: Wir haben vorhin darüber geredet, es gibt keine Sammelstelle für diese Fehler, die die KI macht.

01:15:09: Und es würde uns total interessieren, was es euch alle schon begegnet.

01:15:13: Genau so ist es.

01:15:14: Vielen, vielen Dank.

01:15:16: Bis zum nächsten Mal.

01:15:17: Bis

01:15:17: dann.

01:15:18: Macht's gut.