#07 Bonus | Ausgegoogelt: Recherche mit KI — eine gute Idee? | Interview mit Frau Heike Baller

00:00:00: Willkommen zu einer kleinen, aber feinen Bonus-Folge zu unserer Folge Nummer sieben zum Thema, wie KI die Internetsuche verändert.

00:00:08: Wir hatten im Nachgang nämlich noch die Möglichkeit mit einer Expertin zu sprechen, die sich in ihrer eigenen Arbeit intensiv mit Informationsrecherche auseinandersetzt und hier unter anderem auch der Frage nachgeht, ob und inwiefern die KI-gestützte Online-Suche eigentlich eine gute Sache ist.

00:00:25: Dieses Gespräch wollen wir euch im Zeichen des diesjährigen Safer-Internet-Days, der unter dem Motto KI&MI in künstlicher Beziehung steht, natürlich keineswegs vorenthalten.

00:00:35: Wir wünschen viel Spaß und bitten die teilweise eingeschränkte Tonqualität auf meiner Seite zu entschuldigen.

00:00:51: Liebe Heike, zunächst vielen Dank erst mal für deine Zeit, dass du hier bist.

00:00:56: Wir sprechen ja nicht das erste Mal zusammen, denn wir haben ja schon Ende des Jahrhunderts, bei der Interviorei mit KI, Leben und Lernen natürlich kritisch-menschlich das Vergnügen gehabt und persönlich bei uns im Studium zusammengesprochen.

00:01:09: Und pinzigerweise haben wir auch genau zu... genau dem gleichen Thema eigentlich gesprochen, was auch unsere letzte Folge eigentlich gekennzeichnet hat, nämlich zum Einzug generative KI in die Online-Suche und was das eigentlich so für Folgen mit sich bringt.

00:01:24: Inzwischen ist ja einiges an Zeit so den Fluss der Zeit heruntergeflossen.

00:01:30: Also haben wir uns gedacht, dass wir dringend dringend Zeit mal für ein kleines Update.

00:01:35: Aber bevor wir jetzt so richtig inhaltlich einsteigen, vielleicht erstmal ein paar einleitende Worte von dir zu dir selbst, ja, für unsere Zuschauerinnen und Zuhörerinnen, die dich ja auch vielleicht noch nicht kennen, die auch den Campus Talk noch nicht angeschaut haben, wer bist du und was tust du eigentlich?

00:01:51: Okay, also ich bin Heike Waller, ich arbeite in Köln, ich bin für Zeit... inzwischen über dreißig Jahren freiberufliche Rechercheuren.

00:02:02: Das heißt, ich habe am Anfang wirklich damit angefangen, dass ich in die Bibliothek gegangen bin und Zettelkataloge gewälzt habe, um Informationen für Leute rauszufinden, die keine Zeit hatten, das selbst zu tun.

00:02:12: Und habe dann im Laufe dieser drei Dekaden nun also mitbekommen, wie sich das verändert hat, als das Internet immer populärer wurde und Social Media dazu kam und dann eben jetzt vor Gut drei Jahren auch die KI, habe mich da also überall eingearbeitet, biete Recherche Dienstleistungen an.

00:02:34: Das heißt, man kann mich eben beauftragen und ich gebe Seminare und Webinare rund um Internetrecherche und wissenschaftliche Literaturrecherche.

00:02:45: Das heißt, ich habe an verschiedenen Hochschulen unterrichtet, ich habe verschiedene andere Kundinnen und Kunden, die solche Webinare meistens seit der Pandemie bei mir buchen, wo ich dann Leute darin Unterweise oder ihnen Hilfestellung gebe, wie sie ihre Recherche effizienter gestalten können, worauf sie achten müssen, was es überhaupt für Möglichkeiten gibt über Google hinaus und dann natürlich auch welche Möglichkeiten oder auch nicht Möglichkeiten, die KI bildet.

00:03:20: Vielen Dank.

00:03:21: Ich glaube Lehrkräfte oder pädagogische Fachkräfte sind ja auch oft darunter oder dabei bei deinen Seminaren, wenn ich mich richtig auch noch erinnere.

00:03:28: Ist das richtig?

00:03:29: Ich war sogar an einer Schule, an einem Internat.

00:03:33: Ich habe dort einmal einen Vortragsabend für Eltern und Lehrkräfte und einen Seminar für Lehrkräfte gemacht.

00:03:40: Ja, das ist schon nett.

00:03:44: Ja, das glaube ich.

00:03:45: Das ist ja, wie gesagt, auch unsere Zielgruppe hauptsächlich.

00:03:49: Ja, und damit können wir eigentlich perfekt auch, glaube ich, ins Thema einsteigen.

00:03:55: All die Informationen, die du mir jetzt über deine Person eigentlich gegeben hast, würde ich all das gesagte bei der Nutzung von Angeboten jetzt von generativer KI, die es gibt, inzwischen auch so verlässlich da draußen finden.

00:04:09: Kommt drauf an und zwar auf die KI.

00:04:13: Also es gibt tatsächlich KI-Tools, die mir die goldsten Sachen unterstellen, immer noch.

00:04:20: Also das hat sich nicht geändert.

00:04:23: Was war das jetzt letztens?

00:04:25: Es gibt ja Suchmaschinen mit KI, die auch mit unterschiedlichen Sprachmodellen arbeiten, wo man das auswählen kann.

00:04:34: Und je nachdem bekommt man unterschiedliche Ergebnisse.

00:04:37: Bei einem Tool wurde ich jetzt mal wieder zu einer Journalistin.

00:04:42: die bei der ARD arbeitet.

00:04:44: Das wäre mir neu, das habe ich noch nicht gemacht.

00:04:47: Vor allem, weil das auch Blödsinn ist, weil die ARD ist keine Arbeitgeberin in dem Sinne, man wäre bei einem einzelnen Sender der ARD.

00:04:56: Muss man sich ja auch mal klarmachen.

00:04:58: Eine hat sogar mal, ich weiß nicht, ob das nicht sogar noch war, dass wir da schon drüber gesprochen haben, dass ich sowohl heute journal als auch tagesthemen moderiere.

00:05:10: Also da gibt es unterschiedliche Ergebnisse.

00:05:12: Ich bin auch schon zu bildenden Künstlerinnen geworden.

00:05:16: Also Berufsvorschläge für ein weiteres Leben habe ich genug.

00:05:20: Ja, super.

00:05:21: Spannend ja auch ein bisschen ja witzig an der Stelle, wenn es sich um solche Informationen handelt.

00:05:25: Das kann aber auch ganz natürlich ganz anders ausgehen.

00:05:28: Das haben wir auch in unserer Folge besprochen.

00:05:30: In meinem Fall, witzigerweise, kam auch falsche Bestseiten raus.

00:05:34: Ich habe damals mal sehr viel Leistungssport gemacht und ja, da kann man immer am Ende des Tages noch sagen, vielleicht ist das noch relativ folgenlos.

00:05:43: Aber es gibt ja eben auch ganz andere Fälle, wo das sehr problematisch wird in den Bereich von Rufschädigung auch reingehen kann.

00:05:49: wirklich persönliche Folgen, aber auch Folgen für Unternehmen etc.

00:05:52: und so weiter haben kann.

00:05:53: Also auch da schon so ein bisschen ist Obacht angesagt.

00:05:58: Auf jeden Fall, auf jeden Fall.

00:06:03: Es gibt ja die verschiedensten Studien dazu, wie KI, die Leute produktiver macht oder so etwas.

00:06:10: Ich finde, bei der Informationsbeschaffung funktioniert das nur sehr bedingt.

00:06:17: weil ich eigentlich alles, was die KI mir an Informationen ausspuckt, verifizieren muss.

00:06:24: Also ich kann durch KI-Tools einen Hack anbekommen, wenn ich nicht weiß, wie ich an ein Thema rangehe.

00:06:34: Aber wenn ich dann verlässliche Informationen will, dann muss ich jeden einzelnen Satz eines KI-Textes checken.

00:06:44: Das geht nicht anders.

00:06:47: Ein wichtiger Hinweis, weil es ist ja schon so, wenn man sich jetzt auch eben aktuelle Erhebungen so anschaut, zum Beispiel wie zuletzt die aktuelle Hymnstudie, die ja vor allen Dingen Mediennutzungsverhalten bei Jugendlichen, zwölf bis neunzehnjährigen eben sich jährlich mehr oder weniger anschaut, dass also die Nutzung von vor allen Dingen Stetschipitie, das sich so ein bisschen anschickt, das neue Google in Anführungsstrichen zu werden, drastisch zugenommen hat, gerade bei jungen Menschen, eben auch ganz dezidiert für die Informationssuche.

00:07:21: Und was ich noch viel bedeutender finde, eben auch dieses entgegengebrachte Vertrauen in solche Tools, also in die Verlässlichkeit der Ausgaben

00:07:29: etc.,

00:07:30: auch massiv zugenommen hat.

00:07:32: Also schon über jeder zweiter Befragte sagt das eigentlich.

00:07:37: Wie siehst du?

00:07:38: von diesem Hintergrund, was du auch gerade geschildert hast, diese Entwicklungen?

00:07:42: Sehr, sehr besorgt.

00:07:45: Kritisch, skeptisch.

00:07:46: Irgendwie sowas in diesem Umfeld.

00:07:51: Denn ich sag mal, ich hab mich schon, als es noch keine KI gab, immer gewundert, dass die Leute Google so vertraut haben.

00:07:59: Ich benutze Google schon seit Jahren nicht mehr, weil ich das einfach ein ziemlich grottiges Tool inzwischen finde, weil so viel Zeug nebenbei mit ausgespuckt wird, da bekomme ich Nachrichten, da bekomme ich Bilder, da bekomme ich Videos, ich will aber bitte meine Trefferliste.

00:08:13: Okay, ich bin Old School.

00:08:15: Und dieses Vertrauen, die ersten drei Treffer werden es schon bringen, das hat mich schon immer sehr erstaunt und ich habe mich mit Leuten unterhalten und war immer völlig wassungslos, mit welcher Einstellung daran gegangen wird.

00:08:31: und dass sich das jetzt auf ein Cool aus... weitet das bekanntermaßen?

00:08:42: Falschaussagen macht.

00:08:44: Falschaussagen macht klingt so nach Absicht.

00:08:46: Das ist ein Programm oder sind mehrere Programme natürlich.

00:08:50: Es sind Tools, die aufgrund von statistischen Wahrscheinlichkeiten Text generieren.

00:08:58: Und diese statistischen Wahrscheinlichkeiten und wie das berechnet wird und das alles ist eine Black Box.

00:09:04: Gestern sagte mir, jemand unser Gehirn ist auch eine Black Box.

00:09:07: Wir wissen nicht genau, wie das passiert.

00:09:08: Stimmt natürlich.

00:09:11: Aber bei uns kommen auch noch mal ein paar andere Sachen mit rein, sage ich mal jetzt so.

00:09:18: Dieses Vertrauen in ein Pool, weil es ein Computer ist, weil es in einem Computer ist, weil es... angeblich neutral ist, was ja alles nicht stimmt.

00:09:36: Aufgrund der Daten, mit denen diese Sprachmodelle befüttert und trainiert wurden, sind Verzerrungen, so genannte Bayer ist das ja, die regeln.

00:09:47: Und diese Anbieter schreiben ja auch immer unten drunter, bitte aufpassen, es können Falschaussagen da drin sein.

00:09:54: Das nimmt offensichtlich niemand ernst.

00:09:56: Ich finde das ja beunruhigend.

00:10:00: Ja, jetzt ist es so, vielleicht können wir da auch nochmal einfach den Unterschied klarmachen, also wirklich oft auf diesen Punkt gebracht.

00:10:10: Weil du hast ja auch gerade davon gesprochen, Old School hast du in den Mund genommen.

00:10:13: Also Old School sehe ich im Prinzip auch so ein bisschen als stellvertretend für diese wirkliche klassische Supmaschinen Suche, die ja lange Zeit gleich bedeutend einfach mit der Online Suche nach Information war.

00:10:24: Das ist ja mehr oder weniger seit fast dreißig Jahren jetzt so.

00:10:26: Ich bin damit auch groß geworden.

00:10:28: Das ist ganz selbstverständlich auch habitualisiert.

00:10:30: Das haben wir immer so gemacht.

00:10:32: Das wurde auch nicht groß reflektiert.

00:10:34: Auch mit diesen negativen Fragestellungen, die damit verbunden sind.

00:10:38: Du hast es angesprochen.

00:10:39: Wie wird da was gerankt?

00:10:43: Das war ja auch alles wichtig.

00:10:45: Also, wenn man das mal so in eine Nutshell packt, was ist denn jetzt eigentlich das Neue?

00:10:49: Was ist der große Unterschied zwischen dieser klassischen Nutzung von Sohnmaschinen und eben generativer KI, die hinter Shatchity-PT steckt, aber auch jetzt eben hinter neuen Geschichten, die ja die Bühne der Sohnmaschine eigentlich betreten haben, sowas wie der KI-Modus bei Google?

00:11:06: Der Unterschied liegt darin, dass textgenerative KI vorgibt, mir die Informationen bereits zusammengefasst, aufbereitet, verständlich dazu bieten.

00:11:21: Und ich nicht mehr hingehen muss und diese Sachen selber lesen muss.

00:11:27: Ich muss nicht mehr selber mir das zusammenschreiben.

00:11:30: Ich bekomme einen hübschen kleinen Text.

00:11:33: Das ist unglaublich komfortabel.

00:11:35: Also es gibt durchaus Themen, wo ich auch hingehe, wenn ich so erstmal überhaupt keine Ahnung habe, wie ich eine Information kommen soll, also Lebensbedingungen im siebzehn Jahrhundert in der und der Gegend oder so etwas.

00:11:50: Ja, dann sag ich mach mir da mal, schreib mir das mal auf.

00:11:55: Was ich immer bei jeder KI sage oder schreibe, ist, gib mir die Quellen an.

00:12:03: Das heißt, ich muss gegebenenfalls auch bei einigen Tools die Websuche anklicken und dann bekomme ich zusätzlich zu dem Text, den das Tool mir serviert, auch links zu Seiten im World Wide Web, die mehr oder weniger genau diese Informationen behalten.

00:12:27: Das heißt, aus denen die KI den Text zusammengerechnet hat.

00:12:34: Wenn ich eine klassische Suchmaschine benutze, bekomme ich nur diese Treffer.

00:12:40: Die bekomme ich nach einem bestimmten Ranking.

00:12:42: Das hast du gerade angesprochen, dass wir manchmal bei diesem Ranking nicht genau wissen, wie das zustande gekommen ist.

00:12:47: Da gab es dann große Kritik dran.

00:12:51: Deshalb habe ich immer gesagt, bitte verschiedene Suchmaschinen nutzen und so weiter.

00:12:57: Aber ich bekomme nicht etwas, was aufgrund eines bestimmten Sprachmodells schon ein fertiger Text zu sein vorgibt.

00:13:07: Das mit dem Sprachmodell ist deshalb wichtig, weil die unterschiedliche Bias es haben.

00:13:14: Ich weiß nicht, ob du das mitbekommen hast.

00:13:15: Das ist gerade

00:13:16: jetzt

00:13:17: vor ein paar Tagen, wo wir hier Anfang Januar, sechsundzwanzig aufnehmen, Kritik an der KI von Elon Musk gegeben hat, die Die Menschenwürde von Frauen und Kindern war sie schreddert.

00:13:35: Anders kann man das ja nicht ausdrücken.

00:13:39: Das heißt, wir haben es da mit einer KI zu tun, die bestimmte Biasis hat, weil bestimmte Moderationsgeschichten nicht vollzogen werden.

00:13:50: Die gewaltverherrlichende Sachen oder sexualisierte Gewalt oder so etwas rausfeldern.

00:13:58: Wir haben andere Sprachmodelle, wo das gemacht wird, die dann teilweise so glatt gebürstet sind, dass da auch Blödsinn nur rauskommt, letzten Endes.

00:14:13: Und wenn man sich jetzt also darauf verlässt, dass diese Tools, diese generativen Tools verlässliche Informationen rausgeben, blendet man das alles aus.

00:14:25: Und das ist einfach etwas, was man sich klarmachen muss.

00:14:28: Wir haben eine solche Fülle an Sprachmodellen, die von unterschiedlichen Tools genutzt werden, wo man teilweise auch wählen kann, je nachdem, bei welchem Tool man ist.

00:14:40: Und da sehe ich jetzt zum Beispiel für Lehrerinnen und Lehrer die Möglichkeit, dass sie sagen, okay, das ist ja immer auch... eingeschränkt, denke ich, von Schulnetzwerken und so weiter.

00:14:53: Aber wo das möglich ist, dann mal zu gucken, wenn wir das gleiche Tool nutzen.

00:14:58: Also zum Beispiel gibt es die Suchmaschine DuckDuckGo.

00:15:02: Da gibt es das Tool DuckAI und da gibt es verschiedene Sprachmodelle, die man auswählen kann.

00:15:08: Und dann kann man mal gucken, wie unterschiedlich die Ergebnisse sind.

00:15:11: Was ich da sehr spannend finde, ist, dass die auch angeben, ob dort Moderation stattfindet oder nicht, wenn man diese einzelnen Tools anklickt.

00:15:21: Das heißt, da kann man schon mal gucken, wie unterschiedlich ist das denn.

00:15:26: Also du hast vorhin gefragt, ob du verlässliche Informationen über mich bekommst, wenn du eine KI fragst.

00:15:32: Also innerhalb von diesem DUC AI, je nachdem, welches Sprachmodell, genutzt wird, bekomme ich unterschiedliche Antworten.

00:15:41: Bei dem einen bekomme ich ganz klar das, was auf meinen Websites steht und bei den anderen bekomme ich eben sowas wie ich bin Journalistin bei der ARD.

00:15:52: Ja, faszinierend, erschreckend, auf eine gewisse Art und Weise auch.

00:15:56: Wir haben uns in der Folge vor allen Dingen mehr aufgrund des tatsächlichen Nutzungsverhaltens darauf beschränkt, wirklich uns anzugucken, okay, was ist bei Google passiert so?

00:16:07: Und auch stellvertretend, ne?

00:16:09: Für das ist eine Besuchmaschine, dann eben auch GPD, weil das gerade was, dass das Haupttool ist, was junge Menschen nutzen, weit vor allen anderen Dingen, die es da so gibt.

00:16:21: Und bei allen Einschränkungen, die das eben auch mit sich bringt, haben wir uns halt auch wirklich dann nochmal die Frage gestellt, okay, was ist denn jetzt dieser wirklich rein auf?

00:16:31: Informationssuche betrachtet dieser wirkliche fundamentale Unterschied.

00:16:34: Und wo kommt diese Vertrauen vor allen Dingen auch her, diese Vertrauens-Erwartung?

00:16:40: Und da ist ja auch, glaube ich, was ganz wichtig ist, einfach diese... diese vorgegaukelte Menschlichkeit, diese Wesenhaftigkeit, diese, was man in Englisch noch Psycho-Fancy nennt, also diese Speichelleckerei, die unsere Bedürfnisse so ein bisschen befriedigt.

00:16:55: und da spricht jemand noch mit uns vermeintlich und stimmt dir zu bei allem, was du sagst.

00:17:01: Es hat einen gewissen Duktus, etwas, was eine klassische Suchmaschine ja mit ihrer Auflistung von der Suchergebnis-Treffern so gar nicht bedient hat bislang.

00:17:11: Also inwiefern spielt auch so was, also dieses vorgegaukelte Beziehungsverhältnis, was da entsteht, eine Rolle bei der Suche und bei der Rezeption von Informationen.

00:17:20: Ja, ich denke, dass das sehr, sehr wichtig ist.

00:17:23: Ich bin jetzt dagegen relativ immun, einfach weil ich zu viel weiß, sag ich jetzt mal so ganz.

00:17:32: Unbescheiden.

00:17:34: Aber ich habe was Ähnliches festgestellt, so bei manchen Computerspielen, wo einem dann auch gesagt wird, oh, das ist ja großartig und wie schön, dass du wieder da bist oder irgendwie solche Sachen, wo ich dann auch denke, oh, Scheiße, das ist genau das.

00:17:48: Das ist der Haken, mit denen du die Leute kriegst.

00:17:52: Ja, also von daher, ich sehe das sehr kritisch und ich weiß nicht, was man dagegen tun kann.

00:18:00: Ich bin da auch In gewisser Hinsicht hilflos, was ich erreichen kann mit dem, was ich mache, das sind ein paar Multiplikatoren, denen ich da was mitgebe, aber wirklich was verändern kann, ich nicht.

00:18:14: Ich denke schon, ja, klingt ein bisschen blöd, aber im schulischen Kontext müssen gerade wir Erwachsenen da ausgesprochen, bewusst und informiert mit Umgehen um.

00:18:31: Jugendlichen da auch so ein Geländer zu geben, mit dem sie diese Sachen erkunden können, damit die eben nicht auf diese Psychospielchen reinfallen.

00:18:44: Denn ich meine, auf der einen Seite hast du da diese Geschichte mit der Bestärkung und so weiter, aber diese Bestärkung hat ja auch schon zu tragischen Ereignissen geführt bei diesem einen Kind in den USA.

00:18:57: Du sagst,

00:18:59: mehrere, die es da auch schon zumindest in der Verbindung gegeben hat, Kausalität kann man sich mal lange drüber streiten, aber es hat zumindest eine Rolle gespielt.

00:19:05: Ja.

00:19:06: Absolut.

00:19:07: Und ja, du hast es angesprochen.

00:19:09: Also es ist ja einmal diese Beziehungsebene, die vermeintlich entsteht, die auch so ein bisschen eine maschimelle Verstärkung, so dieses menschlichen Confirmation bei ist, also dieses Bestätigungsfehlers irgendwie.

00:19:19: Das heißt, wir wollen sowieso nur uns bestätigen, unsere Annahmen.

00:19:24: Halluzination hast du angesprochen, auch das gibt es weiterhin.

00:19:27: Das ist zwar, glaube ich, rückläufig so von der Häufigkeit, in denen das auftritt, auch nicht.

00:19:33: Das zumindest, was ich so ein bisschen mitbekommen hatte, aber es ist ein Wunsch.

00:19:36: Das ist Marketing-Sprech.

00:19:38: Ja, okay.

00:19:39: Also

00:19:40: der Wechsel von GPT-IV mit all seinen Variationen zu GPT-V hat eine maßgeblichen Veränderungen mehr gebracht.

00:19:55: Wie gesagt, es gibt natürlich noch diese ganzen anderen Sprachmodelle.

00:19:58: Und wie ich jetzt immer wieder festgelle, wenn ich meine Seminare vorbereite, irgendein Blödsinn erzählen die immer.

00:20:06: Also egal welches Tool ich aufrufe.

00:20:09: Und Schergyptie ist davon auch nicht frei.

00:20:11: Ja, und gleichzeitig ist ja auch noch ein Punkt, dass ja, ich sage mal, auch Lizenzvereinbarungen geschlossen werden.

00:20:20: Also gerade kommen noch mal zurück.

00:20:22: junge Menschen nutzen vor allen Dingen ChatchiPity.

00:20:24: Es hat ja diesen gewissen Staatvorteil nun mal auch als Platz hier steht, als erstes am Markt war.

00:20:29: Und dann gibt es eine Lizenzvereinbarung eben mit dem Springerverlach und da haben ja auch eben Erhebungen gezeigt.

00:20:35: Ich denke da an den Informationswissenschaftler Dirk Lewandowski, der da für die Landesmedienentschalten ein schönes Bild im harten Gutachten, wo eben auch ganz deutlich wird, also ChatchiPity gibt viel wie weniger Quellen aus und diese die ausgegeben werden, sind, sagen wir mal, gehäuft von Angeboten jetzt des Springerverlags, sprich von Welt und Bild.

00:20:56: Und auch das hat natürlich wieder Implikation für Meinungsbildung wahrscheinlich.

00:21:00: Richtig.

00:21:01: Und das gilt ja jetzt nicht nur für die Verlage jetzt im deutschsprachigen Raum, das gilt auch für die Verlage in den anderen Ländern.

00:21:09: Das heißt, auch da sind eher Verlage mit einer Weltanschauung, wie wir sie beim Springerverlag haben.

00:21:16: Das heißt, Das, was an Inhalten in die Sprachmodelle einfließt, das geht ja auch über unseren deutschsprachigen Raum hinaus.

00:21:27: Was da an Inhalten einfließt, das hat ganz klare Tendenz.

00:21:32: Und wenn man jetzt mal davon ausgeht, dass OpenAI mehr Geld verbrannt hat, als es je einnehmen kann, ja, we will see.

00:21:44: We will see, genauso ist es.

00:21:47: Du hast ja trotzdem vorhin nochmal angesprochen, also wie bequem und wie auch mühelos das Ganze ist, also dass da auch ein großer Reiz davon ausgeht, eben zum Zwecke der Informationssuche entsprechende KI-Tools, wie die KI-Modus von Google, wie ChatGPT und Co.

00:22:03: eben zu verwenden.

00:22:04: Wenn jetzt Schülerinnen und Schülern auf dich zukommen würden und die würden dich fragen, Warum soll ich eigentlich noch mühsam durch sie verschiedene Webseiten klicken, wenn ich das doch eh jetzt alles fix und fertig ausformuliert bekomme, mühelos durch KI, das Ganze immer besser wird.

00:22:19: Zumindest hört man das ja da draußen öfters und mich dann zunehmend auch noch blendend damit unterhalten kann und wirklich mich verstanden fühle auf eine gewisse Art und Weise.

00:22:28: Wir hatten demziehungsdimension gar nicht gerade.

00:22:31: Ja, was entgegnest du so einer Mitteilung?

00:22:34: Es gibt eine Studie, in der junge Menschen aufgefordert wurden, einen Aufsatz zu schreiben, einen Artikel zu schreiben.

00:22:45: Die einen hatten Stift und Papier so ungefähr, also ich meine, die hatten schon Computer-Tastatur, aber sonst nix.

00:22:52: Die anderen durften Suchmaschinen benutzen und die dritten hatten PI.

00:22:57: Und das wurde sozusagen immer wiederholt und am Ende wurden die Optionen dann vertauscht.

00:23:03: Also die hatten irgendwie dreimal immer dasselbe, andere Themen und so weiter.

00:23:08: Und die wurden danach befragt zu den Inhalten der Texte, die sie abgegeben haben.

00:23:17: Und am besten erinnern an das, was sie abgegeben haben konnten, die die tatsächlich selbstständig gearbeitet haben.

00:23:24: Und am schlechtesten erinnern an die Inhalte konnten sich die, die das von der KI haben generieren lassen und nur lesen lassen.

00:23:33: Hier kommen einfach verschiedene Aspekte hinzu, die auch, ich weiß nicht, ob Lernphysiologischen korrekter Begriff ist, aber, dass du dir Sachen anders merkst und die damit wissen, aneignest.

00:23:52: Also es reicht in einer normalen Unterhaltung auch nicht, dass ich weiß, irgendwo bei Google fände ich jetzt die Information, die ich als Antwort geben will, weil ich will ja in dieser Situation die Antwort geben.

00:24:04: Das heißt, ich muss ein gewisses Wissen in meinem Kopf haben.

00:24:07: Und das Aneignen von Wissen geschieht durch Selbsttun und nicht so sehr durchlesen.

00:24:13: Deshalb bekommen Schülerinnen und Schüler ja auch immer gesagt, wie sie Sachtexte lesen sollen mit Stift und so weiter.

00:24:21: Und wie sie damit umgehen sollen, weil sie dann mit dem Text interagieren und ihn nicht nur einfach rezipieren.

00:24:29: Und genau das ist dieser Unterschied zwischen einem Text, den mir eine KI vor setzt, den ich dann lese, den kann ich auswendig lernen oder was auch immer, auf den ich mich verlasse und dem Text, den ich selber schreibe, entweder aufgrund einfach dessen, was ich sowieso schon in meinem Kopf habe, wenn ich keine Suchmaschine verwenden darf oder mithilfe von Informationen, die ich über eine Suchmaschinsuche bekomme.

00:24:58: Und über eine Suchmaschinsuche bekomme ich verschiedene Arten von Informationen.

00:25:03: Das heißt, ich sehe, ich meine, du hast vorhin gesagt, es ist alles habitualisiert mit Suchmaschinen.

00:25:08: Wir wissen, wie wir mit den Treffern von Suchmaschinen umgehen.

00:25:12: Das heißt, wir wissen, wir gucken in dieses Snippet, in diesen kurzen Textausschnitt unter der URL und sehen unsere Stichwörter fett markiert, können daraus erkennen, in welchem Kontext stehen die und können daraus schließen, dieser Text ist für mich relevant oder nicht relevant.

00:25:27: Das ist etwas, was wir völlig automatisiert inzwischen machen.

00:25:32: Das heißt, Ich muss ja nicht alle Treffer, die mir eine Suchmaschine präsentiert, tatsächlich mir alle einzeln angucken, sondern ich selektiere ja bereits, indem ich die Trefferliste scenne.

00:25:46: Und dann kann ich hingehen und sagen, okay, das scheint mir genau zu meinem Thema zu passen.

00:25:52: Da lese ich dann und da schreibe ich mir die Sachen raus, die für mich relevant sind.

00:25:57: Und dadurch eignere ich mir Wissen an.

00:26:00: Und ja, natürlich.

00:26:02: müssen wir heutzutage nicht mehr alle möglichen Daten im Kopf mit uns rumtragen, weil das bringt jede einfache Anfrage selbst an so einen Sprachassistenten im Handy, aber macht sich auch blöd.

00:26:18: Oder wenn ich im Gespräch mal eben sage, ja, aber der ist doch dann und dann hat er das und das gemacht.

00:26:23: und frage ich, wann war denn das und das?

00:26:26: Sieste, habe ich doch gesagt, ist keine gute Kommunikationssituation, wenn ich mit jemandem im Gespräch bin, dann möchte ich da schon wissen.

00:26:35: Also ich zumindest.

00:26:37: Oldschool.

00:26:38: Ich auch, ich auch.

00:26:41: Ja, du sagst das.

00:26:42: Aber ich glaube auch, das zeigt ja auch so ein bisschen der Weg.

00:26:45: müsste eigentlich das Ziel sein und das gilt fürs Lernen so, also dass weniger vom Endergebnis her gedacht wird, weil sonst ist man sehr schnell immer in dieser Begründungshaltung eben zu sagen, ja moment mal, das geht doch jetzt alles viel schneller, effektiver, wenn ich selbst klassisch früher nach Informationen gesucht habe, also im Sinne von klassischer Informationssuche, Übersuchmaschinen.

00:27:06: War ich derjenige, der selbst selektieren musste?

00:27:08: Wo gehe ich hin?

00:27:09: Ich gehe auf die Einzelseiten.

00:27:10: Ich synthetisiere mir die Information selbst zusammen zu etwas Eigenem.

00:27:14: Natürlich braucht das Zeit.

00:27:16: Aber das ist wahrscheinlich die Zeit, die eben auch wichtig ist, um eben wirklich selbst zu lernen, Wissen aufbauen zu können.

00:27:23: Anstatt dieses, wir haben es in der Folge auch genannt, so ein bisschen reverse engineeringmäßig von der Ausgabe der KI quasi alles rückwirkend das Pferd aufzuzeugen, wo ja eigentlich die Frage bleibt, wer macht das?

00:27:35: am Ende, weil dieser Handel, der ist ja so einfach so groß, dass man das wahrscheinlich nicht tun wird.

00:27:42: Ja,

00:27:42: das ist genau das, was ich auch beobachte, dass Leute dann in meinen Webinaren ganz erstaunt sind von wegen, wie ich kann sagen, gib mir die Quellen an und dann kann ich das überprüfen.

00:27:54: Ja, haben wir, aber wenn da schon die Erwachsenen meinen Seminaren nicht machen, was erwarte ich denn dann von Jugendlichen?

00:28:02: dann vielleicht noch zu einer anderen Entwicklung, die ja noch mal ein bisschen übergeordneter ist, da auch noch mal gefragt, was passiert denn da eigentlich noch, wenn jetzt immer mehr KI Einzug hält bzw.

00:28:14: Suchmaschinen immer weniger eigentlich Menschen nach Außen leiten über Links auf Zielseiten, die ja natürlich von Informationsproduzenten stammen, seien es Verlage, Zeitschriften oder auch so jemanden wie dir, die du ja auch ein Blog selbst schreibst.

00:28:31: Was bedeutet das eigentlich?

00:28:33: Bisher habe ich noch eine Abnahme an Traffic auf meinen Sites gespürt, also das mal so vorweg.

00:28:43: Von der Idee her hast du da natürlich völlig recht.

00:28:47: Es gibt jede Menge, wie heißt das?

00:28:50: Content Generators, die sagen, bei mir kommen keiner mehr vorbei, mich findet keiner mehr, wenn das alles über KI geht.

00:29:01: Und da findet jetzt tatsächlich eine Bewegung statt, also bisher hieß es Suchmaschinenoptimierung und jetzt gibt es etwas, ich kann das Kürzel nicht auflösen, das heißt GEO, aber es ist auch irgendwas mit Optimierung und es hat was mit KI zu tun.

00:29:18: ein Chatbot-Ausgabe-Output.

00:29:23: Und das ist tatsächlich eine Frage, die offensichtlich Verlage auch noch stärker beeinträchtigt oder beeinflusst als jetzt so eine kleine Blockklitsche wie meine.

00:29:39: Es ist dann die Frage, inwieweit man dann noch breit ist, Inhalte in dieses World Wide Web zu stellen, wenn man damit sowieso nicht gefunden wird.

00:29:47: in den anderen Fällen, also die Leute, die damit Geld verdienen, in dem Leute bei ihnen vorbeischauen und ihnen Aufträge geben oder eben über Überwerbung, affiliate links und was es da alles gibt, da kann sich, wenn sich das tatsächlich so bewahrheitet, dass das so kommt, das glaube ich noch nicht ganz, kann sich tatsächlich die Struktur unseres Maps verändern.

00:30:15: Weshalb ich nicht so ganz glaube, dass das so kommt, ist der Umstand, dass A-Shativity ja auch schon angebrot oder sogar schon macht.

00:30:25: Ich weiß es nicht.

00:30:26: Hier gibt es jetzt auch Werbung.

00:30:28: Das heißt, ich bekomme da auch Werbung ausgespielt.

00:30:33: Die wollen auf diese Weise natürlich endlich mal ein bisschen Geld verdienen.

00:30:36: Und dieser Umstand, dass Im World Wide Web inzwischen sehr viel KI-generierter Text ist, der dann wiederum zum Training benutzt wird, was dann zur Verschlechterung der Sprachmodelle führt, die sogenannte Model Breakdown.

00:30:55: Deshalb glaube ich da noch nicht so dran.

00:30:58: Ich glaube, dass wir auf mittlere Sicht eventuell nochmal eine Rückentwicklung da sehen.

00:31:04: Das heißt, dieses allumfassende, was uns die KI Firmen da präsentieren.

00:31:14: Ich glaube nicht, dass es wirklich funktioniert.

00:31:17: Andererseits habe ich jetzt gerade mit jemandem gesprochen, der sagt, na ja, aber der so und so sagt, in schon im Jahr zwei Tausend siebenundzwanzig wird es eine allgemeine Peri geben, die viel schlauer ist und die sich dann überlegt, wie sie die Welt rettet.

00:31:33: Na gut.

00:31:33: Ja, das ist die sogenannte LGI, die Saisonstudion, dass es das geben wird, wo es ja auch sehr viele unterschiedliche Positionen zu gibt.

00:31:42: Das ist auch, wo Science-Riction anfängt und endet, es ist nach wie vor eine sehr schwierig zu beantwortende Frage.

00:31:52: Aber ich glaube, es ist auf jeden Fall auch eine Entwicklung, die man sich auch mal bewusst machen muss.

00:31:57: Generell auch bei jungen Menschen, was bedeutet das eigentlich für dieses gesamte Informations-Ökosystem, was da gerade passiert?

00:32:05: Denn die Informationsvielfalt, die wir im Netz haben, lebt eben davon, dass es viele Informationsproduzentinnen und Produzenten gibt, deren Angebote natürlich auch gesehen werden müssen.

00:32:16: Und bisher ist es so, dass die Suchmaschinen wie Google eben diese Aufmerksamkeit steuern.

00:32:23: Na ja, das unterbleibt immer mehr, wenn Leute nicht mehr auf die Zielseiten durchklicken und der Anreiz eben da ist.

00:32:28: Ja, ich, moment, ich habe hier mal eine fertige Antwort, Bums aus Ende.

00:32:32: Das heißt auch eine sehr wichtige Entwicklung, die finde ich auch so ein bisschen immer hinten rüber fällt in Diskussionen und um Deepfakes, die natürlich auch alle wichtig sind oder AI-Slop.

00:32:41: Aber ja, das sind auch wichtige, einfach Debattenstränge, die man verfolgen muss, weil sie eben auch eine große Auswirkung haben.

00:32:49: Aber lass uns nochmal quasi den Bogen zurückspannen.

00:32:52: Informationskompetenz ist ja einfach die ganz große Aufgabe, die damit verbunden ist.

00:32:57: Deswegen war uns das auch so wichtig, das Thema nochmal vor dem Hintergrund einfach anzupacken.

00:33:02: Was passiert da eigentlich gerade?

00:33:04: Es ist jahrzehntelang in Anführungsstrichen relativ wenig passiert.

00:33:09: Wir hatten diese Suchmaschine, die hat sich zwar auch schon Evolutionär geändert und Karri hat mehr Einzug gehalten, Funktionen kamen hinzu, du hast es angesprochen, Snippets und diese Knowledge Shards und diese Zusatzinformationen, die quasi gespielt werden, rechts und links und oben und unten.

00:33:25: Also da gab es einen Wandel, aber jetzt kommt natürlich nochmal eine ganz andere Komponente hinzu.

00:33:31: Und jetzt ist natürlich die Frage, okay, was ändert sich da eigentlich?

00:33:36: in Sachen Informationskompetenz.

00:33:39: Bisher, was hier so Vermittlungsbemühungen waren, stark Suchmaschinen zentriert.

00:33:44: Ja, aber was muss sich jetzt eigentlich ändern?

00:33:46: Und was ist jetzt wichtig, insbesondere jungen Menschen, eben beizubringen in dieser neuen, sagen wir mal, Online-Suchwelt, die sich da am Vier-Mement so abzeichnet?

00:33:57: Was würdest du sagen?

00:33:58: Ich würde sagen, dieser Satz, KI-Texte können Fehler enthalten sollte.

00:34:04: ganz dick und ganz rot über jeder Antwort stehen.

00:34:10: Einfach so einhemmern.

00:34:13: Das heißt, es muss das Bewusstsein dafür steigen, dass so lange Sprachmodelle so sind, wie sie sind.

00:34:23: Und ich sehe momentan nicht, dass sich die Grundstruktur ändert.

00:34:28: Das heißt, dass diese Sprachmodelle anhand von Texten trainiert werden und mit diesen neuronalen Netzen und den Wahrscheinlichkeiten dann Texte generieren.

00:34:43: Das ist die Struktur und diese Struktur ist per se Fehler anfällig.

00:34:48: Da kann man die Fehlerquote minimieren, der ist immer.

00:34:51: eine Zeit lang ist zurückgegangen, dann wurde sie wieder größer, das hingen dann auch von dem jeweiligen Sprachmodell ab und so weiter.

00:34:57: Aber das muss einfach absolut bewusst werden.

00:35:03: Die Gruppe pur, wie diese Tools arbeiten, Fehler produziert, beinhaltet und dass man sich eben nicht darauf verlassen kann.

00:35:17: Und das ist, glaube ich, das Zentrale.

00:35:20: Ja, ganz wichtig, sehe ich auch so.

00:35:22: Und vielleicht, weil genau das versuchen wir auch jetzt mit unserem Unterrichtsimpuls, den wir dazu entwickelt haben, Im Endeffekt, was du schon gesagt hast, also über diesen Vergleich, also dass man wirklich eine und dieselbe Frage bzw.

00:35:36: eine und dasselbe Informationsbedürfnis mal versucht, über verschiedene Wege, die sich jetzt neu aufgetan haben, eben zu befriedigen, sich das mal wirklich vergleichend anschaut und schaut, okay, was ist eigentlich der Unterschied?

00:35:50: Was passiert da?

00:35:51: Wie lange sitze ich?

00:35:52: Bei dem einen weh ich da, wie lange bei dem anderen.

00:35:54: Aber was ist auch die Unterschiede, die sich da ergeben?

00:35:56: Wo bin ich viel mehr denkend involviert?

00:35:59: Wo bin ich selbst viel mehr beteiligt?

00:36:01: Weil ich die Entscheidungen in diesem ganzen Prozess halt auch treffe.

00:36:05: Wo schaue ich hin?

00:36:05: Wo setze ich nur Onsen und Fokus und so weiter?

00:36:10: Das wird ja erst deutlich, wenn man sich wirklich mal vergleichend eigentlich mit diesen Sachen auseinandersetzt und sich hinsetzt und sagt, okay, einmal mache ich jetzt eine Shatchi-PT-Anfrage, einmal mache ich jetzt, versuche ich das Problem des Informationsbedürfnissen über eine klassische Suchmaschinen-Suche zu lösen.

00:36:25: Und über den Vergleich, glaube ich, das ist eine riesige Chance, das dann halt wirklich mal bewusst zu machen, wo geht was verloren, wo gewinnt man vielleicht auch was, also wirklich diese Vor- und Nachteile auch entsprechend kennen zu lernen.

00:36:36: Auf jeden Fall.

00:36:37: Ja.

00:36:38: Es ist auf jeden Fall eine gute Sache und eben bei diesen Sprachbots oder Textbots eben sich nicht nur auf Schergypti kaprizieren, sondern wirklich auch da die unterschiedlichen Sachen auszuprobieren.

00:36:53: Bei der KI-Zusammenfassung von Google ist wahrscheinlich Gemini dahinter.

00:36:59: Das gibt es aber dann auch nochmal, das kann man auch nochmal vergleichen, inwieweit, wenn man Gemini selber aufruft, dass sich unterscheidet von der KI-Zusammenfassung die mir bei Google präsentiert wird.

00:37:11: Ja, vielleicht wirklich abschließend gefragt.

00:37:14: Ich habe dich vor zwei, ja, es sind nicht ganz zwei Jahre, aber Ende zwei, vierundzwanzig, ja, auch gefragt, so als Leitfrage.

00:37:23: Ja, generative KI auf der einen Seite, Informationsrecherche auf der anderen Seite.

00:37:28: Wenn man jetzt Bilanz ziehen muss, geht das gut zusammen für dich?

00:37:32: Was gilt eben hier und heute?

00:37:35: Sehr davon ab.

00:37:38: Was ich schon weiß.

00:37:40: Das heißt, wenn ich mich in einem Thema gut auskenne und jetzt einen bestimmten Aspekt näher beleuchtet haben will, der in Suchmaschinen tauglicher Ausdrucksweise mit Operatoren und Befehlen nur schwer zu formulieren ist, dann kann ich hingehen und es in natürlicher Sprache einem Chatbot geben und sagen, gib mir die Quellen dazu an.

00:38:04: Und dann kann mir das was bringen.

00:38:06: Wenn ich von dem Thema überhaupt noch keine Ahnung habe, kann ich hingehen und sagen, mach mir einen ersten Einstieg, gib mir die Quellen an, ganz wichtig.

00:38:18: Aber alles, wo es dann darum geht, mehr ins Detail zu gehen, etwas genauer zu wissen und zu wissen, ob das auch stimmt, da bin ich auf die Quellen angewiesen, die das Tool mir angibt oder auf eine klassische Recherche.

00:38:34: Von daher Ja, KI-Tools können Recherche vereinfachen auf den ersten Blick, verlangen aber gründliche Nachbarerarbeitung und ich sehe, da die KI gekommen ist, um zu bleiben, wir werden sie nicht mehr los.

00:38:55: Außer es gibt den ganz großen Crash, das alles zusammen bricht.

00:39:01: Was wir nicht hoffen wollen, sehe ich das so, dass wir das eine tun, ohne das andere zu lassen und dabei immer eben diesen kritischen Blick haben, anders überhaupt stimmen, was das Tool da sagt, habe ich dazu verlässliche Quellen, um das zu verifizieren.

00:39:19: Es muss einfach klar sein, textgenerative KI ist nicht programmiert.

00:39:26: Antworten zu geben im Sinne von Informationsbeschaffung, sondern ist programmiert, um Antworten zu geben im Form eines gut lesbaren Textes.

00:39:36: Ja, das ist genau das, wo ich persönlich auch immer hänge, weil wenn man das annimmt, dann fällt ja das Kartenhaus, was ja auch marketingmäßig mehr oder weniger aufgebaut wird im Sinne von, das ist eine extreme Vereinfachung, alles geht viel schneller und kürzt alles Mögliche ab und du wirst produktiver und bist viel schneller am Ziel.

00:39:55: ein Stück weit zumindest in sich zusammen, denn wenn diese kritische Reflexionsfähigkeit eben und Rezeptionsfähigkeit bedeutet, okay, ich muss eigentlich wieder alles auseinandernehmen, ich muss mir jede einzelne Quelle angucken, stimmt das?

00:40:09: Ist diese Quellenauswahl, die ja mir abgenommen wurde, überhaupt eine vernünftige oder hätte ich vielleicht ganz andere Quellen ausgewählt?

00:40:17: Wir sagen, umso kritischer ich da werde, desto länger ist natürlich dieser Prozess wieder.

00:40:22: den ich für meine Information suche, dann eigentlich verwende.

00:40:26: Und da sehe ich so ein bisschen dieses Dilemma, weil eigentlich müssten wir sagen, nimm dir wieder Zeit, nehmt euch wieder Zeit, liebe junge Menschen, liebe Schülerinnen und Schüler, liebe Lehrer.

00:40:35: Und macht das dergestalt.

00:40:38: Aber dieser Reiz ist eben da.

00:40:40: Und er wird gesteigert durch diese Vermenschlichungen, diese Aufladung mit Akteursqualitäten, die ja auch alles nur Simulation eigentlich ist.

00:40:49: Deswegen fällt mir das so schwer.

00:40:52: Ja, auch dann vernünftig Empfehlungen zu geben, wie man mit solchen Sachen eben umgeht, pauschal.

00:40:58: Das ist auch sehr, sehr schwer.

00:41:01: Ich sage ja, es gibt Aspekte, wo die KI durchaus helfen kann, aber mein eigenen Kopf, das, was ich weiß, Das, wo ich kritisch bin und ich finde diesen Aspekt, den du gerade genannt hast, ist denn die Quellenauswahl, die ich auch treffen würde.

00:41:17: Ich bekomme etwas vorgesetzt.

00:41:19: Hier entscheidet ein Tool, ein statistisch arbeitendes Tool, was relevant ist und was nicht.

00:41:29: Ich habe schon früher in meinen Suchmaschinen-Seminaren immer gesagt, da ging es ums Ranking.

00:41:34: Hier für Suchmaschinen ist Quantität Qualität.

00:41:41: Das hat sich in vielen Sachen auch bewährt.

00:41:47: Bist du in einem etwas ungewöhnlichen Bereich unterwegs, kann sich das ins Gegenteil verkehren und du solltest gucken, was auf der dritten Seite der Treffer steht.

00:42:00: Das heißt dieses Problem.

00:42:02: Wir haben hier ein Tool, das mir Informationen voraus wählt.

00:42:08: Das haben wir bei der Suchmaschine in gewisser Hinsicht auch.

00:42:11: Aber wir haben mehr Möglichkeiten, nachzuhaken, indem wir einfach weiter blättern und nicht die ersten fünf Treffer.

00:42:20: Und das war es, was ich grundsätzlich bei meinen Seminaren immer gesagt habe und vielleicht wieder aufnehmen sollte, ist, Recherche braucht Zeit.

00:42:30: Es geht nicht anders.

00:42:31: Ja, du sagst es.

00:42:32: Und das ist eben der große Punkt, wie man das auch gesellschaftlich aber kommuniziert bekommt, wenn eine Erwartungshaltung, sei es im Job, sei es eben in der Schule auch bei der Bearbeitung von Hausaufgaben oder was auch immer, sich immer stärker natürlich darin wandelt, dass man sagt, ja, das muss doch jetzt alles wie schneller gehen.

00:42:53: Also genau das Problem, wie man das, glaube ich, übereinandergelegt bekommt, Ja, aber spannende Perspektive, spannende Gedanken, die wir alle weiter mitnehmen und bearbeiten sollten und dranbleiben sollten, weil, wie du schon richtig sagst, es ändert sich alles so schnell, es kann auch morgen wieder sich der Gestalt ganz anders darstellen.

00:43:13: Vielen lieben Dank, liebe Heike, für das informative Gespräch, das teilen vor allen Dingen deine Erfahrungen auch und Gedanken zu diesem großen Thema.

00:43:23: Ja, und ich kann es nur an der Stelle noch mal sagen, ja.

00:43:27: Wir haben noch diesen kleinen Unterrichtsimpuls eben vorbereitet.

00:43:30: Wenn ihr euch mit dem Thema, liebe Zuschauerinnen, liebe Zuhörerinnen auseinandersetzen wollt, geht dann mal gerne drauf auf unseren Campus, unsere Lernplattform.

00:43:40: Und wir verlinken euch das Ganze natürlich auch nochmal.

00:43:42: Und bleibt natürlich auch gerne dran, was Heike so in ihrem Blog schreibt, die setzt sich nämlich sehr häufig auch mit diesem Thema auseinander, übernimmt sehr viele Und dann nimmt sehr viele auch Praxistests, guckt sich einzelne Tools an.

00:43:55: Also ich finde das immer sehr spannend zu lesen und schaue da auch immer gerne vorbei auf profi-wissen.de, glaube

00:44:01: ich.

00:44:02: Profi-wissen.de.

00:44:05: So ist es.

00:44:06: Ich weigere mich, ich weigere mich zu sagen profi-wissen.

00:44:12: Ja, stimmt.

00:44:15: Das sind wir wieder bei Suchoperator und so.

00:44:16: Genau.

00:44:18: Genau.

00:44:18: Da ist dann gekommen, dann meinen Blog anklicken.

00:44:20: Da gibt es dann die Beiträge.

00:44:23: Super.

00:44:24: Vielen Dank, liebe Heike.

00:44:25: Und bis bald.

00:44:27: Bis bald.

00:44:27: Danke, Kevin.