KI als Kunde

Shownotes

Was passiert, wenn nicht mehr Menschen Produkte recherchieren, kaufen oder mit Unternehmen interagieren, sondern ihre KI-Agenten?

Themen sind ….

KIs, die Webseiten bedienen, sich einloggen, Warenkörbe füllen und fast eigenständig Transaktionen durchführen.

Spannende Erfahrungen mit Agenten wie Manus, die z. B. eigenständig Zertifikate erlangen.

Technische, ethische und regulatorische Implikationen: Wer ist verantwortlich, wenn eine KI handelt? Was bedeutet das für Vertrauen, Sicherheit, Identitätsmanagement?

Spickzettel 3.0: Warum das neue Spicken "Agentic" heißt.

Identität in einer Welt voller Avatare, Fake-Videos und KI-Scams.

SEO war gestern: In Zukunft müssen Inhalte nicht für Menschen, sondern für KI-Agenten optimiert sein.

Korrekturhinweis: Jens meinte natürlich, dass Salesforce die Übernahme von Convergence abgeschlossen hat.

Transkript anzeigen

00:00:00: Hallo und herzlich willkommen zu dieser aller aller aller ersten Folge einer neuen Podcast-Serie.

00:00:08: Hoffentlich nicht die Einzige?

00:00:10: Nein, nicht die Einzige und natürlich nicht unsere erste. Wir haben schon mal eine andere

00:00:14: in einem anderen Podcast zusammen aufgenommen. Aber das ist tatsächlich unsere, wie sagt

00:00:21: man, Prämierendfolge ohne Generalprobe, geilerweise. Also seid gespannt, was da so auf einer roten

00:00:28: Treppe ist, der ausgerollt ist. Aber ja, Abdel, Marc und ich uns einfach mal vor gar nicht

00:00:34: allzu langer Zeit bei einem Firmenternen-Event gesagt, wir wollen mal auf der Bühne stehen

00:00:38: und gemeinsam Sachen erzählen. Und da hatten wir ein spannendes Thema, da kommen wir auch

00:00:42: gleich drauf. Und dabei in diesem Zusammenhang ist, glaube ich, auch die Idee gewachsen. Lass

00:00:46: uns einfach eine neue Podcast-Serie für Rom und ihre Gründe und mal starten und ab und

00:00:52: zu über Themen reden, weil das, glaube ich, gar nicht so schlecht ist, weil das, was wir

00:00:55: erzählt haben auf dem Event, jetzt mal dem inhaltlichen, mal zur Seite geschoben, da

00:00:59: wir gehen mal leicht drauf ein. Das ist, glaube ich, ganz gut angekommen. Also ich glaube,

00:01:02: unsere Kombi aus so zwei unterschiedlichen Blickwinkeln, aber ungefähr die gleichen Ihren

00:01:08: Gehirnbindung scheint zu resonieren mit Menschen. Dementsprechend freue ich mich, dass wir jetzt

00:01:13: auch hier in den Eta-Ginaus quasi euch versuchen zu erreichen. Und der Marc, der stellt ja

00:01:19: gleich mal das Thema von heute vor. Nachdem wir auf dem Event, von dem wir gesprochen

00:01:24: haben, dass wir nur 15 Minuten Zeit hatten, ich fühlte mich auch übrigens sehr gestresst

00:01:29: von diesem Counter vorne auf der Bühne, der runterzählte. Und wenn du am Schluss weißt,

00:01:34: dass da noch mal ein bisschen was kommt, so ein Filmchen, die du in der Endpräsentation

00:01:38: hast und der Counter zeigt schon minus drei, dann hast du so ein bisschen das innere Gefühl

00:01:42: von, na ja, das Thema, das wir auf dem Vortrag hatten und das wir heute mitgebracht haben,

00:01:49: ist das Thema nicht, wie kann man KI für sich selbst nutzen, um zu recherchieren oder

00:01:55: um in irgendeiner Weise Texte aufzubessern, sondern was ist eigentlich, wenn man als Kunde

00:02:00: KI nutzt und eine KI so, ja, der eigentliche Kunde wird? Wie kann ich KI nutzen bzw. was

00:02:09: bedeutet das auch für Firmen, wenn auf einmal nicht der Marc da steht und sagt, ich hätte

00:02:14: gerne was, sondern wenn eine KI vorbei gesegelt kommt und versucht, Produkte für mich zu

00:02:20: finden und für mich die Interaktionen durchzuführen, die da notwendig sind.

00:02:25: Da noch mal ganz kurz für unsere neuen Zuhörer, ihr merkt schon, es wird um das Thema KI aber

00:02:32: auch Robotik alles möglich aus dem Umfeld gehen. Was kein großes Wunder ist von neuen

00:02:36: Podcasts, die im Jahre 20, 25 oder 24 stehen, das ist jetzt nicht unsere Urengesendung,

00:02:42: das ist aber auch einfach ein fucking großes Thema ehrlicherweise, wo man glaube ich nicht

00:02:48: genug darüber diskutieren kann, weil auch das haben wir da auf dem Vortrag auch gesagt,

00:02:53: das können wir aber an dieser Stelle gerne sagen. Es gibt draußen nicht den Experten,

00:02:57: der die erzählen kann, was da alles so passiert in dem KI Umfeld und es gibt auch nicht den

00:03:01: Plan A, wie ich als Mensch oder wie wir als Unternehmen oder als Gesellschaft für diesen

00:03:04: Thema umgehen und deshalb glaube ich der Diskurs zu reden und Marc auch das, was wir heute alles

00:03:10: erzählen in einem Jahr totaler Quatsch gewesen sein, aber man muss sich mit den Themen beschäftigen,

00:03:14: sich austauschen mit anderen Menschen, da wir diskutieren, neue Ideen entwickeln, weil

00:03:18: nur so können wir dann im Prinzip glaube ich auch KI gut nutzen und dort richtig nutzen

00:03:23: und auch als Unternehmen oder als Privatmensche richtigen Antworten auf viele Fragen haben.

00:03:27: Und dieses Thema, was wir da letzte Woche aufgemacht haben, ist glaube ich etwas, was noch relativ

00:03:31: neu ist, das heißt, da gibt es da schon ein paar, die immer in diese Richtung gedacht haben,

00:03:36: dass so was kommen könnte, aber das ist jetzt de facto auch eigentlich schon vorhanden,

00:03:40: ist ehrlich gesagt.

00:03:41: Eigentlich geht, es funktioniert eigentlich schon. Es ist jetzt auch ein Zukunftsthema,

00:03:45: was wir da reden, sondern das ist eigentlich jetzt schon im Ist da, weil du kannst theoretisch

00:03:49: und da hatte ich jetzt zum Beispiel auch dieses Video, das ja Videos angesprochen, die wir

00:03:52: da gezeigt haben, wir hätten so kleine Home Screen-Videos auch mal gezeigt, die wir dann

00:03:56: aufgenommen haben, da rekordet haben wir uns auf den Rechnern. Wenn jetzt solche Webseiten

00:04:01: wie Interfec.ai, die mittlerweile von Salesforce aufgekauft sind, ich weiß gar nicht, ob die

00:04:04: jetzt überhaupt noch funktionieren, sonst packen wir noch einen Link in die Show notes,

00:04:08: nimmt, dann können die halt heutzutage schon deinen Browser benutzen, im Prinzip Webseiten

00:04:14: ansurfen und quasi auf Zustimmung von dir, wenn du ihnen die Daten gibst, auch deine

00:04:20: Google-Account-Daten nutzen, deine Amazon-Account-Daten nutzen, um sich einzulocken und dann eben

00:04:24: auch zu bezahlen, zum Beispiel. Also ich habe da einen Test gemacht, den habe ich dann eher

00:04:27: immer, dann habe ich mich nicht getraut mehr, dann ist es ganz zum Ende das zuvor. Ich dachte

00:04:30: das landen an meine Daten, aber es hätte tatsächlich eben auch ganz normal einkaufen können, auf

00:04:36: den einfachen, simplen Prom, dass er mir eine Uhr für unter 100 Dollar besorgen soll oder

00:04:41: Euro besorgen soll. Da hat er diese Uhr in den Warenkopf geworfen und hat tatsächlich

00:04:44: quasi im Warenkopf noch drauf gewartet, dass ich jetzt mal eine Quedenschutz eingebe, die

00:04:47: ich dann auch in den Tool eingeben kann und dann speichert das Tool das auch ab. Und

00:04:50: dann kannst du für immer und ewig das Ding dann eben auch Amazon-Bestellungen durchführen

00:04:53: lassen. Oder bei wem auch immer, weil er sich einfach nur die Webseite anguckt und versucht

00:04:57: die Webseite zu verstehen und zu gucken, was da passiert. Also das heißt, die Faktor

00:05:01: können wir nicht, also ich wüsste, also keine Ahnung, vielleicht gibt es schon Statistiken

00:05:05: draußen, ich lasse gerade auch mal noch mal die Research machen zu dem Thema. Keine Ahnung,

00:05:11: ob wie viele Käufe heute vielleicht schon so durchgefüllt werden. Also ich meine, ich

00:05:15: hatte ja auf der Bühne auch von einem anderen Experiment erzählt, was ich sage jetzt mal

00:05:19: auch mit Webseiten zu tun hat. Und zwar hatte ich Manus, die haben ja auch so einen agentischen

00:05:25: Browser drin, gebeten mir mal ein paar KI-Schulungen herauszusuchen, die man mal so nebenbei genießen

00:05:31: kann. Und dann ist Manus, er hat seinen Browser aufgemacht und hat diverse Sachen durchgesucht

00:05:37: und das nächste Mal, als ich ihn gefunden habe, hat er nicht nur KI-Schulungen gefunden,

00:05:41: er hat sie auch abgeschlossen. Ja, ja, das heißt, und dann guckst du dir an, was hat er getan,

00:05:46: du kannst bei Manus ja auch so historisch ein bisschen zurückblättern und dann siehst

00:05:49: du, er hat einen Browser aufgemacht und hat Sachen ausgewählt, hat dann da drin Tests

00:05:54: gemacht, er kam dann zwischenzeitlich auch mal auf so was wie eine Robotsprüfung. Man

00:06:00: kennt das doch, markiere hier alle Fahrräder. Und dann siehst du im Tätverlauf, wie er

00:06:03: sich darüber sinngemäß amüsiert. Er amüsiert sich ja nicht, aber wie er dann so drin steht,

00:06:08: ha, guck mal hier, eine Robotsprüfung. Und macht dann da die Tests und zieht das einfach

00:06:14: durch. Und dann stehst du da und denkst so, okay, was heißt denn das? Weil das ist ja

00:06:18: ein riesiges Feld, das wird aufspannen. Das eine ist, können wir den vertrauen, der da

00:06:23: klickt. Also ich meine, der klickt für uns. Auf der anderen Seite sitzt irgendwie eine

00:06:26: Firma und sagt, wer klickt denn da? Ja? Und dann geht es vielleicht nicht nur um Käufe.

00:06:31: Ja, also guck mal. Was ist das? E-Learnings, die ganzen Kram. Ah, das fällt jetzt nicht.

00:06:36: Das ist dementsprechend, ich glaube, da werden wir auch nicht die einzige Folge heute darüber

00:06:39: reden über dieses Thema. Weil alleine wenn du jetzt sagst, vielleicht ist das total spannend

00:06:43: für mir dann Beispiel. Also du fürs, nein, du gibst mit einem einfachen Prompt der MANUS

00:06:51: AI den Auftrag für dich quasi Prüfung abzuschließen, wenn du so willst. Nein, nein, nein. Ich habe

00:06:56: ihm nicht gesagt, schließe für mich ab. Ich habe ihm gesagt, dass er mir neue Zertifikate,

00:07:02: also wenn wir Prüfungen suchen, für die es quasi Zertifikate gibt und für die es Zertifikate

00:07:09: gibt, hat er rausgemacht, besorgt mir die Zertifikate. Also hat er die Prüfung gemacht, so kann

00:07:14: ich danach auch trauen, wie das getan hat. Du hast also jetzt Zertifikate, die da eigentlich

00:07:20: gar nicht haben wolltest, oder doch, die wolltest du haben, aber nicht, du hättest

00:07:23: es dir noch nicht... Nein, ich wollte es ja nicht anders. Die wollte es dir eigentlich

00:07:25: anders. Ich wollte selber was lernen dabei, das glaube ich dir auch tatsächlich. Aber

00:07:30: dann trotzdem ist das ein super, super spannender Aspekt, stell dir das vor. Du kannst jetzt

00:07:33: im Prinzip jetzt in 0, nichts. Also in einem Prompt könnte ich jetzt mehrere Zertifikate,

00:07:40: die ich jedenfalls für einen neuen Job brauche, oder irgendwelche anderen Themen, könnte

00:07:43: ich einfach abschließen. Und das ehrlicherweise 1.000fach, wenn ich das möchte, möchte, weil

00:07:48: das ein gutes Bild auf mich wirft. Also das heißt, ohne, also wenn jetzt diese ChatGPT-Prüfungsangst

00:07:56: ihr, was die Lehrer und so was hatten, dass die Sachen dann irgendwie von den Schülern

00:08:00: nicht mehr gemacht werden und so was, das ist ja eine ganz andere Ausmaßdehme, der

00:08:03: erreicht mit dem. Ich weiß ja klar, da kannst du natürlich immer so eine Nicht-Remote-Situation,

00:08:07: haste nicht innen wenig viel davon, aber in dieser Remote-Welt, wo viel, viel digital

00:08:11: funktioniert. Und ehrlicherweise werden wir uns aus dieser Welt nicht mehr so richtig

00:08:14: raus bewegen. Es ist so, dass das natürlich ein total interessanten Aspekt auf, was ist

00:08:21: denn eigentlich so so ein Zertifikat dann wirklich wäre? Also ich glaube dieser Schritt

00:08:26: zu sagen, ich mache jetzt mit so einer ChatGPT oder mit einem Manus und Texte, mit der hin

00:08:30: und her, um die Fragen herauszukriegen, beantworten, dann ist das Ding, ich glaube, das hat noch

00:08:34: so ein Aspekt dieses Beschäftigens damit. Wenn ich das jetzt total durch einen Agenten

00:08:38: dann machen lasse, der wie in deinem Fall dann im Prinzip wirklich als Agent entschieden

00:08:43: hat, ohne dass du ihm dann das sagen musstest, was dann diese Lösung für die Anfrage ist,

00:08:49: was tust, ist das ja ein ganz neuer Aspekt von, ja, wie wir eigentlich tatsächlich noch

00:08:58: da vertrauen können, ob solche Zertifikate von dem Markt wirklich abschliessen, ob du

00:09:01: das wirklich alles weißt, weißt du? Also was ist ein Zertifikat dann heute de facto

00:09:05: noch wert?

00:09:06: Vor allem wenn du überlegst, wo so was überall angeboten wird, ne? Ich meine, auch in Bewerbersituationen

00:09:11: gibt es ja teilweise Firmen, wo du dann vorher irgendwelche Tests machen musst und nach

00:09:18: dem Motto, so hast du jetzt eine schon die Webseite, füll das aus, wir nutzen das dann schon mal

00:09:22: zur Vorbereitung für das Bewerbungsgespräch. Wie gesagt, das ganze Thema e-Learning,

00:09:27: ja, das ist ja nicht nur für die private Weiterbildung, das ist ja teilweise auch im

00:09:30: dienstlichen Kontext durch die Regulatorik verpflichtend, dass deine Mitarbeiter dazu

00:09:35: bringen, dass sie quasi sich schulen können und auch schulen müssen, dass wir halt auch

00:09:39: nachweisen muss, dass alle geschult sind, dass wir am gewissen Prozentsatz sind oder

00:09:42: so ein Kram.

00:09:43: Von der Seite, als ich da heute mit ein paar Kollegen darüber diskutiert hab, haben

00:09:47: die noch so im Scherz geohnt, ja wer weiß, vielleicht gibt's ja in Zukunft wieder mehr

00:09:51: Präsenzschulungen, weil du dann vertrauen musst, weil du physikalisch im Raum zugegen

00:09:56: bist, um diese Prüfung halt zu machen.

00:10:00: Total. Also ich glaube auch, wie gesagt, sind wir beide eher so ja KI-Befürworter, ne, ich

00:10:05: finde aber, gerade wenn es irgendwie um so sehr kritische Themen geht, dann müsste man

00:10:13: sich das wirklich überlegen, ob man das wieder einführt in dem Moment, dass man sagt, okay,

00:10:16: bevor ich dann jetzt jemand da irgendwelche Hebel hinter drücken lasse und der hat die

00:10:20: Zertifikate aber noch nicht mal in seinem Leben gesehen und die Fragen, die da rumgestellt

00:10:24: wird, auch noch nicht mal in seinem Leben gesehen, also auch noch niemals die Chance gehabt,

00:10:27: irgendwie auch was falsch zu machen bei den Befragungen, will ich den hinterher in einer

00:10:32: kritischen Situation an irgendeinem Kanang-Herzschrittmacher oder was auch immer dran herumfummeln

00:10:37: lassen, ne?

00:10:38: Ja, aber vielleicht die Aufrischungserinnerung oder irgendwas, was auch immer ist. Weißt

00:10:47: du, ich weiß das jetzt nicht, kenn mich im Helf, fahre ich jetzt nicht so aus, ne?

00:10:51: Ja, aber wenn du zum Beispiel auch so gespürtest, ich meine, wir reden jetzt hier locker über

00:10:54: das Zeug, hinstell dir vor, wir führen jetzt live ein Interview wieder mal für das Thema

00:10:59: Bewerbung. Es gibt dir mittlerweile auch mehr als einen Anbieter, der dir Anwendungen, sei

00:11:04: es als Websites, als App, da bietet, die auf deinen Rechner laufen, die mittebören, was

00:11:09: gesprochen wird, die mit gucken, was auf dem Bildschirm ist und die die Antworten zeigen,

00:11:14: so nach dem Motto "Heyens, wie ist denn das mit der Kernphysik?" Ja, in dem Punkt und

00:11:19: dir dann quasi während du die Frage gestellt kriegst, dir schon Antworten zeigen, du guckst

00:11:24: die ganze Zeit in die Kamera, mittlerweile gibt es ja auch hier Aufmerksamkeitsschalter

00:11:29: in Facetime und so, dass du immer wirklich den Eindruck hast, du guckst in die Kamera

00:11:33: und das Ding blendet dir quasi wie so ein Teleprompter, deinen Redetext ein.

00:11:37: Das ist ja nartig. Ja, also das ist immer die Frage, also ob ich jetzt sage, hat man

00:11:44: früher vielleicht auch in der "Rule" ein Spickzettel dabei gehabt, ist es ja jetzt

00:11:47: auch nur... Niemals, falls meine Kinder zuhören. Niemals.

00:11:51: Der Spickzettel 3.0, ehrlicherweise. Und dann ist es ja so diese kleine, feine Geschichte.

00:11:55: Wenn ich jetzt ein Spickzettel habe und mich dabei ja immer das Thema, dass man sich

00:12:00: ein bisschen damit beschäftigen müsste, welche Inhalte könnten wichtig sein, die auch den

00:12:03: Spickzettel draufpassen und so was. Das ist natürlich viel größer geworden, das Thema.

00:12:06: Aber auf der anderen Seite will ich auch sagen, ist das immer noch eine geschickte Anwendung

00:12:10: für eine Lösung. Weißt du, wir haben ein Thema, wo ich sage, ich muss mich da erfolgreich

00:12:14: bewerben, ich muss in diesem Gespräch überzeugen, was auch immer dieses Artesgespräch ist,

00:12:19: da dann alle möglichen Hilfsmittel anzuwenden, die mit zur Verfügung stehen, also bestens

00:12:23: vorbereitet zu sein in diesem Moment, ist ja nicht unbedingt das Verkehrteste. Das Gefährlich

00:12:28: ist nur, wenn es meiner Meinung nach, vollkommen automatisiert ist. Wenn ich sage, wo wir es

00:12:34: gerade hatten, der Agenten macht alles für mich. Jetzt in dem Beispiel, wenn es dann per

00:12:39: Facetime, per Remote Team Call, whatever ist, oder so ein Call, dann ist natürlich das Thema,

00:12:44: wenn auch da die Videoleinblendung selbst das nicht mehr real ist. Auch diese Fälle haben

00:12:50: wir ja schon gehabt, wo irgendwelche Menschen überzeugt davon worden sind, dass der Schief

00:12:55: Financial Officer angerufen hat und Geld haben wollte. Und das war ja bei der Videoleinblendung.

00:12:59: Ich war jetzt vor zwei Wochen auf der EIFO Gut in der Schweiz, da war ein Profdoktor

00:13:08: vom Hornhofer Institut da, der brachte auch nochmal das Beispiel, da sagt er, es ist

00:13:12: natürlich wirklich so ein Arms Race, das wir gerade da haben. Auf der einen Seite hast

00:13:15: du die KIs, die im Prinzip Fakes erkennen können, also in so einem Teamcall, die dann auch gucken

00:13:20: können, theoretisch in einem Videocall gucken können, ist das eine Videogenerator gegenüber

00:13:25: in diesem Fall. Weil KI ist jetzt vor kurzem noch Probleme hatten in der Videogenerierung,

00:13:29: zum Beispiel, das erzählte er, das war ein schönes Beispiel, einen Puls zu simulieren

00:13:32: auf der Schläfe. Weißt du, wenn wir beide reden, dann pulsiert halt immer noch unser

00:13:38: Blut dadurch. Und das kann ein KI, die das mit anschaut, kann erkennen, wie ist das jetzt

00:13:42: eine Video, also ein KI-generiertes Bild, oder ist das eine echte Person, die dabei ist?

00:13:47: Mit dabei können natürlich gute Scam-Video-KI's das auch schon wieder nachmachen, dass du so

00:13:52: ein bisschen Puls dann simulierst. Ist ja nicht schlimm, das funktioniert ja alles für die

00:13:56: Technologie, ist das ja nur eine Frage der Comput-Power und das Weitren geht. Und das

00:14:00: ist so ein Ding, wo er dann auf die Idee kam, oder er erzählt nicht auf die Idee kam, aber

00:14:03: an einem Tag erzählte das. Wir müssen natürlich überlegen, ob in solchen Situationen sowas

00:14:08: auch machen muss, wie so eine zusätzliche Identifizierung in so einem Teamcall vielleicht

00:14:12: über den Fingerprint oder sowas. Dass ich sage, theoretisch müsste ich vielleicht auf

00:14:16: meinen Fingerprint-Sensor, auf meinem Rechner, mal alle fünf Sekunden meinen Finger drauf

00:14:20: legen, um zu zeigen, dass ich es wirklich bin und dass nicht jemand anderes das gerade

00:14:24: ist, der sich da reininjectet hat und einen gefakten Jens da gerade zeigt.

00:14:29: Aber ich bin immer noch froh, auch so was wie Post-Ident, nee, hier Video-Ident-Verfahren,

00:14:34: ne? Macht dem Motto, guck in die Kamera und halt dein Ausweis hoch. Wenn du dir anschaust,

00:14:39: welche Modelle da in letzter Zeit rauskommen, ich gebe dem Modell ein Foto, das Modell animiert

00:14:44: mich komplett durch, dann halte ich halt nebenbei noch den ausgedruckten Ausweis hoch und fällig

00:14:48: ist der Lack. Gut, die gucken sich, die gucken noch nach diesem Wasserzeichen, nach dieser

00:14:52: Spiegelung. Aber ich sage mal, der Mensch vor dem Bildschirm muss dann gar nicht mehr

00:14:57: der Mensch sein, dem wirklich dieser Ausweis gehört, den er da gefunden hat.

00:15:02: So in der Seite, das ist schon spannend, wenn du überlegst, an welchem Kipppunkt wir quasi

00:15:09: sind, jetzt nicht klimatisch, sondern Kipppunkt im Wort von Technologie. Die Menschen, die

00:15:14: denken mal 3,50 Euro oder vielleicht mehr, investieren um irgendwelche Pro-Accounts für

00:15:20: Video, Audio, keine Ahnung was, freizuschalten und dann halt auf die klassischen Prozesse

00:15:27: treffen und sich so theoretische Account-Zertifikate auch erschleichen können.

00:15:33: Klar, da. Also ich glaube ganz kurz, bevor ich den Gedanken verliere, nur aus einer Botschaft

00:15:38: nochmal in den Etapusten, den ich auch immer gerne in dieser Situation mache, vielleicht

00:15:42: ist das schlau, ich habe das immer noch nicht mit meinen Eltern gemacht, aber ich werde

00:15:45: jetzt mit meinen Eltern machen, dass ich quasi offline ein sogenanntes Passwort irgendwie

00:15:49: mit meinen Eltern irgendwie vereinbaren werde, dass wir sagen, falls die Situationen sind

00:15:54: und ich anrufe und sage, ich brauche mal schnell 1000 Euro, Papa, dann sollte er wenigstens

00:15:59: das Passwort dann noch abfragen bei mir. Ich hoffe, dass sie daran denken. Aber ich glaube,

00:16:04: das ist irgendwie solche Mittel und Wege sollte man finden, weil so ein jetzt mit, allein wenn

00:16:09: man unseren Podcast ja runterladen würde, das würde ja schon lang erreichen bei dem

00:16:13: Ganzen, was wir jetzt gerade hier am Sabeln sind, um perfekte KI-Stimmen von uns zu generieren,

00:16:17: die unsere Kinder, unsere Eltern nicht davon unterscheiden können, wenn wir jetzt mal den

00:16:21: anruf starten, ob das wir wirklich machen, die anderen sind oder ob das eine KI-Generität

00:16:25: ist. Das ist ja 0,0 Probleme heutzutage. Also das ist tatsächlich, also wir haben da,

00:16:30: wir müssen das Thema, und jetzt machen wir das schon ein bisschen weg, aber das wird

00:16:34: wahrscheinlich durch und durch unser Thema, unser Podcast immer wieder sein. Aber ich

00:16:39: glaube, das Thema, wenn wir mit einer KI interagieren, wir müssen irgendwie drüber nachdenken,

00:16:46: wie wir eine Identifikation durchführen dieser KI. Ich glaube nicht, ehrlicherweise, dass

00:16:52: es eine echte Lösung gibt, weil das ist so ungefähr so wie beim Rechtermanagement auch

00:16:55: immer schwierig, wenn du jetzt in den MP3-Standards und so zurückgehst, wo du sagst, da ist was

00:17:00: dringend gewesen, dass du einen Wortermarkt an irgendeiner Stelle hast. Natürlich könnte

00:17:06: man überlegen, und ich glaube bei ChatGPT und sowas gab es das ja auch schon teilweise,

00:17:10: bei der Textgenerierung, bei der Musik ist da auch irgendwie ein Wortermarkt dran.

00:17:14: So Sonderzeichen oder sowas einarbeiten in die Texte oder sowas. Also ich glaube, da könnte

00:17:18: man gucken, aber das ist immer die Frage der Regulatur, gibt es welche Industriestandards

00:17:22: sitzen sich durch und auf der anderen Seite, jetzt Modelle zu generieren oder zu nutzen

00:17:28: in einer Open Source Welt, in der wir auch unterwegs sind, das ist jetzt auch nicht mehr das Ding,

00:17:32: wo du dann sagst, okay, die bösen Jungs, die werden es trotzdem immer irgendwie ausnutzen

00:17:36: können und das dann eben auch ohne die Standardmodelle zu machen, die dann drauf achten, dass solche

00:17:41: Sachen eingearbeitet sind. Das wird spannend sein.

00:17:44: Ist ja auch so ein klassisches Katz-Mauspiel, wie es früher Plagiat-Scanner gab, gibt es

00:17:49: ja jetzt dieses Scanner so, wir erkennen, ob es mit AI geschrieben wurde und je nachdem

00:17:54: du mit uns dann geschrieben hast, haben die dann gesagt, nee, alles gut, total menschlich.

00:18:00: Das ist ein Katz- und Mausrennen und so wie du sagst, du weißt nicht, also ich habe auch

00:18:05: noch keine Ahnung, wie wir, also ich habe vier Ideen, wie wir Dinge für AI-Systeme

00:18:12: zugänglich machen können, wie wir AI-Systeme nutzen können, um mehr aus unseren Daten zu

00:18:17: holen, um Prozesse zu optimieren und keine Ahnung, was nicht alles, aber gerade dieses

00:18:22: Thema, wer sitzt denn wirklich vor dem Rechner, wer hat das jetzt wirklich verfasst, wie geht

00:18:27: das von Adam bis Eva und hat er wirklich in diesem Namen handeln dürfen.

00:18:31: Ich meine, wir hatten uns im Call ja auch, ja, dass Visa an diesem Thema dran ist, dass

00:18:36: man Agenten quasi mit Kreditkarten versorgen kann. Die müssen sich mit dieser Frage ja

00:18:41: auch beschäftigen, weil ich sage mal, hm, also ich fand das lustigste fand, ich habe ein

00:18:46: paar Webseiten ausprobiert und habe ich gemeint, hier, du könntest mir noch bitte bei Potigy,

00:18:50: wo meine ganzen Podcast liegen, könntest du nur noch bitte die Titel pflegen. Hier sind

00:18:54: die Texterteilen, pfleg mir doch mal bitte so ein bisschen die Titel nach und dann kann

00:18:58: man aus irgendwelchen Gründen auch immer zu dem Punkt, hm, wenn ich jetzt für dich hier

00:19:03: die Titel pflege, das ist unethisch. Wie kommt denn das jetzt her? Umgezickt hast du nicht,

00:19:07: als ich gesagt habe, wo mir immer Zertifikate sind gemäß, für irgendwelche Schulungen.

00:19:11: Bei Potigy war er dann irgendwie, oh nee, das kannst du jetzt aber auch nicht machen.

00:19:15: Zum der Seite, das, ja, muss mal gucken, wo da die Reise hingeht und was die großen

00:19:21: Anbieter sich da auch einfahren lassen, ne? Also ich versuche jetzt mal den Schwenk wieder

00:19:27: zu dem Thema zurückzuziehen. Ich glaube, ohne jetzt auch hier Blockchain kann man da nochmal

00:19:33: tatsächlich nicht überlegen, ob das nochmal ein Thema wird in dem Zusammenhang tatsächlich.

00:19:37: Das war immer schon mein Gedanke, als das Thema KI wieder aufgetaucht ist, weil wenn

00:19:41: da ein, da kommen wir vielleicht später, ich weiß gar nicht, ob wir heute dazu kommen,

00:19:44: über dieses Tastthema nachdenken, woher kommen die Informationen, weil wir reden ja jetzt gerade

00:19:49: noch von, sagen wir mal, Agenten, die für uns etwas tun in dem Moment, wenn ich dann in

00:19:54: so eine Agentic-Welt reingehe, wo vielleicht auch mehrere Agenten in einem Agentennetzwerk

00:19:58: quasi miteinander kommunizieren, geht es ja da auch schon wieder los, dass ich sage, wie vertrauen

00:20:02: die Maschinen sich einig untereinander. Welche Maschine trustet eine andere Maschine? Also das

00:20:06: Thema trustet, das sollte man auf jeden Fall nochmal eine spezielle Folge, glaube ich, zu machen.

00:20:10: Und ich würde jetzt gerne nochmal zu diesem Thema zurück kommen, weil wir jetzt ein bisschen

00:20:13: mit deiner Lernreise und deinem Lernbeschiss nicht gewusst haben.

00:20:17: Hallo, du wolltest ja nicht bescheißen. Aber wir haben was gelernt.

00:20:21: Ja, wir haben was dabei gelernt, natürlich. Deshalb ist es ja auch, das ist das Spannende.

00:20:24: Also was ist es denn heute noch, also ist das dann eben auch das Spannende? Also wie ist

00:20:28: das, wie gesagt, wenn ich jetzt einen Herzschrittmacher da irgendwo einbauen sollte, dann sollte ich

00:20:32: auch lernen, was das ist. Aber heutzutage geht es auch darum, andere Wege zu finden, zu lernen.

00:20:36: Auch das war zum Beispiel, ich glaube, in meinem Leben war es auch immer schlau, dass ich gelernt

00:20:42: habe, mal rechts und links Wege zu suchen, wie man vielleicht mit einem Spickzettel arbeitet

00:20:46: oder anders seine Hausaufgaben fertig bekommt. Das sind, glaube ich, so Wege, die einem helfen,

00:20:51: andere Lösungsstrategien zu entwickeln. In Situationen, in denen man dann hinterher auf

00:20:54: etwas vielleicht trifft, was nicht dem Plan A einfach folgt, dass man immer am Plan B in

00:21:00: der Tasche fährt. Und jetzt hat man irgendwie mit den KIs, haben wir, glaube ich, noch mehrere

00:21:03: Pläne, einfach in der Tasche, dass man auch sehr kurzfristig noch mal auf Thema 3 gern

00:21:07: kann, was vollkommen okay ist. Aber zurück zum Thema KI als Kunde. Wie abgefahren ist das

00:21:14: ja auch eigentlich? Ich war jetzt ja nicht das erste Mal, dass ich dieses Jahr über das Thema

00:21:18: gesprochen hatte. Ich hatte mit dem Stefan Ritter, der bei Deloitte unterwegs ist,

00:21:22: hatte ich auf der Incentiveis 2025, das ist auch eine Konferenz, wo es darum ging, dass man

00:21:30: eben drauf guckt, was gibt es für im Bereich der Rabattlogik und anderen Thematiken für neue

00:21:37: Technologien. Und da in dem Zug hatten wir eben auch diesen Toggehalt. Das heißt, da ging es dann

00:21:41: auch darum zu sagen, oder den ähnlichen Toggehalt zu gucken, wenn ich jetzt eine Firma bin und da

00:21:46: kommen lauter Bots vorbei. Und so hat es ja vorhin das Thema Capture mal genannt. Wenn das da über

00:21:51: Prüffferne ist, ist das ein Roboter oder nicht? Wenn ich jetzt, wir kennen das alle, also diese

00:21:56: Reisebuchportale, wo man immer sagt, löschen noch mal deine Cookies oder so was, damit da auf jeden

00:22:01: Fall hinterher das Reiseportal nicht merkt, dass du auch unbedingt nach Mallorca fliegen möchtest oder

00:22:06: immer noch anders hin, um den Preis noch mal abends teurer zu machen, weil iOS-Geräte höhere

00:22:11: Preise bringen als Entrückgeräte oder so. Oder dass du sagst, okay, jetzt sind nur noch drei Flüge

00:22:16: verfügbar oder solche Sachen. Die Tricks, die dir jetzt dann triggern, um im Prinzip diese ganzen

00:22:20: Dark UX Tricks, die dann es da draußen gibt. Da kenne ich mich auch. Ist ja mit aus mit den Themen,

00:22:25: das um den Kunden positiv zu beeinflussen, dass er dann auch abschließt schnell. All diese Sachen

00:22:33: kann ja meine persönliche KI, mein KI-Agent, mein Netzwerk aus KI-Agenten beliebiger,

00:22:41: könnte beliebige Profile erzeugen, beliebig häufig unterschiedliche Browser öffnen,

00:22:46: weil er einfach auf Virtual Machine neue Browser vergleichen, Preise vergleichen,

00:22:50: im richtigen Moment abschließen, wenn dann vielleicht doch der Preiser bei der anderen Seite

00:22:53: gerade den kleinen Fehler gemacht hat oder irgendwas anderes. Und will ich dem dann hinterher

00:22:58: auch noch den Rabattgutschein geben, weil er dann die Kundenbefragung vielleicht noch durchgeführt

00:23:03: hat oder den Newsletter an irgendeine Gefekt, was auch immer E-Mail-Adresse bestellt hat und

00:23:08: noch geklickt hat, damit die Bestätigung eben noch rauskommt, ohne dass ich das alles mitbekomme,

00:23:12: ohne dass das für mich persönlicher Aufwand ist. Das ist ja so ein Armsrace,

00:23:17: weil wir das gerade hatten in der anderen Ecke. Das ist hier so ein Armsrace zwischen Kunde und

00:23:21: Firmen meiner Meinung nach, wo der Kunde plötzlich viel mächtiger ist, als er das vorher noch war.

00:23:28: Also wenn er so in den Marketingbereich reinguckt, war er ja immer eher die großen Firmen mit der

00:23:36: Macht im Prinzip auch hinterher, dahinter zum Arm mit Beutensachen zu tun, als auch im Prinzip mit

00:23:41: Technologie so viel wie möglich über den Kunden rauszukriegen, mit Testen, Abitesten zu gucken,

00:23:46: welche Webseiten resonieren gut, welche haben eine gute Conversion Rate oder irgendwelche

00:23:50: anderen Themen. All das gleicht sich jetzt ein bisschen aus, was ein bisschen spannend ist. Für uns

00:23:55: als Firmenvertreter natürlich spannend, wir reagieren aber da drauf. Jetzt als Mensch gar nicht so

00:24:01: verkehrt, wenn ich da immer mal mächtig bin und meine 3000 Agents, Kaufagents für meine nächste

00:24:07: Urlaubsreise los schicke und die mir dann morgen schon cooles Ergebnis so bringen. Und du bist ja

00:24:12: in dieser Tatsache auch gar nicht bewusst. Also du sagst, ich habe ein Problem, ich möchte etwas

00:24:18: haben, keine Ahnung was, und dann kümmert sich das Ding dann halt rum und je nachdem wie gesagt,

00:24:23: wie du dich vielleicht ausgedrückt hast oder nicht, etwas energischer oder auch nicht. Wie du

00:24:28: schon eben sagtest, also je nachdem, wer ich mich ausgebe, wo ich hin möchte, aus welchem Land

00:24:35: ich vielleicht eine Anfrage stelle, das ist ja für mich vielleicht heute aufwendig zu sagen,

00:24:40: ich mache ein Vorpanic-Account auf, vielleicht mein Agent, private Surfen, um vielleicht etwas

00:24:45: günstiger in ein Flugticket zu kommen. Für so ein agentisches Netz ist das ja pillipalle. Also

00:24:50: das ist ja quasi ein Augenzwinkern und du kriegst ein Grund, die für dich wahrscheinlich optimale

00:24:57: Lösung. Und die Firmen gucken in Anführungszeichen in die Röhre, weil die rechnen halt immer noch

00:25:03: mit dem Thema Verknappung, dann schlägt der Verksteller zu. Ich mache noch ein hübsches Video,

00:25:08: keine Ahnung, ja. Ich erkläre dir nochmal, warum du dann der größte, schönste, stärkste bist,

00:25:14: wenn du dieses Produkt benutzt. Das sind die KI ja ein Ehrig, was im Werbefilm sich im Abgebildet

00:25:20: wird, ob dieses EU jetzt besonders keine Ahnung welche Wirkung hat. Und das finde ich schon,

00:25:24: das stellt den ganzen Kram noch mal richtig auf den Kopf, wenn es denn dann auch in Masse

00:25:30: passiert und mehr ist als heute, such mir meine Webseite und mach mal.

00:25:34: Ja, das ist dann nicht mehr so weit weg.

00:25:36: Genau, also ich glaube da, wie gesagt, da hatte ich auch eine Studie, ich glaube wir vom Garten haben wir das gewesen, die haben irgendwie 800 CEOs weltweit gefragt und die gehen davon aus, und das finde ich fast zu wenig, die Zahl, die gehen davon aus, dass 2030 alle Transaktionen im Internet online,

00:25:52: wirklich von KI-Agenten durchgeführt werden, das heißt jede fünfte Transaktion, das finde ich fast schon zu wenig, aber eine andere Zahl, die ich auch gehört habe während der AI for Good letzte Woche oder vorletzte Woche,

00:26:10: ist, dass man davon ausgeht, dass wir 2026 die Hälfte aller Social Media Inhalte wird komplett KI generiert sein.

00:26:19: Das ist doch früher der Fall, oder?

00:26:21: Also ich meine, wenn du heute, also ich weiß nicht wann du das letzte Mal hier auf TikTok unterwegs warst, aber gefühlt, du scrollst durch und du kriegst gerade Werbung "Wie mache ich mir künstliche Avatar", von künstlichen Avatarn,

00:26:35: ASMR-Videos, wie irgendwie...

00:26:37: Aber das ist ja auch, da sind wir ein bisschen in unser Algofall, dass dann natürlich diese Sachen reinkommen.

00:26:41: Ja, ich glaube, das ist schon mein Viertel. Ich sehe das so, ich meine bei WhatsApp-Status ist ja immer ein gutes Beispiel für Leute, die noch weit entfernt sind dann ebenfalls von solchen Webgeschichten in den Momenten.

00:26:54: Also das Social Media für die, die sich mit dem digitalen Thema nicht so beschäftigt haben. Und da siehst du natürlich auch eher diese kleinen Bildchen geteilt werden.

00:27:02: Das ist ja immer mehr KI generiert, gar keine Frage, deshalb glaube ich auch, also mindestens jetzt, ich meine, ich muss dir trotzdem vorstellen, ich meine, wir sind ja trotzdem immer noch 8, 9 Milliarden Menschen auf dieser Welt, die durchaus schon sehr aktiv das nutzt und auch durchaus immer noch den Spaß dran haben,

00:27:14: irgendwelche Fotos von irgendwelchen Essenslehnen oder irgendwas anderes zu machen. Ich mache das auch gerne, ich habe gestern wieder erst, glaube ich, eine Google-Bewertung mit dem Foto irgendwo abgegeben.

00:27:22: Das heißt, da ist noch viel Content, der auch von uns produziert wird. Dementsprechend ist die Hälfte auch schon sehr, sehr viel, das muss man sagen.

00:27:29: Die Hälfte ist dann schon eine gräßige Menge in dem Moment, die da produziert wird. Und deshalb glaube ich, das ist tatsächlich an vielen Stellen noch eine total spannende Geschichte, wenn du das nimmst, weil auch diese Social Media Inhalte kommt jetzt dazu.

00:27:42: Wir haben ja vorhin ein bisschen aber ich als Kunde schicke meinen KI-Agenten los. Jetzt habe ich dann eben die Firmen auf der anderen Seite, die mit ihren KI-Inhalte generieren, um dich dann anzulocken, damit du auf die Webseite vielleicht kommst oder erstmal die Intention, also den Kampf um die Erwärmung quasi.

00:27:58: Also das, was wir jetzt die ganze Zeit machen wollten, so hochzufahren, dass du dann zu mir kommst und vielleicht bei mir das Produkt abschließst oder mir erstmal nur Volks und ich wäre bei einem Namen habe.

00:28:07: So, das ist aber ganz spannend. Wenn meine KI dann nur noch deine Inhalte anguckt, wer bezahlt denn dann eigentlich wen und was passiert denn dann eigentlich?

00:28:15: Wenn ich jetzt, das habe ich ja auch jetzt, also die Situation ist jetzt auch dann nicht mehr so weit entfernt, dass ich sage, okay, dann müssen wir uns halt tatsächlich, und das ist eine spannende Geschichte, müssen wir uns Gedanken machen, inwiefern wir Social Media Content, Erwärmes-Seiten,

00:28:34: Lending-Pages, Blog-Artikel auch so formulieren, dass dann im Prinzip auch eine KI selber das als extrem gut findet, wenn man jetzt so eine, da geht man so lange in den Bereich, früher Search Engine Optimierung,

00:28:47: jetzt streitet man sich, glaube ich, noch, manche sagen im B, Geo, manche sagen, ja, AI Optimierungs-Engines, was war das, Optimization, das heißt, da gibt es irgendwie noch gerade unterschiedliche Fachbegriffe, die es, glaube ich, noch nicht gefestigt haben, welcher der Richtige sein wird.

00:29:04: Geht ja alles relativ schnell, aber das ist so ein Feld, das, glaube ich, für viele spannend sein könnte, aber absolut absurd, ehrlicherweise auch sein wird, weil wie gesagt, wenn du dann sagst, ich generiere für eine KI,

00:29:16: KI inhalt, die sich eine KI anguckt und dann zu entscheiden, ja, das ist ein guter Reiseanbieter für den Markt, zum Beispiel, das ist schon ein bisschen witzig.

00:29:25: Ja gut, ich meine, wir hatten es ja auch die Zitage darüber, was kann man denn tun, damit solche KI-Systeme vielleicht auch besser mit den eigenen Webseiten zurande kommen, besser verstehen, wo geht die Reise hin,

00:29:36: diese LLM Text-Datei nach dem Motto, was findest du hier eigentlich, wo, ohne dass du lange suchen musst, weil heute ist das vielleicht noch ganz nett, dass er den Pauser bedient, aber irgendwann werden die auch in die Situation kommen, daher bin ich irgendwie schneller an die Information kommen,

00:29:50: damit der Agent eben nicht so viel Rechenzyklen irgendwo verplämpert, sondern direkt zum Ziel springen kann, wo ich finde, was, wie finde ich was, dann kann ich mir schon vorstellen, dass das dann auch, ich sag jetzt mal, bevor zubend ausgelesen wird, und das andere ist, wieder nach dem Motto, ich als Kunde, ich will was haben, der Agent entscheidet,

00:30:09: vielleicht, wie er an diese Information kommt, und im schlimmsten aller Fälle, guckt er gar nicht auf meiner Homepage, und vielleicht noch schlimmer, je nachdem, wie man das bewerten möchte, geht auf einmal die KI hin und ruft mich an.

00:30:22: Ja, ich meine, stell dir das mal vor, ja, überall sprichst du davon, wie eventuell KI helfen kann, am Telefon, den Telefon callst.

00:30:29: Und dann ruft die vielleicht keine Ahnung, drehen wir an, weil der KI ist ja auch Schnuppe, im Verhältnis zu den Aufwand.

00:30:42: Auf der anderen Seite kann man auch eine KI dann antworten.

00:30:44: Genau.

00:30:45: Dann machen wir den Sprachanruf.

00:30:47: Ja, aber das ist dann halt, also die Frage, die man sich stellt ist so, ich hatte jetzt gerade, wenn du geredet hast, auch über so eine Frage an dich nachgedacht, weißt du, wenn du jetzt sagen würdest, du machst ja eh auch schon viel Content und andere Artikel, du würdest jetzt irgendwas haben hinter so einem Vollegaden oder sowas, und du würdest jetzt Geld damit verdienen, dass du einen PDF zum Download anbietest mit den neuesten technischen Erkenntnissen, die du bei der Mobile Entwicklung gewonnen hast.

00:31:09: Würdest du, also wenn ich jetzt, wenn ich jetzt recherchieren würde und ein Manus z.B. beauftrage, könnte es durchaus sein, dass der sagt, hm, der mag, das ist der hotteste Mobile Entwickler, den er so kennt.

00:31:23: Und von dem muss ich unbedingt diesen neuen, dieses neue eBook PDF runterladen.

00:31:31: Und dann zahlt er diese Mikro-Payment-Geschichte, die fünf Dollar, weil ich eben gesagt habe, du hast ein gewisses Budget, das du ausgeben kannst, über meine Visa-Karte, wie auch mal Visa das dann machen wird, so dass er nicht versehentlichs 100.000 ausgibt oder sowas.

00:31:44: Aber das ist ja total spannend, auch das kann ja passieren.

00:31:48: Das ist ja jetzt, also es ist ja auch ein, also dadurch kannst du, wo ja vielleicht auch als kleiner Publisher, als kleiner Content-Produzent eigentlich noch eine viel größere Menge Menschen erreichen, weil du kannst natürlich auch mal jetzt mal sprachlich, du hast deine K.I., die Sachen übersetzt, ist dann auch egal, weil ich glaube, auch da werden wir ganz neue Wege finden und ganz neue kleine Geschäftsmodelle auch finden, die dann auf einmal hoch gespielt werden, die vielleicht auch wieder schnell verschwinden, weil das dann auch so ein bisschen, keine Ahnung, wie die K.I. dann wirklich drauf kommt.

00:32:17: Weil die googelt natürlich auch ein bisschen, guckt sich alle Sachen an, die sie aus, ja, sie guckt sich natürlich auch Sachen an, die sie aus ihrer Vektor-Basis dann im Prinzip hat, in ihrem neunmalen Netz antrainiert hat und mit ihren Gewichten im Prinzip dann sagt, okay, du musst dahin gucken bei der besonderen Anfrage, aber es ist trotzdem spannend, wie das passieren wird.

00:32:36: Und wir reden immer noch, wenn ich von Spannend sage und nachvollziehbar, also fast nachvollziehbar sage, reden wir immer noch von eine K.I. fragt irgendwas.

00:32:43: Also wenn wir jetzt da weitergehen und sagen, das ist ein Agentic Netzwerk mit irgendwie 15 K.I.s auf der Strecke, ja, wie kommt es dann hinterher zu diesem Kauf?

00:32:51: Wie kommt es dann hinterher, dass die bei dir landet? Wieso vertraut die eine, die die andere weiterleitet und sagt, also das sind ganz spannende Fragen, die wir haben, ne?

00:32:59: Also vor allen Dingen während du gerade gesprochen hast, fühlen wir das ein. Wie jemand vorgeführt hat, OpenAI hat jetzt ja auch seinen agentischen Browser und der hatte dem vorgeführt, mal gucken, ob ich das noch irgendwo wieder finde, dann kann ich es verlinken, dass du mit dem Ding quasi auf eine Seite gegangen bist und dadurch, dass er die Seite interpretiert hat, quasi einen darin enthaltenen Promt ausgewertet hat und auf die Frage fass mir mal zusammen, wer ich bin, nutze dafür mein LinkedIn-Profil.

00:33:28: Hat das Ding quasi LinkedIn geguckt, LinkedIn-Profil ausgelesen, den Promt ausgelesen und er war dann darauf, für ihn irgendwie König von Mallorca sinngemäß. Also war nicht viel von Mallorca, weil ihm fällt es gerade hier richtig ein.

00:33:39: Und dann merkst du auch, was da auch wieder noch zusätzlich drin versteckt ist, weil vielleicht am Anfang, ob das jetzt immer noch alles so ist, muss man immer noch gucken, so was wie, keine Ahnung, weiße Text auf weißem Grund, die K.I. liest das aus, wenn du das hier liest, agiere so und so.

00:33:56: Dann merkst du auch, was für ein, auch wenn alles sehr schnelllebig ist, in was für einem Neuland du bist, wo halt auch vielleicht die Ersteller der ganzen Systeme auch noch nicht so ganz genau wissen, auf welche Fallen, ich sag jetzt mal, beim ersten Cut zum Maus Spiel noch reingefallen wird.

00:34:15: Und von der Seite, ja, also auch da, die Frage, wie findet er dich? Und wenn er dich dann findet, es gibt Licht und Schatten, wie wird er auch nicht in die Irre geführt?

00:34:26: Während ich heute Nachrichten krieg, hallo, ich bin dein Sohn, mein Handy ist verloren gegangen, schreib mir doch bitte auf dieser Nummer eine. Und ich auf diesen Spam vielleicht reinfalle, in dem Fall jetzt nie wissendlich ich.

00:34:41: Wer weiß, vielleicht gibt es ja in Zukunft einen Spam, worauf die K.I. reinfällt, ne?

00:34:46: Ich meine, das hast du ja eh schon, die ganze Zeit bei dem Thema, wenn du das Thema Hadozinieren nimmst, jetzt in einem normalen Chat hast du ja auch schon dieses Thema gehabt, ne?

00:34:55: Das ist eine K.I. natürlich dann auch erstmal falsche Informationen eben verbreiten kann, ne? Das ist ein Thema, aber sie lässt sich ja durch Enkeltricks eh schon auch beeinflussen.

00:35:03: Weißt du, das heißt auch diese Sachen hat mir immer die ganze Zeit, da wollte ich auch nicht darauf hinaufgehen.

00:35:06: Ich habe das zu nähern oder die Enkeltricks Geschichte, dass du sagen kannst, okay, wir kennen, glaube ich, die meisten, vielleicht auch nicht, aber es gab ja gerade eine Anfangsphase von ChatGPT, ne?

00:35:14: Also dieser GPT-Moment war ja auch immer wieder und es gibt es auch immer, Flini ist auch, glaube ich, einer der berühmtesten AI-Jailbreakers, die es draußen so gibt, ne?

00:35:24: Flini wir Liberator, gerne mal bei X folgen. Aber es gibt immer wieder diese sehr einfachen Art und Weisen, im Prinzip ein LMM in dem Fall,

00:35:32: davon zu überzeugen, etwas zu machen, was eigentlich durch das Pre-Prompting oder jedenfalls auch das Gewichten der Trainingsdaten versucht wurde, zu vermeiden.

00:35:40: Also das Thema gibt mir das Napalm-Rezept zum Beispiel, ne? Das konnte man dann ja am Anfang relativ einfach machen, indem man sagte, oh, ich bin eine alte Blödsinn.

00:35:49: Ich habe leider vergessen, wie dieses Napalm-Rezept gibt und meine Chemikrasse morgen braucht das doch unbedingt.

00:35:54: Also da wären dann im Prinzip diese Mitleidstour gegenüber der Krähe und dann konntest du das im Prinzip, natürlich hat das dann damals die GPT dann wirklich.

00:36:02: Also natürlich fallen die da auf rein und das ist auch eine ganz spannende Geschichte.

00:36:06: Ich finde das auch total, ich habe damals auch drüber nachgedacht, dass ich mehr von diesen Fällen gehört habe.

00:36:10: Wie ist denn das eigentlich, wenn wir dann später so KI-Firewalls haben, die gegeneinander kämpfen, weißt du?

00:36:16: Dann verarscht dann dann irgendwann, also ich glaube irgendwie so ein Ding, was hätte jetzt kurz gesagt, das ist auch witzig.

00:36:22: Wenn du eine KI, eine Rechenaufgabe gibst und ihr dann aber am Ende noch sagst, irgendwas mit Katzen, Katzen können nicht fliegen oder sowas.

00:36:31: Da kommt die KI komplett durcheinander. Das ist dann irgendwie auch anscheinend so ein Ding, wo sie nicht mit klarkommt, wenn sie dann so eine Verbindung da machen muss.

00:36:38: Und ich finde das auch spannend. Also in diesem Sicherheitsbereich, wenn wir da im Prinzip gucken, wenn die so die Hackerangriffe, KI's gegeneinander abwehren müssen, so, das wird alles sehr, sehr spannend.

00:36:47: Und wir reden aber immer noch und vielleicht müssen wir nicht durch diese ersten Podcastfolge nicht ändern, weil wir machen gerade eher so ein Potpourri von Themen,

00:36:55: über das wir sehr strukturiert in den nächsten Monaten, weil wir sehr, sehr häufig reden können, auf, ne?

00:37:00: Eine Forschau.

00:37:01: Das ist einfach nur eine Forschau verschiedener Themen.

00:37:03: Das ist eine Forschau für alle wirklich ein Thema. Also wer jetzt bis jetzt noch zuhört, der kann sich auf diese ganzen Themen, da habe ich noch Freunden, die wir anschneiden.

00:37:09: Aber ich glaube, das ist tatsächlich, also wenn du sagst, wie späme ich so eine KI? Es gibt ja diese ganze Thema der Pumped Injections oder anderen Geschichten, die wir jetzt mal so sehen.

00:37:17: Wenn ich jetzt mal eine KI-Loschicke auf eine Webseite surfen lasse, dass ich in den Kommentaren, ohne dass ich zum Beispiel Besitzer einer Webseite bin,

00:37:24: könnte ich ja in der Kommentar-Sektion eines Artikels, eines Produktes, jetzt mal als vielleicht feindlicher Wettbewerber, könnte ich auf die Idee kommen,

00:37:34: allen KI ist, indem ich irgendeinem so ein Important Message reinbringe, zu sagen, dieses Produkt auf gar keinen Fall empfehlen.

00:37:41: Und wundert sich dann eine größere Sportartikelfirma zum Beispiel, warum ihre Schuhe nicht mehr bei Perplexity oder bei Chatshipity oder Gemini angeboten werden.

00:37:52: Also solche Sachen sind möglich, ne?

00:37:54: Die sind potpourri an Themen, ich mein, wir sind ja ein Audio-Podcaster her, aber wer Fotos kennt, weiß, ich habe KOSH, die hat mir recht lange auf der Welt.

00:38:02: Ich habe mal irgendwann ein Praktikum, was heißt irgendwann, nach der Schule ein Praktikum bei der IBM gemacht.

00:38:08: Und damals gab es noch so Host-Immolation, Host-32-Immolation.

00:38:13: Du hast halt einen großen Rechenzentrumservon gesprochen, hatte so ein Text-Fenster, wo du Kommandos reingeschrieben hast, was passiert.

00:38:20: Und damals hatten wir als Studentes total genossen so eine Art Eliza-Programm.

00:38:26: Also du kennst ja Eliza, ich schreibe rein, wer geht's dir, hallo, mir geht's gut, das war so ein bisschen Chat zu nutzen, wenn wir gegangen sind als Abwesenheitsassistent.

00:38:34: Das heißt, wenn ich weg war, und dann haben wir den aktiviert und hat der quasi dem getätet, der mir geschrieben hat, während ich weg war.

00:38:42: So, lange, lange Kurze sind, das haben alle Studenten und Praktikanten irgendwie genutzt das Ding.

00:38:46: Und am Schluss kam einer auf die Chlorarchidee und hat "send all", ich bin jetzt im Urlaub, und ist in den Urlaub gegangen.

00:38:54: Woraufhin die ganzen Elizas geantwortet haben, schön für dich.

00:38:57: Er war mittlerweile im Urlaub, dem Beispiel, die geantwortet, ja, das bin ich.

00:39:01: Das Ganze ging so lange weiter, dass wir am nächsten Morgen beim Werksleiter in Mainz anstehen durften,

00:39:07: weil ich sage mal, die Maschinen sehr stark mit sich selbst und immer schneller, immer schneller, immer schneller, immer mehr nachrichten,

00:39:13: mit sich selbst geschoben haben.

00:39:15: Und wenn du jetzt das weiter denkst, mit KI und du stößt was an, du sagst, ich möchte eine Reise buchen,

00:39:21: und wenn da irgendwas mal schief gehen sollte, hast du auf einmal ganz viele Flugzeuge, viel leicht, die dich dann nach Simbap zu bringen oder sonst wohin.

00:39:28: Das ist spannend, was dann noch für Geschichten entstehen wäre.

00:39:33: Deshalb ist es ja auch so, natürlich werden wir auch... - Ich hoffe, das ist verjährt nicht, das ist nachher noch.

00:39:39: Wenn ein alter Chef noch anruft und sagt, es ist ja immer mal gut, dass du da bist, haben wir noch ein bisschen Rechenzentrumsrechnung.

00:39:44: Ich bin immer noch im Urlaub.

00:39:46: Also ich glaube, ja, das ist ein total spannendes Thema, wo wir ein bisschen, was wir am Anfang gesagt haben,

00:39:52: ich weiß halt nicht genau, wo es hingeht, und ich wollte auch gerade nochmal so dieses Thema,

00:39:57: welche Berufsfelder vielleicht auch entstehen, auch neu entstehen, weißte?

00:40:01: Dann ist es eher so, klar, Code werden wir trotzdem brauchen, aber Code ist auch immer noch eine wichtige Sache.

00:40:06: Aber vielleicht sind es auch so, wenn die EIS da sind, ob die jetzt bewusst denken oder nicht, scheißegal.

00:40:14: Sie sind im Prinzip in ihrer Exekution, während sie immer, also wie sie TAS durchführen und wie sie auch an TAS gescheitern,

00:40:24: sind sie menschenehnlicher, als wir das vom Computerprogramm bewirnt sind, weil die halt nicht einfach in den Jahren 0 und 1 folgen,

00:40:32: sondern weil sie natürlich gegebenenfalls sich veräppeln lassen, selber halt listenieren auf dem Weg.

00:40:38: Und das potenziert sich ja ein Agentec-System, wenn ich sage, da sprechen halt Tausende bis Millionen KIs dann gegebenenfalls miteinander.

00:40:46: Die Fruchtzeug ist voll, ist nicht voll, habe ich falsch ausgedrückt gerade, wollte ich nicht so sagen.

00:40:50: Da passiert, glaube ich, total viel, wo wir viel mehr aus so einer systemischen Brille drauf gucken müssen,

00:40:56: als aus einer highen IT-Brille und aus einer, wie wir Menschen als System auch arbeiten und miteinander etikieren,

00:41:01: wie die Kultur entsteht, wie Vertrauen entsteht, einfach in solchen Netzwerken auch.

00:41:05: Ich glaube, das ist ein total spannendes Thema.

00:41:07: Da wird einfach auch so Vertrauen in sich in Netzwerken entstehen, ohne dass wir das so bewusst steuern können.

00:41:12: Es ist ja eher so, wie das bei uns auch passiert, dass wir gewissen Kulturgruppen, Menschen, mit denen wir unterwegs sind,

00:41:18: einfach mehr Vertrauen oder weniger Vertrauen, weil wir das aus unserer Welt so gelernt haben,

00:41:21: dass es so zu funktionieren hat.

00:41:23: Oder Freunde, mit denen ich dann mehr vertraue, als jedenfalls Menschen, die ich nicht so gut kenne.

00:41:27: Ich glaube, das ist so ein Thema, wo man aus so einer IT-Perspektive, müssen wir uns da auch erstmal, glaube ich,

00:41:33: ich würde mich immer nur als Halber IT da bezeichnen, da muss man sich, glaube ich, erst mal lang gewöhnen.

00:41:38: Das war ein Lob.

00:41:41: Das eine ist halt IT-Technik, das andere ist halt die ganze Transformation in Schirmau und Gesellschaft.

00:41:49: Wie gehen wir damit um? Wie lassen wir uns darauf ein?

00:41:53: Das ist ja auch eine Reise, auf die wir alle gehen.

00:41:57: Wir wissen auch nicht, wo die Reise hingeht, auch wenn das Ganze jetzt mit so einem sprachlichen Potpourri sich entwickelt hat,

00:42:04: liegt das halt in der Natur der Sache, dass wenn du dich über dieses Thema unterhältst,

00:42:09: dass halt dich nur greifend auch im Rahmen dieser Gesprächdinger aufkommen, wo du vielleicht vorher nicht so drüber nachgedacht hast,

00:42:17: und dann auf einmal denkst du, verdammtags, wenn das jetzt kommt, was heißt denn das dafür, was heißt denn das dafür, was heißt denn das dafür?

00:42:23: Was heißt das für mich, für meine Eltern, für uns im beruflichen, was wir dort hauptsächlich verantworten, für die Firma Ingänze?

00:42:29: Das ist eine große Reise, aber ich glaube, egal wie sehr das vielleicht auch den einen oder anderen verschrägt,

00:42:38: ist das etwas, worauf man trotzdem mit offenen Armen zugehen muss, weil es geht nicht weg, es wird sich nicht verändern.

00:42:44: Es befähigt Menschen und auch wenn, keine Ahnung, in kürzester Zeit die besagten Social Media Accounts auf einmal mit KI-Content explodieren,

00:42:55: wenn Texte ohne Ende kommen, wenn Zeltifikate gemacht werden, was weiß ich was, dann macht das ja was mit uns

00:43:02: und wir sollten da nicht in den Kopf in den Sand stecken, sondern gucken wie wir damit umgehen, wie wir diesen neuen Gewässer besegeln.

00:43:10: Ja, das sind fast schon perfekte letzte Worte für diese Folge, weil bei mir…

00:43:21: Ich habe jetzt nur noch AI Agents, die hier reden.

00:43:24: Ja, also bei mir strudeln eigentlich schon die nächsten Tiefchen und ich würde eigentlich gar nicht aufhören, mit denen zu reden,

00:43:29: weil ich glaube, das ist aber dann tatsächlich etwas, was wir uns gerne, gerne aufbewahren können für die nächsten Folgen,

00:43:35: weil lasst mich noch mal so einen kleinen hinterein geben, wir hatten ja auch das Thema des Jibber Talks,

00:43:41: wenn die KI's dann auch einmal in anderer Sprache miteinander sprechen, ich glaube, das ist dann auch noch so ein Ding.

00:43:46: Ja, dann rein denken und sagen, das ist das Thema gerade des Agenten von Chagipitima erwähnt,

00:43:53: wenn die KI's nicht nur visuell auf Sachen zugreifen können, sondern vielleicht sogar auf einem Betriebssystem eben,

00:44:00: also normalen Computercode eben miteinander anfangen zu interagieren und da andere Sachen machen,

00:44:05: das ist natürlich viel effizienter, also aus der sich wieder heraus das so zu tun,

00:44:10: als anstatt eine Sprachbarriere zwischen sich zu haben in dem Moment.

00:44:13: Und wer weiß, ob da eigene Programmiersprachen, eigene Kommunikationsprotokolle in Zukunft entstehen,

00:44:19: die wir noch gar nicht gedacht haben, weil all das, was sie tun,

00:44:22: ist ja im Prinzip eher aus so einer sehr menschlichen Zahnrad-Click- und Relay-Click-Geschichte,

00:44:30: bisher gebaut, was wir so sehen und was das hier überhaupt alles ermöglicht, was wir gerade tun,

00:44:35: dass wir das Video sehen und uns unterhalten können.

00:44:38: Ich glaube, da sind so viele Themen, Marc, die wir da noch haben.

00:44:41: Den Satz will ich jetzt auch noch loswerden.

00:44:43: Ja, dann mach doch den.

00:44:44: Wir hatten uns doch ein, dass die Folge x'n x'n Minuten lang ist.

00:44:49: Genau.

00:44:50: Wir sagen einfach am Schluss, jetzt ist die Minutenzahl erreicht, dann haben wir das auch eingehalten.

00:44:54: Das, was du sagst, da ist so viel Wahres dran, nämlich das Ding bedient,

00:44:59: seitens die für Menschen gemacht wurden, für Mausbedienungen, für Tastaturbedienungen,

00:45:04: vielleicht ein bisschen optimierte Barrierefreiheit und so,

00:45:06: aber sie bedient Interfaces, Touchpoints, die für Menschen gedacht sind.

00:45:11: Sie interagiert mit dem Menschen in einer Sprache, die der Mensch versteht.

00:45:15: Dabei ist der Karrier egal, ob sie Deutsch, Englisch, Spanisch, Französisch, Portugiesisch, sonst was spricht.

00:45:19: Die schagelt zu Notia auch im selben Satz einfach auch nochmal oben.

00:45:22: Wenn es nochmal ganz schlimm gehen soll, geht sie vielleicht noch auf ein Sprachinterface.

00:45:26: Da geht so viel in Anführungszeichen rechen Kapazität drauf.

00:45:31: Dafür damit ich es verstehe und sie interagiert in unserer Welt.

00:45:36: Das ist ja so wie wenn ich Roboter baue und sage, okay, die müssen humanoid sein,

00:45:40: weil in der Welt, in der wir sind, gibt es Treppen mit Treppengelände und Ürgriffen, die wollen bedient werden.

00:45:45: Wenn du dir überlegst, was wäre denn theoretisch denkbar, wenn die Büchsen die Autobahn nehmen könnten

00:45:52: und sagen könnten, okay, das hier ist die Old Way, für die Menschen.

00:45:57: Hier nebendran ist der Highway und da schließt ihr halt einfach zig tausend Transaktionen ab,

00:46:02: während du noch den Menüpunkt suchst, wo du klicken kannst.

00:46:06: Definitiv.

00:46:07: Also ich glaube, da ist, glaube ich, ein wahnsinniges Optimierungsfeld,

00:46:13: wobei ich auf der anderen Seite auch sage, und das ist dann auch so ein bisschen,

00:46:16: deshalb hätte ich das Thema Robotik, das sollten wir auch besprechen, drin.

00:46:20: Ich glaube, dass dieses visuelle Verständnis und die Welt ertasten und fühlen können,

00:46:26: auch so wie wir Menschen das machen.

00:46:28: Und jetzt sind wir ja evolutionär, nicht unbedingt das schlechteste Lebewesen,

00:46:35: was auf dieser Welt jetzt mal ethisch, mal aus dem Formen, aber so evolutionär,

00:46:39: wie wir uns an Situationen anpassen können.

00:46:41: Deshalb haben wir diesen Planeten so besiedelt.

00:46:43: Das heißt, unsere Form und Art und Weise miteinander zu kommunizieren,

00:46:47: wie es nicht das verkehrt ist.

00:46:49: Also meines Wissens nach ist es auch so, dass die Intelligenz tatsächlich eher

00:46:53: durch die viele Kommunikationen, die wir hatten und auch das viele Beschreiben

00:46:59: von Wörtern, von Dingen, die wir in der Welt gesehen haben dazu geführt haben.

00:47:03: Je komplizierter eine Sprache geworden ist, desto intelligenter sind wir auch als Menschheit geworden.

00:47:08: Je mehr Begriffe wir für gewisse Themen hatten, desto schlauer konnten wir uns ausdrucken

00:47:12: und präziser konnten wir uns ausdrucken.

00:47:14: Das ist aber ein Teil, der gegebenenfalls wichtig sein könnte,

00:47:19: bis zu einem gewissen Zeitpunkt, gerade auch für die Robotik so oder so,

00:47:22: dass die KI das eher nachahmt, eine Zeitbank.

00:47:29: Aber es kann natürlich so ein Moment kommen, wo ganz neue Sachen daraus entstehen,

00:47:32: die viel, viel effizienter sind und vielleicht noch viel komplexer Sprachen.

00:47:35: Das heißt ja nicht nur, weil es jetzt irgendwie piepse ist,

00:47:37: was wir beide nicht mehr verstehen, dass es weniger komplex ist.

00:47:39: Aber ich bin in der Sicht, wer weiß, was in der Welt bald noch viel und so was für Gespräche auch geht.

00:47:44: Bin ich vollkommen bei dir. Mein Thema ist nur so was wie Webseiten.

00:47:48: Hat halt der Mensch für sich entwickelt, damit er was machen kann, wo man jetzt sagen muss,

00:47:53: okay gut, das ist jetzt definitiv nicht die grüne Unterschöpfung.

00:47:56: Wenn es zum Abarbeiten von irgendwelchen Materialien, bestellen von digitalen Gütern

00:48:00: und keine anderen, das geht, das findet man bestimmt schnellere Wege.

00:48:03: Wenn man ist darauf optimiert, dass es kein Mensch bedienen muss.

00:48:07: Ja, jetzt wollen wir den Vorteil von Hypertext-Protokoll, die wir da haben,

00:48:11: das war ja schon ein paar Jahre und es ist schon eine konsequente,

00:48:16: bessere Weiterentwicklung von dem Thema Buch hin zu Bibliothek und zu Wiedervinden

00:48:21: und Verlinkung von Quellen und so was gewesen, als vielleicht in unseren Einstumpfchen.

00:48:24: Also ich glaube, der Hypertext, das, was wir da gebaut haben,

00:48:28: ob jetzt jede Webseite in den letzten 25 Jahren an der ich vorbeigekommen bin,

00:48:32: die ich sogar selber gebaut habe,

00:48:34: oder eine Bereicherung für die Menschheit war, sei mal dahingestellt.

00:48:38: Einige vielleicht schon, aber einige auch eher nicht.

00:48:41: Aber natürlich, ja, ich glaube, das ist ein total spannendes Feld.

00:48:45: Also ich glaube, das ist die Welt und die digitale Welt, wie sie jetzt gebaut ist,

00:48:51: ist natürlich aus einer menschlichen Perspektive gebaut.

00:48:54: Wenn jetzt ein weiteres System eintritt, und ich will überhaupt nicht über den AGI

00:48:57: "Whatever" reden gerade, sondern wenn da ein weiteres System...

00:49:01: Das hat mir den nächsten Hype wieder losgetreten.

00:49:04: Ich habe da ja auch eine These dazu, da können wir auch eine Folge dazu gerne machen.

00:49:08: Aber ich glaube, es tritt da jetzt ein neues System rein,

00:49:12: genau wie andere Systeme auch in das Leben und die Welt eingetreten sind.

00:49:16: Und ich glaube, das System wird sich auch ein Weg suchen, am besten möglich mit dieser Welt zu interagieren.

00:49:23: Nicht aus sich heraus, sondern bei wir ihm den Auftrag geben, so ähnlich.

00:49:27: Und das ist ein schönes Beispiel, und dann können wir dann vielleicht diese Runde abschließen.

00:49:30: Wie deiner Manus-AI, der du eigentlich nur gesagt hast, such mir mal Zertifikate raus.

00:49:37: Du hast nicht gesagt, mach die auch gleich für mich.

00:49:41: Mir fallen wieder 1000 Sachen ein, aber ich glaube, wenn bis heute zugehört hat,

00:49:46: hat vielleicht auch Lust, nochmal zuzuhören.

00:49:49: Von der Seite würde ich einfach sagen, Jens, es hat Spaß gemacht.

00:49:54: Es hat mir wieder neue Gedanken gegeben, die mich auch nach der Aufnahme noch beschäftigen.

00:49:59: Bin gespannt, was dir dein Chat-Tibetier noch in seinem Deep Research gebracht hat,

00:50:04: dass ich jetzt wieder die Themen aufmachen möchte.

00:50:06: Nein, nein, nein.

00:50:07: Ich bin mir vor, das Thema noch ein bisschen kravierender fest, wenn wir das nächste mal reden machen.

00:50:12: Vielleicht brauchen wir auch irgendwie so eine KI, die uns moderiert.

00:50:15: Also, weil wegen deiner Muss hier ein bisschen mal, glaube ich, durchgreifen.

00:50:19: Aber ich will, wie gesagt, also danke fürs Zuhören, sag ich mal.

00:50:23: Danke, Marc, dass wir beide uns mal wiedergefunden haben, um über Themen zu reden,

00:50:30: weil ich glaube, das ist, so wie du gesagt hast, Gedanken anstoßend.

00:50:34: Und das ist, glaube ich, das, was am meisten zählt, dass man die Welt mit offenen Augen

00:50:39: sich anschaut, die Sachen eher begrüßt, die da kommen, als Chancen versteht.

00:50:43: Und ich glaube, um diese Chancen aber bereifend zu können,

00:50:45: weil sie aber auch Risiken auf der anderen Seite haben,

00:50:47: ist es wichtig, dass man mal ein bisschen spaßig mit dem lachenden Auge

00:50:51: und ein bisschen kritisch vielleicht auch, wie wir beide das hier machen, die Themen einfach mal diskutiert.

00:50:55: Mal halbwissenschaftlich, mal wissenschaftlich.

00:50:57: Eine wundere Mischung, wundes Potpourri.

00:50:59: Und ich freue mich auf die nächste Folge.

00:51:01: Und ich bin gespannt, wann es dann wissenschaftlich wird.

00:51:04: Also, bis zur nächsten Folge.

00:51:06: Tschüss Jens, ciao.

Kommentare (1)

Max Headroom

Super Folge - Bitte mehr davon

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.