Token Budget
Abos, API, Budgets und ein Agent auf dem iPhone
Shownotes
Wie viel darf KI kosten, und woran erkennt man, dass sich der Verbrauch lohnt? Mark und Jens sind wieder vollständig am Tisch, Jens ist nach einer Krankheit zurück. Sie sprechen darüber, wie schnell Abo-Kontingente aufgebraucht sind, warum der Umstieg auf die API-Abrechnung teuer werden kann und weshalb der Verbrauch allein noch nichts über die Qualität eines Ergebnisses sagt.
Ein Thema ist der Begriff Token Maximizing, mit dem Entwickler am Verbrauch gemessen wurden, und das Wechseln zwischen mehreren Abos, sobald eines leer ist. Berichten zufolge haben manche Konzerne die Tagesbudgets für ihre Entwickler gesenkt. Ist ein Token teurer geworden, oder leisten die Modelle schlicht mehr? Welche Aufgabe braucht wirklich das größte Modell? Schnelle Varianten kosten mehr, und nur weil einem ein Ferrari in die Garage gestellt wird, fährt man nicht effizient.
Der zweite Teil dreht sich um Apple. Mark hat auf seinem iPhone einen eigenen Agenten namens Hermes gebaut, mit einem notizbuchartigen Interface statt eines Chatfensters, Morgenbriefings aus Kalender und Mails und einer Frage an Apples Private Cloud Compute: Wie weit trägt der Datenschutz? Ob die kostenlosen Kontingente bleiben, ist offen.
— Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki.
Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io
Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004
Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699
Feedback und Gäste: über die Show-Seite.
Transkript anzeigen
00:00:00: Herzlich willkommen bei Think Different. Think AI., die dunkle Seite der Macht ist ja da.
00:00:06: Der Jens ist auferstanden von den Kranken und ich weiß nicht, ob ihr es kennt.
00:00:11: Also erstmal, Jens, schön, dass du wieder da bist.
00:00:14: Wer hier zu sagen?
00:00:15: Ich weiß nicht, ob ihr es kennt, aber Wissenschaftler haben herausgefunden,
00:00:19: wie der berühmt-berüchtigte Männerschnuppen aussieht.
00:00:22: Sie haben das dazu verantwortliche Virus unter das Mikroskop gepackt
00:00:26: und es sieht aus wie der Todesstern.
00:00:28: Stern. Da kann man das machen. An der Seite, schön, dass du wieder da bist und schön, dass du nicht
00:00:33: zerfetzt wurdest. Aber du redest ganz normal, du hast keinen Schnaufen und keinen Rauchen. Also von
00:00:41: der Seite muss ich dich auch nicht Darf-Jens nennen. Sehr schön, freut mich. Jürgen Paderan,
00:00:47: die geht es dir. Und gleich mal die kritische Frage, die bessere Hälfte hört nicht zu. Was
00:00:52: gibt's denn nur so für Token aus? Oh, okay. Also erstmal ein hoch auf die
00:00:57: Wissenschaft, dass für diese sensationale Bahndrechenentdeckung, die da
00:01:01: gemacht worden ist, was ich für Token ausgebe. Also, jetzt im rein privaten
00:01:07: Umfeld, würde ich sagen, ist es mit Video,
00:01:14: Der GPT ein bisschen, ein bisschen Max bei Claude.
00:01:20: Naja, ich würde so in the range of 100 bis 200 Dollar im Monat machen.
00:01:26: Du hast jetzt Monat gesagt.
00:01:28: Ich hatte kurz Angst, weil ich hätte sonst fragen müssen.
00:01:32: Stunde, Tag, Woche, Quartal.
00:01:35: Ja, man weiß das nicht.
00:01:36: Ich hatte letztens, Grüße gehen raus, ich möchte keinen Namen nennen.
00:01:40: Für jemanden, der gesagt hat, du, also ganz ehrlich, mit dem 20, ich glaube,
00:01:43: hat das 20-Dings-Abo, also irgendwas Kleines, ja, und das wird völlig reichen.
00:01:48: Und ich sitze dann da und denke so, hä, wie kann denn das sein?
00:01:51: Ja, also es gab mal eine Zeit, muss ich mal sagen, den Contact lassen wir mal im
00:01:55: Raum stehen, da hatte ich mal Urlaub und ich habe im Urlaub auch keinen
00:02:01: benützt und es wurde halt vierstellig, ja, also, und der Urlaub waren zwei Wochen.
00:02:07: Naja, so ist das halt, ja, gab aber eine Möglichkeit, das abzurechnen, was an
00:02:12: der Stelle vielleicht zu erwähnen, dass ich finde, es ist ja so ein, wie soll ich mich
00:02:17: ausdrücken, ja dem, wen du triffst. Viel ausgeben heißt ja nicht automatisch
00:02:21: verschwenderisch sein, viel ausgeben heißt aber nicht auch nicht automatisch
00:02:25: profi sein. Es ist ja doch schon durchaus ein sehr schmaler Grad, durch
00:02:29: dem man sich da bewegt, wenn man, ich sage jetzt mal, die Maschinen zum
00:02:33: Klünen bringt. Ich hatte letztens die Chance, mal das vergleist, und zwar man
00:02:38: kennt das ja, es gibt ja Abos und man hat ja mal davon gehört, dass
00:02:41: Abos subventioniert sind. Ich durfte letztens mal testen, wie das so ist, mit
00:02:46: Subventionierung. Das heißt, ich habe den ganzen lieben langen Tag an meinen, was
00:02:52: guckst du? Ich habe den lieben langen Tag an meinen Sachen da
00:02:58: gearbeitet und habe versucht, dem codieren nachzukommen und irgendwann waren
00:03:04: die Token an. Also die Token aus dem Abo. Und nachdem die Token aus dem Abo
00:03:09: Wo alle waren, bin ich umgestiegen auf nicht Abo-Use, sondern Pay-Per-Use, also AP-Token-Call
00:03:17: mäßig.
00:03:18: Und ich musste dann feststellen, dass ich an diesem einen Tag knapp dreistellig geblieben
00:03:25: bin.
00:03:26: Knapp dreistellig.
00:03:27: Dann habe ich mir kurz überlegt, so Token-Appos lohnen sich, rein monetär, weil ich habe
00:03:32: meine Arbeitsweise nicht geändert.
00:03:34: Ich gebe zu, Chefstörer ist zu, war dienstlich, die Grüße gehen raus und dann sitze da
00:03:39: und denkst, okay, warte mal, du hast das Abo, das Abo ging rum, Arbeit miterlegen ist nicht,
00:03:43: du hast viele Tokens verbraucht, weil du viele Sachen hast machen lassen,
00:03:46: ich lass viele Superagenten dann starten und die arbeiten und geben sich gegenseitig die Arbeit.
00:03:50: Und ja, ich wechsle dann schon zwischen Sonne und Opus und so'n Kram hin und her,
00:03:54: aber es hat einfach viel passiert, ne? So. Und dann war halt rum und trotzdem
00:03:58: muss die Arbeit getan werden, also API-based. Und dann denkst du dir so,
00:04:02: okay, wenn du jetzt an dem Tag mehr ausgibst, als das Abo im Monat kostet,
00:04:07: Ich finde den Fehler, weil dann kann mir keiner erklären, dass AP Usage, dass die Apple Modelle sich für die ganzen Anbieter rechnen.
00:04:16: Und das wird dann spannend, wenn die später mal an die Börse gehen, weil dann bin ich nicht der Meinung,
00:04:21: dass die mehr jedem noch so dem goldenen Löffel die Tokens quasi zuführen, subventioniert, meine Meinung.
00:04:28: Ja, guter Punkt. Werden wir mal abwarten, was da passiert.
00:04:31: Ich würde jetzt auch noch mal da so ein bisschen sagen, wie ich es vorhin genannt habe, die ist dann bei mir häufig auf Abo bezogen.
00:04:36: bezogen. Ich hole dann mal Tokens nach. Also wahrscheinlich verbrenne ich auch
00:04:39: mehr Tokens, als ich mit diesen Abo-Gebühren, die ich habe, eigentlich
00:04:43: bezahle. Weil ich kann das nochmal ganz kurz, ich hatte ja auch so in einem Umfeld nochmal
00:04:47: Video produzieren lassen, jetzt vor kurzem. Das hat dann so richtig schnell
00:04:50: reingehauen. Wenn ich da so zweieinhalb Minuten einigermaßen
00:04:53: professionell hinhauen möchte, dann sind das durchaus mal nochmal 200
00:04:57: Dollar Tokens extra gewesen, die ich an einem Abend so verbrannt habe.
00:05:02: Aber auch, weil ich mich dann reduziert habe und es dann hinterher
00:05:05: falls da nur Vorführeffekte waren, vollkommen okay war, hätte man es jetzt noch auf eine
00:05:11: richtig professionelle Qualität holen müssen, dann wären da wahrscheinlich noch ein bisschen
00:05:14: mehr runtergegangen. Aber, auf der anderen Seite, immer noch günstiger als wenn ich
00:05:19: das den klassischen Weg gemacht hätte. Ob ich jetzt jemand beauftragt hätte oder
00:05:22: ob ich im Prinzip selber die Zeit investiert hätte, das zu produzieren. Das darf man
00:05:27: ja nie vergessen, bei den ganzen token Themen, die wir da so haben. Auf der anderen
00:05:30: Seite kommt ja auch abseits des Eislobs und der ganze Quatsch, der da rumgeschickt wird
00:05:36: und Texte, die...
00:05:37: Oh, ein Katzenvideo.
00:05:38: Was so solche Sachen ist, natürlich Quatsch zu machen und da reinzurechnen, weil wenn
00:05:43: wir jetzt mal von produktiver Arbeit reden, dann ist es natürlich nicht so, dass man
00:05:46: sagen muss, ja, wenn es dann auch ein produktives Ergebnis produziert, sonst ist das so als
00:05:51: Trophitum abgelegt, ich würde sagen, wichtig ist, dass es so ein produktives Item
00:05:56: ist, was hinterher rauskommt, was genutzt werden kann, dann muss man natürlich die
00:05:59: totalen Kosten sind. Wenn man vielleicht früher erst mal ein Briefing hatte, hin und her gefahren
00:06:04: ist, so lange Tour gefahren ist, damit so ein Video abkostet, Reisekosten, Setze, Stunden
00:06:09: Setze. Trotzdem laufen da ja auch Rechner. Da laufen dann auch Rechner, die was rendern
00:06:15: müssen, 3D-Design rendern müssen, irgendwas anderes. Also das sind natürlich Sachen,
00:06:17: die jetzt einfach deutlich schneller gehen. Wir hatten es ja auch häufig schon mal
00:06:20: in den Folgen darüber geredet, wenn man jetzt nach vorne guckt und da vielleicht
00:06:23: auch viele Sachen entweder gar nicht mehr in der Cloud passieren, sondern lokal auf
00:06:26: irgendwelchen Servern, dann ist es ja auch im Prinzip eine andere Thematik, wo ich sage,
00:06:29: okay, muss ja auch nicht alles in realtime sein, muss ja nicht alles irgendwie jetzt
00:06:33: sofort morgen sein, also kann auch mal ein bisschen langsamer berechnet werden. Und dann
00:06:37: ist vielleicht dieses Thema der, ja, das sind so wahnsinnig viele Tokens, die da verbrannt
00:06:44: werden, wenn man das mal unter dem Aspekt sieht, ohne dass ich das jetzt durchrechnen
00:06:48: könnte, das mag jemand anders gerne machen. Aus dem Bauch heraus würde ich sagen, ist
00:06:52: ist das vielleicht gar nicht so eine krasse Plus-Minus-Null-Rechnung, die dann da rauskommen würde.
00:06:57: Sogar eher vielleicht positiver für das Thema KI-Einsatz an der einen oder anderen Stelle.
00:07:02: Und man sollte das auch vielleicht mal aus dem Licht heraus sehen.
00:07:06: Vielleicht noch was aus eigener Erfahrung, jetzt wo ich jetzt schon über Tokenkosten
00:07:10: gesprochen habe.
00:07:11: Ich hatte letztens die Chance das große OPUS, nicht OPUS, das TGPT-Modell mit der
00:07:18: Möglichkeit des Superspeeds zu benutzen. Und das war sehr faszinierend, weil a.) er wurde mit
00:07:26: nicht fertig vor Verbrauch der Tokens und b.) Verbrauch der Tokens war nach fünf Stunden. Nach
00:07:32: fünf Stunden hat er das 500er Abo zerfräst, da niedergelegt. Also er war schnell. Gut, er
00:07:39: hatte auch ganz viele Projekte an denen er parallel arbeitete. Er hat keins richtig fertig
00:07:44: gekriegt und ich muss mich dann so von Woche zu Woche hangeln und da habe ich mir auch gedacht,
00:07:48: dann nützt dir dieser Turbo Speed auch nichts. Wenn du, ich sage jetzt mal, nach fünf,
00:07:53: sechs Stunden fertig bist, hätte er auch die Woche überrechnen können, dann wäre die Performance
00:07:57: eigentlich auch egal gewesen. Ja, dann wäre er vielleicht sogar noch im Gegenteil ein bisschen
00:08:02: weitergekommen, weil dieser Turbo Speed kostet ja im Verhältnis auch mehr. Von der Seite ist
00:08:07: jetzt mein großer Vorsatz, wenn er jetzt am Mittwoch wieder taugendig für mich ist,
00:08:11: dass ich ihm dann wieder sage, ach komm, lass dir Zeit, weil dann bist du wenigstens durchgängig
00:08:16: ein bisschen beschäftigt und das ist dann mein Beitrag zur Tokenkostenoptimierung. Grüße gehen raus.
00:08:21: Ja, apropos Tokenkostenoptimierung. Oh, oh, oh, oh. Also, die Woche, hier Anfang November 2026,
00:08:34: 2026, auch wieder so ein Jahr, was wir dieses Jahr alles erlebt haben, da haben wir glaube
00:08:38: ich das Wort Token Maximizing ganz früh am Anfang des Jahres gelernt oder lernen dürfen.
00:08:45: Magst du es kurz erklären?
00:08:47: Ja, da ging es um das Thema, eigentlich war kein Mensch oder vor allem kein Programmierer
00:08:52: in den Augen seines Arbeitgebers etwas wert, wenn er nicht Millionen von Tokens in der
00:08:57: Sekunde verbrannt hat.
00:08:58: Also so ein bisschen als Uberspitze.
00:08:59: Das war aber im Prinzip das ...
00:09:00: Das war nicht akzeptabel.
00:09:03: Genau.
00:09:04: Diese Marketing Story auch so ein bisschen von den großen Anbietern, die gesagt haben,
00:09:07: Ihr müsst eure Entwickler da richtig die Token raushauen lassen.
00:09:10: Wenn das Entwickler nicht irgendwie wahnsinnige Token kostet produziert,
00:09:14: dann ist er eigentlich gar kein richtiger Entwickler mehr.
00:09:17: In all diesen Stierblüten, da hat sich dann quasi dieser Begriff des Token maximizers quasi ausgetauscht.
00:09:25: Ja, also wir waren davor, im Prinzip unsere Arbeit durch die Anzahl der Token zu messen,
00:09:32: die man so für seine Arbeit benutzt.
00:09:36: Ich würde da gerne noch einen draufsatteln.
00:09:38: Zumindest habe ich den Begriff Taukenmaximizing so mal gehört, dass du mehrere Abos auch hast.
00:09:45: Und dass wenn ein Abo leer ist, du dich quasi beim nächsten anmeldest, den Login quasi wechselst.
00:09:52: Was natürlich den Charme hat, wenn du zum Beispiel ein Clued Code bist und du hättest mehrere Abos
00:09:56: und du machst Lock-Off, Lock-On, Lock-Off, Lock-On, Lock-Off, Lock-On.
00:09:59: Dann hast du mehrere Male dieses 200er oder was auch immer was Abo
00:10:04: Du kannst quasi weiterarbeiten, in der Hoffnung, dass wenn du mit dem letzten durch bist, quasi
00:10:10: das erste wieder anfängt und ich kenne sogar jemanden, der hat fünf, ich bin es wirklich
00:10:15: nicht, es ist nicht so wie Rita, was kosten die Kondome, also nein, wirklich fünf große
00:10:21: Abos bei Anthropic und dem reicht das die Woche über nicht, ist auch krass.
00:10:26: Ja, das ist ein bisschen crazy, ne, also da gab es natürlich dann auch Optimierungsthemen,
00:10:30: so wie du es gesagt hast, wir kennen ja jetzt alles, das Wochenbudget und sowas
00:10:32: und dann fing man ihn auch an zu gucken, okay, kann ich vielleicht mein Harnis so bauen,
00:10:37: dass er sehr geschickt quasi den Code oder was auch immer produzieren soll per KI oder
00:10:44: die wahnsinnig große Researchaufgabe, die man ihm gegeben hat, so verteilt, dass man
00:10:48: im Prinzip dann quasi diese Budgets, die man überhatte, sauber auslösen kann.
00:10:52: So, wir waren also kurz davor zu sagen, wir werden eigentlich auch eine, ja, die,
00:10:59: jetzt fällt mir das Sprichwort nicht ein, mit der Goldelse, ich bin ja immer so, Sprichwort,
00:11:04: das bin ich nicht gut. Geht also eher darum zu sagen, wir sind im Prinzip die Produzenten gewesen
00:11:09: für diesen Goldrausch bei den Großen an. Goldrausch, weißt du woran ich dann denke?
00:11:14: Kannst das Wort KI aussprechen und dann stell dir vor bei Goldrausch, jetzt bitte nicht
00:11:19: falsch verstehen, aber da fällt mir ein so ein Cowboy, kaum noch Zähne im Mund, aber ein
00:11:24: ein Goldnacket aus dem Fluss geholt hat. Und das ist so ein bisschen dieses KI-Zeug.
00:11:32: Ja und wir sind aber auch dann im Prinzip derjenige, der das befeuern sollte noch zusätzlich.
00:11:37: Also wenn wir das nicht befeuern, dann sind wir eigentlich selber schuld quasi, weil wir
00:11:41: da nichts mehr wert sind und das ist natürlich eine sehr, sehr feine Story da für die
00:11:45: großen Anbieter gewesen, die sich da auch verbrauchten. Aber es hat sich schon
00:11:48: bisschen so im Sommer langsam umgekehrt habe ich das Gefühl gehabt, da wurde das
00:11:55: so ein bisschen kritischer beäugt. Da hat man auch gesagt, ey, diese ganzen Turken einfach
00:11:59: rausschießen, das ist vielleicht auch keine gute Idee, auch umwelttechnisch vielleicht
00:12:01: nicht der schlauste. Muss man jetzt mal sehen, diese ganz großen KI-Zentren,
00:12:06: die in Amerika da tatsächlich so neben Wohngebiete gebaut werden, das ist
00:12:09: wirklich keine feine Sache. Nee, wurden. Wir hatten die Midterms, da sind ja ganz viele
00:12:13: Staaten jetzt auf einmal Richtung demokratisch gewandert, also nicht, dass die
00:12:17: andere nicht demokratisch sind, aber die demokratische Partei. Und da sind ja soweit ich
00:12:21: das mitgenommen habe auch im Rahmen der Wahl über ganz viele Rechenzentrumsprojekte
00:12:25: abgestimmt worden in Form von, was die Bürger davon halten. Und ich könnte mir
00:12:31: schon vorstellen, also die Demokraten sind ja nicht wirtschaftsfeindlich oder
00:12:35: irgendwas, aber ich könnte mir vorstellen, dass einfach jetzt mehr
00:12:37: Beteiligung dahingehend drin ist, dass man eben nicht sagt, du pass mal
00:12:41: obacht, du kriegst jetzt einen Rechenzentrum in die Nachbarschaft gestellt.
00:12:43: Wir parken die Gas-Turbinen auf LKWs, weil da zählen sie nicht als Gaskraftwerk, sondern
00:12:48: als irgendwas anderes.
00:12:49: Dann ist das gar kein Problem.
00:12:50: Ist mir doch egal, was mit Wasser und Strom ist und das arbeiten Menschen zu, keine Ahnung,
00:12:55: was für Löhne.
00:12:56: Nach dem Motto, du kriegst ja keinen Job und trotzdem stinkt alles, dass an der
00:12:59: Stelle sicherlich Optimierungen jetzt stattfinden und ich fand es auch total spannend,
00:13:02: dass Sam Altman, der uns vor ein paar Tagen noch erzählt hat, wie schlimm es ist,
00:13:06: dass Menschen RAM in ihren privaten Rechtern haben, man könnte sie doch viel mehr
00:13:10: bei sich brauchen, dass die jetzt auch nicht mehr von KI-Rechenzentren sprechen, sondern
00:13:14: von Superintelligence, Computer Campus, blablabla, und das Andersframen, weil dann wäre man
00:13:23: ja auch nicht betroffen von diesem ganzen Rechenzentrumszeug und das spielt auch so
00:13:25: ein bisschen rein, wo du, glaube ich, nachher noch auch noch hin willst in dieses Thema.
00:13:28: Leute, geht vielleicht weniger Tugend aus, wir machen da vielleicht mal eine Grenze
00:13:33: drauf nach dem Motto, vielleicht brauchen wir in Zukunft die Rechenkapazität für
00:13:38: was anderes, wer weiß wo da die Reise hingeht. Ja, definitiv. Und das ist auch so ein bisschen das,
00:13:43: was jetzt in den ersten November-Tagen dieses Jahres dann aufgetaucht ist. Da gab es das Meldung
00:13:49: darüber, dass größere Firmen, ich meine es ist Apple, Tesla, Microsoft und Co. durchaus ihre
00:13:56: Budgets für ihre Entwickler, non-technical Persons, die sie haben, teilweise drastisch
00:14:04: reduzieren. Dann irgendwie von 300 Dollar bei den Entwicklern runter auf 200 Dollar am Tag, also noch
00:14:11: eine ganz andere Summe als wir gerade beschrieben haben. Am Tag? Am Tag, ja, das ist immer noch. Moment mal, ist das Stoff für Entwickler oder
00:14:16: Menschen der Wissensarbeit? So weit habe ich jetzt nicht nachgelegt. Also Entwickler. E-Entwickler. Nee, das waren schon die Entwickler.
00:14:22: Ja gut, für Entwickler verstanden. Weil Wissensarbeiter, glaube ich, verbrennen. Ja, die gehen dann irgendwie runter auf
00:14:28: sogar auf 25 Dollar oder sowas. Aber das ist jetzt auch egal. Im Prinzip die einzelnen Zahlen. Ich
00:14:34: hatte irgendwas von Tesla noch gelesen auf 200 Dollar pro Woche für manche Abteilungen.
00:14:40: Ich habe nicht mal 1.500 Dollar für Coding-Tools im Monat oder sowas. Da wird so ein Deckel
00:14:48: eingeführt. Aber jetzt gerne du erst mal. Ich habe mich gerade gefragt, wenn es ja im
00:14:52: Altmeer diese Geschichte mit dem Ram sagt. Ich weiß nicht, ob es Fakten oder Gerüchte ist,
00:14:56: da Framies auch gar nicht erst gehört, dass auch Microsoft irgendwie so dran ist,
00:15:00: Danken zu machen, so wie Seti at Home, dass du Grafikkarten, CPU und Amp-Event
00:15:05: verfügbar stellst. Ich habe mich gerade gefragt, ob Elon irgendwann auf die Idee
00:15:09: kommt, die Rechenkapazität seiner Teslas, wenn sie parken, zu nutzen, so nach dem
00:15:14: Motto, damit er für sie rechnen kann. Das fände ich total lustige Idee.
00:15:17: Sollte es so sein, Elon? Meine Idee? Ich möchte beteiligt werden.
00:15:21: Ja, vielleicht haben Sie es schon gehabt und das passiert schon wieder,
00:15:24: ohne dass du es weißt. Ich versuche irgendwie reich zu werden. Es klappt nicht, es klappt nicht.
00:15:28: Bitcoin bin ich ausgestiegen bei 60 Euro. Mit wie vielen? Zwei. Zwei, ja gut. Ja gut, aber schade.
00:15:40: Weil heute wäre es schön gewesen. Ja, ein geiler Urlaub und mehr. Aber gut, wir sind ja bei
00:15:46: Think Different. Think AI. und nicht Think Podcast, Think Verpasse Chancen oder sonst was. Genau,
00:15:51: So, um da jetzt nicht weiter rum zu wühlen in der Wunde.
00:15:56: Also wir haben im Prinzip jetzt eine Phase, wo wir über Budgetierung von Tokens plötzlich
00:16:03: reden.
00:16:04: Und das ist so ein Ding, wo ich gerne mal mit dir mich darüber austauschen würde.
00:16:08: Weil ich glaube, was da jetzt passiert, ist klar auch im Hinblick auf diese Bördersengänge,
00:16:15: was du gerade angedeutet hast, wenn die Bördersengänge passieren.
00:16:18: Ich glaube, OpenAI überholt da auch, glaube ich, noch Anthropic in der Geschwindigkeit.
00:16:21: Ich glaube, erst war es Anthropic letzte Woche oder vorletzte Woche, die angekündigt haben.
00:16:24: Sie drehen dann bald an die Börse.
00:16:27: Und jetzt habe ich von OpenAI gemerkt, dass sie jetzt auch noch schneller an die Börse gehen wollen.
00:16:30: Also, da will einer den anderen schlagen.
00:16:32: Da müssen wir mal gucken.
00:16:33: Du hattest vorhin angedeutet, dass durchaus da in dem Zuge vielleicht das Thema Geschäftsmodell nochmal genau darlegen und anschauen.
00:16:41: Auch dazu führen könnte, dass jedenfalls die Abos vielleicht gar nicht mehr so ganz günstig sein werden.
00:16:46: Kosten noch mal explodieren könnten, wer weiß. Und ich habe das Gefühl, dass die großen Firmen auf
00:16:52: der Welt jetzt sagen, nachdem wir so eine Phase hatten, ach komm, alle müssen mal mit KI
00:16:56: rumprobieren dürfen, kostet ja nichts. Dass man jetzt so überlegt, aha, vielleicht ist bei dem
00:17:02: ein oder anderen doch vielleicht so eine kleine Grenze gar nicht so schlecht. Ich würde gerne
00:17:09: an einem Punkt einhaken. Ich bin der Meinung, dass wir diese Abo-Preise so sicherlich,
00:17:15: dass das eine Veränderung erfährt. Aber ich finde, dass das Framing, Token werden teurer,
00:17:22: das finde ich nicht ganz richtig, weil wenn du vergleichst, was du an Leistung kriegst,
00:17:26: ist das ja durchaus nochmal was anderes. Also nur weil du, ich sage jetzt mal,
00:17:31: also jetzt nicht du in Person, also jetzt nur, weil wir um einen anderen reden. Nur weil du jetzt
00:17:35: sagst, okay, keine Ahnung, das Abo-Modell kostet mehr und es werden mehr Tokens verbraucht.
00:17:39: Ich finde auch den Begriff des Verbrennens ist halt lustig, aber es wird dir nichts
00:17:43: verbrannt. Es wird halt in Wärme umgewandelt, weil der Computer läuft. Aber egal, ich will was anderes
00:17:47: drauf. Wenn man es vergleicht, mit was habe ich denn vor einem Jahr für mein Shell GPT-Abo bekommen,
00:17:54: da war das Abo, das kleine Abo, genauso teuer wie heute. Aber die Leistung, die ich heute kriege
00:17:59: für das kleine Abo, ist exorbitant mehr. Dass ich einen höheren Konsum habe, einen höheren
00:18:04: Verbrauch habe, liegt ja nicht daran, dass die Tokens per se teurer wurden. Das liegt einfach
00:18:09: da dran, dass ich die großen Modelle noch zu mehr Sachen hinreiße und dass ich vielleicht sage, naja,
00:18:14: gut, komm, ich bereite mal einen Prototypen vor. Wir diskutieren über einen fertigen Prototypen,
00:18:19: wo wir früher gesagt haben, zehn Menschen, ab in einen Zug, ab wohin und ab. Wir reden mal
00:18:24: drüber, zu sagen, ok, gut, ich bringe mal morgen was mit und wir reden drüber, was wir da
00:18:28: gebaut haben, was wir identifiziert haben, was wir recherchiert haben und so weiter. Das heißt,
00:18:32: nur weil ich das System mehr nutze und deswegen mehr Geld ausgebe, heißt es ja nicht, dass die
00:18:38: Token im Verhältnis, was kriege ich für die Token, teurer geworden sind. Und wenn ich dann
00:18:43: schaue, was du dann mit den Open-Source-Modellen kriegst, ich meine, da heißt es immer, ist das
00:18:46: so gut wie das aktuelle Frontier. Nein oder ja oder wie auch immer, aber ist es so gut wie
00:18:52: das Frontier, was wir vor einem Jahr geil fanden, da sind die meisten besser. Und wenn ich
00:19:00: mir anschaue, also ich zum Beispiel arbeite total gerne, ich möchte jetzt das Lachen der
00:19:05: unserer Hörer mit Sone und mit Heiko. Heiko 5.5 ist richtig gut für Standardkram und kostet
00:19:13: eigentlich nichts, ist vermessen. Aber ich finde es total günstig für das, was es mir tut.
00:19:20: Heiko früher hätte sie nicht nehmen können. Das ist so, wie will es nicht würfeln.
00:19:25: Okay, das ist jetzt nochmal eine ganz andere Story, die wir da aufmachen. Das bringt mich
00:19:31: zu dem Thema, dass ich auch immer noch mal einen kleinen Artikel zu schreiben wollte,
00:19:34: die Schwierigkeit für den Normalanwender überhaupt erst mal diese Differenzierung zu machen. Selbst
00:19:42: glaube ich für den ein oder anderen Programmierer ist es gar nicht so einfach, der sich intensiv mit
00:19:46: den Themen beschäftigt, weil du musst ja auch da wieder fast deinen eigenen Benchmark machen für
00:19:50: deine spezielle Aufgabe, ob du jetzt das eine Modell oder das andere Modell nimmst. Wir haben
00:19:55: ist ja nur angedeutet, mit welcher Geschwindigkeit, ist das jetzt die wichtigste Aufgabe der Welt,
00:20:02: die du da lösen möchtest oder einfach nur ein toughes Problem, was du hast. Das ist natürlich
00:20:06: total schwierig für uns Menschen einzustucken. Was ist denn das jetzt eigentlich? Ist das im
00:20:09: Prinzip, weil ich gleich zu meinem Chef muss und dem etwas vorstellen muss,
00:20:13: ist es deshalb das toughste Problem der Welt oder ist es das toughste Problem,
00:20:16: weil es jedenfalls irgendwie... Ja, kann auch das andere sein, weil ich irgendwie,
00:20:23: keine Ahnung, die Regeln des Kindergartens verstehen will oder nachgucken muss, ob der
00:20:29: Flughafen, ob der Flughafen, was heißt Kindergarten, oder was ist denn ein Carry-On-Back und was
00:20:37: nicht und so. Die Größen hat man, sollte man lieber googeln, K.I. Modelle fragen, das ist ja
00:20:41: auch alles viel. Was ich sagen möchte nur, ist, dass wir, glaube ich, auch da ein Thema
00:20:47: haben werden in Zukunft, dass man die, also wenn die Anbieter es nicht machen,
00:20:52: dass man inter sich deutlich klarer werden sollte und seinen Leuten auch
00:20:57: helfen sollte, wir hatten ja auch kurz eine Folge bezüglich der AI-Transformation,
00:21:00: dass man da deutlich klarer machen sollte, wofür sind die Modelle denn
00:21:04: eigentlich da. Also muss ich zum Beispiel für das Aufbreiten einer
00:21:09: Powerpoint, wenn das noch nötig ist in meinem Arbeitsumfeld, muss ich
00:21:13: unbedingt das aktuellste Frontier-Modell dafür benutzen oder reicht nicht auch ein
00:21:17: schwächeres dann zum Beispiel lokal laufendes Modell, was die Aufgabe bis
00:21:21: morgen fertig hat. Das heißt, das ist im Prinzip natürlich eine total
00:21:25: spannende Frage in dieser Phase, wo anscheinend mehr auch
00:21:29: budgetiert wird. Ich glaube, das Budgetieren hat auch was damit zu tun,
00:21:33: dass man erkennt, dass es auch nicht schlau ist, jedem den Ferrari an KI
00:21:40: mit allen Möglichkeiten zur Verfügung zu stellen, der in alle Richtungen fahren kann, am besten
00:21:45: noch schwimmen kann oder vielleicht nicht noch zum Mond bringen kann, wenn die Aufgabe einer
00:21:49: Einzelperson vielleicht etwas anderes ist. Und nicht unbedingt 20 KI-Agenten parallel
00:21:53: anstoßen muss, um eine geile Programmierleistung zu machen oder ein sehr komplexes mathematisches
00:21:58: Problem zu lösen oder etwas anderes. Ich glaube, wir kommen langsam in diese
00:22:01: Phase, wo wir da differenzieren können, weil auch die günstigen Modelle schon extrem gut
00:22:06: sind. Weißt du, das ist ja auch so ein Ding, das hast du ja auch gerade gesagt. Also das ist
00:22:09: auch jetzt nicht mehr so vor ein oder zwei Jahren. Also mit den Modellen, die wir dieses Jahr bekommen
00:22:14: haben, die sind immer noch alle so geil. Du kannst die Modelle vom Anfang des Jahres nutzen, für so viele
00:22:18: Sachen trotzdem. Und natürlich sind die 90 noch mal geiler und können noch andere Sachen machen.
00:22:22: Aber für viele, viele Standardanliegen sind die Modelle aus dem letzten Jahr schon wahrscheinlich
00:22:28: bei 90 Prozent der Fälle vollkommen ausreichend, die wir eigentlich haben. Und ich glaube, da
00:22:31: müssen wir so ein bisschen gespürt für Entwickler. Ich möchte vielleicht, bevor wir noch, wir haben
00:22:36: noch ein Thema, das wir anschneiden wollen, bevor wir da übergehen zum Thema Tokenverbrauch
00:22:41: und Kosten, damit nochmal einen Satz bringen. Ich habe ja eingeleitet mit Token, welchen
00:22:47: Aufwand man da oder ich teilweise verursache. Jetzt wird vielleicht der ein oder andere
00:22:51: denken, Mann, was für ein verschwenderischer Kram. Man muss dazu sagen, natürlich verwendet
00:22:56: man auch solche Sachen wie hier Ponytail, also dieses beste Code, der ist der,
00:23:02: nicht geschrieben wurde. Also Fähigkeit, die dem Agenten beibringen, sparsam zu sein, Sachen
00:23:09: wiederverwendbar zu machen. Stichener Greifen auch damit Token zu sparen und das Ding wirbt
00:23:14: ja auch damit, dass es irgendwie 50-60 Prozent Token-Reduktion erreicht, weil es halt auch
00:23:19: Stichener Greifen-Code-Reduktion reicht. Das sollte man an der Stelle machen, was
00:23:23: natürlich auch im Umkehrschluss heißt, wenn du dem Ding sagst, okay, löse diese
00:23:27: Aufgabe und startet dafür. 50 Supergenden, größte Effort-Stufe, größtes Modell und wiederhole das
00:23:37: Ganze 20 mal bis wirklich keine Widersprüche mehr da sind und am Ende vom Tag sollte da
00:23:43: eigentlich nur zwei Zahlen addieren. Auch das würde natürlich Tokenkosten nach oben treiben.
00:23:48: Das heißt nur, und das ist vielmehr ein, dass du den Ferrari erwähntest, nur weil mir jemand
00:23:52: den Ferrari in die Garage stellt, heißt das nicht, dass ich ihn effizient fahre, dass ich ihn
00:23:57: nicht kaputt fahre, dass ich ihn überhaupt beherrsche. Ja, ich erinnere mich auch hier
00:24:02: größer an meinen alten Chef, der mich zum ersten Mal eine Mercedes gesetzt hat und gesagt
00:24:05: hat, kannst du mir mal den gerade von der Werkstatt, vom Hof holen, weil der Hof wird
00:24:10: abgesperrt. Ich bin dahin, habe noch nie was von einer Fußhandbremse gehört und
00:24:14: habe den Beweis angetreten, dass Motorleistung auch Fußhandbremsen lösen können. Es
00:24:19: hat gekwalmt, es hat gequitscht, es hat geschrien. Alle haben aus dem Fenster
00:24:23: geguckt. Ich habe das Auto vom Hof bekommen. War das effizient? Nein. Ja, also von der Seite
00:24:29: gilt auch, wie man mit den Systemen umgeht und an dieser Stelle alle Höhrenden dazu
00:24:34: beglückt wünschen, dass sie nicht das Video von uns sehen, weil mich Jens in einer derartigen,
00:24:39: das hat er jetzt nicht wirklich gesagt, Gesicht in die Knie schauen. Ja, also von der
00:24:45: Seite, vielleicht sollten wir doch irgendwann nochmal, wir wollten ja irgendwie auch nochmal live
00:24:49: aufreden. Ja, ich habe auch gesehen, dass du im fremden KI-Podcast Gast warst, also nicht Gast,
00:24:53: sondern Gast, also Gast-Gast, also Publikums-Gast. Wir müssten das mit der Bühne schaffen. Aber ja,
00:24:58: damit würde ich, das wäre mein Schlussplädoyer. Passt auf, wie ihr eure Token ausgibt. Und nur,
00:25:05: weil einer sagt, der hat viel ausgegeben oder nicht, ist das noch lange keine Aussage über
00:25:08: Quantität und Qualität. Da muss man dann doch schon mal gucken, wie gehen die Menschen damit
00:25:13: um. Und damit will ich weder meins schönreden, was mir von wem ich berichtet habe,
00:25:17: oder nicht einfach nur Augen auf beim Tokenkauf.
00:25:20: Also ja, dann darfst du mir auch noch einen Satz sagen, es war ja auch nie die Lines
00:25:25: of Code, die berühmten, die über Qualität eines Produktes dann irgendwann eine Aussage
00:25:29: machen.
00:25:30: Also dementsprechend, man sollte immer auf die richtigen KPIs gucken und im Endeffekt,
00:25:35: ob du jetzt zigtausend Tokens ausgibst, Millionen, aber Trillarden, wenn das Problem
00:25:42: hinterher gelöst ist und besser gelöst ist, als wir das auf eine andere Art und
00:25:46: gelöst hätten, dann war es ja sinnvoll. Und genauso wie man sonst im privaten oder beruflichen
00:25:52: Umfeld da einfach Entscheidungen fällt, ist es jetzt auch einfach wichtig, da immer wieder zu
00:25:57: gucken, okay, nur weil jemand viele Tokens ausgibt, heißt das nicht, dass der verschwenderisch ist,
00:26:03: sondern wenn ich dann auf den Outcome schaue, den er hat, nicht nur auf den Output schaue und
00:26:09: sehe, das hat wirtschaftliche Erfolg, dann ist das einfach auch ein gut investiertes Budget für
00:26:14: Tauchung sind die gewesen in dem Fall. Gut investiertes Budget ist ein total tolles
00:26:18: Zauberwort. Ja, und ich sehe gerade, das seht ihr nicht, der Markt ist
00:26:26: Besitzer, stolzer Besitzer eines iPhone 2s. Das ist das neue Club-Handy, also nicht
00:26:35: das neue Nokia Club-Handy, sondern das Nokia Communicator 2000. Sagt man
00:26:41: Klapp-Handy eigentlich schon. Das ist die Klasse der Klapp-Handys.
00:26:44: Ich habe das Wort Klapp-Handy schon seit langem nicht mehr gehört.
00:26:49: Als ich mit dem iPhone du zu Hause ankam, meine Tochter das sah, meinte sie,
00:26:53: du hast einen Samsung. Das fand ich irgendwie im ersten Moment erst mal irritierend.
00:26:57: Aber ja, Falt-Handys sind jetzt irgendwie nicht so ganz Apple's mit je gewesen.
00:27:01: Aber ich muss sagen, ich hatte schon lange nicht mehr ein Handy,
00:27:05: das mir so viel Spaß vorbereitet hat. Gut, fairerweise, selbst wenn es nicht so wäre,
00:27:10: müsste man das bei dem Preispunkt auch sagen, weil sonst müsste man mir zugeben, dass man darunter
00:27:14: umständlich viel Geld für wenig Spaß ausgegeben hat. Aber ich meine es total ernst, weil dieses
00:27:20: Gerät ist wie so ein kleines schwarzes Büchlein. Jetzt kann man sagen, alter weißer Mann,
00:27:25: kleines schwarzes Büchlein. Nein, darum geht es gar nicht, weil ich habe mir ja noch diese
00:27:29: magnetische Hülle von Apple gerückt. Es ist auch das, was du drin kriegst, nämlich die
00:27:33: Möglichkeit, dass du je nachdem, was du gerade arbeitest, halt einen kleinen oder einen großen
00:27:38: Bildschirm hast. Das wirst du sagen, okay, das habe ich bei den Samsung-Handys auch. Aber ich
00:27:42: habe mich dann hingesetzt. Darauf wollten wir, glaube ich, eingehen, Jens, und hab mir einen
00:27:48: kleinen Harnes gebaut auf diesem Gerät. Gerät. Auf das Gerät. Das Gerät hat einen Harnes
00:27:58: bekommen. Und bevor ich sage, was der Harnes alles kann, muss ich zu dir sagen, ich bin
00:28:02: schwer irritiert. Weil, wenn mir bisher vielleicht beruflich gefolgt ist, wird wissen, dass ich
00:28:08: mittlerweile was mit KI macht, aber dass ich in der historischen Mobile-App-Entwicklung
00:28:13: verantwortet habe bei uns.
00:28:15: Und früher habe ich immer gesagt, wisst ihr was, Leute, wir bauen schöne Apps und wir
00:28:20: legen sehr viel Wert auf gute Qualität und und und, aber unsere Kompetenz hört da
00:28:26: auf, wo es Handy aufhört.
00:28:27: Ja, das heißt, wenn du Serverinfrastruktur brauchst, gibt es andere Menschen mit der
00:28:31: entsprechenden Professur, wir gucken, dass es auf dem Handy gut läuft, wir reden
00:28:34: euch nicht rein, ihr redet uns nicht rein und dann werden wir auch alle zahlen, was die Lösung angeht.
00:28:39: Und warum erzähle ich das? Ich habe irgendwie gemerkt, dass als ich angefangen habe, meinen
00:28:45: Harnes zu bauen, dann war das ja auch immer so. Du hast einen Harnes und der Harnes reagiert
00:28:49: auf das, was du von ihm willst. Meistens sagt der Harnes, was kann ich heute für mich tun?
00:28:53: Du schreibst in den Chat was rein und der Harnes macht das. Und das, was ich jetzt auf dem
00:28:59: iPhone gebastelt habe, das geht gefühlt einen anderen Weg. Also, da kannst du schon
00:29:05: was reinschreiben und der macht das dann. Aber du kannst auch einschreiben, mach das
00:29:09: morgen um 8. Dann macht er das morgen um 8, braucht keinen Server, runtime,
00:29:16: irgendwas. Er macht alles lokal und gibt dir dann morgens um 8 zum Beispiel
00:29:21: dein Tagesbriefing oder deine KI-Recherche. Ich lasse mir so jeden
00:29:25: morgen so was ist denn an den die letzten vier Stunden passiert und das sucht er sich dann alles
00:29:30: zusammen und den jetzt einer sagt und ich hab auch jetzt ich muss das wort sprechen durch fall
00:29:34: mindestens einmal in jeder folge bringt und dann dann bin ich hingegangen und hab den das machen
00:29:39: dass mir jetzt jemand sagt das ist ja kein richtiger hannis weil du hast ja keine sandbox
00:29:42: und soweit ist total lustig hat er nämlich also der hannis den ich da gebastelt hat vielleicht
00:29:47: so zwei drei eckdaten der verwendet erkläre ich nochmal sandbox und hannis auch nochmal
00:29:53: Hannes ist für mich die Begegnungsstätte zwischen Mensch und Maschine.
00:29:57: Nämlich einerseits das Benutzer-Interface, das der Mensch hat, um mit KI-Systemen zu
00:30:01: interagieren und andererseits die Laufzeit-Umgebung, also das Programm, das mir ermöglicht,
00:30:07: mit einem KI-Modell, mit Hilfe von Tools, das ist dann MCP, um mit Hilfe von Promps
00:30:12: und Anweisungen, das sind dann Skills, zu interagieren.
00:30:15: Und diese App, diese Anwendung, die auf dem iPhone läuft, stellt halt dieses Zusammenkommen
00:30:20: Das heißt, es repräsentiert mir ein Interface, um mit diesem KI-Modell zu reden.
00:30:25: Und das lustige ist, dieses KI-Modell ist nicht Anthropic oder OpenAI.
00:30:32: Das ist Apple Private Cloud Compute.
00:30:35: Also die Modelle, die Apple bei sich trainiert, im Rechenzentrum laufen lässt,
00:30:40: wo sie sagen, dass das Datenschutzniveau analog zur Verarbeitung auf dem iPhone selbst ist,
00:30:46: wo sie bis zu zwei Millionen App-Installationen keine Token kosten wollen und das Ding läuft
00:30:53: in diesem Harnes.
00:30:54: Und weil du gerade eben das Thema Sandbox gebracht hast, eine Sandbox kannst du in
00:30:59: iOS eigentlich nicht bauen, kleine Sekunde, kannst du in iOS nicht bauen, weil Apple
00:31:04: das Ausführen von Code zur Laufzeit eigentlich verbietet.
00:31:09: Und eigentlich hat mein Coding-Agent sich gedacht, da fällt mir was Schönes ein,
00:31:14: ausgedrückt, hat da ein on the fly Python Interpreter, der das dann on the fly übersetzt
00:31:19: in was Apple-lastiges. Das heißt, ich habe eine Sandbox und ich kann Skills ausführen und damit
00:31:24: zum Beispiel auch sagen, recherchiere und überführe, das sind sehr schöne Folien, die ihr dann
00:31:29: in dieser Sandbox zusammenschraubt und klickt und macht und sich Programmcode generiert und mir
00:31:34: dann am Ende diese Folien gibt. Und bevor ich jetzt weiter schwärme und vielleicht noch zwei,
00:31:38: drei weitere coole Features von Apple erwähne, du hast den Finger gehoben, du wolltest was sagen.
00:31:43: Du wartest da, weil ich eine Nachfrage habe, die ich mir nicht ganz verstanden habe.
00:31:48: Du wartest das kurz erwähnt mit dem 2 Millionen Apps, die Apple erwartet.
00:31:53: Also ich hatte irgendwas gehört, dass im Prinzip das momentan noch kostenlos ist,
00:31:57: aber ich habe jetzt die 2 Millionen Apps nicht genau verstanden.
00:31:59: Dass ich mir 2 Millionen Apps runter lade oder was ist die Aussage?
00:32:02: Nein, nein, nein, nein. Also es gibt ja verschiedene Paar Schuhe.
00:32:05: Also erstens, wenn du Private Cloud Computing nutzt, dann geht das auf das Kontingent des Anwenders.
00:32:10: Anwenders. Und der Anwender hat, je nachdem, was er bei Apple mit iCloud Plus und so weiter abgeschlossen hat,
00:32:15: verschiedene Sachen. Und da habe ich keine Umrechnungsmatriken gesehen, aber ich habe irgendwie
00:32:21: gelesen, dass je teurer dein Abo ist, du mehr Rechenleistung von Apple quasi geboten kriegst für Anwendungen, die du hast, die Apple Intelligence nutzen.
00:32:29: Wenn ich als App-Ersteller
00:32:32: eine App baue,
00:32:34: Dann kannst du die ja grundsätzlich ins Store stellen oder in Test Flight, das ist der Beta-Store von Apple, hochladen, damit andere Menschen die nutzen können.
00:32:41: Und wenn zwei Millionen Menschen das herunterladen, dann, ab dann kostet Geld, oder 300.000. Das muss ich noch mal nachgucken.
00:32:51: Ist natürlich eine wichtige Null, aber beides wäre für mich, für mein kleines Spiel, weit, weit, weit weg.
00:32:56: Ja, ich glaube, es waren 200.000. Ich muss gucken. Ich reiche es im Fusselcheck.
00:33:02: Ja, aber auf jeden Fall ist das der Grenze für den Entwickler kostenlos.
00:33:06: Wie es danach kostet, weiß man nicht.
00:33:08: Und das, was du jetzt angedeutet hast, ich hatte oder im Vorgespräch oder jetzt weiß
00:33:12: ich gerade nicht, ich werde ja auch alt und senil, es geht ja irgendwie durch die
00:33:17: Presse, dass Apple diese Freitokens da irgendwie reduzieren würde.
00:33:20: Und ich habe das so verstanden, dass die Möglichkeit, dass du, wenn du meine App
00:33:26: würdest, weniger oft diesen Private Cloud Computing Kram anstoßen kannst, bevor du in eine Pause
00:33:35: kommst, die wir es auch von Anthropic und Co. kennen, wo dann halt einfach steht, Private Cloud
00:33:39: Computing ist gerade ausgelastet, komm doch bitte später vorbei. Okay, da reagiert natürlich
00:33:44: mein UX-Herz gerade schon wieder. Es wird nicht alles irgendwie momentan einfacher,
00:33:50: ehrlich gesagt. Selbstverständlich ist das Thema für die Anwender. Wir hatten es gerade schon.
00:33:57: Gucken, wie viel gebe ich aus? Läuft das Budget zu Ende? Entweder das von meiner Firma oder das
00:34:03: wöchentliche Budget oder das tägliche Budget, das meine KI mir vorgibt in der gewissen
00:34:07: Geschwindigkeit. Jetzt sagst du auch nochmal, bei Apple Intelligence ist das auch nochmal ein
00:34:11: Thema. Ich glaube, da müssen wir, ich will das jetzt gar nicht kritisieren, das ist alles
00:34:15: auch ausprobieren und auch die Hersteller müssen da erstmal ihre Geschäftsmodelle
00:34:18: finden und gucken, wie das funktioniert. Ich glaube, das ist gut, dass man da jetzt
00:34:21: auch noch rumtesten kann. Ich hoffe, das war da eine Lösung für Finn, weil ich
00:34:25: glaube, das ist etwas, was es echt auch kompliziert macht. Und dann
00:34:29: hinterher wieder vielleicht auch manchen zurückhalten wird, weil er Angst
00:34:33: hat, vielleicht unbegründet, dass er irgendwie total viel Geld ausgeben
00:34:36: muss. Das ist immer so ein bisschen, wo ich sage, das müssen wir alles
00:34:39: ein bisschen einfacher gestalten. Wobei, an der Stelle möchte ich jetzt
00:34:43: eine Lanze brechen, weil egal, ob ich jetzt die Null dran hänge oder nicht,
00:34:46: 200 oder 2 Millionen. Du kriegst, wenn du jetzt so ein Indie-Entwickler bist oder selbst wenn du
00:34:52: dienstlich eine App rausbringst und hast irgendwie deine 40, 50, 60, 70, 80, 90, 100.000 Kunden und du
00:35:00: kannst denen eine App zur Verfügung stellen, die KI-Funktionalität quasi einfach mitnutzt.
00:35:07: Ist das nicht zu veracht? Und diese Grenze mit Private-Doll-Computer bin ich zwar auch schon
00:35:12: rein gerauscht, dass er zu mir gesagt hat, du musst jetzt warten. Aber diese Geschichte, ich kann mir
00:35:17: einen Harnes bauen, der im Grunde Skills benutzen kann, wie wir es von entropy kennen. Lokal auf
00:35:25: ein Gerät, das alles vorhält und macht und tut und du im Grunde Rechercheaufträge bereite mich
00:35:31: auf den Tag vor, bewerte mir meinen Tag, so knowledge navigator für den Tag hast, der Zugriff
00:35:37: hat, auf alle Daten, die dann iPhone hat, Gesundheit, Ort, Wetter, Erinnerung, Kalender, Mails nicht,
00:35:44: das musst du dann ein bisschen anders tricksen, aber Dateien und sowas, das ist schon, also
00:35:50: ich habe richtig Spaß an diesem kleinen Harnest, weil einerseits, ich weiß ein bisschen bei
00:35:56: IOS, was ich tue, auch wenn ich das mit den Nullen durcheinander kriege, ich weiß
00:36:00: ein bisschen, was ich tue und ich kann mich ein bisschen, ich sage jetzt mal selbst
00:36:03: verwirklichen, weil ich mir auch Gedanken mache, und da wird dein UX-Herz vielleicht
00:36:07: einen Ticken höher schlagen, zu überlegen, wie sieht denn so ein Interface aus, wenn
00:36:11: ich eben nicht in Chats denke?
00:36:12: Also der Hanes hat gerade zum Beispiel so eine Oberfläche, das sieht aus wie ein
00:36:18: Notizbuch.
00:36:19: Da hast du ganz viele verschiedene Seiten von Packlisten über Kalender, über keine
00:36:24: Ahnung was.
00:36:25: Du kannst mit der Hand reinschreiben, der macht daraus eine schöne Handschrift
00:36:28: und immer dann, wenn du mit einer anderen Farbe schreibst, weißt du, oh, das ist
00:36:31: Kommando für die KI und dann ergänzt er dir was. Da versuche ich ein bisschen nach dem Motto so wie
00:36:35: so ein Co-Auto, der man mitliest. Du kannst aber auch auf Chats rumschalten. Was halt lustig ist,
00:36:42: wenn du so einen Chat hast, das kennst du, ganz viel Text und unten schreibst du das rein und
00:36:46: wieder ganz viel Text, kannst du den Stift nehmen und in diesen Chat-Verlauf einfach rein
00:36:51: skrippeln. Das hier ausführlicher, das hier weniger und dann reagiert der drauf. Das heißt,
00:36:57: du interagierst nicht mehr, also nicht nur mit Sprache, was natürlich dem KI-System total
00:37:02: entgegenkäme, aber du kannst dann quasi irgendwo sitzen, du klappst dein Ding auf, da kommt
00:37:06: irgendwie Chat oder diese Seiten und schreibst rein und er reagiert auf deine Schrift. Das
00:37:11: macht die Sache gefühlt noch mal so ein bisschen nahbarer. Das finde ich extrem krass,
00:37:18: dass das halt auch alles einfach nur in einem Handy läuft. Fairer Punkt, das Modell
00:37:23: läuft Apple in der Cloud. Aber ich halte, private Cloud kommt gut noch mal zu einer
00:37:28: ganzen Nummer schärfer, was Datenschutz angeht. Wenn man sich alleine anschaut,
00:37:33: wie Apple seine Hardware absichert, seine Infrastruktur absichert, wie es
00:37:36: das auch Sicherheitsvorschauen öffnet, wie du das auch selbst prüfen kannst.
00:37:39: Da ist ja dann auch alles drin. Da wären ja auch theoretisch meine
00:37:42: Kontaktdaten, alles ist da theoretisch drin. Ja genau. Da bin ich auch bei dir.
00:37:48: Da vermute ich schon, dass Apple das relativ gut abgesichert hat.
00:37:51: du hast besser. Ja, okay. So, und wenn du dann überlegst, du hast das Handy, du kannst das ja
00:37:57: auf und zu klappen, aufklappen, dann editierst du halt mit dem Stift drin, zu klappen, dann siehst
00:38:01: du den Statusüberblick über deine Chats, das Ding, oder du hast diesen Buchmodus, dann stellst
00:38:07: es hin, irgendwie so ein aufklappendes Buch, dass du so, naja, man kann sich's hinstellen. Und
00:38:14: dann reagiert es halt mit seiner Visualisierung drauf, das macht richtig Laune. Und dann stehe
00:38:19: wie gesagt, schon vor der Frage, wenn da ein bisschen mehr Rechenleistung drin ist,
00:38:22: wenn du da ein bisschen mehr Modelllogik vielleicht noch drin hast.
00:38:25: Private Cloud Computer hat zum Beispiel keine Bildanalyse. Also das haben sie halt in
00:38:31: Anführungszeichen noch nicht. Dann kann das richtig mächtig werden für den
00:38:36: klassischen Wissensarbeiter. Ich stehe jetzt hier, mach mir mal keine Ahnung,
00:38:41: mach mir ein Schreiben für die Versicherung fertig, helf mir hier, helf mir da. Und,
00:38:46: Das ist auch noch ganz cool. Er hat sogar Browser-Use. Das heißt, beim iPhone 2 geht
00:38:51: dann rechts so ein kleines Fenster auf. Sieht aus wie Safari, ist nicht Safari, aber sieht
00:38:55: aus wie Safari. Und dann bedient er in dem Ding den Browser. Was ich auf dem PC ganz
00:39:00: normal für üblich halte, macht der einfach auf meinem Telefon. Das finde ich schon...
00:39:06: Also da kriege ich Leuchten in die Augen. Da habe ich schon ein bisschen Spielcharakter
00:39:09: und Begeisterung.
00:39:10: Ja, das ist ja im Prinzip so ein Thema, was wir beide schon häufiger diskutiert haben,
00:39:17: ob das irgendwie mit meiner Mac Mini Anwendung eben was anderes war, dass es so ein bisschen
00:39:21: spannend ist, wenn man das Gefühl hat, so ein bisschen mehr Herrscher über dieses,
00:39:28: also über den Harnes, so oder so, das baust du ja selber zusammen, aber das,
00:39:33: was die KI da macht, zu sein und nicht ganz so Spielball der Großen zu sein.
00:39:37: Das ist ja eigentlich das, was ich jetzt so aus deinen Worten, wenn ich dir lausche und
00:39:41: ich lausche dir faszinierend und überlege tatsächlich gerade, wenn ich auch ein Duo
00:39:45: besorgen muss, dann müsste man uns später nochmal darüber unterhalten, was ich da bestellen
00:39:50: sollte.
00:39:51: Weil das ist natürlich schon cool, wenn du dann in der Hosentasche gefühlt sitzt,
00:39:58: du hast es gerade gesagt, das ist natürlich immer noch ein mehr cloudes Modell, das
00:40:01: ist jetzt kein lokales KI-Modell, was auf deinem Duo läuft, wenn ich es richtig
00:40:04: verstanden habe. Dann ist aber trotzdem schon so ein bisschen deine Daten bei dir,
00:40:09: deine Agenten bei dir, dein Hahn ist komplett quasi also bei dir in der
00:40:14: Hosentasche, der mitgeht und eigentlich so ein bisschen so ist, wie deine echte
00:40:20: persönliche KI, die du damit tragen kannst. Dein persönlicher Assistent in der
00:40:24: Hosentasche. Plus, was man ja nicht vergessen darf, dadurch, dass es halt Apple ist,
00:40:30: Plus auf der Uhr, also Sprachinterface Uhr. Plus, weil du gesagt hast, nicht lokales Modell, das ist
00:40:36: richtig. Ich habe es jetzt mit Private Cloud Compute. Aber auf dem, ich sage jetzt mal, reichhaltigen
00:40:41: Board der Erweiterungen, steht auch die Frage, ob man nicht so ein Gamma-Modell oder irgendwas
00:40:47: lokal auf die Büchse knallen kann. Dass man halt noch mehr lokal hinkriegt und vielleicht halt mit,
00:40:54: keine Ahnung, Super-Genden, sonst was, sagt, okay, das mache ich und das gebe ich raus und
00:40:59: dass man da ein bisschen mit spielt, dass man halt immer, ich sag mal, unabhängiger wird.
00:41:03: Weil dieses Thema, guck in meinen Kalender, guck in meine Aufgaben, guck in meine Mails,
00:41:11: fairer Punkt, die muss man sich über IMAP freigeben, das geht sonst nicht, dann lässt Apple mich
00:41:16: sonst nicht drauf auf meine eigenen Mails, die im iPhone sind. Aber guck's dir an, bereite
00:41:22: mir was vor und ich gehe am nächsten Morgen an mein Handy, ich klappe es auf und das Handy
00:41:26: sie sagt nicht, was kann ich für dich tun? Sondern das Handy sagt, Mark, folgende Sachen
00:41:31: sind offen, ich habe dir was vorbereitet, hier viel Spaß. Und das Ganze, weil es eigentlich
00:41:35: das Modell vielleicht irgendwann lokal, das Modell ansonsten remote, aber den ganzen
00:41:39: Rest lokal auf deinem Gerät, ohne irgendwie, ich brauche dabei wem auch immer, Amazon,
00:41:46: Microsoft, sonst wem, irgendeine Cloud-Instanz, die irgendwas vor sich hinzimmert, einfach
00:41:51: nur in deinem Handy. Das finde ich beeindruckend. Es wird einer sagen, aber warum machst
00:41:56: das nicht an deinem Mac. Man könnte mich auch fragen, warum machst du es nicht auf
00:42:00: deinem Windows. Das würde bei mir ausscheiden, weil ich kein Windows in
00:42:02: meiner Wohnung habe. Also ich bin ja Mac-User durch und durch.
00:42:08: Es gibt Menschen, die überhaupt nicht hätte ein Apfellogo auf der Brust
00:42:11: tätowiert. Ich möchte ihnen Beweis nicht geben, aber es ist nicht so.
00:42:15: Der Mac klappt halt zu und in der Mehrheit der Fälle geht er dann aus.
00:42:20: Und auch wenn du sagst, du hast Mac Mini hinter dem Fernseher, oder das steht meiner, das ist
00:42:27: zwar alles nett, da kann man sich seinen Hermes installieren und der ist auch garantiert im
00:42:32: Moment flexibler, lernfähiger, baut sich Skills, macht Vorschläge und so weiter, alles
00:42:37: fein. Aber es ist halt ein gesondertes Stück Handwerk, das gewartet werden will, das
00:42:42: irgendwo steht, lüftet, irgendwo irgendwo und das Ding hast du halt in der Hosentasche bei
00:42:47: dir. Das hast du im Urlaub genauso mit und musst ja kein Kopf machen über, wie schalte ich mich auf
00:42:53: die Daten. Das finde ich so faszinierend, als es in meinem Kopf einen Klick gemacht hat zu sagen,
00:42:58: eigentlich hast du quasi einen Client und einen Server, also das hast du früher als kleinen
00:43:02: Serverinfrastruktur dir überlegt hast mit dieser Cloudrunner und Co. in deiner Hosentasche.
00:43:07: Und es ist schon nicht.
00:43:08: Es ist eigentlich nur noch die Frage, wie kriege ich ein ausreichend starkes
00:43:12: lokales Modell da drauf.
00:43:13: Das wäre dann halt super, weil ansonsten müssen wir natürlich ehrlicherweise auch sagen,
00:43:17: könnte man natürlich auch noch trotzdem mit jedem mobilen, beliebigen Endgerät auch über eine
00:43:23: Virtual Server Lösung nachdenken. Ja, natürlich. Du hast natürlich irgendwie auf dem Virtual Server irgendwo eine Cloud.
00:43:28: Aber die baut sich auch keiner so nebenbei zusammen. Genau. Und meine App baut sich auch keiner
00:43:33: nebenbei. Es würde auch anders gehen momentan, aber ich verstehe, was du sagst. Es ist einfach das,
00:43:42: was uns Menschen dann, glaube ich, auch bei manchen Produkten einfach anzieht,
00:43:44: ist es ein bisschen mehr konvenient. Es ist dann halt nicht so viel selber bauen und noch mal an der anderen
00:43:49: Stelle irgendwas pflegen oder was anderes, sondern ist es dann einfach aufklappen und da hin zu suchen.
00:43:53: Und was mich halt wirklich auch noch fasziniert ist die Frage, wie kriegst du es hin, dass es
00:43:59: wieder ein bisschen in den Hintergrund geht? Das ist das, was ich versucht hatte mit Notizbuch,
00:44:03: Whiteboard-Funktion und so ein Kram zu sagen, okay, ich arbeite da drin, aber auf meiner
00:44:11: auf meiner Roadmap steht, also auf meiner Roadmap, auf meinem persönlichen Experiment,
00:44:15: fahrt ihr aus sowas, was ich noch so Shareplay integrieren will, das heißt Multi-User, dass
00:44:20: mehrere Menschen quasi sich eine Session teilen auf dem Whiteboard, das dann in dem Hanes
00:44:25: stattfindet, wo dann der Hanes zusätzlich mit drin arbeitet und was man da halt so
00:44:29: machen kann.
00:44:30: Ich finde, an sowas kannst du total viele coole Sachen ausprobieren, wobei, schlimm
00:44:35: genug. Machst beruflichen Hanes, machst privaten Hanes. Irgendwann sollte man was anderes machen
00:44:42: als lauter Hanesse. Ich glaube, das Hanesbauen ist jetzt auch keine Aufgabe, die jeder draußen
00:44:51: können werden muss. Ich glaube, das ist tatsächlich eine kleine spezielle Gruppe,
00:44:57: die sich gerade damit beschäftigt. Viele andere sehen das einfach auch so an wie
00:45:00: anonymer Alkoholiker. Ich bin anonymer Ka-Elika.
00:45:03: Genau, ich bin Harnes-süchtig. Nein, also im Prinzip ist es natürlich so, dass ich sage,
00:45:10: ja, Anbieter kommen, ob das Geräteanbieter sind oder eben auch die Softwareanbieter,
00:45:14: die werden kommen und die werden euch, kommt auch da, den Harnes dann liefern gegen
00:45:20: eine kleine Abogebühr, meistens immer. Und dementsprechend muss sich nicht jeder damit
00:45:24: beschäftigen. Also das, was wir da tun, ist ja auch ein bisschen experimentieren,
00:45:27: auch ein bisschen forschen, was geht denn eigentlich gerade aus beruflichen Interesse,
00:45:30: aus privaten Eigeninteresse, gucken uns die Sachen ja auch mal gerne an und
00:45:33: fummeln da ein bisschen rum und verbrennen auch den ein oder anderen Token zu viel für
00:45:38: unsere Züge. Ehrlicherweise, damit wir dann auch immer wieder mal euch das eine oder andere
00:45:43: anrufen. Lasst uns den Token einmal mehr umdrehen, bevor wir ihn verbrennen.
00:45:47: Oh, auch gut. Ja, das könnte man. Oh ja, das passt jetzt gerade zu dieser Token-Rationalisierungsphase,
00:45:54: die Tokenmaximierungsphase abgelöst hat anscheinend. Tja, sehen wir mal. Tja Jens, und nun? Und nun?
00:46:00: Tokens werden nicht weniger. Sie werden anscheinend nur stärker angeschaut, ob sie auch wirklich
00:46:08: produktiv sind. Sie werden immer produktiver. AI produziert immer mehr coole Sachen,
00:46:12: ehrlicherweise. Wir haben da Zeit nicht über. Wir müssen mal wieder darüber reden, was
00:46:18: eigentlich draußen alles passiert. Da kann man uns in der nächsten Folgen mal mit beschäftigen.
00:46:21: Also ich habe jetzt in den letzten Wochen wahnsinnig starke Anwendungsfälle im Bereich Tutorial,
00:46:28: Erklärungsgeschichten, Bildungsbereichen gesehen, wo vor allem häufig mit Claude Stropus und
00:46:35: einer MCP-Anbindung, die dann dem 3D-Dip-Programm Blender eben hilft oder besser gesagt,
00:46:43: Das Programm Blender wird von der KI genutzt, um gigantisch coole 3D-Webseiten zu bauen,
00:46:55: die fantastische Werklehr-Eigenschaften haben, wo man sich Technik angucken kann.
00:47:02: Ich hab heute noch, der vom Versal Chef war das glaube ich, der hat heute was gepostet.
00:47:06: Wir haben einen Plattenspieler zu Hause, der hat auch mit Free.js einen Plattenspieler
00:47:11: nachgebaut und da läuft nochmal, kann verschiedene Platten drauflegen.
00:47:14: Das ist schon mal geil, den zu drehen und die Musik zu hören, aber was das
00:47:16: faszinierende ist, dass die Musik nicht einfach aus dem aufkommt, sondern in
00:47:19: diesem 3D-Modell, das in real-time auf in der Website läuft. Im Prinzip
00:47:25: die echten Schwingungen quasi der Platte abgefragt werden, um daraus dann
00:47:29: wieder aus diesen Schwingungen die Töne zu produzieren. Das ist irgendwie
00:47:32: abgefahren und ich glaube über solche Sachen sollten wir auch in Zukunft mal
00:47:34: wieder reden, da können wir eine echte Folge drüber machen.
00:47:36: Da müssen wir mal schauen, dass wir dann aber ausreichend Links dazu packen in den
00:47:39: Show notes, weil wir sind ja leider kein visuelles Ereignis, sondern nur ein
00:47:44: autophiles Ereignis für beide momentan. Aber ich glaube, da haben wir auch mal wieder
00:47:50: spannende Themen, was mit Tokens alles so gemacht wird, da haben wir lange nicht mal
00:47:52: Ruhe geredet. Wir könnten uns ja mal überlegen, also bitte nicht als Regel, aber
00:47:56: überlegen, ob wir eine Folge auch mal wirklich als Video auf unseren YouTube-Arten haben.
00:48:01: Ja, stimmt. Ja, weil man muss am Anfang mal auch sehr uneigennützig sein, zu sagen,
00:48:06: Tja, schön, dass wir in eurem Podcast-Player eurer Wahl sind.
00:48:09: Schaut doch mal auf YouTube vorbei, dann könntet ihr sehen, was wir gerade machen.
00:48:12: Genau, so könnten wir vielleicht ein bisschen unsere Kanäle noch ein bisschen...
00:48:15: Ja, krusch.
00:48:16: Vielleicht am Schluss noch ein Tipp zur Token-Minimierung im persönlichen Umfeld.
00:48:22: Was mir tatsächlich auch hilft, Tokens zu sparen, ist ein kleines Still, den
00:48:28: ich mir geschrieben habe, der nämlich ein Thema, das ich vorhabe, nicht nur mit
00:48:33: Die sind ja von, den einer heißt ja QuillMe, oder Superpower Brainstorming oder sowas,
00:48:38: damit dein Plan möglichst gut ist.
00:48:40: Da habe ich mir noch einen Skill geschrieben, der recherchiert, ob das, das ich vorhabe,
00:48:44: schon jemand auf Reddit oder so geschrieben hat, diskutiert hat und zusätzlich guckt,
00:48:50: ob es auf GitHub auch lizenztechnisch sauber natürlich schon Demo-Implementierungen gibt.
00:48:56: Nicht, um sich Demo-Implementierungen dann nach dem Modus zu kopieren,
00:48:59: sondern als Anleitung zu nehmen für einen Plan nach dem Motto, ich baue mir das, ich falle
00:49:05: vielleicht nicht gleich in alle Fehlereien, die ich mir selbst habe einzahlen lassen,
00:49:09: plus Context 7 ist total toller MCP-Server, was Programmiersprachen angeht und das in
00:49:14: Summe, aber du holst schon Luft, das in Summe schon ganz gut.
00:49:16: Das hört sich sehr cool an und teilt bitte auch die Links nochmal, vielleicht auch
00:49:20: diese Folge, da will ich mir das ein oder andere auch nochmal rausholen.
00:49:23: Was ich nur sagen wollte, hast du gerade damit angekündigt, dass eigentlich in
00:49:27: der Menschheit, dass Rat nicht mehr zweimal erfunden werden muss.
00:49:31: Aber wir sind doch hier zwei Technologien-Nerds. Natürlich entwickeln wir das Rat neu.
00:49:37: Diese Erkenntnis zu sagen, kopier es nicht, sondern guck dir einfach alle Projekte an.
00:49:44: Wie gesagt, immer mit Blick auf, was ist das, MIT, Apache und so weiter,
00:49:50: dass man da sich nicht irgendwas einfühlt.
00:49:51: Ob man dann auch alle erwischt, ist auch mal hingestellt,
00:49:53: weil manche sind nicht so dokumentiert, aber es ist egal.
00:49:56: Erkenntnis. Diese Erkenntnis, ich vertraue drauf. Ist ja wieder dasselbe Thema wie in einer unserer
00:50:01: ersten Folgen. Nur weil es der Computer gesagt hat, sind wir nicht bei 0 und 1. Das ist nicht
00:50:05: wirklich falsch. Aber es ist immer noch, er hat drauf geschaut. Wenn ich drauf schaue, ganz ehrlich,
00:50:11: du weißt selbst, wie ich manchmal mit meiner Brille vorm Monitor haue, genau gut übersehe
00:50:15: genug. Und bei der Menge, die er tut, ist, ich sag mal, die Korrektur nur ein Prompt entfernt.
00:50:20: Und die Tatsache, dass er danach suchen kann, sei es zum Beispiel mit Hilfe von Perplexity
00:50:24: oder eigene Suche an Fragen angetan. Das ist erstaunlich, was der an dieser Stelle,
00:50:31: ich sage jetzt mal, alles findet, damit er selbst nicht über dieselben Fehler stolpert,
00:50:36: die man sonst vielleicht nicht bedenken würde. Letzter Satz. Ich glaube, mittlerweile sind die
00:50:41: Modelle auch so stark, und wenn man das Ganze integriert, dass manchmal auch zu viel Anweisung
00:50:46: einen schlechter macht. Also wenn du sagst, da auch aufgemacht, diese macht das, dann folgst du
00:50:51: ihn ein und dann kommt, wenn du ihn laufen lässt und ihn einen Vorschlag machen lässt,
00:50:54: dann kommen manchmal so coole Ideen raus, wo du sagst, da können wir drüber reden und nicht
00:50:59: vorher ja, aber das groß nicht und bitte so gar nicht, sondern mach mal Vorschläge. Lass
00:51:04: uns diskutieren, in diese Diskussion mit ihm kommen und so den Plan stetig schärfen.
00:51:09: Ich wollte nochmal einmal das untermachen, was du gesagt hast, weil das war noch eine
00:51:13: weitere Nachricht, die mich diese Woche interessiert ereilt hatte und zwar war das von
00:51:18: Efe Molik, der hat das repostet, das ist nicht seine Studie, hat das so bei repostet und da ging
00:51:23: es darum, dass man geschaut hat, wenn man bei wissenschaftlichen Studien Faktencheck durchführt,
00:51:29: wie gut die durchgeführt werden. Da ist dann rausgekommen, dass im Prinzip der Mensch eigentlich
00:51:34: nur noch so bei 25 Prozent ungefähr richtig liegt und die Chance hat, die Fakten wirklich
00:51:38: zu checken. Im Gegensatz zu den Modellen, ich gucke mal rein, hier ist dann so eine Clot Opus 5
00:51:43: getestet worden, mit einer 90,8 Prozent Richtigkeit. Die GPT-56 von Soul Ultra mit 92,2 Prozent,
00:51:52: das beste Modell. Das heißt, dieses vielleicht auch überhöhen von unseren eigenen Fähigkeiten
00:52:00: als Mensch, was wir denn eigentlich quasi beurteilen können. Weil genau wie du das
00:52:03: sagst. Na warte, wenn ich mir jetzt Sachen zusammen daddel, dann hab ich meinen Durchschnitt.
00:52:08: Ja, ja, dann habe ich so mein gutes Gespür dafür, ob das jetzt KI-Nachrichten sind oder echte Nachrichten, was ist denn eigentlich richtig,
00:52:17: genauso, ob ich das im Prinzip, wenn meine KI mir Newsrecherchen, Sachen so voranführt oder ich mit ihr irgendwas diskutiere,
00:52:22: dass ich schon das Gefühl dafür habe, ist das richtig oder nicht, aber halt nur ein Gefühl, ehrlicherweise nur ein Gefühl.
00:52:29: Diese Zeit, wo dieses Gefühl schlauer ist als eine KI, die das überprüft, die ist vorbei, das muss uns klar sein.
00:52:35: Das ist so eine, glaube ich, eine spannende Thematik, die aus dieser Studie noch mal rauskam.
00:52:39: Das ist natürlich bei Expert-Themen, aber ich glaube, wir können das auf alltägliche Themen
00:52:42: dann relativ einfach runterfahren, wenn das bei wissenschaftlichen Studien schon mittlerweile der Fall ist,
00:52:46: dass die KI da tatsächlich deutlich, deutlich besser facken und checken kann,
00:52:50: als ein Mensch, das jemals werden kann oder jemals konnte, ehrlich gesagt.
00:52:55: Und wenn man noch dazu bringt, und das darf sich jetzt nicht verurteilend anhören,
00:53:01: dass du ja immer noch auf ganz viele Leute triffst, egal aus welchem Berufsstand,
00:53:05: egal ob jetzt handwerklich, digital IT, Sachbearbeitung, was auch immer, dass KI
00:53:12: existiert, ist das eine. Was sie bedeutet und was sie kann, ist immer noch so
00:53:17: unterschiedlich in der Wahrnehmung. Ich treffe immer noch Menschen, die mir
00:53:21: sagen, ja gut, Text übersetzen, natürlich nutze ich KI. Und ich will, wie
00:53:27: darum sagte ich, ich will das nicht verurteilen, weil es gibt ja
00:53:30: durchaus auch die Tatsache, dass man vielleicht gar nicht weiß, dass es mehr
00:53:32: kann oder dass man gar nicht die Erfahrung gemacht hat, dass man ihnen mehr zutrauen kann,
00:53:37: weil wenn du natürlich jetzt z.B. immer mit den kostenlosen Abos, ich kenne Menschen,
00:53:42: die waren total entsetzt nach dem Motto, welche Version war das damals, wo es hieß, OpenAI
00:53:47: hat mir meinen Freund genommen, das war doch die 4O oder irgendwie sowas.
00:53:50: Ja, ja, genau, das war, glaube ich, die dann versucht haben auf alten Modellen
00:53:53: und dann hat OpenAI die Modelle gekündigt und dann, ah, mein Modell ist weg und haben
00:53:59: irgendwie ein kleines Modell genommen, weil sie dachten kleine Modelle sind
00:54:02: billiger. Ja, aber dabei sind kleine Modelle ja nicht automatisch billiger. Das
00:54:06: ist ja tatsächlich auch so ein Punktschluss. Und von der Seite, es gibt so
00:54:10: viel unterschiedliche Empfindungen zum Thema KI. So viele unterschiedliche von
00:54:16: Menschen, die sagen, ich bin da fit und sind es vielleicht gar nicht. Oder
00:54:19: sie sagen, was will ich damit? Ist doch eher alles Quatsch. Oder es betrifft mich
00:54:23: nicht. Ich bin ja kein ITler. Ich glaube schon, dass es in der
00:54:27: IT durchaus eine Veränderung der Berufswelt gibt, das hatten wir schon
00:54:30: mal als Thema, aber das wird durch Management und Co. auch nochmal ganz
00:54:34: anders durchwabern, aber das sind, glaube ich, alles Geschichten, die wir in
00:54:37: zukünftigen Folgen jetzt eben wollen. Daher würde ich mich bei dir bedanken.
00:54:42: Schön, dass der Todesstern nicht über dich geboren hat.
00:54:45: Nein, ich habe es geschafft, diese fürchterliche, fürchterliche, mir nagt
00:54:50: etwas zu überwinden. Ja, also da hat das Imperium alles in die
00:54:54: Werkschale geschmetzt und hat es nicht geschafft. Danke, dass du auf der guten
00:54:57: Seite geblieben bist, auf der Seite der KI, auf der Seite unserer Hörenden und
00:55:01: damit würde ich sagen, verabschieden wir uns, wünschen euch eine wunderbare
00:55:05: Woche, mit was auch immer für Ereignisse sich da abzeichnen. Man hört
00:55:09: hier wieder von neuen Modellen, aber das ist auch eine Binsenweisheit, davon
00:55:12: hört man ständig und ich freue mich auf die nächste Folge, Jens. Bis dahin,
00:55:16: euch alles Gute, hinterlasst uns ein Like, ein Kommentar, sagt gerne, dass
00:55:21: dass wir cool sind und bis zum nächsten Mal.
00:55:24: Ciao.
00:55:25: Bis zum nächsten Mal.
00:55:26: Ciao.
00:55:27: Auch mal.
Neuer Kommentar