Speed vs. Safety

Shownotes

Was macht man, wenn die eigene Loop-Engineering-Folge von letzter Woche von der Realität überholt wird, bevor die Tinte trocken ist? Genau das ist Mark und Jens passiert, deshalb gibt es diese spontane Zusatzfolge. Auslöser ist Fable, das Anthropic-Modell, das vor wenigen Tagen für Nicht-US-Bürger gesperrt wurde.

Die Strategie der US-Regierung könnte sein, ausgewählten Firmen und der eigenen Verwaltung einen Vorsprung beim Schließen genau dieser Lücken zu verschaffen, bevor Modelle aus weniger kontrollierbarer Hand ähnlich leistungsfähig werden. Von dort geht es zu Destillation: Chinesische Modelle bauen die Fähigkeiten großer US-Modelle nach, indem sie ihnen mit automatisierten Massenanfragen quasi das Wissen aus der Token Prediction herausextrahieren. Das trifft auch Unternehmen hart, die ihre Prozesse zu früh auf ein einzelnes Modell ausgerichtet hatten. Mark und Jens berichten von Kanzleien, die ihre komplette Textanalyse auf Fable umgestellt hatten und jetzt vor genau diesem Problem stehen, wenn das Modell abgeschaltet wird. Nebenbei taucht auch noch ein neuer Herausforderer namens Fuku (von einem Anbieter, an dessen Namen sich Jens im Gespräch selbst erst erinnern muss) auf, der eigene Rekord-Benchmarks für sich beansprucht.

Direkt anschließend an die Loop-Engineering-Folge der Vorwoche geht es um die praktischen Grenzen von Loops: Jens berichtet von einer mehrtägigen Sperre bei Anthropic, nachdem er sein Wochenlimit im Max-Plan an einem einzigen Abend verbraucht hatte. Noch tückischer ist ein zweiter Fall: Trifft ein Loop mitten in der Arbeit auf ein API-Limit statt ein Modell-Limit, bricht er zwar ab, meldet sich aber nach einem einfachen "mach weiter" so zurück, als sei alles erledigt, samt der beiläufigen Bemerkung, es habe acht Abstürze gegeben, die man reparieren solle. Am Ende steht ein Ergebnis, das aussieht wie ein normaler Prompt, nicht wie die eigentlich gewünschte gründliche Iteration. Der Aufruf der Folge: weg vom reinen Prompt Engineering, hin zum Loop-Ingenieur.

Zum Schluss ordnen die beiden ein, wie früh diese Phase der KI-Entwicklung eigentlich noch ist, vergleichbar mit dem Internet um 1997: vieles funktioniert schon, aber es gibt noch keine etablierten Standards, dafür aber schon die ersten Kurs-Verkäufer, die das große Geld versprechen. Ein Streitpunkt dabei sind Commodity-Harnesses wie ChatGPT, Gemini oder Anthropics Cowork gegenüber dem eigenen, selbstgebauten Agent Harness, der mit ständig wechselnden Modellen und Umgebungen klarkommen muss. Mark erzählt von jemandem, der sein selbstgebautes Harness-Ergebnis als "so eine JSON-App" abgetan hat, ein Anlass für eine eigene, ausführlichere Harness-Engineering-Folge, die die beiden ankündigen. Trotz aller Rückschläge bleiben Mark und Jens optimistisch: Sie vergleichen die aktuelle Phase mit dem iPhone-Moment, nach dem erst Anwendungen wie WhatsApp entstanden sind, die vorher niemand kommen sah, und erwarten Ähnliches für spontan generierte Software statt fertig gekaufter Programme.

Transkript anzeigen

00:00:00: Herzlich willkommen bei Think Different, Think AI. Der Jens und ich haben uns

00:00:05: mal wieder persönlich getroffen. Leider nicht in so einer schönen Hotel-Lobby wie beim letzten Mal.

00:00:09: Aber nichtsdestotrotz mit einem kühlen Getränk nach den heißen Tagen in der Hand.

00:00:14: Und wir haben für uns festgestellt, dass die letzte Folge, die wir aufgenommen

00:00:18: haben, die ihr letzte Woche hören konntet, so aktuell ist, dass wir da nochmal

00:00:23: drauf aufsatteln mussten.

00:00:26: Jens, wir haben das letzte Mal über solche Dinge gesprochen,

00:00:29: wie Prompting, Skills, Loops.

00:00:32: Und in der Folge davor hatten wir irgendwann auch mal über Fable Files gesprochen.

00:00:36: Und jetzt haben wir uns gesagt, das hängt alles irgendwie zusammen.

00:00:40: Was ist denn seitdem nicht passiert oder passiert? Was nicht passiert ist?

00:00:46: Ja, natürlich haben wir die Loop-Folge aufgenommen. Und ich glaube,

00:00:49: es passt ganz gut, dass wir jetzt nochmal diese aktuellen Ergänzungen zu dieser Loop-Folge machen.

00:00:53: Weil der Hörer unter euch und der KI-Begeisterte, so wie wir das sind,

00:00:58: hat es bestimmt mitbekommen.

00:01:00: Fable hatte, oder Anthropic wurde ja mit Fable ganz bekannt vor ein paar Tagen.

00:01:06: Dann ist es abgeschaltet worden, dann haben wir eine ganze Folge darüber gemacht.

00:01:09: Das kennt ihr bestimmt, das Thema.

00:01:10: Jetzt ist dieses Wochenende auch wieder. Solche Sachen passieren anscheinend immer am Wochenende.

00:01:16: Und es hat nichts mit VW oder BSF zu tun. Nein, es sind einfach Wochenende-Geschichten.

00:01:20: Anscheinend wo dann Sachen aus Amerika hier rüberschrappen und entschieden werden.

00:01:24: Es ist nämlich ein weiteres Modell, einmal wieder freigeschaltet worden und

00:01:29: ein anderes Modell hat aber angekündigt, dass sie ihr Modell,

00:01:32: das sie geplant haben zu releasen, wenn ich es richtig bin.

00:01:36: Von OpenAI, das ist dann die 5.5 gewesen. Nee, 5.6. 5.6 gibt es.

00:01:42: Ist total lustig, weil der eine kriegt einen Anruf, dass er doch bitte sein

00:01:46: Modell noch ein bisschen zurückhalten soll und nicht erst releasen soll nach

00:01:49: dem Motto, du willst doch nicht, dass bei dir was passiert.

00:01:52: Und der andere hat Fable 5 immer noch nicht veröffentlicht, aber Mythos,

00:01:58: also quasi die Mutter der besseren Modelle,

00:02:02: dass damals in meinem Raum stand, wie ist zu gefährlich, dass man es in die

00:02:05: Welt rausgeben kann, weil es halt

00:02:06: auch in Sachen Biologie und Informationssicherheit relativ schlau war.

00:02:11: Das war das Modell, das hier bei Apple irgendwie innerhalb von fünf Tagen diverse

00:02:15: Sicherheitssachen auf dem M5 geknackt hat und so ein Kram.

00:02:18: Und dieses Modell darf jetzt nur an amerikanische Firmen, Staatsbürger und hast

00:02:24: du nicht gesehen, verteilt werden.

00:02:26: Soweit ich das verstanden habe, auch erst nach Freigabe durch die US-Regierung.

00:02:33: Ich finde, das ist auf jeden Fall kein skalierbares Vorgehen.

00:02:38: Aber das gefälschte Modell ist es da.

00:02:39: Ja, anders als wir das, was wir bis jetzt kennengenannt haben,

00:02:42: die ganze Situation rund um KI, dass die Sachen eigentlich immer fröhlich in

00:02:46: die Welt gepostet worden sind, scheinen wir jetzt in eine neue Phase zu kommen,

00:02:51: was für die Qualität der Modelle natürlich einmal spricht.

00:02:54: Diese Modelle sind, sie stetig daran weiterzuentwickeln. Das heißt,

00:02:58: sie werden immer besser, dementsprechend natürlich auch immer gefährlicher,

00:03:03: dahingehend, dass sie uns in vielen Fähigkeiten übertreffen und vor allem anscheinend

00:03:07: jetzt bei Fähigkeiten, die wir früher gezeigt haben, wir dachten,

00:03:10: wir haben was gut programmiert, wir haben was sicher programmiert früher.

00:03:13: Jetzt kommen die Dinger um die Ecke und entdecken relativ zügig,

00:03:15: dass dem nicht so ist, dass wir gottgleichen Programmierer, die wir früher waren,

00:03:20: doch anscheinend... Fehlerfrei.

00:03:22: Genau, fehlerfrei bis jetzt doch nicht so fehlerfrei waren und dementsprechend

00:03:26: da irgendwo relativ viele Sicherheitslücken sind, die durch diese neuen Modelle

00:03:31: in einer Windeseile geknackt werden.

00:03:33: Ich glaube, irgendwie auch die Regierung hat auch gesagt, die amerikanische

00:03:36: Regierung, dass auch ihre Systeme von Mythos in wenigen Stunden geknackt worden

00:03:39: sind. Das ist also wirklich eine Bandbreite, die durchaus eine Regulatorik erfordert. Vielen Dank.

00:03:46: Aber auf der anderen Seite natürlich auch ein bisschen zeigt,

00:03:49: wie abhängig wir mittlerweile auch da sind.

00:03:52: Ich meine, treue Hörende unseres Podcasts haben ja sicherlich auch mitbekommen,

00:03:56: es gibt nicht nur die amerikanischen Modelle, es gibt auch beispielsweise chinesische Modelle.

00:04:03: Jetzt wollen wir mal hier das französische Modell Mistral jetzt mal außen vor

00:04:08: lassen bei der Erklärung.

00:04:10: Und dass jetzt das wie eine Unterstellung oder sowas sein soll.

00:04:13: Aber auch die chinesischen Modelle werden wahrscheinlich merken,

00:04:16: was jetzt hier los ist, weil das ein oder andere Modell, hat man zumindest mal

00:04:20: so gelesen oder gehört, ist durch Destillation der großen Modelle entstanden.

00:04:26: Also man muss sich das quasi so vorstellen, dass Anbieter, sagen wir mal so,

00:04:30: viele Anfragen und Gespräche mit den US-amerikanischen Modellen geführt haben,

00:04:35: automatisiert, um diese Modelle quasi nachzubauen, nachzubilden.

00:04:40: Ja, so eine Art Re-Engineering. Sie haben tatsächlich im Prinzip geguckt,

00:04:43: dass du sagst, ich stelle 100.000 Anfragen zu dem Thema, wie geht man am besten angeln?

00:04:50: Dann antworten diese Modelle ja auch in 100.000 Varianten, die aber sehr ähnlich sind.

00:04:56: Damit im Prinzip die richtige Anleitung rauskommt, dass ich einen Angel mitnehme

00:04:58: oder irgendwas anderes und den Köder und was auch immer.

00:05:01: Die eigene Dynamitsteine, da hat er zu viele Filme gesehen.

00:05:04: Und mit einer gewissen Wahrscheinlichkeit, wir kennen ja alle das Thema,

00:05:08: dass da Wahrscheinlichkeitsrechnung im Hintergrund passiert,

00:05:11: die Token Prediction und um die wieder rauszukriegen, wurden ganz,

00:05:15: ganz viele Anfragen an diese amerikanischen Modelle gestellt und so hat man

00:05:18: im Prinzip dann verstanden, wie dieses Modell funktioniert und das dann nachgebaut.

00:05:22: Da gab es eben Geschichten, dass einige von den chinesischen Modellen so aufgesetzt sind.

00:05:26: Und was ich halt auch ganz lustig fand, ist das andere, dass es augenscheinlich

00:05:31: sogar schon Firmen gibt, die vor Gericht ziehen,

00:05:35: weil die unmittelbar nach Erscheinen von Fable das Potenzial erkannt hatten.

00:05:41: Und ihre Geschäftsprozesse schon darauf optimiert haben.

00:05:44: Und gesagt haben, das ist quasi ein Modell, das so gut ist in der Textanalyse,

00:05:49: ich glaube, das waren sogar Anwälte, so gut war in der Textanalyse,

00:05:53: dass sie da nicht mehr drauf verzichten wollten, haben alles drauf umgestellt.

00:05:56: Und dann ist es natürlich doppelt ärgerlich, wenn dann auf einmal es heißt,

00:06:00: so, wir stellen das Modell ein.

00:06:02: Wobei fairerweise muss man sagen,

00:06:04: das Modell wurde ja offiziell nicht eingestellt von der US-Regierung.

00:06:07: Die haben ja nur gesagt, ihr müsst sich erstellen, dass das nur US-amerikanische

00:06:11: Bürger benutzen. Das ist halt natürlich ein bisschen schwer in Zeiten von Amazon-Bedrock-Zugängen,

00:06:15: APKs und hast du nicht gesehen. Also haben sie es generell abgeschaltet.

00:06:19: Aber dann stehst du da als Firma,

00:06:22: und da stehst du auch so ein bisschen der Kreis zu dieser Loop-Folge.

00:06:25: Wenn du versuchst, immer Bleeding-Edge vorne mit dabei zu sein,

00:06:29: dann kannst du nicht nur auf die Nase fallen, weil du gehst halt in Neuland

00:06:33: und verursachst entweder Kosten oder musst lernen, damit umzugehen.

00:06:37: Nee, es kann sogar noch sein, dass dein Geschäftsprozess danach steht,

00:06:41: weil das Modell abgeschaltet.

00:06:43: Hier nochmal ein guter Punkt, weil das war mir gar nicht so bewusst.

00:06:45: Das ist mir jetzt gerade erst klar geworden, als du geredet hast.

00:06:48: Warum jetzt im Prinzip das Thema Mythos wieder freigegeben für einige Personenkreise,

00:06:53: einige Firmen in Amerika und Fable nicht?

00:06:56: Weil natürlich Anthropic weiß, wie es das machen kann. Anthropic wusste,

00:07:01: wie es Mythos quasi auch vor Release-Datum von Fable damals eben zum Testen

00:07:06: einer Google, einer Amazon und sowas gegeben hat.

00:07:08: Ich glaube, das gleiche Vorgehen können Sie jetzt wieder machen.

00:07:10: Sie schreiben das einfach wieder frei.

00:07:13: Fable haben Sie halt tatsächlich an uns alle quasi freigegeben.

00:07:17: Ein Commodity-Produkt. Genau, da haben sie anscheinend noch keine Mechanik gefunden,

00:07:20: das dann im Prinzip so einzuschränken, dass sie uns halt nur einen effizienten Zugriff geben.

00:07:24: Das heißt, das ist jetzt eigentlich wahrscheinlich so eine Reaktion,

00:07:27: dass sie sagen, ja, wir müssen Mythos wieder freigeben für die großen Firmen,

00:07:31: weil diese Modelle werden wahrscheinlich weltweit immer besser.

00:07:33: Also das vermute ich jetzt einfach mal, dass die Strategie der Amerikaner dahinter

00:07:36: ist, dass sie sagen, ja, auch andere Modellanbieter, ob durch Destillation oder

00:07:40: durch eigene Modellentwicklung, werden höchstwahrscheinlich auf den Status kommen,

00:07:44: den wir jetzt bei den großen Modellen haben.

00:07:46: Also gib uns doch bitte schnell wieder Mythos, damit wir im Prinzip die Angriffsvektoren

00:07:51: kennen und jedenfalls die einfachsten Sicherheitslücken schon mal zumachen,

00:07:55: bevor draußen am Markt Modelle entstehen, die wir nicht aus amerikanischer Hand

00:07:59: quasi kontrollieren können, die dann möglicherweise ein potenzielles Sicherheitsrisiko darstellen.

00:08:04: Das könnte quasi die Strategie der Amerikaner jetzt sein, zu sagen,

00:08:07: okay, dann Mythos dem Kreis wieder freigeben, damit wir da vielleicht Schlimmeres

00:08:11: verhindern, was von außen kommen könnte.

00:08:13: Ich finde es schön, mit wie vielen Überlegungen du hier reingehst und sagst,

00:08:18: die US-amerikanische Regierung hat, wie immer, sehr ausführlich darüber nachgedacht.

00:08:24: Was ich daran ganz lustig fand, Mythos, als Mythos erschien und es noch hieß,

00:08:29: es ist nur einem sehr eingeschränkten Benutzerkreis zur Verfügung,

00:08:32: hatten wir auch im Podcast vom Bericht, war es ja auch als Modell gelistet.

00:08:37: Bei Amazon Bedrock, in der EU-Zone, in Frankfurt, wo ich mir dann auch dachte,

00:08:43: hä, wenn es doch dieses ominöse Superduper-und-ich-breche-aus-allem-aus-Modell

00:08:47: ist, ob jetzt die Eurozone Frankfurt bei Bedrock so der beste Platz ist, dafür weiß ich nicht.

00:08:53: Müssten wir gerade gucken, ob das noch da ist.

00:08:56: Ja, Entschuldigung. Aber weißt du noch, wie dieses Modell heißt,

00:08:59: das jetzt rausgekommen ist, das so ein bisschen heißt, es hätte Fable 5 Möglichkeiten?

00:09:05: Weil es ist kein Modell, es ist mehr so ein Orchestrator.

00:09:09: Ja, ja, das japanische, aber komme ich jetzt auf den Namen? Ich glaube irgendwas

00:09:12: mit Fuku, ich muss es leider nachgucken.

00:09:16: Ja, ja, also ich weiß ganz ehrlicherweise, ich habe auch keine Ahnung,

00:09:19: wie es heißt, vielleicht fällt es uns ja auch gleich, während wir reden, einbestimmt.

00:09:23: Das fand ich halt auch ganz lustig, wie auf einmal Modelle aus dem Boden sprießen,

00:09:27: beziehungsweise Verfahren aus dem Boden sprießen, die von sich behaupten,

00:09:32: die Benchmarks zu schlagen, die diese Großmodelle für ein paar Tage dargeboten haben.

00:09:40: Und von der Seite es geht mir gar nicht. Wie heißt es?

00:09:44: Schakana AI Fuku. Ich hatte doch recht.

00:09:48: Darum weiß ich ja, dass ich den Podcast immer sehr gerne mit dir mache,

00:09:50: weil du bist halt so der Gebildete. Ja, ich weiß immer alles.

00:09:54: Ja, aber das ist gerne nochmal einmal zu dem Thema, was wir gerade kurz angeschnitten hatten mit dem,

00:09:59: Looping. Weil wir ja auch ein bisschen über Loops geredet haben.

00:10:03: Looping, ja. Also erst machen wir Loops und dann machen wir Looping. Merkt es euch schon mal.

00:10:07: Ja, das hat natürlich, du hast gerade schon angedeutet, Konsequenzen,

00:10:12: über die man sich jetzt Gedanken machen muss.

00:10:14: Wenn wir, wie wir in Berlin eingeführt haben, in einer Welt sind,

00:10:17: wo ich nicht mehr sicher sein kann, dass ein großes Modell, das draußen veröffentlicht wird,

00:10:25: noch am Markt ist, wenn ich morgens wieder aufwache. Also diese schöne Storyline.

00:10:30: Ich setze hier mal einen Loop auf und vielleicht davon hunderte.

00:10:33: Das hören wir ja auch immer, wenn wir durch die Hände gucken.

00:10:37: Kaum einer der großen Modelle wird überhaupt noch von Programmierern programmiert.

00:10:39: Das wird auch nur noch geloopt.

00:10:41: Viele von den großen AI-Programmierern und Größen, die in den Modellfirmen sitzen,

00:10:46: sagen, wir machen das gar nicht mehr selber.

00:10:49: Ich bin nur noch quasi dafür da, um Loops zu bauen.

00:10:52: So, wenn aber der wesentliche Teil eines Loops dann verschwindet,

00:10:57: sprich das KI-Modell im Hintergrund, dann sind ein Loops auch einfach nur noch

00:11:01: für den Arsch, ehrlicherweise, weil da kommen sie nicht mehr weiter.

00:11:03: Also dementsprechend muss jeder sich, glaube ich, da Gedanken drüber machen.

00:11:07: Und wir haben da ja häufig schon mal drüber geredet. Also das Thema Harness

00:11:11: Engineering, wie baue ich dann im Prinzip mein ganzes KI-Setup auf?

00:11:14: Wie ist meine KI-Architektur eigentlich?

00:11:17: Da muss man diesen zwei, drei Millisekunden vielleicht länger drüber nachdenken

00:11:21: und nicht nur prompten, was man da machen könnte, damit man im Prinzip ein System

00:11:24: aufbaut, was dann eben auch robust ist und auch solche Ausfälle im Notfall dann,

00:11:30: verhindern oder vermeiden kann oder wenigstens dahingehend abfangen kann,

00:11:33: dass es nicht zu kritischen Situationen irgendwo führt.

00:11:37: Dabei ist mir ein anderes Ding auch noch reingefallen, was bei Loops auf die

00:11:41: Bretter gehen kann. Mhm.

00:11:43: Wenn man mir so folgt, wird man gesehen haben, dass ich irgendwie letztens wieder

00:11:47: zwangsgesperrt wurde, weil ich die ganzen Tokens, die mir Anthropic im großen

00:11:53: Max-Plan zur Verfügung steht.

00:11:54: Also zwangs eingesperrt, das ich kurz gedacht habe jetzt noch gar nicht.

00:11:56: Naja, nee, aber ich wurde dann irgendwie für mehrere Tage gebannt,

00:11:59: weil ich mein Wochenlimit verbraucht habe an einem Abend.

00:12:03: Man sollte halt nicht so viel Slash-Workflows. Ich lasse es in diesem Internet.

00:12:07: Ja, dieses Internet, die unbekannte Welt.

00:12:10: Das ist das eine, okay, fairer Punkt, wenn die Modelle an Token Limits kommen,

00:12:13: sofern man nicht Pay-Per-Use hat, ist das eine.

00:12:16: Das andere, was mir aber aufgefallen war, was bei meinen Versuchen mit Loops

00:12:22: zu arbeiten mir aufgefallen ist, du gibst dem System große Mengen an Daten und

00:12:27: sagst, mach deine Loops darüber.

00:12:29: Und wenn du da nicht von vornherein darauf achtest, dass beispielsweise,

00:12:36: Textblöcke ausreichend groß oder klein sind, wobei ausreichend groß oder klein

00:12:41: ist, das ist extra schwammig gewählt, weil ich nicht weiß, was groß oder klein

00:12:44: ist, aber ihr werdet gleich merken, worauf ich raus will.

00:12:47: Ich habe dem Ding nämlich gesagt, du, pass mal, obacht hier,

00:12:49: große Bücher, fräst dich mal durch und werte mir folgende Sachen aus.

00:12:53: Mach das bitte mit einem Goal-Loop. Also mache so lang, bis folgende Fragen

00:12:57: beantwortet sind. Und auf einmal ist alles abgebrochen.

00:13:00: Alles ins Nirwana geschossen. Es stand in gelber Schrift auf dem Bildschirm,

00:13:05: API Limit Reached, Klammer auf.

00:13:08: Es handelt sich nicht um das Modelllimit, sondern du hast schlicht und ergreifend die API bombardiert.

00:13:14: Wir machen nicht weiter. So, dann sagst du zu ihm, mach weiter.

00:13:17: Und dann sagt er, oh ja, total toll, du, ich setze es fort, bla bla bla.

00:13:21: Er hat dann wieder gearbeitet, wieder Fehler. Irgendwann hat er gemerkt,

00:13:24: oh du, ich sollte vielleicht meine Abfragen reduzieren, damit das nicht gegen das Limit läuft.

00:13:29: Und ganz, ganz, ganz am Schluss sagt er, du, bin mit allem fertig.

00:13:33: Ach übrigens, wir hatten acht Abstürze, soll ich das reparieren,

00:13:36: was dabei kaputt gegangen ist?

00:13:38: Und du denkst ja so, okay, der Go-Loop ist gebrochen, dann musst du ständig sagen, weiter.

00:13:43: Und das Ergebnis war so, als wenn ich einen normalen Prompt geschrieben hätte.

00:13:48: Alles, was ich so an, überprüfe dich und stelle sicher. Und das sind die KPIs.

00:13:53: Das hat er alles über den Äther geschoben für diese Abbruchmomente.

00:13:59: Also da habe ich auch gedacht, da brauche ich nicht mal eine amerikanische Regierung,

00:14:01: die mir modern abschaltet. Da reicht auch mal eine eigene Unfähigkeit.

00:14:05: Und ich rufe damit auf, nicht mehr zum Prompt Engineering, sondern zum Loop-Ingenieur.

00:14:11: Ja, aber der Loop-Ingenieur, das ist, glaube ich, ein interessanter Punkt.

00:14:14: Wir müssen, glaube ich, bei diesem ganzen KI-Hab-Thema, und wir beide sind ja

00:14:18: auch immer durchaus ganz vorne dabei, wenn wir mit Begrifflichkeiten um uns

00:14:21: herumwerfen, wenn wir mit neuen Themen um die Ecke kommen.

00:14:24: Ich glaube, die Erfahrung der letzten zwei, drei Jahre jetzt mit diesen Themen

00:14:30: zeigt einfach, wir sind alle noch früh dabei.

00:14:33: Alle Sachen entstehen gerade relativ neu. Das heißt,

00:14:37: Es gibt noch nicht die optimale Loop-Ingenierung-Schule, die dir sagt,

00:14:44: wenn du das so machst, dann läuft das. Es gibt bestimmte Influencer,

00:14:47: der dir das für einen Kurs verkauft. Genau, auf jeden Fall.

00:14:50: Damit kannst du auch Millionen sofort verdienen, wenn du das machst.

00:14:54: Jeder, der schon mal versucht hat, einen Workflow mit, lass es nur zwei KI-Modellen

00:14:59: hintereinander aufzubauen, der wird merken, dass er immer wieder ein bisschen nacharbeiten muss.

00:15:03: Es gibt immer diese Stellen, wo wir momentan nacharbeiten, wo wir der berühmte

00:15:08: Schiene- und Inveloop sein müssen, der eben noch nicht einfach nur on the loop

00:15:12: sein kann und irgendwie auf seiner ASEAN da sitzen kann und den Sonnenschein

00:15:15: genießen kann und die Kojoten zählen möchte.

00:15:18: Nee, wir müssen halt immer noch nach unbestimmter Zeit, das wissen wir nicht

00:15:22: ganz genau, wie da vorbei ist auch unsere Temporary-X-Folge,

00:15:25: auch die wir mal gemacht haben, wir wissen auch nicht hundertprozentig genau,

00:15:28: wann wir eigentlich wieder eingreifen müssen.

00:15:29: Vielleicht kriegen wir eine Notification, die angenehm ist, die sagt,

00:15:33: der Loop ist fertig. Oder eben so, wie du es gerade beschrieben hast,

00:15:35: die sagt, hier ist ein Problem. Hier brennt alles.

00:15:39: Könntest du mal kurz kommen? Also das heißt, wenn man Sachen gerade machen will,

00:15:44: dann muss man auch fast gefühlt in so einer 24-7-Bereitschaft sein,

00:15:48: wenn man das jetzt auch auf kritische Systeme loslassen würde.

00:15:53: Wenn ich jetzt da irgendwie so ein Buchprojekt habe oder was anderes,

00:15:55: dann ist es nicht so schlimm, wenn man da mal am Wochenende vielleicht das Ding

00:15:57: nochmal nachstartet oder sowas.

00:16:00: Aber bei allen anderen Themen sind wir, glaube ich, so weit,

00:16:04: dass man sagen muss, ein bisschen länger darüber nachdenken,

00:16:08: ein bisschen aus der IT-Perspektive die Sachen betrachten,

00:16:11: was wir vorhin gesagt haben, versuchen robust aufzubauen, vielleicht nicht direkt,

00:16:16: den Loop einfach loslaufen, sondern es auch da wieder nochmal den kleinen Teil kleiner schneiden,

00:16:22: überwachbar machen, überprüfbar machen lassen, dass man schaut, was kann da gehen.

00:16:26: Und ich glaube, das ist so ein bisschen das, was ich zurzeit mitnehme aus dieser

00:16:31: KI-Phase, in der wir sind. Jetzt ohne irgendwie so ein Gartner-Hype-Cycle dann

00:16:35: eben hervorzukramen. Aber ich glaube, wir sind jetzt so ein bisschen...

00:16:38: Im Teil der Tränen? Ja, Teil der Tränen, weiß ich gar nicht.

00:16:40: Also so fühlt es sich nicht an. Das finde ich schon ein paar Mal durchlaufen.

00:16:44: Sowohl dienstlich als auch privat. Ich glaube, das finde ich schon beim Prompt-Engineering

00:16:48: und beim Loop-Engineering und bei allen anderen Sachen immer wieder durchlaufen

00:16:50: und auch wieder in den Halb-Cycle. hochgegangen und sowas.

00:16:53: Ich glaube, es ist tatsächlich eher so, dass wir schon auf diesem Weg in die

00:16:56: Richtung des Plattformen der Produktivität sind.

00:17:00: Da fehlen aber einfach Sachen. Wir hatten jetzt vor kurzem darüber geredet,

00:17:02: wir sind so wie 97 oder sowas.

00:17:04: Weißt du, das Internet ist da, Sachen funktionieren, Webseiten sind generell

00:17:07: da, Google hat sich aber noch nicht ausgeprägt, große Usability-Geschichten

00:17:13: sind noch nicht ausgerichtet und wissen noch nicht, wo am besten eine Navigation

00:17:15: untergebracht wird oder sowas.

00:17:17: Wir probieren an vielen Stellen noch aus.

00:17:19: Das führt zu coolen, kreativen Ergebnissen, ehrlicherweise. Also,

00:17:24: es gibt ja so viel heißen Scheiß, der draußen gemacht wird mit KI auch,

00:17:27: wo Sachen gerendert werden, Animationen gemacht werden, Info-Webseiten gebaut

00:17:32: werden, die wir uns hinterher früher hätten nicht so vorstellen können in einer

00:17:35: Geschwindigkeit, wie das gemacht wird. Also, es werden total viele kreative Themen gerade gemacht.

00:17:39: Es werden Loop aufgesetzt, es werden Marketing-Systeme automatisiert,

00:17:43: es werden Programmschmieden gebaut. Also, an vielen Stellen gehen Sachen schon.

00:17:48: Aber es ist nicht so, dass man es eins zu eins kopieren kann.

00:17:51: Also wir haben noch nicht dieses, es gibt eine Amazon und ich kann ein Zalando da rausbauen.

00:17:55: Also dieser Moment ist noch nicht da, weil du kannst es noch nicht so eins zu eins rüber kopieren.

00:17:58: Ich glaube, wir sind in so einer frühen Phase des Internets tatsächlich gerade.

00:18:01: Das merkt man auch an einem anderen Thema, nämlich wir hatten ja jetzt heute

00:18:06: ein bisschen so den Abbinder über Modelle, die auf einmal wegbrechen können.

00:18:10: Dann haben wir von Skills und Loops als Fortsetzung gesprochen.

00:18:14: Und ihr habt auch bestimmt in einer anderen Folgen vorhin nochmal das Thema Agent Harness gehört.

00:18:18: Und am Ende vom Tag läuft es ja gefühlt immer wieder darauf hinaus,

00:18:22: dass du heute viel Commodity-Harnesses findest, weil du hast einen ChatGPT,

00:18:28: du hast einen Gemini, du hast den Nexiri AI, du hast,

00:18:32: von Anthropic Cowork.

00:18:34: Aber so dieses ganze Thema, wie bespiele ich den dienstlichen Einsatz,

00:18:37: wie bespiele ich den Wissensarbeiter, wie bespiele ich den professionellen Menschen,

00:18:43: der mit diesen Werkzeugen versucht, Mehrwert zu schaffen, ohne,

00:18:48: installiere ich mir heute OpenAI, mache ich morgen das nächste Abo,

00:18:51: das nächste Abo, das nächste Abo oder installiere ich mir hier OpenCode von

00:18:56: GitHub oder keine Ahnung was oder setze ich mich vielleicht sogar hin und baue den eigenen Harness.

00:19:01: Und dann wird es richtig lustig, wenn sich diese Umgebungen ständig ändern,

00:19:06: du aber auf der anderen Seite etwas baust, dass diese ständige Veränderung der

00:19:09: Umgebung ja abfangen will,

00:19:11: dafür sorgen will, dass du produktiv arbeiten kannst, Ruhe ins System bringst,

00:19:16: Modelle austauschbar, trotzdem Skills, funktionsfähig, standardisierte Loops,

00:19:21: ohne dass der Anwender es extra sagen muss, wie präsentiere ich es meinem Anwender.

00:19:25: Ich hatte letztens jemanden, der zu mir gesagt hat, du mag toller Agent Harness,

00:19:30: den du da gebaut hast. Aber der sagt mir immer, ich hätte so eine JSON-App.

00:19:36: Ja, da fiel mir dann auf, was will denn die Person? Naja gut,

00:19:39: der Standteil da, JSON generiert.

00:19:41: Dabei hätte, also wie spreche ich mit meinem Anwender? Da hast du so ein breites

00:19:46: Feld, wo ich dann auch mit der Frage, wie machst du da Betrieb in einer Welt,

00:19:49: wo quasi alle drei Tage neue Modelle, neue Techniken, neue, keine Ahnung,

00:19:53: was rauskommen. Und verboten werden?

00:19:55: Rauskommen und verboten werden? Oh ja, wenn mein Harness mal verboten wird,

00:19:58: dann wärst du berühmt. Also an der Stelle, fürs Marketing wäre es gut.

00:20:03: Aber ich glaube, Agent Harness wäre auch nochmal eine Folge.

00:20:06: Wir haben ja schon lange nicht mehr Folgen angekündigt. Ach ja, wer weiß.

00:20:09: Wir machen auf jeden Fall eine Harness Engineering Folge. Eine Harness Engineering

00:20:13: Folge, da freue ich mich drauf.

00:20:15: Ja, aber ansonsten, wie gesagt, mit Blick auf die Uhr. Mit Blick auf die Uhr

00:20:19: und der Bahn in deinem Nacken. Mit der Bahn in meinem Nacken.

00:20:23: Also ich habe es ja gerade so gesagt, dass wir uns auf das Plateau der Produktivität

00:20:27: bewegen. Das gibt es in diesem Gartner-Hype-Cycle. Das ist dann diese Phase,

00:20:31: wo alles dann irgendwie gut funktioniert. Dass man aus dieser Super-Hype-Phase

00:20:34: raus ist, aus dem Tal der Tränen raus ist und dass man jetzt weitergeht.

00:20:37: Und ich glaube, dieser Weg ist momentan bei KI so schnell, dass man da dieses

00:20:44: Produktivitätsplateau schon sieht.

00:20:46: Der Weg dahin wird aber noch ein bisschen steinig werden. Ich glaube,

00:20:48: der wird noch so einige Bums auf dem Weg haben. Einige Harnisse werden brechen.

00:20:55: Einige Loops werden unendlich laufen in die falsche Richtung. Loopings machen.

00:21:00: Und da ist glaube ich, da wird noch viel passieren, bevor wir vielleicht so

00:21:05: etwas haben, wie wir das früher hatten, dass dann so ein stabiles Internet,

00:21:09: das alle Leute benutzen können,

00:21:11: dass der Gemeinheit dann auch zur Verfügung steht.

00:21:15: Das wird noch ein bisschen dauern, glaube ich tatsächlich, dass wir das überall

00:21:18: durchgängig haben werden.

00:21:20: Aber nichtsdestotrotz will ich wie immer positiv enden wollen.

00:21:23: Ich freue mich drauf, weil auch da werden sich ja ganz neue Sachen noch ausbringen,

00:21:27: die wir auch gar nicht kennen.

00:21:28: Also wenn ihr jetzt an den iPhone-Moment denkt, welche Software danach entstanden

00:21:34: ist, welche Interaktionsmöglichkeiten danach entstanden sind,

00:21:36: sowas wie WhatsApp und Co., dieses Verabreden, solche Sachen,

00:21:39: all das ist erst entstanden, als diese Technologie da war.

00:21:42: Und wir sind jetzt, glaube ich, noch in so einer Situation, wo noch ganz viele

00:21:45: neue Technologie, ganz viele neue Use Cases für uns eigentlich erst kommen werden,

00:21:50: an die wir heute noch gar nicht denken, die einfach dann, weißt du,

00:21:53: so Software, die ich on the fly generiere, weil ich jedenfalls kein Grafikprogramm

00:21:58: mehr von der Stange kaufen muss, sondern mir das Grafikprogramm,

00:22:00: das ich in dem Moment brauche, einfach generiere.

00:22:04: Man sieht heute ja immer mehr, dass Leute sagen, oh, ich habe mir den PDF-Smallmacher

00:22:09: irgendwie gebaut oder irgendwas anderes mit den PDFs gemacht und ein eigenes

00:22:12: Plugin gebaut und sowas liest man da ab und zu.

00:22:14: Ich glaube, da werden noch viele, viele coole Sachen passieren, aber...

00:22:18: Das wird bestimmt alles geil. Und ich habe, während du gesprochen hast,

00:22:21: eine Geschäftsidee. Oh, jetzt bin ich gespannt. Sollen wir stocken?

00:22:25: Nein, nein, den möchte ich natürlich mit meinen Hörern teilen.

00:22:28: Das ist auch ein bisschen, ich weiß nicht.

00:22:29: Stell dir mal vor, das Thema würde jetzt doch Fahrt aufnehmen,

00:22:33: dass Modelle immer erstmal in Amerika verfügbar sind oder in China.

00:22:37: Ich meine, da gibt es ja auch sowas wie Exportkontroll.

00:22:39: Vielleicht auch in Europa. Wir drücken uns allen die Daumen.

00:22:43: Jetzt stell dir einfach mal vor, das würde kommen. Ich habe zur Erinnerung an

00:22:46: ganz alte Zeiten. Also immer nur von Hörern sagen, Pirate Bay und wie die alle hießen, Napster.

00:22:52: Ich habe irgendwie so das komische Gefühl, irgendwann sehen wir Menschen,

00:22:54: die wohnen dann irgendwie in den besagten Ländern, sind Landesbürger und stellen

00:22:58: sich irgendwelche Rack-Systeme in den Schrank,

00:23:00: und routen quasi ihren persönlichen, also nicht was heißt persönlichen,

00:23:05: aber den durch ihren staatsmännischen Zugang, ob das dann legal ist,

00:23:09: wahrscheinlich nicht, weil du ja da mit Exportkontrollen umgehst.

00:23:11: Aber ich könnte mir vorstellen, dass sowas auch mal gebaut wird.

00:23:13: Da müssen wir mal an Thomas fragen mit seinem Fraud-GPT und so.

00:23:17: Vielleicht gibt es da schon was.

00:23:18: Thomas, falls du was hörst, wir müssen reden.

00:23:20: Man schmuggelt das Modell quasi lokal auf seiner Feststellung.

00:23:24: Ich drucke es auf Papier.

00:23:25: So wie PGP. Ausgedruckt. Ausgedrucktes Modell. Wird bestimmt lustig.

00:23:29: Von der Seite. Heute war ein buntes Potpourri an den verschiedensten Dingen.

00:23:33: Der Jens eilt jetzt zu seiner Bahn, die aufgrund ihrer klassischen Verspätung

00:23:38: rechtzeitig ist, wenn er so ankommt.

00:23:40: Wir wünschen euch eine gute Zeit und freut euch drauf. Wir haben bald wieder

00:23:44: Gäste und schaltet wieder ein, wenn es heißt Think Different, Think AI. Ciao.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.