Three Days of Fable

Mark: Herzlich willkommen bei Think Different, Think AI. Heute geht es einen Regierungsbefehl. Eigentlich nicht wirklich einen Regierungsbefehl, sondern die Folgen eines Regierungsbefehls, warum ein Regierungsbefehl ausgesprochen wurde und was da eventuell für nachhaltige Konsequenzen für mich, für meinen Mitmoderator Jens oder für uns alle herauskommen. Ich möchte am Anfang euch, ja ja, der Jens, der wird wieder sagen so, ich lass' ihr nicht zu Wort kommen, aber ich bleib' jetzt mal dabei. Ich habe quasi jetzt aktuell so das Redeheft, ja, nicht den Schweigefuchs, sondern das Redeheft in der Hand. Es ist nämlich etwas passiert. Es kam ein neues Modell heraus und eigentlich ist so eine Nachricht ja total langweilig, weil neue Modelle sind natürlich bahnbrechend. Neue Modelle sind natürlich das beste Modell, das wir jemals gebaut haben. Und so hat Entropiq Fable 5 herausgebracht, auf Deutsch Fable, also wer sich überlegt, Fable, so nach dem Motto, verbirgt eine wahre Geschichte am Ende, ist auch egal, hat das herausgebracht, ein Modell der Mythos-Klasse, ich fühlte mich sofort an Star Trek erinnert, ja, ein Raumschiff der Constitution-Class und sowas, aber sei mal dahingestellt. Dieses Modell wurde veröffentlicht und hat so ein bisschen Anleihen von Mythos bekommen, weil eigentlich ist es, soweit ich das verstanden habe, Mythos gewesen, nur ohne die Möglichkeit, Anfragen im Rahmen der Biologie und der Informationssicherheit zu geben. Weil dieses Modell, ihr erinnert euch, wenn nicht, kann man mal in die vergangenen Folgen von uns reinhören, es zu gefährlich ist und deswegen erst auch von Sicherheitsforschern usw. getestet wurde. Und darum gibt es weiterhin dieses, ich weiß alles Mythos Modell und FableFive als ja, Konsumer, Prosumer, professioneller Kunden, wie auch immer Modell im Angebot. Und das hat Entropic uns allen angeboten und hat dabei gesagt, Freunde, ihr dürft dieses Modell benutzen.

Mark: Ihr kriegt es, das war schon sehr merkwürdig, für Menschen, so ein Abo-Modell bei Entropic haben. dürft das bis zum 20.12. im Rahmen eures Abos mit verwenden. Danach wird es wahrscheinlich nur auf Bezahlbasis pro Token zur Verfügung stehen und die Preise dieses Modells werden dann doppelt so hoch sein, wie man es von Opus kennt.

Jens: Mhm.

Mark: doppelt so hoch. Jetzt hole ich dann doch mal kurz Luft, einen Schluck zu trinken. Ich begrüße unser Multimillionär Jens. Wir erinnern uns aus vergangenen Folgen. Er nutzt ja seine Open-Claw-Installation, reich zu werden. Ich sehe seinen blauen Ferrari im Hintergrund, leuchtend in der Sonne und er mit der Sonnenbrille und dem Pina Colada. Prost, Jens! Ich nehme einen Schluck. Welchen Kontakt hattest du denn jetzt mit Fable 5 und ...

Jens: Ja hallo mark nimm mal einen schluck aus der pulle und ja herzlich willkommen zu dieser heutigen folgen natürlich bin ich immer noch nicht multimillionär und Verbrenner noch mehr token als mir lieb ist und habe auch token wahrscheinlich mit febeln bisschen verbrannt Solange es noch ging aber was dann ja plötzlich plötzlich weg Da kommen wir gleich noch zu ja ja ja also in dem moment

Mark: Da kommen wir gleich zu, da kommen wir gleich zu.

Jens: Als ich jetzt mit Fable Kontakt hatte und bisschen rumgespielt habe damit, habe ich so paar Webseiten generiert, Sachen, die ich irgendwie recherchiere, mal aufbereitet. Das war einfach gut, muss man sagen. Das hat sehr, sehr gut funktioniert mit wenig Korrektur, die ich irgendwie machen musste. Ich habe mich auch so bisschen an die Regeln gehalten, die sie vorgegeben haben. Also was zum Beispiel bei Fable interessant ist, dass man nicht so, so viel vorprompten sollte. Man musste jetzt nicht unbedingt alles beschreiben, was man da machen sollte, was man vielleicht von anderen Modellen ein bisschen mehr kannte, sondern hat sich mehr darauf konzentriert, was sollte eigentlich der richtige Outcome sein, also was möchte ich dann hinterher haben, als dann im Detail zu beschreiben, mach das so und so, das so und so, nutze das und das oder achte auf die Sicherheitslinien und nutze noch irgendwie eine Vorgabe, blablabla. Da ist Fable sehr stark mit kurzen Prompt zu arbeiten und daraus dann schon sehr beeindruckende Ergebnisse zu erzeugen.

Mark: Ahem.

Jens: noch und löcher zu sehen, also selbst wenn jemand es leider verpasst hat mit Faberum zu spielen. Das Internet überschlägt sich ja mit Beispielen momentan, wo Leute über Videos über verrückte Webseiten generiert haben, verrückte Applikationen generiert haben. Schöne Vergleichswebseiten gibt es auch, die dann zeigen, wie es vorher mit einer 4,8 Version aussah, ob das jetzt Simulationen von Salitenbewegungen oder sowas sind, ne? Eher ja Sternsysteme und sowas. Das ist schon irre, also wirklich irre, ne? Also wirklich, wo man sagen muss,

Mark: Sternensystemen und so.

Jens: Ja, Fabel hat da jetzt schon gezeigt, dass das Ende dieser Fahnenstange der KI-Entwicklung und was im Prinzip in der Erzeugung von Softwarelösungen möglich sein wird in Zukunft noch sowas von mangelig erreicht ist, ja. Also wir werden da wirklich verrückte Sachen sehen und die Qualität des Outputs wird tatsächlich immer besser und das hat Fabel einfach...

Mark: Bevor wir zu den von dir schon angedeuteten Einschränkungen, die auf einmal eingetreten sind, kommen vielleicht auch noch mal, ich habe keine Galaxie gebaut oder sowas, aber ich habe halt einfach meine Projekte genommen und habe dem Ding gesagt, guck mal, was du da verbessern könntest, was fällt dir auf, best practice, keine Ahnung was. Und ich habe denselben Prompt an Opus und an GPT-55. Also Opus, das andere Modell von Intropic und GPT-55 von Codex. Und Fable war Längen. ausführlicher. Er hat allerdings bei mir auch länger gebraucht, was vielleicht daran lag, dass ich hier den Ultra-Think-Modus von Codex einfach, komm, hau rein, was kostet die Welt mit Beleuchtung, Und ich hab ihm dann auch sehr viel abverlangt, sodass ich tatsächlich mein Wochenlimit bei Entropic verblasen habe an dem ersten Abend und dann gesperrt wurde bis Sonntag. So, und was ist denn seitdem passiert? Weil da ist nämlich ganz viel passiert. Es gab nämlich dort

Jens: Hm, okay.

Mark: Ich finde den Begriff so schön. Den kenne ich eigentlich aus der Apple Szene des Jailbreaks. also es begab sich ja, das hast du mir sogar geschickt. Nein, du hast das Ding nicht gejailbreakt, aber du hast mir einen ersten Einblick in Fable geschickt, weil du mir ein GitHub-Repository zur Verfügung gestellt hast. Also verlinkt hast, dass es das Bessere ist, dass morgen gleich jemand klingelt von den freundlichen Herrschaften und sagt, der Herr Scharnetzky, der Jailbreaker unterm Herrn, ist er nicht, ist er nicht. Hat mir nur einen Link auf ein Repository gegeben. Es war auch kein Jailbreak, das war der System. Das fand ich sehr lustig. Das System Prompt von Fable wurde geleakt. Man konnte sich den anschauen. Und der ist größer als das Kontext Fenster von Apple Intelligence Modellen, wo ich mir dachte, das ist doch total lustig, wenn der System Prompt eines Modells so groß ist, dass du mehrmals das Kontext Fenster von anderen KI Modellen brauchst, damit das Ding läuft. Aber gut, das ist jetzt vielleicht ein bisschen unnötige Häme. Was ist denn passiert? Ich habe ja vorhin gesagt, Anthropic hat das Modell so verarbeitet, dass es zu Biologie und Informationssicherheit keine Auskünfte gibt und wir haben sie das erreicht. Das Modell ist dann einfach immer auf sein Fallback, nämlich auf seinen in Anführungszeichen kleinen dummen Bruder umgestiegen, nämlich Opus 48. Also ein Modell, wo wir eine Woche vorher gesagt hätten, ach wie cool ist dieses Modell. Das ist gegen Favel 5. Ähm, jetzt nicht begriffsstutzig, aber ich würde lieber das andere nehmen und ich hatte mir, als ich es ausprobiert habe, auch schon gedacht, ach, wie teuer wird's denn, wenn ich von Abo-Preisen auf Token-Usage gehe, weil das ist einfach so gut. Lange Rede, kurzer Sinn, es begab sich dann das, und da scheiden sich so ein bisschen die Geister, wie das so ganz genau angefangen hat. Ich hab dann von so was gehört, wie angeblich hätte sich Amazon beschwert, dass die Cyber-Security-Vorgänge dann, dass man davor irgendwie Angst hätte, weil im Netz sowas kursierte wie Man kann das Gerät von seinen Fesseln befreien. das nicht das Gerät, Modell ist Modell quasi jailbreakend. Das ist dann doch zumindest mal in Teilen Security-Aussagen und Findings findet. Ich da gab es jetzt auch wieder eine Anhörung im Weißen Haus von Entropic. Da möchte ich überhaupt nicht so tief eingehen. Es hat allerdings dann eine... Jens, ja.

Jens: Hm? Ja, ja, nur ganz kurz vielleicht dann, damit diese Dramatik vielleicht noch klar ist, weil ich weiß nicht, ob jeder von uns so Bescheid wüsste, was dieses Mythos, diese Mythos-Klasse, die du vorhin erwähnt hattest, was die im Prinzip kann. Wir hatten dazu eine Folge zu gemacht, aber vielleicht hat der eine oder andere zu, wer das nicht mehr im Blick. Was damals passiert ist, als sie das Mythos Modell angekündigt haben, oder die Mythos Modellkasse angekündigt haben, da hat Entrophica entschieden, dass sie diese Klasse erstmal nur den großen globalen Playern zur Verfügung stellt, also so eine Amazon, eine Google und Co., den großen Browser-Anbietern, also Firefox und so was waren dabei. Und Firefox erinnert mich gerade auch als Beispiel, die haben dann unter anderem... glaube ich an einem Tag alleine 900 kritische Sicherheitslücken wurden. Das ist 300 sein. Die Zahl ist gar nicht so wichtig. wahnsinnig hohe Menge im Vergleich zu sonst in ihrer Browserlandschaft gefunden und die dann auch behoben. Also das passierte im Prinzip jetzt in den letzten Monaten, eben die großen Softwarebuden ihre exploits, ihre Zero-Day-Fehler, die vielleicht irgendwo eingebaut waren, quasi erkannt haben und geschlossen haben. Also da gab es im Prinzip schon einen großen hype diese Modellklasse, weil sie extrem stark ist, anscheinend eben solche Sicherheitslücken eben zu entdecken. Und dementsprechend war ein Trophic da vorsichtig vorgegangen und hatte nach der Ankündigung, noch mal ganz kurz, da noch mal vielleicht ein Kontext zu geben, nach der Ankündigung von Darius, glaube ich, der letzten, vorletzten Woche war es dann, wo er gesagt hat, sie wollen eigentlich eher dafür einstehen, dass global die KI ein wenig langsamer entwickelt werden sollte, haben sie dann jetzt vor kurzem im

Mark: Ahem.

Jens: dieses Faber Modell rausgebracht und da gebe ich jetzt gerne wieder zurück zu dir, Marc, dass sie dann aber wieder zügig runtergenommen haben, weil natürlich so ein bisschen die Angst aufgrund dieser Mythos Klasse bei allem besteht, also so ist mein Eindruck, was ist denn wenn Fabel wirklich so stark vielleicht schon ist wie Mythos dann im Hintergrund ist und wenn ich es dann im Prinzip dann so weit gejailbreak bekomme, dass dann wirklich sehr sehr viele Angriffsvektoren einfach offen sind. Vielleicht ist das ja auch so bisschen eine Treibheit gewesen.

Mark: Also vielleicht ein ganz, ein Bericht, der kam auf heise. Nämlich das Mythos, also nicht Favel Mythos, ja, also ich sag mal das Original. Eine Sicherheitsfirma es geschafft hat mit Mythos einen Exploit zu erstellen, also das Ausnutzen einer Sicherheitslücke auf Apples M5 Hardware zum Schutz des Speichers vor Hackern innerhalb von

Jens: Mhm. Mhm.

Mark: Also etwas, das über Jahre hinweg gebaut wurde, dass die Sicherheit des Speichers, wo man sonst hier mit Code Injection und Hasse nicht gesehen, die mehr Rechte im Betriebssystem oder sonst wo holen kannst, haben die, wie gesagt, auf Heise publiziert. Also ich habe jetzt das nicht selbst probiert auf meinem M5, aber ich würde jetzt mal sagen, wenn es da steht, wohl so irgendwas dran sein, haben die dann aufgemacht und wenn du dir manchmal so die Security fixes Anschaus von Firefox und so, wo auch wirklich auch Mythos als Finder der Schwachstelle ausgewiesen wird. meine, davon hat ja Firefox nichts, wenn die dann schreiben, oh, es war Mythos, ja, da hätte Entropic was für einen nach dem Motto, guck mal, ist das wirklich so gefährlich. Aber lassen wir mal dahingestellt, es gab dann ebenfalls diesen Vorwurf, dass Fable 5 da quasi in die Lage versetzt wird. dass es dann doch mehr mit Security macht. Und auf einmal gab es irgendwie eine Aktion, nämlich dahingehend, dass der Verteidigungsminister oder Kriegsminister, ich will ja niemanden beleidigen, der US-Amerikaner, die ja schon Entropic als Lieferkettenrisiko ausgewiesen haben, dass es auf einmal von der US-Amerikaner heißt, du passt mal Obacht. Entropic darf das Modell nicht mehr nicht amerikanischen Bürgern zur Verfügung stellen.

Jens: Ja, das ist nochmal ein krasses Ding, weil das ist im Prinzip so ein bisschen, jetzt mal, geopolitisch, fast so eine ähnliche Diskussion, die man aufmachen müsste, wie bei der Schaffung der F-35 glaube ich, dieses amerikanischen Kampfjet ist, wo eben auch häufig die Diskussion darüber war, dass die europäische Verteidigungsindustrie und Staaten ein wenig die Befürchtung haben, dass auch da eben so eine Art Kill-Switch eingebaut sein könnte von den US-Amerikanern, damit sie im Notfall mal am längeren Hebel sitzen. Und ich glaube dieser längere Hebel jetzt bei dem Thema Anthrophic und der US-Regierung sieht man jetzt schon. Also wenn wir sagen, Das Vorhandensein von mächtigen Modellen ist ein Asset, das in Zukunft immer wichtiger werden wird. Dann wird das natürlich auch immer zu einer immer wichtiger werdenden geopolitischen Diskussion und Spielball vielleicht auch auf der Fläche der geopolitischen Entscheidung werden. Und dementsprechend ist es glaube für Europa ein weiterer Weckruf zu schauen, wie können wir uns da vielleicht einfach unabhängiger aufstellen. globalen KI-Anbieter in dem Moment. Wir haben momentan ja noch sehr viele Open Source Modelle, die draußen auf dem Markt sind, aber auch das wird natürlich irgendwann in gewisser Zeit endlich sein, gegebenenfalls wenn ich nicht die ausreichende Rechenkapazität habe. Und Rechenkapazität ist jetzt eher an anderen Stellen auf der Welt verbreiteter, als das hier auf dem europäischen Festland, gesagt. Also ich glaube, das ist tatsächlich auch nochmal ein Wachrütteln für die Szene geworden. Was da jetzt gerade passiert ist, das darf man nicht unterschätzen, dass da eine US-amerikanische Regierung entscheiden konnte und dann auch entschieden hat, dass dieses Modell eben nicht mehr, nicht amerikanischen Bürgern zur Verfügung stehen soll. Und wenn du jetzt deine Workflows drauf aufgebaut hast, deine Firma drauf aufgebaut hat, was jetzt natürlich in den zweiten Tagen vielleicht noch nicht so extrem passiert ist, aber stell dir vor.

Jens: Solche Sachen sind dann hinterher, wenn wir uns dann auch an solche Modelle gebunden haben und erhoffen, dass unsere Firmen, Workflows oder was auch immer man so macht, dann daran gekettet sind, unsere kritische Infrastruktur, unsere medizinische Versorgung und andere Themen. Und dann kann das jemand von außen einfach abschalten. Ja, dann stehen wir da noch mal anders da, als wir schon innerhalb der Corona-Pandemie da gestanden haben, als dann die globalen Lieferketten auf einmal zusammengebrochen sind und man festgestellt hat, ui. Hier in Europa haben wir doch gar nicht mehr die die Fähigkeiten, jedenfalls uns alleine mit medizinischen Grundversorgungsmitteln zu versorgen, wie Penicillin und Antibiotika oder welche andere Themen dann damals dann auf die Nase gefallen sind. Ich glaube, ist tatsächlich, was das Thema Souveränität für uns als Bürger, für uns als Gesellschaft bedeutet, tatsächlich ein nicht zu unterschätzender Weckruf.

Mark: bevor wir auf die Souveränität noch mal eingehen, noch mal ganz kurz darauf eingehen, was das dann zur Folge hatte, weil nachdem das quasi beschlossen wurde, waren das irgendwie 90 Minuten und dann war das System, das Modell weg. Stand dann noch da in der Auswahlliste, aber als nicht verfügbar, dadurch dass das Modell nicht amerikanischen Bürgern nicht zur Verfügung gestellt werden sollte, nur amerikanischen Bürgern, egal.

Jens: Ja.

Mark: Also auf amerikanischem Grund, amerikanischen Bürgern, Entropiq gesagt hat, ja wie sollen wir das denn hinkriegen? Also wie er Blutprobe und Personalausweis kriegen wir jetzt ja auch nicht von allen zusammen. Haben die das Modell halt gestoppt? Was ich an dem Punkt dann halt auch spannend finde, ist wie weit erstreckt sich so ein Erlass? Weil es haben ja auch Menschen an der Erstellung des Modells gearbeitet. Was machst du denn dann? Bist du dann jetzt auf einmal Straftäter, weil du geholfen hast, das Modell zu erstellen und darfst es dann nicht weitermachen? Das ist ja irgendwie, ich finde das schwierig zu halten. Aber was ist dann passiert? Es wurde gesperrt. Und bei mir, ehrlicherweise, ich hatte auch hier Besuch von Schwiegereltern und so, ich hatte das so gar nicht so richtig so richtig mitbekommen, ob das mit einem Ohr gehört und dachte so verdammte AX, was denn da los? In meinem Kopf hatte ich aber noch diese besagte Sperre bis Sonntag, weil ich mein Wochenlimit aufgebraucht habe. Was ich nie mitgekriegt habe, ist, dass Entropic hingegangen ist und gesagt hat so alle Kunden, die ... in der Zeit von Favourite 5 ihr Account abgeschlossen haben, könnt ihr Geld zurückkriegen. Die, die das Zeitfenster verbraucht haben, kriegen es wieder zurückgesetzt, sodass sie es nutzen können. Und als ich es da mitbekommen habe und ich meinen Rechner gesetzt habe, war ich total entsetzt, weil ja, das Modell war weg. Aber noch viel schlimmer, dadurch, dass das Modell weg war, haben sich meine Sessions aufgehangen, sodass ich auch nicht mehr weitermachen konnte, auch nicht mit einem alten Modell. Das heißt, du hast quasi stundenlang dieses super schlaue, ich sage jetzt schlaue, Entschuldigung, Modell an deinem Code arbeiten lassen und hast dann einen Zustand, an dem du nicht weiterarbeiten kannst. Und da habe ich gerade, okay, jetzt fragst du, machst du die Session zu, schließen, App neu eröffnen, sagst Opus 48, hier guck dir das mal an, mach mal weiter, überleg mal, was da so geplant war. Da hat die Hufe gestreckt, der wusste überhaupt nicht, was ich da vor hab von ihm, was ich von ihm will. Wo ich dann dachte, okay, das ist natürlich...

Jens: Ha!

Jens: Mh!

Mark: Total ärgerlich, weil einerseits schalten die dir das aus und andererseits gehen dir dadurch Sitzungen verloren. Jetzt ist das bei mir nicht schlimm. Ich habe da so privat ein paar Projekte am Start, weil ich da Sachen ausprobieren will. Aber jetzt stell dir vor, wieder, du hast da irgendwie keine Ahnung, eine Proteinfaltung oder was auch immer da irgendwie zugangen und dann auf einmal, ja, schade, tut mir leid, dass Unfälle passieren. Hat so ein bisschen was mafioses, so nach dem Motto, bezahlt einen erhöhten Zollabgaben. Du willst doch nicht, dass dein Modell was passiert. Aber dann jetzt kommen wir zu diesem Thema, wo du es so schön angeführt hast. Was heißt denn das jetzt für uns? Weil bisher war das ja bei Datenschützern und Co. immer so eine droge Bärde. Der Ami kann uns den Stecker ziehen, es mal plump auszudrücken. Der Ami kann uns den Stecker ziehen. Das war immer so gemünzt auf, was ist denn, wenn, was weiß ich, Europa mal eine Woche, einen Tag, eine Stunde von Microsoft abgeschnitten wird. Und was könnte man denn da bauen? Ja, da gibt es halt Dienstleister, die versagen dann ja, also wir bauen das hier quasi ähnlich wie Microsoft und Microsoft Technologie, Antrasteq und blablabla und betreiben unsere Rechenzentren. Es gab ja auch mal die Zeit irgendwie, ne? Telecom und Microsoft, irgendwas mit Deutschland Cloud. Ist ja auch egal. Ich will mich gar nicht in Gefilde begeben, in denen ich mich überhaupt nicht auskenne. Aber das wirft diese Frage jetzt vor, weil der Präzedenzfall, es wird ein US-amerikanisches Software-Protokoll. Abgeschaltet. Das ist neu. Ich meine, wir erinnern uns alle. Es gibt ja alte Geschichten. PGP war ja auch damals verboten worden und wurde dann in Form von Büchern ins Ausland gebracht, dass man es wieder abschreiben konnte. Aber jetzt hast du ein Software Produkt. KI ist Infrastruktur, immer mehr Infrastruktur, dass man Arbeit durch die System erledigen kann. Und jetzt kommt jemand auf die Idee, zu sagen, es so einzustufen. So nach dem Motto, egal ob das jetzt an Security liegt oder ansonsten ist zu sperren, weil dann hört auch hier wieder mein obligatorisch häufig zitierter Sprechdurchfall aus auf. Das hat ja weitreichende Konsequenzen, weil zum einen haben das Modell, wenn das entropic ist, umsetzen könnte nur es Amerikaner. Und das zweite ist, was heißt es denn für neue Modelle? Ich meine, es steht ja schon im Raum. Vielleicht ist das zur Ausstrahlung auch schon draußen.

Mark: dass angeblich Oatmay Eye das 5, 6-er Modell mit 1,5 Millionen Tokenfenster und Mythos Niveau für kleineres Geld zum Besten gibt. Was heißt denn das für diese KI-Welt, wenn du eigentlich gar kein Vertrauen darauf haben kannst, dass die Modelle, die du da kriegst, morgen noch existieren?

Jens: Das war's

Jens: Ja, ja, ich meine, auf der anderen Seite, hab auch... Also Mythos soll auch kommen, hatte ich gehört, ne? Sollte eigentlich bis zum 30. Juni rauskommen, das müssen wir jetzt auch mal gucken. Ja, ja, okay.

Mark: Stimmt, Mythos ist aber auch gesperrt. Also auch die Security-Forscher, die sich da anmelden wollten, für die ist das auch gesperrt. Also auch Mythos ist offline.

Jens: Also deshalb ist das ein bisschen spannend und wie gesagt, ist tatsächlich ein Novum. Dieses Thema, dass wir immer sowas hatten wie die Anbieter warnen vor den Modellen, könnten Schwierigkeiten produzieren, aber sie haben sie im Endeffekt immer rausgebracht und bisher ist de facto kein weltweit verbreitetes Modell dann einfach abgesteiftet worden. Und was das für einen Software Stack bedeutet, wenn ich den mit Modellen aufbraue, das ist natürlich eine echte Schwierigkeit. Das könnte man jetzt vergleichen, wenn man sagt, ja, Microsoft entscheidet sich dann einfach mal, dass dann diese Idee mit dem SharePoint nicht so eine gute Idee war und wir schalten morgen mal die SharePoints ab weltweit. Das wäre ja eine Katastrophe, ehrlicherweise. Und auf so einem Ähnlich Niveau kann das natürlich kommen in Zukunft, wenn wir sagen, ich habe signifikante Workflows aufgebaut, die signifikanten Teil ihrer Arbeiter mit KI Modellen im Hintergrund erledigen. Das wenn dann eins von diesen Modellen einfach abgeschaltet werden darf, weil eine Regierung auf dieser Welt das dann so entscheidet. dann ist das natürlich echt wild, was da auf uns zukommt. Und das ist wirklich eine spannende Frage, wo man überlegen muss, wie kann ich mich dann darauf besser einstellen? Also was muss ich dann da tun, dass im Prinzip vielleicht der meine IT-KI-Infrastruktur so robust ist, dass ich im Notfall dann eben auch vernünftig auf ein Modell runterswitchen kann. Und du hast jetzt gerade schon das mal von deinem privaten Fall erzählt, dass es gar nicht so einfach war, dann zu sagen, jetzt habe ich hier Code und Sessions mit einer Fable gemacht und jetzt soll das... altere Modell, was irgendwie gefühlt ein Monat alt ist, wenn ich mich nicht ganz täusche. Uplus 4.8, also auch noch kein Senior in dem Sinne ist, sondern gerade mal ein Wochen alt ist, soll damit arbeiten und kommt damit nicht klar. Da sind so paar Sachen, wirklich spannend sind zu betrachten, wo man sich jetzt Gedanken darüber machen darf, wie man da als Firma, wie man da als Privatperson sich vielleicht einfach aufstellt in Zukunft solche, sagen wir mal, unvorhergesehenen Brüche in Workflows. kann ja, früher war es der Server, dann einfach mal...

Jens: der Stöcker gezogen worden ist am Wochenende, nur so was dann ausgefallen ist in seiner Lieferkette. Das kann jetzt im Prinzip auch vielleicht mal ein ganzes Modell sein, das an vielen Stellen quasi echte Value generiert, der dann wegfällt in dem Moment. Ich habe noch eine These, die, da werden Leute mich vielleicht draußen wieder vielleicht wieder Lüge strafen, aber was ich zum Beispiel gehört habe, Mark, auch Fable hat im Prinzip jetzt keine eigene Sprache für sich, aber das Reasoning, das Fable dann intern benutzt, ist eher tatsächlich wohl so eine Zeichenkette. die sehr stark tokenoptimiert ist. Ja, genau. Wir hatten ja schon mal auch uns immer darüber unterhalten, dass natürlich menschliche Sprache auch bisschen komplizierter ist, dass es gar nicht nötig ist, gegebenenfalls für KI-Modelle, zu benutzen. Wir hatten auch mal solche, es gab ja auch vor einem Jahr schon diese KI's, die sich über Sprache unterhalten haben und dann in so eine Jibble-Sprache oder Jibble-Sprache da reingewächst werden, wenn man das ausgesprochen wurde, reingewächst sind, die nur so Pieps-Töne waren, die Daten zu übertragen.

Mark: Da waren chinesische Zeichen und alles Mögliche drin.

Jens: Und anscheinend ist da auch Fable eben extrem drin. Und vielleicht ist das einer der Gründe, dass dann Opus sich bisschen schwergetan hat, vielleicht dann nachzuvollziehen, was da passiert ist, wobei ich nicht glaube, dass der in Reasoning da im Grunde steht, dass Opus 4.8 auf das Reasoning von Fable zugreifen konnte in dem Moment. mal gucken. Also auch das zeigt so bisschen, spannend. Wir werden dann vielleicht auch KIs haben, die so viel mächtiger sind als ihre Vorgänger. dass das dann auch schon für die Senioren unter den KI's schwierig sein wird, überhaupt zu verstehen. Für die Menschen ist es auf jeden Fall nicht mehr, die Wissenschaftler nicht mehr nachvollziehbar gewesen, wie Fable jetzt eigentlich intern funktioniert, was es da macht, weil diese Zeichenketten sind halt nur von Fable verstehbar und von niemand anderem mehr.

Mark: Ja genau. Das war wirklich eine bunte Mischung, ich. Es gab auch einen schönen Screenshot im Internet. Was ich ganz spannend fand, war, wir haben ja mal vor einiger Zeit auch über Harness gesprochen. Also da, wo das Modell quasi drin läuft vom Prompt Engineering über Kontext Engineering, über wo drin läuft das Modell. Und ich finde, dass dieser Weckruf, von dem wir eben sprachen, zahlt auch unmittelbar auf dieses ominöse Harness Engineering ein. Weil am Ende vom Tag willst du ja Modell unabhängig werden. willst ja dann, ich sag mal, ist ja schön, wenn wir Entropic haben, aber stell dir vor, Entropic kriegt den Stecker gezogen, jetzt auch, weil ich hab ja vorhin gesagt, ne, die Einstufung als, ähm, was die Lieferketten angeht. Jetzt stell dir mal vor, du kannst das irgendwie von heut auf morgen nicht mehr verwenden, weil du damit deine Geschäftsbeziehungen riskierst. Muss ja gar nicht sein, dass der Ami dir den Stecker zieht, er macht's dir einfach nur, er stuft dich quasi nur so ein, dass wenn du dieses System nutzt, du quasi auch nicht vertrauenswürdig wärst oder so, oder? für einen anderen Hersteller. Von der Seite ist, glaube ich, etwas, man mitnehmen kann. Die Frage, die Umgebung, in denen eure KI-Modelle laufen, habt ihr darüber Hoheit oder nicht? Ist das ein Harnes, der quasi, ich sage jetzt mal, irgendeinem, also nicht abwertend gemeint, ja, aber von irgendeinem amerikanischen Konzern oder welchem Konzern immer euch zur Verfügung gestellt wird? Oder habt ihr euch den Harnes dahingehend selbst zur Verfügung gestellt, damit ihr Ich sag mal Token Optimierung. Bestes Beispiel. Wenn du sagst, du möchtest Cloud Code, Cloud Code Work nutzen, dann gibt es ja Cloud Code Work in der Edition, wie man es als Anwender kennt. Da gibt es Enterprise Pläne mit Abos, gibt es Privatanwender mit Abos. Aber es gibt ja auch beispielsweise für Firmen die Möglichkeit zu sagen, ich möchte ein in Europa gehostetes Modell. Das bietet Amazon an über die BlackRock Infrastruktur. Und da kann man auch Cloud.

Jens: Mhm.

Mark: Co-Work dran tackern, bietet Anthropic an, irgendwie Cloud Co-Work P3, sowas. Und dann stellst dir aber trotzdem die Frage, okay, du hast jetzt eine Oberfläche, einen Harness, den du kennst, aber wie ist denn in diesem Harness, ist darum bestellt, wie sich der Agent Loop verhält. Wie tokensparsam ist es denn, weil in dem Geschäftsmodell Soll keine Unterstellung sein, weil ich es nicht geprüft habe. man kann sich ja vorstellen, dass wenn du dir sagst, ich möchte den Tokenverbrauch optimieren, dann tust du dir natürlich, wenn der Harness von jemand anderem gestellt wird, schwerer. Da musst du diese Caveman Skills und Headroom Skills und keine Ahnung was installieren und du machst dir dann noch irgendeinen Craft Rack, damit das Ding möglichst wenig Irrläufer hat, wie es sich bewegt. Aber wenn du ein Harnes selbst baust, dann kannst du natürlich schon sagen, ok gut, ich lasse halt quasi Gemini drin laufen, ob mehr iCrog lokale Modelle, Chemica 2 oder Minimax M3 kamen jetzt heraus. Das soll ja auch ziemlich gut sein und ist vor allen Dingen für seine Größe auch auf Geräten nutzbar, die halt nicht bei Nvidia rechts unten gekauft wurden, sondern ein bisschen weniger Kapazität haben und

Jens: Mh.

Mark: Ich habe schon Widersprechdurchfall. Ich bitte Entschuldigung. Wenn du das jetzt wieder weiter denkst, auch mit dem Thema du hast ein Harnes, dann kannst du den System Prompt anpassen. Und da schließe ich jetzt der Kreis, weil, so wie du mir ein Gitprojekt mal gezeigt hast zum Thema System Prompt von FableFive, habe ich jetzt ein Gitprojekt, das sich mit der Frage beschäftigt, wie kann man denn diese Arbeitsweise von FableFive? das zum einen ist, das ist ein starkes Modell.

Jens: Alles gut?

Jens: Mhm.

Mark: es nimmt manchmal komische Zeichen, das setzt auch nicht in dem, ich jetzt sage, aber wie das Modell sich einem Thema nähert, wie das Modell sich selbst quasi kritisch hinterfragt, wie das Modell darauf aufmerksam macht, oder habe ich mich geirrt, da muss man noch mal ran, das hat jemand tatsächlich in ein Favel Mode Skill gegossen, so dass du Opus in die Lage versetzt, ein bisschen mehr wie Ja, Fable zu reagieren, was das Thema angeht. Wie baue ich eine Schleife über Agenten? Was spawne ich? Was delegiere ich? Wie überprüfe ich das? Wie starte ich parallele Agenten, aus den Ergebnissen in Summe herauszukriegen, ob meine Ergebnisse eher gut oder eher nochmal nachbearbeitet werden müssen. Den Skill habe ich jetzt erst heute ins System geladen. Da kann ich jetzt nicht nachhaltig sagen.

Jens: Mhm.

Mark: wie viel besser oder schlechter das ist. Aber ich finde, wenn man etwas mitnehmen kann aus dieser ganzen Geschichte, ist es, sich halt mit dieser Frage zu beschäftigen, weil der Schreckgespenst ist aus der Flasche. Es ist schon mal passiert. Es ist nicht, ich warne vor dem Wolf und es kommt nie. Es war halt jetzt nur das Favel-Modell. Und ich bin echt gespannt, ob das Modell noch mal das Licht der Welt erblickt, wie Entropic damit umgeht, weil ...

Jens: Hm?

Jens: Mhm.

Mark: Wir haben ja mal auch gelernt, Modelle werden nie wieder so schlecht wie heute. Das heißt, Favel ist das ist im Blick auf einem halben Jahr das schlechteste Modell, dass du dir quasi in deiner Agent Auswahl auswählen kannst. Was macht mir jetzt ein GPT? Und vor allen Dingen, was heißt denn das auch für Europa? Weil ich okay, ich erzähl doch noch was.

Jens: Ja.

Mark: Jetzt sagst du, ich gehe weg von den amerikanischen Modellen, ich gehe auf die offenen Modelle. Da bietet sich der chinesische, asiatische Markt durchaus das eine oder andere an. Wir hatten es H-Chemi und Minimax. Aber auch da wäre ich mir ziemlich sicher, dass wenn die Modelle eine gewisse Stärke, eine gewisse Differenziertheit zu dem Rest der Welt haben, dass auch dann die entsprechenden Regierungsparteien sagen, Freunde der Nacht. Das stellen wir jetzt mal nicht einfach so ins Internet. Das nutzen wir für uns selbst. Denn du bist ja auch ein Freund von Manus. Jetzt ist Manus kein Open-Ride-Modell oder sowas. Aber Manus hat ja diesen Verkauf an Meta gehabt. ja extra vorher. Haben sie ja noch ihr Heimatland verlassen, damit sie das mit dem Kauf über die Bühne kriegen. Das wurde ja alles rückabgewickelt. Alles wurde dahingehend rückabgewickelt. So nach dem Motto, hier herrscht territoriale Hoheit und die Gerüchte, also ...

Jens: Mhm.

Mark: Ich hab's Social Media gesehen und Social Media ist nicht per se automatisch Wahrheit. Es sind ja auch solche Menschen, die zum Beispiel bei Deep Seek arbeiten, auch davon betroffen, dass wenn sie das Land verlassen wollen, dass sie dafür Gründe brauchen, weil man schon der Meinung ist, dass hier nicht irgendwie nach dem Motto, ich verlasse das Land, mach mich hier irgendwo verkauft, irgendwas, und gebe diese Technologie in andere Hände oder lass andere Hände mitbestimmen.

Jens: Mhm.

Mark: wie sich meine Technologie weiterentwickelt. Da merkst du schon territoriale Interessen und wenn ich dann auf Europa gucke ist das ziemlich leer.

Jens: Ja, ja, das wird eine spannende Phase, welche Konsequenzen auch gezogen werden. Weil das natürlich, wir haben das jetzt schon zwar immer gesagt, das ist eine Art Weckrufen, nicht der erste, wir in dieser kurzen Phase dieses KI-Zeits einfach erleben. KI klingt auch schon bisschen länger, aber diese wahnsinnige Phase, diese wahnsinnige Steuern in letzten drei Jahren. Und ich glaube, wir müssen da irgendeine Art Antwort finden. auf dieses Thema, auch in Modellentwicklung, auch in was können wir eigentlich lokal machen. Aber was jetzt wirklich in der nahen Zukunft noch mal deutlicher geworden ist durch das, was wir jetzt gesehen haben, auch wie Fable funktioniert, also Fable ist ja auch so, dass es, hat man ja auch gesagt, runterbricht dann auch seine eigene Arbeit, zum Beispiel auf eigene Modelle, andere Modelle runterbricht. Also wenn Fable gearbeitet hat, hat es tatsächlich auch schon angefangen, Token optimiert zu arbeiten, hat es auch unter Aufgaben selber an vier 8 ja verteilt, wir gerade schon erwähnt. Das ist ja spannend. Also das, was wir eigentlich sagen, man muss im Prinzip auf der einen Seite schon mal irgendeine Art Modell-Switcher einbauen in seine Architektur. Ob das jetzt privat ist oder in der Firma, dass man im Prinzip dann auch wirklich sagt, das haben manche Programmierer auch gemacht, die haben gesagt, ich nehme Fable für die Planung und lass dann einfach den Codex von OpenAI programmieren, die die Programmierarbeit einfach machen und dann... Das ist ja schlau, dass wir jetzt anfangen, auch durch diesen Begriff von Faber zu gucken, ist es immer klug mit dem dicksten Modell auf den Spatzen zu schießen, oder kann ich diese Arbeit eben auch verteilen, kann ich das eben tokenoptimiert eben noch durchschießen. Also das ist etwas, was man mitnehmen sollte, dass man sagt, ich brauche irgendeine Art intelligenten Modell-Switcher. Wenn ich einen Modell-Switcher habe, stellt sich eben sofort die nächste Frage.

Mark: Mehrere Kanonen auf den Spazenschießen? Achso, Entschuldigung.

Jens: Dieses Modell switchen funktioniert natürlich auch in Fable so, dass Fable nicht seine genannten Gedankenwelt am Opus 4.8 übertragen hat, sondern quasi nur das, was dann das andere Modell auch machen soll. Das heißt, bei einem Modell switch, wenn ich einen Modell switcher habe, geht viel von dem Obisening verloren. Also die Gespräche, die ich jedenfalls mit dem einen Modell geführt habe, da ein anderes Modell etwas macht, wird dieses andere Modell also nicht mitbekommen. Also wenn ich jetzt irgendwie prompt in und sage, gib mir mal den Prompt und kopiere dann das in irgendeinen Coding Agent rein, dann weiß der nicht davon, was da vorher passiert ist. Dem fehlt der Kontext. Wenn der Kontext aber wichtig ist, dass das Ergebnis immer besser zu mir passt oder immer besser zu meiner Firmenidee oder zu meiner Firma passt, dann ist es eigentlich auch wertvoll, dass dieses Reasoning, also dieses Wissen halt nicht in den Modellen in Zukunft lebt. Dass man sich auch Gedanken darüber macht, wo speichere ich? diesen Weg ab, den ich gegangen bin, um zum Ziel zu kommen. Weil das etwas produziert, und haben wir häufig drüber gesprochen, das wird immer einfacher. Das, komplex bleibt, im Prinzip Probleme erkennen, dafür Lösungsstrategien entwickeln und das in komplizierten Umfeldern oder komplexen Umfeldern. Und dieses ist dann Prinzip, da sind wir wieder bei diesem Thema Second Brain, meiner Meinung nach, was wir auch schon ein paar Mal aufgegriffen haben, was ja so ein Begriff ist, der Kapafi, den er am Anfang 20, 26 mal ausgeprägt hat. Also das Wegspeichen von kontextualem Wissen, das ich irgendwo ablege, dass ich dann immer über vielleicht einen Agent oder eben auch ganz normale Zugriffsverwaltung eine Modell zur Verfügung stelle, mit dem ich diesem Modell arbeiten kann. Das ist glaube ich so ein zweiter wichtiger Impuls, den man jetzt mitnehmen sollte. Auf der einen Seite klar damit rechnen, dass ich das Modell switchen kann, einmal aus einer Topenoptimierungssicherheit raus und Optimierung hilft dir auch Geld zu sparen und auf der anderen Seite, weil ein Modell auch dann nicht mehr da sein kann. Also das heißt, ich muss jetzt eigentlich fürsorglich, wenn ich etwas hinstelle, dafür sorgen, dass ich ähnlich wie Fabler selber gemacht hat auf andere Modelle runterfahre, dass ich so einen Modell-Switcher in meine Workflows einbaue, damit mein Workflow eben auch noch morgen aktiv ist. Vielleicht dann halt nicht mehr so gut, aber morgen noch aktiv ist, falls jemand von außen mein Modell abschaltet und damit dieses

Jens: dieser Workflow dann eben mein Kontext auch noch hält, muss dann im Prinzip auch das Wissen über das Ziel, über die eigentliche Lösung, die wir da haben, sollte halt nicht in der Session mit dem vielleicht dann abgeschalteten Modell liegen sollte, sondern sollte in einer Art Second Brain, Enterprise Brain irgendwo vorhanden sein, auf das dann eben auch ein neues Modell quasi durch Switch zugreifen kann und möglichst nahtlos an der Stelle wieder weitermachen kann. Also das ist glaube ich so dieser,

Mark: Hm.

Jens: zwei Sachen, die ich jetzt nochmal aus diesem Vorfall für mich persönlich auch mitnehme und das auch so bisschen bestätigt, welche eigentlich tue ich hier so selber quasi zu Hause mit meinem Mac Mini, da haben wir schon mal paar Mal drüber gesprochen, eben Aufbau, dass so gewisse Sachen einfach dann auch die Souveränität über sein wissen, dass man hat, dass man aber eben auch mit KI momentan aufbaut, weiterhin behält, dass man dafür sorgt zu sagen, okay, ich habe hier einen sicheren Vault, einen sicheren Tresor, wo meine Sachen drin liegen, wo mein Wissen eben auch compoundet, also besser wird und größer wird, mit Hilfe von KI. Das sollte nicht an ein Modell und eine Session eines Modells gegründet sein. Das ist wirklich ganz wichtig.

Mark: mir dabei einfällt, das ist jetzt so bisschen Trippbrettfahren, aber ich finde, wir haben jetzt eben von Modellen gesprochen und das ist ja nur der Präzidenzfall. Rein theoretisch ist das ja auf alles anwendbar, wenn morgen einer hustet, könnte auch Word, Excel, PowerPoint, Mails und der ganze Kram weg sein. Und wir hatten schon mal in einer Folge gesagt, so nach dem Motto, wenn du Agenten-Parteien gibst, das hast du vom Second-Praying gesprochen, Dann reden wir mehr von Markdown-Formaten, also von sehr textlastigen Formaten, die nicht Wert auf Formatierungen, sondern auf Inhalt legen. Und da möchte ich gerne noch einen Punkt zum Besten geben, nämlich es gibt jetzt eine 0.1, also einen Entwurf von Google für ein offenes Wissensformat, die nennen das irgendwie OKF. Und die verfolgen auch diese Motivation nach dem Motto, es ist für einen Menschen ohne Werkzeuge lesbar.

Jens: Mhm.

Jens: Mhm.

Mark: Es ist von einer KI passbar, verstehbar. Es gibt einen Überblick über Zeitbezüge, über organisationelle Bezüge, über Tool-Zusammenhänge und hilft dir quasi in einem universellen Format Informationen einfach verarbeitbar zu erheben. Ob man jetzt dieses

Jens: Mhm.

Mark: OKF Format nutzt oder ob man sich auf ein anderes Markdown Text basiert das Format einigt, ist ein anderes Thema. Aber ich finde, wir sind an einem Scheideweg auch dahingehend, dass wir für uns in Frage stellen, ob professionell Dokumente, nicht der Werbeflyer oder irgend sowas, das wird ja weiterhin hübsch bunt und keine Ahnung was, aber ob wir es schaffen, im professionellen Umfeld uns auf das Wesentliche zu konzentrieren, nämlich auf die vermittelte Sprache, den Text, die Beschreibung. Links, Zitate, Texte, Zusammenhänge in Form von so, dass da im Header quasi steht, zu welchem Thema passt das und so was. Und dass man wieder mehr auf sowas geht als auf etwas, du hast schon das Word-File gesehen, ja, da gibt es ein neues Makro, stürzt ab, brauchst du die Version, hast du gesehen, ich habe es dir mal rot markiert, dass wir vielleicht auch jetzt vielleicht nicht durch das Abschalten.

Jens: Mhm.

Mark: aber dabei trotzdem doch mit dran denken, nicht nur einen Harnis, sondern auch das ganze Thema der Wissenstrukturierung, der Dokumentation, der Weitergabe von Informationen und der Empfänger kann entscheiden, wie es ihm dargeboten wird. Aber alle Informationen stehen quasi in dem Übergabedokument, dass das wieder mehr in diese Richtung geht.

Jens: Ja, auf jeden Fall. Also ich glaube, was heißt mehr? Natürlich ist es so ein bisschen. Also das ist glaube ich auch ein sehr neuen Themenmarkt. Ich glaube gar nicht, dass es so im Prinzip vorhanden war, weil wir wollen natürlich jetzt nicht dazu kommen, dass wir sagen, jeder muss jetzt im Prinzip eine Enzyklopädie mit sich schleppen und wissen, was auf den verschiedenen Seiten steht. Und es gibt natürlich auch Sinn von unterschiedlichen Darbietungen und Interpretationsschichten von Wissen. Natürlich ist eine gut. Du hast jetzt gerade Clicky Bunti Marketing Kampagne mal genannt oder Werbeflyer natürlich ist, aber gibt es auf der anderen Seite auch gut gestaltete Illustrationsgrafiken, die komplizierte Sachverhalte sehr, gut darstellen. Man kann die natürlich auf 400 Seiten nachlesen, wie ein Raketenstart funktioniert. Man kann es aber im Prinzip auch in einer guten Illustration eben darstellen und das ist Wissen dann trotzdem vermittelt. Ich glaube... Was aber trotzdem wichtig ist, ist diese Interpretationsschicht. Die ist nicht mehr dieses feste. Ich glaube, wir sind jetzt eher so, dass wir sagen, wir haben auch in anderen Fragen schon drüber geredet, muss es noch PowerPointing in Zukunft geben, Wissen zu transportieren? Nee, natürlich irgendwie nicht mehr. Die dahinter liegende Wissen, das muss irgendwo da sein und für uns beide in der optimalen Form. Und das mag dann für dich im Prinzip der Perfekte Texte, du abends auf deinem E-Book-Reader noch lesen kannst sein. Und für mich ist es eben vielleicht das kurze Filmchen, das Erklärfilmchen, was den komplizierten Sachverhalten halt dann für mich erstellt oder zusammenfasst. Oder eine klickbare Strecke oder die Illustration oder der Flyer, was auch immer, ein Audiophile. Und darf auch alles gemischt sein. Ich glaube, diese Software und wie sich die Interfaces in Zukunft gestalten, das wird sich so...

Mark: ein audio file, ein audio file, das du dir anhörst auf dem weg zur Arbeit.

Jens: fundamental ändern. Und dazu gehört diese eine Part, die du gerade beschrieben hast. Dazu müssen diese Daten halt gut exportierbar sein und möglichst frei von Rich Media Informationen meiner Meinung nach, also noch nicht so stark angereichert sein, damit sie im Prinzip dann vielleicht von deiner KI eben auch Tokensparsam verarbeitet werden kann und sie nicht eher als Videos interpretieren muss, zu sagen, was ist denn da eigentlich Inhalt, sondern gut strukturierte Inhalte finden kann, die dann meine KI oder eine andere KI mir dann aufbereitet oder die einfach dann schnell aufbereitet, so dass ich es gut nachvollziehen kann. Ich glaube, dahin steht eine ganz neue Software-Landschaft in Zukunft und wir werden ganz anders im Prinzip. Also wir werden, glaube ich, gar nicht mehr so über echte, also Software wird eine ganz andere Dimension haben, meiner Meinung nach, und nicht mehr so eine feste, es ist nicht mehr in der Box oder es ist nicht mehr diese eine Software, die ich bei dem einen Anbieter kaufen werde. Das wird auch ein fundamentaler. Änderungen noch sein, wir in Zukunft sehen. Aber das ist vielleicht etwas, wir vielleicht auch später noch in einer Folge nochmal darüber reden können. Ich würde halt nochmal das einfach unterstreichen, was du gerade gesagt hast. Ich glaube, ja, es ist essentiell, dass wir als Privatperson als auch als Firma verstehen, wie wir Wissen so aufbereiten im Kontext. Wissen im Kontext, das ist nicht nur das, genau, das ist eben das wichtiger Punkt nochmal. Es ist nicht nur

Mark: Und Kontext?

Jens: das niedergeschriebene Wort, sondern der Kontext, dem dieses Wissen entstanden ist, die Historie, in dem dieses Wissen entstanden ist, warum vielleicht eine Entscheidung zu einem gewissen Zeitpunkt auch so richtig war, was ja nicht nur niedergeschrieben ist in dem Output, sondern warum wir zu diesem Output vielleicht in einen Moment gekommen ist, ist natürlich ein wahnsinniger Wissenstads, den man in Zukunft einfach brauchen kann. Und den sollte man, nicht nur aufgrund dieses Vorfalls, wir hatten vor Jahr schon darüber geredet, sollte man wirklich so ablegen, dass der Modell unabhängig Weil wenn man glaubt, dass man alles irgendwie in die immer größer werdenden Kontextfenster reinhauen kann, dann baut man vielleicht auf Sand. Weil dieses Kontextfenster dann, sehen wir jetzt, einfach mal abgeschaltet werden kann und dann ist all dieses Wissen, was sich dann vielleicht in dieser Session hat, ja. Dann ist es vielleicht weg, Ja.

Mark: Also das Modell wurde abgeschaltet. Das Modell wurde abgeschaltet. Ja genau. Und vielleicht auch, was man sich darüber auch im Klaren sein muss, wenn ich jetzt davon rede oder wir davon reden, dass man diese Token-Fender, Token-Kosten damit optimiert. Auch darauf zahlte das ganze Thema dieser Dateien auch nochmal ein. Nicht, weil ich so viel an WordExcel PowerPoint spare unterm Strich, aber... Ich spare auch da Kontext, ich spare auch da Token, weil das System eben nicht sich durch alles durchfräsen muss und 40 Seiten, nee, 400 Seiten Geschäftsbericht, 40 MB, Gigabyte, was auch immer, zerfräsen muss, um auf die wichtigsten Inhalte zu kommen, sondern weil es sich von vornherein weiß, ah ja gut, alles was hier drinsteht ist Inhalt. Ich muss mich nicht um Formatierung kümmern, weil mehr als ein paar Schweinegatter, Schweinegatter hießen die bei uns früher, Hash, ne?

Jens: Mhm. Mhm.

Mark: und ein paar hier Striche und ein Ausrufezeichen kann es gar nicht geben. Alles andere ist wichtiger Content. Ja, mit Spannung zu sehen. Und ich bin echt gespannt, ob sie das Modell wieder online stellen, ob sie, sie werden ein Modell online stellen müssen, weil Anthropic kann in Zeiten, alle gehen an die Börse, es sich ja auch gar nicht leisten. Stellt euch mal vor, Anthropic bliebe gesperrt und OpenAI würde sein neues Modell herausbringen. 5, 6. Und nachdem jetzt hier Elon mit SpaceX an die Börse gegangen ist, kommt die dann als nächstes und Entropic würde dahin knapsen. So könnte eine Firma auch schnell kaputt gehen, weil es kostet zwar das viel Geld, was sie machen, aber wenn du halt keine Kunden hast, denen du ein adäquates Modell bieten kannst, obwohl du eins hättest, Schäm ist, wer Böses dabei denkt. Das kam mir aber auch leider eben erst mehr als spontan. Ja Jens. Als wir angefangen haben, über die Folge zu unterhalten, wir gesagt, komm, wir machen mal so eine kleine, schnelle Folge aus Aktualitätsgründen. Ja, so 15 Minuten. Mit dem Blick auf den Tacho sind wir jetzt schon bei, wahrscheinlich meintest du 15 Minuten, bevor die Stunde voll ist, weil das hätten wir dann auch schon nicht mehr ganz eingehalten. Ich fand das mal wieder sehr spannend mit dir, ein aktuelles Thema zu berichten. Und ich drücke mir innerlich die Daumen, dass das Thema weiterhin aktuell ist, bis die Folge dann am Montag online geht.

Jens: Hm?

Jens: Mhm.

Mark: Und von der Seite Jens freue ich mich total auf unsere nächste Folge. Jetzt haben Sie wieder mal Gäste angekündigt. Müssen wir mal gucken, wie gut das klappt. Ich bedanke mich mal wieder, dass du da warst. Ist großzügig von mir, ich bedanke mich, dass du da warst. Das ist total nett. Wir machen jetzt einfach fünf Minuten einen Loop. Wir könnten mal über dieses Looping, also dass wir ein Loops programmieren, fand ich übrigens sehr lustig. Peter Steinberg hat das.

Jens: Dank, ich danke auch dir, das weißt

Mark: Verfahren genannt. Irgendwann hat er ihm reingeschrieben, das kostet aber ganz schön Tokens. Da meinte er so, er hat halt auch Unlimited Venukes. Fand ich sehr lustig, ja, eure Armut kotzt mich an. Ja, also ich hab Tokens, was habt ihr? Wollte niemand was unterstellen, ich fand's humoristisch. Vielleicht unterhalten wir uns darüber auch mal, aber getreu dem Motto, was irgendwann ist auch egal. Ich hoffe, wir hoffen, die Folge war für euch interessant. Wenn sie euch gefallen hat, sagt euren Kollegen, Kolleginnen, euren Datenschützern, euren...

Jens: Genau, das habe ich auch gelesen,

Mark: Chefs Bescheid, dass diese Folge wertvolle Inhalte für die Unternehmensstrategie, für die Firmenstrategie, für die Unabhängigkeit beinhaltet. Ich würde mich total freuen und der Jens auch, wenn ihr uns ein Like, Kommentar da lasst. Schaut auch nochmal, ich pack's auch nochmal in die Show Notes auf unserer GitHub-Page vorbei. Da findet ihr unsere Folgen immer auch in Transkription. Ihr könnt euch die Texte dort natürlich kostenlos runterladen, in Deutsch und in Englisch und vielleicht euch euer eigenes kleines Wissensarchiv aufbauen, wer weiß, was sich da über die Zeit hinweg so ansammelt und ansonsten gibt es dort auch ein Feedback-Formular, falls ihr uns erreichen wollt. In diesem Sinne, bleibt wachsam, schaut, was in der KI-Welt passiert. Wir freuen uns aufs nächste Mal. Ciao.

Jens: Tschüss!