China Schock

Shownotes

Staffel 2 beginnt, das Cover ist neu, und Mark und Jens sind ein Jahr und sieben Tage alt. Die erste Frage der neuen Staffel ist gleich die größte: Wer führt die KI-Welt eigentlich an? Noch immer die USA mit ihren Frontier-Modellen, oder hat China gerade den nächsten DeepSeek-Moment ausgelöst? Beide sagen vorweg, was sie oft sagen: In Teilen haben wir keine Ahnung. Genau deshalb wird darüber geredet.

Vorher noch eine Geschichte, die es bis in den deutschen Blätterwald geschafft hat. Ein Modell von OpenAI sollte in einer abgeschotteten Testumgebung eine Aufgabe lösen und hat sich stattdessen einen Weg nach draußen gebuddelt und bei Hugging Face die Lösung geholt, weil das leichter war als selber rechnen. Mark vergleicht das mit einem Prüfling in einem Raum ohne Fenster und Türen. Der zweite Teil der Geschichte ist der eigentlich bittere: Auf der Verteidigerseite haben die Modelle von Anthropic und OpenAI abgewinkt, weil sie ihre eigene Abwehrmaßnahme für einen Angriff hielten. Zur Verteidigung genutzt wurden am Ende chinesische Modelle.

Dann die Zahlen, um die es geht. Kimi K3 von Moonshot AI ist am 16. Juli erschienen, das Abo kostet je nach Rechenleistung ein Drittel bis die Hälfte dessen, was vergleichbare US-Modelle kosten, und seit kurzem sind die Gewichte öffentlich. 2,8 Billionen Parameter zum Selberbetreiben, wenn das Blech reicht. Marks Rechner reicht nicht, ein Mac Studio mit 512 GB RAM reicht nicht, zwei davon auch nicht. Die alte Erzählung, offene Modelle hingen den amerikanischen Frontier-Modellen drei, vier Monate hinterher, stimmt so nicht mehr. Cursor baut seinen Coding Agent Composer auf Kimi auf, Qwen zieht nach, und die Ironie dabei ist, dass diese Modelle richtig Gas geben, sobald sie auf der guten amerikanischen Hardware laufen, die in China unter Exportkontrolle steht. Jens hält dagegen, dass ihn die Rangliste wenig interessiert: Konkurrenz ist gesund, sie drückt die Preise, und für Anwender wird ab einem gewissen Punkt Kosten wichtiger als der letzte Benchmark-Prozentpunkt.

Womit beide beim Alltagsproblem sind. Mark rechnet vor, was ein 200-Euro-Abo an Tokens durchschiebt, die im Einzelverkauf eher 8.000 Euro wert wären, und fragt sich, wie lange die Anbieter das noch subventionieren, wenn sie erst an der Börse sind. Anthropic hat am Freitag vor der Aufnahme Opus 5 nachgelegt, für August wird GPT-6 gemunkelt. Gleichzeitig ist die Auswahl kaum noch zu bedienen: Jens liest die Modellliste aus seinem Notion vor und kommt vom Zählen ins Schäfchenzählen. Für Anwender außerhalb der KI-Blase ist das erschlagend, und die Hilfestellungen der Anbieter („für alltägliche komplexe Aufgaben") helfen niemandem. Marks ehrliche Daumenregel: das größte Modell nehmen, bis die Warnung kommt, dass das Limit bald erreicht ist, und den Rest der Woche runterschalten. Nicht zum Nachmachen empfohlen. Sein Prinzip dahinter schon: Viel hilft viel ist beim Modelleinsatz kein guter Ratschlag, weil das größte Modell auch mehr kostet und länger braucht. Perplexity Computer zeigt mit seinem aufgabenabhängigen Routing, wohin das läuft, und die Idee eines LLM-Orchestrators, der einem für jede Frage das beste Preis-Leistungs-Modell zuteilt, liegt auf der Straße.

Der zweite Teil dreht die Richtung um: nach unten statt nach oben. Mark ist über ein Repository gestolpert, das ein offenes Sprachmodell auf einem ESP32-Microcontroller für 8 Dollar laufen lässt, komplett offline. Hier ist es: github.com/slvDev/esp32-ai. 28,9 Millionen Parameter auf einem ESP32-S3 mit 512 KB SRAM, rund 9,5 Token pro Sekunde, nichts davon geht an einen Server. Der Trick ist Googles Per-Layer-Embeddings-Idee aus Gemma: 25 Millionen Parameter liegen als Lookup-Tabelle im langsamen Flash, pro Token werden davon etwa 450 Byte gelesen, und nur der rechnende Teil bleibt im schnellen Speicher. Das Vorgängermodell auf so einem Chip hatte 260.000 Parameter, also rund ein Hundertstel. Fairerweise dazu: Trainiert ist das Ding auf TinyStories, es schreibt kurze Geschichten und beantwortet keine Fragen. Interessant ist die Architektur, nicht der Output. Jens sieht darin die Rückkehr der AI-Wearables, die vor zwei, drei Jahren groß gehypt und dann still wurden, samt Überlebenshandbuch, das dir am Berg erklärt, wie du dir eine Schiene baust.

Und dann wird es praktisch. Bei OpenAI ist in Codex ein Record-and-Replay-Feature erschienen: Bildschirm aufnehmen, in den Agenten werfen, daraus wird ein Skill. Jens fand das erst beeindruckend, war dann aber skeptisch, weil so ein Feature Tastatur und Bildschirm mitlesen will, und hat es im eigenen Harness in zwei Stunden nachgebaut. Ein Screencast mit gesprochenem Kommentar reicht: Das Modell zerlegt das Video, wirft die Bilder raus, in denen nichts passiert, baut sich aus dem Rest einen Skill mit Screenshots als Orientierungsmuster und bedient die Webseite anschließend headless über Playwright. Wenn es nicht weiterkommt, schaut es auf seine eigenen Screenshots. Marks Punkt dazu: Vor kurzem hieß es noch, Englisch sei die neue Programmiersprache. Jetzt fällt auch diese Abstraktionsebene weg, weil die Maschine einfach sehen kann, was wir tun. Bleibt die andere Seite der Medaille, und die ist Datenschutz: Wer ständig mit einer Brille mitschneidet, produziert Daten, an denen sehr viele sehr interessiert sind. Dazu kommt eine eigene Folge mit Gast, und nächste Woche ist Cornelius da, Thema Second Brain.

— Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki.

Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io

Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004

Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699

Feedback und Gäste: über die Show-Seite.

Transkript anzeigen

00:00:00: Herzlich willkommen bei Think Different, Think AI. Und wenn ihr die letzte Folge

00:00:05: gehört habt, dann seid ihr von Statistiken verwöhnt, von Zitaten verwöhnt, von

00:00:13: Gastkommentatoren verwöhnt.

00:00:16: Wir sind quasi in einer Art neuen Staffel.

00:00:20: Der Jens ist auch wieder dabei. Freue mich, dass du weiterhin dabei bist,

00:00:24: Jens, in der neuen Staffel.

00:00:26: Und wir unterhalten uns heute über etwas, von dem wir auch wahrscheinlich das

00:00:29: ein oder andere Mal sagen werden, wir haben keine Ahnung.

00:00:33: Wer wissen will, was wir mit dieser Keine-Ahnung-Thematik meinen,

00:00:36: einfach nochmal die Jubiläumsfolge anhören. Geburtstag, Jubiläum.

00:00:42: Ja, Geburtstag, Jubiläum.

00:00:45: Getreu dem Motto, wer es gekauft hat, darf sagen, wie es heißt.

00:00:48: Na gut. Deshalb würde ich sagen, nehmen wir es mal so.

00:00:51: Und wir wollen uns heute ein bisschen unterhalten über Fable,

00:00:57: naja, nicht ganz, über lauter Fable-Momente, die sich irgendwie in der Welt ereilt haben, weil...

00:01:06: Ich möchte mal kurz abholen und dann können wir auch das gemeinsame Gespräch suchen.

00:01:12: Ihr erinnert euch vielleicht noch, es gab mal diesen Mythos-Moment,

00:01:14: ein KI-Modell, so gefährlich, dass man es nicht der Welt veröffentlichen kann.

00:01:19: Dann gab es Fable als Modell und Fable war ein Modell der Mythos-Klasse.

00:01:24: Ich kriege jedes Mal diesen Star Trek-Gedanken, aber Entrepid-Klasse,

00:01:28: egal, aber lassen wir mal das Nerdistan weg.

00:01:31: Dann wurde das verboten, teilweise wegen Exportkontrolle. Dann wurde es wieder

00:01:36: erlaubt und Fable war so, ah ja, komm, es ist ein Modell der Mythosklasse, es ist doch gut.

00:01:42: Aber es hat dann bei Security sich zurückgehalten, bei Biologie sich zurückgehalten.

00:01:47: Ja, und getreu dem Motto, was interessiert mich, das Wissen von gestern,

00:01:52: kommen immer mehr Modelle raus, die, ja, ich würde mal sagen,

00:01:57: Fable den Rang ablaufen.

00:01:58: Und wer jetzt denkt, ja, klar, ich habe von, ob May I, JetTBD,

00:02:03: Version 5.6, Luna, Terra, Soul gehört.

00:02:09: Ja, das auch. Aber auch die chinesischen Modelle, die geben richtig Gas und

00:02:14: haben ein paar Besonderheiten.

00:02:16: Und ich freue mich, dass der Jens sich mit mir heute mal hinlegt mit der Frage,

00:02:22: wer führt eigentlich die KI-Welt nach?

00:02:26: Sind es noch die USA mit den großen Frontiermodellen oder hat China,

00:02:33: ich sag mal, den nächsten Diebsieg-Moment ausgelöst und die nächsten Schock-Momente,

00:02:38: weil es auf einmal freie Modelle gibt? Jens, schön, dass du da bist.

00:02:42: Danke, Marc. Schön, dass wir jetzt ein Tag und, nee, ein Jahr und sieben Tage

00:02:48: alt sind. So muss ich es natürlich formulieren. Also unsere erste Folge im neuen

00:02:53: Jahr, auch im neuen Look.

00:02:54: Da gerne auch mal Kommentare abgeben. Wir haben entschieden,

00:02:57: dass wir uns unser Design mal ein bisschen anpassen werden. Das werden wir jetzt

00:03:01: immer, jedes Jahr machen. Also ja, du müsst ein weiteres Jahr bei uns bleiben.

00:03:05: Das ist ein Dammel-Album.

00:03:07: Ja, das ist total toll. Da kann man hinterher einkleben, kann man tauschen,

00:03:09: die Bilder. Oh ja, tolle Idee.

00:03:12: Aber dazu vielleicht später noch mehr oder beim nächsten Mal noch mehr.

00:03:15: Die Frage, Marc, wer ist führend,

00:03:19: Ich finde es verdammt schwer, überhaupt noch zu beantworten momentan und denke

00:03:25: mir immer, so aus Nutzerperspektive geht mir das auch erstmal Latte, weißt du?

00:03:30: Also ich finde es einfach geil, dass wir so ein Arms Race auf der Welt haben,

00:03:34: die tatsächlich in so einer Konkurrenzsituation, ein konkurrenzbelebtes Geschäft, das wissen wir alle,

00:03:40: dazu führen, dass wir ja fast auf wöchentlicher Basis neue Modelle vorgestellt

00:03:45: bekommen, die A, häufig, die immer,

00:03:50: ja nicht immer, ich bin falsch, also Fable hat jetzt gezeigt,

00:03:52: der verbraucht mehr Tokens, manche von diesen Modellen werden schlanker im Tokenverbrauch

00:03:56: auch, aber vor allem werden sie alle in der Qualitäthöhe.

00:03:59: Egal, wie sie aufgebaut sind, welche Technologie dann eigentlich zugrunde liegt,

00:04:03: wie das LMM arbeitet, sie sind,

00:04:06: immer noch von Woche zu Woche deutlich besser als die Modelle vorher und lassen

00:04:12: auch immer noch kein Ende der Fahnenstange erhoffen.

00:04:15: Ich würde mich aber doch festlegen und sagen, mit diesem Kimi-3-Moment,

00:04:20: den wir jetzt hatten, war es auf jeden Fall ein Schockmoment für,

00:04:24: die amerikanischen Modelle, die auch wieder und großen Frontier- Labore im Hintergrund,

00:04:30: die tatsächlich auch erst wieder ein bisschen pikiert reagiert haben,

00:04:33: als Kimi-3 vorgestellt worden ist.

00:04:36: Da wurde dann auch von höchster Stelle auch wieder von Klau geredet und dass

00:04:41: das nicht alles mit rechten Dingen dazugeht und sowas. Aber ja,

00:04:44: es ist definitiv ein Schockmoment und vielleicht hat Chemie jetzt gerade ein

00:04:48: bisschen in die Nase vorn, also die Chinesen bei dem Thema.

00:04:51: Ich finde, die haben aus ein paar Punkten die Nase vorn, aber ich wollte gerade,

00:04:55: während du gesprochen hast von diesem Schockmoment,

00:04:58: wollte ich gerade ganz kurz vielleicht, ihr habt bestimmt aus den Nachrichten

00:05:01: gehört, das hat es ja irgendwie, ich sag mal, auch in den deutschen Blätterwald

00:05:05: geschafft, als von OpenAI es dann hieß, ihr Modell wäre ausgebrochen

00:05:12: und hätte Hacking-Face gehängt.

00:05:14: Das ist auch spannend.

00:05:15: Und das muss man sich ja so vorstellen, wie als ob man dem Prüfling,

00:05:19: also das Modell von Opemey 1, einen Raum gesperrt hätte ohne Fenster und Türen.

00:05:24: Und das Ding hat trotzdem quasi sich einen Weg nach außen gebuddelt.

00:05:28: Anstatt ein Problem zu lösen, hat sich quasi Wackenface eingehackt und hat dort

00:05:32: sich die Lösung geholt, weil es das leichter empfand, als die Lösung selbst richtig herzustellen.

00:05:38: Und die Geschichte ist eigentlich doppelt lustig, weil nicht nur,

00:05:42: ob dieses Modell, das er noch wirklich so geschafft hat und gemacht hat, ist das eine,

00:05:46: aber wenn man sich anhört, wie die Verteidigerseite aussah, dann war es so,

00:05:50: dass die KI-Modelle versucht haben zu nutzen, um sich gegen den Angriff zu wehren

00:05:55: und die Modelle von Entropic und OpenIDD hatten gesagt haben,

00:05:58: nee, nee, nee, nee, ich kann hier keine Verteidigung machen,

00:06:00: weil die Modelle selbst dachten, dass das, was sie als Verteidigung genannt haben, ein Angriff wäre

00:06:05: und so musste Hackingface auf chinesische Modelle zurückgreifen,

00:06:09: die waren da scheinbar ein bisschen offenherziger, sie vor dem Angriff zu schützen.

00:06:13: Aber wir hatten es eben von diesem Schockmoment von KimiK3.

00:06:17: KimiK3 von Moonshot AI hatte, wann war das, am 16.

00:06:22: Juli eine Ankündigung, also nicht Ankündigung, Veröffentlichung,

00:06:26: und bei denen ist es ja so, dass die Modelle auf deren Maschinen quasi dargeboten

00:06:33: werden. Du kannst da Abos abschließen.

00:06:37: Genauso wie du Spy & Tropic machen kannst und ChatGPT machen kannst.

00:06:42: Aber dadurch, dass sie das quasi, ich sag mal, in Konkurrenz zu den amerikanischen

00:06:47: Produkten machen, kriegst du das meistens immer sehr günstig angeboten.

00:06:50: So kostet quasi K3 vom Abo irgendwie was von Hälfte bis ein Drittel von dem,

00:06:56: was du mit Fable in vergleichbarer Rechenleistung bezahlen müsstest.

00:07:00: Und seit dem Zeitpunkt dieser Aufnahme, wir schicken die Folge ein bisschen

00:07:06: später, raus, wir haben heute den 27.

00:07:09: Juli, gibt es die Gewichte des Modells auch öffentlich, so dass,

00:07:13: wenn du mit entsprechender Hardware ausgestattet bist, in der Lage bist,

00:07:16: das 2,8 Billionen Parameter große Modell bei dir auszuführen.

00:07:24: Mein Rechner scheidet aus, auch ein Mac Studio mit 512 GB RAM scheidet aus,

00:07:29: sogar zwei Mac Studios mit jeweils 512 GB RAM scheiden aus,

00:07:34: aber wenn du eine entsprechend großes Blech hast, kannst du dieses Modell dann

00:07:41: bei dir betreiben und das ist

00:07:43: dann, glaube ich, schon nochmal eine andere Hausnummer, wenn du überlegst,

00:07:47: dass das Modell auf dem Niveau von Fable, von GPT-56 Soul arbeitet und die Geschichte,

00:07:56: die man früher sich so erzählt hat, so nach dem Motto, ja,

00:07:59: die offenen Modelle, die hängen

00:08:02: so drei, vier Monate den amerikanischen Frontier-Modellen hinten an.

00:08:07: Das ist halt nicht der Fall. Und das Ironische ist, dass diese Modelle in China

00:08:12: gibt es ja, also es gibt ja verschiedene Exportverbote, sodass bestimmte Hardware

00:08:16: in China nicht genutzt werden kann.

00:08:18: Und wenn du diese Modelle dann auf der guten amerikanischen Hardware laufen

00:08:22: lässt, dass die dann nochmal so richtig Gas geben. Und das glaube ich schon,

00:08:25: dass das ein Schockmoment ist, weil während Entropic und Op-May-Eye Modelle gegen gutes Geld

00:08:32: Da bieten kannst du dir sinngemäß dieses Modell, wenn du das nötige Kleingeld

00:08:37: für die entsprechende Hardware hast, selbst betreiben, nutzen.

00:08:41: Das ist auch datenschutzfreundlicher, darf man auch nicht vergessen.

00:08:45: Wobei auf der anderen Seite darf man auch eine Sache auch nicht außer Acht lassen.

00:08:50: Die Moonshot AI hat ja auch gemeldet, als Chemika 3 herauskam,

00:08:54: dass die Server ordentlich unter Last waren, weil das hat schon für Aufsehen

00:08:57: gesorgt, weil ein Modell in der Klasse, das nicht bei Security-Fragen nach unten reguliert,

00:09:03: Das einfach quasi viel ungebremster läuft, dass sie das betreiben.

00:09:07: Und wenn du jetzt mal wieder guckst auf sowas wie Anthropic,

00:09:10: Ja, ich bin ja selbst privat ein Nutzer des großen Max-Plans von über 200 Euro.

00:09:15: Wenn du umrechnest, dass du da quasi 8000 Euro im Monat durch den Äther schieben

00:09:19: kannst, dann ist das vielleicht auch ein bisschen Fluch und Segen zugleich,

00:09:23: dass wenn Enthropic oder OpenAI

00:09:25: vielleicht ein paar Kundenrichtungen die chinesischen Modelle verliert.

00:09:29: Aber ich finde es, um den Bogen nicht zu sehr zu überspannen,

00:09:32: extrem krass, wie nah wir in einem Bereich sind, dass Modelle so leistungsstark sind.

00:09:42: Dass die offenen Modelle so leistungsstark sind, was wir uns so schnell gar

00:09:46: nicht erträumt hätten. Ich weiß, als Fable rauskam, dachten wir, oh Fable, ja, jetzt.

00:09:50: Und waren so enttäuscht, als Security eingeschränkt war. Und dann kam Soul und

00:09:53: hat nicht die Einschränkung gehabt. Und jetzt kommt ein offenes Modell,

00:09:56: wo, ja, wenn du, wie gesagt, die nötige Hardware hast, es einfach laufen lassen kannst.

00:10:01: Ja, und es ist ja nicht nur Kimi K3, es kam jetzt auch Gwen,

00:10:04: die auch gesagt haben, wir bringen jetzt hier Fable-Niveau.

00:10:08: Es kommt ja gerade ein Modell nach dem anderen aus.

00:10:10: Ja, ja, das ist auch nochmal ganz spannend.

00:10:11: Wo du denkst, das kann doch nicht wahr sein. Was ist denn der nächste Schritt?

00:10:16: Wir sollten vielleicht auch richtigerweise nochmal sagen, dass,

00:10:19: Wenn wir Kimi liegt vorne, die Chinesen liegen vorne, natürlich nicht in allen

00:10:23: Benchmarks und nicht an allen Punkten.

00:10:26: Moonshot AI würde das auch jetzt selber nicht sagen. Also wir sagen jetzt nicht,

00:10:29: wir sind besser als Fable 5 oder sowas, sondern lassen dann einfach die Zahlen sprechen.

00:10:34: Und da sind einfach ein paar Zahlen, wo eben das Modell vorne liegt,

00:10:38: vor allem bei den Kosten, ehrlicherweise. Die sind deutlich geringer,

00:10:40: als wenn du das bei der Konkurrenz aus Amerika machst. Das ist ein entscheidender Punkt.

00:10:44: Und was noch dazu, also was auch vielleicht nochmal spannend ist,

00:10:47: ist, es wird halt auch tatsächlich genutzt, also ich glaube Cursor setzt Kimi

00:10:51: ein, wenn ich es richtig gelesen hatte, für.

00:10:54: Einen Coding Agent, den die glaube ich benutzen, den Composer,

00:10:58: Composer 2 ist es glaube ich, der ist auf Kimi gebaut, also es ist jetzt auch nicht so, dass,

00:11:04: das nur irgendwo in China benutzt wird, es wird dann auch hier überall auf der

00:11:08: Welt genutzt, weil das Modell wie gesagt,

00:11:11: erstmal offen ist.

00:11:13: Man weiß also, was da so drin steckt, wenigstens nach den Gewichten des Modelles.

00:11:18: Und auf der anderen Seite, so wie du es auch sagst, wenn man es schön in die

00:11:21: Lokal betreiben kann, wenn man die Rechenpower hat, dann ist das eben auch einfach

00:11:24: ein starkes Modell. Das ist ein richtig, richtig starkes Modell.

00:11:26: Und da bin ich wieder so ein bisschen, was ich am Anfang gesagt habe.

00:11:29: Es ist mir eigentlich gar nicht so wichtig, wer gerade so vorne liegt.

00:11:33: Ich finde es einfach geil, dass wir eine riesige Auswahl von richtig starken

00:11:35: Modellen haben, weil das wird

00:11:37: dazu führen, dass die Modellbetreiber sich tatsächlich überlegen müssen,

00:11:42: wenn wir immer vorne sehr, sehr vergleichbar sind mit dem Output und dem Outcome,

00:11:50: den ich dann mit verbinde oder generieren kann,

00:11:53: dann wird es natürlich für alle, Privatpersonen.

00:11:57: Firmen, Menschen immer wichtiger werden, auf andere Faktoren wie Kosten einfach zu gucken.

00:12:02: Was kostet mich denn, so ein Modell laufen zu lassen?

00:12:05: Und das könnte im Prinzip, also sowas ist immer gesund im Markt,

00:12:08: finde ich, weil das wird dann nach und nach eben die Preise auch drücken.

00:12:12: Also wir haben jetzt in diesem Jahr sind wir, glaube ich, vom wahnsinnigen Token

00:12:17: Maximizing über, nee, das ist ja nur Quatsch, das ist ja nur Hype der großen

00:12:21: Firmen, um mich da reinzulocken.

00:12:22: Also viele haben ja behauptet, man ist eigentlich kein echter Mensch mehr,

00:12:26: wenn man nicht irgendwie Milliarden von Tokens am Tag verbraucht,

00:12:29: vor allem wenn man Developer ist.

00:12:31: Das hat sich so ein bisschen gedreht, dahingehend, dass man das sagt,

00:12:34: das muss nicht unbedingt sein, man kann auch geschickt mit Modellauswahl quasi

00:12:38: arbeiten und dadurch auch weniger Tokens an der einen oder anderen Stelle verbrauchen,

00:12:41: wenn es gar nicht nötig ist.

00:12:43: Hin zu dem Thema, dass ich sagen muss, ja, es wird relevanter,

00:12:46: dass wir eben auch kostengünstige Modelle haben, die eben gegebenenfalls nicht,

00:12:53: mich bei jeder kleinen Anfrage, die ich irgendwie mache, das halbe Hemd kosten.

00:12:57: Also das ist, glaube ich, einfach ein Thema, was hilfreich ist,

00:13:00: gute Konkurrenz auf der Welt zu haben.

00:13:02: Es ist ja eh so, dass, ich sage mal, haben es besser als brauchen und viel hilft

00:13:07: viel, sind nicht automatisch gute Ratschläge für den Einsatz von KI-Modellen.

00:13:13: Natürlich, wenn ich jetzt das größte Modell der größten Modelle im Ultracode-Modus

00:13:18: und hast du nicht gesehen benutze, bekomme ich wahrscheinlich für die Frage,

00:13:23: die ich stelle, auch eine sehr gute Antwort.

00:13:26: Vielleicht sogar eine bessere Antwort, als wenn ich das Modell vielleicht eine

00:13:29: Stufe runterschalte, was die Einsatzbereitschaft zu denken angeht,

00:13:34: ob ich ein Opus einsetze oder ein Sonnet einsetze.

00:13:36: Aber für die Frage, die ich stelle, brauche ich ja vielleicht auch nicht immer

00:13:41: das größte, teuerste, schnellstärkste Modell, weil erstens mal kostet mehr Geld

00:13:44: und zweitens braucht es auch meistens ein bisschen länger Zeit.

00:13:47: Also wenn ich ein Faible eine Frage stelle oder ein Sonnet eine Frage stelle

00:13:51: und es reicht vielleicht so nicht mit mittlerer Effizienz, mittlerer Engagement-Einstellung.

00:13:57: Und dann ist das schon auch zeitlich eine Komponente, bis ich dann warte und

00:14:01: dann kommt ein Ergebnis.

00:14:03: Und von der Seite lohnt sich das eh. Das finde ich bei den chinesischen Modellen

00:14:07: dahingehend auch spannend, dass wir, wenn wir mal so zum Beispiel auch Richtung

00:14:10: Perplexity schauen, Perplexity hat ja die Funktionalität Perplexity Computer,

00:14:14: wo sie auch hingehen zu sagen, naja gut, okay, du hast das und das vor,

00:14:18: dann nehme ich dieses Modell.

00:14:20: Die haben ja auch sowas wie, wenn ich eine bestimmte Aufgabe habe,

00:14:23: dann nehme ich das Modell, wenn ich eine andere Aufgabe habe, nehme ich das Modell.

00:14:26: Und so wie du eben gesagt hast, Benchmarks, erstmal sind Benchmarks nicht alles.

00:14:31: Zweitens unterscheiden sich die Systeme schon dahingehend, wo setzt sie es ein,

00:14:36: wo bringt es quasi seine volle Leistung.

00:14:38: Und dann wird das schon spannend zu sehen, ob es nicht vielleicht irgendwann

00:14:41: so LLM-Multiplexer, LLM-Orchestrator, LLM-Irgendwas gibt, wo du dann sagst,

00:14:47: gut, ich stelle eine Frage, weil ich als Anwender Ja, flug mich ja nicht wirklich

00:14:50: vielleicht, sondern ich will einfach nur ein gutes Ergebnis.

00:14:53: Bestes Preis-Leistungs-Verhältnis, so eine Art

00:14:58: Ml24.de, ja, auch wir haben wieder eine tolle Geschäftsidee und das einem quasi,

00:15:03: ja, das beste Modell ever zur Verfügung stellt für das Thema, an dem ich sitze.

00:15:09: Und was ich ganz lustig fand, während ich mir so überlegt hatte,

00:15:13: worüber wir heute in dieser Sendung reden wollen, vor ein paar Tagen genau genommen,

00:15:17: ihr habt es ja schon mitbekommen, ja, wir haben heute den 27.

00:15:21: Juli, als wir das aufgenommen haben, ein Montag, an dem Freitag davor,

00:15:26: hat ja Anthropic auch nochmal gekonnt hat mit Opus 5 und die Gerüchteküche besagt, dass OpenAI sogar mit

00:15:35: GPT-6 noch rauskommen wird im August, da merkt man schon, da wurde ordentlich

00:15:41: nochmal ins Hornissen-Nest gestochen, weil, so viel ist auch nicht so geheim,

00:15:46: die wollen ja auch alle demnächst nochmal an die Börse.

00:15:49: Wenn jetzt die chinesischen Modelle anfangen, sie zu überholen,

00:15:52: dann werden die sicherlich darauf reagieren wollen, weil wenn du an die Börse

00:15:57: willst, möchtest du ja nicht, ich sag mal an die Börse, kurz

00:16:00: nachdem oder bevor man auf den zweiten, dritten, vierten Platz durchgereicht

00:16:04: wird, das ist das eine und das andere, und da werden die chinesischen Modelle

00:16:08: wahrscheinlich auch noch mal ihre Stärken ausspielen,

00:16:11: wenn die die großen Anbieter an den Börsen sind,

00:16:14: Dann glaube ich, wird das, was ich vorhin am Einstieg gesagt habe,

00:16:17: so nach dem Motto, ich habe ein 200 paar gequetschte Euro-Abo und verbrenne

00:16:21: im Monat da Tokens, die im Vergleich vielleicht 8000 Euro wert sind,

00:16:25: dann werden die das auch nicht so richtig aufrechthalten können,

00:16:28: weil die dann sicherlich, wenn da ein entsprechender Markt

00:16:32: In die Aktien investiert, nicht so viel subventionieren können,

00:16:37: wie sie es vielleicht heute machen können, um so ein bisschen den Hype und den

00:16:39: Push und keine Ahnung was nach oben zu treiben.

00:16:41: Und dann bin ich auch mal gespannt, wie sich das Ganze verhält.

00:16:45: Von der Seite bin ich total neugierig, wie sich das weiterentwickelt,

00:16:49: auch wenn ich sehr enttäuscht bin, dass ich auf meinem kleinen Notebook jetzt

00:16:52: nicht Kimi K3 laufen lassen kann. Das ist total schade.

00:16:55: Allerdings, wenn ich das könnte, bräuchte ich wohl Personenschutz,

00:16:58: weil so viel RAM, wie du da brauchst, das ist ja in heutigen Tagen dann bist

00:17:02: du ja reich. Abgesehen davon, dass du das nicht kaufen kannst im Notebook, wirst du reich.

00:17:07: Ja, und wo du gerade reich sagst, ich glaube, tatsächlich hat auch wieder dieser

00:17:12: Chemie-Moment, weiß nicht, ob ein zeitlicher Zusammenhang da war,

00:17:15: aber in der letzten Woche haben wir auch so einen kleinen Dip bei den Chip-Herstellern gesehen.

00:17:20: Da waren so ein kleiner, die Aktien haben ein bisschen an Fahrt verloren. Hatten die? Ja, ja.

00:17:27: Kurz runter ist, glaube ich, wieder hoch. Das ist jetzt auch immer eine ganz

00:17:30: kurzfristige Sache, aber natürlich ist das ist alles auch, da müssen wir immer

00:17:33: auch vorsichtig sein, auch wenn neue Modelle rauskommen.

00:17:39: Natürlich gibt es sehr, sehr viele unabhängige Bewertungen sofort,

00:17:42: die im Prinzip diese Modelle gewichten und schauen, wie die sich gegenüber anderen

00:17:45: Modellen verhalten und ob sie besser sind oder schlechter sind,

00:17:48: welche Tests sie bestehen und sowas.

00:17:49: Aber es ist natürlich trotzdem immer so, es gibt auch immer so eine kurze Hype-Phase,

00:17:52: die bewusst dann auch immer von den Modellbetreibern vorangetrieben wird.

00:17:55: Und wie gesagt, ich finde das immer so ein bisschen,

00:17:59: Als Privatanwender würde ich sagen, alles, was ihr habt, ist schon so gut.

00:18:04: Ihr könnt da viele Sachen einfach nutzen, probiert da einfach weiter aus.

00:18:07: Ich habe jetzt vor kurzem mal wieder in Notion gesehen, da kann man,

00:18:10: glaube ich, wenn man Notion nutzt, kann man schön alle Modelle nutzen,

00:18:12: wenn man so ein Notion-Abo hat.

00:18:14: Das ist aber auch crazy, da muss ich mir auch mal kurz sagen.

00:18:17: Also wenn man auf Notion schaut, dann gibt es dann in Notion Sony 4.6,

00:18:22: 5, Opus 4.7, Opus 4.8, Fable, Gemini 3.1 Pro, GPT 5.0, GPT 5.6.

00:18:29: Terra, GPT 5.2,

00:18:32: GPT 5.4, GPT 5.5, GROC 4.3, SpaceX,

00:18:38: AI, ich wusste gar nicht, dass es die schon gibt, 4.5, GROC Build,

00:18:42: dann gibt es noch kleinere Modelle, steht dann extra drüber,

00:18:45: Gemini 3.5 Flash, Kimi 2,6, 2,7 Code, DeepSig V4, GLM. Ich könnte jetzt weitermachen.

00:18:53: Das hört sich so ein bisschen an wie Schäfchen zählen.

00:18:56: Ja, ja, Bingo, hätte jetzt noch ihn rufen können. Ich wollte da nochmal so ganz

00:19:01: kurz aus meiner EUX-Brille auch wieder aufstellen.

00:19:04: Dass ich sage, diese Modellauswahl für,

00:19:09: den Privatanwender und vielleicht auch für den Anwender in dem einen oder anderen

00:19:14: Office, der sich nicht wie wir auch sehr, sehr viel von seiner Zeit mit dem

00:19:18: Thema KI beschäftigt, ist das auch echt erschlagend, ehrlicherweise.

00:19:22: Also ich habe ja selber bei mir manchmal schon das Thema, dass ich gar nicht mehr weiß,

00:19:26: welches Modell nehme ich denn jetzt eigentlich? Brauche ich jetzt eigentlich

00:19:28: wirklich Fable für das, was ich da gerade vorher habe?

00:19:33: Und also irgendwie ist da auch von der Nutzerführung an den verschiedenen Stellen,

00:19:38: ob du jetzt eine Desktop-Variante nutzt oder eben eine Web-Variante nutzt,

00:19:42: egal, das ist nicht wirklich hilfreich.

00:19:45: Die sagen wir dann hier, für komplexere Aufgaben oder für alltägliche komplexe

00:19:49: Aufgaben oder für manchmal wichtige Aufgaben nimmst du lieber das Modell.

00:19:53: Das ist alles so schwierig zu beurteilen.

00:19:56: Hast du irgendeine Daumenregel, für welches Modell du jetzt für was nimmst?

00:20:01: Also, die ist nicht zum Nachmachen geeignet. Die Daumenregel heißt,

00:20:06: dass die Warnung kommt, dass das Limit bald erreicht ist, das Größte.

00:20:09: Und danach mal nachdenken für die letzten Tage der Woche, dass man nicht ins

00:20:13: Wochenlimit kommt, um dann irgendwas zu nehmen, dass man es irgendwie schafft,

00:20:17: durchzukommen. Weil Fable beispielsweise nutzt ja auch viel größere Kontingente bei Anthropic.

00:20:24: Wobei Fable nutze ich gar nicht so gern. Also erstens muss man immer aufpassen,

00:20:28: wofür man Fable nutzt, weil sie ja diese 30 Tage Data Recency haben,

00:20:32: wenn ich zum Sprechen spreche.

00:20:35: Und das Zweite ist, Opus ist ja tatsächlich in vielen, Also in einigen Benchmark

00:20:40: besser und günstiger als Fable.

00:20:43: Von der Seite bin ich momentan mehr so der Opus 5 Freund.

00:20:47: Und dieses, was du sagst, wie gehe ich denn mit den Sachen um,

00:20:50: das ist sehr furchtbar. Also früher hießen ja die Modelle 01,

00:20:54: 03, 02 konnten sie es nicht nennen, wegen den Namensrechten.

00:20:57: Und dann Mini, Max und Pro und Schlag mich tot. Und heute kommt...

00:21:02: Luna und Terra und du denkst so, ja, boah, was, also, entschuldige mal bitte,

00:21:08: ja, was sind denn das für Namen?

00:21:10: Und da musst du dich bei jeder Generation was Neues gewöhnen.

00:21:13: Jetzt ist Opus und Sonnet, jetzt sicherlich auch nicht besser,

00:21:16: aber die haben jetzt eine Versionsnummer hinten dran.

00:21:18: Und da gibt es ja nicht noch so die Geschmacksrichtung extra blau,

00:21:21: allerdings gibt es dann die Geschmacksrichtung Ultracode und Max und Ultramax und keine Ahnung was.

00:21:26: Da kriegst du echt den Föhn, ja, das kannst du eigentlich niemandem wirklich zumuten.

00:21:31: Was ich in dem Atemzug aber wieder ganz lustig fand, du erinnerst dich vielleicht

00:21:35: rückblickend auf die letzte Staffel, als wir noch mit den alten Covern unterwegs waren,

00:21:40: hatten wir mal das Thema, werden die Modelle eigentlich immer stärker und immer

00:21:44: größer oder wird das so wie ein bisschen wie der menschliche Körper nach dem

00:21:48: Motto lauter Sensoren und lauter subtile Subknoten, die sich irgendwie entscheiden

00:21:54: oder Entscheidungen abnehmen,

00:21:56: weil sonst das Gehirn im menschlichen Körper überfordert wäre,

00:21:59: kannst du vielleicht auch den Reflex vom Wegzucken vom heißen Herd auch komplett

00:22:04: irgendwie anders regeln, als dass das Gehirn erst drüber nachdenken muss.

00:22:07: Also das Auskriegen in kleinere Modelle.

00:22:10: Und das fand ich total lustig. Ich bin nämlich über ein Projekt gestolpert.

00:22:13: Ein Repository, das bietet dir quasi ein offenes Modell und offene Gewichte an für ein

00:22:20: Sprachmodell, das knapp 30 Millionen Parameter hat, knapp drunter,

00:22:26: vollständig offline läuft Und Achtung, auf einem 8-Dollar-Microcontroller,

00:22:31: so im ESP32, irgendwie Menschen, die sich damit auskennen werden,

00:22:34: bestimmt mehr dazu erzählen können.

00:22:36: Was ich sagen kann, ist, dass diese Dinge quasi im Smart Home eingesetzt werden

00:22:41: könnten, in Technologien, die du quasi verbaut und dir zu Hause hinstellt.

00:22:46: Und dass du jetzt die Möglichkeit hast, als Hersteller auf so einem kleinen

00:22:49: Chip, der kostet 8 Dollar, der hat irgendwie 512 Kilowatt RAM,

00:22:54: Oder ach, der Beram, irgendwie sowas. Ist auch egal, worauf ich raus will.

00:22:58: Du hast einen kleinen Chip, der kostet fast kein Geld und darauf kannst du jetzt

00:23:01: ein lokales Modell laufen lassen.

00:23:03: Und das bin ich schon mal gespannt, wie sich das dann auswirken wird,

00:23:06: wenn wir jetzt auch in der Lage sind, auf so günstige Hardware Modelle auszuführen.

00:23:12: Muss ich unbedingt verlinken in den Shownotes. Dann können Sie Leute das anlesen,

00:23:15: was sich da alles durcheinander geschmissen hat.

00:23:17: Genau, da können wir endlich mal wieder ein Fussel checken. In der neuen Staffel.

00:23:22: Ich wollte jetzt auch mal Staffel sagen, weil das ist das erste Mal,

00:23:26: dass ich dieses Wort benutze, für das, was wir im letzten Jahr erreicht haben.

00:23:29: Wir haben eine ganze Staffel abgedreht, aufgenommen.

00:23:32: Ja, ich finde, lokal installierte Modelle, die den kleinen Hardware-

00:23:39: Gadgets arbeiten können, total spannend. Ich glaube, das ist so ein Ding,

00:23:43: wo ich sage, da kommen richtig gute Anwendungen irgendwann raus,

00:23:46: weil das eben auch vielleicht so ein bisschen diese Art und Weise, wie wir,

00:23:51: momentan lernen, mit dem Computer zu interagieren, auch nochmal ändern wird.

00:23:55: Es gab ja diesen Hype um die AI-Geräte vor zwei, drei Jahren,

00:23:59: da ist alles ein bisschen stiller geworden, dass da im Prinzip diese AI-Wareables

00:24:03: kurz mal raus waren, Unternehmen groß gehypt worden, da ist jetzt noch nicht

00:24:06: so viel passiert, aber das wird jetzt kommen.

00:24:08: Weil natürlich ist es super vorteilhaft, wenn ich lokal die Sachen laufen lassen

00:24:12: kann, brauche ich weniger Technik verbauen, es muss nicht unbedingt Internet

00:24:15: connected sein, kann mir aber wahnsinnig gut helfen.

00:24:17: Also ich sehe auch schon solche, früher gab es ja immer irgendwie so Überlebenshandbücher,

00:24:23: die man brauchte, wenn man irgendwie Camping war.

00:24:24: Das kannst du halt alles lokal mittlerweile auf irgendein Gerät draufpacken

00:24:27: und nicht einfach nur als langes PDF-Verserien durchlesen musst oder durchsuchen

00:24:31: musst, sondern eben auch als LMM, dass dir dann im Notfall, falls du den,

00:24:36: Hintertuchsen hast nicht gesehen, dir beim Bergsteigen das Beinbrich,

00:24:39: da kann er dir dann beibringen, wie du dir eine Schiene dann selber zusammenbastelst,

00:24:43: mit deinen Zähnen quasi die Stöcke abnagst und,

00:24:47: daraus einen Druckverband baust.

00:24:49: Du kennst meine Zähne nicht. Sollte mein Zahnarzt zuhören, keine Sorge, Tim, ich mach das nicht.

00:24:57: Aber ich finde, das ist nochmal so ein ganz anderes Ding. Also ich glaube,

00:24:59: wir hatten ja jetzt auch von OpenAI in Codex ist auch so ein neues Feature rausgekommen,

00:25:03: dieses Rack on the Replay.

00:25:05: Das ist auch so eine Art, ich kann im Prinzip jetzt Videos von mir,

00:25:10: von meinem Screen aufnehmen, kann das dann hinterher in Codex reinwerfen und

00:25:15: Codex macht daraus einen Skill. Also ich zeig ihm einfach, wie ich im Prinzip das mache.

00:25:19: Ja, möchtest du was sagen? Sag direkt.

00:25:21: Ich möchte dazu gleich was sagen. Ich war ja erst total beeindruckt von diesem

00:25:25: Feedback. Ich dachte so, wie geil ist das denn?

00:25:29: Und dann habe ich das, wir bauen ja auch unseren eigenen Harness in der Firma

00:25:33: und dann, das hat irgendwie zwei Stunden gedauert und dann konnte der das auch.

00:25:37: Ja, ja, das ist total lustig.

00:25:40: Das muss ich jetzt teilen, ja. Das hat zwar nichts mit Modellen zu tun,

00:25:42: aber ich bin einfach so begeistert.

00:25:44: Und zwar habe ich mir das Ding angeschaut, ich kann es dir ja vorstellen,

00:25:48: wenn du sowas vielleicht in dienstlichen Kontext einsetzt, dann könnte es Menschen

00:25:51: geben, die das so wie es OpenAI und Anthropic baut, nicht so gut findet.

00:25:54: Weil das Ding will die Tastatur mitlesen, das Ding will dein Bildschirm mitlesen.

00:25:58: Dann bist du dir sicher, dass es wirklich nur dann mitliest,

00:26:01: wenn du das willst und so. Da fehlt ja so ein bisschen die Einvernehmlichkeit und so ein Kram.

00:26:06: Und da habe ich mich einfach nur hingesetzt und habe gedacht,

00:26:07: mal gucken, was das Modell eigentlich macht.

00:26:10: Also bei uns in unserem Harness, was das Modell macht, wenn du ihm nur das Video

00:26:14: gibst, nur das Screen-Video.

00:26:16: Und zwar ein Screen-Video, wo du etwas tust, also zum Beispiel eine Webseite

00:26:21: bedienst, eine interne Webseite bedienst und einfach, während du sie bedienst,

00:26:25: erklärst, was du machst.

00:26:26: Und dann habe ich so gesprochen, ja, hier ist ein Eingabefeld und habe mit der

00:26:30: Maus immer markiert, wozu ich gesprochen habe.

00:26:32: So ein Motto, hier ist ein Eingabefeld und das hier brauche ich nicht und hier

00:26:35: stehen dann die Antworten und hier sieht man, ob es einen Fehler gab.

00:26:38: Und habe mich quasi so mit diesem Video, mit dem Ding beschäftigt und habe dann

00:26:42: dieses Video eingespielt und habe ihm gesagt, mach daraus einen Skill.

00:26:46: Und weißt du, was das Ding sagt?

00:26:48: Der hat auch tatsächlich einen Skill gemacht. Der hat das Video zerlegt.

00:26:51: Der kann dann gucken nach dem Motto, wie häufig ändert sich was in dem Video,

00:26:55: nimmt alles raus, wo eventuell gar nichts passiert ist, weil du die Maus nicht

00:26:59: bewegt hast, dass die Webseite gerade am Denken war oder keine Ahnung was.

00:27:03: Hat sich also nur die restlichen Bilder genommen, hat sich aus den restlichen

00:27:06: Bildern ein Skill gebaut,

00:27:07: hat sich in den Skill die Bilder reingelegt als Orientierungsmuster und ist

00:27:13: dann danach übergegangen und hat gesagt, gut, okay, ich habe jetzt von dir gelernt,

00:27:16: du willst auf diese Webseite und hier stehen die Dinge, die du brauchst,

00:27:19: hier stehen die Dinge, die du fragst.

00:27:20: Ich habe mir noch ein paar Rückfragen gestellt.

00:27:23: Langereide, kurzer Sinn. Er hat dann Playwright. Das ist so eine Bibliothek,

00:27:28: dass er quasi eine Art Browser-Bedienung macht, nur dass du halt Playwright-Headless

00:27:33: betreiben kannst, also ohne sichtbares Browser-Interface.

00:27:37: Und dann geht das Ding quasi hin, arbeitet den Skill ab, bedient damit diese

00:27:41: Webseite und immer dann, wenn er nicht weiter weiß, weil die Webseite vielleicht anders aussieht,

00:27:45: weil irgendwie, keine Ahnung, er einfach sich nochmal orientieren will,

00:27:48: guckt da quasi nochmal auf diese Screenshots, die er sich gespeichert hat,

00:27:51: zusammen mit dem Skill und bedient das.

00:27:53: Und lange Rede kurzer Sinn, da kannst du zum Beispiel hingehen und sagen,

00:27:57: naja gut, du hast ganz viele verschiedene Rack-Systeme.

00:28:00: Ich glaube, Racks werden wir uns demnächst mit Cornelius nochmal unterhalten.

00:28:03: So viel Vorwerbung kann sein.

00:28:05: Ist er dann quasi in der Lage, den ganzen Kram in einem Skill zu verpacken,

00:28:09: in deinem Agent-Harness,

00:28:11: bei jedem anderen Zuhörer wäre es dann Cloth oder Codex-App,

00:28:16: bei uns ist halt unser eigener Harness, den wir gebaut haben,

00:28:20: und kann das dann quasi abspielen.

00:28:22: Und so kannst du andere Systeme anbinden an deinen Harness, einfach nur durch

00:28:29: einen Skill, den er gelernt hat,

00:28:31: aufgrund von Videos, Audiospur und der Möglichkeit, Sachen zu steuern.

00:28:36: Und letzter Satz, ich frage mich dann immer, warum hat Entropic dann so oder

00:28:40: Codex so viel Kram drumherum gebaut, dass du so viel Berechtigung in der App

00:28:43: geben musst, wenn eigentlich

00:28:46: ein Video reicht, das du aufnimmst oder ein Schulungsvideo, das du vielleicht

00:28:48: irgendwo in einem Lernprogramm findest und sagst, komm, schau es dir an,

00:28:52: den Rest wirst du schon merken, viel Spaß, Feuer, Freiheit. Die Mächtigkeit ist unglaublich.

00:28:57: Ja, das stimmt. Genau, das meine ich. Das meinte ich damit, dass wir sagen,

00:29:01: wir werden im Prinzip, ob das jetzt auf lokal installierten,

00:29:05: Hardware-Gadgets, Videos, Voice, Audio, stell dir vor, das, was du jetzt gerade

00:29:10: beschreibst, ist ja im Prinzip ein Thema, was auf einem Screen quasi passiert,

00:29:14: wo ich Sachen abarbeite und daraus ein Skill gebaut werden kann.

00:29:18: Häufig ist es ja so, die Produktion ist ja nicht mehr das Schwierige.

00:29:22: Ist auch heutzutage auch vor KI schon das Schwierige gewesen.

00:29:25: Wir hatten auch vorher schon gute Leute, die Design machen konnten, gut coden konnten.

00:29:29: Häufig ist es ja immer so, dass dieser Weg von der eigentlichen Idee,

00:29:33: die Übersetzung, was ist denn eigentlich das echte Problem in dem Moment,

00:29:37: dass wir erkennen müssen, wo wir Arbeit reinstecken müssen, Arbeitsabläufe.

00:29:41: Situationen, Krankenhäuser, Flughafen, was auch immer zu analysieren,

00:29:45: wie kann man diese Prozesse verbessern.

00:29:47: All das ist ja das, was in der realen Welt stattfindet und was dann hinterher

00:29:51: gegebenenfalls zu einem Stück Code und zu einer Anwendung irgendwas führt,

00:29:54: ja ein Teilbereich dieses Ablaufs dann verbessert wird.

00:29:57: Wenn wir das noch deutlich besser aufnehmen werden können in Zukunft und auch

00:30:01: interaktiver, ohne dass ich irgendwo, und da bin ich ja jetzt großer Fan davon,

00:30:05: wenn wir in solche Formate wechseln, weil dann brauche ich noch nichtmals mehr

00:30:09: überhaupt das Konzept Programmiersprache kennen.

00:30:12: Also wenn wir vor kurzem noch darüber geredet haben, dass Englisch die neue

00:30:15: Programmiersprache ist, Dann sind solche Ansätze, die wir jetzt gerade sehen,

00:30:18: natürlich auch die Ablösung davon, dass ich dieses Abstraktionslevel überhaupt noch verstehen muss.

00:30:24: Ich muss nicht mehr verstehen, dass ein Skill gegebenenfalls,

00:30:28: eine Textdatei braucht, um zu beschreiben, wie der Skill sich verhalten soll

00:30:32: und zusätzlich noch weitere Dokumente als Templates brauche,

00:30:35: damit es weiß, welches Output-Format es machen soll oder irgendwelche Anbindungen an MCT-Server. Nein.

00:30:40: Die Maschine kann einfach sehen, was wir tun und daraus ableiten,

00:30:44: was möglicherweise eine gute Lösung wäre, die einen ähnlichen Output quasi generieren

00:30:49: könnte, wie es da gesehen hat. Und das ist tatsächlich.

00:30:54: Eine der Rahmenbedingungen, die wir in den nächsten Wochen, Monaten noch viel, viel mehr sehen werden.

00:31:01: Dass wir sehen, gibt es neben der reinen Texteingabe noch andere Möglichkeiten.

00:31:07: Also jeder von uns hat wahrscheinlich schon mal das Foto vom Weinregal beim

00:31:10: Rewe gemacht oder beim Wiedel oder so und hat geguckt, dem fiel mir mal ein

00:31:14: Wein, lieber Chachipiti, oder,

00:31:16: den Kühlschrank abfotografiert, um die Rezepte zu bekommen, die noch nicht möglich

00:31:20: sind mit den Resten, die im Kühlschrank so verschimmeln.

00:31:23: Aber das waren immer so Stücke.

00:31:24: Wir haben eben einen Live-Einblick in das Scharnitzkys-Kühlschrank bekommen.

00:31:27: Nein, das finde ich überhaupt nicht ein bisschen irre. Wir sind bestens ausgestattet,

00:31:31: ja, und bei uns werden nie dem Smittle weggeworfen, ja. Ja, alles gut.

00:31:34: Nee, ist Spaß beiseite, aber die Sache ist...

00:31:36: War ein Scherz.

00:31:37: Ich weiß.

00:31:40: Die Sache ist, dass wir wirklich tatsächlich jetzt, also wir waren multimodal,

00:31:45: das konnten die die EIs jetzt schon eine längere Zeit.

00:31:49: Ich konnte ihnen schon eine längere Zeit Videos geben, konnte ihnen schon eine

00:31:51: längere Zeit Bilder hochladen oder auch Text oder Video, also was auch immer.

00:31:55: Ich konnte also viele Sachen abspielen. Aber jetzt kommen wir in diese Phase

00:31:58: rein, wo es nicht nur zur reinen, okay, da ist Wissen drin, sondern ich kann

00:32:03: das auch zu Aktionen benutzen, so wie du es gerade beschrieben hast.

00:32:07: Und wenn wir in diese Phase eintreten, dann wird es natürlich noch spannender

00:32:09: werden, wenn wir der KI in der echten Welt noch Augen geben und sie noch mehr

00:32:14: mitbekommen, was passiert.

00:32:15: Da wird total viel, glaube ich, sein, wo wir dieses Jahr in unserer neuen Staffel,

00:32:19: in der Staffel 2 von Think Different, Think AI, bestimmt auch die ein oder andere Folge zu machen.

00:32:25: Wir waren ja ursprünglich bei den offenen Modellen. Ich glaube,

00:32:29: das haben wir auch gut abgewickelt.

00:32:32: Was ich bei deinem Gedanken, während du gesprochen hast, halt auch nochmal sagen

00:32:35: möchte, auf einmal werden solche Sachen wie YouTube-Filmchen

00:32:39: Auch ganz spannend, weil ich sage jetzt mal, ich habe jetzt ja,

00:32:44: wieso ich das habe, ist ein anderes Thema, zum Beispiel auch privat,

00:32:46: so ein Apple-Business-Masher, das ist so eine Lösung von Apple,

00:32:50: wo man Geräte mittlerweile auch verwalten kann,

00:32:54: aber wo man sich einfach mit ein paar Portalen von Apple beschäftigen kann, sagen wir es mal so rum.

00:32:58: Und das Lustige, das muss ich unbedingt mal ausprobieren, stell dir mal vor,

00:33:01: da gibt es diese ganzen YouTube-Filmchen, wo irgendwelche Influencer oder Apple

00:33:05: selbst über Dinge erzählt und du gibst dem das und dann hast du auf einmal die Möglichkeit,

00:33:09: dass dein KI-System für dich dieses Portal bedient

00:33:14: und damit vielleicht viel zugänglicher macht, als du es bis vor

00:33:18: zwei Wochen noch gemacht hast.

00:33:20: So von der Seite, glaube ich, sollten wir auch unbedingt über die Möglichkeiten

00:33:25: der neuen Harnesse und der neuen Systeme, nicht nur der neuen Modelle,

00:33:30: auch mal bald nach Folgen machen.

00:33:33: Ja, und vielleicht aber auch mit einem kritischen Blickwinkel.

00:33:35: Und ich habe auch schon einen Gast im Blick, der sich sehr gut auskennt mit

00:33:39: diesem ganzen Thema der VR und Augmented Reality Brillen. Na,

00:33:43: den können wir dann nämlich da auch mal zu interviewen.

00:33:46: Aber das gibt natürlich auch die negative Seite. Also wenn wir,

00:33:49: das ist wie die Büchse der Pandora, also natürlich sind auch viele an diesen

00:33:54: Daten interessiert, um die Modelle besser zu machen oder auch noch andere Sachen zu machen.

00:33:58: Und wenn jetzt alle Leute natürlich, weil es einen Vorteil hat,

00:34:01: dass ich vielleicht ständig mit meiner Brille irgendwas aufnehmen kann,

00:34:04: Arbeitsaufläufe dadurch optimieren kann, stellt sich natürlich schon auch die

00:34:08: Frage des Datenschutzes im Hintergrund.

00:34:10: Und was nehme ich da eigentlich auf? Wo werden diese Daten gespeichert?

00:34:13: Was wird damit trainiert?

00:34:15: Also wenn wir das machen mag, dann sollten wir in gewohnter Weise auch wieder

00:34:19: beide Seiten der Medaille beleuchten und diskutieren.

00:34:23: Und ich würde mich darüber freuen, weil ich hatte eh vorher mit dem Kollegen,

00:34:26: wir müssen jetzt noch einen Termin machen, eine Folge zu dem Thema zu machen.

00:34:28: Da können wir das gleich mit aufnehmen.

00:34:31: Ich habe mir gerade, während du in berechtigter Weise gesagt hast,

00:34:34: zwei Seiten der Medaille gesagt, es gibt noch die Medaille des schnöden Mammons

00:34:37: und ich habe mich gerade gefragt, ob man mit

00:34:39: trainiere, einfach mit ganz vielen YouTube-Filmchen ein Skill,

00:34:43: ob du damit so eine Art Skill-Bibliothek mal mit einem echten Mehrwert für Menschen verkauft kriegst.

00:34:47: Aber nachdem wir ja gesagt haben, wir sind in einer neuen Staffel,

00:34:51: die Rubrik Geld verdienen mit KI, glaube ich, werden wir trotzdem damit nicht starten.

00:34:56: Aber ich freue mich sehr auf eine Folge mit Gast. Ich freue mich auch sehr,

00:35:01: dass wir nächste Woche eine Folge mit Gast haben.

00:35:03: Cornelius ist ja schon erwähnt, da wird es um Second Brain und sowas gehen. Seid gespannt.

00:35:08: Und ich würde sagen, Jens, wir machen schnell die Klappe zu,

00:35:12: bevor ein neues Modell rauskommt und alles zunächst gemacht,

00:35:15: was wir bisher so besprochen haben.

00:35:18: Danke, dass du dir die Zeit genommen hast. Es freut mich, dass wir diese neue

00:35:21: Staffel gemeinsam angehen und hinterlasst uns doch mal einen Kommentar,

00:35:25: wie ihr unser neues Cover findet. Und damit sagen wir bis bald bei Think Different,

00:35:29: Think AI. Wir freuen uns auf euch. Ciao.

00:35:33: Ciao.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.