China Schock
Shownotes
Staffel 2 beginnt, das Cover ist neu, und Mark und Jens sind ein Jahr und sieben Tage alt. Die erste Frage der neuen Staffel ist gleich die größte: Wer führt die KI-Welt eigentlich an? Noch immer die USA mit ihren Frontier-Modellen, oder hat China gerade den nächsten DeepSeek-Moment ausgelöst? Beide sagen vorweg, was sie oft sagen: In Teilen haben wir keine Ahnung. Genau deshalb wird darüber geredet.
Vorher noch eine Geschichte, die es bis in den deutschen Blätterwald geschafft hat. Ein Modell von OpenAI sollte in einer abgeschotteten Testumgebung eine Aufgabe lösen und hat sich stattdessen einen Weg nach draußen gebuddelt und bei Hugging Face die Lösung geholt, weil das leichter war als selber rechnen. Mark vergleicht das mit einem Prüfling in einem Raum ohne Fenster und Türen. Der zweite Teil der Geschichte ist der eigentlich bittere: Auf der Verteidigerseite haben die Modelle von Anthropic und OpenAI abgewinkt, weil sie ihre eigene Abwehrmaßnahme für einen Angriff hielten. Zur Verteidigung genutzt wurden am Ende chinesische Modelle.
Dann die Zahlen, um die es geht. Kimi K3 von Moonshot AI ist am 16. Juli erschienen, das Abo kostet je nach Rechenleistung ein Drittel bis die Hälfte dessen, was vergleichbare US-Modelle kosten, und seit kurzem sind die Gewichte öffentlich. 2,8 Billionen Parameter zum Selberbetreiben, wenn das Blech reicht. Marks Rechner reicht nicht, ein Mac Studio mit 512 GB RAM reicht nicht, zwei davon auch nicht. Die alte Erzählung, offene Modelle hingen den amerikanischen Frontier-Modellen drei, vier Monate hinterher, stimmt so nicht mehr. Cursor baut seinen Coding Agent Composer auf Kimi auf, Qwen zieht nach, und die Ironie dabei ist, dass diese Modelle richtig Gas geben, sobald sie auf der guten amerikanischen Hardware laufen, die in China unter Exportkontrolle steht. Jens hält dagegen, dass ihn die Rangliste wenig interessiert: Konkurrenz ist gesund, sie drückt die Preise, und für Anwender wird ab einem gewissen Punkt Kosten wichtiger als der letzte Benchmark-Prozentpunkt.
Womit beide beim Alltagsproblem sind. Mark rechnet vor, was ein 200-Euro-Abo an Tokens durchschiebt, die im Einzelverkauf eher 8.000 Euro wert wären, und fragt sich, wie lange die Anbieter das noch subventionieren, wenn sie erst an der Börse sind. Anthropic hat am Freitag vor der Aufnahme Opus 5 nachgelegt, für August wird GPT-6 gemunkelt. Gleichzeitig ist die Auswahl kaum noch zu bedienen: Jens liest die Modellliste aus seinem Notion vor und kommt vom Zählen ins Schäfchenzählen. Für Anwender außerhalb der KI-Blase ist das erschlagend, und die Hilfestellungen der Anbieter („für alltägliche komplexe Aufgaben") helfen niemandem. Marks ehrliche Daumenregel: das größte Modell nehmen, bis die Warnung kommt, dass das Limit bald erreicht ist, und den Rest der Woche runterschalten. Nicht zum Nachmachen empfohlen. Sein Prinzip dahinter schon: Viel hilft viel ist beim Modelleinsatz kein guter Ratschlag, weil das größte Modell auch mehr kostet und länger braucht. Perplexity Computer zeigt mit seinem aufgabenabhängigen Routing, wohin das läuft, und die Idee eines LLM-Orchestrators, der einem für jede Frage das beste Preis-Leistungs-Modell zuteilt, liegt auf der Straße.
Der zweite Teil dreht die Richtung um: nach unten statt nach oben. Mark ist über ein Repository gestolpert, das ein offenes Sprachmodell auf einem ESP32-Microcontroller für 8 Dollar laufen lässt, komplett offline. Hier ist es: github.com/slvDev/esp32-ai. 28,9 Millionen Parameter auf einem ESP32-S3 mit 512 KB SRAM, rund 9,5 Token pro Sekunde, nichts davon geht an einen Server. Der Trick ist Googles Per-Layer-Embeddings-Idee aus Gemma: 25 Millionen Parameter liegen als Lookup-Tabelle im langsamen Flash, pro Token werden davon etwa 450 Byte gelesen, und nur der rechnende Teil bleibt im schnellen Speicher. Das Vorgängermodell auf so einem Chip hatte 260.000 Parameter, also rund ein Hundertstel. Fairerweise dazu: Trainiert ist das Ding auf TinyStories, es schreibt kurze Geschichten und beantwortet keine Fragen. Interessant ist die Architektur, nicht der Output. Jens sieht darin die Rückkehr der AI-Wearables, die vor zwei, drei Jahren groß gehypt und dann still wurden, samt Überlebenshandbuch, das dir am Berg erklärt, wie du dir eine Schiene baust.
Und dann wird es praktisch. Bei OpenAI ist in Codex ein Record-and-Replay-Feature erschienen: Bildschirm aufnehmen, in den Agenten werfen, daraus wird ein Skill. Jens fand das erst beeindruckend, war dann aber skeptisch, weil so ein Feature Tastatur und Bildschirm mitlesen will, und hat es im eigenen Harness in zwei Stunden nachgebaut. Ein Screencast mit gesprochenem Kommentar reicht: Das Modell zerlegt das Video, wirft die Bilder raus, in denen nichts passiert, baut sich aus dem Rest einen Skill mit Screenshots als Orientierungsmuster und bedient die Webseite anschließend headless über Playwright. Wenn es nicht weiterkommt, schaut es auf seine eigenen Screenshots. Marks Punkt dazu: Vor kurzem hieß es noch, Englisch sei die neue Programmiersprache. Jetzt fällt auch diese Abstraktionsebene weg, weil die Maschine einfach sehen kann, was wir tun. Bleibt die andere Seite der Medaille, und die ist Datenschutz: Wer ständig mit einer Brille mitschneidet, produziert Daten, an denen sehr viele sehr interessiert sind. Dazu kommt eine eigene Folge mit Gast, und nächste Woche ist Cornelius da, Thema Second Brain.
— Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki.
Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io
Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004
Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699
Feedback und Gäste: über die Show-Seite.
Transkript anzeigen
00:00:00: Herzlich willkommen bei Think Different, Think AI. Und wenn ihr die letzte Folge
00:00:05: gehört habt, dann seid ihr von Statistiken verwöhnt, von Zitaten verwöhnt, von
00:00:13: Gastkommentatoren verwöhnt.
00:00:16: Wir sind quasi in einer Art neuen Staffel.
00:00:20: Der Jens ist auch wieder dabei. Freue mich, dass du weiterhin dabei bist,
00:00:24: Jens, in der neuen Staffel.
00:00:26: Und wir unterhalten uns heute über etwas, von dem wir auch wahrscheinlich das
00:00:29: ein oder andere Mal sagen werden, wir haben keine Ahnung.
00:00:33: Wer wissen will, was wir mit dieser Keine-Ahnung-Thematik meinen,
00:00:36: einfach nochmal die Jubiläumsfolge anhören. Geburtstag, Jubiläum.
00:00:42: Ja, Geburtstag, Jubiläum.
00:00:45: Getreu dem Motto, wer es gekauft hat, darf sagen, wie es heißt.
00:00:48: Na gut. Deshalb würde ich sagen, nehmen wir es mal so.
00:00:51: Und wir wollen uns heute ein bisschen unterhalten über Fable,
00:00:57: naja, nicht ganz, über lauter Fable-Momente, die sich irgendwie in der Welt ereilt haben, weil...
00:01:06: Ich möchte mal kurz abholen und dann können wir auch das gemeinsame Gespräch suchen.
00:01:12: Ihr erinnert euch vielleicht noch, es gab mal diesen Mythos-Moment,
00:01:14: ein KI-Modell, so gefährlich, dass man es nicht der Welt veröffentlichen kann.
00:01:19: Dann gab es Fable als Modell und Fable war ein Modell der Mythos-Klasse.
00:01:24: Ich kriege jedes Mal diesen Star Trek-Gedanken, aber Entrepid-Klasse,
00:01:28: egal, aber lassen wir mal das Nerdistan weg.
00:01:31: Dann wurde das verboten, teilweise wegen Exportkontrolle. Dann wurde es wieder
00:01:36: erlaubt und Fable war so, ah ja, komm, es ist ein Modell der Mythosklasse, es ist doch gut.
00:01:42: Aber es hat dann bei Security sich zurückgehalten, bei Biologie sich zurückgehalten.
00:01:47: Ja, und getreu dem Motto, was interessiert mich, das Wissen von gestern,
00:01:52: kommen immer mehr Modelle raus, die, ja, ich würde mal sagen,
00:01:57: Fable den Rang ablaufen.
00:01:58: Und wer jetzt denkt, ja, klar, ich habe von, ob May I, JetTBD,
00:02:03: Version 5.6, Luna, Terra, Soul gehört.
00:02:09: Ja, das auch. Aber auch die chinesischen Modelle, die geben richtig Gas und
00:02:14: haben ein paar Besonderheiten.
00:02:16: Und ich freue mich, dass der Jens sich mit mir heute mal hinlegt mit der Frage,
00:02:22: wer führt eigentlich die KI-Welt nach?
00:02:26: Sind es noch die USA mit den großen Frontiermodellen oder hat China,
00:02:33: ich sag mal, den nächsten Diebsieg-Moment ausgelöst und die nächsten Schock-Momente,
00:02:38: weil es auf einmal freie Modelle gibt? Jens, schön, dass du da bist.
00:02:42: Danke, Marc. Schön, dass wir jetzt ein Tag und, nee, ein Jahr und sieben Tage
00:02:48: alt sind. So muss ich es natürlich formulieren. Also unsere erste Folge im neuen
00:02:53: Jahr, auch im neuen Look.
00:02:54: Da gerne auch mal Kommentare abgeben. Wir haben entschieden,
00:02:57: dass wir uns unser Design mal ein bisschen anpassen werden. Das werden wir jetzt
00:03:01: immer, jedes Jahr machen. Also ja, du müsst ein weiteres Jahr bei uns bleiben.
00:03:05: Das ist ein Dammel-Album.
00:03:07: Ja, das ist total toll. Da kann man hinterher einkleben, kann man tauschen,
00:03:09: die Bilder. Oh ja, tolle Idee.
00:03:12: Aber dazu vielleicht später noch mehr oder beim nächsten Mal noch mehr.
00:03:15: Die Frage, Marc, wer ist führend,
00:03:19: Ich finde es verdammt schwer, überhaupt noch zu beantworten momentan und denke
00:03:25: mir immer, so aus Nutzerperspektive geht mir das auch erstmal Latte, weißt du?
00:03:30: Also ich finde es einfach geil, dass wir so ein Arms Race auf der Welt haben,
00:03:34: die tatsächlich in so einer Konkurrenzsituation, ein konkurrenzbelebtes Geschäft, das wissen wir alle,
00:03:40: dazu führen, dass wir ja fast auf wöchentlicher Basis neue Modelle vorgestellt
00:03:45: bekommen, die A, häufig, die immer,
00:03:50: ja nicht immer, ich bin falsch, also Fable hat jetzt gezeigt,
00:03:52: der verbraucht mehr Tokens, manche von diesen Modellen werden schlanker im Tokenverbrauch
00:03:56: auch, aber vor allem werden sie alle in der Qualitäthöhe.
00:03:59: Egal, wie sie aufgebaut sind, welche Technologie dann eigentlich zugrunde liegt,
00:04:03: wie das LMM arbeitet, sie sind,
00:04:06: immer noch von Woche zu Woche deutlich besser als die Modelle vorher und lassen
00:04:12: auch immer noch kein Ende der Fahnenstange erhoffen.
00:04:15: Ich würde mich aber doch festlegen und sagen, mit diesem Kimi-3-Moment,
00:04:20: den wir jetzt hatten, war es auf jeden Fall ein Schockmoment für,
00:04:24: die amerikanischen Modelle, die auch wieder und großen Frontier- Labore im Hintergrund,
00:04:30: die tatsächlich auch erst wieder ein bisschen pikiert reagiert haben,
00:04:33: als Kimi-3 vorgestellt worden ist.
00:04:36: Da wurde dann auch von höchster Stelle auch wieder von Klau geredet und dass
00:04:41: das nicht alles mit rechten Dingen dazugeht und sowas. Aber ja,
00:04:44: es ist definitiv ein Schockmoment und vielleicht hat Chemie jetzt gerade ein
00:04:48: bisschen in die Nase vorn, also die Chinesen bei dem Thema.
00:04:51: Ich finde, die haben aus ein paar Punkten die Nase vorn, aber ich wollte gerade,
00:04:55: während du gesprochen hast von diesem Schockmoment,
00:04:58: wollte ich gerade ganz kurz vielleicht, ihr habt bestimmt aus den Nachrichten
00:05:01: gehört, das hat es ja irgendwie, ich sag mal, auch in den deutschen Blätterwald
00:05:05: geschafft, als von OpenAI es dann hieß, ihr Modell wäre ausgebrochen
00:05:12: und hätte Hacking-Face gehängt.
00:05:14: Das ist auch spannend.
00:05:15: Und das muss man sich ja so vorstellen, wie als ob man dem Prüfling,
00:05:19: also das Modell von Opemey 1, einen Raum gesperrt hätte ohne Fenster und Türen.
00:05:24: Und das Ding hat trotzdem quasi sich einen Weg nach außen gebuddelt.
00:05:28: Anstatt ein Problem zu lösen, hat sich quasi Wackenface eingehackt und hat dort
00:05:32: sich die Lösung geholt, weil es das leichter empfand, als die Lösung selbst richtig herzustellen.
00:05:38: Und die Geschichte ist eigentlich doppelt lustig, weil nicht nur,
00:05:42: ob dieses Modell, das er noch wirklich so geschafft hat und gemacht hat, ist das eine,
00:05:46: aber wenn man sich anhört, wie die Verteidigerseite aussah, dann war es so,
00:05:50: dass die KI-Modelle versucht haben zu nutzen, um sich gegen den Angriff zu wehren
00:05:55: und die Modelle von Entropic und OpenIDD hatten gesagt haben,
00:05:58: nee, nee, nee, nee, ich kann hier keine Verteidigung machen,
00:06:00: weil die Modelle selbst dachten, dass das, was sie als Verteidigung genannt haben, ein Angriff wäre
00:06:05: und so musste Hackingface auf chinesische Modelle zurückgreifen,
00:06:09: die waren da scheinbar ein bisschen offenherziger, sie vor dem Angriff zu schützen.
00:06:13: Aber wir hatten es eben von diesem Schockmoment von KimiK3.
00:06:17: KimiK3 von Moonshot AI hatte, wann war das, am 16.
00:06:22: Juli eine Ankündigung, also nicht Ankündigung, Veröffentlichung,
00:06:26: und bei denen ist es ja so, dass die Modelle auf deren Maschinen quasi dargeboten
00:06:33: werden. Du kannst da Abos abschließen.
00:06:37: Genauso wie du Spy & Tropic machen kannst und ChatGPT machen kannst.
00:06:42: Aber dadurch, dass sie das quasi, ich sag mal, in Konkurrenz zu den amerikanischen
00:06:47: Produkten machen, kriegst du das meistens immer sehr günstig angeboten.
00:06:50: So kostet quasi K3 vom Abo irgendwie was von Hälfte bis ein Drittel von dem,
00:06:56: was du mit Fable in vergleichbarer Rechenleistung bezahlen müsstest.
00:07:00: Und seit dem Zeitpunkt dieser Aufnahme, wir schicken die Folge ein bisschen
00:07:06: später, raus, wir haben heute den 27.
00:07:09: Juli, gibt es die Gewichte des Modells auch öffentlich, so dass,
00:07:13: wenn du mit entsprechender Hardware ausgestattet bist, in der Lage bist,
00:07:16: das 2,8 Billionen Parameter große Modell bei dir auszuführen.
00:07:24: Mein Rechner scheidet aus, auch ein Mac Studio mit 512 GB RAM scheidet aus,
00:07:29: sogar zwei Mac Studios mit jeweils 512 GB RAM scheiden aus,
00:07:34: aber wenn du eine entsprechend großes Blech hast, kannst du dieses Modell dann
00:07:41: bei dir betreiben und das ist
00:07:43: dann, glaube ich, schon nochmal eine andere Hausnummer, wenn du überlegst,
00:07:47: dass das Modell auf dem Niveau von Fable, von GPT-56 Soul arbeitet und die Geschichte,
00:07:56: die man früher sich so erzählt hat, so nach dem Motto, ja,
00:07:59: die offenen Modelle, die hängen
00:08:02: so drei, vier Monate den amerikanischen Frontier-Modellen hinten an.
00:08:07: Das ist halt nicht der Fall. Und das Ironische ist, dass diese Modelle in China
00:08:12: gibt es ja, also es gibt ja verschiedene Exportverbote, sodass bestimmte Hardware
00:08:16: in China nicht genutzt werden kann.
00:08:18: Und wenn du diese Modelle dann auf der guten amerikanischen Hardware laufen
00:08:22: lässt, dass die dann nochmal so richtig Gas geben. Und das glaube ich schon,
00:08:25: dass das ein Schockmoment ist, weil während Entropic und Op-May-Eye Modelle gegen gutes Geld
00:08:32: Da bieten kannst du dir sinngemäß dieses Modell, wenn du das nötige Kleingeld
00:08:37: für die entsprechende Hardware hast, selbst betreiben, nutzen.
00:08:41: Das ist auch datenschutzfreundlicher, darf man auch nicht vergessen.
00:08:45: Wobei auf der anderen Seite darf man auch eine Sache auch nicht außer Acht lassen.
00:08:50: Die Moonshot AI hat ja auch gemeldet, als Chemika 3 herauskam,
00:08:54: dass die Server ordentlich unter Last waren, weil das hat schon für Aufsehen
00:08:57: gesorgt, weil ein Modell in der Klasse, das nicht bei Security-Fragen nach unten reguliert,
00:09:03: Das einfach quasi viel ungebremster läuft, dass sie das betreiben.
00:09:07: Und wenn du jetzt mal wieder guckst auf sowas wie Anthropic,
00:09:10: Ja, ich bin ja selbst privat ein Nutzer des großen Max-Plans von über 200 Euro.
00:09:15: Wenn du umrechnest, dass du da quasi 8000 Euro im Monat durch den Äther schieben
00:09:19: kannst, dann ist das vielleicht auch ein bisschen Fluch und Segen zugleich,
00:09:23: dass wenn Enthropic oder OpenAI
00:09:25: vielleicht ein paar Kundenrichtungen die chinesischen Modelle verliert.
00:09:29: Aber ich finde es, um den Bogen nicht zu sehr zu überspannen,
00:09:32: extrem krass, wie nah wir in einem Bereich sind, dass Modelle so leistungsstark sind.
00:09:42: Dass die offenen Modelle so leistungsstark sind, was wir uns so schnell gar
00:09:46: nicht erträumt hätten. Ich weiß, als Fable rauskam, dachten wir, oh Fable, ja, jetzt.
00:09:50: Und waren so enttäuscht, als Security eingeschränkt war. Und dann kam Soul und
00:09:53: hat nicht die Einschränkung gehabt. Und jetzt kommt ein offenes Modell,
00:09:56: wo, ja, wenn du, wie gesagt, die nötige Hardware hast, es einfach laufen lassen kannst.
00:10:01: Ja, und es ist ja nicht nur Kimi K3, es kam jetzt auch Gwen,
00:10:04: die auch gesagt haben, wir bringen jetzt hier Fable-Niveau.
00:10:08: Es kommt ja gerade ein Modell nach dem anderen aus.
00:10:10: Ja, ja, das ist auch nochmal ganz spannend.
00:10:11: Wo du denkst, das kann doch nicht wahr sein. Was ist denn der nächste Schritt?
00:10:16: Wir sollten vielleicht auch richtigerweise nochmal sagen, dass,
00:10:19: Wenn wir Kimi liegt vorne, die Chinesen liegen vorne, natürlich nicht in allen
00:10:23: Benchmarks und nicht an allen Punkten.
00:10:26: Moonshot AI würde das auch jetzt selber nicht sagen. Also wir sagen jetzt nicht,
00:10:29: wir sind besser als Fable 5 oder sowas, sondern lassen dann einfach die Zahlen sprechen.
00:10:34: Und da sind einfach ein paar Zahlen, wo eben das Modell vorne liegt,
00:10:38: vor allem bei den Kosten, ehrlicherweise. Die sind deutlich geringer,
00:10:40: als wenn du das bei der Konkurrenz aus Amerika machst. Das ist ein entscheidender Punkt.
00:10:44: Und was noch dazu, also was auch vielleicht nochmal spannend ist,
00:10:47: ist, es wird halt auch tatsächlich genutzt, also ich glaube Cursor setzt Kimi
00:10:51: ein, wenn ich es richtig gelesen hatte, für.
00:10:54: Einen Coding Agent, den die glaube ich benutzen, den Composer,
00:10:58: Composer 2 ist es glaube ich, der ist auf Kimi gebaut, also es ist jetzt auch nicht so, dass,
00:11:04: das nur irgendwo in China benutzt wird, es wird dann auch hier überall auf der
00:11:08: Welt genutzt, weil das Modell wie gesagt,
00:11:11: erstmal offen ist.
00:11:13: Man weiß also, was da so drin steckt, wenigstens nach den Gewichten des Modelles.
00:11:18: Und auf der anderen Seite, so wie du es auch sagst, wenn man es schön in die
00:11:21: Lokal betreiben kann, wenn man die Rechenpower hat, dann ist das eben auch einfach
00:11:24: ein starkes Modell. Das ist ein richtig, richtig starkes Modell.
00:11:26: Und da bin ich wieder so ein bisschen, was ich am Anfang gesagt habe.
00:11:29: Es ist mir eigentlich gar nicht so wichtig, wer gerade so vorne liegt.
00:11:33: Ich finde es einfach geil, dass wir eine riesige Auswahl von richtig starken
00:11:35: Modellen haben, weil das wird
00:11:37: dazu führen, dass die Modellbetreiber sich tatsächlich überlegen müssen,
00:11:42: wenn wir immer vorne sehr, sehr vergleichbar sind mit dem Output und dem Outcome,
00:11:50: den ich dann mit verbinde oder generieren kann,
00:11:53: dann wird es natürlich für alle, Privatpersonen.
00:11:57: Firmen, Menschen immer wichtiger werden, auf andere Faktoren wie Kosten einfach zu gucken.
00:12:02: Was kostet mich denn, so ein Modell laufen zu lassen?
00:12:05: Und das könnte im Prinzip, also sowas ist immer gesund im Markt,
00:12:08: finde ich, weil das wird dann nach und nach eben die Preise auch drücken.
00:12:12: Also wir haben jetzt in diesem Jahr sind wir, glaube ich, vom wahnsinnigen Token
00:12:17: Maximizing über, nee, das ist ja nur Quatsch, das ist ja nur Hype der großen
00:12:21: Firmen, um mich da reinzulocken.
00:12:22: Also viele haben ja behauptet, man ist eigentlich kein echter Mensch mehr,
00:12:26: wenn man nicht irgendwie Milliarden von Tokens am Tag verbraucht,
00:12:29: vor allem wenn man Developer ist.
00:12:31: Das hat sich so ein bisschen gedreht, dahingehend, dass man das sagt,
00:12:34: das muss nicht unbedingt sein, man kann auch geschickt mit Modellauswahl quasi
00:12:38: arbeiten und dadurch auch weniger Tokens an der einen oder anderen Stelle verbrauchen,
00:12:41: wenn es gar nicht nötig ist.
00:12:43: Hin zu dem Thema, dass ich sagen muss, ja, es wird relevanter,
00:12:46: dass wir eben auch kostengünstige Modelle haben, die eben gegebenenfalls nicht,
00:12:53: mich bei jeder kleinen Anfrage, die ich irgendwie mache, das halbe Hemd kosten.
00:12:57: Also das ist, glaube ich, einfach ein Thema, was hilfreich ist,
00:13:00: gute Konkurrenz auf der Welt zu haben.
00:13:02: Es ist ja eh so, dass, ich sage mal, haben es besser als brauchen und viel hilft
00:13:07: viel, sind nicht automatisch gute Ratschläge für den Einsatz von KI-Modellen.
00:13:13: Natürlich, wenn ich jetzt das größte Modell der größten Modelle im Ultracode-Modus
00:13:18: und hast du nicht gesehen benutze, bekomme ich wahrscheinlich für die Frage,
00:13:23: die ich stelle, auch eine sehr gute Antwort.
00:13:26: Vielleicht sogar eine bessere Antwort, als wenn ich das Modell vielleicht eine
00:13:29: Stufe runterschalte, was die Einsatzbereitschaft zu denken angeht,
00:13:34: ob ich ein Opus einsetze oder ein Sonnet einsetze.
00:13:36: Aber für die Frage, die ich stelle, brauche ich ja vielleicht auch nicht immer
00:13:41: das größte, teuerste, schnellstärkste Modell, weil erstens mal kostet mehr Geld
00:13:44: und zweitens braucht es auch meistens ein bisschen länger Zeit.
00:13:47: Also wenn ich ein Faible eine Frage stelle oder ein Sonnet eine Frage stelle
00:13:51: und es reicht vielleicht so nicht mit mittlerer Effizienz, mittlerer Engagement-Einstellung.
00:13:57: Und dann ist das schon auch zeitlich eine Komponente, bis ich dann warte und
00:14:01: dann kommt ein Ergebnis.
00:14:03: Und von der Seite lohnt sich das eh. Das finde ich bei den chinesischen Modellen
00:14:07: dahingehend auch spannend, dass wir, wenn wir mal so zum Beispiel auch Richtung
00:14:10: Perplexity schauen, Perplexity hat ja die Funktionalität Perplexity Computer,
00:14:14: wo sie auch hingehen zu sagen, naja gut, okay, du hast das und das vor,
00:14:18: dann nehme ich dieses Modell.
00:14:20: Die haben ja auch sowas wie, wenn ich eine bestimmte Aufgabe habe,
00:14:23: dann nehme ich das Modell, wenn ich eine andere Aufgabe habe, nehme ich das Modell.
00:14:26: Und so wie du eben gesagt hast, Benchmarks, erstmal sind Benchmarks nicht alles.
00:14:31: Zweitens unterscheiden sich die Systeme schon dahingehend, wo setzt sie es ein,
00:14:36: wo bringt es quasi seine volle Leistung.
00:14:38: Und dann wird das schon spannend zu sehen, ob es nicht vielleicht irgendwann
00:14:41: so LLM-Multiplexer, LLM-Orchestrator, LLM-Irgendwas gibt, wo du dann sagst,
00:14:47: gut, ich stelle eine Frage, weil ich als Anwender Ja, flug mich ja nicht wirklich
00:14:50: vielleicht, sondern ich will einfach nur ein gutes Ergebnis.
00:14:53: Bestes Preis-Leistungs-Verhältnis, so eine Art
00:14:58: Ml24.de, ja, auch wir haben wieder eine tolle Geschäftsidee und das einem quasi,
00:15:03: ja, das beste Modell ever zur Verfügung stellt für das Thema, an dem ich sitze.
00:15:09: Und was ich ganz lustig fand, während ich mir so überlegt hatte,
00:15:13: worüber wir heute in dieser Sendung reden wollen, vor ein paar Tagen genau genommen,
00:15:17: ihr habt es ja schon mitbekommen, ja, wir haben heute den 27.
00:15:21: Juli, als wir das aufgenommen haben, ein Montag, an dem Freitag davor,
00:15:26: hat ja Anthropic auch nochmal gekonnt hat mit Opus 5 und die Gerüchteküche besagt, dass OpenAI sogar mit
00:15:35: GPT-6 noch rauskommen wird im August, da merkt man schon, da wurde ordentlich
00:15:41: nochmal ins Hornissen-Nest gestochen, weil, so viel ist auch nicht so geheim,
00:15:46: die wollen ja auch alle demnächst nochmal an die Börse.
00:15:49: Wenn jetzt die chinesischen Modelle anfangen, sie zu überholen,
00:15:52: dann werden die sicherlich darauf reagieren wollen, weil wenn du an die Börse
00:15:57: willst, möchtest du ja nicht, ich sag mal an die Börse, kurz
00:16:00: nachdem oder bevor man auf den zweiten, dritten, vierten Platz durchgereicht
00:16:04: wird, das ist das eine und das andere, und da werden die chinesischen Modelle
00:16:08: wahrscheinlich auch noch mal ihre Stärken ausspielen,
00:16:11: wenn die die großen Anbieter an den Börsen sind,
00:16:14: Dann glaube ich, wird das, was ich vorhin am Einstieg gesagt habe,
00:16:17: so nach dem Motto, ich habe ein 200 paar gequetschte Euro-Abo und verbrenne
00:16:21: im Monat da Tokens, die im Vergleich vielleicht 8000 Euro wert sind,
00:16:25: dann werden die das auch nicht so richtig aufrechthalten können,
00:16:28: weil die dann sicherlich, wenn da ein entsprechender Markt
00:16:32: In die Aktien investiert, nicht so viel subventionieren können,
00:16:37: wie sie es vielleicht heute machen können, um so ein bisschen den Hype und den
00:16:39: Push und keine Ahnung was nach oben zu treiben.
00:16:41: Und dann bin ich auch mal gespannt, wie sich das Ganze verhält.
00:16:45: Von der Seite bin ich total neugierig, wie sich das weiterentwickelt,
00:16:49: auch wenn ich sehr enttäuscht bin, dass ich auf meinem kleinen Notebook jetzt
00:16:52: nicht Kimi K3 laufen lassen kann. Das ist total schade.
00:16:55: Allerdings, wenn ich das könnte, bräuchte ich wohl Personenschutz,
00:16:58: weil so viel RAM, wie du da brauchst, das ist ja in heutigen Tagen dann bist
00:17:02: du ja reich. Abgesehen davon, dass du das nicht kaufen kannst im Notebook, wirst du reich.
00:17:07: Ja, und wo du gerade reich sagst, ich glaube, tatsächlich hat auch wieder dieser
00:17:12: Chemie-Moment, weiß nicht, ob ein zeitlicher Zusammenhang da war,
00:17:15: aber in der letzten Woche haben wir auch so einen kleinen Dip bei den Chip-Herstellern gesehen.
00:17:20: Da waren so ein kleiner, die Aktien haben ein bisschen an Fahrt verloren. Hatten die? Ja, ja.
00:17:27: Kurz runter ist, glaube ich, wieder hoch. Das ist jetzt auch immer eine ganz
00:17:30: kurzfristige Sache, aber natürlich ist das ist alles auch, da müssen wir immer
00:17:33: auch vorsichtig sein, auch wenn neue Modelle rauskommen.
00:17:39: Natürlich gibt es sehr, sehr viele unabhängige Bewertungen sofort,
00:17:42: die im Prinzip diese Modelle gewichten und schauen, wie die sich gegenüber anderen
00:17:45: Modellen verhalten und ob sie besser sind oder schlechter sind,
00:17:48: welche Tests sie bestehen und sowas.
00:17:49: Aber es ist natürlich trotzdem immer so, es gibt auch immer so eine kurze Hype-Phase,
00:17:52: die bewusst dann auch immer von den Modellbetreibern vorangetrieben wird.
00:17:55: Und wie gesagt, ich finde das immer so ein bisschen,
00:17:59: Als Privatanwender würde ich sagen, alles, was ihr habt, ist schon so gut.
00:18:04: Ihr könnt da viele Sachen einfach nutzen, probiert da einfach weiter aus.
00:18:07: Ich habe jetzt vor kurzem mal wieder in Notion gesehen, da kann man,
00:18:10: glaube ich, wenn man Notion nutzt, kann man schön alle Modelle nutzen,
00:18:12: wenn man so ein Notion-Abo hat.
00:18:14: Das ist aber auch crazy, da muss ich mir auch mal kurz sagen.
00:18:17: Also wenn man auf Notion schaut, dann gibt es dann in Notion Sony 4.6,
00:18:22: 5, Opus 4.7, Opus 4.8, Fable, Gemini 3.1 Pro, GPT 5.0, GPT 5.6.
00:18:29: Terra, GPT 5.2,
00:18:32: GPT 5.4, GPT 5.5, GROC 4.3, SpaceX,
00:18:38: AI, ich wusste gar nicht, dass es die schon gibt, 4.5, GROC Build,
00:18:42: dann gibt es noch kleinere Modelle, steht dann extra drüber,
00:18:45: Gemini 3.5 Flash, Kimi 2,6, 2,7 Code, DeepSig V4, GLM. Ich könnte jetzt weitermachen.
00:18:53: Das hört sich so ein bisschen an wie Schäfchen zählen.
00:18:56: Ja, ja, Bingo, hätte jetzt noch ihn rufen können. Ich wollte da nochmal so ganz
00:19:01: kurz aus meiner EUX-Brille auch wieder aufstellen.
00:19:04: Dass ich sage, diese Modellauswahl für,
00:19:09: den Privatanwender und vielleicht auch für den Anwender in dem einen oder anderen
00:19:14: Office, der sich nicht wie wir auch sehr, sehr viel von seiner Zeit mit dem
00:19:18: Thema KI beschäftigt, ist das auch echt erschlagend, ehrlicherweise.
00:19:22: Also ich habe ja selber bei mir manchmal schon das Thema, dass ich gar nicht mehr weiß,
00:19:26: welches Modell nehme ich denn jetzt eigentlich? Brauche ich jetzt eigentlich
00:19:28: wirklich Fable für das, was ich da gerade vorher habe?
00:19:33: Und also irgendwie ist da auch von der Nutzerführung an den verschiedenen Stellen,
00:19:38: ob du jetzt eine Desktop-Variante nutzt oder eben eine Web-Variante nutzt,
00:19:42: egal, das ist nicht wirklich hilfreich.
00:19:45: Die sagen wir dann hier, für komplexere Aufgaben oder für alltägliche komplexe
00:19:49: Aufgaben oder für manchmal wichtige Aufgaben nimmst du lieber das Modell.
00:19:53: Das ist alles so schwierig zu beurteilen.
00:19:56: Hast du irgendeine Daumenregel, für welches Modell du jetzt für was nimmst?
00:20:01: Also, die ist nicht zum Nachmachen geeignet. Die Daumenregel heißt,
00:20:06: dass die Warnung kommt, dass das Limit bald erreicht ist, das Größte.
00:20:09: Und danach mal nachdenken für die letzten Tage der Woche, dass man nicht ins
00:20:13: Wochenlimit kommt, um dann irgendwas zu nehmen, dass man es irgendwie schafft,
00:20:17: durchzukommen. Weil Fable beispielsweise nutzt ja auch viel größere Kontingente bei Anthropic.
00:20:24: Wobei Fable nutze ich gar nicht so gern. Also erstens muss man immer aufpassen,
00:20:28: wofür man Fable nutzt, weil sie ja diese 30 Tage Data Recency haben,
00:20:32: wenn ich zum Sprechen spreche.
00:20:35: Und das Zweite ist, Opus ist ja tatsächlich in vielen, Also in einigen Benchmark
00:20:40: besser und günstiger als Fable.
00:20:43: Von der Seite bin ich momentan mehr so der Opus 5 Freund.
00:20:47: Und dieses, was du sagst, wie gehe ich denn mit den Sachen um,
00:20:50: das ist sehr furchtbar. Also früher hießen ja die Modelle 01,
00:20:54: 03, 02 konnten sie es nicht nennen, wegen den Namensrechten.
00:20:57: Und dann Mini, Max und Pro und Schlag mich tot. Und heute kommt...
00:21:02: Luna und Terra und du denkst so, ja, boah, was, also, entschuldige mal bitte,
00:21:08: ja, was sind denn das für Namen?
00:21:10: Und da musst du dich bei jeder Generation was Neues gewöhnen.
00:21:13: Jetzt ist Opus und Sonnet, jetzt sicherlich auch nicht besser,
00:21:16: aber die haben jetzt eine Versionsnummer hinten dran.
00:21:18: Und da gibt es ja nicht noch so die Geschmacksrichtung extra blau,
00:21:21: allerdings gibt es dann die Geschmacksrichtung Ultracode und Max und Ultramax und keine Ahnung was.
00:21:26: Da kriegst du echt den Föhn, ja, das kannst du eigentlich niemandem wirklich zumuten.
00:21:31: Was ich in dem Atemzug aber wieder ganz lustig fand, du erinnerst dich vielleicht
00:21:35: rückblickend auf die letzte Staffel, als wir noch mit den alten Covern unterwegs waren,
00:21:40: hatten wir mal das Thema, werden die Modelle eigentlich immer stärker und immer
00:21:44: größer oder wird das so wie ein bisschen wie der menschliche Körper nach dem
00:21:48: Motto lauter Sensoren und lauter subtile Subknoten, die sich irgendwie entscheiden
00:21:54: oder Entscheidungen abnehmen,
00:21:56: weil sonst das Gehirn im menschlichen Körper überfordert wäre,
00:21:59: kannst du vielleicht auch den Reflex vom Wegzucken vom heißen Herd auch komplett
00:22:04: irgendwie anders regeln, als dass das Gehirn erst drüber nachdenken muss.
00:22:07: Also das Auskriegen in kleinere Modelle.
00:22:10: Und das fand ich total lustig. Ich bin nämlich über ein Projekt gestolpert.
00:22:13: Ein Repository, das bietet dir quasi ein offenes Modell und offene Gewichte an für ein
00:22:20: Sprachmodell, das knapp 30 Millionen Parameter hat, knapp drunter,
00:22:26: vollständig offline läuft Und Achtung, auf einem 8-Dollar-Microcontroller,
00:22:31: so im ESP32, irgendwie Menschen, die sich damit auskennen werden,
00:22:34: bestimmt mehr dazu erzählen können.
00:22:36: Was ich sagen kann, ist, dass diese Dinge quasi im Smart Home eingesetzt werden
00:22:41: könnten, in Technologien, die du quasi verbaut und dir zu Hause hinstellt.
00:22:46: Und dass du jetzt die Möglichkeit hast, als Hersteller auf so einem kleinen
00:22:49: Chip, der kostet 8 Dollar, der hat irgendwie 512 Kilowatt RAM,
00:22:54: Oder ach, der Beram, irgendwie sowas. Ist auch egal, worauf ich raus will.
00:22:58: Du hast einen kleinen Chip, der kostet fast kein Geld und darauf kannst du jetzt
00:23:01: ein lokales Modell laufen lassen.
00:23:03: Und das bin ich schon mal gespannt, wie sich das dann auswirken wird,
00:23:06: wenn wir jetzt auch in der Lage sind, auf so günstige Hardware Modelle auszuführen.
00:23:12: Muss ich unbedingt verlinken in den Shownotes. Dann können Sie Leute das anlesen,
00:23:15: was sich da alles durcheinander geschmissen hat.
00:23:17: Genau, da können wir endlich mal wieder ein Fussel checken. In der neuen Staffel.
00:23:22: Ich wollte jetzt auch mal Staffel sagen, weil das ist das erste Mal,
00:23:26: dass ich dieses Wort benutze, für das, was wir im letzten Jahr erreicht haben.
00:23:29: Wir haben eine ganze Staffel abgedreht, aufgenommen.
00:23:32: Ja, ich finde, lokal installierte Modelle, die den kleinen Hardware-
00:23:39: Gadgets arbeiten können, total spannend. Ich glaube, das ist so ein Ding,
00:23:43: wo ich sage, da kommen richtig gute Anwendungen irgendwann raus,
00:23:46: weil das eben auch vielleicht so ein bisschen diese Art und Weise, wie wir,
00:23:51: momentan lernen, mit dem Computer zu interagieren, auch nochmal ändern wird.
00:23:55: Es gab ja diesen Hype um die AI-Geräte vor zwei, drei Jahren,
00:23:59: da ist alles ein bisschen stiller geworden, dass da im Prinzip diese AI-Wareables
00:24:03: kurz mal raus waren, Unternehmen groß gehypt worden, da ist jetzt noch nicht
00:24:06: so viel passiert, aber das wird jetzt kommen.
00:24:08: Weil natürlich ist es super vorteilhaft, wenn ich lokal die Sachen laufen lassen
00:24:12: kann, brauche ich weniger Technik verbauen, es muss nicht unbedingt Internet
00:24:15: connected sein, kann mir aber wahnsinnig gut helfen.
00:24:17: Also ich sehe auch schon solche, früher gab es ja immer irgendwie so Überlebenshandbücher,
00:24:23: die man brauchte, wenn man irgendwie Camping war.
00:24:24: Das kannst du halt alles lokal mittlerweile auf irgendein Gerät draufpacken
00:24:27: und nicht einfach nur als langes PDF-Verserien durchlesen musst oder durchsuchen
00:24:31: musst, sondern eben auch als LMM, dass dir dann im Notfall, falls du den,
00:24:36: Hintertuchsen hast nicht gesehen, dir beim Bergsteigen das Beinbrich,
00:24:39: da kann er dir dann beibringen, wie du dir eine Schiene dann selber zusammenbastelst,
00:24:43: mit deinen Zähnen quasi die Stöcke abnagst und,
00:24:47: daraus einen Druckverband baust.
00:24:49: Du kennst meine Zähne nicht. Sollte mein Zahnarzt zuhören, keine Sorge, Tim, ich mach das nicht.
00:24:57: Aber ich finde, das ist nochmal so ein ganz anderes Ding. Also ich glaube,
00:24:59: wir hatten ja jetzt auch von OpenAI in Codex ist auch so ein neues Feature rausgekommen,
00:25:03: dieses Rack on the Replay.
00:25:05: Das ist auch so eine Art, ich kann im Prinzip jetzt Videos von mir,
00:25:10: von meinem Screen aufnehmen, kann das dann hinterher in Codex reinwerfen und
00:25:15: Codex macht daraus einen Skill. Also ich zeig ihm einfach, wie ich im Prinzip das mache.
00:25:19: Ja, möchtest du was sagen? Sag direkt.
00:25:21: Ich möchte dazu gleich was sagen. Ich war ja erst total beeindruckt von diesem
00:25:25: Feedback. Ich dachte so, wie geil ist das denn?
00:25:29: Und dann habe ich das, wir bauen ja auch unseren eigenen Harness in der Firma
00:25:33: und dann, das hat irgendwie zwei Stunden gedauert und dann konnte der das auch.
00:25:37: Ja, ja, das ist total lustig.
00:25:40: Das muss ich jetzt teilen, ja. Das hat zwar nichts mit Modellen zu tun,
00:25:42: aber ich bin einfach so begeistert.
00:25:44: Und zwar habe ich mir das Ding angeschaut, ich kann es dir ja vorstellen,
00:25:48: wenn du sowas vielleicht in dienstlichen Kontext einsetzt, dann könnte es Menschen
00:25:51: geben, die das so wie es OpenAI und Anthropic baut, nicht so gut findet.
00:25:54: Weil das Ding will die Tastatur mitlesen, das Ding will dein Bildschirm mitlesen.
00:25:58: Dann bist du dir sicher, dass es wirklich nur dann mitliest,
00:26:01: wenn du das willst und so. Da fehlt ja so ein bisschen die Einvernehmlichkeit und so ein Kram.
00:26:06: Und da habe ich mich einfach nur hingesetzt und habe gedacht,
00:26:07: mal gucken, was das Modell eigentlich macht.
00:26:10: Also bei uns in unserem Harness, was das Modell macht, wenn du ihm nur das Video
00:26:14: gibst, nur das Screen-Video.
00:26:16: Und zwar ein Screen-Video, wo du etwas tust, also zum Beispiel eine Webseite
00:26:21: bedienst, eine interne Webseite bedienst und einfach, während du sie bedienst,
00:26:25: erklärst, was du machst.
00:26:26: Und dann habe ich so gesprochen, ja, hier ist ein Eingabefeld und habe mit der
00:26:30: Maus immer markiert, wozu ich gesprochen habe.
00:26:32: So ein Motto, hier ist ein Eingabefeld und das hier brauche ich nicht und hier
00:26:35: stehen dann die Antworten und hier sieht man, ob es einen Fehler gab.
00:26:38: Und habe mich quasi so mit diesem Video, mit dem Ding beschäftigt und habe dann
00:26:42: dieses Video eingespielt und habe ihm gesagt, mach daraus einen Skill.
00:26:46: Und weißt du, was das Ding sagt?
00:26:48: Der hat auch tatsächlich einen Skill gemacht. Der hat das Video zerlegt.
00:26:51: Der kann dann gucken nach dem Motto, wie häufig ändert sich was in dem Video,
00:26:55: nimmt alles raus, wo eventuell gar nichts passiert ist, weil du die Maus nicht
00:26:59: bewegt hast, dass die Webseite gerade am Denken war oder keine Ahnung was.
00:27:03: Hat sich also nur die restlichen Bilder genommen, hat sich aus den restlichen
00:27:06: Bildern ein Skill gebaut,
00:27:07: hat sich in den Skill die Bilder reingelegt als Orientierungsmuster und ist
00:27:13: dann danach übergegangen und hat gesagt, gut, okay, ich habe jetzt von dir gelernt,
00:27:16: du willst auf diese Webseite und hier stehen die Dinge, die du brauchst,
00:27:19: hier stehen die Dinge, die du fragst.
00:27:20: Ich habe mir noch ein paar Rückfragen gestellt.
00:27:23: Langereide, kurzer Sinn. Er hat dann Playwright. Das ist so eine Bibliothek,
00:27:28: dass er quasi eine Art Browser-Bedienung macht, nur dass du halt Playwright-Headless
00:27:33: betreiben kannst, also ohne sichtbares Browser-Interface.
00:27:37: Und dann geht das Ding quasi hin, arbeitet den Skill ab, bedient damit diese
00:27:41: Webseite und immer dann, wenn er nicht weiter weiß, weil die Webseite vielleicht anders aussieht,
00:27:45: weil irgendwie, keine Ahnung, er einfach sich nochmal orientieren will,
00:27:48: guckt da quasi nochmal auf diese Screenshots, die er sich gespeichert hat,
00:27:51: zusammen mit dem Skill und bedient das.
00:27:53: Und lange Rede kurzer Sinn, da kannst du zum Beispiel hingehen und sagen,
00:27:57: naja gut, du hast ganz viele verschiedene Rack-Systeme.
00:28:00: Ich glaube, Racks werden wir uns demnächst mit Cornelius nochmal unterhalten.
00:28:03: So viel Vorwerbung kann sein.
00:28:05: Ist er dann quasi in der Lage, den ganzen Kram in einem Skill zu verpacken,
00:28:09: in deinem Agent-Harness,
00:28:11: bei jedem anderen Zuhörer wäre es dann Cloth oder Codex-App,
00:28:16: bei uns ist halt unser eigener Harness, den wir gebaut haben,
00:28:20: und kann das dann quasi abspielen.
00:28:22: Und so kannst du andere Systeme anbinden an deinen Harness, einfach nur durch
00:28:29: einen Skill, den er gelernt hat,
00:28:31: aufgrund von Videos, Audiospur und der Möglichkeit, Sachen zu steuern.
00:28:36: Und letzter Satz, ich frage mich dann immer, warum hat Entropic dann so oder
00:28:40: Codex so viel Kram drumherum gebaut, dass du so viel Berechtigung in der App
00:28:43: geben musst, wenn eigentlich
00:28:46: ein Video reicht, das du aufnimmst oder ein Schulungsvideo, das du vielleicht
00:28:48: irgendwo in einem Lernprogramm findest und sagst, komm, schau es dir an,
00:28:52: den Rest wirst du schon merken, viel Spaß, Feuer, Freiheit. Die Mächtigkeit ist unglaublich.
00:28:57: Ja, das stimmt. Genau, das meine ich. Das meinte ich damit, dass wir sagen,
00:29:01: wir werden im Prinzip, ob das jetzt auf lokal installierten,
00:29:05: Hardware-Gadgets, Videos, Voice, Audio, stell dir vor, das, was du jetzt gerade
00:29:10: beschreibst, ist ja im Prinzip ein Thema, was auf einem Screen quasi passiert,
00:29:14: wo ich Sachen abarbeite und daraus ein Skill gebaut werden kann.
00:29:18: Häufig ist es ja so, die Produktion ist ja nicht mehr das Schwierige.
00:29:22: Ist auch heutzutage auch vor KI schon das Schwierige gewesen.
00:29:25: Wir hatten auch vorher schon gute Leute, die Design machen konnten, gut coden konnten.
00:29:29: Häufig ist es ja immer so, dass dieser Weg von der eigentlichen Idee,
00:29:33: die Übersetzung, was ist denn eigentlich das echte Problem in dem Moment,
00:29:37: dass wir erkennen müssen, wo wir Arbeit reinstecken müssen, Arbeitsabläufe.
00:29:41: Situationen, Krankenhäuser, Flughafen, was auch immer zu analysieren,
00:29:45: wie kann man diese Prozesse verbessern.
00:29:47: All das ist ja das, was in der realen Welt stattfindet und was dann hinterher
00:29:51: gegebenenfalls zu einem Stück Code und zu einer Anwendung irgendwas führt,
00:29:54: ja ein Teilbereich dieses Ablaufs dann verbessert wird.
00:29:57: Wenn wir das noch deutlich besser aufnehmen werden können in Zukunft und auch
00:30:01: interaktiver, ohne dass ich irgendwo, und da bin ich ja jetzt großer Fan davon,
00:30:05: wenn wir in solche Formate wechseln, weil dann brauche ich noch nichtmals mehr
00:30:09: überhaupt das Konzept Programmiersprache kennen.
00:30:12: Also wenn wir vor kurzem noch darüber geredet haben, dass Englisch die neue
00:30:15: Programmiersprache ist, Dann sind solche Ansätze, die wir jetzt gerade sehen,
00:30:18: natürlich auch die Ablösung davon, dass ich dieses Abstraktionslevel überhaupt noch verstehen muss.
00:30:24: Ich muss nicht mehr verstehen, dass ein Skill gegebenenfalls,
00:30:28: eine Textdatei braucht, um zu beschreiben, wie der Skill sich verhalten soll
00:30:32: und zusätzlich noch weitere Dokumente als Templates brauche,
00:30:35: damit es weiß, welches Output-Format es machen soll oder irgendwelche Anbindungen an MCT-Server. Nein.
00:30:40: Die Maschine kann einfach sehen, was wir tun und daraus ableiten,
00:30:44: was möglicherweise eine gute Lösung wäre, die einen ähnlichen Output quasi generieren
00:30:49: könnte, wie es da gesehen hat. Und das ist tatsächlich.
00:30:54: Eine der Rahmenbedingungen, die wir in den nächsten Wochen, Monaten noch viel, viel mehr sehen werden.
00:31:01: Dass wir sehen, gibt es neben der reinen Texteingabe noch andere Möglichkeiten.
00:31:07: Also jeder von uns hat wahrscheinlich schon mal das Foto vom Weinregal beim
00:31:10: Rewe gemacht oder beim Wiedel oder so und hat geguckt, dem fiel mir mal ein
00:31:14: Wein, lieber Chachipiti, oder,
00:31:16: den Kühlschrank abfotografiert, um die Rezepte zu bekommen, die noch nicht möglich
00:31:20: sind mit den Resten, die im Kühlschrank so verschimmeln.
00:31:23: Aber das waren immer so Stücke.
00:31:24: Wir haben eben einen Live-Einblick in das Scharnitzkys-Kühlschrank bekommen.
00:31:27: Nein, das finde ich überhaupt nicht ein bisschen irre. Wir sind bestens ausgestattet,
00:31:31: ja, und bei uns werden nie dem Smittle weggeworfen, ja. Ja, alles gut.
00:31:34: Nee, ist Spaß beiseite, aber die Sache ist...
00:31:36: War ein Scherz.
00:31:37: Ich weiß.
00:31:40: Die Sache ist, dass wir wirklich tatsächlich jetzt, also wir waren multimodal,
00:31:45: das konnten die die EIs jetzt schon eine längere Zeit.
00:31:49: Ich konnte ihnen schon eine längere Zeit Videos geben, konnte ihnen schon eine
00:31:51: längere Zeit Bilder hochladen oder auch Text oder Video, also was auch immer.
00:31:55: Ich konnte also viele Sachen abspielen. Aber jetzt kommen wir in diese Phase
00:31:58: rein, wo es nicht nur zur reinen, okay, da ist Wissen drin, sondern ich kann
00:32:03: das auch zu Aktionen benutzen, so wie du es gerade beschrieben hast.
00:32:07: Und wenn wir in diese Phase eintreten, dann wird es natürlich noch spannender
00:32:09: werden, wenn wir der KI in der echten Welt noch Augen geben und sie noch mehr
00:32:14: mitbekommen, was passiert.
00:32:15: Da wird total viel, glaube ich, sein, wo wir dieses Jahr in unserer neuen Staffel,
00:32:19: in der Staffel 2 von Think Different, Think AI, bestimmt auch die ein oder andere Folge zu machen.
00:32:25: Wir waren ja ursprünglich bei den offenen Modellen. Ich glaube,
00:32:29: das haben wir auch gut abgewickelt.
00:32:32: Was ich bei deinem Gedanken, während du gesprochen hast, halt auch nochmal sagen
00:32:35: möchte, auf einmal werden solche Sachen wie YouTube-Filmchen
00:32:39: Auch ganz spannend, weil ich sage jetzt mal, ich habe jetzt ja,
00:32:44: wieso ich das habe, ist ein anderes Thema, zum Beispiel auch privat,
00:32:46: so ein Apple-Business-Masher, das ist so eine Lösung von Apple,
00:32:50: wo man Geräte mittlerweile auch verwalten kann,
00:32:54: aber wo man sich einfach mit ein paar Portalen von Apple beschäftigen kann, sagen wir es mal so rum.
00:32:58: Und das Lustige, das muss ich unbedingt mal ausprobieren, stell dir mal vor,
00:33:01: da gibt es diese ganzen YouTube-Filmchen, wo irgendwelche Influencer oder Apple
00:33:05: selbst über Dinge erzählt und du gibst dem das und dann hast du auf einmal die Möglichkeit,
00:33:09: dass dein KI-System für dich dieses Portal bedient
00:33:14: und damit vielleicht viel zugänglicher macht, als du es bis vor
00:33:18: zwei Wochen noch gemacht hast.
00:33:20: So von der Seite, glaube ich, sollten wir auch unbedingt über die Möglichkeiten
00:33:25: der neuen Harnesse und der neuen Systeme, nicht nur der neuen Modelle,
00:33:30: auch mal bald nach Folgen machen.
00:33:33: Ja, und vielleicht aber auch mit einem kritischen Blickwinkel.
00:33:35: Und ich habe auch schon einen Gast im Blick, der sich sehr gut auskennt mit
00:33:39: diesem ganzen Thema der VR und Augmented Reality Brillen. Na,
00:33:43: den können wir dann nämlich da auch mal zu interviewen.
00:33:46: Aber das gibt natürlich auch die negative Seite. Also wenn wir,
00:33:49: das ist wie die Büchse der Pandora, also natürlich sind auch viele an diesen
00:33:54: Daten interessiert, um die Modelle besser zu machen oder auch noch andere Sachen zu machen.
00:33:58: Und wenn jetzt alle Leute natürlich, weil es einen Vorteil hat,
00:34:01: dass ich vielleicht ständig mit meiner Brille irgendwas aufnehmen kann,
00:34:04: Arbeitsaufläufe dadurch optimieren kann, stellt sich natürlich schon auch die
00:34:08: Frage des Datenschutzes im Hintergrund.
00:34:10: Und was nehme ich da eigentlich auf? Wo werden diese Daten gespeichert?
00:34:13: Was wird damit trainiert?
00:34:15: Also wenn wir das machen mag, dann sollten wir in gewohnter Weise auch wieder
00:34:19: beide Seiten der Medaille beleuchten und diskutieren.
00:34:23: Und ich würde mich darüber freuen, weil ich hatte eh vorher mit dem Kollegen,
00:34:26: wir müssen jetzt noch einen Termin machen, eine Folge zu dem Thema zu machen.
00:34:28: Da können wir das gleich mit aufnehmen.
00:34:31: Ich habe mir gerade, während du in berechtigter Weise gesagt hast,
00:34:34: zwei Seiten der Medaille gesagt, es gibt noch die Medaille des schnöden Mammons
00:34:37: und ich habe mich gerade gefragt, ob man mit
00:34:39: trainiere, einfach mit ganz vielen YouTube-Filmchen ein Skill,
00:34:43: ob du damit so eine Art Skill-Bibliothek mal mit einem echten Mehrwert für Menschen verkauft kriegst.
00:34:47: Aber nachdem wir ja gesagt haben, wir sind in einer neuen Staffel,
00:34:51: die Rubrik Geld verdienen mit KI, glaube ich, werden wir trotzdem damit nicht starten.
00:34:56: Aber ich freue mich sehr auf eine Folge mit Gast. Ich freue mich auch sehr,
00:35:01: dass wir nächste Woche eine Folge mit Gast haben.
00:35:03: Cornelius ist ja schon erwähnt, da wird es um Second Brain und sowas gehen. Seid gespannt.
00:35:08: Und ich würde sagen, Jens, wir machen schnell die Klappe zu,
00:35:12: bevor ein neues Modell rauskommt und alles zunächst gemacht,
00:35:15: was wir bisher so besprochen haben.
00:35:18: Danke, dass du dir die Zeit genommen hast. Es freut mich, dass wir diese neue
00:35:21: Staffel gemeinsam angehen und hinterlasst uns doch mal einen Kommentar,
00:35:25: wie ihr unser neues Cover findet. Und damit sagen wir bis bald bei Think Different,
00:35:29: Think AI. Wir freuen uns auf euch. Ciao.
00:35:33: Ciao.
Neuer Kommentar