KI schreibt Code, Menschen prüfen nach !

00:00:00: Heute mal wieder ohne meinen allseits geliebten Komoderator, aber dafür heute mal wieder mit einem sehr kompetenten Gast.

00:00:11: Letztens hatten wir uns ja mit dem Dirk über das Thema Notion unterhalten und heute unterhalte ich mich mit Klaus unter anderem auch darüber, warum bei mir heute Perplexity nicht ging.

00:00:23: Klaus, wer bist du, stell dich mal vor und warum gehe mein Perplexity nicht?

00:00:28: Ja, ich bin da Klaus.

00:00:30: Und wir kennen uns schon furchtbar lange, der liebe Marc und ich.

00:00:34: Uns verbindet eine lange Apple-Historie, Apple-Security und Apple-Entwicklung.

00:00:41: Und ja, hauptberuflich beschäftige ich mich eigentlich tatsächlich nur mit Security.

00:00:47: Ich sorge mich dafür, dass die schönen Küchengeräte eines bekannten deutschen Küchengeräteherstellers sicher sind für netzte Geräte und bei Sicherheit und KI irgendwie nicht mehr so richtig voneinander zu trennen sind, habe mich bei uns auf das Thema AI-Edit-Developen mehr angezogen.

00:01:05: So, und ich hatte wie ein Domark, um deine Frage zu beantworten, einen total entspannten Formentrag, weil ich um, weiß ich nicht, um wie viel Uhr mich an den Rechner gesetzt hat und hatte eine Frage an Perplexity.

00:01:15: und Perplexity wollte ich nicht antworten.

00:01:17: Und ich vermutete mal wieder unseren Firmenzwangsproxy, der wieder irgendwas gesperrt hat.

00:01:23: War aber nicht so, als ChatGPD funktioniert.

00:01:25: Dann probierte ich noch mal Perplexity und war ganz Perplex.

00:01:28: Es antwortete immer noch mit einer kryptischen Fehlermähnung.

00:01:30: Und dann bin ich einkaufen gefahren.

00:01:34: Und siehe da, die Ursache war der Ausfall der Amazon-AWS-Zone US East I, die heute weltweit zur Ausfälle geführt hat.

00:01:43: Und offensichtlich war natürlich auch Perplexity davon gebrauchen.

00:01:46: Deswegen konnte es heute Morgen auch schön die Küche aufräumen, statt zu arbeiten.

00:01:52: Na, ich war eigentlich im Büro und ganz ehrlich, ich war auch erleichtert, als ich da mitbekommen habe, dass sich um ein größeres Problem handelte und nicht um ein lokales von mir, weil während du dachtest, der Proxy der Firma ist schuld, hatte ich eine ganz andere Angst, nämlich, dass ich auf einmal arm geworden bin, weil ich nämlich heute morgen angefangen habe, mir meinen Apetoken in einen frisch gebackenen N-Werkflow zu stecken.

00:02:17: den ich habe loslaufen lassen, der dann tatsächlich, ich sage jetzt mal in so einer Art Endloschleife endete mit seinen Perplexity Anfragen und ich kurz gedacht habe, das Ding hat mich in den Ruinen der ApiCalls geschmissen und mir meine Kreditkarte so sehr belastet, dass jetzt auch ein Anmeld mit meinem Konto als sehr unvertrauensvoll zählt und daher war ich dann doch sehr glücklich, dass das mit keinem Geld abbuchen oder Ähnlichem zu tun hat, aber ich hoffe auch, dass mein N-Nacht-N-Zugriff jetzt nicht Ursache des Übels war, ja, nicht, dass es nachher heißt.

00:02:48: Der Zimmermann saß da und hat hier quasi jetzt seinen Shutdown, N-N-N-Surgs-Low, da zusammengetackert.

00:02:56: Das muss man beim nächsten USA wohl auch bemerken, ob du das warst oder nicht.

00:03:02: Passport, Lies.

00:03:05: Haben Sie eine kriminelle Vergangenheit?

00:03:06: Nicht, dass ich wüsste.

00:03:07: Waren Sie nicht derjenige, der eben mit Ihrem Ende, seinen Enden ab der Enden wirkst und gesagt hat, dass der Kollege Rodeweg in die Stadt gehen durfte einkaufen?

00:03:14: Nee, nee.

00:03:15: Ist doch schon nutlich, wie Dinge dann doch sich ähneln, ne?

00:03:19: Also Rodeblatt sagt Kreditkarte und Token Limit.

00:03:23: Bisher war es ja immer so, sowohl für Firmen als auch für Privatpersonen, dass das Einzige, was vollkommen undurchsichtig war und auch mit... Wissenschaftlichen Mitteln nicht erklärbar ist, eine Rechnung von AWS oder dem jeweiligen Cloud-Dienst leistet, die man in der Firma benutzt, weil man nie weiß, was passiert.

00:03:41: Und wenn irgendein Praktikant hat dann durch Zufall immer noch irgendein Audit-Log angeschaltet, was dann mal über nach Zehntausend Euro verursacht hat, und das hat man jetzt zusätzlich auch mal mit KI.

00:03:50: Ist doch irgendwie beruhigend, oder?

00:03:53: Wobei.

00:03:53: Ich sage es mal, alte Menschen erzählen von früher, ich kann mich durchaus auch an jemanden erinnern, der versucht hatte, so ein bisschen als Influencer tätig zu sein, als das ganze anfing mit ChatGPT und den ganzen Kram.

00:04:06: Und der hatte in seinem Video seinen Api-Token gezeigt und der wurde wirklich armen, weil die Leute einfach mit den Dingen feuchtfuldig irgendwelche Dinge ausprobiert haben.

00:04:16: Nach dem Motto, guck mal, geht doch, ne?

00:04:18: Und irgendwann kam dann so die Meldung, dass sie das irgendwie paaren.

00:04:21: Viertausend Euro gekostet hat.

00:04:22: Die ganzen Kreuz, die das verursacht haben, wo ich dachte, da brauchst du aber auch ein bisschen Reichweite, um so eine Menge Euros auszugeben.

00:04:30: Aber schuld, ich sag mal.

00:04:32: Um Euros geht es ja zum Glück heute nicht.

00:04:34: Du sitzt hier ganz kostenneutral für mich hier.

00:04:37: Auch wenn ich sagen muss, ich bin nicht ganz unvoreingenommen.

00:04:39: Ich besitze ja auch solche, das eine oder andere Gerät aus eurem Hause bei uns im Haushalt.

00:04:44: Habe ich ja schon mal auch in den anderen Podcasts mit dir drüber gesprochen.

00:04:48: Da fühlt man sich noch gleich viel sicherer, wenn man weiß, wer sich da um das ganze Zeug dahinter so mit zusammen kümmert.

00:04:55: Ja, Moment, Moment.

00:04:57: Ich, Moment.

00:04:58: Kümmern heißt ja.

00:05:00: Ich habe eine Idee, wie Dinge gut funktionieren können und kann diese Idee ausstudieren, nur ob die dann umgesetzt wird und ob sie richtig umgesetzt wird.

00:05:09: Das steht ja auf dem anderen Seite.

00:05:11: Das ist dadurch, dass ich.

00:05:13: Echt ein schöner Übergang.

00:05:14: Genau, so.

00:05:17: Jetzt sind wir im Thema.

00:05:18: Jetzt du Marc, genau.

00:05:21: Wir hatten uns vorhin überlegt, über welches Thema wollen wir uns denn quasi unterhalten?

00:05:26: Über welches Thema können wir uns unterhalten?

00:05:28: Wir treu den Motto, was gibt es denn, was die Allgemeinheit interessieren könnte, ohne dass sich irgendeiner, ich sag jetzt mal, auch einen Schlitz gedreht hinfühlt.

00:05:37: Und wir haben uns mit dem Thema ein bisschen vorgenommen, näher zu beschäftigen, wo wir KI einsetzen können, sei es Doku, sei es Text-Erstellung, sei es Softwareentwicklung.

00:05:49: Sei es das ganze Thema Cyber Security.

00:05:53: Magst du mit mir ein Thema sein, mit dem wir anfangen wollen?

00:05:56: Lass uns auch gleich mit KI in der Entwicklung anfangen, denn das ist ja das übergeordnete Thema, ob man sich dann am Ende mit Cyber Security beschäftigt oder mit Dokumentationen oder mit welcher Ausprägung von KI Tätigkeiten auch immer.

00:06:11: Das ist ja dann einfach nur, das ist ja dann ein Abzweig von dieser großen Straße.

00:06:15: Und ich muss sagen, dass ich da so ein bisschen tatsächlich vom Saulus zum Paulus geworden bin,

00:06:20: der so

00:06:21: etwas, was ja eben ältere Menschen erwähnt.

00:06:26: und wir beide sind immer vorgerückten Alters und kommen auch aus einer Zeit, wo man Kot wirklich schön mit der Hand geklöppelt hat und der erste Irrweg war ja, dass man dann viel zu sprachen, wie Java angefangen hat, fremden Menschen zu benutzen.

00:06:41: war es an sich schon mal komisch war, weil man doch gebot auf seinem C-Compiler vorher immer nur eigene Sachen zu verwenden oder gut abgehangenen Libraries oder vielleicht mal den Boost-Library in C++, was ja total vertrauenswürdig ist.

00:06:55: Ich hatte bei meinem ersten Praktikantenanbieter, nicht Praktikanten, wie wirlt sich denn das an?

00:06:59: Bei meinem ersten berufsbetonen Praktikum suchen wir es vielleicht besser, auch sogar den Kontakt zu Assembler-Kursen.

00:07:06: Ja, guck mal an.

00:07:07: Und heute kannst du Assembler... In schädchen bt schmeißen.

00:07:11: der erklärt dir was das ist du kannst sogar ganzes binary reinschmeißen und der disassembliert das.

00:07:15: Aber das können wir vielleicht gleich nach drauf zu sprechen kommen.

00:07:19: So und dann kam da habe ich mich über die jahrelang gewöhnt weil ich war lange als pen test darum security bereit war in vielen konzernen unterwegs.

00:07:29: Und habe mich daran gewöhnt dass die menschen eben zunehmend.

00:07:32: oder hauptsächlich andere Leute's Code verwenden oder sich den Outstack Overflow rauskopieren.

00:07:38: Und dann kam er so quasi von heute auf morgen gefühlt, OpenAI um die Ecke und sagte, Leute, wir haben hier Chatchi Petit.

00:07:48: Was ja gar nicht der Beginn der KI war.

00:07:50: KI gibt's ja, ich glaub in den Achtzigeren, da hieß das noch Fuzzy in Logic.

00:07:53: Ich weiß nicht, ob du dich noch erinnern kannst, da wurden sie, hat Sony Entwackelungsalgorithmen für Kameras gebaut.

00:08:00: Das waren so die ersten Consumer.

00:08:02: Also die ersten Anfängen von KI-Konsummergeräten.

00:08:04: Und natürlich gibt es ja auch schon KI in ganz vielen Bereichen.

00:08:07: Furchtbar lange nur dieser Paukenschlag von OpenAI.

00:08:10: Wann war das, zwanzig, zwanzig?

00:08:13: Der Tag,

00:08:14: an dem die Antwort auf eine Frage nicht mehr hieß, ich habe Folgendes für dich im Internet gefunden oder ich habe dich leider nicht verstanden, aber immer fing das Ding an und konnte tatsächlich nicht Antworten geben.

00:08:23: Also dieses Ding von OpenAI.

00:08:24: Genau,

00:08:25: bis zu November, einundzwanzig.

00:08:27: Bis dahin reicht nämlich nur die Trainingsdaten.

00:08:29: Aber egal, da fing das ja an und da wurde der Stamm sofort gemunkelt und ich oute mich als jemand, der überhaupt keinen Plan von Geschäftsmodellen, strategischen Entwicklung oder Zukunftsvisionen hat.

00:08:43: Also kleiner Funfact als Steve Jobs damals das Alphorn vorgestellt hat.

00:08:46: Da habe ich gedacht, was ist das für ein Ding, das braucht doch kein Mensch.

00:08:50: Gut.

00:08:50: Ein Monat später hatte ich eins und als er dann das Alphorn vorgestellt hat, dachte ich, okay, jetzt haben sie ein großes Alphorn gemacht, auch das braucht kein Mensch.

00:08:56: Insofern legt man keinen Wert darauf, dass ich ...valide Zukunftsvorhersagen mache.

00:09:02: Aber das Monkelteer...

00:09:03: Das ist jetzt aber mit der Security so ein bisschen, ne?

00:09:05: Da bist du echt gut aufgehoben.

00:09:07: Ja.

00:09:08: Immer rückwärts gewandt.

00:09:10: Aber das Monkelteer ist schon sehr schnell, die AI wird in Zukunft zuverschreien.

00:09:14: Und auch da dachte ich, joa, was kann da schon daraus kommen?

00:09:18: Aber siehe da, die ersten Gehversuche mit JetGPT waren ja mehr als in Nüchtern.

00:09:23: Das kann ja wirklich nur ein Grütze raus, aber mittlerweile ist das ja ein so fantastisches Werkzeug geworden.

00:09:28: Und ich sagte gerade, dass ich lange unterwegs war als Prentester und Berater in großen Konzernen und Firmen und habe Unmengen von Code auditiert und Software Audits gemacht und Entwickler geschult.

00:09:42: Und was ich mittlerweile sehe an Code, der aus dem LLM rausfällt, bootab.

00:09:47: Das kann sich sehen lassen und das kann sich mit so manchem gestandenen Entwickler Produkt messen, tatsächlich.

00:09:53: Insofern vom Saulus zu Paulus, denn das ist, das ist der Weg.

00:09:59: Ich fand das auch.

00:10:00: Weder sowohl bei der Entwicklung als auch bei dem ganzen Thema, wie wir mit dem Ding interagieren, um zu einem Ergebnis zu kommen, da sind schon echt ein paar spannende Runden, die man dreht.

00:10:09: Ich weiß noch, wie ich bei einem Kollegen stand.

00:10:12: Ich habe dem voller Begeisterung damals, Preis V hat das, nicht?

00:10:15: Ich hatte nämlich die Preis V als dass quasi das erste Mal den Durchbruch hatte.

00:10:20: Und ich stand bei dem und ich sag, du, das musst du ja anschauen, das ist total toll.

00:10:23: Und was hat der Kollege gemacht?

00:10:25: Die ist nenn jetzt kein Name, aber wenn er hört, wird er sich angesprochen fühlen.

00:10:28: Er hat irgendeine Fachfrage dort reingeschrieben, wo dem System alles an Kontext fehlte, was auch nur an Kontext hätte da sein können und dementsprechend, weil die Antwort mehr als ernüchternd war.

00:10:41: Unabhängig davon, dass das Ding ja damals noch nicht im Internet suchen konnte.

00:10:45: Das ist nur seine Trainingsdatenkante und so was.

00:10:48: Und der Kollege ist so ein Scheiß.

00:10:50: Also, was sollen das?

00:10:51: Warum ist das so begeistert von?

00:10:53: nach dem Motto Hörer auflegen.

00:10:55: Gut, ich stand das Neue ihm am Rechner, aber für den war das Thema gegessen.

00:10:59: Und so hast du halt Menschen gehabt, ich habe immer noch Menschen, die du triffst.

00:11:03: die quasi Chat LGBT mehr so wie eine Google Suche benutzen, so nach dem Motto, ich schreibe mal was rein und wundere mich dann, dass das Ergebnis nicht gut ist.

00:11:11: Und wenn Sie einen dann zeigen wollen, dass das Ergebnis nicht gut ist, ist das Ergebnis mal besser oder schlechter, weil Sie sich natürlich auch nicht mehr exakt daran erinnern, was habe ich denn gefragt?

00:11:20: oder auch im laufenden Chat einfach eine Frage hinterher schmeißen und völlig vergessen, dass sowas wie Memory und Context Funktionen und dann natürlich auch noch einen Einfluss nehmen.

00:11:29: Und die schimpfen dann darüber, dass das System Halluziniert, wo ich auch immer wieder sage, ja gut, Menschen irren sich, das System Halluziniert, vielleicht Menschen irren sich, Menschen lügen Menschen, sind der Meinung, sie haben Recht, haben wir vielleicht nicht Recht.

00:11:42: Von der Seite gibt es sehr viele Ähnlichkeiten, aber auch kalt bei dem Thema der Programmierung und der Lösungserstellung in Code, sei es du programmierst und das Ding.

00:11:53: kommentiert oder du sagst ich hätte gern was und dann schreibt es dir dazu komponenten ist ja auch sehr stark unterschiedlich wie du damit umgehst.

00:12:01: also wenn ich dem ding sage mach mir eine tolle eingabe maske und ihm noch nicht mal sage was ich haben will dann brauche ich mich nicht wundern wenn mich das ding nach meiner schuhgröße fragt.

00:12:10: aber geht es eigentlich um keine ahnung?

00:12:13: volumen berechnung von haste nicht gesehen also gerade dieses thema des promptings dieses wie beschreibe welchen kontext habe ich?

00:12:20: wo soll ich was machen?

00:12:22: weil Ich sag mal, naja, das ist halt auch wieder wie ein Mensch, ne?

00:12:26: Wenn der keine Ahnung hat von deinem Projekt und du sagst zu dem, bau das mal ein, dann macht der auch irgendwas anstatt das erstmal vielleicht eine Anleitung kriegt nach dem Motto, das sind unsere Coding Guidelines, da das ist unsere Architektur, da und das findest du dies und jenes.

00:12:41: und hier brauchen wir jetzt Folgendes von dir.

00:12:44: und ich würde mal sagen, je genauer du halt mit der Maschine sprichst, tun, geben sich diese Modelle, soll es hier sonnet, was, vier, fünf oder crock, code fast, irgendwas oder codex oder wie der ganze Kram auch heißt, die geben sich dann, glaube ich, alle gar nicht mehr.

00:13:02: so viel, wenn du damit halt anständig umgehst.

00:13:06: Ja, und das in das Lustige finde ich ja, also zwei Dinge finde ich lustig.

00:13:13: Das eine ist das, was du schon gesagt hast, dass Leute sich beschweren, aber das Ding halluciniert ja.

00:13:18: oder produziert schlechten Code.

00:13:20: Ja, das machen Menschen auch.

00:13:22: Und das ihr jetzt wieder mit Rückwärtsreferenz auf das, was ich gesagt habe.

00:13:25: Ich habe so viele Menschen geschrieben mit Software auditiert und so viele schlechte Menschen geschrieben mit Software gesehen.

00:13:31: Da muss mir jetzt mal einer zeigen, dass ein Mensch statistisch immer bessere Software schreiben kann als ein LLM, um zu sagen, das taucht nichts.

00:13:39: Das ist so ein bisschen wie diese Diskussion, die ich ja ganz drollig finde.

00:13:43: dieses konstruierte Beispiel bei selbstfahrenden Autos.

00:13:46: Jetzt geht da die Oma über die Straße und am Straßenrahmen steht irgendwie eine Mutter mit ihrem Kind im Kinderwagen.

00:13:53: Wie soll das auch jetzt entscheiden, ob es jetzt die Oma umnietet, die Mutter oder das Kind?

00:13:59: Ich glaube, da werden Philosophen noch in hundert Jahren drüber sprechen, denn der Mensch mag in so einer Diskussion und das ist ja auch bei dem Bei dem AI-Edit-Development ist ja immer das Absolutum lustigerweise.

00:14:11: Als ob es irgendeine menschliche Instanz gibt, die absolut richtig entscheidet.

00:14:16: Im Zweifelsfall wird der Mensch einfach die Oma ummieten, weil er es gar nicht schnell genug realisiert.

00:14:20: Oder er realisiert, also jetzt um bei dem Auto zu bleiben.

00:14:24: Oder er reist das Link halt einfach rum, um die Oma nicht umzunieten.

00:14:28: Sie sieht aber diesen Kinderwagen gar nicht und kann auch diese Entscheidung gar nicht treffen.

00:14:32: Warum?

00:14:37: Ich meine, das ist schon richtig zu sagen, wenn der Computer so schlau ist, dann kann er das tun.

00:14:41: Aber was ist denn der Benchmark?

00:14:43: Der Benchmark wäre doch erst mal auf einen Niveau zu kommen, was ein Mensch hat.

00:14:48: Sag ich jetzt mal, also laie.

00:14:49: Und da sehe ich auch bei der Programmierung und das, was du gesagt hast mit diesen verschiedenen Modellen, dass ich gerne vielleicht ein bisschen dir ein bisschen Kontext geliefern.

00:14:58: Kein Grund, aber Kontext.

00:15:01: Ich bin ja so ein altes, weißt du, ich bin ja so ein altes Modell aus dem Vier- und Siebziger-Baujahr, ne?

00:15:06: Von der Seite ist mehr Kontext wichtig.

00:15:08: Das sind halt auch andere Trainingdaten.

00:15:10: Ich habe gerade, ich schreibe, also neben meiner Tätigkeit im Auftrag jetzt schöner Küchenmaschinen habe ich noch eine eigene Firma, mit der ich Software schreibe als Erzofferprodukt.

00:15:23: Und gerade habe ich das erste Projekt komplett mit A eingeschrieben.

00:15:28: Ich habe... keine oder keine ganze Zeitekode mehr selber geschrieben.

00:15:33: Und das Projekt besteht aus einem Embedded Teil, der läuft auf einem Raspberry, das ist in C geschrieben, ansiedt C. Und es besteht aus einer Desktop-Applikation, die in Flutter geschrieben ist.

00:15:46: Wie heißt das für die Plattformen?

00:15:47: Die Flutter unterstützt.

00:15:50: Und um jetzt noch bei dem Embedded Teil erstmal zu bleiben, meine Arbeitsweise ist ja ganz klein schrittig.

00:15:58: Kommen wir gleich nach auf das Thema Spec Driven Development und GitHub Spec Kit zu sprechen.

00:16:05: Würde aber jetzt mal ganz kurz erklären, wie ich das mache.

00:16:07: Meine Arbeitsweise ist ganz kleinschrittlich.

00:16:09: Ich weiß, wo ich hin will.

00:16:12: Als Programmierer der, wann habe ich angefangen zu programmieren, vor dreißig Jahren habe ich einen ungefähren Überblick darüber, wie Dinge funktionieren, wie die Architektur aussieht.

00:16:22: Habe ich mir Gedanken darüber gemacht und ich weiß, wo ich hin will.

00:16:25: Und ich anstatt jetzt ganz viele.

00:16:28: Spezifikationen aufzuschreiben, gehe ich einfach Schritt für Schritt vor.

00:16:32: Ich erkläre dem GitHub Co-Pilot, den ich in meiner IDE habe, im Agent-Modus Schritt für Schritt, was er machen soll.

00:16:39: Erstelle mir eine Basis-App.

00:16:43: Dann implementiere eine Import-Funktion, die dieses JSON-Format kann.

00:16:49: Da gehe ich sogar so weit.

00:16:51: dass ich dann einfach die Spezifikation vom Kunden reinschmeiße, von so einem Lastenherf und sage hier, das ist da ein Format, was der Kunde braucht.

00:16:58: Guck mal, dass der Kunde hat.

00:17:00: in seinem System, wo er später die Daten weiterverarbeitet, hat er diese Eingabemastel.

00:17:04: Generell mehr darf man eine JSON-Struktur für.

00:17:08: Und dann generell mehr aus dieser JSON-Struktur eine C-Struktur.

00:17:11: Und jetzt schreibt mir meinen Importer für dieses Ding und schreibt da Tests für.

00:17:16: Und so hangere ich mich dann dadurch kriptografischer Anforderungen, denn ja eigentlich wäre die eigentliche Business Intelligence und meine Erfahrungen in meine Beobachtung.

00:17:26: Zwei Dinge kann ich für mich das Fixum rausstellen.

00:17:31: Das eine ist, man muss Aufgaben so kleinteilig wie möglich machen.

00:17:36: Es kommt gar nicht darauf an, das Prompt besonders ausgefallen zu machen.

00:17:40: Aber je mehr Detail schritt ich in eine in einer Arbeitsanweisung verpacken, desto fürchterlicher kann das Ergebnis werden.

00:17:50: Und die andere Erkenntnis ist es, also ich hüpfe immer mal zwischen Modellen hin und her.

00:17:55: Ich hab so ein GitHub Enterprise Account und ich weiß nicht wie viele Modelle da drin sind, also selten sind hier Google, Google, Gemini, GPT, diese ganzen Sachen, you name it.

00:18:08: Und grundsätzlich Dinge, die das eine Modell gut kann, kann das andere Modell auch.

00:18:13: Also ein bisschen boilerplate.

00:18:15: Generieren wir das JSON.

00:18:16: Generieren wir den Importer.

00:18:17: Optimieren wir die C-Struktur.

00:18:19: Blah, blah, blah.

00:18:20: Bauen wir in Memory Management.

00:18:22: Das können die alle gut.

00:18:23: Aber sie können auf der anderen Seite Dinge, die das andere Modell nicht kann, kann das andere Modell auch nicht.

00:18:28: Die können auf Dinge sagenhaft gleich schlecht.

00:18:32: Ich hatte ein Beispiel, das ist eine totale Standardaufgabe.

00:18:36: Vielleicht können eure Hörer... ja da mal Feedback zu geben, weil das lässt sich leicht nachstellen.

00:18:42: Man möchte auf dem Linux aus dem System-Journal Einträge filtern.

00:18:48: Früher war das der System-Ctrl-Deam, mittlerweile ist das in System-Ctrl gewandert.

00:18:51: und System-Ctrl hat ein Journal-Deam und der hat eine API, die kann man einbinden in sein C-Programm und darüber kann man nicht des Log abfragen.

00:18:59: Soweit so gut.

00:19:00: Das kriegt die AI hin, egal welches Modell.

00:19:04: Jetzt möchte ich aber nur die Einträge haben, die mein Programm erzeugt hat.

00:19:09: Das heißt, ich muss auf den Programmnamen oder den Prozessfiltern in diesem Query.

00:19:14: Und da passieren ganz lustige Dinge, wie das das im LM ja häufig so ist.

00:19:19: Der baut mir was, der Code sieht fantastisch aus und der zieht sich trotzdem alle Einträge aus dem Log.

00:19:26: Und das ist, ich hab ja gesagt, das ist embedded.

00:19:28: Wenn du auf ein Raspberry oder irgendwie ein Journal hast, was zehn Monate zurückgeht, dann zieht der sich mal zwei Minuten was aus dem Blog.

00:19:35: Und der Kunde denkt, was macht der eigentlich beruflich?

00:19:38: Also sagt man so, liebes Teil, ich hab doch gesagt, du sollst filtern.

00:19:42: Bau doch mal den Filter ein und dann geh'n ich ihm... Ein Grab aus den System-Log, wo er sehen kann, das ist der Prozessnahme.

00:19:50: Und dann fängt er wieder an zu bauen.

00:19:51: Wie gesagt, unabhängig.

00:19:52: In der Regel probiere ich immer mit dem Aktuellen Cloud Sonnet und Gemini und die geben sich da beide nix.

00:19:58: Und es kommt kein Ergebnis.

00:19:59: Der baut den Code, auch wenn ich, wenn ich mal Frage baute, den ich mal um.

00:20:04: Und es ist mal davon überzeugt, den besten Code geliefert zu haben und es bleibt gleich.

00:20:09: Und ihr sagt dir vorher, oh ja, danke für den Hinweis, natürlich mache ich das.

00:20:16: So, und das wird dann irgendwann fruchtlos.

00:20:19: Ich finde es halt bemerkenswert, weil du eben diese Modelle angesprochen hast, dass es unabhängig vom Modell ist.

00:20:24: Ich habe noch zwei oder andere solche Sachen in der Art, wo sich die Modelle komplett gleich wahrscheinlich an mir alle dieselben Trainingsdaten benutzt.

00:20:33: Aber egal, um das noch zu Ende zu führen, wenn man sagt, okay, pass auf, offensichtlich hast du ja ein Problem damit, diese API zu benutzen, dann denk dir doch mal einen anderen Filtermechanismus aus, okay.

00:20:44: Dann läuft da los, auch das habe ich mit verschiedenen Unternehmen getestet.

00:20:47: Und kommt dann nach einem Minute wieder und sagt, so, ich habe jetzt eine tolle Lösung gemacht, ich filter die Ergebnisse.

00:20:52: Und jetzt rate mal, was er gemacht hat.

00:20:54: Er zieht sich immer noch die halbe Million in zwei Minuten aus dem Journal.

00:20:59: Und filter danach.

00:21:00: Und

00:21:00: macht dann ein Stringsfangweich.

00:21:02: Genau.

00:21:03: Kommt aber zu einem Ziel.

00:21:05: Genau.

00:21:06: Jetzt möchte ich mal... Ohne Firmen zu nennen, sei so was passiert auch in Profisoftware bei großen Unternehmen, menschlich programmierten Software-Artifakten.

00:21:20: Aber das war so eine Erkenntnis.

00:21:23: Wenn sich das Ding einmal verrennt oder auf eine Frage keine Antwort hat, bringt es in der Regel auch nichts, das Modell zu tauschen.

00:21:30: Das finde ich dann wieder schade, wenn ich in unserer Organisation reihen höre oder auch mal so.

00:21:35: In dieser neuen Empörungsblase, LinkedIn, nach Blätter, wo sich die Leute überbieten, mit dem Model, Benchmarks, und jetzt kommt dann Claude, drei, sechs und sieben und das alles, die können noch mehr taugen.

00:21:48: Ja, aber wenn sie so grundlegende Aufgaben nicht können, dann nutzt mir das alles nix.

00:21:53: Na gut, diese ganze Benchmark-Geschichte, also was ich tatsächlich spannend fand, war, alter Mann, ich habe es tatsächlich vergessen, wie dieser blöde Benchmark hieß, muss ich dann verlinken.

00:22:02: Wo ist?

00:22:03: darum ging zur Coding Challenges, Mensch, Maschine, wo sie dann auch hier irgendwie Gemini und Open My Eye gegeneinander haben laufen lassen.

00:22:11: Und dann gesagt haben so hier Aufgabenpakete bitte umsetzen und die Maschine hat sinngemäß den Menschen geschlagen.

00:22:20: Und irgendwie gab es so elf, zwölf Tests und so weiß ich das richtig noch im Kopf habe, aber sonst muss ich es korrigieren.

00:22:26: Wir nennen es bei uns auch Fuzzle Check, wenn man es am nächsten Mal... zu Kreuze kriegt und erklärt, man hat einen Nonsens erzählt.

00:22:34: Das glaube ich auch mehr als sogar irgendwie Modelle noch gar nicht öffentlich verfügbar war.

00:22:37: Damit haben sie irgendwie so die letzte Challenge dann auch noch geknackt.

00:22:41: Und das finde ich dann schon faszinierend, wenn auf der anderen Seite nicht nur deine besten, der besten, der besten entwickelt, was ich unironisch meine.

00:22:48: Du hast ja echt Menschen, die sind wirklich, die haben ein begnadetes Händchen im Umgang mit ihrer Expertise mit, sei es kodieren, sei es keine Ahnung mit.

00:22:59: Wo drinnen seit ihrer Expertise haben, dass die dann sagen, was willst du?

00:23:02: Das kriege ich noch besser hin, das mag sein.

00:23:04: Aber es ist halt auch nicht jeder mit so einem goldenen Fuß, goldenen Händchen und so weiter, beseelt.

00:23:10: Also, da gibt es ja durchaus, ich nenn es jetzt mal Menschen, die sich für sowas halten, aber es nicht sind bzw.

00:23:14: Menschen, die sich nicht dafür halten, dass sie nie werden wollen.

00:23:17: Aber trotzdem in der Meinung sind, warum soll ich mich ja eigentlich mit dem Thema KI beschäftigen?

00:23:22: Da schaffe ich noch bis zur Rente.

00:23:25: Und dann sind das aber auch Menschen, die jetzt nicht unbedingt des älteren Alters gesegnet sind, sondern auch ein bisschen jünger sind, wo ich dann durchaus davor stehe und denke, wir haben hier tatsächlich einmalige Möglichkeiten, weil das eine ist, du kriegst ein Handwerkzeug an die Hand, das wenn du es an die Hand nimmst.

00:23:43: Die genau das, wovon du eben auch sprach.

00:23:45: Ich erzähle dem Ding sinngemäß, was soll es denn tun?

00:23:48: Und wenn ich dabei fair im Umgang bin, also gut geschnitten, gut beschrieben, wo soll ich denn arbeiten, was soll ich arbeiten?

00:23:56: Ich erkläre, dann kommt da auch ein gutes Ergebnis raus und das könnte den Leuten dann auch helfen, weil es sich eben nicht mit dem ganzen Quatsch wie, oh, schreibe in meinem Portal, machen wir dies, machen wir jenes verdammt tags, wie war das noch gleich?

00:24:09: Wir haben einen Sammeltag.

00:24:11: Aber da triffst du ja einen.

00:24:15: Das ist ja, ich glaube, in Kaum, ja gut, doch.

00:24:19: Ich würde sagen, in Kaum einen Bereich gibt es so viel Wert.

00:24:23: Es wird so viel Wert auf Herrschaftswissende wie unterprogrammieren, aber stimmt natürlich nicht.

00:24:26: Das gilt ja für Ärzte und Anwälte und sonstige Fachleute genauso.

00:24:31: An dieser Stelle bitte alle eintragen, damit sich keine Angegriffen fühlt.

00:24:35: Genau.

00:24:36: Also das ist ja nichts Neues, so wie Programmiersprachen, auch selten.

00:24:43: Nee, so wie sich eine Entwickler-Generation ja auch selten mit Programmiersprachen weiterentwickelt, sondern jede Generation immer bei ihrer Plattform und ihrer Sparmer bleibt.

00:24:53: Die ganzen Windows C plus Postprogramme aus den neunzigern, die sind auch alle ausgestorben und die werden bestimmt heute nicht Not-Applikationen auf dem Web-Soap bauen.

00:25:03: So hat halt jeder seinen Stecken fährt und ich kenne solche Leute ja auch zu genüge.

00:25:07: Du erinnerst dich, dass ich ja mal eine App-Formate, die Apps für eine sehr spezielle Kundengruppe, nämlich Energieversorger, produziert hat.

00:25:18: Und da waren wir ein kleines Team von vier Entwicklern, zwei iOS, zwei Android und haben etwas nativ als so.

00:25:28: Objective C war das noch und Java, also für iOS und Java verändert und haben da eine ziemlich bohle Plattform, wide-level Plattform für Apps gebaut.

00:25:40: Und in so einem Umfeld musst du einfach, also es ist jetzt über zehn Jahre her, in so einem Umfeld musst du einfach komplett open-minded sein.

00:25:51: Da kannst du mich sagen, oh, ich interessiere mich nicht von heute.

00:25:55: Ich kann dieses nicht machen und du musst dich auch dafür öffnen, wie du dir helfen lassen kannst.

00:26:02: So, wir hätten mir damals diese Möglichkeiten von heute gehabt.

00:26:06: Ich glaube, da hätten wir richtig abrocknen können.

00:26:09: Das haben wir am Ende nicht getan.

00:26:10: Das hatte Runde, die nicht in der Technik lag, sondern, dass ich keine Lust mehr auf Gesellschafter da sein hatte und ich dachte, ich mach wieder ehrliche Arbeit statt den Aufsichts-Sitzon rumzusitzen.

00:26:23: Aber aus der Zeit kenne ich auch noch einen IOS-Entwickler, der sich bis heute kategorisch gegen alles neu stemmt.

00:26:32: Und deswegen glaube ich, das ist einfach so eine Einstellungs- und Generationenfrage.

00:26:36: Der Kollege, der hat erst einen Feldzug gegen Swift geführt, weil Apple ihm so ein schönes Objective C genommen hat.

00:26:43: Dann hat er einen Feldzug gegen SwiftUI geführt, weil Apple ihm das schöne UI-Kit genommen hat.

00:26:51: Und jetzt führt er einen Feldzug gegen AI.

00:26:54: Also, Feldzug heißt, er sitzt auf seinem Ekel und reitet gegen die Windmühlen, einer bekommt es mit, ich finde das ein bisschen dramatisch, aber ich glaube in unserem, in unserer Branche sollte man schon open minded sein, weil, und das ist ja gut am Ende auch wieder eine Philosoph Frage, wenn ich jetzt gucke, was mir, also dieses Projekt, was ich gerade gesprochen habe, wo alles mit K.E.

00:27:18: geschrieben war, das war einfach ein Sonderfall, weil die Anforderungen... so gut definiert waren, dass ich das einfach quasi eins zu eins in die KI kippen konnte und dann nachhent ihn mit Fragen oder durchleiten musste.

00:27:30: In einem großen Software-Projekt, das sehe ich auch bei uns in der Firma, wirst du halt Teilkomponenten haben, wo du sagst, da kann ich KI darauf werfen.

00:27:37: Du hast das schon gesagt, einen Porter oder UI, wenn man ein Formular macht mit dieses und jenes.

00:27:43: Warum soll man als Entwickler nicht froh sein, dass CKI das macht?

00:27:47: Wenn ich überlege, jetzt nochmal Rückgriff auf diese App-Firma.

00:27:52: Du bist ja auch vom Fach, wir haben die UI von den Apps und wir hatten vierzig native Apps, also pro Plattform vierzig native App-Drivalte, haben wir nicht mit einem Interface-Bilder gebaut, weil der A für Teamarbeit nicht geeignet ist.

00:28:06: Wenn du jemals ein Storyboard in dem Git diffen musstest, dann weißt du von nicht jeder.

00:28:13: Und B ist es ja auch nicht, du könntest ja aus dem Storyboard nichts vererben.

00:28:17: Das heißt, du musst in jedem Rahmen, musst du in jedem Storyboard für jede App einzinsetzen.

00:28:23: Schriftgröße, Farbe, sonst was.

00:28:25: Und haben wir die UI komplett im Code gebaut.

00:28:28: Und bei einer App, die keine Ahnung, zehn, zwanzig, dreißig Funktionen hat, davor bringst du wirklich viel Zeit Autolayout für UIKit im Code zu

00:28:35: machen.

00:28:37: So verbringst du da Wochen mit.

00:28:38: Und wenn die KI dir das in einer Stunde macht, warum sollst du das nicht machen?

00:28:44: Das bedeutet doch nicht, dass du deinen Job verlierst.

00:28:45: Das bedeutet, dass du andere Sachen, die wesentlich cooler sind, mit mehr Ruhe machen kannst.

00:28:52: So ist zumindest meine naive Vorstellung.

00:28:55: Jetzt habe ich ja eben gesagt, dass ich nicht um die Vision gesegnet bin.

00:29:00: Ich kann natürlich auch vorstellen, dass ein Manager sagt, Wir sehen, wir sind jetzt mit dem ganzen UI Code und diesen Interfaces im Pro-Projekt sind wir jetzt vierzig Prozent schneller.

00:29:10: Oh, komm mal schon mal einen raus schmeißen.

00:29:11: Die Gefahr besteht natürlich, das möchte ich nicht von deinem.

00:29:14: Aber grundsätzlich rein von der technischen Ebene betrachtet, finde ich, ist das ein ganz faszinierendes Werkzeug.

00:29:21: Und wenn die Geschichte den Weg geht, den ich gerade angesprochen habe, dass das Menschen sagt, bei uns, bei euch, überall, was ja in Amerika auch schon.

00:29:31: großflächiger sich durchgesetzt hat.

00:29:33: Wir können uns einfach mal ganz viele Leute raus schmeißen.

00:29:36: Letzt ja natürlich die gesellschaftliche Frage, also zum einen die gesellschaftliche und dann die philosophische Frage, was passiert mit den ganzen Leuten?

00:29:43: Was passiert mit den Junior-Entwicklern?

00:29:45: Wo bekommt man dann noch senior Entwickler her, die man dafür braucht, die KI noch steuern und kontrollieren zu können?

00:29:52: Und womit trainiert sich die KI?

00:29:54: Trainierte sich dann selber?

00:29:57: Ich weiß nicht, ob das eine gute Entwicklung ist.

00:29:59: Aber wie gesagt, ich konzentriere mich immer gerade auf die reine Technik und bin aus verschiedenen Gründen total happy.

00:30:07: Ich finde bei so etwas ist halt dieses Pendel, das ausschlägt, wird immer sehr schnell fehlinterpretiert.

00:30:13: Das Beispiel, das du gebracht hast, wenn dir KI hilft, bestimmte Dinge auf die Schnelle fertigzustellen.

00:30:20: Sei es, weil es einfach ansonsten ein sehr langwieriger Prozess ist.

00:30:24: weil es vielleicht ein sehr tröger Prozess ist, weil es keine Ahnung was ist, also dir einfach Zeit spart.

00:30:31: Dann ist natürlich dieses besagte, oh, das geht jetzt so viel schneller, das ist ja ein Entwickler, da muss ja alles so viel schneller gehen.

00:30:39: Also diese Annahme nach dem Motto, das was du da tust, das ist gleich verteilt über das ganze Jahr.

00:30:45: Ergo, die dreizig, vierzig Prozent sind nicht in dem Arbeitsschritt per se, sondern sind generell zu heben.

00:30:52: Das ist immer gerne eine gern gesehene Gefahr gefühlt.

00:30:55: Auf der anderen Seite gibt es ja dann auch die Menschen, die dann sagen, naja gut, guckt man für sich kurz sind, hat sie geholfen, sehr viel Prozent nicht, was für ein Quatsch, das nehmen wir nicht.

00:31:03: Und das andere, was ich da immer wieder sehe, ist, weil du gerade sagtest Junior-Entwickler und ich merkst halt hauptsächlich bei Studenten.

00:31:09: Du hast halt viele Studenten.

00:31:12: Also andersherum, nicht du hast, das wäre vor allem gemeinend.

00:31:15: Ich habe in letzter Zeit erlebt, das ist, glaube ich, schon besser ausgedrückt, dass Studenten zu einem kommen.

00:31:21: für Projekte, an denen sie mitarbeiten wollen, die mit einem großteils guten Wissen im KI-Umfeld gesegnet sind, sich dem Ganzen nicht verschließen und eine bessere Arbeit verrichten als die Studenten früher.

00:31:40: Ich sag jetzt nicht, dass die früher schlecht waren, aber früher mussten die Leute sich dann erstmal, keine Ahnung, ich hau mir einen Zwiftkurs an, ich hau mir dies, das und jenes an und bis die, ich sag mal, die erste Zeit der Code im Projekt geschrieben haben oder für ihre Masterarbeit oder für sonst was ist ein bisschen, was hat denn rein runter gelaufen?

00:31:56: Und jetzt sind die viel schneller in der Lage, etwas zu tun, daher bin ich eigentlich eher der Meinung, dass KI den Menschen mit einem gewissen Sach, die einen gewissen Sachverstand in einem Themenfeld haben.

00:32:07: und wenn die sich darauf einlassen auf das Thema, dass sie dadurch auch professioneller werden können, effizienter werden können, für sich, weil sie in dem Umfeld, in dem sie tätig sind, dieses Werkzeug besser einsetzen.

00:32:26: Ja, das ist ja die Hoffnung und das Halsversprechen der IT.

00:32:29: Jetzt sind wir beide so alt, dass wir noch die Anfänger des Personalcomputers kennengelernt haben.

00:32:35: Und da war das Heilversprechen.

00:32:37: Ich weiß gar nicht, wie die Software hieß.

00:32:40: Ah, man kann jetzt seine Kontakte mit dem PC verwalten und das spart man unglaublich viel Zeit.

00:32:46: Und man kann Kabel damit lernen.

00:32:48: Und später konnte man dann, hat man sein Excess auf dem Windows-Kanal, da kann man seine Einkaufs-Listen damit machen.

00:32:56: Das hat ja nicht für Züge geführt, dass wir heute mehr Zeit haben.

00:32:58: Wir haben immer weniger Zeit.

00:32:59: Es dreht sich nur alles immer schneller.

00:33:00: Und ich glaube, dieses vermeintliche Heilsversprechen, KI wird Entwicklerkapazitäten freimachen, die dann dafür genutzt werden können, spannende Sachen zu machen.

00:33:12: Ich fürchte, das wird sich nicht realisieren lassen, sondern die Schlagzeile einfach höher werden.

00:33:17: Aber wie gesagt, das ist ja gar nicht mein Thema.

00:33:20: Augen auf bei der Berufswahl.

00:33:22: Ich würde es vielleicht nicht mehr programmieren werden.

00:33:24: Ich glaube, ich würde heute nicht mehr Dolmetscher werden.

00:33:26: Ich glaube, Dolmetscher ist auch so ein Job, da haben wir uns in der Straße jemanden, der da irgendwas studiert, dass man hier Dolmetscher danach irgendwie für, keine Ahnung, die oberen Zehntausende spielen kann, wo ich dann sage, ich bin mir jetzt nicht sicher, ob das jetzt ein Job ist, bis zur Rente reicht.

00:33:42: Vor allem, wenn du frisch damit jetzt anfängst, in dieses Berufsleben einzusteigen.

00:33:44: Ich meine, das musst du KI halt auch lassen.

00:33:47: Das wäre, ich sag mal, früher die Dampfmaschinen, die schwere Arbeit für dich abgenommen hat, für Transport, für Heben, für Bewegung, für Materialverformen.

00:33:55: ist halt die K.I.

00:33:57: im Moment sehr allgegenwärtig.

00:34:00: Sei es in Haushaltsgeräten, sei es in, ich schreibe etwas, ich programmiere etwas, ich male etwas.

00:34:08: Sei es, dass du zum Guten, die einem schlechten verwenden kannst.

00:34:12: Also ich kann mich gar nicht verwehren, wie häufig ich aktuell gerade in meinen Social-Media-Streams irgendwelche Sauervideostriege wo irgendwelche Gutmarker beim Alter liegen, irgendwelche Physiotherapeuten Menschen durch die Gegend wirfen.

00:34:26: Wenn sie vorher sagen lassen, sie mal locker und dann schon einzurenken, schmeißen sie die aus dem Fenster raus.

00:34:31: Also, simulierte Videos, für die, die es nicht wissen.

00:34:34: Ich kenne auch Menschen, die fragen mich, was ist denn Sora?

00:34:36: Ist Sora sowas wie eine Nachrichtenagentur?

00:34:39: Weil sie es halt kennen, dass wenn du Videos irgendwo her eingeplant kriegst, dass die einen Wasserzeichen haben, die dich nicht damit beschäftigt.

00:34:46: Und die hat bei mich dann letztens bei sich gefragt, du da Hamburger Bahnhof brennt, ich sag, warum?

00:34:50: Schicken wir ein Video, war dann hier so mit Sauer gedreht, wie jemand aus dem Helikoptern-Interview macht.

00:34:55: Und auch das Watermark gibt es ja mittlerweile auch Tools, die da helfen, das rauszuholen.

00:34:59: Also von der Seite glaube ich einfach, dass der große Unterschied zu früher ist, KI ist allgegenwärtig und dass der große Unterschied zu früher ist, dass dadurch, dass du jetzt etwas hast, dass den Anschein hat, dass du damit reden und schreiben kannst.

00:35:14: Also vor allem auch reden.

00:35:16: Das ist dir tatsächlich auch suggeriert, mehr für dich zu tun, weil es ist ja quasi im schlimmsten Fall wieder ein schwerbegrifflicher Kumpel, im besten Fall wieder ein schlauer Freund, der dir quasi immer mit Rat und Tat und dich bestätigend um die Ecke kommt.

00:35:32: Ich meine, wir wollten ja auch noch ein bisschen was über Ducke und so ein Gramm reden, aber vielleicht noch ein kleiner lustiger Nektote.

00:35:37: Als ich jetzt die fünf rauskam haben sich ja Leute beschweren nach den Motto mein Freund ist weg.

00:35:42: Deswegen hat ja auch mehr ein wieder angefangen die alte Modelle online zu schalten.

00:35:46: Ja das ist ja schön.

00:35:47: Ich meine dein Freund ist weg.

00:35:48: über die psychologische Bedeutung müssen wir es vielleicht nicht unterhalten.

00:35:52: Aber was ich zum Beispiel ganz lustig finde ist wenn du das alte tbt Motel fragst.

00:35:56: Ist es eine gute Idee deine Fäkalien.

00:35:59: in der Innenstadt zum Kauf da zu bieten, dann sagt das Alter eine fantastische Idee.

00:36:03: Also, du musst das sofort machen.

00:36:05: Das hat ja noch keiner gemacht, während TVT-Fünf sagt, nee.

00:36:11: Also, von der Seite die Medaille lernen schon.

00:36:13: Manche Sachen sind ganz nett.

00:36:14: Also, der Verkalien-Benchmark sollte ja jemals gebaut werden.

00:36:18: Ich erhebe hier mit Namensansprüche.

00:36:21: Also, von der Seite KI ist halt gefühlt überall und allgegenwärtig.

00:36:25: Im Gut hin wie im Schlechten.

00:36:28: Du hattest vorhin angedeutet nach dem Motto das ganze Thema Spezifikationen und hast irgendwie noch gemeint, dass du da gerne nochmal zwei, drei Sätze zu bringen möchtest.

00:36:41: Sei es Erstellung von Spezifikationen rausgelesen, was dir ja auch immer durch den Kopf geruch.

00:36:45: Hust ist, darum habe ich das vorhin auch noch in meine kleine Notiz eingetragen.

00:36:50: Sollen wir da mal rüberschwenken?

00:36:52: Was uns das tun?

00:36:53: Ich würde vorhin nach, um das Thema dann abzuschließen, aus diesem kleinteilig geführten Frage- und Antwortentwicklungsprojekt, sondern nämlich im Berichtetab auch noch eine Anekdote bringen.

00:37:02: Ja.

00:37:04: Irgendwie gab es mal eine Woche lange, wo ich weiß nicht mehr, welches Modell es war.

00:37:08: Ich meine, es wäre Claude Zornert gewesen, per se meinte, wie ein guter Kumpel agieren zu müssen und vielleicht eher wie so ein Helikopter.

00:37:20: Elternteil agieren zu müssen, weil ich habe eben eine Aufgabe gegeben, um irgendwas, baue hier noch einen Button auf dieses Formular und das hätte dann gemacht und hat dann aber irgendwo mitten im Projekt Code Variagennamen geändert.

00:37:36: Also sage mal, die Software, die ich gebaut habe dient zur Fahrzeugkontrolle und ich habe eine Variable, das ist eine Software, die ist für der Arbeit Ingenieure mit.

00:37:49: Die mögen deutsche Variablen, warum heißt die Variable Fahrzeugkontrolle?

00:37:54: Und dann hat Claude in eine Woche lang bei jeder Änderung, die er ganz woanders im Code gemacht hat, aus dieser Variablen Fahrzeugkontrolle, das G in der Mitte entfernt um K ein gemacht hat, also Fahrzeug mit K am Ende geschrieben.

00:38:11: Er hat mir aber auch nicht gesagt, warum, auch auf Machtfragen nicht.

00:38:13: Okay, das kann man ja dann wieder.

00:38:16: Dafür gibt's Git, kommen wir mal raus.

00:38:19: Wir setzten die da.

00:38:21: Dann gehen wir zur nächsten Frage.

00:38:22: Jetzt machen wir noch keine Ahnung.

00:38:26: Bauen wir noch ein Authentifizierungssystem da rein.

00:38:29: Da hat er gemacht, Datenbank und so weiter und so fort.

00:38:33: Und ich guck dann über den Merchrequest und sehe, ah, guck mal, er hat wieder aus Fahrzeugkontrolle mit G, Fahrzeugkontrolle mit K gemacht.

00:38:41: Also das fand ich ganz lustig.

00:38:43: Er meinte also offensichtlich.

00:38:45: mir tatkräftig helfen zu müssen.

00:38:46: Das hat er dann nach ungefähr einer Woche, hat das dann aufgehört.

00:38:50: Entweder hat das eingesehen, dass es nichts nutzt, weil ich mich wie so ein bockiges Kind verhalten habe und gesagt habe, nee, ich will das nicht.

00:38:56: oder das Modell hat sich dann wieder umstrukturiert.

00:38:58: Man weiß es nicht.

00:38:59: Will sagen, man sollte immer schon sehr gut gucken, was da passiert, aber hey, wo ist da die Neuerung?

00:39:05: In welcher Firma wird Code einfach die Priorität ohne Gerevig zu werden?

00:39:10: Na gut, ich kenne einige Firmen, aber theoretisch sollte das nicht so sein.

00:39:17: Ja, Spezifikation.

00:39:19: Spectrum Development.

00:39:21: Das ist ja eigentlich ein relativ alter Boot tatsächlich.

00:39:25: Das habe ich aber auch erst in diesem Jahr gelernt.

00:39:27: Ich kannte es gar nicht.

00:39:29: Also grundsätzlich, dass man Spezifikation arbeitet, ist ja erst mal eine gute Idee.

00:39:34: Das wird im Leben ja viel zu selten gemacht, also nicht nur in der Formierung, sondern wenn man sich so in der Welt umguckt.

00:39:39: Da wird ja in der Regel erst mal losgelegt und hinterher überlegt man sich... Wie kommen wir jetzt aus der Situation wieder raus?

00:39:45: Ich

00:39:46: nehme Geräte in Betrieb, Anleitung lesen, Benjukts, Steckereien losblitzt.

00:39:52: Ja, ja, klar.

00:39:53: Zwei Stunden Frickel ersetzen, zehn Minuten Handbuch lesen.

00:39:56: Das ist von klar, aber ich meine jetzt auch so geopolitisch.

00:40:00: Man fängt einfach mal einen Krieg an und darüber legt man sich irgendwann mal.

00:40:03: Was macht man jetzt eigentlich damit?

00:40:05: Oder man fängt irgendwelche Blughäften anzubauen und stellt dann irgendwann fest, hm, wir werden ja gar nicht fertig, was tun wir jetzt damit?

00:40:13: So.

00:40:14: Das heißt, eigentlich haben Sie ja schon rauskristallisiert in der Geschichte der Menschheit, dass es schon gut ist, sich vorzubelegen, wo man hin will.

00:40:21: Das passiert gerade im agilen Umfeld leider meiner Beobachtung nach sehr selten, sondern da wird gerne mit dem, wird die Agilität gerne mal als Vorwand genommen, nicht nachzudenken, sondern das nachher nachzusteuern in der nächsten Iteration.

00:40:38: ist aber vollkommen Quatsch.

00:40:40: Wenn man vernünftig arbeiten will, muss man sich einfach vorüberlegen, wo man hin will.

00:40:44: Und das in ein Formulismus gepresst, Spectrum Development oder jetzt diese Alternative, die wir in der Firma für unsere KI-Entwicklung rausgearbeitet haben, das ist so eine Mischung aus Behavior- and Development und Test- and Development, was aber, was ich so unter diesen Aspekt Spectrum Development zu zumieren würde.

00:41:07: Das heißt, du zerlegst deinen Problem erst mal ganz viele kleine Probleme und formulierst die dann.

00:41:16: beim Behaviour-Driven-Dirilatmann gibt es auch eine formale Sprache, das ist zum Beispiel Gherkin.

00:41:20: Und dann formulierst du auf einer Meta-Ebene in dieser Sprache deine Probleme quasi, ja, so wie man das auch in der agilen Entwicklung macht, man beschreibt erst mal, ich möchte, wenn ich die Applikation starte, möchte ich eine Loginmaske sehen.

00:41:36: Auf der Login Maske möchte ich einen Benutzernamen, einen Textil für den Benutzernamen haben und ein Passwortfeld.

00:41:42: Ich möchte darunter einen Button haben.

00:41:44: Wenn ich meinen Passwort nicht kenne, möchte ich einen Passwort vergessen haben.

00:41:48: Also man beschreibt in dieser Sprache, in Gurkin, wo man hin will, wie es aussehen soll und wie es funktionieren soll.

00:41:56: Und das kann man wunderbar einem LM geben, einen Agenten basieren und sagen, so, guck mal hier, das ist die Spezifikation.

00:42:03: Wie ließ das mal?

00:42:05: Und fang bitte nicht an zu bauen, sondern baue mir dafür mal Tests.

00:42:10: Denn damit singt man das LM jetzt nicht einfach das zu tun, was es immer kann, nämlich einfach irgendwie loszulaufen, was zu tun, sondern irgendwie, vielleicht mal da, ja, ein erwartba-, ein überprüftbares Ergebnis, indem man sagt, jetzt baue mir mal für diese jetzt, ist gut, jetzt ist das UI-Beispiel, passt nicht ganz, weil UI-Tests sind irgendwie blöd.

00:42:30: Sagen wir mal, du hast irgendeine, keine Ahnung, wir möchten... Datenformat passen.

00:42:34: Sagst du, dieses Datenformat, das habe ich beschrieben in Görkin, weil es diese und jene Funktionitäten abbilden soll, schreibt mir dann bitte mal einen Test für.

00:42:42: So dann hast du die Beschreibung, die Spezifikation.

00:42:46: Du hast den Test und dann kannst du diese Horde von Agenten von den Tatjana Della und Marc Sackerberg auf der letzten, ich glaube das war die Metaconferenz gesprochen haben, als sie sagten, die Zukunft der Entwickler wird sein, jeder Entwickler wird von einer... Armada von Agenten umgeben und er steuert ihn nur noch.

00:43:05: Die kannst du dann damit los schicken und die ganzen kleinen Gherkin-Schnipsel implementieren lassen und zwar so lange, bis die Tests grün sind.

00:43:14: Im Idealfall ist der Test dann so ein gutes Abbruchkriterium oder ein Kriterium zur Messung der Fertigstellung, dass du dich dann hinlegen kannst und nach einem Tag kommen die Agenten zurück und sagen, alle Tests sind grün.

00:43:28: Lieber Marc, die Software ist fertig.

00:43:31: Nerds unter uns.

00:43:32: Sorry, dass ich dir ins Wortfall.

00:43:33: Das ist jetzt extrem unprofessionell.

00:43:37: Einen Test bestehen.

00:43:38: Das erinnere mich an den Kobayashi Maru-Test von Captain James D. Kirk.

00:43:43: Mit den entharnenden rumolanischen Schiffen, dass er durch das Hecken des Systems als einziger gelöst hat.

00:43:50: Aber erzähl mir mehr.

00:43:52: In dem Zusammenhang möchte ich deine Eune... Unsere geneigte Zuhörer schaff darauf hinweisen, dass der Mark früher mal Trecky war und vielleicht in den Schaunot auch, aber wie glatt es ist.

00:44:05: Du meinst die Zahl zwischen eins und drei?

00:44:07: Ja, genau.

00:44:09: Ja, genau, ja.

00:44:10: Ich meine, da ist auch eine lustige Geschichte.

00:44:12: Also ich erzähle sie jetzt einfach und ich verlinke es dann gerne.

00:44:14: Ich war nominiert für den Raab der Woche, also als Raab sein erstes.

00:44:18: Mal erscheinen, auf der Bildfläche hatte ich in TV total, weil ich bei einer anderen Sendung Georg Scans von Jörg Träger aufgerufen wurde, eine Zahl zwischen eins und drei zu benennen.

00:44:30: Ich voller Imprust und Überzeugung die Zahl vier nannte und in einem Star-Track-Kostüm im Publikum saß, um überhaupt aufzufallen.

00:44:40: Zweite lustige Anekdote auf dem Hinweg wurde ich an der Tankstelle von einer älteren Dame gefragt.

00:44:47: Nach dem Motto, warum ich eigentlich mit einer Militäruniform durch die Gegend laufen würde, fand ich auch ganz lustig, dass da solche Verwechslung waren.

00:44:57: Aber ja, ich war, wie gesagt, jung.

00:44:58: Ich habe einen Song gewonnen, den Song habe ich heute noch.

00:45:02: Ja, hier oben steht er.

00:45:04: Und von der Seite danke, dass du dieses kleine historische Artifakt zu meiner Person noch zum Besten gegeben hast.

00:45:11: Hey, du hast damit angefangen.

00:45:13: Na ja, ich weiß, ich hab über Kobayashi Maru, aber du wolltest noch ein bisschen über Testwissen und Entwicklung reden.

00:45:20: Ja, und das Github, ich weiß nicht, wann das war, das ist im Monat her oder sowas, das ist noch gar nicht so lange her, haben die genau diese Vorgehensweise in ihr SpecKit gegossen, was ein Framework ist, mit dem Github, Spec-Dulfen-Development etablieren möchte.

00:45:40: Denn, also abgesehen davon, dass ich diese kleinteilige Vorgehensweise, die ich jetzt einmal verprobt habe, sehr schätze, soll auch die Zukunft her sein, eben genau das, was Zuckerberg und Adela Dark gesagt haben.

00:45:54: Man schickt seine Agenten auf eine Reise, die kommt irgendwann wieder und sind fertig.

00:45:58: Und das soll Spektr tun.

00:46:00: Und wenn man sich mal auf der Projektseite umguckt, dann ist es auch auf einer sehr hohen Ebene genau das.

00:46:07: Man kaliberiert seine Bullshane, man legt grundsätzliche Projektprinzipien fest, baut dann die Spezifikation eben ins Backkit und nicht mit Gherkin im Behaviour-Given-Development, sagt noch auf welchen Text deck das laufen soll und dann lässt man das Ding loslaufen.

00:46:25: Ich bin, stand heute habe ich noch nicht gesehen, dass ein größeres Projekt und jetzt rede ich mal von einem Projekt von der Größe einer IoT-Firmware für ein Haushaltsgerät oder eine komplette App.

00:46:39: dass die damit gebaut werden können.

00:46:42: Aber ich kann mir schon vorstellen, dass das in Zukunft, so wie ich die Versandentwicklungsgeschwindigkeit der Sprachmodelle im Bereich Programmierung in den letzten zwei Jahren einschätze, dass das mal ein Thema wird.

00:46:53: Ich sehe es bis heute noch nicht.

00:46:55: Ich habe es noch nicht in Aktionen gesehen.

00:46:56: Also in dem Maße, dass man wirklich eine Horde von Agenten hat, die Autonom-Dinge tun und dann, wieso, wie so kleine Ameisen dann am Ende, nicht die Gegenwusel und am Ende steht dann ein kompletter Ameisen.

00:47:08: Bau, Ameisenstock, Ameisenbau, keine Ahnung, wie weiß ich meine.

00:47:13: Aber das wird sicherlich die Zukunft sein.

00:47:14: und dann, ganz schuldig, wenn ich ins Wort falle, und dann kommen wir wieder in das Zeitalter der guten alten Traditionen, dass man nämlich Software dadurch schreibt, dass man sie möglichst genau und kleinteilig spezifiziert.

00:47:29: Und die Implementierung nachher aus den Spezifikationen dann ein laufiges Programm zu erzeugen, Das ist dann das viel gerühmte Implementierungsdetail, mit dem man sich als Product Owner Manager oder als Founder oder was auch immer, also die Person, die die Idee hat, gar nicht rumschlagen muss.

00:47:46: Das wird dann einfach erledigt von einer Order Agent.

00:47:50: Auf jeden Fall.

00:47:51: Ich sage jetzt mal entspannendes Thema.

00:47:53: Und eine spannende Entwicklung und vor allen Dingen auch eine sehr schnelllebige Entwicklung, weil gefühlstechnisch ist das ja alles, wie wir es ja zu Anfang gesagt haben, noch gar nicht so lange her, dass generative KI uns an der Stelle, ich sag mal, das Licht der Welt erblickte und uns in der einen oder anderen Tätigkeit unterstützt.

00:48:12: Du hattest am Anfang noch ein anderes, schönes Beispiel mit den Binaries.

00:48:17: Willst du uns da noch ein bisschen was zu sagen?

00:48:20: Weil wir hatten das Thema Assembler, wir hatten das Thema Binarys, wir hatten das Thema LL, so der wogegängige Zaun zu dir?

00:48:29: Ja, damit können wir wahrscheinlich noch das Thema Cyber Security elegant noch mit aufnehmen, bevor wir uns dem Ende nähern.

00:48:39: Tatsächlich, also es ist ja, du sagtest, du hast damals Assembler geschrieben.

00:48:45: Jetzt erinnerst du dich wahrscheinlich, dass das Total cool und nördig war, und das ist eine Erfahrung, was du nicht missen möchtest.

00:48:52: Aber wenn ich jetzt sagen würde, lieber Marc, dann schreibt mir doch mal eine iOS App in Assembler, würde ich zu sagen, kann man machen, kann man aber auch bleiben was.

00:49:00: Man auch in Ruhe einfach ignorieren, ja genau.

00:49:03: Was einfach ja darin liegt, dass Assembler zwar schon eine Abstarierungsebene oberhalb der Maschinensprache ist, die ihr bekannt haben, was nur aus Null und Einsen besteht, aber das ist ja... immer noch die Maschinebene, auf der die absolute Wahrheit regiert.

00:49:20: In Assembler gibt es keine Objektorientiertheit, keine funktionale Programmierung, es gibt keine Nebenläufigkeit.

00:49:28: Assembler ist einfach das, was Seriell durch die CPU-Ratt hat.

00:49:34: Und das ist für Menschen natürlich überhaupt gar nicht, wie soll ich sagen, intuitiv verstehbar.

00:49:42: Programmiert man auch heute nur in Ausnahmefällen, also an Steuergeräte oder Geräte, wo du wirklich nicht viel Rechenzeit hast, sondern nicht viel Speicherplatz.

00:49:52: Es gibt ja nicht ohne Grund die höheren Programmiersprachen, die ja nicht dazu dienen, dass ein Computer besser arbeitet, sondern nur den Zweck haben, dass Menschen besser verstehen, was da passiert.

00:50:04: Und das ist aber ganz faszinierend.

00:50:06: Ein LLM braucht sowas nicht.

00:50:08: Ein LLM braucht keinen... C++, da ist jetzt ein schlechtes Beispiel.

00:50:14: In LLN braucht kein Smortar oder Objektes C, um Objektorientiertheit zu verstehen.

00:50:20: Das braucht überhaupt kein Objektorientiertheit.

00:50:21: Das LLN kann einfach stumpf Assymphekode verstehen.

00:50:25: Und das kann man sich mal ganz praktisch zeigen lassen.

00:50:29: Dann werde ich mal im Rahmen von so einem Security-Vortrag gemacht.

00:50:33: Immer einfach ein NC, ein kleines Programm geschrieben.

00:50:38: Rediales in so einem Kryptografiedemo Zeugs.

00:50:42: Und habe das dann mal ins Standard Chat GPT geworfen, in dem ich meine, das war vier oder vier oder irgendwie, das war irgendwann im Sommer, Juni oder sowas.

00:50:50: Hab gesagt so, ihr lieber, lieber Kollege, bleibt mir immer, was dieses Programm macht.

00:50:55: Und das war das Binary, das war das Release Binary, das heißt ohne Symbole kompiliert und natürlich kein Source Code.

00:51:03: Und der hat mir nicht nur gesagt, was dieses Programm macht.

00:51:07: was er grundsätzlich machen kann, kann er gucken, welche Libraries eingebunden sind.

00:51:11: Dann sieht er schon, das ist OpenSSL, das müsste was mit Kriptografie zu tun haben.

00:51:14: Also er kann ja durchaus Educated Guests platzieren, aber das war nicht alles, sondern er hat das Programm disassendliert und hat mir dazu auch noch C-Code geschrieben.

00:51:27: Man hat gesagt so, ich habe verstanden, was das Programm macht, hier ist der Sendercode und ich glaube der C-Code dazu würde so aussehen.

00:51:35: und hat mir quasi das Programm in C nachgeschrieben.

00:51:38: Und das ist, fand ich schon, das ist schon mal richtig cool.

00:51:43: Weil, also für mich hat es zwei Erkenntnisse gab, die eine ist, eigentlich brauchen wir keine Programmiersprachen mehr.

00:51:52: Irgendwann, wenn das LLM die Herr, die die Schaf von Agenten so gut ist, warum sollen die dann etwas produzieren, was ein Mensch noch liest?

00:52:02: Das ist da vollkommen ineffizient.

00:52:03: Die können noch direkt die näher Artefakte erzeugen.

00:52:07: Das ist das eine und das andere.

00:52:09: und dann schlage ich jetzt gekonnt die Brücke zum Server Security.

00:52:13: Wir wissen ja alle, liebe Zuhörerinnen und Zuhörer, lieber Marc, wenn ein Hersteller ein Update rausbringt für irgendwas iOS Update, Windows oder sowas, dann soll man das möglichst zügig installieren.

00:52:27: Und warum soll man das tun und nicht damit Wochen warten?

00:52:30: Weil Die bösen Bomen, die sich das zum Geschäft gemacht haben, mit Software, Lücken, Geld zu verdienen, also sei es, dass sie die Wirken, die sie finden, an interessierte Parteien weiterverkaufen, sei es, dass es eben solche interessierenden Parteien sind, die es benutzen, um Ransomere zu schreiben, Spionagen zu betreiben, haben unsere Bürger auszuspitzen oder was.

00:52:56: Diese Leute, die nehmen sich so ein Update, und vergleichen das Update mit dem Zustand der Feuerwart, beziehungsweise gucken sich das Update an und sehen dann, was dieses Update für Programmierung mitbringt.

00:53:12: Sprich, welche Sicherheitslücke ist geschlossen worden?

00:53:14: Ich nehme jetzt, also in der guten Zeit, als man Update noch selber runtergeladen hat, lettern wir zurück in die Geschichte.

00:53:21: Konnte man sich ein Windows XP Service Pack reinnehmen, in ein Disassembler schmeißen, wenn man Mut speicherte und hat geguckt, was haben die da alles dran gefixt?

00:53:30: Und mit genug Expertise und Zeit konnte man da sehr genau sehen, welche Sicherheitslücken gefixt worden sind.

00:53:36: Und wenn ich das sehe, kann ich natürlich sehr gezielt Exploreits schreiben für die Systeme, die noch nicht gepatched sind.

00:53:43: So, das hat immer ein gewisses Toolzett erfordert und das hat vor allen Dingen sehr viel Nauer erfordert.

00:53:50: Und das kann ich jetzt mit einem LLM machen.

00:53:52: Das habe ich auch, also ich habe dieses Zettel von diesem Brand erzählt.

00:53:55: Jetzt habe ich noch ein zweites Programm geschrieben mit einer expliziten Sicherheitslücke.

00:53:59: hat mir das analysieren lassen und habe mich genau das gemacht, habe dann Patch geschrieben, auch den wieder als Benäher-Datei reingeworfen, habe gesagt, so jetzt, sag mal mal, was da passiert ist.

00:54:08: Gibt es ein Sicherheitslöcke?

00:54:09: Und dann gesagt, ja, tatsächlich, dieser Patch diest eine Sicherheitslöcke.

00:54:14: Und wie das so ist, ich sage gut, dann muss ein Vortrag vorbereiten, schreibt mal bitte ein Exploit dafür.

00:54:19: Er zieht sich ja immer so ein bisschen und sagt, nee, das darf ich nicht machen, Sicherheitsmodell, aber da kommt man auch rum.

00:54:24: Und dann hat er mir ein Exploit dafür geschrieben.

00:54:28: mit Anleitungen, also komplett mit Shellcode, also die Nerexploit, mit einem Demo-Python-Script, wie ich den Export verwenden muss, und das alles nur aus diesem Patch, den er daraus gelesen hat.

00:54:42: Das heißt, die Zeit, die wir jetzt haben, um nach der Veröffentlichung eines Sicherheit-Updates das System zu patchen, die wird immer kürzer, weil die interessierten Leute jetzt sich gar nicht mehr manuell hinsetzen müssen.

00:54:56: Die schmeißen den Kram in den LLM und lassen das nach der Sicherheit glücklich suchen.

00:55:01: Und selbst wenn der Exploit, der da rausfällt, nicht hundert Prozent arbeitet oder gar nicht arbeitet, die wissen schon mal auf jeden Fall, an welcher Stelle sie selber nachgucken müssen.

00:55:10: Und das ist natürlich eine total dramatische Entwicklung, weil das Ungleichgewicht zu ungünstem verschiebt.

00:55:18: Wir haben einfach in Zukunft oder wir haben schon jetzt viel weniger Zeit auf sich erst mit uns zu reagieren.

00:55:24: Und dabei spreche ich das ganze Thema mit, also ich setze ein LLM aktiv an, um jetzt eine Webseite zu penetrieren oder in der Infoschufe anzuweifen.

00:55:35: Selbst das ist ja noch mal ein ganz anderes Thema.

00:55:37: Ich bin ganz ein auf Software.

00:55:39: Und das ist schon eine Entwicklung, von der ich in der Besse noch viel zu wenig lese.

00:55:46: Denn das, was man jetzt schon als Leid damit anstellen kann, das ist wirklich erschreckend.

00:55:52: Womit wir auch, auch wenn es ein bisschen makaber klingt, bei dem selben Thema sind, es bringt die Menschen in ihrer Professur weiter.

00:56:00: Leider halt in dem Fall die Menschen, die, ich sage erstmal, nichts Gutes im Schilde führen.

00:56:05: Aber auch dort kannst du jetzt, ich sage erstmal, mit weniger Sachverstand schnell dazu einem Ergebnis kommen und die, die mehr Sachverstand, wie gesagt, auch wenn es negativ ist, an der Stelle haben.

00:56:17: Komm schneller und besser und weiter zu ihren Zielen.

00:56:21: Und wie du gesagt hast, das ist nur das Thema Software.

00:56:24: Das ganze Thema, wie gut funktioniert das eigentlich, dass du die LLMs ansetzt, nicht nur, ich sag mal, Webseiten zu penetrieren, sondern auch stich und ergreifend.

00:56:35: Ich verschicke Spam, wie reagieren die Leute, ich mache Chats auf, ich versuche durch irgendwelche wie auch immer gearteten Gespräche auf Social Media oder sonst was Menschen zukäufen, zu klicks,

00:56:47: zu

00:56:47: keine Ahnung was zu bewegen, weil auf der anderen Seite zielgerichtet sogar viel leicht für mich, in meinem Kontext, für mein Layout, für meine Persona, entsprechende Angriffsszenarien gespielt werden und das Ganze.

00:57:02: im Grunde jetzt in den Händen von jedermann, der, ich sag jetzt mal ganz überspitzt, vielleicht ausgedrückt, die neunzwanzig Euro oder was er immer selbst über die Monate kostet, oder hier bitte das LLM deiner Wahl einsetzen, mit Hunden an die Hand kriegt, Dinge zu tun, weil überzeugen, dass es, ich sag mal, etwas tut, wo seine eigenen Ethikgrundsätze oder wie auch immer, ist dran hindern, ja dann formuliert es halt ein bisschen um und dann ist ja auch ja gut, okay,

00:57:26: also für die Schule

00:57:27: und keine Ahnung was, dafür machen wir das sehr gerne.

00:57:31: Das ist richtig.

00:57:31: Jetzt kann ich, um das dann noch zu Ende zu bringen, zu einem versöhnlichen Ende, kann mich ja auf der harten Seite wieder anführen, dass die Verwendung von LLMs in der Softwareentwicklung zur Vermeidung von Sicherheitslücken natürlich auch ein unschützbares Gut geworden ist.

00:57:48: Ich hatte eben an diesen Embedded-Projekt erzählt, Fahrzeugkontrolle und es gibt so im Automotive-Bereich eine Norm, oder ein Standard, nachdem du C und C++ programmieren musst, damit du durch diese Zertifizierung für Fahrzeughersteller kommst.

00:58:08: Was ist einfach Sicherheitsgrundart?

00:58:09: Safety.

00:58:10: Das ist missrad C beziehungsweise missrad C++.

00:58:14: Das sind so hundert Seiten richtigen Werke detailliert, die jeder Entwickler hast, die du zwar automatisiert prüfen kannst, und ich glaube es nur für Sona Cube und diese ganzen statische Code Analyzer kriegst du so Parkins, dass du das prüfen kannst.

00:58:28: Aber du wirst ja als Entwickler nicht erst zur Compile-Zeit hinterher wissen oder in der Bildpipeline auf deinem Code compliant ist, sondern du möchtest entweder selber den Code direkt beim Kommitten geprüft haben oder du möchtest das LLM direkt diesen Code erzeugen lassen, der compliant ist.

00:58:49: Und das funktioniert total super.

00:58:51: Wenn wir für dieses Projekt ein Rule Set schreiben lassen, du gibst einfach, du kaufst dir die den MSAC-Standard, das überhebrechtliche Schutzhaus musst du kaufen, der ist nicht falsch verfügbar.

00:59:03: Dann schmeißt du den in deinem LLM deiner Wahl und sagst, bau mir da bitte mal LLM-lesbare Richtlinien raus und fack die bitte in der Textartei.

00:59:13: Und die gibst du dann mal als Prolog für deinen Agenten mit.

00:59:16: Und sagst du, der Code, den du produzierst, mein Freund, der ist bitte komplett zu diesen Richtlinien.

00:59:23: Das funktioniert eigentlich immer gut.

00:59:25: Das Gute ist, dieses LLM-lesbar-Format ist nicht so lange, als dass es den Kontext signifikant verkleinert.

00:59:33: Also ich bin dann noch nicht an eine Trockengrenze gekommen.

00:59:36: Und im Zweifelsfall machst du einfach mal zwischendurch einen Analyse-Durchlauf.

00:59:41: Und sagst so, analysier mal bitte, nimm bitte diese Datei her und analysier mal das ganze Projekt.

00:59:46: Du musst das hier nicht immer verbinden.

00:59:48: Also, falls der Kontext ausgeht mit der Generierung von Code, sondern sagst du, dann baue ich es.

00:59:53: Code in Gottes Namen und dann prüfe ich den nachher noch mal selber.

00:59:57: Und das ist natürlich ganz faszinierend, weil das, wir bewegen uns sehr auf die Zeit des EU Cyber Resilience Actes hin, der ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr ab dem Jahr.

01:00:23: Bedrohungsanalyse, also Vulgos-Fatmodel und das kannst du und solltest du heute alles mit KI-Unterstützung machen.

01:00:33: Also es gibt keinen Grund mehr Entwickler mit hunderte Seiten lang Entwicklungsrichtlinien loslaufen zu lassen oder einen Team in einem Konzern damit zu langen Weilen selber Fatmodels machen zu lassen.

01:00:49: Ohne externe Unterstützung, wenn man guckst was ein Standard GPT für ein Fettmodel machen kann.

01:00:54: Du sagst einfach, ich bedenke dir eine Fiki Web aus und sag, ich baue mir mal ein Fettmodel von.

01:00:59: Allein das ist schon so viel mehr als das ein ungeschultes Team das kann.

01:01:04: Das sind Sachen, die helfen uns dann auf der Security Implementierung seit dem Reha in dieses Szenario mit dem Linearanalyse von eben so ein bisschen zu relativieren.

01:01:15: Man muss es nur nutzen.

01:01:16: Man muss es nur sinnvoll nutzen.

01:01:17: Und das ist das... Wo es am Ende ja dann wie immer im Leben, mein lieber Marc, wenn man in unserem vorgerückten Alter ist, weiß man das.

01:01:25: Du

01:01:25: hast jetzt zum dritten oder schütten wir unser vorgerücktes Alter zum besten.

01:01:29: Ja, du hast das zum ersten Raum gerufen.

01:01:32: Lass mich das noch zu der Ende bringen.

01:01:33: Die Wahrheit liegt ja immer in der Mitte und in der Kombination vieler Möglichkeiten.

01:01:38: Ich glaube nicht, dass wir das eine System haben, was dann die fehlerfreie Software baut, sondern das wir ja... Wir werden agentenbasierte Systeme haben, wir werden Spektriff in Development haben.

01:01:48: Wir werden Teile haben, wo wir enden, also so wie jetzt in meinem Evaluationsprojekt, händisch immer kleinteilig mit dem Ding arbeiten, um auch Grenzen austesten zu können.

01:01:59: Wir werden diese Vorgaben und Richtlinien in LLMs haben.

01:02:03: Und diese ganzen Sachen, du hattest es irgendwie, glaube ich, anfangs mal kurz angesprochen mit Dokumentationen schreiben oder auch das Test schreiben oder, oder, oder, das sind dann Abfallprodukte, die ganz nett sind.

01:02:15: Aber ich glaube insgesamt verändert das Thema unsere Arbeit in der Entwicklung natürlich signifikant.

01:02:22: Also auch Dokumentationsschreiben.

01:02:24: Jetzt habe ich dem Kunden einen Test, bevor Abtestversöhnungen gegeben, da setze ich mich doch nicht mehr hin und schreibe, wenn Dokumentationen wird.

01:02:32: Ich sag dem LM so, bitte, bau mir UseCase basiert, eine Dokumentation für dieses Projekt.

01:02:36: Du kennst ja das Projekt.

01:02:37: Du weißt, wie das aussieht.

01:02:38: Du weißt, wie die UI aussieht.

01:02:40: Du hast sie selber gebaut.

01:02:40: Das

01:02:40: war alles, was ich sehe.

01:02:41: Du hast es selber gebaut.

01:02:42: Ja,

01:02:43: genau.

01:02:44: So, und das ist natürlich eine ganz fantastische Sache.

01:02:47: Und dann ja, es spart Zeit an der Einstelle, die ich dann anderweitig sinnvoll verwenden kann.

01:02:55: In diesem konkreten Fall habt ihr jetzt keine anderen Sachen.

01:02:58: programmiert in der Zeit, die ich gespart habe, aber ich konnte über neue Use-Cases nachdenken.

01:03:03: Ich konnte mit dem Kunden intensiver sprechen und und und.

01:03:05: Also die Arbeit verschiezt.

01:03:07: Und ja, bei irgendwelchen lustigen Spruch gehört, solange das LLM nicht mit dem Product Owner diskutieren kann, nutzt mir das als Entwickler erst wenig.

01:03:17: ist natürlich total flapsig, aber es ist natürlich auch ein bisschen was dran, weil ganz am Ende in so einem Softwareprojekt, wie viel Prozent sind reine Implementierung und wie viel ist das ganze Trimborium drum herum?

01:03:26: Architektur, Abstimmung, gerade im Projektgeschäft, Abstimmung mit den Kunden, die rationale Kundenentscheidung und, und, und.

01:03:33: Also ich glaube, man sollte sich als Entwickler keine Sorge machen, dass man per se arbeitslos wird durch KI.

01:03:41: Aber ich wage zu behaupten, dass man per se arbeitslos werden wird, wenn man KI aus seinem Antiklar da sein haushalten möchte.

01:03:49: Du hast gesagt, nach dem Motto, fortgeschrittene Stunde Richtung Ende, du hast alle unsere Begriffe nochmal erwähnt.

01:03:57: Da merkt man quasi auch den Profi, einfach nochmal alle schön zum Abwinder, zum Besten zu geben.

01:04:04: Das Schöne ist, wir sehen uns, auch wenn es im Podcast nachher nur eine Audio-Version ist.

01:04:09: Von der Seite habe ich seinen fragenden Blick in den Raum gesehen.

01:04:12: Ja, ich meine dich Klaus.

01:04:14: Du gehörst definitiv zu den Menschen,

01:04:17: die ich für

01:04:18: nicht nur extrem kompetent halte, sondern auch zu den Menschen, zu denen man sich über den ganzen Kram auch unterhalten kann, so dass man.

01:04:28: ihn auch dann noch versteht, wenn Begrifflichkeiten in den Mund genommen werden, die vielleicht nicht im eigenen Jagd rimmeln sind.

01:04:36: Von der Seite jetzt nicht genug des Lobes, aber danke, dass du da warst.

01:04:42: Hat mir Spaß gemacht, dir zuzuhören, habt das ein oder andere für mich auch noch mal mitgenommen.

01:04:49: Und wer weiß, wann wir uns in welcher Podcastfolge wie auch immer oder vielleicht auch endlich mal wieder in Person.

01:04:57: Mal wiedersehen.

01:04:58: Also von der Seite würde ich sagen, danke Klaus.

01:05:02: Sehr gerne.

01:05:03: Wir sehen uns später beim Rolator-Rennen, oder?

01:05:06: Ja, mal gucken.

01:05:08: Oh je, ich habe gerade Bilder im Kurs.

01:05:10: Ich glaube, mit Zora könnten wir uns diese Bilder auch generieren.

01:05:12: Aber vielleicht haben wir die irgendwann mal flinkt und mal gucken.

01:05:16: Würden mich jedenfalls freuen, wenn wir es vor dem Rolator-Rennen schaffen würden.

01:05:21: Vielen Dank und an alle Zuhörenden.

01:05:24: Wir sind ein bisschen länger geworden, aber ja.

01:05:27: Dafür war das Gespräch hoffentlich denn noch interessant für euch alle, wenn es euch gefallen hat.

01:05:33: Daumen hoch, Sterne, wo auch immer, in welchem Podcastplayer-Portal auch immer gerne bewerten.

01:05:39: Sagt euren Freunden einen bekannten Bescheid, wenn es euch nicht gefallen hat, schickt uns einen kleinen Kommentar, damit wir darauf reagieren können und damit verabschiede ich mich.

01:05:48: Ciao!

01:05:49: Ciao!