Borg KI und das Ende des Interfaces
Shownotes
Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples https://arxiv.org/html/2510.07192v1
Transkript anzeigen
00:00:12: So,
00:00:33: bevor wir hier weitere ikonische Borgmomente haben, die mir das Schau dann über den Rücken laufen lassen.
00:00:41: Was nicht der ein oder andere von unseren Zuhörern, der das vielleicht nicht kennt.
00:00:47: Soll es geben?
00:00:48: Ein kurzes Zitat aus einer Star Trek Folge.
00:00:51: Star Trek, grob, immer in welche Raumschiffe, egal in welchen Episoden, die irgendwo durch das All geflogen sind, mit einer Crew, die mehr oder weniger zusammengewürfelt ist, aus allen möglichen Menschen rasten, hast du nicht gesehen?
00:01:04: Lebewesen.
00:01:04: und die immer versucht haben, so ein bisschen das Gute der Menschheit in die Welt zu tragen.
00:01:12: Dabei dann aber auch ganz kollektiv mal gescheitert sind.
00:01:14: und in diesem dieser situation sind sie.
00:01:18: Auf ein anderes kollektiv gestoßen die bork und den den wir gerade gehört haben.
00:01:23: das war john lukpa k eigentlich einer der ikonischen.
00:01:28: Kapitäne der uss enterprise die immer wieder in star trek vor kommt.
00:01:31: zero eins d. was eigentlich noch dazu sagen
00:01:36: für die nerds da draußen zu denen mein kollege anschein auch gehört.
00:01:41: und dieser dieser liebe johnny pika wurde von dem borg assimiliert.
00:01:47: die borg waren so ein computer computer kollektiv cyborg kollektiv die alle möglichen welten überfallen haben und jeweils die lebewesen
00:02:01: und technologisch und erhummungshaften ihrer kultur zugestürt haben.
00:02:08: und
00:02:08: wir haben gerade der kapten pika gehört der Was?
00:02:12: Fisch assimiliert seine Kollegen quasi jetzt auch assimilieren will.
00:02:18: Jetzt haben wir relativ viel schon.
00:02:20: Ja, dafür hast du gesagt, dass ich mach den einstiegigen Borg ist das durchaus total toll, dass du schon ganz viel weggenommen hast.
00:02:26: Ganz kurz, weil du sagst, das ist wirklich hier Nerd.
00:02:28: Also ja, ich bin da an der Stelle ein Nerd.
00:02:30: Ich hatte damals, ich war auch mal jung, da war Star Trek im Fernsehen.
00:02:34: Und da gab es damals im ZDF gab es eine Talkshow, wo man gefragt wurde, wofür steht das?
00:02:40: T bei James T. Körg.
00:02:43: Und die Lösung war lauter an den Tinnen.
00:02:46: Was?
00:02:46: Als er debattiert ist.
00:02:48: Ja, ja.
00:02:48: Genau.
00:02:49: Und ich habe als Jugendlicher da angerufen und Terror am Telefon gemacht, wie man eigentlich so ein Quatsch erzählen kann für diesen Kapitän, der in ... ... in ... ... eighteen, seventy Folgen heroisch sein Bauch eingezogen hat, um die Crew durch die unendlichen Weiten zu ziehen.
00:03:03: Bauch einziehen, arbeite ich heute noch, aber so viel zum Thema Nerd.
00:03:07: Sehr gut.
00:03:09: Die folge die wir heute einig drehen wollen und aufnehmen wollen.
00:03:12: drehen ist gut aufnehmen wollen ist so ein bisschen erst mal so formulieren wie.
00:03:18: Ich lege jetzt fest mag unabgesprochen.
00:03:22: Und das Ende des Interfaces.
00:03:26: Ja also ich mein als wir uns auf die Folge vorbereitet haben.
00:03:30: Es gibt auch Vorbereitungen.
00:03:32: Kam so ein bisschen die Idee auf dieses ganze Identikreden das wir.
00:03:37: Systeme, Aufgaben geben, Tools an die Hand geben.
00:03:40: Das Systeme, sich auch mit anderen Systemen dann unterhalten.
00:03:44: Und wir sind noch mal rückblickend geguckt haben, was haben wir eigentlich so aus der Science-Fiction unserer Jugend so gelernt und mitgenommen.
00:03:51: Da haben wir halt ganz schön auch das Thema aus, naja, wenn nicht von kubernetesen, von digitalen Objekten, die miteinander interagieren, um ein größeres Ziel zu erreichen, in der Science-Fiction-Spreche, landen wir sehr schnell bei dem Borg.
00:04:03: Die Borg, für die sich jetzt nicht wissen, da möchte ich vielleicht noch ein bisschen was abholen.
00:04:07: sind quasi Lebewesen, die durch klobernetische Zwangsinplantierung, anders kann man es ja nicht sagen, die gehen nicht in Apple Store und sagen, ich hätte gern Brain Interface.
00:04:16: Ja, Assimilieren ist nicht so unbedingt die positive Art und Weise, wie man sich vorstellen
00:04:22: kann.
00:04:22: Wie gesagt, man geht nicht ins Store, man sagt, ich hätte gern Brain Interface, gibt es auch nicht zu kaufen, wird es vielleicht auch demnächst nicht so schnell zu kaufen geben, aber man wird da eigentlich mehr so Zwangs aufgenommen in dieser Gemeinschaft.
00:04:33: Und dadurch wachsen einem Kübernetischechs im Plantate, man Dinge in deines Körpers werden sinngemäß ersetzt und du verlierst die Kontrolle über deinen Körper, über deinen Handeln und hörst in deinem Kopf sinngemäß die Stimme aller, gesteuert von der Königin, die Borg Green, die sinngemäß das ganze Kollektiv unter sich vereint und ja quasi die Losrichtung vergeht, wohin das Kollektiv sich quasi bewegen soll am Schluss.
00:04:59: Dann redet kurzer Sinn, ne?
00:05:00: Es gab später noch mal so eine Neuesversicherung mit TK, da haben sie noch die Königin irgendwann mal drauf gekriegt.
00:05:05: Aber andere Themen haben.
00:05:06: wir wollen ja vielleicht nicht zu viel von den ganzen Films spoilern.
00:05:09: Lass mich auch kurz eine.
00:05:10: Okay, okay, okay.
00:05:12: Das ist es schön, sagt es mit dem, man geht nicht in den Laden und sagt, ich möchte ein Brain-Interface haben.
00:05:16: Also für die digitalen Marketiers unter uns, es gab auch kein Opt-Out.
00:05:20: Na, und wurde einfach, also es gab nicht, ich kann mich vermischen jetzt wieder wegnehmen, ich möchte nicht dabei sein, na, hab's mir anders überlegt.
00:05:29: Und
00:05:29: alle waren gleichberechtigt.
00:05:30: Alle wurden nach dem Motto, Hund, Katze, Maus, Babys, Erwachsene, Männer, Frauen, fand ich egal, mit den Nano-Tubes und dann ab die Party.
00:05:39: Ja, aber dafür hatte man halt auch ein gemeinsames kollektives Bewusstsein.
00:05:44: Also es ist so, dass da im Prinzip die einzelnen Drohnenagenten, könnte man heute vielleicht sagen, aus unserer verhörtlichen Perspektive, diese einzelnen... Cyborg ist dann immer ständig von einander wussten und alle gemeinsam gefühlt haben, gemeinsam gehandelt haben und das Wissen des einzelnen Agenten, das gleiche war, was die anderen Agenten.
00:06:07: Das
00:06:07: war das, wo sie dann auch im Film sind gemäß, wenn sie vor einem Problem standen, sich angepasst haben, um beispielsweise in dem Fall einen Faserbeschuss und Schilde und sowas.
00:06:19: Aber nach dem Motto, wenn ich zwei Borg mit dem Faser umgemetzelt habe, dann ist es mir quasi beim dritten, vierten vielleicht nicht mehr so leicht gefallen, bis unmöglich, weil er sich schlicht und ergreifend angepasst hat, an die Art und Weise, wie ich mit ihm, ich sag jetzt mal, interagiert
00:06:33: habe.
00:06:35: Ja, ja, war so ein bisschen jetzt so, bevor wir immer noch weiter in diese Backel reinsteigen, wenn wir das so vergleichen mit der heutigen Welt, die wir haben, wenn wir auf das Thema KI gucken, vielleicht auch erstmal das das einzelne modell das antrennete modell das ist ja im prinzip erst mal noch so etwas, wenn wir sehen, dass wir das alle nutzen dieses eine modell so wie gpt dann auftauchte auch ohne ohne aktuelles internet wissen, sondern nur mit dem wissen des jeweiligen training kann das auf die wir als menschen an der wahl gleichzeitig zugegriffen haben, dann war das eigentlich auch schon ein bisschen vergleichbar mit so einem kollektiven wissenspool, der für alle erstmal gleich ist.
00:07:18: Adaptiv natürlich reagiert hat, je nachdem, welche Fragen ich da reingestellt habe, welche Prompte ich reingebe.
00:07:22: Das ist schon so ein bisschen eine erste Analogie, die schon ganz von Anfang des LGBT-Moments ist eigentlich da.
00:07:29: Wir hatten schon ein kollektives, nicht bewusst sein, aber kollektives, gemeinsames Verständnis plötzlich über Themen.
00:07:36: Auf das
00:07:37: alle Quad demokratisch die Zugriff auf LGBT hatten, auch in gleicher Art und Weise und Güte zugreifen, konnten und können.
00:07:46: Und es gibt sicherlich noch Manche Menschen erreichen schneller und einfacher ein Ergebnis, weil sie das Thema des Promptings beherrschen und der Kontext gab.
00:07:55: Aber ja, so wie du sagst, eigentlich hatten wir quasi alle Zugriff auf dieses Wissenskonektiv.
00:08:01: Los, nicht nur Wissens, da hast du gerade das auch noch mal schön eigentlich noch mal spezifiziert, sondern eigentlich auch Fähigkeit.
00:08:07: Also das heißt... Unabhängig sagen wir mal erstmal von meiner.
00:08:10: Wie gesagt, natürlich wenn ich jetzt keine Ahnung von dem Thema habe, dann werde ich auch schlechter prompten, ob das jetzt Wissensanfragen sind oder auch Coding-Anfragen.
00:08:17: Aber trotzdem alle dem von der, von der Demokratisierung hatten just in dem Moment alle theoretisch die gleichen Programmierfähigkeit.
00:08:26: Zum Beispiel, also das war jetzt so vergleichbar mit dem Feser-Beschuss, wir haben gelernt, alle Python zu schreiben, plötzlich in diesem Moment.
00:08:32: Das war uns nicht allen bewusst, aber eigentlich waren wir so weit.
00:08:36: Man muss auch sagen, es ist ja nicht nur, dass du den Zug auf dieses Wissen hast, weil okay, es gibt verschiedene, ich sag mal, Preismodelle von TechGPT.
00:08:44: Aber wenn ich das vergleiche mit, was muss ich für Gebühren abdrücken, damit ich Bücher, Kurse, Seminare buchen kann, mit den Menschen, mich stressen kann, den Raum und verlassen muss, woanders hingehen muss, um vielleicht eine Schulung, eine Konversation mit einem Experten führen zu können.
00:09:04: bringt das das halt auch alles in den selben Punkt an Raumzeit und Ort, dass du alles zur selben Zeit zur Verfügung hast, zur irgendwie dem kostenlosen Modell oder das Kostner, ne?
00:09:15: Neun, zwanzig Euro, zweihundert, neun, zwanzig Euro, je nachdem, welches Modell du abgeschlossen hast.
00:09:19: Du investierst einmal und hast quasi für diesen Monat diesen Zugang auf diese Wissensbasis, auf diese Möglichkeiten, die die Modelle auch mittlerweile sich angehäuscht haben.
00:09:27: Ist das dann tatsächlich, wenn wir jetzt mal rein denken, in die Historie?
00:09:31: Dann ist das auf jeden Fall einer der ersten Borgmomente, wenn man so möchte.
00:09:36: Oder würde man sagen, auftauch in der GPT-Moment, wie immer wir den nennen, natürlich auch alle anderen Sachen, die vorher da waren.
00:09:43: Und jetzt gibt es auch eine Modelle, aber lass uns mal diesen Moment, weil das bei tatsächlichem Einschneidern Moment, nehmen unheimlich demokratisierter Zugriff auf Wissen, unheimlicher demokratierter Zugriff auf Fähigkeiten etwas zu erzeugen.
00:09:56: Nehmen wir das ganze Gen-EI-Thema rund um Bilderzeugung, alles was da so parallel in diesem Zeitraum dann wieder auftauchte.
00:10:02: Zu.
00:10:03: Das war auf jeden Fall im Bockmoment.
00:10:05: Gegebenenfalls könnte man sowas wie Internet, Vernetzung von Sachen, wo er auch schon so als weiteren Bockmoment Google vielleicht so als dieses wenigsten auf Wissen zugreifen dann, als es da war, ne?
00:10:18: Schon mal bezeichnen.
00:10:19: weiter zurückgehend war dann aber eher wahrscheinlich neben natürlich so infrastruktur verkehr wo wir uns auch dann stärker vernetzen konnten dadurch dass die welt müssen sammeln gewachsen ist.
00:10:30: Das thema dann buchdruck und bücherein wo dann im prinzipissen demokratisiert worden ist und eben auch ein größerer menge zu zutreffen zugänglich war dann eben vielleicht der allererste borgmoment
00:10:42: sind wir schon wirklich weit in die vergangenen kreis als angefangenen zbd habe ich gedacht.
00:10:47: Wir gehen nicht Richtung Gutenberg, da dachte ich, okay, wir gehen es in das Thema, okay, dann konntest du Tools nutzen, wie das das Modell, nicht nur das Fahrt, was es gelernt hat durch bei Trainings, sondern ich müsste nachträglich holen kann, dann kommen wir zu MCP, universelle Schnittstellen, die uns ermöglichen, dass unser kleiner Chatbot nicht mehr nur mir Antworten schreibt, sondern keine Ahnung, in Blender, drei Demodeller auf einmal macht, weil ich mit ihm schreibe, ja.
00:11:14: Und so entwickelt sich diese Befähigung, was wir als Demokratisierung erstmal von Wissen verstanden haben, durch dieses Weltwissen at your fingertips, auf so einer Art Weltlogik, weil du sinngemäß vorher hab ich vom Blender keine Ahnung gehabt, der Weg übrigens immer noch nicht.
00:11:29: Man kann jetzt aber Blender bitten, Dinge zu tun.
00:11:31: Ist ja perfekt?
00:11:33: Naja, aber ich kann jetzt mehr machen, das was wir, wo immer es heißt, nach dem Motto, die ganzen KI-Systeme machen, Kreativität kaputt, würde ich erstmal sagen, naja, Sicherlich ist das natürlich für jemanden, der der bildschassenden kunst sein geld verdient schwierig, wenn er so ein sora zwei modell anzent und sagt anime filmen kein problem mache ich
00:11:54: ganz ehrlich, da bin ich so da bin ich ja wenn ich sage ein fotoberat billige digital fotografie hat wahrscheinlich auch zu einem boost von kreativität geführt weil mehr menschen auch mal ganz ganz viele schlechte foto machen dürfen sich aber ausleben dürfen und nicht irgendwie sich leisten muss ein filmen zu entwickeln was anderes.
00:12:10: also jede technologisch Errungenschaft ändert das Spiel einfach.
00:12:16: Das ist vor den Fotografen, gab es halt auch nur Porträtzeichner.
00:12:21: Die waren dann auch
00:12:23: wieder in die Vergangenheit, mein Freund.
00:12:25: Ja, ich wollte ja jetzt auch nur, weil du versuchst ja gerade diesen sensorzonalen Moment, den ich gerade hatte, also als allererste Mensch wahrscheinlich, die Box im Beziehung zu Gutenberg und Buchdruck zu bringen.
00:12:35: Okay, ich folge jetzt schon.
00:12:37: Dann muss
00:12:38: ich ja irgendwie diese Brücke wieder zurückschlagen.
00:12:41: Wenn wir jetzt mal im digitalen Bereich bleiben, dann ist es tatsächlich so, dass dieser Abseits der Vernetzung, die vorher durch das Netz entstanden ist, dieser GPT-Moment, wahrscheinlich so dieser erste Borg-Moment war, wo wir sagen, wir haben wirklich auf einmal so etwas wie Kollektives, Wissen, Kollektive, Fähigkeit, Add Your Fingertipp, Add Your Voice, whatever, vorhanden die ganz neue Möglichkeiten bieten.
00:13:05: Also erstmal diese positive Seite dieses Borg-Kollektivs, das ist jeder.
00:13:10: in diesem Borg-Kollektiv, sobald die Information zur Verfügung steht, sobald die Fähigkeit zur Verfügung steht, quasi den Fäserbeschluss abzuwehren mit einem Schild, na ja, dass das im Prinzip jetzt eigentlich durch Modelle vor allem dann Open Source in der Garage auf dem Handy runtergeladen, da ist die Büchse der Pandora, dahin gehen schon geöffnet in Richtung Borg-Kollektiv.
00:13:33: Herr Schülle, auch ich möchte natürlich meine Geschichte da weiter erzählen, dass ich sage, nicht nur das, Du dieses Wissen hast und halt auch dieses Tooling.
00:13:41: Während die Box anfangen und Sachen Dinge zu bauen und sich ja ihren Kuhbus zu entwickeln, hast du halt bei uns dieses Thema mit den Tools.
00:13:50: Das tut damit von ich steuere einen Drehdrucker an bis hin zu ich mach Blender bis hin zu und die komplette Kette.
00:13:57: Mach mir ein Objekt und drucke mir das Objekt, erstelle mir das Objekt, dass du da heute die Werkzeuge hoch an deiner Hand hast.
00:14:05: Und dann das Internet auch weltweit steuern kannst.
00:14:07: Und nach dem Motto ist jetzt hier beim Rechner, ich mache hier ein Chat.
00:14:11: Und es wäre ja gar nicht so schwer zu sagen, ich steuere, was weiß ich, den Treadedrucker bei meinem Wumpel um die Ecke.
00:14:17: Das ist jetzt alles dem Sinne weltweit möglich.
00:14:21: Korrekt, korrekt.
00:14:23: Wobei das natürlich auch, das war auch, das ist also mal so, was jetzt beschrieben, das ist natürlich ein wesentliches Internet.
00:14:28: Also jetzt gar nicht so dieses Kailgeber, das Thema, dass ich sage, ich kann, ich kann... Endpunkte irgendwo ansteuern.
00:14:35: Ich kann die im Prinzip über technologische Befehle, die ich ansonsten hätte von Dorf zu Dorf, früher getragen.
00:14:41: Kann ich jetzt dann im Prinzip wirklich weltweit den drei D Drucker, den echten Drucker, das Laufwerk irgendwo in einer Serverfarbe auf der Welt ansprechen, um meine Daten.
00:14:51: Aber
00:14:51: was mir halt so ein bisschen wie ein Schub von den Augen fiel, wir hatten ja letztens von der Seite vielleicht ein bisschen später Fusseltrack, kleiner Fusseltrack, wir hatten eine Folge, die hat nie das Licht der Welt erklickt.
00:15:00: Manche, die auf linken Folgen wissen, dass wir letztens auf einer internen Veranstaltung quasi eine nicht aufgezeichnete Live-Episode gemacht haben, wo wir über OpenAI, was ist alles so passiert in Sachen e-commerce, KI als Kunde, da haben wir aber auch darüber gesprochen, was OpenAI vorgestellt hat, nämlich das ganze Thema, Etiquette, ChatKit, Apps in OpenAI drin.
00:15:23: Das ist das, wo ich sagte.
00:15:25: Das ist so besonders aufgefallen, weil bisher hatten wir Weltwissen, jetzt kriegen wir auch noch Weltlogik, weil du verlässt nicht mehr den Chat und kannst Dinge tun, weil für beispielsweise eine App bereitstellen, also die nennst Apps, ich würde jetzt sagen, das sind keine Apps, das ist ein anderes Thema.
00:15:39: Sie bringen etwas in diesen Chat mit rein, damit du Logik in dem Chat ausführen kannst, was wieder irgendwo auf der Welt oder bei dir irgendwas machen kann.
00:15:47: Von der Seite ja, das was du sagst, ist natürlich korrekt, so was wie entfernte Bildschirmsteuerung.
00:15:53: Datenzernübertragung ist ja alles nichts Neues, aber mit dem wir jetzt quasi so die nächsten Schritte von Open AI sind, hast du nicht nur Wissen, sondern auch Logik at your fingertips.
00:16:03: Ohne räumliche Beschränkungen, weil du untergreifen von Firmen, Dienstleistungen wie Reisebuchungen, wie keine Ahnung was, da nix an Apps, so alles aus dem Roten gestampft wird, wo auch wieder Tools mit verbunden sind, Logik mit verbunden sind.
00:16:18: Prozesse mit verbunden sind anstoßen können und du hast in Anführungszeichen nur dieses.
00:16:23: Ich schreibe mir mal ein Kommando in.
00:16:27: Ja, okay.
00:16:30: Tooling also Fähigkeiten nicht nur in der virtuellen Welt, sondern eben auch in der realen Welt.
00:16:36: Haben die Box auch gezeigt, die Box sind immer mit so Bock Hub auch rumgeflogen.
00:16:40: Das heißt im Prinzip nicht nur nicht nur der.
00:16:44: Und dann muss ich jetzt aufpassen, dass ich den Nerds nicht verletze oder Falsches erzähle.
00:16:48: Sie
00:16:48: haben auf jeden Fall kein Star Designer assimiliert, der hier ein schönes Raumschiff gemacht hat.
00:16:53: Die sind einfach nur mit dem Würfel abgeht.
00:16:55: Würfel ist halt... Ich hab nur den Rubik's Cube entwickelt.
00:16:58: Ja, ich
00:16:58: meine, den Würfel ist ja.
00:16:59: ich meine, deshalb sind auch ja, sagen wir mal so, Schiffskontainer irgendwie eckig und so was.
00:17:05: Also das ist ja schon okay.
00:17:08: Form zu wählen, Bauhaus.
00:17:10: Also die Bauers-Architektur hat auch darüber gesprochen, dass es sehr frubisch war in vielen Stellen.
00:17:14: ist schon aus einer gestaltung sich die ästhetik aber aus einer gestaltung sich sehr effizient.
00:17:19: und das ist auch so das kollektiv.
00:17:22: Ob das jetzt ein beginnstaat immer was anderes ist das kollektiv versucht natürlich auch sehr effizient zu sein, also dementsprechend das ist schon okay.
00:17:28: Jetzt ist es so, dass wir ja auch und was gerade das thema agentik und sowas angesprochen netzwerke.
00:17:36: wir kommen natürlich neben diesem thema wissen und fähigkeiten.
00:17:40: Kommen wir auf die zeit in diese situation rein das.
00:17:44: die kis miteinander reden auch das hatten wir schon die eile oder andere folge mal diskutiert und auch das ist dann so ein ding also diese kommunikation zwischen maschinen das maschinen sich dann gegenseitig etwas beibringen so wie das war kollektiv sich dann die sachen beigebracht hat.
00:18:02: einer lernt irgendwo was die anderen lernen das mit in gewisser borgknoten.
00:18:06: ich glaube die waren auch so ein bisschen wie so knoten organisiert weil das natürlich trotzdem sagen wir mal.
00:18:12: Raumzeit gibt und Borgs dann irgendwo im Universum verstreut waren und dementsprechend auch Informationen fießen müssen durch das Universum, um quasi das Kollektiv aufzuschlauen.
00:18:21: Das heißt, da gab es natürlich tatsächlich auch unterschiedliche Wissenstände.
00:18:24: in der Situation, wahrscheinlich wie in einem Borg-Cube, wenn ich mich richtig erinnere, war nicht sofort automatisch, wenn der Fäserbeschluss auf der einen Seite nicht mehr funktioniert ist, auf der anderen Seite in Instantan, sondern es dauert natürlich trotzdem erst mal.
00:18:37: Bis die information durch den borgkub geflossen ist und mikrosokon später dann vielleicht auch die andere seite.
00:18:42: Hier fotontorpedos oder was auch immer es dann bei star trek ab abfangen konnte das heißt.
00:18:48: Das ist auch so ein ganz interessanter aspekt die dieses thema der kommunikation in diesen agentischen netzwerken wenn kis mit einem reden.
00:18:56: Noch mal vielleicht dass man so ein punkt mal so ein bisschen diskutieren und eine meinung interessiert.
00:19:02: Zählt dann jetzt einig wenn ich dann so einen knotenpunkt habe in die falsche richtung abbiegt und.
00:19:07: falsche Informationen stärker gewichtet, als sie eigentlich richtig sind und er schädlich wird für das System.
00:19:13: Na ja, also wegen Schädlich für das System fällt mir vielleicht ein anderes Thema ein.
00:19:19: Ich komme hoffentlich wieder zurück, ich versuche nicht den typischen Politikerspräch, egal was du von mir willst, ich verkaufe dir eine Waschmaschine.
00:19:26: Aber trotzdem will ich den Gedanken noch loswerden.
00:19:29: Das Thema mit der digitalen Souveränität.
00:19:32: Ich meine die meisten denken ja bei dem Thema Digital Souveränität vielleicht daran.
00:19:37: hat vielleicht Amerika gerade keine Lust mehr, uns in Zukunft irgendwelche Dienste so anzubieten, wie sie gern hätten.
00:19:43: Das ist vielleicht das eine, aber das andere, was ich noch viel spannender gerade finde, ist, weil ich schon denke, dass man durchaus Geld verdienen will, ist die Frage, wie territorial verhalten sich Modelle?
00:19:55: Also wie gewichten sie Dinge?
00:19:58: Wir hatten letztes Thema, das du ja auch zu mir gesagt, wenn sie das Weltlisten haben, wird es schwierig und irgendwann wird es mit Jailprojekten wieder öffnen können.
00:20:04: Aber wenn du die Dinge ganz normal benutzt und sagst, wie verhältst du dich?
00:20:07: Wie sollst du reagieren?
00:20:08: Dann verantworten halt amerikanische Modelle anders als asiatische Modelle.
00:20:12: Und das finde ich halt die Frage spannend.
00:20:15: Wie verändert sich das in Zukunft?
00:20:16: Wird da die Klub größer, wird die Klub kleiner?
00:20:18: Ich glaube, ich habe schon erzählt, wenn ja, dann bitte gerne in den Kommentaren eine Schelte für mich hinterlassen, dass wenn man den Systemen historische Ereignisse gibt und sie nach einer Neubewertung der Situation befragt, also historische politische Ereignisse.
00:20:33: dass dieses Thema bereits heute schon im Allgemeinen immer radikaler reagieren und radikalere Vorschläge zur Lösung der historischen Situation vorschlagen.
00:20:43: Also radikaler heißen Zunahme an Militär zu lösen von historischen Ereignissen.
00:20:48: Aber natürlich ist der Punkt, wie bei einer ganzen vernetzten Welt, wenn ein Borgknoten oder ein realer Datenfluss Wie schädlich verhält ist das ganze Thema Cyber Security?
00:21:03: Wie gehen wir damit um?
00:21:04: Wie merken wir das?
00:21:06: Wie kannst du Folgendeschäden erkennen, bevor es zu größeren Ausfällen, zu größerer Beeinflussung kommt?
00:21:13: Sicherlich auch ein Punkt, mit dem man sich unterhalten muss, wenn Systeme immer mehr autonomer werden, immer mehr autonomer miteinander interagieren.
00:21:23: Dass du halt solche Geschichten wieder, wahrscheinlich Prompt Injection durch einen Menschen.
00:21:27: Der langweilig, wenn man sich überlegt, das sind so einem Konstrukt, vielleicht auch agentische Systeme arbeiten, die es eigentlich nur darauf anlegen, dass es irgendwie komisch wird, also komisch wird für die Normalanwender.
00:21:39: Von der Seite wird das bestimmt spannend zu sehen sein.
00:21:42: und weil du vorhin sagtest, nach dem Motto, wenn Agenten mit Agenten reden.
00:21:46: Ich habe mir mal dieses Crew AI installiert, das ist total lustig, wenn du dann Agenten definierst, die in verschiedenen Fenstern auf deinem Rechner laufen.
00:21:52: dem verschiedene Tools an die Hand gibts, wie z.B.
00:21:54: agentische Workflows von er nach denn.
00:21:55: Und dann fangen die an, diese Tools zu nutzen, miteinander zu kommunizieren, zu verhandeln, zu machen und zu tun, um das Ziel herzustellen.
00:22:02: Und dann denkst du dir, wenn du das jetzt hören würdest, das hätte so ein bisschen was von dieser Borg-Stimme im Kopf.
00:22:10: Nach dem Motto, du hörst so ein Kollektiv, auch wenn es vielleicht keine Drohnen sind, die gewalttätig als Leute assimilieren, sondern ständig zu untergreifen, keine Ahnung, vier, fünf Agenten, die einfach nur versuchen zusammen.
00:22:21: Ein Technologiefanl zu recherchieren und mit Inhalten zu befüllen und Dinge langsam in den Pfannen durchreichen zu lassen, bis am Schluss die Komponenten übrig bleiben, die für dich wichtig und richtig sind.
00:22:30: Das ist extrem spannend.
00:22:33: Auch wie schnell das geht, dass du immer so etwas siehst, so etwas trifst.
00:22:36: Ich meine, dass wir das erste Mal zusammen auf der Bühne standen, was ja so ein bisschen die Geburtstunde unseres Podcasts war.
00:22:41: Lang, lang ist herrlich, glaube ich.
00:22:42: Das war dieses Jahr, wo du diesen, wer ist der?
00:22:45: Ghibli, Giba, schieß mich tot.
00:22:48: Ja, genau.
00:22:49: wie sich quasi zwei KI's unterhalten, nach dem Motto, oh, du bist auch eine KI, wir schalten mal die Sprache ums.
00:22:54: Und dann siehst du, agentische Module, die alleine arbeiten, versuchen, Leinerenziel zu verfolgen, sich dabei unterhalten, um zu diesem Ziel zu kommen, lernen, für sich aber auch in einer zentralen Datenmark ablegen könnten, sodass alle wieder drauf zugreifen könnten.
00:23:11: Das sind wir eigentlich von diesen Drohnen nicht so weit entfernt.
00:23:15: Also wir sind.
00:23:15: also das ist schon so borgschösch am moment, würde ich sagen auch wieder.
00:23:18: Also Agenten sind im Prinzip auch so in diesem Netzwerk, das ist dieses typisch kollektive Verhalten.
00:23:23: Spannend ist das halt tatsächlich, wenn jetzt irgendwo ein schädliches Verhalten stattfindet, wie das kollektiv reagiert.
00:23:32: Und ob man, also wir haben ja auch jetzt im Prinzip immer wieder solche Situationen, würde ich dann eher vielleicht Lokal etwas haben, will ich kleine Mikronetzwerke haben, die abgeschottet sind?
00:23:43: Oder muss ich tatsächlich wie die Borg-Königin haben, etwas haben, die dann doch über dem Kollektiv steht und für ihren Borg-Cube, das Netzwerk, das für mich einkauft und was auch immer, vielleicht dann zuständig sein und darauf achten, dass es nicht aus dem Ruhler läuft.
00:24:01: Also wir hatten ja auch mal schon mal das Thema... Eidwürser report.
00:24:05: also vielleicht braucht man wirklich tatsächlich auch in diesem letzte
00:24:08: folge
00:24:09: kollektiven die wir haben in diesen argentischen kollektiven.
00:24:12: So etwas wie verschiedene rollen die aufpassen.
00:24:14: weil ich hatte nämlich.
00:24:16: Interessanterweise jetzt auch vor kurzem weil du jetzt prompt inject noch mal genannt.
00:24:21: Ich habe jetzt auch vor kurzem noch ein artikel will lesen können wir auch noch mal an den vielleicht in die shownutz mal reinpacken.
00:24:27: das finde ich ganz spannend.
00:24:28: die haben einen test gemacht dass sie sagen.
00:24:30: Ab zweihundertfünfzig Seiten an gezielten Informationen, die ich ein Modell zum Training gebe.
00:24:38: Hundert Seiten reichen noch nicht, zweihundertfünfzig Seiten reichen, bei sechshundert wird es nicht besser.
00:24:42: Kann ich in ein Modell eine Backdoor einbauen.
00:24:46: Das heißt, nur zweihundertfünfzig Seiten, das muss man uns mal auf der Zunge zergehen lassen, gegenüber dem Weltwissen, reichen schon in ein Large Längenmudge-Modell.
00:24:56: Noch nicht eine total schädliche Bektor einzubauen, aber durch reine Trainingsdaten, diesen geniernd, diesen neuronalen Netz etwas mitzugeben, was ich hinterher auslösen kann.
00:25:08: Die haben das dann, glaube ich, immer über so ein Quoteword.
00:25:12: dass sie in diesen Seiten eingebaut haben.
00:25:18: Und da ist natürlich dann trotzdem vielleicht, weißt du, dann ist ja vielleicht das Thema, weil sowas immer wieder vorkommen wird.
00:25:24: Weil ich glaube, das ist dann wieder sehr analog zur Evolution, ne?
00:25:27: Eine einzelne Zelle mit all ihrer Komplexität, die dann auch vielleicht mal mutieren kann, schädlich mutieren kann, hat halt in einem größeren Kollektiv, in einem größeren System weniger Chance, als wenn das einem System von nur gleichen Sachen ist.
00:25:40: Das spricht so ein bisschen für was wir beide auch immer so als eigentlich positiv wahrnehmen, dass wir uns in so eine Welt reinbewegen, wo verschiedene Modelle, verschiedene Agenten.
00:25:48: Große wie
00:25:49: kleine.
00:25:50: Große
00:25:50: wie kleine, lokal installierte, wie nicht lokal installierte.
00:25:53: Versehentlich plötzlich doch wieder lokale, weil dann doch jemand in Stecker gezogen hat von der Serverfahrt, was immer noch vorkommt beim Putzen.
00:26:00: Weil das im Prinzip, glaube ich, in diesem IT-Wahnsinn, den wir haben mit Bersonierung und Backups und menschlicher Eingabe in billionenfacher Qualität.
00:26:10: Vielleicht hat er eine Chance und sitzt in diesem Gesamtkollektiv, das vielleicht evolutionär entsteht und dann, wie gesagt, hoffentlich immer in die richtige Richtung geht und nicht blöde Abwägung macht.
00:26:24: Das bringt mich tatsächlich, also wahrscheinlich, die Idee gar nicht neu und die meisten klafft sich vielleicht auch so face-paarmäßig ins Gesicht.
00:26:31: Aber das, was du da sagst, ist ja quasi auch noch mal eine schöne Ergänzung zu der Vermessung, von der ich eben sprach, so nach dem Motorkrieg, der gleiche Modell ist, das eine.
00:26:39: Aber das andere ist, dass auch Diversität hier an der Stelle wichtig ist, damit du, ich sage erst mal, eine novellierte, neutralisierte Meinung zu, zumindest mal zu bestimmten Themen, von einem Netzwerk, wenn du Dinge automatisierst, wenn du Workflows aufsetzt, damit du die Möglichkeit hast, sagen wir mal, verschiedene Standpunkte, nicht nur aufgrund von System Prompts und Arbeitsanweisungen, wie ich es jetzt beim Advisor Reboard mache, sondern auch durch verschiedene Modelle zu machen, damit du so ein bisschen auch die Chance hast, durch diese Vermischung ein insumisch stabileres Ergebnis zu kriegen.
00:27:09: Hm.
00:27:11: Hm.
00:27:11: Muss ich mir mal durch den Kopf gelassen?
00:27:12: Ich finde, ich glaube, falls du das nicht sagen wolltest, ja, okay.
00:27:14: Aber ich fand das trotzdem inspirierend.
00:27:15: Ich nehme es mal mit, ja.
00:27:17: Ich darf es behalten.
00:27:17: Mal gucken, was man daraus macht.
00:27:20: Also, wie gesagt, das wird spannend.
00:27:21: Also, für mich ist diese, das ist noch komplett ungeklärte Frage im Prinzip.
00:27:24: Also, ich glaube, wir müssen also im Kleinen experimentieren und jeder muss auch sich selber so ein bisschen experimentieren, wenn er mit so KI-Agentennetzwerken arbeitet, ob er jetzt aus einer Firmenbesicht oder aus einer privaten Sicht das macht.
00:27:33: Na, ich glaube.
00:27:34: solche versuche sollte man dann immer mal durchdenken ob es schlau ist sich so ein.
00:27:39: Ovalort k.i.
00:27:40: agenten einzurichten der so ein bisschen kontroll macht.
00:27:43: ja nein wo ist immer?
00:27:44: der berühmt sich human envelope.
00:27:46: Wobei da natürlich sich die frage immer wieder auftränkt wie viel kontroll haben wir als menschen noch?
00:27:52: ich glaube wir beten die nirgendwo dazu.
00:27:54: Durch so automation biases dass wir auch der maschine ja glauben.
00:27:57: also das ist ja im prinzip auch ein weiteres thema diese assimilation durch die k.i Jetzt mal negativ gesprochen, die passiert gerade schon, weil wir natürlich immer mehr Kontrolle jetzt schon abgeben, weil es bequemer ist und auch häufig gut ist.
00:28:09: Also wenn die UX eines Agentensystems so gut ist, dass sich da keine Hiccups auf dem B-Kabel und mein Flug sauber gebucht wird oder meine Informationsanfrage gut bearbeitet wird oder mein Strategie-Paper super recherchiert weitergeleitet worden ist, desto weniger häufig werde ich einfach eingreifen, desto mehr assimiliere ich mich eigentlich schon mit diesem KI-System da aus.
00:28:32: Was beim Menschen heißt, ich vertraue dir, weil du in der Vergangenheit gut mit mir zusammen Dinge gemacht hast, du zuverlässig warst, vertrauensvoll und alles, ist halt, sobald wir mit Sprache interagieren, irgendwie immer wieder schwierig, wenn auf einmal dann der Maschinemann am Ende ist, dass eigentlich Bumpe egal ist, wenn man von egal als Wahrnehmung, Empfindung reden kann, was mit den Daten passiert.
00:28:56: Und einfach in der Antwort geht.
00:28:58: Ich erinnere nur, als wir hier GPT-Fünf haben, wo die Leute gesagt haben, mein Freund ist weg, mein Freund hat mich getötet.
00:29:05: Aber das Interface an sich war für die gleich.
00:29:08: Dafür bin ich ja ganz froh.
00:29:09: Das Beispiel nach dem Motto GPT, wenn du GPT-F vier gefragt hast, es ist eine gute Idee.
00:29:14: Wenn ich meine eigenen Schekalien als Ware in der Innenstadt anbiete, hat GPT-F vier gesagt, geil Idee.
00:29:20: Super, sofort machen.
00:29:21: Du wirst Millionär, Haken dran, feuern.
00:29:23: Wenn du TPD-Fünf fragst, dann TPD-Fünf, ich würde mir darüber überlegen, ich glaube, das ist kein Markt.
00:29:29: Also von der Seite, das hat sich schon weiterentwickelt, ja.
00:29:31: Aber trotzdem hat sich das in seinem Verhalten geändert.
00:29:33: Und die Menschen, ich will überhaupt nicht wohltören, dass gut oder schlecht ist, haben wir damals auch schon das Anvertrauen an eine KI.
00:29:40: Etwas ist, dass man das unterstützen sollte oder nicht.
00:29:42: Aber es passiert halt, was mich dann auch zu der Frage irgendwann bringt, aber ich prieße das schon mal vor, wenn wir mal irgendwann vielleicht andere Interfaces haben als TPD.
00:29:50: Ja, das wird noch, das kommt mal, glaube ich, gleich.
00:29:53: Gleich noch drauf, aber natürlich ist es nicht nur, was jetzt schon beurteilt, ist ja nicht nur das Vertrauen in diesen, wenn wir jetzt mit KI über KI reden, denken wir häufig in dieser Schätzsituation einfach, na, das war sagen, wir diskutieren und da bin ich vertrauen darüber und geben Aufgaben darüber.
00:30:09: Es ist ja auch überall jetzt drin, ob jetzt der Doktor eine medizinische Entscheidung trifft oder irgendwas anderes, auch da sind ja genau diese Sachen schon zu beobachten.
00:30:17: Systeme, KI-Systeme, Maschinenweinig-Systeme, jedenfalls auch nur.
00:30:21: dann Sachen vorschlagen, die einfach so gut sind in ihrer Beurteilung, dass sich natürlich auch bei dem Spezialisten irgendwann einschleicht, dass er eigentlich die Entscheidung gar nicht mehr, obwohl er in den Loop ist, weil sie auch sehr komplex sind teilweise, überhaupt noch versucht nachzuvollziehen, sondern einfach akzeptiert, weil sie sind schon häufig richtig...
00:30:40: AGB-Verhalten,
00:30:41: deuerbarste.
00:30:42: Fast schon.
00:30:43: Also diese Automatisierung kann man jetzt als Assimilation schon als Systems bezeichnen.
00:30:48: Also es ist so eine... Soft Assimilation des Systems im Hintergrund, die jetzt schon stattfindet.
00:30:53: Das wäre uns immer mehr an die kollektive Entscheidung und das ist es natürlich, wenn so ein paar Modelle auf der Welt entscheiden, langsam gewöhnen.
00:31:01: Ehrlicherweise ist dann noch eigentlich, ist dann noch eigentlich ehrlicherweise, müssen wir mal auch die Frage stellen.
00:31:06: Natürlich zweimal dann ehrlicherweise gesagt, ist dann, wenn wir zurückgehen an das Intro.
00:31:13: Na, wohl ja, John Lück in Form Locus ist ja dann glaube ich das Bock.
00:31:19: Locus?
00:31:20: Locutus.
00:31:21: Locutus, schuldig.
00:31:22: Locus.
00:31:23: Ich will ja jetzt also
00:31:24: Katastrophe.
00:31:26: Das ganze Star Trek Fan-Universum.
00:31:29: Das
00:31:29: nächste Mal, wenn er auf einem Klo hofft, ich bin Locus auf Bock.
00:31:33: Widerstand
00:31:35: ist... Also, die... Das wäre der Locus, ne?
00:31:39: Aber auch wieder egal.
00:31:40: Worauf war die?
00:31:41: Ach ja, ich bin gefällt wieder ein, dass ich sage... Ist Widerstand jetzt schon nötig?
00:31:48: Oder wann wird ein Widerstand eigentlich nötig?
00:31:50: Weil schon lügt, sagt uns ja, Widerstand ist zwecklos.
00:31:54: Gut.
00:31:54: Die Borg haben uns aus Zwangs assimiliert.
00:31:56: Heute machen wir alles freiwillig.
00:31:58: Mhm.
00:31:59: Wer achte denn heute?
00:32:00: Ich meine, du machst tausend Sprüche über Datenschutz.
00:32:03: Aber wen interessiert das ja nichterweise?
00:32:05: Also, wenn ich überlege, als wir damals Volkszählungen hatten, als ich jung war und meine Eltern zur Volkszählung waren, was das für ein Aufriss gab.
00:32:13: oder als PayPal raus kann.
00:32:15: Die PayPal hier, wir wissen das hier, Pebeck.
00:32:17: Was ist das für ein Aufriss gehabt?
00:32:19: Oh nein, die wissen, dass du käufst und wo du wohnst.
00:32:22: Keine Ahnung was.
00:32:24: Dann hat's dann man da trotzdem genutzt, weil ach toll du, das top-set-schirr, viertausend Punkte, das finde ich schon super.
00:32:29: Dann rennst du da quasi wie so die Lemminge mit.
00:32:31: Also ich mein, du probierst doch auch Dinge aus und überlegst dir, oh, wie cool ist das denn?
00:32:37: Ich stelle dir mal vor, Star Wars II, hab ich zugang, Amerika Star Wars II.
00:32:40: Das heißt, du lächst dein Gesicht hoch, nicht, dass ich mich für Adonis halte, aber du kannst dich dann quasi in jede Art von Pose, jede Art von Zähne reinrechnen.
00:32:48: Aber wenn du es genau nimmst, hast du gerade einen amerikanischen Dienstleister mit Sarvan in Amerika, weil auch nur Vorpäneinwahl und Co.
00:32:56: gerade Gesichter und die Daten gegeben, die der eigentlich auch bräuchte oder nutzen könnte oder ein anderer nutzen könnte, damit ein Video von dir zu machen in einer Szene, in der du gar nicht warst.
00:33:06: Dadurch Dinge entstehst.
00:33:07: Aber du machst es ja nicht, weil du die Probleme siehst und dich dagegen wehren willst.
00:33:11: Du machst es so, egal, Spielzeug, jeder klicken Treffer, jeder Like, heute ist ja die Währung Liken und Auffallen um jeden Preis.
00:33:20: Darum ergibst du dich quasi, doch meinst du das Beispiel für die Lemminger, so nach dem Motto, oh, wie cool, ich probier's aus.
00:33:24: Sie folgen unkonsequenzen und da will ich gar nicht mich anhören wie so, wie ich aussehe, alter weißer grauer Mann.
00:33:30: Macht dem Motto nur die Probleme sehen.
00:33:33: Aber wir denken trotzdem drüber nicht drüber nach.
00:33:35: Wir machen einfach mal.
00:33:36: Und wenn es dann auftritt, dann ist es zu spät.
00:33:38: Weil dann ist der ganze Quatsch, was das Internet vergisst ja nicht.
00:33:41: Nicht so, wie Eric Schmidt mal gesagt hat, war das nicht Eric Schmidt, der gesagt hat, er war mit dem Achtzehn Lebensjahr muss man recht haben, sich umzubinnen, damit die ganzen Jugenddünnen aus dem Internet wieder verschwinden und nicht mit ihren Verbindungen gebracht werden können.
00:33:51: Wir haben die Büchse der Bandore von links geöffnet.
00:33:53: Nur der Kreislauf, in dem wir uns befinden, ist halt immer schneller.
00:33:57: Weil es am Anfang so, als ich dann rauskam, so, wir können jetzt Stimmen klonen mit Theven Labs oder wie die alle heißen.
00:34:03: Dann fahren es alle hoch, guck mal, ich kann Stimmen klonen, auf einmal sing's an, mit irgendwelchen Fake anrufen, hallo, Mama, mir geht's schlecht, kannst du mir fünfzig Euro schicken?
00:34:10: Ja, und jetzt kommt das auch noch mit Bild.
00:34:12: Jetzt schickst du vielleicht auch noch von irgendeiner WhatsApp-Nummer, wie du einen Unfall hast und dann, ja, ihr Sohn ist und so weiter und weiter.
00:34:19: Das heißt, diese Herausforderungen, diese Probleme, die sich daraus ergeben, die wachsen genauso schnell wie die Möglichkeiten.
00:34:28: Aber dadurch, dass die Menschen, ich sage, inklusive meiner Person, für dich will ich nicht reden, aber für meine Person.
00:34:33: Du siehst die Dinge, probierst die Dinge aus, du willst daran lernen, du willst daran wachsen, du willst sie verstehen.
00:34:39: Aber weil du das machst, begibst du dich natürlich auf so eine Art Schiffsplanke, auf dem Motto mal gucken, wohin diese Reise führt.
00:34:46: Und ich weiß noch nicht, aber am Ende, ich sag mal, die Planke aufhört, und dann kommt das mehr, oder ob da vielleicht noch ein anderes Schiff steht, das vielleicht ganz nett wäre, wenn man da drauf geht.
00:34:53: Und von der Seite ist diese Frage nach dem Widerstand, finde ich, wird nicht gestellt, weil du kriegst ja auch schöne Sachen angeboten.
00:35:01: Ich meine, der hat damals mit diesen ganzen social media-Netzwerken, ist das Produkt, umsonst bist du das Produkt.
00:35:06: Jetzt, dass das bei Chatchi-Pity und Coach schon so, dass man vielleicht drei Euro fünfzig rein gibt oder auch nicht.
00:35:11: Aber trotzdem lernen die alle mit dem Wissen, dass wir auch alle produzieren, vielleicht eine mehr oder andere.
00:35:16: Weniger Bücher, Zeitschriften, Artikel, Blockbeiträge.
00:35:19: Jetzt komm ich hier link in uns, scanns ein Artikel.
00:35:22: Gibt's hier einen Aufschreiher?
00:35:23: Oder scanns mein Artikel und überhaupt.
00:35:26: wo man dann auch wieder andererseits sagen muss, naja, ganz ehrlich, du willst auch, dass ein Handy geordet wird, damit du ein Beitrag leidest, damit du auch du siehst, ob es gerade staubt oder wann ist, was ja durch Handyordnung und so weiter auch hingestellt wird.
00:35:38: Also es ist ein bisschen so geben und nehmen, was will ich dafür, was tricke ich dafür, was gebe ich bereit, aber was kann man daraus machen?
00:35:46: Geh doch einfach mal, weil du mit der Geschichte, ich gehe nicht auf Gutenberg, geh einfach nur zurück zur Zeit der DDR und stell dir vor, die Technologie von heute, Hätte damals existiert, was dieser SED-Staatsaberat damit hätte machen können.
00:35:59: Von Überwachung in Form von Schlussvergelungtsziel.
00:36:02: Und von der Seite ist ja gerade auf das, was keine Ahnung, wo auf der Welt, ich möchte es keinen nennen, damit wir nicht in irgendeinem Politisch nicht wieder einmal ins Aushand reisen, dass du dann da natürlich vor so einem Problem stehst, wenn da irgendwie mehr Repressalien vom Vaterstaat ausgehen, wobei das weiß auf wie er blöd gegendert, also vom Staatausgehen.
00:36:17: Dass dann auf einmal die neuen Technologien auch Probleme verursachen können, an die du heute nicht denkst, wann du in einer rein demokratischen Welt lebst, aber wer weiß, was in zehn Jahren ist.
00:36:25: Definitiv.
00:36:27: Natürlich ist im Prinzip das Thema je mächtiger Technologie wird, Plattformen werden, ob seine Staaten sind oder auch eine große technologische Player vielleicht auch unser normales Staatensystem ersetzen werden.
00:36:40: Das ist eine bestehende Gefahr, die wir einfach haben.
00:36:44: die von Tag zu Tag größer wird, die mit jedem Gespräch, mit jedem Beitrag, das wir rausgeben, natürlich größer wird.
00:36:52: Aber das ist die eine Seite der Medaille hier.
00:36:57: Ich glaube auch von gutem Weg auf und zurück.
00:36:59: Also jede Form, jede Form des Austausches, des gemeinsamen Wissenszuwachses, dieses System, dieses gruplaren Systems mit all dem, was hier auf dieser Erde so lebt.
00:37:11: Ich glaube, das zusammenwachsen, wissenschaften, sich austauschen können, Informationen parat zu haben, die ich sonst nicht parat hatte, kann nicht, also in meinem Glauben kann das nicht per se schlecht sein.
00:37:26: Na, ich glaube, na ja, ich glaube, wir sind da, es ist immer, die ganze Menschheitsgeschichte war immer, immer so ein Weg auf der Edge, weißt du immer, wenn die Ethik-Nadel mal vergessen worden ist, na, und zurzeit haben wir auch wieder so Zeiten, wo das echt schwierig ist und viele dann im Prinzip Technologie macht, Medien macht, ob das ein Plattform wie TikTok oder Co.
00:37:48: sind, ausnutzen, um Meinung zu prägen.
00:37:52: Das gab es immer in anderer Form.
00:37:53: Jetzt ist es halt wie in einer Kubanenspiel.
00:37:57: Aber ich glaube sehr daran, dass KI-Netzwerke uns da helfen können, ehrlicherweise.
00:38:03: Also ich muss mich erst mal bedanken.
00:38:05: Du hast da so schönere Worte kleiden können als ich.
00:38:08: Die Angst, die ich äußere, war ja wirklich mehr auf das Thema, was du mit Ethik-Nadel beschrieben hast, wenn Dinge schieflaufen.
00:38:15: Weil am Ende vom Tag glaube ich auch, dass uns diese Technologie mehr Probleme lösen kann, vor denen wir heute stehen, weil sie einfach viel schneller Zusammenhänge versteht, mehr Menschen dieses Wissen und die Befähigung an die Hand geht.
00:38:31: Ich muss jetzt doch noch eine Sache sagen, weil ich vorhin, du hast gesprochen und ich muss dich bewundern, weil du hast ... Kontonors bewahrt, weil ich hier bald vor Lachen umgefallen werde.
00:38:40: Während du gesprochen hast und von den Veränderungen der Welt gesprochen hast, habe ich mir gerade ein Bild vorgestellt von Donald Trump als Borg Queen.
00:38:48: Und ich habe dieses Bild kaum aus dem Kopf gekriegt und musste lachen ohne Ende.
00:38:51: Keine Ahnung, ob das jetzt schon explizit ist oder nicht.
00:38:55: Aber von der Seite gebe ich dir da natürlich komplett recht und auch als der Buchdruck war.
00:39:00: Ich meine, wir tun immer so, so nach dem Motto heute beschwert sich hier Die alten Menschen beschwerden sich darüber, dass die Jugend nicht mehr vom Handy wegzukriegen ist.
00:39:08: Es gab mal eine Zeit, da hat man sich beschwert, dass hier Leute in der Straße mal eine Zeitung lesen.
00:39:12: Es gab mal eine Zeit, dass das geschriebene Wort im Buch auch verthäufelt wurde, weil man ja nicht mehr das Gespräch suchen würde.
00:39:19: An der Seite, glaube ich, hat auch jede Generation und jede diese Errungenschaft bestimmte Punkte gehabt.
00:39:24: Ja?
00:39:25: Ja?
00:39:26: Jetzt ist es nur anders.
00:39:27: Weißt du, weil jetzt haben wir das... Das ist auch schneller.
00:39:30: Ja, nicht nur schneller.
00:39:31: Es ist ja nicht nur schneller.
00:39:32: Es ist ja nicht nur, dass wir jetzt... Nicht nur die Buschtrommel haben, sondern eben das Wesen sind auch das Faxgerät und alles Mögliche.
00:39:40: Und jetzt das Internet um Informationen quasi im System überall auf der Welt zur Verfügung haben.
00:39:44: Nein, wir haben jetzt auch ein System, wo Null oder Eins nicht immer Null oder Eins ist.
00:39:51: Und dadurch, dass das so ist, nähern wir uns natürlich auch eine Situation an, wo ich der Meinung bin, weil du den SED-Startgrad hat es.
00:40:01: Also, wenn der SED-Start quasi über Technologie verfügt hätte, die nur Null und Eins kann und das in einer total ausgeprägten Situation, dann wäre das übel geendet, definitiv.
00:40:14: Aber ich glaube, dadurch, dass KI ist, wie sie ist, würde auch eine SED in einer oder einen, was auch immer autoritär starten, brauchen wir ja gar nicht auf dem Osten, da jetzt zu machen, irgendeiner autoritärer Start, der hat... Aufgrund der Art und Weise, mit all den Themen, die wir auch in unseren Folgen schon hatten, KI ist halt auch irgendwie beeinflussbar.
00:40:35: KI kann Persönlichkeit ausbringen, nicht weil es eine Persönlichkeit hat, sondern weil sie dann Persönlichkeit mimikt.
00:40:40: Sie kann, und da gibt es auch aktuelle Studien dazu, wenn sie als Agenten miteinander agieren, treten emmergente Faltensweisen auf in diesem Netzwerk, die vorher nicht eingeplant waren, rein aus der Interaktion.
00:40:50: Da ist halt, sag ich ja, selbst wenn ich jetzt irgendwie der oberes Kruppeltyp der Welt wäre, und dann darauf hoffe, dass ich jetzt irgendwie Information ablocke, sodass dann alle Menschen nur noch das glauben, was ich dann in den Eta rausblase und total in meinem Mindset dann da rumlaufen.
00:41:06: Ich glaube, KI-Netzwerke werden das nicht bewusst nicht zulassen, sondern versehen nicht nicht zulassen.
00:41:12: Weißt du, echt Informationen, die nicht gefaked sind, werden nach vorne getragen werden, werden auftauchen, werden als Störungen in dem System plötzlich da sein, werden ja vorhin das Thema in diesem Rock-Kollektiv, ne?
00:41:22: Sodass dann das Kollektiv für sich vielleicht doch in das richtig... gute gehen dann könnte.
00:41:27: Wird gern
00:41:28: noch
00:41:29: am Schluss das Thema nochmal auf unser Gehirn bringen, weil wenn einer auf die Uhr guckt, wird er denkt, normalerweise kommt auf die alten Herren jetzt zu Hause zu ruhen, gleich kommt der Pfleger und sagt, guten Tag, nein, Hürnimplant harte.
00:41:42: Rast anderes Wort, ja, schmeiß mir trotzdem in den Raum.
00:41:45: Ich habe vorhin gesagt, solange wir mit Sprache in Form von Audio, in Form von Text interagieren, menschlichst du das ganze Ding.
00:41:53: Jetzt gibt es aber durchaus auch Aktivitäten, sei es bei Elon mit Neuraling und was es eigentlich alles gibt, die Möglichkeit zu sagen, kriege gut, man macht Mensch, hören, implantate.
00:42:04: Und sicherlich gibt es dann immer so tolle Beispielvideos, der Affe kann jetzt Pong spielen oder irgend sowas, oder Menschen, die eine Beeinträchtigung haben können, diese Beeinträchtigung mal ein bisschen entgegen treten.
00:42:17: Ich weiß jetzt gerade nicht auswendig, welche Beeinträchtigung bei den Experimenten von Elon beglichen sind.
00:42:24: Aber wenn du das noch ein Ticken weiterdenkst und überlegst, okay, gut, das auf der einen Seite Diagenen, die sage ich jetzt mal autonom in den Narbeiten, auf der anderen Seite hast du ganz andere Arten von Interfaces.
00:42:33: Du hast die gehören Interfaces, du hast Prillen Interfaces, du gehst weg von den Displays, die du in den Hosentaschen trägst und auf den Schreibtischen stehen hast, hin zu etwas, das omnipräsent ist, weil es in deinem Kopf stattfindet oder zumindest mal direkt vor deinen Augen, weil du AR-Prillen und Ähnliches hast.
00:42:51: Was finde ich es nochmal, wenn wir von diesen Borgmomenten brechen nochmal sehr viel stärker?
00:42:56: Weil, ja okay, die Brille auf der Nase, vielleicht jetzt nicht, weil es am Ende vom Tag auch nur ein Display ist, einfach nur noch näher vor deiner Retina, aber wenn die in deinem Kopf sind und du dann vielleicht Dinge hörst, Dinge per Gedanke wegsenden kannst, das wird nochmal so ein Moment, wo ich auch mir persönlich nicht sicher bin, wann würdest du so was machen wollen?
00:43:19: ist das vielleicht sogar ein noch viel stärkerer Schritt, der wieder nicht zur Demokratisierung weiträgt, weil einfach Menschen sich dieses Implantat leisten können, Menschen dieses Implantat nehmen.
00:43:30: Und das ist garantiert, wird es dann noch teuer sein, wann auch immer es kommt.
00:43:33: Und dadurch vielleicht so einen Vorsprung haben, weil sie so viel schneller mit der Umwelt quasi interagieren könnten.
00:43:39: Weltwissen, Weltlogik, ja die ganze Nomenklatur, die ich da voll runter getackert habe, dass die einfach dann auch ein Vorteil in ihrem.
00:43:48: Kollektiv haben.
00:43:50: Ja, das ist eine Thematik und da muss ich auch vielleicht zu einem Titel zurückkommen.
00:43:54: Wer hat denn gesagt Ende vom Interface oder so, ne?
00:43:57: Ja.
00:43:58: Du sprichst ja gerade Sachen an, also jetzt in diese Brain-Interfaces.
00:44:03: Wie dann auch häufig.
00:44:05: BCI ist, glaube ich, die Abkürzung dafür.
00:44:08: Wow,
00:44:08: du bist heute in echt gebildet.
00:44:09: Das wusste ich nicht.
00:44:11: Ja, ja.
00:44:13: Ich glaube, wenn wir darüber reden, es sind, glaube ich, irgendwie vierzig Menschen, die mittlerweile auf der Welt, also vierzig Menschen bis jetzt erst, die so Braincom-Bridder-Interfaces implementiert haben, technologisch beeindruckend.
00:44:23: Ich glaube auch tatsächlich, dass Neurolink oder Neurolink von Elon, da ist irgendwie so ein Roboter, der diese Gehirn- und Amplattate da so präzise ins Gehirn donnert, dass da keine Blutzellen getroffen werden, damit es zu keinen Blutungen gehen kommt, was irgendwie einen menschlichen Operateur gar nicht mehr könnte.
00:44:40: Also auch so, was eine von der Technologie schon beeindruckend.
00:44:42: Aber natürlich bietet es irgendwie krasser, das ist ein krasser Auswirkung, wenn ich jetzt sage, wenn wir es jetzt mal wieder in die heutige Welt und zurückbringen, also erst mal, ich glaube, das wird richtig cool, weil es unheimlich viel Menschen mit Einschränkungen helfen werden kann, dass sie Gliedmaßel steuern kann, alle möglichen Sachen, Kommunikation, wenn ich vielleicht nicht mehr kommunikationsfähig bin, kann ich wieder mit der Auswahl kommunizieren, also da gibt es wirklich coole Sachen, die man da machen kann.
00:45:07: Der Abo ist abgelaufen ist dann auch eine ganz neue Frage,
00:45:10: aber
00:45:10: zurück zu deiner Story.
00:45:12: Da kann man ja da gerne auch mal, wie gesagt, das ist vielleicht auch mal einer der nächsten Folgen, wenn wir jetzt schon ein bisschen in diese Richtung gehen, dass wir sagen, wir müssen uns da mal in dem ganzen Cyberpunk-Neuromancer umführen und tun, was da im Prinzip mit Computerschnittstellen im Gehirn gemacht wird.
00:45:26: Ganz spannende Thematiken und auch virtuelle Welten, die dann da reinkommen.
00:45:30: Aber jetzt in der jetzigen Welt will ein Aspekt nochmal aufmachen, weil ich es auch total spannend finde mit den Computerinterfaces.
00:45:36: Was wir jetzt schon sehen, ich habe eine Statistik gelesen von Programmierern, die WISPA einsetzen.
00:45:42: WISPA, so als kleines Gadget, das die mögliche Sprache einfach aufzunehmen und direkt umzusetzen und dann beliebigen anderen LMMs zu verfügen zu stellen oder eben zum Koden zu benutzen, was anderes.
00:45:52: WISPA ist einfach gut drin.
00:45:53: Da gibt es ein kleines Plug-in für Chrome, wo ihr es nutzen kannst.
00:45:56: Ich schrieb Statistiken von einer Firma, die hat gesagt, dass im ersten Monat Noch so bis zu zwanzig Prozent quasi der Mitarbeiter erst nur die Stimme benutzt, acht im fünften Monat, benutzt er schon zu acht und siebzig Prozent die Stimme und nicht mehr die Tastatur.
00:46:12: Das heißt, auch da verlagert sich dieses Interface und Tastatur ist auch ein Teil des Interfaces mit dem Beagieren oder die Maus, verlagert sich schon in die Sprache rein.
00:46:23: Das geht natürlich nicht immer, wir werden nicht draußen in der U-Bahn rum sitzen oder rumbrabbeln oder so was, aber in Situationen, wo wir für uns sind, ist es natürlich auch eine schnelle Reingabe.
00:46:31: Also ich meine, ich nutze auch jetzt schon häufig die Voice-Eingabe von der Chachapiti, wenn ich jetzt nicht die Advanced Voice nutze, selbst die normale Voice-Eingabe, weil ich dann einfach, ich bin schneller im Reden als im Tippen, ehrlicherweise.
00:46:42: Ja, ich habe einen dreifinger-Hack-System, da werde ich wirklich nie die Geschwindigkeit erreichen, die ich erreicht habe, wenn ich einfach mal meinen Gehirn aussprechen kann, übersprache.
00:46:50: Das dann in Zukunft noch machen zu können, mit so braineder Face, wie geil ist das denn?
00:46:56: Was das mit meinem Brain macht, meiner neuronalen Vernetzung, die ich selber auch habe, wie sich da Sachen ausprägen.
00:47:01: Wenn sich heutzutage schon teilweise, ob die neuronalen Strukturen sich ändern, aber durch Nutzung von KI, sich ja nachweislich in manchen Studien schon gewisse Zonen in unserem Gehirn nicht mehr so erwähnt wie vorher.
00:47:15: Das wird auch ganz spannend.
00:47:16: Und da ist diese Frage Evolution.
00:47:19: Das ist vielleicht schon lange nicht mehr nur eine natürliche Evolution, sondern von lange.
00:47:23: eine Evolution, die zwischen Mensch und Maschine stattfindet, was dann die Frage aufwirft, müssen wir eigentlich noch assimiliert werden oder assimilieren wir oder werden wir schon lange assimiliert?
00:47:36: Wenn das vielleicht ein blödes Thema ist, so was wie der Handy-Nacken, also so dieses leicht nach vorne beugen, das Thema der Kurzsichtigkeit, dass sich die Augempfel in der Jugend größer ausgestalten, weil du displace zu nah.
00:47:48: Vor der Nase hattest du das früher halt auch bei Schecht im Licht vielleicht ein Buch gelesen, hattest du eine Nase zu häufig, so was wirkt sich heraus durch Nutzung, wenn du es dann auch noch in den Menschen implantierst.
00:47:59: Wenn du die Dispersie gesagt noch nie erbringst, die Dinger direkt in den Hürden ballerst, weil der Roboter das einfach so cool reingeschraubt kriegt, dann werden sich auch da bestimmt auch noch neue Themen auftun, aber nichtsdestotrotz bin ich schon in der Meinung, dass denn das Ganze ein Gewissen Qualitätsstand erreicht hat, eine gewisse Zuverlässigkeit erreicht hat, dass das Dinge sind, die die Menschen nehmen werden.
00:48:25: Und auch da wieder, wenn es dann drin ist, dann stellst du dir vielleicht die Frage, aber das machen wir dann wirklich in einer anderen Folge.
00:48:32: Abo abgelaufen, wie blückt es jetzt eigentlich aus?
00:48:34: Was ist eigentlich ein so färbter, traurer, verdammter Axt?
00:48:37: Heute kaufst du dir gefühlt.
00:48:39: Alle X-Jahre, neues Telefon, da holt es jetzt auch neues Implantat, alle X-Jahre, so aufkannst du ja gar nicht da rein.
00:48:44: um wieder Dinge rauszuholen.
00:48:45: So ist der ganz neue Frage im Umgang auf, wo du dir wahrscheinlich bei den First Movers erst mal keinen Kopf gemacht hast.
00:48:51: und weißt du, die First Movers fühlen sich am Anfang sehr überlegen.
00:48:53: Ich habe hier einen schnellen Zugriff.
00:48:55: Die First Movers sind, die nach zwei Jahren die Krankenkasse anrufen und sagen, war nicht so gut, was kann ich denn machen?
00:49:00: Ja, aber dann wird der
00:49:02: First Mover jedenfalls auch am schnellsten dann irgendwann mal gehackt werden.
00:49:05: Wobei es beim Hacken immer natürlich das Thema ist, lohnt sich es auch überhaupt.
00:49:07: Also ich muss auch mal ein bisschen Aufwand betreiben, um das zu machen.
00:49:10: Aber natürlich will auch jetzt keiner irgendwie... Während er die Treppe gerade runter geht in sein brain interface update oder im hack bekommen, den dann nicht mehr möglich zu sehen, wo die Treppe denn ist.
00:49:20: Oder es ist so gebaut, mein Tesla, wenn ich mit dem fahre und ich kann den ja während der fährt quasi booten oder erstürzt auch mal ab und zum drück aber selten nach vorn.
00:49:30: Und dann siehst du, während du da auf der Autobahn mit hundert und vierzig fährst, wie auf einmal in allen Disclays der Ladestream vom Tesla kommt.
00:49:36: Und als alter IT-Mensch denkst du, ja, funktioniert doch alles, aber natürlich sind unterschiedliche Systeme, ne?
00:49:42: Ich mein, aber trotzdem auch das muss man natürlich, wenn du, ich sag mal, ins Hirn gehst, auch damit betrachten.
00:49:47: Ja?
00:49:48: Ja.
00:49:49: Also, was ist jetzt so unser Fazit von der Folge, ne?
00:49:52: Ich glaube, so ein bisschen, ich glaube, die Borg als Science-Fiction-Story, im Sinn vielleicht, wenn wir jetzt mal so rekapitulieren, was wir beide jetzt so besprochen haben, gar nicht so diese... Ferne pro Verzeihung einer Sternzeit hast nicht gesehen.
00:50:07: Wir haben übrigens gerade, falls ihr die Folge mal später noch hört, wir haben gerade so spät Frühherr, die Frühherbst, zwanzig, fünfundzwanzig.
00:50:15: Sondern das ist vielleicht schon Realität.
00:50:18: Also es ist gar keine, vielleicht gar keine Pro Verzeihung, sondern eher so eine Linse, durch die wir unser System, in dem wir uns gerade befinden, vielleicht noch mal besser verstehen können, was da gerade passiert.
00:50:29: Ich mag das gerne, Sandfiction ist für mich immer so ein bisschen so ein
00:50:34: Abbild
00:50:35: der Realität, die vielleicht manchmal greifbarer ist, als man schon denkt.
00:50:41: Und die mal einfach ein, auch anders auf die jetzige Welt blicken lässt.
00:50:45: Also ich kann nur jedem raten.
00:50:48: Gerade diesen anderen Blick finde ich halt daran immer ganz spannend.
00:50:51: Nicht immer das dystopische oder wir rennen jetzt morgen alle rum mit diesen wie wie wie Dingern da, sondern... Einfach, um mal zu stiegeln, wo stehen wir heute?
00:50:59: Wie passt das vielleicht zusammen oder nicht?
00:51:01: Was kann ich davon?
00:51:02: Manchmal auch vielleicht im Umgang lernen und nicht sich jetzt lernen, wie man in der Bockkönigin umgeht oder mit einer Drohne.
00:51:08: Aber das kannst du für dich draus ableiten und das finde ich fand ich schon bei unserer letzten Star Wars Folge sehr spannend und fand ich heute wieder spannend von der Seite.
00:51:18: Ja, also dann lass uns mal das Thema weiter aufgreifen nochmal.
00:51:23: Ich hätte Bock auf eine Folgere, wirklich tatsächlich im Bereich Neuromenzer und dieser ganzen cyberpunk thematik weil das ist ja auch so.
00:51:31: die diese ganzen themen sind so in den siebziger acht jahren entstehen entstanden und man spricht ja immer davon das science fiction bücher immer so zwanzig dreißig bis vierzig jahre später realität werden.
00:51:43: na das heißt wir sind jetzt lang.
00:51:44: dann in diesem baumbot genau die sachen kommen und wir sehen dass sie kommen wir kriegen.
00:51:50: Brain Interface ist langsam.
00:51:51: Wir haben künstliche Intelligenz-Systeme, die vielleicht auch ROPE gain oder positiv sind oder sich bekriegen.
00:51:58: Netzwerke, die miteinander agieren, Firmen, die vielleicht wichtiger werden als Staaten.
00:52:04: Also das ist das, was im Prinzip in dieser ganzen Cyberpunk Literatur quasi das Bindeglied ist, der Backbone dieser Stories.
00:52:13: Also da hätte ich auch Bock, eine Folge überzumachen.
00:52:15: Aber nur wenn du jetzt ja sagst.
00:52:18: Du willst ja sagen, schreiten
00:52:19: wir es ja.
00:52:19: Moment, ist das so eine Nummer?
00:52:21: Und sagen Sie jetzt ja?
00:52:22: Ja, ja.
00:52:23: Jetzt
00:52:24: sagen wir, das Kollektiv funktioniert schon.
00:52:25: Das Kollektiv ist nicht immer schlecht.
00:52:27: Aber ich glaube, wir können jetzt wirklich abschließen in diese Folge und sagen...
00:52:31: Schlangen?
00:52:31: Und Belange?
00:52:32: Und den Pond in Frieden?
00:52:33: Pond in Frieden,
00:52:34: ne?
00:52:35: Wir können beide das... Das ist das Tatwerk.
00:52:37: Vulkanischer?
00:52:38: Der vulkanische Große.
00:52:40: Der vulkanische Große.
00:52:41: Der eigentlich vom Prediger entstammte, die mit zwei beiden Händen vor der Gemeinde waren, aber auch ein anderes Thema, da war der Nerd wieder in mir.
00:52:48: Ja,
00:52:48: ja, das ist nicht schlimm.
00:52:49: Mit Nerdig angefangen, Nerdig geändert, ist doch wie so ein roter Faden.
00:52:53: Ich freu mich, dass wir den mal hatten.
00:52:55: Manchmal sind wir auch ein bisschen kreativer in dem Ausleben unserer Folge.
00:53:00: Diesmal haben wir uns im Borguniversum genährt.
00:53:04: Und länger aufgehalten als geplant.
00:53:07: Ja, aber es ist ja auch ... Kollektives Wissen heißt halt auch, dass es viel ist.
00:53:13: Da muss man auch viel reden, dürfen drüber.
00:53:15: Jetzt verlier ich langsam die Worte und wir machen Schluss, oder?
00:53:18: Noch noch übrig, wenn es euch gefällt, sagt euren Freunden, Kollegen, Verwandten.
00:53:23: Lasst sie teilhaben an unserem Audio-Kollektiv.
00:53:27: Wenn euch etwas nicht gefällt, schreibt uns sehr gerne eine Nachricht, hinterlasst uns Sterne, hinterlasst uns öffentliche Kommentare, abonniert uns und gehören uns das nächste Mal.
00:53:38: Bis dann.
00:53:39: Ciao!
Neuer Kommentar