Dark Side of AI

Shownotes

Mark holt sich für diese Folge Verstärkung: Thomas Lang, seit 26 Jahren in der IT, davon viele in der Informationssicherheit. Sein Fachgebiet beginnt genau dort, wo niemand sein will — wenn der Hacker schon da war oder wenn man verhindern will, dass er kommt. Was als Gespräch über Hackerangriffe beginnt, wird schnell ein Rundgang durch eine veränderte Bedrohungslage. Früher musste ein Angreifer wissen, wie man nmap schreibt, sich unauffällig durch Netzwerke bewegt und Schwachstellen findet. Heute reicht ein Satz an ein Sprachmodell. Cloud-Code, Docker, MCP-Server für Kali Linux und Shodan — die Werkzeugkette steht in fünf Minuten. Die Eintrittshürde fürs Hacker-Handwerk ist drastisch gesunken.

Thomas erzählt aus der Praxis: Wie sich Angreifer 14 Monate lang mit Domain-Admin-Rechten auf einem Terminal Server tummelten. Wie ein Azubi privat Hacker-Skills gelernt und ungestraft im Firmennetz ausprobiert hat. Und warum Unternehmen gegen interne Täter typischerweise viel schlechter geschützt sind als gegen externe.

Außerdem geht es um die Schattenmärkte: WormGPT, FraudGPT und ähnliche Modelle, die im Darknet als Software-as-a-Service vertrieben werden, inklusive Telegram-Support und Lifetime-Lizenz für 900 Dollar. Um Voice Cloning, das mit 15 Sekunden Audiomaterial täuschend echte Stimmen erzeugt, lokal, auf einem normalen Notebook. Und um die berechtigte Frage, ob Unternehmen demnächst ihre eigenen agentischen Sicherheits-KIs gegen die agentischen Angriffs-KIs ins Feld schicken müssen.

Am Ende steht eine Beobachtung, über die heute morgen bereits eine Bank in Frankfurt nachgedacht hat: Was, wenn ein Modell allein durch seine Existenz und Fähigkeiten ausreicht, um die Frage „Müssen wir unsere Systeme vom Netz nehmen?” auf den Tisch zu bringen?