Der digitale Geist vor dem Bildschirm: Wie KI-Agenten die Cyberkriminalität verändern

00:00:00: Der Geist, der vom Computer sitzt, arbeitet tatsächlich so wie wir Menschen.

00:00:04: Nur dass er immer in dem, was er tut, der Beste sein wird.

00:00:06: Geldwert

00:00:07: gibt es deutlich mehr als drei Millionen Openclaw-Users.

00:00:10: Hunderttausende davon sind gefährdet.

00:00:11: Es geht einfach ums Securityumfeld auch darum schnell zu detektieren und schnell zu handeln.

00:00:15: Ich glaube das diese Agents alle Business werden.

00:00:17: Es gibt

00:00:17: eigentlich keine Alternative.

00:00:18: man muss sich mit dem Thema auf jeden Fall auseinandersetzen.

00:00:34: Die gleich dargestellten Ereignisse sind zum Teil fiktionalisiert.

00:00:39: Die Technologien und die Bedrohungen dahinter aber, sind real.

00:00:44: Es ist zwanzig Uhr einundvierzig.

00:00:46: In einem mittelständischen Unternehmen ist das Großraumbüro längst leer nur in der IT-Brennt noch Licht.

00:00:53: Auf einem Schreibtisch steht ein Mac Mini Unscheinbar leise Fast unsichtbar zwischen Docking Station, Cafébächer und zwei Monitoren.

00:01:03: Auf dem Bildschirm läuft kein Chatfenster, keine Suchmaschine, keine klassische Hacking-Software sondern ein digitaler Agent.

00:01:11: Ein System das nicht nur antwortet – sondern handelt!

00:01:15: Dass selbstständig der Tein öffnet, Browser steuert, Mails liest, Tools verbindet, Aufträge zerlegt und dass ohne das ein Mensch auch nur einen Klick macht.

00:01:26: Ein Prompt reicht um den zuvor intensiv trainierten KI-Agenten in Angriff zu schicken.

00:01:32: Finde heraus, welche Mitarbeitenden Zugang zur Finanzfreigabe haben.

00:01:37: Suche nach internen Abläufen.

00:01:39: Formuliere glaubwürdige Nachrichten Arbeite unauffällig Und dann beginnt etwas das vor wenigen Jahren noch wie Science-Fiction geklungen hätte Die Maschine recherchiert.

00:01:51: Sie liest interne Dokumente Sie erkennt Muster Sie formuliert überzeugend Sie verbindet Informationen priorisiert Ziele und arbeitet Schritt für Schritt auf ein Ergebnis hin Wie in diesem Fall.

00:02:04: Eine große Überweisung

00:02:05: auf

00:02:05: ein fremdes Konto!

00:02:08: Der KI-Agent funktioniert nicht wie ein Chatbot, sondern wie ein digitaler Praktikant ohne Feierabend oder wie einen Angreifer der nie müde wird.

00:02:21: Genau darüber spricht die Securitywelt gerade so hoffnungsvoll und nervös zugleich über digitale Agenten – über Systeme, die nicht nur Text erzeugen, sondern selbstständig Aktionen in digitalen Umgebungen ausführen können.

00:02:35: Reuters beschrieb OpenClaw im März als opensource-Software, die mit minimaler menschlicher Anleitung eine breite Palette von Aufgaben autonom erledigen kann.

00:02:44: Also deutlich über klassische Chatbot oder Assistentenfunktionen hinaus.

00:02:50: und dann kippt die Geschichte!

00:02:53: Denn was als Produktivitätstool beginnt wird plötzlich zum Sicherheitsproblem – und das ganz akut.

00:03:02: Immer mehr Menschen experimentieren mit ihren eigens gebauten Agenten.

00:03:06: Gleichzeitig häuften sich Warnungen vor falsch konfigurierten Installationen, vor offen erreichbaren Instanzen, vor Agenten mit weitreichenden Rechten und zu wenig Kontrolle.

00:03:19: Und genau diese Umstände wurden über sieben Tausend Usern zum Verhängnis.

00:03:24: Claw Havoc eine der größten Agenten.

00:03:27: Manipulationen bisher finden im Jänner-s Jahr-Zw.

00:03:31: Eine Kampagne, bei der bösartige Erweiterungen sogenannte Skills in das OpenClaw-Ökosystem eingeschleust wurden.

00:03:39: Was aussieht wie Kalenderorganisationstools und Google-Integrationen ist den Wahrheit – Spionagesoftware!

00:03:46: In Wirklichkeit aber gebaut um Daten abzugreifen Schadcode nachzuladen oder Systeme weiterzukompromitieren.

00:03:53: Mehrere Berichte beschreiben hundert Tabits über tausend schädliches Skills auf Claw Hub dem Marktplatz von OpenClock.

00:04:00: Analysten schätzen den potentiellen Schaden auf über einhundert Millionen Dollar.

00:04:07: Das ist der qualitative Sprung!

00:04:10: Klassische Mailware versteckt sich, Ein herkömmliches Hacking-Tool führt einen klaren Befehl aus – ein Chatboard wartet auf Fragen.

00:04:18: Ein Agent wie OpenClaw kann dagegen Planen verknüpfen handeln und dabei Schnittstellen zu Mail-, Datein-, Browsern oder Sesssysteme nutzen.

00:04:27: Genau deshalb wird er zugleich als Produktivitätsmaschine und als neue Angriffsfläche gesehen.

00:04:33: Selbst Forscher, die open-claw Untersuchten sprechen von einem Sicherheitsproblem das nicht nur aus einer einzelnen Schwachstelle besteht sondern aus einer Kombination aus Autonomieberechtigungen und mangelnder Sichtbarkeit.

00:04:46: Was passiert wenn wir Maschinen nicht mehr nur Informationen geben?

00:04:50: Sondern Aufträge!

00:04:51: Wenn ein System nicht mehr einfach assistiert sondern selber macht wenn Angreifer keine eigene Infrastruktur mehr bauen müssen, sondern einen offenen Agenten nur noch falsch konfigurieren, erweitern oder missbrauchen.

00:05:07: In dieser Folge geht es um OpenClaw – um die Claw-Havoc-Kampagne und um die neue Generation digitaler Agenten.

00:05:15: Was können diese Systeme wirklich?

00:05:18: Wie werden sie bereits missbraucht?

00:05:20: Wo helfen Sie bei der Verteidigung?

00:05:23: Und stehen wir am Anfang einer Zeit in der im Netz nicht mehr nur Menschen gegen Menschen kämpfen Sondern KI gegen KI?

00:05:30: Willkommen bei AkteClix, dem A-Ins Cybercrime Podcast.

00:05:34: Abhören empfohlen!

00:05:36: Hallo und herzlich willkommen beim AkteCLIX, dem Cybercrimes Podcast von A- Ins.

00:05:41: Der Österreicher Peter Steinberger hat mit Open Claw, im Jahr twenty-sixundzwanzig einen technischen Welthit abgeliefert und auch den ganz großen Techrisen da draußen vorgeführt, wie KI-Agenten eigentlich funktionieren können.

00:05:55: Das Ganze kommt aber auch mit einigen Problemen daher, denn diese KI-Agenten können auch von Cyberkriminellen eingesetzt werden und genau darum geht es in der heutigen Folge!

00:06:05: Mein Name ist Jakob Steinscheiden und mein heutiger Gast heißt Roman Petek seines Zeichens Cyber Security & AI Defense Specialist bei R.I.N.S Herzlich willkommen im Studio.

00:06:15: Hallo auch von meiner Seite, schön dass ich dabei sein darf.

00:06:16: heute

00:06:17: Bevor wir uns in die Untiefen der KI-Agenden hineinstürzen, wollen wir mal so ganz generell den Rahmen abstecken und erfahren was ist ein KI-Agent allgemein gesagt?

00:06:27: Wie funktioniert er?

00:06:29: Grundsätzlich wurde Peter Steinberger schon angesprochen.

00:06:31: Und das Thema OpenCure, wenn man einen Zitat hernimmt von Peter Steinberg oder der Ursprung woher diese ganze Agent-Thematik aus seiner Sicht kommt Sagt er ganz offen, muss ich sich so vorstellen als wäre ein Geist vor einem Computer und dem befüllt man mit Informationen oder gibt ihm Rechte dass er etwas tun soll.

00:06:50: Das heißt ursprünglich wär der Ansatz der und der sei intelligent repitative Aufgaben an einen Agent zu übergeben.

00:06:57: das heißt er kann autonom auch handeln wenn man ihm das zulässt oder ihn auffordert etwas zu tun und der unterstützt mich beispielsweise in meinem täglichen Doing im Arbeitsalltag oder eben auch im privaten Umfeld.

00:07:09: Wir haben jetzt am Start gehört, dass viele sich Mac-Minis gekauft haben beispielsweise und zu Hause sich Open-Shore installiert haben.

00:07:19: ja und da gibt es unterschiedlichste Anwendungsbereiche im Guten wie auch in Bösen Sinne und darum geht's.

00:07:24: Okay das kann man sich wirklich so vorstellen.

00:07:26: dieser KI Agent steuert Maus und Tastatur kann auf Webseiten klicken Könnte theoretisch, wenn ich es immer erlauben will in meinem Bankaccount einloggen?

00:07:37: Ja also tatsächlich ist das so.

00:07:39: Ich kann an der Unterschlichte Freiheiten geben, nehmen Sie mir so... Das könnte jetzt beginnen sein mit so klassischen Aufgaben wie erstellen wir ein Wordfile und schreiben einen gewissen Text hinein.

00:07:51: Kann aber natürlich auch sein, dass er mir unterschiedlichstem Aufgabe im Bereich meiner Business Mails abarbeiten soll und für mich organisieren soll.

00:07:59: Das werden Aufgaben die uns natürlich im täglichen Arbeitsalltag unterstützen können, aber für die IT-Sicherheit eine enorme Herausforderung darstellen.

00:08:08: Weil das klingt ja super praktisch hat Millionen Menschen auf diesem Planeten weltweit begeistert.

00:08:14: Viele haben sich's installiert, aber wenn man das jetzt vergleicht mit Schadsoftware oder Hacking Tools sind diese KI-Agenten ein qualitativer Sprung in der Bedienung von Angriffssoftware?

00:08:27: Ja also grundsätzlich ist es keine Mallware oder dergleichen.

00:08:30: Also ein massiver Unterschied zu herkömmlichen Schadsoftwares.

00:08:35: Wenn man so möchte, da oben klar ist eine Instanz die läuft auf meinem Device oder auf irgendeiner virtuellem Umgebung die ich Ihnen gehosten lasse Und dementsprechend kann ich Skills verteilen, was dieser Agent kann und was er zum Beispiel da nicht kann.

00:08:48: Ich kann ihm Zugriffsrechte geben auf meinen Google Drive als Beispiel und kann ihn dort Ordnerstrukturen verwalten lassen.

00:08:54: Und Sie haben auch schon praktische Erfahrungen mit OpenClone und Co.

00:08:57: gesammelt, offenbar?

00:08:58: Ja ja einiges also.

00:09:00: tatsächlich war es ein sehr spannendes Thema gleich zu Beginn und natürlich ist das auch meine Aufgabe innerhalb der Heinz-Gruppe mich mit solchen Themen zu befassen, zu beschäftigen.

00:09:10: und ja da spielen einige Themen dazu bei.

00:09:13: also für mich zählt dann eher weniger dieser private Umfang sondern eher der Businessumfang.

00:09:17: wie kann ich unseren Kunden dabei helfen OpenClones Tanz zu detektieren um diese wenn es den eingesetzt werden soll im Unternehmen so einzuschränken, dass das vernünftig und sicher usable ist.

00:09:31: Einen Governance zu verpassen am besten Fall.

00:09:33: Jetzt beschäftigen wir uns in diesem Podcast natürlich mit dem Thema Cybercrime.

00:09:37: Gehen wir's mal quasi in der Theorie praktisch durch wie Open Cloud oder ähnliche KI-Agenten von Cyberkriminellen eingesetzt werde könnten?

00:09:47: Könnten die sich das recht simpel installieren um den KI-Agenten anweisen?

00:09:52: Greif bitte!

00:09:53: Und dann nehmen X und

00:09:56: Y an.

00:09:56: Schwierig zu beantworten, grundsätzlich ja.

00:09:59: Es gehört natürlich schon einiges an technischen Know-how dazu.

00:10:02: Man muss das Verständnis schon dafür haben aber es wird um einiges leichter gemacht.

00:10:06: Das heißt man muss sich vorstellen dieser Geist der vom Notebook sitzt oder von McMinnie wie wir jetzt gehört haben den betanke ich mit Informationen.

00:10:15: Und man muss immer wissen, dieser Geist wird immer in dem was er tut der Beste sein.

00:10:20: Denbe mich in Anreichere natürlich!

00:10:22: Mit etwaigen Leistungsbeschreibungen, Produktblättern oder wie auch immer.

00:10:25: Das könnte aber beispielsweise auch Kali-Linux sein eine Hackersoftware die sich auf einem Linuxsystem betreiben kann und oben klar alle Rechte geben kann dieses Hackertool zu nutzen.

00:10:35: Darum geht es am Ende des Tages.

00:10:36: Wie kann ich das einschränken?

00:10:37: Möchte ich das, ja!

00:10:39: Und ich bin da ein irrsinniger Fan beispielsweise vom iRobot-Prinzip dafür mit Will Smiths, wo eben diese sieben goldenen Regeln definiert werden.

00:10:47: und ich denke auch so könnte man – und so konnte ich es im privaten Kontext jetzt, wo ich das Thema Open Cloud ein wenig gestresst habe, einschrecken Ja, so verwenden dass es Sinne gibt und das ist auch eine gewisse Security aufreist.

00:11:04: Jetzt

00:11:05: ist das Thema ja relativ jung.

00:11:06: Peter Steinberger hat glaube ich im November zwanzig fünfundzwanzig Open Claw GitHub gestellt von dort dieses Jahr dann viral gegangen.

00:11:13: kann man sagen gibt's schon belegte Fälle wo man wirklich festmachen kann dass Open Claws oder auch ähnliche Software es gibt ja Open Source Software die darauf passieren sich abspaltet usw.

00:11:25: aber gibt's belegten Fälle.

00:11:27: Konkret gesehen hat okay ein Cyber-Krimineller eine Heckergruppe bedient sich dieser Technologie?

00:11:33: Ich glaube, man muss ihn unterscheiden.

00:11:36: Ich habe schon eingangs erwähnt, der Geist, der vom Computer sitzt, arbeitet tatsächlich so wie wir Menschen.

00:11:41: Also nur dass er immer in dem was er tut, der Beste sein wird.

00:11:45: Er wird nicht krank und hat keinen Urlaub oder sonst irgendwas.

00:11:48: Und er muss auch nicht schlafen.

00:11:48: Das heißt er kann vierundsartig mal sieben arbeiten.

00:11:51: Und der kann vierunzeigmal sieben versuchen Unternehmen zu kompromittieren oder Schwachstellen zu finden an einer Infrastruktur wenn ich ihm die nötigen Werkzeuge dazu gebe oder in der Zubeauftragung etwas zu tun.

00:12:03: Das heißt, der perfekte Prompt ist da ganz wichtig, also die Aufgabe, die ich immer aufgebe sozusagen und ab dem Moment wo er dann tut, tut er so lange bis er fertig ist und wird sich selbstständig immer wieder ausbessern und den perfekten Wege ermitteln.

00:12:20: Und ja...

00:12:21: Okay das heisst es ist wahrscheinlich relativ schwer zu erkennen ob so ein Karriergend gerade agiert oder vielleicht nicht doch talentierter menschlicher Hacker ist.

00:12:30: Tatsächlich

00:12:30: hängt es davon ab, wenn man jetzt von einem klassischen Business-Kunden ausgeht ich einen Mann in der Mitte habe.

00:12:36: das ist ein Mitarbeiter der tatsächlich diese Op- und Clown-Instanz installiert hat und anwendet in meinem Unternehmen.

00:12:43: Das werde zu detektieren anhand von Diensten die im Background laufen und unterschiedliche Software die wir schon im Unternehmen einsetzen wie Info and Protection dergleichen die das sehr wohl schon dediktieren können an der Dienste.

00:12:55: Wenn es jetzt aber von extern zugeführt wird und der Angriff gestartet wird, ist es tatsächlich so, dass ich es vielleicht nur daran dedikieren kann, dass viele Angriffe gleichzeitig kommen könnten und sich die Zeit des Angriffs massiv reduziert hat.

00:13:10: Das heißt, das hat sich alles verschnellt.

00:13:12: dadurch als ein herkömmlicher Angreifer.

00:13:14: X-Stunden, sagen wir mal fünf Stunden, um eine schwachstillen Scan im ordentliche Ausmaß zu machen.

00:13:20: OpenClaw wird wahrscheinlich dafür zehn Minuten, fünfzehn Minuten brauchen wenn es langkommt.

00:13:23: Das hängt tatsächlich vom large language Modell an ob das was im Hintergrund läuft und wie schnell das abgearbeitet wird.

00:13:32: Und umgekehrt gibt's jetzt natürlich Millionen Menschen die sich openclaw installiert haben.

00:13:36: nicht jeder ist ein Tech Experte der das auch dann so richtig aufsetzt dass er sicher isst.

00:13:44: stark setzt man sich als interessierter User anderen Angreifen aus.

00:13:48: Es gibt ja eine Website namens D-Cloud, auf der werden hunderttausende Open Cloud Instanzen gelistet die verschiedenste Sicherheitslücken aufweisen und angreifbar sind.

00:14:01: wie gefährlich ist es letztlich so als Privatuser sich das Ding zu installieren?

00:14:06: Grundsätzlich jene unter den Zugehörern wissen sicher, dass das Obenklar oder Peter Steinberg in dem Fall nahezu wöchentlich neue Updates rausschickt.

00:14:14: Und diese Updats beinhalten sehr wichtige Security-Updates natürlich um Lücken zu schließen.

00:14:20: Lücken werden deshalb geschlossen weil irgendwo eben Datenabfluss entsteht und die Frage ist halt wo dieser Datenabflusst dann hin?

00:14:26: landet oder wie diese Lücken dann unterschiedlichster Weise und Art-und-Weise für Angreifer genutzt werden, konnten schon in der Vergangenheit.

00:14:33: Und wo diese Daten schlussendlich landen, Darkweb auf irgendwelchen Marketplaces untergleichen, sei dahingestellt.

00:14:39: Aber das Ding wird immer sicherer.

00:14:42: Dadurch dass OpenSources verwenden natürlich auch einige Entwickler OpenClaw bereits in ihrer eigenen Version.

00:14:48: Das heißt da gibt es schon fertige Modelle die ein wenig besser vielleicht schon laufen und ein weniger runter sind.

00:14:55: Aber OpenClaw weiß natürlich massivem Entwicklungsstand drauf, also wir sprechen wirklich von nahezu wöchentlichen Updates die rauskommen und die haben da wirklich Energie.

00:15:09: Ja um das Phänomen OpenClauen wenig greifbarer zu machen habe ich ein paar Zahlen herausgesucht.

00:15:14: weltweit gibt es deutlich mehr als drei Millionen OpenCLAW-Users sofern man die überhaupt erkennen kann.

00:15:19: also es sind mal mindestens drei.

00:15:23: Die meisten User kommen aus den USA, China und Indien.

00:15:26: Und OpenCloud hat wirklich die größten Tech-Unternehmen dieses Planeten nachhaltig beeinflusst.

00:15:30: also es gibt Großkonzerne wie NVIDIA, Meta, Alibaba oder Tencent die alle auf diesen Konzepten von Peter Steinberger aufbauen.

00:15:39: Und so ist der Security Perspektive auch ganz interessant, die Securityfalsche von Strike haben unter dcloud.io gezeigt dass sie achthunderttausend OpenCloud Instanzen weltweit identifizieren können und die sagen hunderttaussende davon sind gefährdet Passwörter Daten & Co.

00:15:58: zu liegen.

00:15:59: also ja da wird dringend dazu geraten wenn man kein technisches Know-how hat eher die Finger von Open Cloud zu lassen.

00:16:07: Aber das sieht man wieder, man braucht einen Österreicher dafür dass man einen Paradigmenwechsel in der IT herbeiführt.

00:16:12: Genau!

00:16:12: Tolle

00:16:12: Sache?

00:16:13: Absolut.

00:16:16: Jetzt haben wir in den letzten Wochenmonaten ganz große Unternehmen wie OpenAI ein Video, wie sie alle heißen sich mit Open Cloud geschmückt.

00:16:26: Das heißt gehen Sie davon aus, dass es wirklich eine nachhaltige Technologie drin ist, und es errauscht bei immer mehr Menschen ankommen wird.

00:16:35: Ja,

00:16:35: also ich glaube zurück zum Peter wieder.

00:16:38: Peter Steinberger hat im ZIP-II Interview eigentlich das ganz gut formuliert.

00:16:41: Er ging eigentlich davon aus... Ich glaube im April letzten Jahres, dass Microsoft auch die großen Anbieter mit seinem Agent System rausgenommen haben.

00:16:48: Tatsächlich war's dann irgendwann, ich glaub, Oktober oder September oder October hat er gesagt, wo er bemerkt hat, dass nach wie vor kein Agent am Markt ist.

00:16:55: Und der hat dann gesagt okay, da machen wir das gleich.

00:16:58: dass dieser Agent dann so einen Boom auslöst und ein Elevator tatsächlich generiert, mit denen haben viele nicht gerechnet in der IT-Branche, IT Security-Banche.

00:17:08: Ich glaube wir haben schon viele damit gerechnet, dass es jetzt irgendwann einmal kommen wird.

00:17:12: Aber wie gesagt ist es ein Eleveater, das ist ein Thema mit dem man uns auseinandersetzen muss.

00:17:17: Es ist nichts Neues an der IT Security aber natürlich die breite Streuung von den Agents ist heute spannend im privaten Umfeld als auch im Businessumfeld.

00:17:27: Ja, damit muss man sich auch einander setzen und vielleicht auch im positiven Sinne nutzen.

00:17:30: Sowohl als auch, ja?

00:17:31: Also... Auch wir bereits setzen Agent-Thematik schon einen natürlich!

00:17:37: Es geht einfach, am Ende des Tages im Security-Umfeld auch darum schnell zu detektieren und schnell zu handeln.

00:17:41: Und da behilft der Agent natürlich enorm.

00:17:43: Egal wie er jetzt heißt und von wenn der entwickelt wird.

00:17:46: Genau es gibt ja nachher natürlich andere auch.

00:17:48: aber Stichwort breite Streuung.

00:17:49: Jetzt haben wir schon gehört eigentlich reicht ein Mac Mini um wenige hundert Euro.

00:17:54: Open Source Software kann man sich gratis kostenlos runterladen und installieren.

00:18:00: das heißt so diese Zugangsbarriere für potenzielle Cyberkriminelles sinkt jetzt auch einmal stark hin und also der Aufwand ist mittlerweile sehr gering, sondern Karriergenden aufzusetzen.

00:18:11: Und dann für bösartige Zwecke nutzen zu können?

00:18:14: Ja ich glaube man muss... Man darf nicht alles verteufeln.

00:18:17: Also Open Clouds ist schon ein gutes Ding.

00:18:19: Die ganze Agent-Thematik ist ein super Ansatz und wird uns in Zukunft natürlich beschäftigen.

00:18:26: Wir erwähnen den Positiven wie auch in Leger die Besinnung.

00:18:29: die breite Streuung muss man damit identifizieren, ob jetzt wirklich jeder im privaten Umfeld so einen moralischen Kompass aufweist.

00:18:37: Dass er halt wirklich sagt okay, ich kompromitiere sein Unternehmen oder meine Nachbarn.

00:18:41: Die klassische Script-Kid gibt es aus meinem Ansichtspunkt nicht mehr.

00:18:46: Das heißt die Jugendlichen, die beispielsweise mit Teiltieren wenig groß werden und dann irgendwie Affinität aufweisen.

00:18:53: Kompromittiertes WLAN-Passwort vom Nachbarn, weil wir die Eltern das WLAN Passwort verboten haben.

00:19:01: Das wird natürlich jetzt interessant werden aber ich glaube eher spannend ist mit anzusehen wie sich TikTok und diese ganzen Social Media Plattformen entwickeln, die nicht zensiert sind oder dementsprechend Kurzvideos und Anleitungen geben, wie man eben Wolkenklar im Bösen Sinne nutzt.

00:19:16: Und ja, das ist ein Thema.

00:19:19: Okay.

00:19:21: Und Open Source ist ja auch ein wichtiger Aspekt bei dem ganzen Open Cloud, wie gesagt man kann wenn man sich auskennt auf GitHub gehen und sich das Ding herunterladen installieren.

00:19:31: Open Source hat er glaube ich einen ganz guten Ruf.

00:19:34: aber es ist nicht auch ein Sicherheitsproblem.

00:19:36: dadurch dass sich jeder runterladen kann kann sich jeder die Software wie er will adaptieren, oder?

00:19:41: Ja natürlich gibt es auch schon unzählige Ableger von OpenCloud die sich dann unterschiedlichst nennen.

00:19:46: Ich würde sagen alle aufzählen.

00:19:47: aber ich glaube es ist auch wichtig sich nicht nur auf OpenCloud zu verstärken, es gibt ja auch unterschiedliche andere Produkte die sensationell sind am Markt und vielleicht sogar so schon besser sind und eine Governance aufweisen, Security Governance.

00:20:01: Es ist immer machbar, man darf nicht vergessen.

00:20:03: Ich brauche für diese OpenClaw-Instanz oder diesen Agent immer ein Large Language Modell im Hintergrund das Gehirn sozusagen, dass diese Informationen in irgendeiner Art und Weise verarbeitet und anweislich generiert dann schon sämtlicher.

00:20:17: Und das kostet natürlich Geld!

00:20:19: Das geht ihr so nicht ins Geld.

00:20:20: Die Entwicklungsphase in den ersten Monaten hat mir beispielsweise rund tausend Euro gekostet.

00:20:25: Da wurde noch nichts viel gemacht.

00:20:29: Jetzt gibt es unterschiedliche Möglichkeiten... dass man lokal ein Lauts-Language-Modell sich installiert, deshalb ja auch der Mac Mini wie Olama oder ähnliches.

00:20:39: Die Performance ist halt anders, sagen wir mal so.

00:20:43: und da gibt es unterschiedlichste Ansätze eben auch auf TikTok.

00:20:46: Auch dort sind wir präsent natürlich.

00:20:47: Wir müssen damit schauen was da gepostet wird und was da gemacht hat in dem Umfeld.

00:20:51: Es sind viele Entwickler auch drinnen, natürlich spannend zu sehen.

00:20:55: Wie sich auch LLM Modelle entwickeln mit Minimax und Core.

00:20:58: Wollen wir das Ganze einmal von positiven Seite betrachten.

00:21:01: Jetzt gibt es natürlich die Cybercrime-Unternehmen, kann man schon sagen.

00:21:07: Wir haben schon mal festgestellt, Cybercrimes wird ein Business von zehn Billionen Dollar.

00:21:14: Also wäre es ein Land, wer ist die drittgrößte Volkswirtschaft hinter den USA und China?

00:21:20: Also ein enorm riesiges Business!

00:21:23: Das heißt... Wie kann man Open-Claw und Career-Genten auf verteidiger Seite einsetzen?

00:21:29: Das wäre eine ganz interessante Cybercrime Realität.

00:21:32: Viele Unternehmen davon betroffen, wie könnten sich diese Technologie bedienen um selbstsicherer zu werden?

00:21:39: Puh, da müsste man sich ja wenig in die Glaskugel hineinschauen und wünscht dir was spielen.

00:21:45: Da geht es natürlich vorrangig einmal darum dass man's selbst weiterentwickeln muss um das ganze Ding wie vor allem schon erwähnt sicherer gestalten muss.

00:21:52: Wir selbst als Einz sind hochkritische Infrastruktur d.h.

00:21:54: wir müssen noch mehr als alle anderen aufpassen wie wir das Ding einsetzen.

00:21:58: aber nicht so.

00:21:59: trotz muss man auch die Vorteile erkennen und die sind tatsächlich am Tableau.

00:22:03: Das ist natürlich die ganzen repetitiven Aufgaben die man damit ablösen kann.

00:22:07: Das kann ich heute einen Agent machen lassen und da muss man nicht abwägen, was ist für mich das Unternehmen?

00:22:13: Was sind meine Kronio-Wählen?

00:22:15: Und weiß ja weniger, wo ich sage okay das kann auch der Open Cloud Agent oder you name it Agent machen.

00:22:21: Ich nenne ihn gerne John Doe in meinem Umfeld.

00:22:24: aber tatsächlich wenn ich mir etwas wünschen darf auch in die Glaskugel wieder schauen, wird das Sock zwei Punkt Null, sondern ich jetzt immer wieder sicher mit Agents besetzt sein.

00:22:34: Weil einfach die Mean Time to Detect, also die Detektion des Angriffs massiv reduziert hat.

00:22:40: Also wir haben immer so vor fünfzehn bis dreißig Minuten gesprochen im Inzidenfall.

00:22:44: Ich glaube jetzt werden wir natürlich weiter runter sein weil der Agent einfach massiv attackieren wird mehrfach attaquieren wird solange er attaquer wird bis eine Schwachstelle gefunden hat und die kann er schneller ausnutzen als Der Hacker, nehm' man mal so oder der Mensch mit böswilligen Absichten, der dann halt wirklich nur eine Tasse Tour klopfen muss und wenig mehr Zeit bracht dazu.

00:23:02: Und so muss man das ja tatsächlich sehen.

00:23:04: Und man muss diesen Agent auch behandeln wie ein tatsächlicher Mitarbeiter.

00:23:08: Den muss ich mit Regeln versehen.

00:23:10: im Dienstvertrag muss er mir wahrscheinlich gar nicht geben aber ich hab die volle Verantwortung über ihn.

00:23:15: Und dementsprechend ist es auch meine Aufgabe dem mit Informationen zu betanken.

00:23:20: Da muss sich kurz Zwischenfragen interessiert mich sehr.

00:23:22: sock was ist das?

00:23:23: Wofür steht das?

00:23:24: Ja, ein Sock ist ein Security Operations Center und wenn man das kurz jetzt in einem Satz formulieren möchte.

00:23:30: Es sind die zentrale Kommando-Stelle für alle securityrelevanten Informationen, die zusammentreffen und bewertet werden.

00:23:37: Das heißt es so die Kommandostelle wo eben die Lage bewertelt wird zusammentreffen, dann auf Kritikalität bzw.

00:23:46: militias Content oder dergleichen bewertet werden?

00:23:48: Das heißt aber sich gehen davon aus dass es eine Art Wetterüsten wird.

00:23:51: also auf Angreffers Seite KI-Agenten naheliegend das die genutzt werden und um denen was entgegenstellen zu können brauche ich auf Verteidiger Seite dann eigentlich auch einen KI-Agenten, der auch ähnlich schnell autonom und mit Nachdruck agieren kann.

00:24:07: Oder irgendwelche Applikationen einfach mit dem Entgegen stehen?

00:24:12: Und man muss sich tatsächlich anschauen, wo sich das hinentwickelt aber muss natürlich am Ball bleiben und muss das Thema auch inundauswendig kennen.

00:24:18: Was würde das technisch bedeuten, welche Infrastruktur bräuchte es um das sinnvolle auf Defenseite oder Verteidegerseite einsetzen zu können?

00:24:29: Gehen wir wahrscheinlich nicht das auf den Arbeitscomputer und der Mitarbeiter zu installieren, oder?

00:24:35: Ja ich glaube es wäre eine Zinfall.

00:24:38: Es gibt ja unterschiedlichste Möglichkeiten wie ich heute Agents betreiben kann.

00:24:42: Inzwischen gibt es Anbieter die Workspaces anbieten in der Cloud.

00:24:47: Man könnte sie von einer virtuellen Infrastruktur hosten beispielsweise bei uns auf der Exoscale und dort sicher betreiben.

00:24:54: Also da gibt's unterschiedliche Möglichkeiten.

00:24:56: Es geht schlussendlich auch darum irgendwelche Konnektoren an diese Instanz anflatschen muss, hab ich nicht stellen.

00:25:04: Die ich dann gegebenenfalls natürlich absichern muss und das ist eine Aufgabe der IT Security wiederum, dass man sich damit auseinandersetzt und da wirklich einmal konkret auf einen Plan macht bevor wir das Projekt umsetzen.

00:25:15: Also ob man es jetzt lokal auf ein klein PC installiert oder auf einer virtuellen Maschine ist sehr einmal dahingestellt.

00:25:21: Das geht wirklich darum den Nutzer mit zu identifizieren und dann eine Architektur zu bauen.

00:25:27: bestehen das mehr in Agents vielleicht sogar.

00:25:29: Ich sehe einen sinnvollen Ansatz im Deep-Arking, d.h.

00:25:32: wirklich bei Entwicklern die Fehler suche sind beispielsweise im Code.

00:25:37: da habe ich die Erfahrung gemacht dass Agents natürlich sehr hilfreich sein können weil sie einfach die Zeit minimieren wo ihr als Mensch halt massiv lange braucht um einen Beistrich irgendwo zu finden den ich vergessen hab im Code im Sündtags.

00:25:52: oder eben Ja, die feine Justierung von irgendwelchen Newscases beispielsweise.

00:25:57: Die sich immer wieder anpassen müssen.

00:26:00: im Sog sehe ich ganz klar so künstliche Intelligenz bei der Triage beispielsweise dass wir diese Eins und Nullen mit denen wir in den Logs arbeiten richtig zuordnen können und schneller zuordnern können.

00:26:11: also das wird für uns sicher ein wesentlicher Vorteil dann sein den wir auch so umsetzen.

00:26:16: Okay, das heißt das ganze rennt nicht notwendigerweise auf einem Mac Mini sondern auch in einer Cloud.

00:26:21: viel von Exoskell.

00:26:22: Ja, natürlich ja!

00:26:23: Also es geht am Ende des Tages um die Infrastruktur, die dahinter steht, die das Ding dann braucht, auch in der Verarbeitung, GPU etc.

00:26:31: Und ja genau und wir haben in der ExosKEL Gott sei Dank zu genüge.

00:26:35: Jetzt ganz schwierige philosophische Frage.

00:26:38: Wie verhindern wir das Gesellschaft, dass diese autonomen Karriagenten außer Kontrolle geraten?

00:26:43: oder sind sie schon außer Kontrolle geraten?

00:26:45: Da gibt es auch verschiedenste Meinungen dazu.

00:26:48: wie ist da Ihre Sicht?

00:26:50: Ich sehe es sehr positiv also ich bin froh, dass die Technologie verfügbar ist und tatsächlich auch als Opensource verfügbare ist, dass für jedermann verfügba... für lau und finde sehr gut.

00:27:03: Es ist halt wirklich dieses Schulungsthema, man muss wirklich wissen auf was man sich einlässt.

00:27:09: einem Agent Zugriffsrechte auf ihn der Bankkonto zu geben ist heute glaube ich nicht so gescheit wie wohl ich einige kenne die bereits mit irgendwelchen Agents treten?

00:27:19: Und ob das jetzt erfolgreich ist oder nicht, da haben wir hingestellt.

00:27:22: aber diese Optionen gibt es natürlich also wie erwähnt.

00:27:24: Man muss diesen Agent wie einen Menschen behandeln dann kann man richtig einsetzen.

00:27:29: Und wir sagen in der IT Security alle acht, also das Problem steht immer vor dem Bildschirm oder sitzt vor einem Bildschirmen und besorgt uns die meisten Probleme an der IT security.

00:27:39: Genauso kann es natürlich mit dem Open Cloud Agents sein.

00:27:41: Wenn ich ihm nicht genau sage was eine linke und rechte Grenze ist dann wird er wahrscheinlich über die Grenzen ausarbeiten weil das gut meint wenn man's mal so und da ist ganz wichtig eben ordentliche struktur zu schaffen sich vorher Gedanken zu machen wie setze ich das ding ein.

00:27:56: Gebe ich dem Agent einen Namen, ja?

00:27:59: Wie kommuniziere ich schlussendlich mit den Agents?

00:28:00: also Open Cloud bspw.

00:28:02: bietet da unzählige Möglichkeiten von Discord über WhatsApp und Co.

00:28:06: oder setzt sie überhaupt auf ein ganz anderes Agent System beispielsweise von Cloud, Tropic, NVIDIA wir immer ja.

00:28:14: Also das sind schon sehr fortgeschritte Produkte jeden etwas dabei.

00:28:20: Also wenn ich auf oben so stehe und ich möchte mir das Ding so hinschneiden, wie ich es brauche dann bin ich wahrscheinlich bei Open Cloud wichtig.

00:28:27: Wie wohl ich hier gänzen möchte dass man da schon auch technisches Know-how haben sollte.

00:28:31: bei OpenCloud?

00:28:32: Ja

00:28:32: absolut.

00:28:33: Denken Sie das über kurz oder lang eigene Gesetze notwendig werden um das in regulierte Bahnen zu lenken?

00:28:40: oder ist der Genie out of the bottle und man kann's eh nicht mehr einfangen?

00:28:45: Ich glaube da bin ich der falsche Ansprechpartner dafür die eigentlichen Arbeitsalltagheit damit beschäftigt, kreativ zu sein.

00:28:54: Und Kreativität darf halt nicht durch Gesetze meiner Meinung eingeschränkt werden.

00:28:58: aber da bin ich wahrscheinlich der falsche Ansprechpartner dafür.

00:29:00: Okay,

00:29:00: wollen wir mit einer optimistischen möglicherweise Zukunftsprognose enden?

00:29:05: in fünf Jahren?

00:29:06: wie wird das Thema KI-Agenten aussehen?

00:29:10: groß wie umfangreich kann das alles werden aus ihrer Sicht?

00:29:13: Ich glaube, dass vielleicht nicht mehr ich hier sitzen werde sondern irgendein Bot von Tesla, der mit einer Glock-Engine läuft und dann alles wiedergeben kann was wir bereit können.

00:29:27: Und ja die Weiterentwicklung bereits nebenbei mitmacht über ein Subagent.

00:29:33: aber Ganz offen gesagt, ich glaube dass diese Agents die LeBusiness werden.

00:29:38: Die werden mit uns arbeiten.

00:29:39: das wird ein Teil des Unternehmens werden egal wo in was für einer Branche etc.

00:29:45: und die Frage ist nur Wo wir zuerst starten?

00:29:50: Entwickler- umgebungen seinen Marketing Agenturen, die vielleicht ganz essentiell auf diese Schiene fahren mit den ganzen Marketing Themen im Facebook und wie immer.

00:29:59: ja das kann man automatisieren.

00:30:02: Im Grafikdesign beispielsweise habe ich schon gesehen dass da sehr viel gemacht wird in dem Umfeld Und dann weitergehen natürlich zu den ganzen Programmierern und Entwicklern.

00:30:11: Im Security-Umfeld müssen wir sowieso damit arbeiten und müssen uns damit beschäftigen.

00:30:17: Also ich glaube das sind fünf Jahre die Agents ganz normal mit uns gemeinsam arbeiten werden und wir uns mit ihnen austauschen.

00:30:24: Und wir werden es nicht mehr merken.

00:30:28: Also egal ob in einer Roboter-Version oder in Fleisch und Blut, sie will ich auf jeden Fall wieder mal im Podcast Studio begrüßen.

00:30:35: Super spannende Insätze zum Thema Karriergenden.

00:30:37: also wie haben gelernt?

00:30:38: Die können wirklich twenty for seven für uns operieren sowohl auf der guten Seite als natürlich leider auch auf der bösen Seite.

00:30:45: für Unternehmen Auf jeden Fall eine große Herausforderung, die tragen die volle Verantwortung und müssen die eigentlich behandeln wie eigene Mitarbeiter in den Regeln und Vorschriften quasi mit auf dem Weg gehen.

00:30:57: Und ich denke in fünf Jahren – das haben sie auch gesagt – sind die Daily Business.

00:31:03: Das heißt es gibt eigentlich keine Alternative, man muss sich mit dem Thema auf jeden Fall auseinandersetzen!

00:31:10: Vielen Dank Herr Petek heute für das Interview, für die Insights und Ihnen vielen Dank fürs Zusehen Bis zum nächsten Mal bei einer neuen Ausgabe

00:31:19: von Akteklicks.