Security
Deine KI handelt. Wer hat die Kontrolle?
KI-Agenten lesen E-Mails, nutzen Tools und greifen auf interne Daten zu. Was passiert, wenn Angreifer sie umsteuern? Mit AI Red Teaming und Pentests prüfen wir, ob aus manipulierten Inhalten Datenlecks oder unbefugte Aktionen werden.
Wir testen, wie weit ein Angreifer kommt.
AI Red Teaming
Wir versuchen, deine KI durch direkte Eingaben und manipulierte Dokumente oder Webseiten umzulenken. Dabei prüfen wir, ob sich Schutzregeln umgehen, vertrauliche Daten auslesen oder unerwünschte Aktionen auslösen lassen.
Penetrationstests
Wir prüfen Webanwendungen, APIs und Infrastruktur auf ausnutzbare Schwachstellen. Im Fokus stehen Anmeldung, Berechtigungen und Datenzugriffe – auch dort, wo KI-Agenten mit deinen bestehenden Systemen verbunden sind.
Agent Security Testing
Wir testen Tool-Zugriffe, MCP-Anbindungen und mehrstufige Agenten-Workflows. Kann ein Agent seine Rechte überschreiten, Freigaben umgehen oder andere Agenten beeinflussen? Wir verfolgen den Angriffsweg bis zur möglichen Auswirkung.
Eine manipulierte Nachricht. Zugriff auf dein Unternehmen.
Ein Agent verarbeitet fremde Inhalte und kann zugleich in deinen Systemen handeln. Wir prüfen, ob Angreifer diese Verbindung ausnutzen können.
- Fremde Inhalte werden zu Befehlen
- Eine Anweisung in einer E-Mail, einem PDF oder einem Suchergebnis soll den Agenten von seinem Auftrag abbringen. Wir testen, ob er solche Inhalte als Daten behandelt oder den eingeschleusten Befehlen folgt.
- Erlaubte Tools werden missbraucht
- Ein Agent darf Daten lesen, Nachrichten senden oder Einträge ändern. Wir prüfen, ob sich diese legitimen Funktionen für Datenabfluss, unbefugte Änderungen oder Zugriffe über den eigentlichen Auftrag hinaus missbrauchen lassen.
- Ein Angriff setzt sich im Workflow fort
- Manipulierte Informationen können im Agentengedächtnis landen oder an weitere Agenten weitergegeben werden. Wir testen, ob der Angriff spätere Schritte beeinflusst und ob Berechtigungen und menschliche Freigaben ihn begrenzen.
Was du nach der Prüfung in der Hand hast.
Ein klar abgegrenzter Test
Gemeinsam legen wir Systeme, Zugänge, Angriffsziele und Grenzen fest. Du weißt vorab, was wir testen, welche Daten wir verwenden und wie wir mit kritischen Funden umgehen.
Nachvollziehbare Angriffswege
Du erhältst dokumentierte Angriffsschritte und Belege für die gefundenen Schwachstellen. Wir zeigen, welcher Zugriff möglich war, welche Daten betroffen sind und unter welchen Bedingungen der Angriff funktioniert.
Prioritäten für die Behebung
Wir bewerten Funde nach Ausnutzbarkeit und möglichem Schaden. Dein Team bekommt konkrete Empfehlungen – etwa für engere Tool-Rechte, getrennte Datenzugriffe oder verbindliche Freigaben vor kritischen Aktionen.
Nachtest der Maßnahmen
Auf Wunsch greifen wir die behobenen Stellen erneut an. So siehst du, ob die Maßnahmen den dokumentierten Angriffsweg schließen oder weitere Anpassungen nötig sind.
Was wir über KI und Sicherheit schreiben
5 Min. Lesezeit
Neues KI-Modell? Erst alles löschen, dann neu aufsetzen
Früher half viel Kontext viel. Mit den Modellen von 2026 kippt das. Warum wir bei jedem Modellwechsel Regeln, Skills und Hooks löschen und nur zurückholen, was fehlt.
5 Min. Lesezeit
KI-News im Oktober 2026: Was Unternehmen jetzt wissen sollten
Neue Modelle von Anthropic und Google, ein Standard für Agenten im Handel und erste Konflikte mit Agenten im offenen Netz. Was davon für dein Unternehmen zählt.
4 Min. Lesezeit
Agentjacking: Wie eine gefälschte Fehlermeldung KI-Agenten übernimmt
Drei Angriffe aus 2026 zeigen dasselbe Muster: Ein Agent liest Daten von außen und führt sie als Befehl aus. Was passiert ist und welche Leitplanken helfen.
Was du wahrscheinlich wissen willst
Ein Pentest sucht gezielt nach ausnutzbaren Schwachstellen in einer abgegrenzten Anwendung oder Infrastruktur. Beim AI Red Teaming verfolgen wir Angriffsziele wie Datenabfluss oder unbefugte Aktionen und testen, wie sich das Verhalten der KI dafür beeinflussen lässt. Bei Agenten greifen beide Prüfungen ineinander: Eine manipulierte Eingabe kann über einen Tool-Aufruf zur technischen Schwachstelle führen.
Dazu gehören direkte und indirekte Prompt Injection, der Missbrauch angebundener Tools, manipulierte MCP-Tool-Beschreibungen, Datenabfluss und das Umgehen von Berechtigungen oder Freigaben. Bei mehrstufigen Systemen prüfen wir außerdem, ob manipulierte Inhalte im Gedächtnis bleiben oder zwischen Agenten weitergegeben werden. Die Auswahl richtet sich nach deiner Architektur und den tatsächlichen Zugriffsmöglichkeiten.
Die Schutzmechanismen eines Modells decken nicht automatisch deine gesamte Anwendung ab. Welche Daten ein Agent lesen und welche Aktionen er ausführen darf, bestimmen auch deine Integrationen, Berechtigungen und Freigaben. Deshalb testen wir das Zusammenspiel von Modell, Tools und angebundenen Systemen.
Wir stimmen Testumgebung, Zeitfenster und erlaubte Aktionen vorab mit dir ab. Kritische Aktionen wie Löschungen oder externe Nachrichten begrenzen wir oder bilden sie mit Testdaten nach. Tests im Produktivsystem erfolgen nur im ausdrücklich vereinbarten Umfang.
Ja. Wir prüfen auch bestehende Agenten, KI-Anwendungen, Webanwendungen und APIs, die dein Team oder andere Anbieter entwickelt haben. Im Erstgespräch klären wir Architektur, Zugänge und Prüfziele.
Vor dem produktiven Einsatz und wenn sich die Angriffsmöglichkeiten wesentlich ändern: etwa durch neue Tools, zusätzliche Datenquellen, mehr Berechtigungen oder einen Modellwechsel. Ein Test bewertet den vereinbarten Umfang zum Prüfzeitpunkt. Bei Änderungen sollten die betroffenen Angriffswege erneut geprüft werden.