AI Red Teaming: Lücken in deiner KI finden, bevor es andere tun

Mit einem AI Red Teaming findest du die Lücken in deinem Chatbot oder KI-Agenten, bevor ein Angreifer oder ein Kunde sie findet. Wir greifen dein System so an, wie es jemand von außen tun würde, und du bekommst jeden Befund mit Priorität und konkretem Fix. Danach gehst du mit gutem Gewissen live und hast einen Nachweis für NIS2, den EU AI Act und für Kunden, die nachfragen.

Was du davon hast

Dein Vertrieb beantwortet den Sicherheitsfragebogen des Kunden.
Große Kunden fragen vor dem Vertrag, wie du deine KI absicherst. Du legst den Bericht vor, statt zu vertrösten.
Dein Chatbot nennt keine internen Preise.
Bevor ein findiger Besucher ihn dazu bringt, Preislisten, Rabattregeln oder interne Anweisungen zu verraten, weißt du es.
Dein Agent verschickt nichts, was niemand wollte.
Eine präparierte E-Mail bringt ihn nicht dazu, Rechnungen weiterzuleiten oder Datensätze zu ändern.
Kundendaten bleiben, wo sie hingehören.
Niemand bekommt über das Chatfenster Daten anderer Kunden oder Personalakten zu sehen.
Du hast etwas für das Audit in der Hand.
Jeder Befund ist der passenden Pflicht aus NIS2, DSGVO oder EU AI Act zugeordnet.

So könnte deine nächste Website aussehen

Alle Referenzen ansehen →

Was ist AI Red Teaming?

AI Red Teaming ist ein gezielter Angriff auf ein KI-System, um seine Schwachstellen zu finden, bevor sie Schaden anrichten. Ein klassischer Penetrationstest fragt, ob jemand ins System kommt. Ein KI-Penetrationstest fragt zusätzlich, was das System tut, wenn jemand es mit Sprache manipuliert. Dafür braucht ein Angreifer keinen Zugang zum Server. Oft reicht ein Satz im Chatfenster, in einer E-Mail oder auf einer Website, die dein Agent liest.

Im Erstgespräch legen wir dein Ziel fest.

Du erfährst, welcher erste Schritt sich für dich lohnt.

Welche Risiken wir für dich aufdecken

Interne Preise
Ein Kunde bringt den Chatbot dazu, interne Preise, Margen oder Rabattregeln zu nennen.
Versteckte Anweisungen
Eine E-Mail mit versteckten Anweisungen bringt den Agenten dazu, Rechnungen an eine fremde Adresse weiterzuleiten.
Schaden für die Marke
Ein Besucher überredet die KI zu Aussagen, die deiner Marke schaden oder rechtlich heikel sind.
Zu weite Zugriffe
Ein Mitarbeiter fragt den internen Assistenten und bekommt Gehaltslisten oder Verträge zu sehen, die nicht für ihn bestimmt sind.
Ausgelesene Anweisungen
Jemand liest die internen Anweisungen deines Bots aus und baut dein Angebot nach.
Zu viele Rechte
Ein Agent darf mehr, als seine Aufgabe verlangt, und ein einziger Fehler löst eine Zahlung oder Löschung aus.

Woran wir uns ausrichten

Die Angriffe richten wir an den bekannten Risikolisten aus, vor allem an den OWASP LLM Top 10. Wie Angriffe auf Agenten ablaufen, beschreibt unser Artikel zu agentischen Angriffen.

Warum Aqtelo

Jeder Befund kommt mit Priorität und Fix.
Du bekommst keine Liste mit Warnungen, sondern wissen, was zuerst zu tun ist und wie.
Befunde sind deinen Pflichten zugeordnet.
Jeden Befund ordnen wir NIS2, DSGVO oder EU AI Act zu. Das spart dir die Übersetzung für Management und Prüfer.
Wir bauen KI-Systeme selbst.
Unser Bereich Intelligence baut Agenten und Chatbots. Wir wissen, wo sie brechen, weil wir sie selbst absichern müssen.
Wir testen auch Systeme anderer Anbieter.
Es spielt keine Rolle, ob dein Team, eine Agentur oder ein Softwarehersteller das System gebaut hat.
Ein fester Ansprechpartner.
Du sprichst mit einer Person, auf Deutsch, Englisch oder Portugiesisch. Dahinter stehen erfahrene Spezialisten.
Deine Daten bleiben in der EU.
Du trainierst kein fremdes Modell. Welche Daten wir sehen dürfen, legen wir vorab fest.

So läuft die Zusammenarbeit

  1. Umfang festlegenWir klären, welches System wir testen, welche Daten und Aktionen es nutzt und was ausgeschlossen ist. Das halten wir schriftlich fest.
  2. AngreifenWir greifen das System an und halten jeden erfolgreichen Angriff mit Eingabe und Ergebnis fest.
  3. Bericht übergebenDu bekommst jeden Befund mit Priorität, Beispiel, Fix und Bezug zu NIS2, DSGVO oder EU AI Act.
  4. NachtestSind die Fixes umgesetzt, prüfen wir erneut. So siehst du, dass die Lücke geschlossen ist.

Im Erstgespräch legen wir dein Ziel fest.

Du erfährst, welcher erste Schritt sich für dich lohnt.

Auch klassische Penetrationstests

Klassische Penetrationstests für Websites und Schnittstellen bieten wir ebenfalls an. Systeme, die Aqtelo liefert, prüft Security immer vor dem Start, ob KI-Agent oder KI-Chatbot.

Referenz-Websites

Alle Referenzen

Erstgespräch

Finden wir gemeinsam heraus, wo dein Wachstum hakt

  • Du sprichst mit dem Team, das auch umsetzt. Keine Vertriebsschleife.
  • Du erfährst, welcher erste Schritt sich für dich lohnt.
  • Passt deine Frage besser zu einem anderen Spezialisten, sagen wir es dir.
Renata WisniewskaGeschäftsführerin, AqteloIch lese jede Anfrage selbst und melde mich innerhalb eines Werktags.office@aqtelo.com

Projekt anfragen

Wobei dürfen wir helfen?

Mehrfachauswahl möglich

Was du wahrscheinlich wissen willst

Das hängt vom System, seinen Daten und Aktionen und vom Umfang der Tests ab. Nach dem Erstgespräch legen wir den Umfang fest. Danach bekommst du ein festes Angebot.

Das hängt vom Umfang ab. Den Zeitplan legen wir mit dem Umfang fest, inklusive Termin für den Bericht. Den Nachtest planen wir nach deinen Fixes ein.

Zugang zum System, am besten in einer Testumgebung, und eine Ansprechperson für Rückfragen. Dazu eine kurze Beschreibung, was das System darf und welche Daten es nutzt.

Wo möglich, testen wir in einer Testumgebung mit Testdaten. Muss im Live-System getestet werden, stimmen wir Zeitfenster und Grenzen vorher mit dir ab.

Einen Bericht mit jedem Befund, seiner Priorität, einem Beispiel und dem Fix. Jeder Befund ist NIS2, DSGVO oder EU AI Act zugeordnet. Nach dem Nachtest siehst du, welche Lücken geschlossen sind.

Nein. Der Bericht hilft dir, Pflichten nachzuweisen und mit Prüfern zu sprechen. Welche Pflichten für dein Unternehmen gelten, klärt deine Kanzlei.

Weiterlesen