Zum Inhalt springen

Suchen...

Agentische Systeme im Testen: Warum der Mensch entscheidet

Agentische Systeme mit acht bis zwölf KI-Agenten decken das Testen von der Anforderung bis zum Performance-Test ab. Menschen prüfen jede Übergabe.

• • Aktualisiert: • 11 Min. Lesezeit
Cover zum Expertengespräch über 'Agentische Systeme im Testen: Warum der Mensch entscheidet' mit Nishan Portoyan und Richard Seidl.

Ein agentisches System ist ein Netzwerk aus KI-Agenten, die sich selbstständig gegenseitig steuern, um ein Ziel zu erreichen, ohne dass Menschen einzelne Aufgaben verteilen. Anders als ein einzelner Agent, der auf Zuruf eine Aufgabe erledigt, übernimmt ein agentisches System den ganzen Testablauf: Review der Anforderungen, Erstellung von Testfällen, Abgleich der Überdeckung, Automatisierung und Performancetests, verteilt auf acht bis zwölf spezialisierte Agenten. Menschen greifen nur ein, um zu beurteilen und zu übersteuern.

Das Wichtigste in Kürze

  • Ein agentisches System ist keine Sammlung einzelner Agenten, denen Menschen Aufgaben geben, sondern ein zielorientiertes Ökosystem, in dem Agenten andere Agenten selbstständig steuern.
  • Acht bis zwölf spezialisierte Agenten können den gesamten Testprozess abdecken, vom Review der Anforderungen über die Erstellung von Testfällen bis zu Automatisierung und Performancetests.
  • KI kann Geschäftsregeln nicht so anwenden und Überdeckung nicht so beurteilen wie Menschen; menschliche Kontrolle ist deshalb keine Option, sondern an festgelegten Prüfpunkten fester Teil des agentischen Systems.
  • Funktionale Testfälle lassen sich nicht direkt für Performancetests wiederverwenden, weil der Umfang grundverschieden ist: Funktionstests bedienen eine Oberfläche wie ein Mensch, Performancetests betrachten den Datenaustausch des Systems unter Last.
  • Wo strenger Datenschutz gilt, etwa in der Schweiz, fallen Cloud-Tools wie ChatGPT, Claude und Gemini weg, und Teams müssen Modelle wie Mistral oder DeepSeek, etwa über Ollama, lokal auf Servern mit GPU-Leistung betreiben.

Agentische Systeme sind mehr als ein paar Agenten

Agentische Systeme zeichnen sich dadurch aus, dass Agenten andere Agenten selbstständig steuern, ohne dass ein Mensch jede Aufgabe einzeln verteilt. Die Unterscheidung ist wichtig, denn viele Teams sprechen von einem agentischen System, obwohl sie eigentlich nur eine Handvoll Agenten betreiben, die isolierte Aufgaben erledigen.

Nishan Portoyan zieht hier eine klare Linie. Ein einzelner Agent nimmt eine Eingabe entgegen und liefert eine Ausgabe. Dann wartet er auf die nächste Anweisung. Ein agentisches System läuft als ganzes Ökosystem: zielorientiert statt aufgabenorientiert, mit Agenten, die sich Arbeit gegenseitig übergeben und entscheiden, was als Nächstes passiert.

Wenn immer noch ein Mensch jeden Schritt entscheidet und jede Aktion anstößt, dann arbeiten da Agenten. Ein agentisches System ist das nicht.

Warum der Mensch im Kreislauf bleibt

Das ursprüngliche Versprechen hat sich nicht erfüllt: ein KI-System, das alles regelt, während die Menschen sich zurücklehnen und zuschauen. In der Praxis funktioniert dieses Modell nicht.

Die mechanische Arbeit erledigt die KI gut. An bestimmten Stellen braucht es aber weiterhin einen Menschen, der entscheidet. Der Mensch im Kreislauf ist also kein Notnagel, er gehört zum Design. Festlegen musst du, wo der Mensch sitzt und ob er die Entscheidung der KI überstimmen kann.

Der Grund ist einfach. Eine KI versteht keine Geschäftsregeln. Nishan sagt es ganz offen: Diese Lücke wird sich nicht schließen, weil Menschen anders denken als ein System, das nur Informationen hin und her schiebt. Ein Tester in dieser Rolle kann deshalb kein Einsteiger sein. Ob das Ergebnis zu dem passt, was das System wirklich leisten muss, kann nur ein Experte beurteilen.

So läuft eine agentische Testpipeline ab

Ein vollständiges agentisches Testsystem übernimmt die Aufgaben, die sonst ein Tester erledigt, von der Prüfung der Anforderungen bis zum Performancetest, und an jeder Übergabe schaut ein Mensch drauf. Nishans Team betreibt genau das intern.

Alles beginnt bei der Anforderung. Ein Requirements Engineer legt eine neue Anforderung in Jira an. Das agentische System erkennt sie, holt sie ab und führt ein Review durch. Alternativ kann ein Tester das System anweisen, die Anforderungen für ein bestimmtes Release zu holen.

Nach dem Review markiert das System Unstimmigkeiten, schlägt Korrekturen vor und zeigt dem Tester das Ergebnis. Der Tester gibt es frei oder liefert mehr Kontext. Sind die Informationen der KI veraltet oder lückenhaft, ergänzt du, was fehlt, und lässt neu generieren.

Dann folgt die Erstellung der Testfälle, allerdings ohne das Testset blind aufzublähen. Das System prüft zuerst die Überdeckung. Decken vorhandene Testfälle die Anforderung schon ab? Wenn ja, ordnet es die Anforderung einem Testfall zu. Wenn nein, schlägt der zuständige Agent neue Testfälle vor und lässt sie vom Tester bestätigen.

Als Nächstes kommt die Automatisierung. Ein eigener Automatisierungsagent fragt, ob die Testfälle automatisiert werden oder manuell bleiben sollen. Er automatisiert so, wie es ein Mensch tun würde: Eigenschaften inspizieren, die Anwendung identifizieren, die richtigen Elemente bestätigen. Auch hier beurteilt der Tester, ob die KI die richtige Anwendung und die richtigen Elemente trifft, und kann jederzeit eingreifen.

Ist der automatisierte Testfall geschrieben, geht er in die Release-Umgebung, wird ausgeführt, und die Ergebnisse kommen sofort zurück. Schlägt ein Test fehl, untersucht ein Fehleranalyse-Agent die Ursache. Hat sich ein Element verschoben? Hat sich eine Eigenschaft oder eine Farbe geändert?

Genau hier wird Vertrauen zum Risiko. Wenn die KI einen Fehlschlag selbst behebt, behebt sie ihn womöglich falsch. Vielleicht hat ein Entwickler eine ID geändert, und die KI hängt sich an ein Element, das richtig aussieht, es aber nicht ist. Die Kontrolle muss beim Menschen bleiben, damit er die Korrektur berichtigen oder den Lauf weiterlaufen lassen kann.

Den Abschluss der Pipeline bilden die Performancetests. Ein separater Agent wandelt die automatisierten Funktionstests in Performancetestfälle um, führt sie auf dem gewählten System aus und meldet Engpässe und Warnungen.

Warum sich Funktionstestfälle nicht für Performancetests wiederverwenden lassen

Der Performance-Agent hat seine Berechtigung, weil er Testfälle umwandelt, nicht weil er sie ausführt. Das bloße Ausführen gehört in die CI/CD-Pipeline. Die Umwandlung ist die eigentliche Arbeit.

Funktions- und Performancetestfälle haben einen völlig anderen Umfang. Ein automatisierter Funktionstest steuert das Testobjekt über die GUI oder eine API und ahmt dabei einen einzelnen Benutzer nach. Ein Performancetest lässt die Frontend-Interaktion weg und betrachtet den Datenaustausch des Systems, um zu messen, ob es von einem Benutzer auf zweihundert skaliert.

Diese Skalierung verlangt, dass sich die Testfälle selbst ändern. Entweder wandelt eine KI sie um oder ein Performance-Experte. Der Unterschied liegt in der Zeit. Eine unveränderte Funktionstestsuite direkt in einen Performance-Lauf zu schicken, verbrennt nur Tokens.

Wie viele Agenten ein agentisches Testsystem braucht

Ein funktionierendes Setup kommt mit acht bis zwölf Agenten aus. Die genaue Zahl hängt davon ab, wie viele Features und Funktionen du der KI übergibst.

Auch die Branche verschiebt die Zahl. Ein Bankensystem begrenzt, was du der KI überlassen kannst, weil regulatorische Vorgaben jeden Schritt einrahmen. Im Einzelhandel lässt sich mehr übergeben, weil DSGVO und Datenschutz dort weniger schwer wiegen.

Autonomie hängt an der Aufgabe, nicht an ständiger Überwachung. Ist eine Anforderung in Jira bereit, feuert der Trigger, und der Prozess startet. Würde die KI sonst die falschen Anforderungen holen, etwa aus dem nächsten oder übernächsten Release, legt der Mensch fest, auf welches Release sie sich konzentrieren soll.

Was in einem Agenten steckt

Ein Agent beruht auf drei Dingen: Inhalt, Fähigkeiten und Zugriffsgrenzen. Der Inhalt ist der fachliche Kontext des Unternehmens, und genau daran scheitern die meisten Versuche.

Du kannst dem Agenten den Inhalt direkt mitgeben oder ihn versioniert in einem Container ablegen. Dann holt sich der Agent die aktuellen Informationen und weiß, wann er zuletzt nachgesehen hat. Mit dem Container-Ansatz behältst du die Quelle unter Kontrolle.

Die Fähigkeiten kommen aus dem System-Prompt, und dort steckt das eigentliche Handwerk. Die erste Version wird nicht gut funktionieren. Es braucht mehrere Iterationen, bis sich ein System-Prompt so verhält, wie er soll. Daneben entscheidest du, wie viel Freiheit und Zugriff jeder Agent in welchem Bereich bekommt.

Datenschutz kann alles in den lokalen Betrieb zwingen

In regulierten Bereichen darfst du keine Tools nutzen, bei denen die Daten deine Kontrolle verlassen. Damit fallen die naheliegenden Cloud-Dienste weg.

Nishan arbeitet in der Schweiz, wo manche Unternehmen und Branchen Anwendungen verbieten, die auf US-Servern oder überhaupt auf Servern außerhalb des Landes laufen. Sobald diese Regel greift, sind ChatGPT, Claude und Gemini raus, denn die Daten sind nicht unter deiner Kontrolle, auch wenn es sich so anfühlt.

Die Alternative: Agenten und Modell lokal betreiben, auf einem Server innerhalb der jeweiligen Rechtsordnung. So behältst du die volle Kontrolle darüber, welche Informationen die KI nutzt. Modelle wie Mistral oder DeepSeek, etwa über Ollama bereitgestellt, laufen im Hintergrund und lassen sich bei Bedarf austauschen.

Der lokale Betrieb hat seinen Preis. Du brauchst Hardware mit echter GPU-Leistung, also entweder eine größere Investition in einen eigenen Server oder eine Serverfarm, die für KI-Workloads gebaut ist. Ein normaler Server reicht dafür nicht.

Womit du bei KI-Agenten im Testen anfängst

Es gibt zwei Einstiege, je nachdem, ob du die Mechanik verstehen oder einfach Plug-and-Play nutzen willst. Tools wie make.com helfen zu verstehen, wie die Interaktionen funktionieren. Mit n8n kannst du lokal arbeiten. Claude Code und ChatGPT lohnen sich für den privaten Einsatz.

Im Unternehmen sieht es anders aus. Nishan setzt auf Systeme von Tricentis und UiPath, weil beide für Tester gebaut sind und die Orchestrierung übernehmen, die ein Testteam braucht.

Auf der Aufgabenebene fängst du am besten mit dem Review von Anforderungen an. Da zeigt sich, ob du eine Anforderung genauso liest wie die KI und wo deine menschliche Deutung der Absicht von der wörtlichen Lesart der Maschine abweicht.

Die Generierung von Testfällen ist der zweite gute Startpunkt. Das ist eine abgegrenzte Aufgabe, bei der du prüfst, ob die KI solide funktionale Testfälle liefert oder anfängt zu halluzinieren. Geht es schief, frag nach, wo der Fehler liegt. Meistens fehlt Inhalt, weil man annimmt, die KI wisse schon alles.

Die KI denkt nicht, und das bleibt vorerst so

Ein agentisches System erledigt wiederkehrende Aufgaben gut. Es denkt nicht wie ein Mensch, und es so zu behandeln, als ob, ist der zentrale Fehler.

“KI ist völlig dumm. Sie hat von nichts eine Ahnung. Du versuchst nur, die Informationen in den Bereich zu lenken, in dem vielleicht jemand sie trainiert oder ihr Informationen gegeben hat, die sie nutzen kann.”

(Nishan Portoyan)

Die Lücke im Urteilsvermögen bleibt vorerst bestehen. Eine KI kann Überdeckung nicht so prüfen, wie ein Mensch sie abwägt, weil sie mit Nullen und Einsen arbeitet. Sie sammelt Informationen und gibt sie zurück, indem sie rät, was dir beim letzten Mal gefallen hat, und dir mehr davon anbietet.

Deshalb führt das Wort “Denken” in die Irre. Da steckt keine Intelligenz drin, nur Abrufen und Weitergeben. Nishan rechnet damit, dass sich das ändert, aber in keinem Zeitraum, den er benennen könnte. Bis dahin ist das Urteilsvermögen des Testers der Teil der Pipeline, den man nicht abgeben kann.

Häufig gestellte Fragen

Woran erkennt man, ob ein Team ein agentisches System betreibt oder nur eine Ansammlung von KI-Agenten?

Der Test besteht darin, wer den nächsten Schritt bestimmt. In einem agentischen System koordinieren Agenten andere Agenten und geben Aufgaben weiter, um ein Ziel zu erreichen. Ein einzelner Agent nimmt eine Eingabe entgegen, erzeugt eine Ausgabe und wartet auf Anweisungen. Wenn immer noch ein Mensch jede Aktion auslöst und jede Aufgabe verteilt, dann sind das einfach nur Agenten bei der Arbeit, kein agentisches System.

Kann ein unerfahrener Tester die Rolle des Prüfers in einem KI-gesteuerten Test-Workflow übernehmen?

Nein. Um zu beurteilen, ob das Ergebnis dem entspricht, was das System tatsächlich leisten muss, braucht es einen Experten. Die KI bewältigt die mechanische Arbeit gut, versteht aber keine Geschäftsregeln, und es ist nicht zu erwarten, dass sich diese Lücke schließen wird. Menschliche Kontrollpunkte gehören daher zum Design, einschließlich des ausdrücklichen Rechts, die Entscheidung der KI zu überstimmen.

Erstellt ein agentisches Testsystem für jede Anforderung neue Testfälle?

Nein. Die Überdeckung steht an erster Stelle. Das System prüft, ob bestehende Testfälle die Anforderung bereits abdecken, und wenn ja, ordnet es die Anforderung einem Testfall zu, anstatt die Testsuite aufzublähen. Nur dort, wo die Überdeckung fehlt, schlägt der zuständige Agent neue Testfälle vor, und der Tester bestätigt diese, bevor sie in den Satz aufgenommen werden.

Sollte ein KI-Agent die Erlaubnis haben, fehlgeschlagene automatisierte Tests selbstständig zu beheben?

Nein, hier wird Vertrauen zum Risiko. Ein Fehleranalyse-Agent kann die Ursache untersuchen, zum Beispiel, ob sich ein Element verschoben hat oder sich eine Eigenschaft oder Farbe geändert hat. Eine autonome Korrektur kann trotzdem falsch sein: Wenn ein Entwickler eine ID geändert hat, könnte sich die KI auf ein Element fixieren, das richtig aussieht, es aber nicht ist. Die Kontrolle bleibt beim Menschen.

Was passiert, wenn du eine bestehende Testsuite für funktionale Automatisierungstests als Lasttest ausführst?

Das verschwendet Tokens umsonst. Ein funktionaler automatisierter Test führt das System über die GUI oder eine API durch und ahmt einen einzelnen Benutzer nach. Performancetests lassen die Frontend-Interaktion außer Acht und betrachten den Datenaustausch, wobei gemessen wird, ob das System von einem Nutzer auf zweihundert skaliert. Die Testfälle müssen zunächst von einem Agenten oder einem Performance-Experten umgewandelt werden.

Wie lässt man KI-Agenten laufen, wenn Unternehmensrichtlinien das Versenden von Daten ins Ausland verbieten?

Du führst die Agenten und das Modell lokal aus, auf einem Server innerhalb der Gerichtsbarkeit. In der Schweiz verbieten manche Unternehmen und Domänen Anwendungen auf US-Servern oder jeglichen Servern im Ausland, wodurch ChatGPT, Claude und Gemini nicht in Frage kommen. Modelle wie Mistral oder DeepSeek, etwa über Ollama bereitgestellt, sitzen hinter den Agenten und können je nach Bedarf ausgetauscht werden.

Was ist der häufigste Grund dafür, dass ein KI-Agent beim Test schlechte Ergebnisse liefert?

Fehlende Inhalte. Man geht oft davon aus, dass die KI bereits alles weiß, dabei fehlt ihr genau der geschäftliche Kontext des Unternehmens. Ein Agent basiert auf drei Dingen: Inhalten, Fähigkeiten und Zugriffsgrenzen. Die Fähigkeiten ergeben sich aus dem System-Prompt, dessen erste Version noch nicht gut funktioniert und mehrere Iterationen benötigt, bevor sich der Agent wie beabsichtigt verhält.

Diese Seite teilen

Ähnliche Beiträge