KI-Agenten im Mittelstand: Was sie heute wirklich können und wo sie scheitern

KI-Agenten können im Mittelstand heute vor allem eines zuverlässig: wiederkehrende Aufgaben mit klaren Regeln vorbereiten, etwa Belege zuordnen, Angebote aus Vorlagen entwerfen, Mails sortieren oder Recherchen zusammenfassen. Sie scheitern dort, wo Regeln fehlen, Daten unvollständig sind oder niemand das Ergebnis prüft. Wer Agenten einsetzt, braucht deshalb drei Dinge von Anfang an: eine Freigabe durch einen Menschen, feste Tests und ein Protokoll, das zeigt, was der Agent getan hat.

Dieser Artikel ist eine ehrliche Bestandsaufnahme aus der Sicht von jemandem, der solche Systeme baut. Er soll dir helfen, Erwartungen richtig zu setzen, egal mit welchem Werkzeug du arbeitest.

Was unterscheidet einen KI-Agenten von einem Chatbot?

Ein Chatbot antwortet auf Fragen. Ein Agent erledigt eine Aufgabe in mehreren Schritten: Er liest eine Mail, schaut in der Ablage nach, sucht die passende Kundennummer und legt einen Entwurf an. Dafür bekommt er Werkzeuge, also Zugriff auf Postfach, Dokumente oder andere Systeme.

Genau diese Werkzeuge machen Agenten nützlich, und genau sie machen sie riskant. Ein Chatbot, der sich irrt, schreibt einen falschen Satz. Ein Agent, der sich irrt, verschickt vielleicht eine falsche Mail.

Das Thema ist in deutschen Unternehmen angekommen. Laut einer Bitkom-Befragung von 603 Unternehmen ab 20 Beschäftigten (veröffentlicht im September 2026) setzen 57 Prozent KI ein. Unter den Unternehmen, die KI nutzen, planen oder diskutieren, haben 11 Prozent bereits KI-Agenten im Einsatz, 29 Prozent planen ihn und 31 Prozent diskutieren ihn. Bitkom-Präsident Ralf Wintergerst ordnet ein, Agenten stünden heute etwa dort, wo KI insgesamt vor drei Jahren stand.

Was können KI-Agenten heute im Alltag wirklich?

Gut funktionieren Aufgaben, die drei Merkmale haben: Sie wiederholen sich oft, sie folgen erkennbaren Regeln, und ein Mensch kann das Ergebnis in Sekunden prüfen. Vier Beispiele aus dem typischen KMU-Alltag:

Aufgabe	Was der Agent macht	Was der Mensch macht
Belege zuordnen	liest Rechnungen, erkennt Lieferant, Betrag, Datum und schlägt Kostenstelle oder Vorgang vor	prüft Abweichungen und bestätigt
Angebote vorbereiten	füllt eine Angebotsvorlage aus Anfrage, Preisliste und früheren Angeboten	prüft Preise und Konditionen, schickt ab
Mails sortieren	ordnet eingehende Nachrichten nach Thema und Dringlichkeit, schreibt Antwortentwürfe	gibt Antworten frei oder passt sie an
Recherche	sammelt Informationen aus Web und Firmenwissen, fasst mit Quellen zusammen	prüft Quellen und zieht Schlüsse

Der gemeinsame Nenner: Der Agent nimmt dir die Sammel- und Tipparbeit ab, die Entscheidung bleibt bei dir. Das klingt bescheiden, spart in der Praxis aber viel Zeit, weil gerade das Zusammensuchen den größten Teil solcher Aufgaben ausmacht. Wie das beim Posteingang konkret aussieht, beschreibt der Artikel zur Postfach-Flut.

Wo scheitern KI-Agenten?

Die Grenzen sind weniger technisch als organisatorisch. Typisch sind diese Muster.

Unklare Regeln. Wenn im Team niemand aufschreiben kann, nach welchen Kriterien eine Rechnung welcher Kostenstelle zugeordnet wird, kann es auch ein Agent nicht zuverlässig. Er rät dann, und er rät mit großer Überzeugung.

Lückenhafte Daten. Ein Agent, der Angebote vorbereitet, ist nur so gut wie die Preisliste, die er findet. Liegen drei Versionen im Netzwerk, nimmt er womöglich die falsche.

Zu viele Rechte. Ein Agent, der Mails lesen, Dateien ändern und Zahlungen anstoßen darf, ist ein Einfallstor. Das BSI warnt, dass Angreifer Befehle in Webseiten, Dokumenten oder E-Mails verstecken können, etwa als weißen Text auf weißem Grund. Liest ein Agent solche Inhalte, kann er die versteckten Befehle als echte Anweisungen ausführen. Fachleute nennen das Prompt Injection.

Stille Veränderungen. Ein Agent, der im Frühjahr gut gearbeitet hat, kann im Herbst schlechter arbeiten, ohne dass jemand etwas geändert zu haben glaubt. Häufige Ursache: Das Sprachmodell dahinter wurde ausgetauscht oder vom Anbieter aktualisiert. Wer keine Tests hat, merkt das erst an Beschwerden.

Fehlende Nachvollziehbarkeit. Das BSI formuliert es knapp: Je selbstständiger ein Agent agiert, desto schwerer ist nachzuvollziehen, was er genau tut. Wenn ein Ergebnis falsch ist und niemand sehen kann, welche Schritte dazu geführt haben, lässt sich der Fehler nicht beheben.

Warum sind Freigaben so wichtig?

Eine Freigabe ist der Moment, in dem ein Mensch das Ergebnis des Agenten ansieht, bevor es Wirkung entfaltet. Das BSI empfiehlt, Agenten so einzustellen, dass sie wichtige Aktionen erst nach Bestätigung ausführen, besonders bei finanziellen oder persönlichen Folgen, und ihnen nur die Zugriffe zu geben, die sie für ihre Aufgabe wirklich brauchen.

Für den Mittelstand heißt das ganz praktisch:

• Alles, was nach außen geht (Mails an Kunden, Angebote, Nachrichten), braucht eine Freigabe.
• Alles, was Geld bewegt (Buchungen, Zahlungen, Bestellungen), braucht eine Freigabe.
• Interne Vorbereitung (sortieren, zusammenfassen, Entwürfe anlegen) darf der Agent allein erledigen.
• Jeder Agent bekommt nur die Werkzeuge, die seine Aufgabe erfordert. Der Agent für Angebote braucht keinen Zugriff auf die Lohnbuchhaltung.

Freigaben sind kein Misstrauensvotum gegen die Technik. Sie sind der Grund, warum dein Team einem Agenten überhaupt Arbeit überlässt. Wer weiß, dass nichts ungeprüft rausgeht, probiert mehr aus.

Ein Hinweis zur Rechtslage: Wenn Agenten mit Kundinnen und Kunden kommunizieren, können Transparenzpflichten aus dem EU AI Act greifen. Mehr dazu im Artikel zur KI-Kennzeichnungspflicht. Das ist keine Rechtsberatung, für deinen konkreten Fall frag bitte eine Fachperson.

Wie testet man einen KI-Agenten?

Tests für Agenten funktionieren ähnlich wie eine Stichprobe in der Qualitätssicherung. Du sammelst zehn bis zwanzig typische Fälle, zu denen du die richtige Antwort kennst: eine Rechnung, die zu Kostenstelle A gehört, eine Anfrage, die als dringend gelten muss, eine Mail, auf die nie automatisch geantwortet werden darf.

Diese Fälle lässt du den Agenten bearbeiten, und zwar immer dann, wenn sich etwas ändert:

1. wenn du die Anweisung des Agenten anpasst,
2. wenn du ein anderes Sprachmodell nutzen willst, etwa weil es günstiger ist,
3. wenn der Anbieter sein Modell aktualisiert.

Fallen Tests durch, weißt du es vorher und nicht erst, wenn sich ein Kunde wundert. Gerade der Modellwechsel wird oft unterschätzt. Wer sein System an ein einzelnes Modell kettet, ist von dessen Preis und Qualität abhängig, wie der Artikel zur Preiserhöhung bei KI-Anbietern zeigt. Tests machen den Wechsel erst sicher.

Wie fängst du mit KI-Agenten an?

Starte mit einer einzigen Aufgabe, die oft vorkommt, nervt und leicht zu prüfen ist. Schreib die Regeln auf, bevor du den Agenten baust, denn das zeigt schnell, ob die Aufgabe reif ist. Leg die Testfälle an, bevor der Agent live geht. Und miss nach vier Wochen, wie viel Zeit die Prüfung kostet im Vergleich zur alten Arbeitsweise. Was ein solches Projekt insgesamt kostet, steht im Artikel Was kostet KI-Integration im Mittelstand wirklich?.

Wie löst Lokyy das?

In Lokyy sind die Punkte oben fest eingebaut, statt nachträglich ergänzt zu werden.

• Agenten ohne Code: Du legst Agenten mit Vorlagen an, gibst ihnen ein eigenes Gedächtnis und kannst ihnen Skills direkt aus dem Chat beibringen. Jeder Agent hat Versionen.
• Tests vor jedem Modellwechsel: Agenten haben Testfälle. Rote Tests blockieren den Wechsel auf ein anderes Modell, bis jemand bewusst übernimmt.
• Freigaben: Im KI-Posteingang schreibt der Agent den Entwurf, ein Mensch gibt frei. In Workflows gibt es Freigabe-Schritte mit Frist, Hinweise auf offene Freigaben kommen auf Wunsch per Push aufs Handy.
• Nachvollziehbarkeit: Jeder Agenten-Lauf lässt sich als Zeitleiste öffnen: welche Schritte, welche Tools, welches Modell, wie viele Tokens und wie lange. Dazu kommt ein Audit-Log über 365 Tage.
• Begrenzte Rechte und Kosten: Tool-Rechte vergibst du pro Rolle, dazu gibt es einen Schutz vor Prompt-Injection. Budgets lassen sich pro Agent setzen, bei 100 Prozent wechselt Lokyy auf Wunsch auf ein günstigeres Modell. Mehr dazu unter Kontrolle.

Alles läuft auf einem eigenen Server pro Firma, betrieben in Deutschland oder bei dir im Haus. Personendaten schwärzt die Datenschleuse, bevor ein Cloud-Modell sie sieht.

Wenn du sehen willst, wie ein Agent mit Tests und Freigabe in der Praxis aussieht: Demo buchen.

Häufige Fragen

Was ist der Unterschied zwischen einem Chatbot und einem KI-Agenten?

Ein Chatbot beantwortet Fragen, ein Agent erledigt Aufgaben in mehreren Schritten. Er liest Daten, nutzt Werkzeuge wie Postfach oder Ablage und bereitet ein Ergebnis vor, zum Beispiel einen Antwortentwurf oder eine zugeordnete Rechnung.

Für welche Aufgaben eignen sich KI-Agenten im Mittelstand heute?

Gut geeignet sind wiederkehrende Aufgaben mit klaren Regeln und einem Ergebnis, das ein Mensch schnell prüfen kann. Dazu gehören Belege zuordnen, Angebote aus Vorlagen vorbereiten, Mails sortieren und Recherchen zusammenfassen.

Darf ein KI-Agent ohne Freigabe handeln?

Bei allem, was nach außen geht oder Geld bewegt, sollte ein Mensch vorher freigeben. Auch das BSI empfiehlt, dass Agenten wichtige Aktionen erst nach Bestätigung ausführen und nur die Zugriffe bekommen, die sie für ihre Aufgabe brauchen.

Warum braucht ein KI-Agent Tests?

Ein Agent kann nach einem Modellwechsel oder einer geänderten Anweisung anders antworten als vorher, ohne dass es jemand merkt. Feste Testfälle mit erwarteten Ergebnissen zeigen das, bevor die Änderung im Alltag ankommt.

Quellen

1. Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI, 14. September 2026
2. BSI: KI-Agenten: Wenn Künstliche Intelligenz selbstständig handelt (abgerufen Oktober 2026)