KI im Unternehmen einführen: In 5 Schritten vom ersten Test zum Alltag

KI im Unternehmen einzuführen gelingt, wenn du sie nicht als Werkzeug für Einzelne behandelst, sondern als Teil eines Arbeitsablaufs. Bewährt haben sich fünf Schritte: Ziele und Anwendungsfälle wählen, Daten und Rechte klären, mit einem Team pilotieren, Regeln und Schulung aufsetzen, dann ausrollen und messen. Wer diese Reihenfolge einhält, kommt in wenigen Monaten vom ersten Test zum Alltag.

Das klingt selbstverständlich. In der Praxis sieht es in vielen Firmen anders aus: Ein paar Leute nutzen ChatGPT mit dem privaten Konto, einige sind begeistert, andere skeptisch, und nach einem halben Jahr hat sich an den Abläufen nichts geändert. Dieser Artikel zeigt, warum das passiert und wie du da herauskommst.

Warum bleibt KI so oft beim Ausprobieren stecken?

Die Zahlen zeigen, wie verbreitet KI inzwischen ist. Laut einer Bitkom-Umfrage vom September 2026 setzen 57 Prozent der Unternehmen ab 20 Beschäftigten KI ein, zwei Jahre zuvor waren es 20 Prozent. Das Statistische Bundesamt, das schon ab 10 Beschäftigten zählt und anders fragt, kam für 2025 auf 26 Prozent, bei Firmen mit 50 bis 249 Beschäftigten auf 36 Prozent.

Gleichzeitig ist der Zugang oft nicht geregelt. Im Oktober 2025 meldete Bitkom, dass erst 26 Prozent der Unternehmen ihren Beschäftigten einen offiziellen Zugang zu generativer KI bereitstellen. In 8 Prozent der Unternehmen ist die Nutzung privater KI-Tools weit verbreitet, in weiteren 17 Prozent gibt es Einzelfälle. Regeln für den KI-Einsatz hatten zu dem Zeitpunkt 23 Prozent.

Daraus ergibt sich ein typisches Muster:

• Jeder testet allein. Gute Prompts und Ergebnisse bleiben im Browserverlauf einer Person.
• Das Firmenwissen fehlt. Ein allgemeines Modell kennt weder eure Preisliste noch eure Prozesse. Also kopiert man Texte hinein, oft auch solche mit Kundendaten.
• Niemand ist zuständig. Es gibt keine Entscheidung, welches Werkzeug erlaubt ist, wer was darf und was es kosten darf.
• Es gibt keinen Platz im Ablauf. KI ist ein zusätzlicher Tab, nicht der Schritt, mit dem eine Aufgabe erledigt wird.

Das Problem ist also selten die Technik. Es fehlt der Rahmen, in dem aus einem Einzelversuch eine gemeinsame Arbeitsweise wird.

Schritt 1: Welche Ziele und Anwendungsfälle passen zum Start?

Starte nicht mit „Wir machen jetzt KI“, sondern mit zwei oder drei konkreten Aufgaben, die heute spürbar Zeit kosten. Gute Kandidaten erkennst du an drei Merkmalen: Sie kommen oft vor, sie folgen einem wiederkehrenden Muster, und ein Mensch kann das Ergebnis schnell prüfen.

Typische Beispiele im Mittelstand:

• Antworten auf wiederkehrende Kundenanfragen per E-Mail vorbereiten
• Fragen der Belegschaft zu internen Richtlinien, Handbüchern oder Produktdaten beantworten
• Angebote, Protokolle oder Berichte aus Stichpunkten entwerfen
• Lange Dokumente zusammenfassen und vergleichen

Schreib zu jedem Fall auf, wie viel Zeit er heute pro Woche kostet. Diese Zahl brauchst du in Schritt 5. Wenn du die Wirtschaftlichkeit genauer rechnen willst, hilft unser Artikel Was kostet KI-Integration im Mittelstand wirklich?.

Schritt 2: Welche Daten darf die KI sehen, und wer darf was?

Bevor das erste Team loslegt, kläre drei Fragen:

1. Welche Daten fließen hinein? Interne Dokumente, Kundendaten, Personaldaten? Je sensibler die Daten, desto genauer musst du wissen, wo sie verarbeitet werden.
2. Wohin gehen die Daten? Läuft das Modell bei einem Cloud-Anbieter, in der EU, oder auf einem eigenen Server? Welche Verträge gibt es dafür?
3. Wer sieht welches Wissen? Das Handbuch für alle ist etwas anderes als die Gehaltsliste. Die KI darf nicht zum Umweg um bestehende Zugriffsrechte werden.

Für die Prüfung von Anbietern haben wir sieben konkrete Fragen gesammelt: Wie prüfe ich, ob ein KI-Anbieter DSGVO wirklich kann?. Hol früh deine Datenschutzbeauftragte oder deinen Datenschutzbeauftragten dazu, und wo es einen Betriebsrat gibt, auch ihn. Das ist keine Rechtsberatung, die Bewertung deines konkreten Einsatzes bleibt nötig.

Schritt 3: Wie sieht ein guter Pilot aus?

Wähle ein Team mit drei bis zehn Personen, das einen der Anwendungsfälle aus Schritt 1 täglich hat und offen für Neues ist. Ein Pilot über vier bis acht Wochen reicht meist, um belastbare Ergebnisse zu sehen.

Lege vorher fest:

Frage	Beispiel
Was wird getestet?	Antwortentwürfe für Anfragen im Kundenservice
Wer prüft das Ergebnis?	Jede Antwort wird von einem Menschen freigegeben
Woran messen wir Erfolg?	Minuten pro Anfrage, Anteil der Entwürfe ohne Korrektur
Was passiert danach?	Entscheidung: ausrollen, anpassen oder beenden

Wichtig: Der Pilot läuft im echten Arbeitsalltag, mit echten Vorgängen. Ein Testlauf mit ausgedachten Beispielen sagt wenig darüber, ob die KI eure Arbeit erleichtert. Und plane eine wöchentliche halbe Stunde ein, in der das Team teilt, was funktioniert und was nicht.

Schritt 4: Welche Regeln und Schulungen braucht es?

Aus dem Pilot entstehen die Regeln, nicht umgekehrt. Eine gute KI-Richtlinie für ein KMU passt auf zwei Seiten und beantwortet: Welche Werkzeuge sind erlaubt, für welche Zwecke, mit welchen Daten, und wer gibt Ergebnisse frei, bevor sie nach außen gehen.

Schulung ist dabei nicht nur sinnvoll, sondern auch Pflicht. Seit dem 2. Februar 2025 gilt Artikel 4 des EU AI Act: Unternehmen, die KI-Systeme einsetzen, müssen Maßnahmen für die KI-Kompetenz ihrer Beschäftigten ergreifen. Laut den Fragen und Antworten der EU-Kommission ist dafür kein Zertifikat nötig, ein internes Protokoll der Schulungen reicht als Nachweis. Ein bestimmtes Wissensniveau muss nicht garantiert oder gemessen werden.

Viele Firmen sind hier schon weiter: Laut Bitkom schulen 2026 bereits 70 Prozent der Unternehmen ihre Beschäftigten im Umgang mit KI. Wer KI-Antworten an Kunden gibt, sollte außerdem die Transparenzpflichten kennen, siehe KI-Kennzeichnungspflicht nach Artikel 50.

Praktisch heißt das: eine kurze Grundschulung für alle, eine vertiefte Schulung für die Teams mit konkreten Anwendungsfällen, und ein bis zwei Ansprechpersonen im Haus, die Fragen beantworten.

Schritt 5: Wie rollst du aus, und woran misst du den Erfolg?

Roll nicht alles gleichzeitig aus. Nimm Team für Team dazu, jeweils mit dem Anwendungsfall, der dort am meisten Zeit spart. Das Pilotteam wird dabei zum Vorbild: Es zeigt den anderen, wie die Arbeit mit KI im Alltag aussieht.

Miss dann regelmäßig drei Dinge:

• Nutzung: Wie viele Personen arbeiten wirklich damit, und wie oft?
• Wirkung: Wie viel Zeit spart ein Vorgang im Vergleich zur Zahl aus Schritt 1?
• Kosten: Was kostet die Nutzung pro Person, Team und Anwendungsfall?

Ein System, das drei von dreißig Leuten nutzen, hat Geld gekostet und wenig bewirkt. Die Messung zeigt dir früh, wo du nachschulen oder einen Anwendungsfall streichen solltest. Und achte darauf, dass dein Aufbau nicht an einem einzigen Anbieter hängt, denn Preise und Modelle ändern sich schnell. Mehr dazu in Was passiert, wenn dein KI-Anbieter die Preise verdoppelt?.

Wie hilft Lokyy dabei, KI in den Alltag zu bringen?

Lokyy ist ein KI-Arbeitsplatz, der genau diesen Rahmen mitbringt. Jede Firma bekommt einen eigenen Server, betrieben von uns in Deutschland oder bei dir im Haus. Statt vieler privater Konten gibt es einen gemeinsamen Zugang für alle.

So passt Lokyy zu den fünf Schritten:

• Anwendungsfälle umsetzen: Agenten legst du ohne Code an, mit Vorlagen, Gedächtnis und Tests. Für Kundenanfragen gibt es die Inbox für E-Mail, WhatsApp, Teams und Web-Chat: Der Agent schreibt den Entwurf, ein Mensch gibt frei.
• Daten und Rechte: Im Wissen sieht jeder nur, was er sehen darf. Die Datenschleuse schwärzt Personendaten, bevor ein Cloud-Modell sie sieht, und jeder Datenfluss nach außen ist einzeln abschaltbar. Details stehen unter Sicherheit.
• Regeln technisch abbilden: Rollen mit rund 50 Rechten, Modelle pro Rolle freigeben, ein Audit-Log über 365 Tage.
• Messen und Kosten steuern: Unter Kontrolle siehst du Kosten je Modell, Person und Agent, setzt Budgets und öffnest jede Antwort als Zeitleiste.

Bei den Modellen bleibst du frei: eigene Schlüssel ohne Aufschlag, lokale Modelle mit Ollama oder vLLM, oder über Lokyy zum Herstellerpreis plus 15 Prozent. Workflows, Inbox, Office und API sind im Preis enthalten, ohne Zusatzpakete. Die Preise findest du unter Preise, nach der Demo kannst du Lokyy 14 Tage kostenlos auf einer eigenen Managed-Instanz testen.

Wenn du sehen willst, wie dein erster Anwendungsfall in Lokyy aussehen würde: Demo buchen.

Häufige Fragen

Wie führe ich KI im Unternehmen ein, ohne dass es beim Ausprobieren bleibt?

Wähle zwei oder drei konkrete Anwendungsfälle, kläre vorher Daten und Rechte und teste mit einem einzelnen Team. Danach folgen Regeln, Schulung und ein schrittweiser Rollout mit Messung, ob die Zeit wirklich eingespart wird.

Warum wird KI trotz vieler Tests nicht Teil der Arbeit?

Meist fehlt ein gemeinsamer Zugang mit Firmenwissen, klaren Regeln und einem festen Platz im Arbeitsablauf. Wenn jede Person allein mit einem privaten Konto testet, bleiben gute Ergebnisse Einzelerfolge und landen nie im Prozess.

Müssen Beschäftigte im Umgang mit KI geschult werden?

Nach Artikel 4 des EU AI Act müssen Unternehmen, die KI einsetzen, seit dem 2. Februar 2025 Maßnahmen für die KI-Kompetenz ihrer Beschäftigten ergreifen. Laut EU-Kommission gibt es kein Pflichtzertifikat, ein internes Protokoll der Schulungen genügt als Nachweis. Für deinen konkreten Fall ist eine rechtliche Prüfung sinnvoll.

Wie lange sollte ein KI-Pilot im Unternehmen dauern?

Vier bis acht Wochen mit einem Team von drei bis zehn Personen reichen meist, um belastbare Ergebnisse zu sehen. Wichtig ist, vorher festzulegen, woran du Erfolg misst, etwa eingesparte Minuten pro Vorgang.

Quellen

1. Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI, September 2026
2. Bitkom: Beschäftigte nutzen vermehrt Schatten-KI, Oktober 2025
3. Statistisches Bundesamt: Unternehmen mit Nutzung von KI nach Beschäftigtengrößenklassen, Stand November 2025
4. Europäische Kommission: AI Literacy, Questions and Answers, 2026