KI in der Cloud oder auf eigenem Server: Ein ehrlicher Vergleich

Ob KI in die Cloud oder auf einen eigenen Server gehört, ist keine Glaubensfrage, sondern eine Abwägung zwischen Kontrolle und Aufwand. Für die meisten Unternehmen im Mittelstand liegt die beste Lösung in der Mitte: eine eigene Instanz nur für die eigene Firma, betrieben von einem Dienstleister in Deutschland. Geteilte Cloud-Dienste sind am schnellsten startklar, der Betrieb im eigenen Haus gibt die meiste Kontrolle, kostet aber auch den meisten Aufwand.

Dieser Artikel vergleicht die drei Wege ehrlich, nach Datenschutz, Kosten, Aufwand, Modellwahl und Abhängigkeit. Er ist eine praktische Einordnung und ersetzt keine Rechtsberatung.

Warum stellt sich die Frage gerade jetzt?

Cloud ist im Mittelstand längst Alltag. Laut Statistischem Bundesamt nutzten 2025 54 Prozent der Unternehmen ab 10 Beschäftigten kostenpflichtige Cloud-Dienste, bei mittleren Unternehmen mit 50 bis 249 Beschäftigten waren es 65 Prozent. Am häufigsten für E-Mail, Datenspeicherung und Office.

Gleichzeitig wächst das Unbehagen. Im Cloud Report 2026 des Bitkom, einer Befragung von 603 Unternehmen ab 20 Beschäftigten, halten 85 Prozent Deutschland für zu abhängig von US-Cloud-Anbietern, ein Jahr zuvor waren es 78 Prozent. 64 Prozent fühlen sich durch die US-Politik gezwungen, ihre Cloud-Strategie zu überdenken. Und 87 Prozent nennen den Schutz vor Zugriff durch den Anbieter selbst ein Muss bei der Anbieterwahl.

Bei KI kommt etwas dazu, das bei E-Mail weniger auffällt: Ein KI-Arbeitsplatz sieht das gesamte Firmenwissen. Verträge, Angebote, Kundenanfragen, interne Notizen. Wo dieses System läuft, ist deshalb eine größere Entscheidung als die Wahl eines Office-Pakets.

Welche drei Wege gibt es?

1. Geteilte Cloud (SaaS). Du meldest dich an, legst los und zahlst pro Person. Die Anwendung läuft auf der Infrastruktur des Anbieters, gemeinsam mit allen anderen Kunden. Die Daten sind logisch getrennt, liegen aber in derselben Umgebung.

2. Eigene Instanz, gemanagt in Deutschland. Dein Unternehmen bekommt eine eigene Installation auf einem eigenen Server, den ein Dienstleister in einem deutschen Rechenzentrum betreibt. Updates, Sicherungen und Überwachung übernimmt er. Andere Kunden sind nicht auf deinem System.

3. On-Prem. Die Software läuft auf Servern in deinem Haus oder in deinem Rechenzentrum. Du entscheidest über Hardware, Netz und Zugänge, und du trägst die Verantwortung für den Betrieb.

Wie unterscheiden sich die Wege im Überblick?

	Geteilte Cloud	Eigene Instanz, gemanagt	On-Prem
Datenschutz	hängt vom Anbieter und seinen Unterauftragnehmern ab	eigener Server, Standort bekannt	volle Kontrolle im eigenen Netz
Startzeit	sofort	kurz, der Dienstleister richtet ein	länger, Hardware und Netz nötig
Eigener Aufwand	gering	gering	hoch: Server, Updates, Sicherungen
Modellwahl	was der Anbieter anbietet	je nach Produkt, oft frei	frei, auch komplett lokal
Abhängigkeit	hoch	mittel, je nach Exportmöglichkeit	gering
Anpassbarkeit	gering	mittel bis hoch	hoch

Die Tabelle ist eine Tendenz, kein Urteil. Ein gut gebauter geteilter Dienst kann sicherer sein als ein schlecht gepflegter Server im Keller.

Was sagt der Datenschutz dazu?

Die Datenschutzkonferenz, also die deutschen Aufsichtsbehörden, unterscheidet in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom Mai 2024 zwischen geschlossenen und offenen Systemen. Geschlossen heißt: Die Verarbeitung findet in einer abgegrenzten, technisch abgeschlossenen Umgebung statt, nur ein eng begrenzter Kreis hat Zugriff, und Eingaben werden nicht zum Training des Anbieters verwendet. Offene Systeme dagegen laufen etwa als Cloud-Lösung für einen unbestimmten Nutzerkreis, die Eingaben verlassen den geschützten Bereich.

Das Fazit der Behörden ist deutlich: Technisch geschlossene Systeme sind aus datenschutzrechtlicher Sicht vorzugswürdig. Das heißt nicht, dass jede Cloud-Lösung unzulässig ist. Es heißt, dass du bei einem offenen System mehr prüfen musst: Auftragsverarbeitung, Unterauftragnehmer, Drittlandübermittlung, Training. Welche Fragen du dafür stellst, steht im Artikel Wie prüfe ich, ob ein KI-Anbieter DSGVO wirklich kann?.

Eine eigene Instanz, gemanagt oder im Haus, erfüllt die Merkmale eines geschlossenen Systems deutlich leichter. Wichtig bleibt, wohin das System Anfragen weiterleitet. Ein eigener Server, der jede Frage ungefiltert an ein US-Modell schickt, ist nur halb geschlossen.

Was kostet welcher Weg?

Auf den ersten Blick ist die geteilte Cloud am günstigsten: kein Server, kein Einrichten, ein Preis pro Person. Auf den zweiten Blick lohnt es sich, drei Posten mitzurechnen.

• Zusatzpakete. Viele Dienste verkaufen Automatisierungen, Schnittstellen oder mehr Nutzung als Aufpreis.
• Modellkosten. Bei manchen Anbietern steckt ein Aufschlag auf die Modellnutzung im Preis, ohne dass du ihn siehst.
• Preisentwicklung. Im Bitkom Cloud Report 2026 geben 64 Prozent an, dass ihre Cloud-Betriebskosten 2025 gestiegen sind.

Beim Betrieb im eigenen Haus ist es umgekehrt: Die Lizenz ist planbar, dazu kommen Hardware, Strom und vor allem Arbeitszeit für Pflege. Wer lokale Modelle nutzen will, braucht passende Hardware mit Grafikprozessor. Wie sich KI-Projekte insgesamt zusammensetzen, haben wir im Artikel Was kostet KI-Integration im Mittelstand wirklich? aufgeschlüsselt.

Wie abhängig machst du dich?

Abhängigkeit ist der Posten, den man beim Start am wenigsten spürt und beim Wechsel am meisten. Im Bitkom Cloud Report 2026 nennen 59 Prozent den Lock-in als Hindernis für einen Anbieterwechsel.

Prüfe deshalb vor der Entscheidung drei Dinge:

1. Kannst du alles exportieren? Nicht nur Dokumente, auch Agenten, Workflows und Chatverläufe, in offenen Formaten.
2. Kannst du das Modell wechseln? Ein System, das nur mit einem Modellanbieter funktioniert, hängt an dessen Preisen und Bedingungen.
3. Was passiert bei Kündigung? Bleiben die Daten lesbar, oder ist am Stichtag alles weg?

Mehr dazu im Artikel Was passiert, wenn dein KI-Anbieter die Preise verdoppelt?.

Wann passt welcher Weg?

Geteilte Cloud passt, wenn du schnell und ohne Vertragsaufwand ausprobieren willst, kaum personenbezogene oder vertrauliche Daten im Spiel sind und der Anbieter Auftragsverarbeitung, Standort und Training sauber beantwortet.

Eine eigene Instanz, gemanagt in Deutschland, passt, wenn KI mit echtem Firmenwissen arbeiten soll, du keine eigene IT für den Serverbetrieb hast und trotzdem wissen willst, wo die Daten liegen. Das ist der häufigste Fall im Mittelstand.

On-Prem passt, wenn du ohnehin ein eigenes Rechenzentrum betreibst, strenge Vorgaben für Geschäftsgeheimnisse oder besondere Daten hast, oder wenn Daten das Haus gar nicht verlassen dürfen. Dann gehört auch die Frage nach lokalen Modellen auf den Tisch.

Eine ehrliche Faustregel: Je sensibler die Daten und je mehr Firmenwissen die KI sehen soll, desto weiter rechts in der Tabelle solltest du landen. Je kleiner das Team und je weniger IT im Haus, desto eher lohnt sich der gemanagte Weg statt On-Prem.

Wie löst Lokyy das?

Lokyy bietet bewusst keine geteilte Cloud an. Jede Firma bekommt ab der ersten Person einen eigenen Server, nie geteilt. Es gibt zwei Lieferwege:

• Managed: Wir betreiben deinen eigenen Server bei Hetzner in Deutschland, in ISO-27001-zertifizierten Rechenzentren, inklusive Updates und Sicherungen. 299 € im Monat inklusive 5 Personen.
• On-Prem: Lokyy läuft in deinem eigenen Rechenzentrum. Updates sind ein Befehl, Lokyy prüft die Signatur, sichert vorher automatisch und rollt bei einem Fehler selbst zurück. 599 € im Monat inklusive 5 Personen.

Jede weitere Person kostet 15 € (Person 6 bis 50), 10 € (51 bis 150) und ab Person 151 noch 7 € im Monat. Alle Preise jährlich abgerechnet, zzgl. MwSt. (Stand Oktober 2026). Workflows, KI-Posteingang, Office und API sind immer enthalten. Komplett offline gibt es auf Anfrage im Enterprise-Paket. Alle Details stehen in der Preisübersicht.

Bei den Modellen bist du frei: jedes Modell mit OpenAI-kompatibler Schnittstelle, mit eigenem Schlüssel ohne Aufschlag, lokal mit Ollama oder vLLM ohne Modellkosten, oder über uns zum Herstellerpreis plus 15 %. Damit Cloud-Modelle keine Personendaten sehen, schwärzt die Datenschleuse Namen, IBAN und Telefonnummern vorher. Im Modus „Pflicht“ verlässt kein Klartext den Server, dann arbeiten nur lokale Modelle. Jeder Datenfluss nach außen ist einzeln abschaltbar, mehr dazu unter Kontrolle.

Und gegen Abhängigkeit: Die ganze Instanz lässt sich jederzeit in offenen Formaten exportieren. Läuft die Lizenz aus, bleibt alles lesbar. Standort, Unterauftragnehmer, AVV und TOM findest du im Trust Center.

Wenn du wissen willst, welcher Weg für euch passt, schauen wir es uns gemeinsam an: Demo buchen.

Häufige Fragen

Ist KI auf dem eigenen Server sicherer als in der Cloud?

Nicht automatisch, aber die Kontrolle liegt bei dir. Die Datenschutzkonferenz hält technisch geschlossene Systeme, in denen nur ein begrenzter Kreis Zugriff hat und Eingaben nicht zum Training genutzt werden, für datenschutzrechtlich vorzugswürdig. Ob ein System sicher ist, hängt dann davon ab, wie gut es gepflegt wird.

Welche drei Wege gibt es, KI im Unternehmen zu betreiben?

Erstens eine geteilte Cloud-Anwendung, die sich viele Kunden teilen. Zweitens eine eigene Instanz nur für dein Unternehmen, die ein Dienstleister in Deutschland betreibt. Drittens den Betrieb auf eigenen Servern im eigenen Haus oder Rechenzentrum.

Brauche ich für eine eigene KI-Instanz eine eigene IT-Abteilung?

Bei einer gemanagten eigenen Instanz nicht, denn Updates, Sicherungen und Überwachung übernimmt der Dienstleister. Erst beim Betrieb im eigenen Haus brauchst du jemanden, der Server, Updates und Sicherungen verantwortet.

Kann ich mit eigenem Server trotzdem große Cloud-Modelle nutzen?

Ja. Die Anwendung und die Daten liegen dann bei dir, und nur einzelne Anfragen gehen an ein Cloud-Modell, im besten Fall nach dem Schwärzen von Personendaten. Wer gar nichts nach außen geben will, nutzt lokale Modelle.

Quellen

1. Statistisches Bundesamt (Destatis): Jedes zweite Unternehmen nutzt kostenpflichtige Cloud-Services, Pressemitteilung Nr. 416 vom 24. November 2025
2. Bitkom: Deutsche Cloud: 4 von 10 Unternehmen würden Abstriche in Kauf nehmen (Cloud Report 2026), Presseinformation vom 17. Juni 2026
3. Datenschutzkonferenz (DSK): Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0, 6. Mai 2024