ChatGPT-Alternative für Unternehmen: 12 Corporate LLMs im Vergleich (2026)

76 Prozent der deutschen Unternehmen, die KI einsetzen, nutzen ChatGPT. Gleichzeitig nennen 66 Prozent den Datenschutz als größte Hürde, und 93 Prozent würden eine KI aus Deutschland bevorzugen, wenn sie die Wahl hätten. Das zeigen zwei Bitkom-Befragungen vom Sommer 2026. Zwischen dem, was Unternehmen nutzen, und dem, was sie eigentlich wollen, klafft also eine Lücke. Und in vielen Firmen wird diese Lücke längst von Mitarbeitenden gefüllt, die mit privaten Konten arbeiten.

Die gute Nachricht: Es gibt 2026 mehr seriöse Alternativen zu ChatGPT als je zuvor. Die schlechte: Die meisten Vergleiche im Netz stammen von Anbietern, die ihr eigenes Produkt auf Platz 1 setzen. Dieser Leitfaden vergleicht zwölf Corporate LLMs nach offen gelegten Kriterien, rechnet die Kosten pro Nutzer durch und behandelt die Fragen, die in fast allen anderen Vergleichen fehlen: Betriebsrat, EU AI Act nach dem Digital-Omnibus, Anbieterwechsel und Zugriffsrechte auf Firmenwissen.

Was ist ein Corporate LLM?

Ein Corporate LLM (auch Firmen-GPT, Unternehmens-GPT oder Company GPT genannt) ist ein KI-Assistent auf Basis großer Sprachmodelle, den ein Unternehmen zentral lizenziert und verwaltet. Im Unterschied zur privaten ChatGPT-Nutzung gibt es einen Vertrag nach Art. 28 DSGVO, eine Anmeldung über das Firmenkonto (Single Sign-on), Rollen und Rechte, eine Protokollierung und die vertragliche Zusage, dass Eingaben nicht zum Training der Modelle verwendet werden.

Der Begriff ist irreführend: Fast nie trainiert ein Unternehmen dafür ein eigenes Sprachmodell. Stattdessen nutzt die Plattform bestehende Modelle wie GPT, Claude, Gemini oder Mistral und verbindet sie mit Firmenwissen. Welches Modell dahinter arbeitet, ist für die Entscheidung oft weniger wichtig als die Frage, wo es läuft, wer Zugriff auf die Infrastruktur hat und wie es an Ihre Daten kommt.

Drei Grundtypen lassen sich unterscheiden:

Warum Unternehmen eine ChatGPT-Alternative suchen

Schatten-KI ist längst Realität

Laut Bitkom ist die private KI-Nutzung für dienstliche Zwecke in 8 Prozent der Unternehmen weit verbreitet, in weiteren 17 Prozent gibt es Einzelfälle, und 17 Prozent vermuten sie. Gleichzeitig stellen nur 26 Prozent der Unternehmen ihren Beschäftigten offiziell KI-Werkzeuge bereit. Im Mittelstand ist die Lücke besonders groß: Bei kleinen Unternehmen sind es 23 Prozent, bei mittleren 36 Prozent.

Das Problem an Schatten-KI ist nicht die KI, sondern der fehlende Rahmen. Wer als Mitarbeiter ein Angebot mit Kundendaten in ein privates ChatGPT-Konto kopiert, überträgt personenbezogene Daten ohne Auftragsverarbeitungsvertrag an einen Dritten. Je nach Einstellung des privaten Kontos können die Eingaben zudem für das Training verwendet werden. Ein Verbot allein hilft selten. Wirksamer ist ein offizielles Angebot, das mindestens so gut funktioniert wie das private.

Datenschutz, Datenhoheit und Kundenanforderungen

Der zweite Treiber sind Anforderungen von außen: Kunden in der Automobilindustrie, im Gesundheitswesen oder im öffentlichen Sektor fragen in Lieferantenaudits zunehmend, welche KI-Dienste verarbeiten und wo. Berufsgeheimnisträger wie Steuerberater, Anwälte oder Ärzte unterliegen zusätzlich § 203 StGB. Für sie reicht ein Standardvertrag mit einem US-Anbieter oft nicht aus.

Kosten und Abhängigkeit

Der dritte Treiber ist wirtschaftlich. Wer 200 Lizenzen eines einzigen Anbieters bucht, macht sich abhängig von dessen Preispolitik und Modellqualität. Plattformen mit mehreren Modellen versprechen, jederzeit auf das jeweils beste oder günstigste Modell wechseln zu können. Ob das in der Praxis gelingt, hängt von Vertrag und Datenexport ab, dazu mehr im Abschnitt zum Anbieterwechsel.

Die 12 Corporate LLMs im Vergleich

Die folgende Tabelle fasst die wichtigsten Kriterien zusammen. Detailprofile mit Stärken und Grenzen folgen im Anschluss.

So haben wir verglichen

Wir haben ausschließlich öffentlich zugängliche Angaben der Anbieter ausgewertet: Preisseiten, technische Dokumentationen, Trust-Center und Datenschutzhinweise, Stand 23. September 2026. Bewertet haben wir fünf Bereiche, die für den Mittelstand entscheiden:

1. Datenschutz und Datenhoheit: AV-Vertrag, Hosting-Standort, Trainingsausschluss, Sitz des Anbieters, Zertifizierungen
2. Funktionen: Modellauswahl, Assistenten, Dateianalyse, Websuche
3. Kosten: Preis pro Nutzer, Mindestabnahme, Zusatzkosten für Modelle oder Workflows
4. Integration: Anbindung von SharePoint, Confluence und Laufwerken, Single Sign-on, Rechteverwaltung
5. Betrieb: Aufwand für die eigene IT, Datenexport, Kündbarkeit

Eine Gesamtnote vergeben wir bewusst nicht. Ob ein Anbieter „der beste“ ist, hängt davon ab, welche dieser fünf Bereiche für Ihr Unternehmen am schwersten wiegen. Deshalb sortieren wir die Anbieter nach Einsatzfall und nicht nach Rangliste.

Welche ChatGPT-Alternative passt zu Ihnen?

Beantworten Sie sechs Fragen und erhalten Sie eine begründete Empfehlung mit konkreten nächsten Schritten.

Ist ChatGPT im Unternehmen DSGVO-konform nutzbar?

Die ehrliche Antwort lautet: Es kommt auf den Tarif an. Viele Vergleichsartikel stellen ChatGPT pauschal als datenschutzwidrig dar. Das ist für die Business- und Enterprise-Tarife nicht korrekt, und wer seine Entscheidung auf dieser falschen Annahme aufbaut, schließt womöglich die für ihn passende Lösung aus.

Private Konten sind für dienstliche Zwecke tabu. Business und Enterprise lassen sich dagegen datenschutzkonform einsetzen, wenn der AV-Vertrag abgeschlossen, die Datenverarbeitung im Verzeichnis dokumentiert und klar geregelt ist, welche Daten eingegeben werden dürfen. Bleibt die Frage des US-Zugriffs, die wir im Abschnitt zur Souveränität behandeln.

Die Datenschutzkonferenz (DSK) hat in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom Mai 2024 die Kriterien zusammengefasst, die für den Einsatz von LLM-Chatbots gelten. Sie gelten für alle Anbieter in diesem Vergleich, nicht nur für OpenAI.

Die Anbieter im Detail, sortiert nach Einsatzfall

Für Microsoft-365-Unternehmen: Microsoft Copilot

Was es ist: Microsofts KI-Assistent, der direkt in Outlook, Teams, Word, Excel und SharePoint arbeitet. Seit 2026 heißt das Produkt schlicht „Microsoft Copilot“. Der einfache Copilot Chat ist in den M365-Business- und Enterprise-Plänen ohne Aufpreis enthalten, arbeitet mit Websuche und Enterprise Data Protection. Die volle Integration in Ihre Dokumente und Postfächer kostet als Copilot Business 18,20 € pro Nutzer und Monat bei jährlicher Zahlung, zusätzlich zur M365-Lizenz.

Stärken:

• Keine neue Plattform, keine neue Anmeldung, kein Medienbruch
• Copilot zeigt nur Inhalte an, auf die der Nutzer auch selbst Zugriff hat
• Prompts und Antworten werden nicht zum Training der Basismodelle genutzt
• Der Hessische Datenschutzbeauftragte hat im November 2025 festgestellt, dass Microsoft 365 datenschutzkonform genutzt werden kann, wenn die in seinem Bericht genannten Auflagen umgesetzt werden

Grenzen:

• Copilot ist ein Dienst der EU Data Boundary, Anthropic-Modelle sind davon aber derzeit ausgenommen
• Mit Flex Routing kann Microsoft bei Lastspitzen die Verarbeitung außerhalb der EU Data Boundary durchführen. Administratoren können das abschalten. Prüfen Sie diese Einstellung vor dem Rollout
• Copilot legt schonungslos offen, wie gut Ihre Berechtigungen in SharePoint und Teams gepflegt sind. Ordner, die „für alle“ freigegeben sind, findet Copilot auch für alle

Für Google-Workspace-Unternehmen: Gemini

Was es ist: Gemini ist in den Google-Workspace-Plänen enthalten (Business Starter ab 6,80 €, Standard 13,60 €, Plus 21,10 € pro Nutzer und Monat) und arbeitet in Gmail, Docs, Sheets und Drive. Für eigene Agenten gibt es zusätzlich die separate Plattform Gemini Enterprise.

Stärken: Kein Zusatzpreis für die Grundfunktionen, keine Nutzung der Prompts für das Training, Datenregionen je nach Tarif konfigurierbar, Zertifizierungen nach BSI C5 und ISO 42001.

Grenzen: Die Business-Pläne sind auf 300 Nutzer begrenzt. Wie bei Copilot gilt: Die Qualität der Ergebnisse hängt davon ab, wie aufgeräumt Ihre Freigaben in Drive sind. Und Google bleibt ein US-Konzern, mit allen Fragen, die das für die Souveränität aufwirft.

Plattformen mit mehreren Modellen aus Europa

Diese Plattformen sind die eigentliche „ChatGPT-Alternative“, nach der die meisten Mittelständler suchen: eine Oberfläche, die sich anfühlt wie ChatGPT, aber mehrere Modelle anbietet, in der EU betrieben wird und Firmenwissen anbindet.

Langdock

Das Berliner Unternehmen betreibt seine Plattform auf Microsoft Azure in der EU. Nutzer wählen zwischen Modellen von OpenAI, Anthropic, Google, Mistral und weiteren, die meisten davon EU-gehostet. Der Business-Tarif kostet rund 25 € pro Nutzer und Monat, bei jährlicher Zahlung gibt es Rabatt. Workflows werden separat abgerechnet. Langdock ist nach ISO 27001 und SOC 2 Type II zertifiziert, trainiert nicht auf Kundendaten und synchronisiert Ordner aus SharePoint, OneDrive, Google Drive und Confluence. Single Sign-on und automatische Benutzerverwaltung (SCIM) sind im Business-Tarif enthalten. Für sehr große Kunden gibt es dedizierte Instanzen und On-Premise-Betrieb.

meinGPT

meinGPT von der SelectCode GmbH aus Unterhaching läuft auf Servern von Hetzner in Deutschland und ist nach ISO 27001:2022 zertifiziert. Das Preismodell trennt Plattform und Modelle: Die Plattformlizenz beginnt bei 18 € pro Nutzer für bis zu 50 Nutzer und sinkt mit der Nutzerzahl deutlich. Hinzu kommt ein Budget für die Modellnutzung. Angebunden werden können unter anderem M365, SharePoint, Confluence und SAP. Neben GPT, Claude und Gemini stehen offene europäische Modelle zur Verfügung.

nuwacom

Die Plattform aus Koblenz kostet im Business-Tarif 25 € pro Nutzer und Monat bei jährlicher Zahlung, Enterprise beginnt ab 20 Nutzern. Gehostet wird auf Azure in Europa, auf Wunsch ausschließlich in Deutschland über STACKIT. nuwacom ist nach ISO 27001 zertifiziert. Die automatische Synchronisation der Wissensbasis und eine DORA-konforme Governance gibt es im Enterprise-Tarif, was für Finanzdienstleister interessant ist.

506.ai CompanyGPT

Der österreichische Anbieter betreibt CompanyGPT ausschließlich in der EU, auf Wunsch in Österreich, und ist nach ISO 27001 zertifiziert. Das Preismodell kombiniert eine Lizenz pro Nutzer mit einer monatlichen Pauschale für einen eigenen Private-Cloud-Server. Der Enterprise-Einstiegstarif ist eine Pauschale für bis zu 50 Nutzer inklusive SharePoint-Anbindung und Single Sign-on. Das kann für Unternehmen mit genau dieser Größe günstiger sein als reine Lizenzmodelle.

Telekom Business GPT

Die Telekom-Tochter MMS bietet mit Business GPT eine Lösung auf Basis von OpenAI-Modellen in der Microsoft-Cloud in Europa an, inklusive Anbindung von Firmendokumenten. Für Unternehmen, die einen deutschen Vertragspartner mit bekanntem Namen bevorzugen, ist das eine Option. Beachten Sie aber: Die Infrastruktur darunter ist Microsoft. Preise veröffentlicht die Telekom nicht.

Direkt beim Modellhersteller: Claude und Mistral

Claude Team und Enterprise

Anthropic bietet Claude im Team-Tarif für 20 $ pro Nutzer und Monat bei jährlicher Zahlung an, ab zwei Nutzern, mit Single Sign-on und ohne Training auf Ihren Inhalten. Ein Premium-Platz mit höheren Limits kostet 100 $. Der Enterprise-Tarif kombiniert einen Grundpreis pro Platz mit Nutzungskosten zu API-Preisen und bietet SCIM, Rollen, Audit-Logs und eine Compliance-Schnittstelle. Anthropic ist nach SOC 2 Type II, ISO 27001 und ISO 42001 zertifiziert.

Der Haken für europäische Unternehmen: Für die direkte Nutzung von Claude ist keine EU-Datenresidenz dokumentiert. Wer Claude mit Verarbeitung in der EU nutzen will, geht in der Regel über AWS Bedrock oder Google Vertex AI oder über eine der oben genannten Plattformen. Einen detaillierten Modellvergleich finden Sie in unserem Artikel ChatGPT vs. Claude.

Mistral Le Chat Enterprise

Mistral ist der wichtigste europäische Modellhersteller. Le Chat kostet im Team-Tarif 24,99 $ pro Nutzer und Monat. Der Enterprise-Tarif mit SAML-SSO, Audit-Logs und White-Label-Option ist individuell verhandelbar. Die Besonderheit: Mistral erlaubt den Betrieb in der Mistral-Cloud, in Ihrer eigenen Cloud oder vollständig selbst gehostet. Konnektoren zu SharePoint, OneDrive, Google Drive und Gmail sind vorhanden, Zertifizierungen nach SOC 2 Type II sowie ISO 27001 und 27701 ebenfalls. Laut Bitkom nutzt allerdings praktisch noch kein deutsches Unternehmen Mistral, obwohl sich die große Mehrheit europäische Anbieter wünscht.

Aus Aleph Alpha wird Cohere: Was die Fusion bedeutet

Aleph Alpha aus Heidelberg galt lange als die deutsche Antwort auf OpenAI. Seit 2024 entwickelt das Unternehmen keine eigenen großen Basismodelle mehr, sondern setzt auf die Plattform PhariaAI. Am 16. September 2026 haben Aleph Alpha und der kanadische Anbieter Cohere den Vertrag über ihre Fusion unterzeichnet. Das gemeinsame Unternehmen soll Cohere heißen, Standorte in Berlin und Toronto haben und die Plattform auf STACKIT betreiben, der Cloud der Schwarz-Gruppe. Die Schwarz-Gruppe beteiligt sich mit rund 500 Millionen Euro. Die Behörden müssen noch zustimmen.

Für Unternehmen, die heute eine Entscheidung treffen, heißt das: Die „transatlantische souveräne KI“ ist angekündigt, aber noch nicht als fertiges Produkt für den Mittelstand verfügbar. Beobachten Sie die Entwicklung, bauen Sie Ihre Strategie aber nicht allein darauf.

Maximale Datenhoheit: Eigenbetrieb mit offenen Modellen

Wer die volle Kontrolle will, kombiniert eine selbst betriebene Chat-Oberfläche mit Modellen aus einer deutschen Cloud oder von eigener Hardware:

• Oberfläche: Open WebUI oder LibreChat bieten eine ChatGPT-ähnliche Oberfläche mit Anmeldung über LDAP, SAML oder OAuth. Achtung bei Open WebUI: Seit Version 0.6.6 gilt eine Lizenzklausel, nach der das Branding ab 50 Nutzern nicht entfernt werden darf. LibreChat steht unter MIT-Lizenz und gehört seit November 2025 zu ClickHouse, bleibt aber Open Source.
• Modelle aus deutscher Cloud: STACKIT betreibt sein AI Model Serving in Deutschland, ist nach BSI C5 und ISO 27001 zertifiziert und speichert Eingaben weder noch nutzt es sie für Training. Im Angebot sind unter anderem Llama 3.3 70B, GPT-OSS und Qwen-Modelle, abgerechnet wird pro Token. Der IONOS AI Model Hub in Berlin bietet eine vergleichbare, OpenAI-kompatible Schnittstelle, ebenfalls mit C5 und ISO 27001.
• Modelle auf eigener Hardware: Ab einem gewissen Volumen oder bei Berufsgeheimnissen kann eigene Hardware sinnvoll sein. Wann sich das rechnet, zeigt unser Vergleich lokale KI vs. Cloud-KI. Welche offenen Modelle taugen, steht im Open-Source-LLM-Vergleich.

Der Preis für diese Freiheit ist Betriebsaufwand: Updates, Monitoring, Benutzerverwaltung und Support liegen bei Ihnen oder einem Dienstleister. Die Token-Kosten sind dagegen fast vernachlässigbar, wie der Rechner im nächsten Abschnitt zeigt.

Was kostet ein Corporate LLM pro Mitarbeiter?

Die Listenpreise der meisten Plattformen liegen zwischen 18 und 25 € pro Nutzer und Monat. Bei 50 Mitarbeitenden sind das 900 bis 1.250 € im Monat, bei 200 Mitarbeitenden 3.600 bis 5.000 €. Die Unterschiede zwischen den Anbietern sind damit kleiner, als viele erwarten. Entscheidender sind drei Punkte, die in Preisvergleichen oft fehlen:

1. Zusatzkosten: Manche Plattformen rechnen Modellnutzung, Workflows oder API-Zugriffe separat ab. Fragen Sie nach dem Gesamtpreis bei realistischer Nutzung.
2. Nicht jeder braucht eine Lizenz: In den meisten Unternehmen nutzt nach einigen Monaten ein Teil der Belegschaft die KI täglich, ein anderer Teil selten. Ein Modell mit gestaffelten Lizenzen oder ein Pool-Budget kann deutlich günstiger sein.
3. Einführungskosten: Schulung, Einrichtung der Rechte, Anbindung von Wissen und Abstimmung mit dem Betriebsrat kosten bei jeder Variante Zeit und Geld und sind oft höher als die Lizenzen im ersten Jahr.

Rechnen Sie mit Ihren eigenen Zahlen:

In der EU gehostet oder wirklich souverän?

„Server in der EU“ steht auf fast jeder Anbieterseite. Für die Einordnung Ihres Risikos reicht das nicht. Es gibt drei Stufen, die sich deutlich unterscheiden:

Warum die Unterscheidung wichtig ist: Im Juni 2025 hat ein Vertreter von Microsoft France vor dem französischen Senat unter Eid erklärt, er könne nicht garantieren, dass Daten europäischer Kunden nicht an US-Behörden herausgegeben werden. Das heißt nicht, dass Stufe 1 und 2 unzulässig wären. Für die meisten Alltagsdaten ist ein sauberer AV-Vertrag mit EU-Hosting ausreichend. Es heißt aber, dass Sie bewusst entscheiden sollten, welche Daten auf welcher Stufe verarbeitet werden dürfen.

Entscheidungshilfe nach Schutzbedarf

Viele Unternehmen landen bei einer Kombination: eine komfortable Plattform für den Alltag und eine abgeschottete Lösung für die sensiblen Bereiche. Das ist kein Widerspruch, sondern die in der Praxis häufigste Architektur.

Firmenwissen anbinden: SharePoint, Confluence und Zugriffsrechte

Der größte Nutzen eines Corporate LLM entsteht, wenn es nicht nur allgemein formuliert, sondern auf Ihr Firmenwissen zugreift: Handbücher, Verträge, Produktdaten, Richtlinien. Technisch geschieht das über Retrieval Augmented Generation (RAG): Die Plattform sucht passende Textstellen aus Ihren Dokumenten heraus und gibt sie dem Modell zusammen mit der Frage mit. Wie das im Detail funktioniert und wann einfache Konnektoren nicht mehr reichen, erklären wir in unserem Leitfaden zu Agentic RAG.

Für die Auswahl entscheidend ist eine Frage, die in Anbietervergleichen fast nie gestellt wird: Übernimmt die Plattform die Zugriffsrechte aus dem Quellsystem?

Wenn Sie einen SharePoint-Ordner mit Personaldaten an eine KI-Plattform anbinden, darf ein Mitarbeiter aus dem Vertrieb auf die Frage „Was verdient Kollege X?“ keine Antwort bekommen. Es gibt drei Varianten, wie Plattformen damit umgehen:

1. Rechte werden dokumentgenau übernommen: Jeder Nutzer sieht nur Treffer aus Dokumenten, auf die er im Quellsystem Zugriff hat. Das ist der Goldstandard. Microsoft Copilot arbeitet so.
2. Rechte werden pro Wissensbasis vergeben: Ein Administrator legt fest, welche Gruppe auf welche angebundene Wissensbasis zugreifen darf. Das funktioniert, erfordert aber Disziplin bei der Einrichtung.
3. Keine Rechteprüfung: Alle Nutzer sehen alles, was angebunden wurde. Das ist nur für wirklich allgemeine Inhalte vertretbar.

Betriebsrat, Datenschutz und EU AI Act: Was vor der Einführung zu tun ist

Betriebsrat: Mitbestimmung ist die Regel

Hat Ihr Unternehmen einen Betriebsrat, ist die Einführung eines Corporate LLM in aller Regel mitbestimmungspflichtig. Nach § 87 Abs. 1 Nr. 6 BetrVG genügt es, dass eine technische Einrichtung objektiv geeignet ist, Verhalten oder Leistung der Beschäftigten zu überwachen. Eine KI-Plattform mit Protokollierung, Nutzungsstatistiken und Chatverläufen erfüllt diese Voraussetzung. Hinzu kommen Unterrichtungs- und Beratungsrechte nach § 90 BetrVG bei der Planung technischer Anlagen.

Eine Betriebsvereinbarung zur KI-Nutzung regelt typischerweise:

• welche Tools für welche Zwecke eingesetzt werden
• welche Daten protokolliert werden und wer die Protokolle einsehen darf
• dass Nutzungsdaten nicht zur individuellen Leistungsbewertung verwendet werden
• welche Schulungen angeboten werden
• wie mit neuen Funktionen oder Modellen umgegangen wird, ohne jedes Mal neu verhandeln zu müssen

Binden Sie den Betriebsrat früh ein, idealerweise schon bei der Anbieterauswahl. Eine Rahmenvereinbarung, die künftige Tools nach festen Kriterien abdeckt, spart später viel Zeit.

Datenschutz: Die Pflichtdokumente

Für jede Plattform in diesem Vergleich brauchen Sie mindestens einen AV-Vertrag nach Art. 28 DSGVO, einen Eintrag im Verzeichnis der Verarbeitungstätigkeiten und eine KI-Nutzungsrichtlinie für die Mitarbeitenden. Ob zusätzlich eine Datenschutz-Folgenabschätzung nötig ist, hängt davon ab, welche Daten verarbeitet werden. Bei Personaldaten, Gesundheitsdaten oder einer umfangreichen Anbindung von Kundendaten ist sie in der Regel geboten. Klären Sie das mit Ihrer oder Ihrem Datenschutzbeauftragten.

EU AI Act: KI-Kompetenz nach dem Digital-Omnibus

Artikel 4 des EU AI Act verpflichtet Unternehmen, die KI-Systeme einsetzen, seit Februar 2025 zu Maßnahmen für die KI-Kompetenz ihrer Beschäftigten. Mit dem Digital-Omnibus, der Verordnung (EU) 2026/1744, die am 27. Juli 2026 in Kraft getreten ist, wurde Artikel 4 abgeschwächt: Unternehmen müssen die KI-Kompetenz ihrer Mitarbeitenden nun fördern, statt ein bestimmtes Niveau sicherzustellen. Die Pflicht zu handeln bleibt aber bestehen. In Deutschland ist seit Ende Juli 2026 die Bundesnetzagentur als Marktüberwachungsbehörde zuständig.

Für die Einführung eines Corporate LLM bedeutet das konkret: Schulen Sie die Mitarbeitenden, bevor sie die Plattform nutzen, und dokumentieren Sie, wer wann welche Schulung erhalten hat. Ein allgemeiner Chat-Assistent für Texte und Recherche ist nach dem AI Act kein Hochrisiko-System. Das kann sich ändern, wenn Sie die KI für Personalentscheidungen oder Bonitätsprüfungen einsetzen. Eine vollständige Übersicht finden Sie in unserer EU-AI-Act-Checkliste, passende Schulungen in unserem Angebot für KI-Schulungen und Workshops.

Anbieterwechsel und Abhängigkeit: Was Sie vertraglich klären sollten

Nach einem Jahr Nutzung stecken in einer KI-Plattform Assistenten, Prompt-Bibliotheken, angebundene Wissensbasen und Gewohnheiten von Hunderten Mitarbeitenden. Wer dann wechseln will, merkt, wie viel davon an die Plattform gebunden ist. Klären Sie deshalb vor Vertragsschluss:

• Datenexport: Können Chatverläufe, Assistenten und Prompts in einem offenen Format exportiert werden?
• Wissensbasis: Liegen Ihre Dokumente weiterhin in Ihrem Quellsystem, oder werden sie auf die Plattform kopiert? Eine Synchronisation aus SharePoint ist leichter zu wechseln als ein Upload-Archiv.
• Modellwechsel: Können Sie das Modell hinter Ihren Assistenten austauschen, ohne sie neu zu bauen?
• Offene Standards: Unterstützt die Plattform das Model Context Protocol (MCP) und offene Schnittstellen, damit Ihre Integrationen nicht an einen Anbieter gebunden sind?
• Kündigung: Welche Laufzeiten und Kündigungsfristen gelten?

Hilfe bietet der EU Data Act, der seit dem 12. September 2025 gilt: Cloud- und SaaS-Kunden haben ein Recht auf Anbieterwechsel mit einer Kündigungsfrist von höchstens zwei Monaten. Wechselentgelte müssen ab Januar 2027 vollständig entfallen. Ein Vertrag, der dem widerspricht, ist ein Warnsignal.

Von der Schatten-KI zum Corporate LLM: Einführung in 90 Tagen

Die meisten Einführungen scheitern nicht an der Technik, sondern daran, dass Mitarbeitende beim gewohnten privaten Tool bleiben. Ein bewährter Ablauf für den Mittelstand:

Tage 1 bis 30: Grundlagen schaffen

1. Bestandsaufnahme: Welche KI-Tools werden heute genutzt, offiziell und inoffiziell? Eine anonyme Umfrage liefert ehrlichere Antworten als ein Verbot.
2. Schutzbedarf der Daten klassifizieren und die passende Stufe festlegen
3. Zwei bis drei Anbieter vorauswählen, Testzugänge anfordern
4. Betriebsrat und Datenschutzbeauftragte einbinden

Tage 31 bis 60: Pilot mit echten Aufgaben 5. Pilotgruppe von 10 bis 20 Personen aus mindestens zwei Abteilungen zusammenstellen, darunter die heutigen Schatten-KI-Nutzer 6. Konkrete Aufgaben testen, zum Beispiel Angebote formulieren, Protokolle zusammenfassen, Fragen zu internen Richtlinien beantworten 7. Messen: Wie oft wird genutzt, wie viel Zeit wird gespart, wo gibt es Probleme? 8. Die besten Prompts der Pilotgruppe in einer gemeinsamen Bibliothek sammeln

Tage 61 bis 90: Rollout 9. Anbieter festlegen, Verträge und Betriebsvereinbarung abschließen 10. KI-Nutzungsrichtlinie veröffentlichen und Schulungen durchführen, dokumentiert für Art. 4 AI Act 11. Rollout in Wellen, mit Ansprechpersonen in jeder Abteilung 12. Private KI-Konten für dienstliche Zwecke ab einem festen Datum untersagen, wenn das offizielle Angebot steht

Checkliste: Anforderungen an Ihr Corporate LLM

Nutzen Sie diese Checkliste für Gespräche mit Anbietern und für Ihre interne Abstimmung. Sie ist nach den Rollen gegliedert, die bei der Entscheidung mitreden.

Häufig gestellte Fragen zur ChatGPT-Alternative für Unternehmen

Fazit: Die Frage ist nicht ob, sondern welches

Mehr als die Hälfte der deutschen Unternehmen nutzt inzwischen KI, und in vielen davon arbeiten Mitarbeitende mit privaten Konten, weil es kein offizielles Angebot gibt. Die Frage ist 2026 deshalb nicht mehr, ob ein Unternehmen ein Corporate LLM braucht, sondern welches.

Die Antwort ergibt sich aus drei Faktoren: Ihrer vorhandenen Büro-Software, dem Schutzbedarf Ihrer Daten und Ihrer IT-Kapazität. Die Preisunterschiede zwischen den Anbietern sind kleiner als die Unterschiede bei Datenhoheit, Rechteverwaltung und Wechselfähigkeit. Wer diese Punkte vor der Entscheidung sauber klärt, den Betriebsrat früh einbindet und die Mitarbeitenden schult, bekommt ein Werkzeug, das tatsächlich genutzt wird, statt einer weiteren Lizenz, die ungenutzt Geld kostet.