“Eigene KI erstellen” – was bedeutet das wirklich?
Immer mehr Unternehmen im Mittelstand fragen sich: Wie kann ich KI-Lösungen für mein Unternehmen aufbauen, die wirklich zu meinen Prozessen passen? Die Antwort überrascht viele: In den meisten Fällen brauchen Sie weder Entwickler noch ein Millionenbudget.
Der Begriff „eigene KI erstellen” wird jedoch für vier völlig verschiedene Dinge verwendet – und fast alle Artikel im Netz vermischen diese Ebenen. Das führt zu falschen Erwartungen, unnötigen Kosten und gescheiterten Projekten.
Ein Handelsunternehmen, das möchte, dass sein Kundendienst-Chatbot die eigenen Produktkataloge kennt, hat einen anderen Bedarf als ein Finanzdienstleister, der ein proprietäres Risikomodell aufbauen will. Beide wollen „eine eigene KI” – aber die Lösung liegt meilenweit auseinander.
Dieser Artikel ordnet die vier realistischen Wege klar ein – von No-Code und Low-Code bis zum vollständigen Modelltraining – mit konkreten Kosten, DSGVO-Check und einer Entscheidungsmatrix für KMU.
Die 4 Wege zur eigenen KI – Schnellübersicht
| Weg | Was es ist | Aufwand | Kosten | Für wen |
|---|---|---|---|---|
| A: Konfiguration | Generative KI mit Anweisungen anpassen | Stunden | 0–50 €/Monat | Alle KMU |
| B: RAG (Low-Code) | Eigene Dokumente als Wissensbasis einspeisen | Tage | 50–500 €/Monat | KMU mit Wissensbasis |
| C: Fine-Tuning | Modell auf eigene Daten nachtrainieren | Wochen | 500–5.000 € einmalig | Spezifische Sprachanforderungen |
| D: Eigenes Modell | KI von Grund auf entwickeln | Monate–Jahre | 100.000 €+ | Enterprise / Forschung |
Weg A: Generative KI konfigurieren – die unterschätzte No-Code-Lösung
Der einfachste und am häufigsten unterschätzte Weg zur eigenen KI-Lösung für Unternehmen: Sie nehmen ein bestehendes generatives KI-Modell wie ChatGPT oder Claude und geben ihm durch einen Systemprompt eine eigene Identität, Tonalität und klare Verhaltensregeln.
Was das konkret bedeutet:
- Die KI spricht immer in Ihrer Unternehmenssprache
- Sie kennt Ihre Produkte, Preise und häufigen Kundenanfragen
- Sie folgt Ihren Eskalationsregeln und nennt immer denselben Namen
- Sie verweigert Antworten, die nicht zu Ihrem Bereich gehören
Praktische No-Code-Tools:
- ChatGPT Custom GPTs (OpenAI): Per Klick konfigurierbar, keine Vorkenntnisse nötig
- Claude Projects (Anthropic): Kontextspeicher für ganze Teams
- Microsoft Copilot Studio: Für Unternehmen im Microsoft-Ökosystem
Generative KI-Beispiele für den Mittelstand:
- Vertriebsassistent, der Angebote in Ihrer Unternehmenssprache formuliert
- HR-Bot, der interne Richtlinien kennt und Mitarbeiterfragen beantwortet
- Marketing-Assistent mit festgelegtem Markenton für alle Kanäle
Kosten: 20–50 €/Monat (ChatGPT Plus oder Claude Pro Abo)
Weg B: RAG – Low-Code-KI mit eigener Wissensbasis
RAG steht für „Retrieval-Augmented Generation”: Die KI sucht bei jeder Anfrage gezielt in Ihren eigenen Dokumenten und antwortet auf Basis dieser Quellen. Das ist der wichtigste Low-Code-Ansatz für KMU, die eigene Dokumente, Handbücher oder Datenbanken als KI-Wissensbasis nutzen wollen.
Das Ergebnis: Eine generative KI, die Ihr Produkthandbuch, Ihre internen Prozesse, Ihre Verträge oder Ihre FAQ-Datenbank wirklich kennt – und präzise zitiert, anstatt zu halluzinieren.
Was Sie mit RAG aufbauen können:
- Interner Wissensassistent (HR, Compliance, Produktwissen)
- Kunden-Chatbot, der exakt Ihre Dokumentation kennt
- Vertragsassistent, der relevante Klauseln findet und zitiert
- Support-Bot mit Zugriff auf Ihre Tickethistorie
Low-Code- und No-Code-Tools für RAG:
- Dify.ai: Visueller Builder, eigene Dokumente hochladen, direkt deployen
- Flowise: Open-Source, selbst hostbar, DSGVO-konform
- n8n mit AI-Nodes: Ideal für Unternehmen, die bereits n8n für Prozessautomatisierung nutzen
- Microsoft Azure AI Search + Copilot: Für Microsoft-Umgebungen
Wann Weg B sinnvoll ist:
- Sie haben umfangreiche interne Wissensdokumente
- Mitarbeiter suchen täglich manuell in Handbüchern, Katalogen oder Wikis
- Ihr Kundendienst beantwortet täglich dieselben Fragen
Kosten: 50–300 €/Monat laufend, 500–2.000 € Einrichtung
Weg C: Fine-Tuning – wenn Standardmodelle nicht reichen
Beim Fine-Tuning nehmen Sie ein bestehendes generatives KI-Modell und trainieren es zusätzlich auf Ihren eigenen Daten nach. Das Modell lernt Ihre spezifische Terminologie, Ihren Schreibstil oder fachliche Zusammenhänge aus Ihrer Branche.
Wann Fine-Tuning als KI-Lösung für Unternehmen sinnvoll ist:
- Ihr Unternehmen hat einen sehr spezifischen Fachbereich (Medizintechnik, Rechtsberatung, Ingenieurwesen)
- RAG liefert nicht die nötige Konsistenz im Sprachstil
- Sie produzieren täglich große Mengen gleichartiger Texte in Ihrer Fachsprache
- Sie brauchen schnellere Antwortzeiten als RAG-Systeme bieten
Was Fine-Tuning nicht löst: Fine-Tuning verbessert Stil und Fachvokabular – es ersetzt keine aktuelle Wissensbasis. Ein feingetuntes Modell weiß weiterhin nichts über Ihre neuesten Produkte, sofern Sie es nicht erneut trainieren.
Kosten:
- OpenAI Fine-Tuning: ca. 0,008 USD pro 1.000 Trainings-Token (~500–3.000 € für mittelgroße Datensätze)
- Datenvorbereitung und Qualitätsprüfung: intern oder durch Dienstleister
- Laufende Inferenzkosten je nach Nutzungsvolumen
Weg D: Eigenes Modell – nur für Enterprise
Den vollständigen Aufbau eines eigenen KI-Modells – von der Datenstrategie über das Vortraining bis zur Inferenzinfrastruktur – betreiben weltweit nur wenige hundert Organisationen.
Was das erfordert:
- Datenwissenschaftler und ML-Ingenieure (typisch: 5–15 Personen)
- Spezialisierte GPU-Infrastruktur (Training-Kosten: 50.000–10 Mio. €+)
- 6–24 Monate Entwicklungszeit bis zum produktionsreifen Modell
- Laufende Wartung, Sicherheits-Updates, Monitoring
Für mittelständische Unternehmen: Nicht notwendig. Die Kombination aus Weg A und B erreicht in der Praxis vergleichbare Ergebnisse für einen Bruchteil der Kosten – und das ganz ohne eigenes Entwicklerteam.
DSGVO-Check: Welche Daten dürfen Sie wo einspeisen?
Dieser Abschnitt fehlt in fast allen anderen Artikeln – und ist für deutsche Unternehmen der entscheidende Faktor bei der Wahl ihrer KI-Lösung.
Grundregel: Jedes Dokument, das Sie in eine Cloud-KI-Plattform hochladen, verlässt Ihr Unternehmen und wird an externe Server übertragen.
| Datentyp | Risiko | Empfehlung |
|---|---|---|
| Öffentliche Produktinfos, Handbücher | Niedrig | Alle Cloud-Lösungen nutzbar |
| Interne Prozesse, allg. Wissen | Mittel | Cloud mit AVV + Opt-out aus Training |
| Kundendaten, Verträge, Finanzdaten | Hoch | EU-gehostete Lösung oder Self-Hosted |
| Patientendaten, Rechtsakten | Sehr hoch | Nur On-Premise / lokale Modelle |
DSGVO-konforme KI-Lösungen für Unternehmen:
- Microsoft Azure OpenAI (EU Data Boundary): Daten verlassen die EU nicht
- Flowise / Dify selbst gehostet: Vollständige Datenkontrolle auf eigenem Server
- Ollama + lokale Modelle (z.B. Llama 3, Mistral): Keine Cloud, keine Datenweitergabe
- Anthropic Claude API mit DPA: Kein Training mit Ihren Daten
Kosten im Überblick: Was kostet eine eigene KI wirklich?
| Szenario | Einmalig | Monatlich | Zeitaufwand |
|---|---|---|---|
| Custom GPT / Claude Project | 0 € | 20–50 € | 1–2 Tage |
| RAG mit Dify (Cloud, Low-Code) | 500–1.500 € | 50–200 € | 1–2 Wochen |
| RAG selbst gehostet (DSGVO) | 1.500–3.000 € | 50–150 € (Server) | 2–4 Wochen |
| Fine-Tuning (OpenAI) | 1.000–5.000 € | 100–500 € | 4–8 Wochen |
| Eigenes Modell (Enterprise) | 100.000 €+ | 5.000 €+ | 6–24 Monate |
Entscheidungsmatrix: Welcher Weg passt zu Ihrem Unternehmen?
Kein IT-Team, schneller Einstieg gewünscht? → Weg A (Custom GPT / Claude Project). No-Code, sofort nutzbar, minimale Kosten.
Große interne Wissensbasis, Mitarbeiter suchen täglich? → Weg B (RAG, Low-Code). Höchster ROI für die meisten KMU. Auch ohne Entwickler umsetzbar.
Sensible Daten, vollständige Datenkontrolle nötig? → Weg B selbst gehostet (Flowise / Dify on-premise) oder lokale Modelle via Ollama.
Sehr spezifischer Fachstil, der Standard-Modelle überfordert? → Weg C (Fine-Tuning) als Ergänzung zu RAG – erst wenn A und B ausgereizt sind.
KI ist Ihr Kernprodukt als Technologieunternehmen? → Weg D (Eigenes Modell). Nur in diesem Fall rechtfertigt sich der Aufwand.
Typische Fehler, die Unternehmen machen
Fehler 1: Zu komplex einsteigen Viele Unternehmen beauftragen sofort ein Fine-Tuning-Projekt, weil sie glauben, das sei notwendig. Ergebnis: 3 Monate, 15.000 € – und ein Ergebnis, das ein Custom GPT in zwei Tagen geliefert hätte.
Fehler 2: Kein klares Ziel definieren „Wir wollen eine eigene KI” ist kein Projektziel. Definieren Sie zuerst: Welche Aufgabe soll die KI übernehmen? Für wen? Mit welchen Daten? Welche Qualität ist akzeptabel?
Fehler 3: DSGVO ignorieren Unternehmensdaten einfach in ChatGPT hochladen ist praktisch – aber rechtlich riskant. Prüfen Sie vor dem Start, welche Daten Sie verarbeiten, und wählen Sie die passende Hosting-Option.
Fehler 4: Einmalige Einrichtung als Endpunkt sehen Eine eigene KI-Lösung ist kein Einmalprojekt. Daten ändern sich, Prozesse ändern sich, Modelle verbessern sich. Planen Sie von Anfang an regelmäßige Update-Zyklen ein.
Fazit: Starten Sie klein – skalieren Sie gezielt
Die gute Nachricht für den Mittelstand: Eigene KI-Lösungen für Unternehmen zu erstellen war noch nie so zugänglich wie heute. Sie brauchen kein Entwicklerteam, kein IT-Budget in Millionenhöhe und kein Studium in Data Science.
Was Sie brauchen: ein klares Ziel, den richtigen Einstiegsweg – No-Code oder Low-Code – und je nach Datensensibilität die passende DSGVO-Absicherung.
Starten Sie mit Weg A oder B. Messen Sie den ROI. Und skalieren Sie erst dann auf Fine-Tuning oder komplexere KI-Architekturen, wenn die einfachen Wege ausgereizt sind.
Sie möchten eine eigene KI-Lösung für Ihr Unternehmen aufbauen?
Lass uns gemeinsam schauen, was wir für deinen Online-Shop herausholen können.
Häufige Fragen (FAQ)
Kann ich eine eigene KI ohne Programmierkenntnisse erstellen? Ja – für Weg A (Custom GPT, Claude Projects) und viele Low-Code-RAG-Lösungen (Dify, Flowise mit GUI) brauchen Sie keine Programmierkenntnisse. Fine-Tuning und eigene Modelle erfordern technisches Know-how.
Wie lange dauert es, eine eigene KI zu erstellen? Von einem Tag (Custom GPT) bis zu mehreren Jahren (eigenes Modell). Für die meisten KMU gilt: ein funktionsfähiger KI-Assistent mit eigener Wissensbasis ist in 1–2 Wochen einsatzbereit.
Darf ich Kundendaten in ChatGPT hochladen? Ohne Auftragsverarbeitungsvertrag (AVV) und Prüfung ist das für personenbezogene Kundendaten nicht DSGVO-konform. Nutzen Sie EU-gehostete Lösungen oder selbst gehostete Systeme.
Was ist der Unterschied zwischen Custom GPT und Fine-Tuning? Custom GPT gibt dem Modell einen festen Kontext und Verhaltensregeln – das Modell selbst bleibt unverändert. Fine-Tuning verändert die Gewichte des Modells durch zusätzliches Training. Fine-Tuning ist aufwändiger, teurer und in den meisten Fällen nicht nötig.
Was ist RAG und warum ist es besser als Fine-Tuning für Wissensdatenbanken? RAG lässt die KI bei jeder Anfrage gezielt in Ihren Dokumenten suchen und gibt aktuelle, zitierbare Antworten. Fine-Tuning „brennt” Wissen ins Modell – ist aber nicht ohne erneutes Training aktualisierbar. Für sich ändernde Wissensdatenbanken ist RAG die überlegene und kostengünstigere Wahl.
Was kostet eine eigene KI pro Monat? Zwischen 20 € (Custom GPT mit ChatGPT Plus) und mehreren tausend Euro (selbst gehostete RAG-Systeme mit hohem Volumen). Die meisten KMU starten sinnvoll zwischen 50 und 300 € pro Monat.
Was versteht man unter Low-Code-KI? Low-Code-KI bezeichnet KI-Lösungen, die mit minimalem Programmieraufwand – meist per Drag-and-Drop oder visuellen Editoren – konfiguriert und betrieben werden können. Tools wie Dify, Flowise oder n8n fallen in diese Kategorie und ermöglichen auch Nicht-Entwicklern, eigene KI-gestützte Prozesse aufzubauen.
