KI-Kosten und ROI berechnen — Praxis-Leitfaden für den Mittelstand 2026

KI-Projekte scheitern im Mittelstand selten an der Technik — sie scheitern an einer Kostenkalkulation, die zwei wichtige Drittel der Wahrheit weglässt. Wer 2026 ChatGPT-Enterprise-Lizenzen für 60 Euro pro Sitz einkauft und dem Aufsichtsrat einen ROI von 400 Prozent vorlegt, weil zehn Mitarbeitende jeweils zwei Stunden pro Woche sparen, hat die Rechnung eines Vertriebs-Pitchdecks übernommen — nicht die seines eigenen Unternehmens. Dieser Artikel zeigt, mit welchen Kosten Sie als deutscher Mittelständler 2026 realistisch rechnen müssen, wo die Fallen liegen, welche Pricing-Stände bei ChatGPT, Claude und Gemini aktuell sind, ob sich Self-Hosting jemals rechnet, und wie Sie den ROI sauber kalkulieren — inklusive drei durchgerechneter Beispiele aus typischen Mittelstands-Anwendungen. Für die strategische Einordnung empfehlen wir den KI-Mittelstand-Guide und parallel den Strategiebaustein KI-Strategie Mittelstand.

Was KI 2026 wirklich kostet

2026 ist das Jahr, in dem KI für mittelständische Unternehmen aus dem Pilotbudget in die Regelplanung wandert. Damit wird die Kostenfrage zur Vorstandsfrage — und sie wird komplexer, als die meisten Hochrechnungen aus 2024 und 2025 vermuten lassen. Während Vendoren weiterhin gern den Per-Seat-Preis in den Vordergrund stellen, machen Lizenzen in den meisten Mittelstands-Roll-outs heute nur 30 bis 45 Prozent der tatsächlichen Jahres-Vollkosten aus. Die übrigen 55 bis 70 Prozent verteilen sich auf API-Tokens für spezialisierte Use-Cases, Integrations- und Plattform-Aufwand, Schulung der Belegschaft, Wartung und Compliance.

Eine belastbare Faustregel aus unserer Beratungs-Praxis: rechnen Sie pro produktivem KI-Use-Case mit jährlichen Vollkosten zwischen 25.000 und 90.000 Euro im ersten Jahr — abhängig davon, wie tief die Integration in Bestandssysteme reicht und wie viele Personen aktiv arbeiten. Reine Seat-Lizenzen ohne Use-Case-Begleitung liegen bei 350 bis 900 Euro pro Nutzer und Jahr, sind aber ohne flankierende Maßnahmen ein guter Indikator für niedrige Adoption — die Lizenz bleibt liegen, das Geld ist trotzdem weg.

Wichtig für die Planung: Kosten sind nicht statisch. API-Preise haben sich zwischen 2023 und 2026 für vergleichbare Modell-Klassen rund um den Faktor zehn reduziert. Gleichzeitig sind Modelle leistungsfähiger geworden, die Token-Mengen pro Anfrage steigen jedoch — typische Retrieval-Augmented-Generation-Anwendungen verbrauchen heute zwischen 4.000 und 20.000 Token pro Konversation. Wer mit den Pricing-Ständen von vor 18 Monaten plant, unter- oder überschätzt seine Budgets um den Faktor drei.

Die sechs Kostenarten im Überblick

Eine saubere KI-Vollkostenrechnung kennt sechs Kostenarten. Wer eine dieser sechs Spalten weglässt, produziert einen Business Case, der im zweiten Jahr nachverhandelt werden muss.

• Lizenzen pro SeatPer-Nutzer-Abonnements für Werkzeuge wie ChatGPT Enterprise, Microsoft Copilot oder Claude for Work. Typisch 28 bis 60 Euro pro Nutzer und Monat, oft mit Jahres-Mindestlaufzeit und Mindest-Sitzzahl. Achtung bei Floating-Licenses versus Named-User — die Modelle unterscheiden sich in der Auslastung deutlich.
• API-TokensVerbrauchs-basierte Kosten für maßgeschneiderte Integrationen — Chatbots, Dokumenten-Analyse, Sales-Assistenz. Abgerechnet wird pro 1.000 Eingabe- oder Ausgabe-Token. Typisch zwischen 200 und 3.500 Euro monatlich pro produktiven Use-Case, in Spitzen bis 15.000 Euro.
• InfrastrukturVektordatenbanken (Pinecone, Weaviate, Qdrant), Speicher für eingebettete Dokumente, Caching, Monitoring, Logging und gegebenenfalls GPU-Hardware bei Self-Hosting. Mittelständische Cloud-Setups liegen typisch bei 400 bis 2.500 Euro im Monat.
• IntegrationAnbindung an Bestandssysteme — ERP, CRM, DMS, Ticketsystem, Wissensdatenbank. Einmalig 15.000 bis 80.000 Euro pro Integration, abhängig von der Schnittstellen-Qualität der Bestandssoftware. Laufender Wartungs-Aufwand etwa 10 bis 20 Prozent davon pro Jahr.
• Schulung und ChangeOnboarding, Anwendungs-Schulungen, Prompt-Workshops, Begleitung der Fachbereiche. Typisch 500 bis 1.500 Euro pro Mitarbeitenden im ersten Jahr — die häufigste unterschätzte Position, weil sie nicht im Vendor-Angebot steht.
• Wartung und GovernanceModell-Aktualisierungen, Prompt-Tuning, Qualitäts-Monitoring, EU-AI-Act-Klassifizierung, DSGVO-Folgenabschätzung und turnusmäßige Sicherheits-Prüfung. Etwa 0,2 bis 0,5 Stellenanteile dauerhaft pro produktivem System.

Wer diese sechs Spalten konsequent ausfüllt, landet bei einer Zahl, die deutlich über dem reinen Lizenz-Ticker liegt — aber genau diese Zahl gehört in den Aufsichtsrats-Beschluss, nicht der schöne Vendor-Preis.

ChatGPT, Claude, Gemini — Pricing-Stand 2026

Die drei wichtigsten kommerziellen KI-Anbieter für mittelständische Unternehmen sind OpenAI mit ChatGPT, Anthropic mit Claude und Google mit Gemini. Die folgende Übersicht zeigt typische Konditionen Stand Mai 2026 für mittelständische Verträge — präzise Angebote variieren je nach Volumen und Vertragslaufzeit.

Anbieter / Produkt	Seat-Lizenz / Monat	API Input / 1M Token	API Output / 1M Token	Datenresidenz EU
ChatGPT Enterprise (GPT-5)	55–65 €	ca. 8–14 €	ca. 35–55 €	EU-Region buchbar
ChatGPT Team	22–28 €	—	—	nicht garantiert
Claude for Work (Sonnet 4.7)	48–60 €	ca. 7–12 €	ca. 30–50 €	EU-Region (Frankfurt) buchbar
Microsoft 365 Copilot	28–32 €	—	—	EU-Datacenter
Gemini Enterprise (Pro 2.5)	28–38 €	ca. 6–10 €	ca. 25–40 €	EU-Region Belgien
Azure OpenAI Service	verbrauchsbasiert	ca. 8–14 €	ca. 35–55 €	EU-Datacenter Standard

Ein realistisches Mittelstands-Szenario: 150 Mitarbeitende, davon 60 mit Copilot-Lizenz für tägliche Office-Arbeit und 20 mit ChatGPT-Enterprise-Lizenz für Wissens- und Recherche-Aufgaben. Reine Lizenzkosten pro Jahr rund 36.000 Euro. Dazu zwei spezialisierte Use-Cases über die Claude- oder GPT-API mit jeweils etwa 800 Euro monatlich, ergibt 19.200 Euro. Lizenz- und API-Summe rund 55.000 Euro — und damit etwa 40 Prozent der echten Jahres-Vollkosten, die mit Integration, Schulung und Wartung typisch bei 130.000 bis 160.000 Euro landen. Vertiefend zum Anbieter-Vergleich siehe unseren Beitrag ChatGPT Enterprise vs. Claude.

Self-Hosting — TCO mit GPU, Strom und Personal

Self-Hosting eines eigenen Sprachmodells klingt nach Souveränität und Datenschutz und ist in Vendor-Präsentationen häufig die erste Empfehlung. Die ehrliche Total-Cost-of-Ownership-Rechnung sieht für die meisten mittelständischen Unternehmen anders aus. Drei Kostenblöcke entscheiden:

Kostenblock	Einstiegs-Setup	Mittlere Konfiguration	Anmerkung
GPU-Hardware	1×H100 (ca. 35.000 €)	2×H100 + Server (ca. 110.000 €)	Abschreibung über 3–4 Jahre üblich
Strom & Kühlung pro Jahr	3.000–5.000 €	8.000–14.000 €	bei 0,28 €/kWh und Mittellast
Hosting / Co-Location	1.500–3.500 € pro Monat	3.500–7.500 € pro Monat	Rechenzentrum DE/EU mit BSI-Level
MLOps-Personal	0,3–0,5 Stellen	0,8–1,5 Stellen	Vollkostensatz 100–140 k€
Modell-Pflege & Updates	10–20 k€ pro Jahr	30–60 k€ pro Jahr	Fine-Tuning, Eval, Re-Indexierung

Der typische Mittelstands-Bruchpunkt: solange der monatliche API-Verbrauch unter etwa 8.000 bis 12.000 Euro liegt, ist Cloud-API günstiger als Self-Hosting. Erst bei dauerhaft höherem Verbrauch — meist drei oder mehr produktive, hochfrequente Use-Cases — kippt die Rechnung. Wer Self-Hosting primär aus Datenschutzgründen erwägt, sollte zuerst prüfen, ob ein EU-residenter API-Vertrag mit Auftragsverarbeitung nach DSGVO ausreicht. In 90 Prozent der Fälle ist das die richtige Antwort. Die vertiefte Diskussion zu dieser Frage findet sich in LLM On-Premise vs. Cloud.

ROI-Formel und drei durchgerechnete Beispiele

Die saubere ROI-Formel ist einfach, ihre Anwendung im Detail nicht. Sie lautet:

ROI = (jährlicher Nutzen in Euro − jährliche Vollkosten in Euro) ÷ jährliche Vollkosten in Euro

Der Nutzen muss in Euro übersetzt werden — eingesparte Personenstunden mal Vollkostensatz (typisch 55 bis 85 Euro pro Stunde für Sachbearbeitung, 90 bis 140 Euro für Fachkräfte), vermiedene Fehlerkosten oder zusätzlicher Umsatz. Die Vollkosten enthalten alle sechs oben genannten Kostenarten. Die folgenden drei Beispiele aus realen Mittelstands-Implementierungen zeigen typische Größenordnungen.

Beispiel 1 — Customer-Service-Bot im B2B-Handel

Ausgangslage: Großhandel mit 220 Mitarbeitenden, davon 14 im Innendienst-Kundenservice. Eingehende Standard-Anfragen (Liefertermine, Auftragsstatus, Produkt-Verfügbarkeit) machen etwa 60 Prozent des Anfrage-Volumens aus.

Lösung: Retrieval-Augmented Chatbot über die Claude-API, angebunden an ERP und Auftrags-Datenbank. Automatisierung von 35 Prozent der Standard-Anfragen ohne Eskalation.

• Jährliche Vollkosten: 62.000 € (8.000 € Lizenz + 12.000 € API + 28.000 € Integration anteilig Jahr 1 + 9.000 € Schulung + 5.000 € Wartung)
• Jährlicher Nutzen: 145.000 € (eingesparte Bearbeitungszeit 2.300 Stunden × 63 € Vollkostensatz)
• ROI Jahr 1: 134 %, ROI Jahr 2 (ohne einmalige Integration): 380 %

Beispiel 2 — Dokumenten-Analyse in der Steuerkanzlei

Ausgangslage: Mittelständische Steuerkanzlei mit 45 Mitarbeitenden, monatlich rund 1.200 eingehende Rechnungen und Belege pro Mandant über 80 aktive Mandate.

Lösung: Strukturierte Extraktion und Vorab-Buchungssatz-Vorschlag über GPT-API plus DATEV-Schnittstelle, mit menschlicher Endkontrolle.

• Jährliche Vollkosten: 84.000 € (Lizenzen 12.000 € + API 22.000 € + Integration anteilig 35.000 € + Schulung 8.000 € + Wartung 7.000 €)
• Jährlicher Nutzen: 215.000 € (4 Stunden Zeitersparnis pro Mandant und Monat × 80 Mandanten × 12 × 56 € Vollkostensatz)
• ROI Jahr 1: 156 %, ROI Jahr 2: 430 %

Beispiel 3 — Sales-Assist im Maschinenbau

Ausgangslage: Mittelständischer Maschinenbauer mit 380 Mitarbeitenden, 22 Außendienst-Vertriebler. Angebots-Erstellung dauert pro Vorgang typisch zwischen 6 und 14 Arbeitsstunden, weil Spezifikationen mit Bestandsdaten und Konfigurationen abgeglichen werden müssen.

Lösung: Sales-Assistant auf Basis Microsoft Copilot Studio plus Anbindung an CRM und Produkt-Konfigurator. Reduktion der Angebots-Erstellungszeit um durchschnittlich 35 Prozent.

• Jährliche Vollkosten: 118.000 € (Lizenzen 22 × 380 € + Copilot Studio + API 18.000 € + Integration anteilig 55.000 € + Schulung + Wartung)
• Jährlicher Nutzen: 198.000 € (22 Vertriebler × ca. 150 Stunden Ersparnis × 60 € + Conversion-Hebel)
• ROI Jahr 1: 68 %, ROI Jahr 2: 290 %

Zwei Beobachtungen über alle drei Beispiele: die ROI-Kurve ist im ersten Jahr durch Integrations- und Schulungs-Einmalkosten gedrückt und entfaltet sich erst ab dem zweiten Jahr. Und der Nutzen wird über eingesparte Stunden allein systematisch unterschätzt — Zusatz-Umsatz durch schnellere Angebote, höhere Qualität durch konsistente Antworten und Mitarbeiter-Zufriedenheit sind reale, aber schwer monetarisierbare Hebel.

Versteckte Kosten — die drei großen Unterschätzer

Drei Kostenblöcke werden in KI-Business-Cases regelmäßig zu niedrig angesetzt oder ganz vergessen. Wer sie kennt, plant von Anfang an realistisch.

Change-Management und Adoption. Ein KI-Werkzeug, das niemand benutzt, ist die teuerste Software-Anschaffung des Jahres. Eine strukturierte Adoptions-Begleitung mit Fachbereichs-Champions, Sprechstunden, Prompt-Bibliotheken und regelmäßigem Feedback kostet im ersten Jahr typischerweise 8 bis 15 Prozent des Lizenz- und Integrations-Budgets. Wer hier spart, sieht nach 9 Monaten Nutzungsquoten unter 30 Prozent — bei gleichbleibender Rechnung.

Daten-Bereinigung. Retrieval-Augmented-Generation lebt von der Qualität der Wissensbasis. In den meisten Mittelstands-Projekten fließen 30 bis 50 Prozent des Implementierungs-Budgets in das Aufräumen, Konsolidieren und mit Metadaten-Versehen der Datenquellen — veraltete Versionen, Duplikate, inkonsistente Begriffe, fehlende Berechtigungs-Strukturen. Diese Arbeit ist unsichtbar, wirkt aber direkt auf die Antwort-Qualität.

Sicherheits-Audit und Compliance. Ab 2026 sind drei Prüfungen für mittelständische Unternehmen kaum noch wegdiskutierbar: EU-AI-Act-Klassifizierung pro System, DSGVO-Folgenabschätzung nach Artikel 35, und ein technischer Sicherheits-Audit der KI-Schnittstellen — insbesondere bei Integrationen mit ERP, CRM und Personal-Systemen. Je nach Tiefe kosten diese Prüfungen 8.000 bis 30.000 Euro pro Use-Case und müssen jährlich aktualisiert werden. Mehr dazu im Beitrag zu KI und DSGVO.

Fördermittel 2026 — was wirklich verfügbar ist

Die deutsche und europäische Förderlandschaft kennt für KI-Projekte mehrere passende Programme. Für mittelständische Unternehmen sind drei besonders relevant:

Programm	Träger	Förderquote	Maximal-Förderung	Geeignet für
Digital Jetzt	BMWK	bis 50 %	50.000 € (bis 250 MA)	Hard-/Software-Investitionen, Mitarbeiterqualifizierung
go-digital	BMWK	50 %	16.500 €	Beratungs-Tagessätze, Pilot-Konzepte
INVEST KI (Bundesländer)	div. Landesbanken	20–40 %	regional unterschiedlich	Anwendungsprojekte mit Hochschul-Partner
Horizon Europe / Digital Europe	EU-Kommission	bis 70 %	projektabhängig	Konsortien mit Forschungs-Anteil
EIC Accelerator	EU / EIC	bis 70 % + Eigenkapital	bis 2,5 M€ Zuschuss	skalierbare Produkt-Innovation

Wichtigste Regel: Förderanträge müssen vor dem offiziellen Projektbeginn gestellt werden. Wer bereits einen Vertrag mit einem Vendor unterzeichnet hat, ist in der Regel nicht mehr förderfähig. Digital Jetzt und go-digital sind für die meisten mittelständischen Erstprojekte die schnellsten und niedrigschwelligsten Pfade. EU-Programme lohnen sich primär bei Konsortien mit Forschungs- oder Skalierungs-Komponente.

Wie Reepa für Kunden Kosten modelliert

In unseren KI-Beratungs-Mandaten setzen wir auf ein einheitliches Vorgehen, das wir Cost-Modeling-Workshop nennen. Innerhalb von etwa drei Werktagen liefern wir eine belastbare Vollkosten- und ROI-Rechnung für bis zu drei Use-Cases. Der Ablauf:

• Use-Case-ScopingZwei-stündiges Gespräch mit Fachbereich und IT, in dem wir Mengen-Gerüst, Zielgruppe, Datenquellen und Erfolgskriterien festhalten. Ergebnis: ein Steckbrief pro Use-Case mit klaren Annahmen.
• Vollkosten-ModellWir füllen alle sechs Kostenarten — Lizenzen, API, Infrastruktur, Integration, Schulung, Wartung — auf Basis aktueller Vendor-Konditionen und Erfahrungswerten aus vergleichbaren Mandaten. Bandbreite Best-Case und Worst-Case wird transparent ausgewiesen.
• Nutzen-ModellWir übersetzen Zeitersparnis, Fehlerreduktion und Umsatz-Hebel in Euro, mit konservativen und optimistischen Annahmen — und legen die Quellen offen. Keine Marketing-Zahlen.
• Förder-CheckWir prüfen Digital-Jetzt-, go-digital- und Landesförderungs-Eignung und liefern eine Förderquoten-Schätzung pro Use-Case.
• Entscheidungs-VorlageErgebnis ist eine zweiseitige Entscheidungs-Vorlage für die Geschäftsführung — Vollkosten, Nutzen, ROI Jahr 1 und Jahr 2, Risiken, Empfehlung. Inklusive Diskussions-Punkte für Aufsichtsrat oder Beirat.

Diese Vorgehensweise vermeidet zwei häufige Probleme: einerseits den Vendor-Pitch ohne neutrale Plausibilisierung, andererseits monatelange interne Diskussionen ohne Datenbasis. Für Unternehmen, die im Anschluss umsetzen wollen, lässt sich der Workshop direkt in eine 90-Tage-Roadmap überführen — siehe dazu KI-Roadmap 90 Tage.

Häufige Fragen