13 min Lesezeit

    KI im Mittelstand: 5 Projekte für den Einstieg

    Zwischen 20 und 57 Prozent der Unternehmen nutzen KI, die meisten aber nur oberflächlich. Fünf Projekte für den Einstieg, mit aktuellen Zahlen von KfW, Bitkom, ifo und Statistischem Bundesamt.

    Thomas KnorrGeschäftsführer, datadice GmbHAktualisiert am 17. Oktober 2026

    Das Wichtigste in Kürze

    • KI ist im Mittelstand angekommen. Je nach Studie nutzen zwischen 20 und 57 Prozent der Unternehmen KI.
    • Nutzung ist noch kein Nutzen. 59 Prozent der Unternehmen mit KI schöpfen ihre Möglichkeiten nach eigener Einschätzung gar nicht aus.
    • Die Größe entscheidet wenig. Wichtiger sind laut KfW der Digitalisierungsgrad und digitales Wissen im Haus.
    • Die größte Hürde ist der erste Fall. Viele Unternehmen finden keinen Anwendungsfall, der zu ihren Daten und Abläufen passt.
    • Fünf Projekte eignen sich für den Einstieg: Rechnungen prüfen, Firmenwissen durchsuchen, Anfragen vorsortieren, Angebote vorbereiten und Zahlen zusammenführen.

    Diesen Artikel hat Thomas Knorr geschrieben, Geschäftsführer der datadice GmbH in Coburg. datadice entwickelt und betreibt Daten- und KI-Lösungen für den Mittelstand.

    Stand: 17. Oktober 2026. Alle Zahlen stammen aus den Originalstudien. Die Quellen stehen am Ende des Artikels.

    KI im Mittelstand 2026 in Zahlen

    Wie viele Unternehmen KI nutzen, hängt davon ab, wen Sie fragen. Vier aktuelle Erhebungen kommen zu sehr unterschiedlichen Werten:

    • Statistisches Bundesamt: 26 Prozent der Unternehmen in Deutschland nutzten 2025 KI. Bei Unternehmen mit 10 bis 49 Beschäftigten waren es 23 Prozent, bei 50 bis 249 Beschäftigten 36 Prozent.
    • KfW Research: 20 Prozent der mittelständischen Unternehmen nutzten in den Jahren 2022 bis 2024 mindestens eine KI-Technologie. Im Zeitraum 2016 bis 2018 waren es 4 Prozent. Die KfW zählt auch Kleinstbetriebe mit.
    • ifo Institut: 54,5 Prozent der Unternehmen nutzten im Frühjahr 2026 KI, ein Jahr zuvor 40,9 Prozent. Kleine Unternehmen lagen bei 51,2 Prozent, mittlere bei 47,2 Prozent.
    • Bitkom: 57 Prozent der Unternehmen ab 20 Beschäftigten setzen KI ein. 2024 waren es 20 Prozent.

    Die Werte unterscheiden sich, weil die Studien verschiedene Unternehmensgrößen, Zeiträume und Fragen nutzen. Die Richtung ist überall gleich: KI verbreitet sich schnell.

    „Künstliche Intelligenz ist in der deutschen Wirtschaft endgültig in der Breite angekommen.“
    Klaus Wohlrabe, Leiter der ifo Umfragen, Juni 2026

    Nutzung ist noch kein Nutzen

    Die Bitkom-Studie zeigt die Kehrseite. Kein Unternehmen schöpft die Möglichkeiten von KI nach eigener Einschätzung voll aus. 59 Prozent der Unternehmen mit KI nutzen sie überhaupt nicht aus, weitere 28 Prozent nur wenig.

    „Wer nur eine Lizenz kauft, hat KI eingekauft, aber noch nichts verändert.“
    Dr. Ralf Wintergerst, Präsident des Bitkom, September 2026

    Die KfW-Zahlen erklären, woran das liegt. Im Mittelstand verbreitet sind vor allem einfache Werkzeuge. 14 Prozent erzeugen Texte mit KI, 10 Prozent nutzen Texterkennung. Datenanalyse mit KI setzen nur 3 Prozent ein. Anwendungen mit eigenen Daten und eigenen Abläufen sind also selten. Für mehr Wirkung empfiehlt die KfW den Aufbau einer „Datenkultur“: Unternehmen erfassen, verwalten, sichern und analysieren ihre Daten.

    Was über den Einstieg in KI entscheidet

    Viele Inhaber halten ihr Unternehmen für zu klein für KI. Die KfW kommt zu einem anderen Ergebnis.

    „Entscheidend für den KI-Einsatz ist weniger die Unternehmensgröße, sondern vor allem der Digitalisierungsgrad, vorhandenes digitales Knowhow und die generelle Innovativität.“
    KfW Research, Fokus Volkswirtschaft Nr. 554, Juli 2026

    Unternehmen ohne KI nennen in der Bitkom-Studie diese Hürden:

    • Fehlendes technisches Wissen: 85 Prozent
    • Rechtliche Unsicherheit: 66 Prozent
    • Schwer abschätzbare Kosten: 63 Prozent
    • Fehlendes Personal: 51 Prozent
    • Fehlende Daten: 40 Prozent
    • Keine klaren Anwendungsfälle: 30 Prozent

    Die KfW sieht eine zentrale Hürde darin, erste praxistaugliche Anwendungen zu finden. Das deckt sich mit unserer Erfahrung. Die Technik ist selten das Problem. Schwierig ist der erste Fall, der zu Ihren Daten und Abläufen passt. Deshalb stellen wir Ihnen fünf Projekte vor, die zu vielen Mittelständlern passen.

    Fünf KI-Projekte für den Einstieg

    Alle fünf Projekte arbeiten mit Daten, die Sie schon haben. Bei allen gibt Ihr Team das Ergebnis frei. Die KI bereitet vor, ein Mensch entscheidet.

    1. Eingangsrechnungen automatisch prüfen

    Ausgangslage: Ihr Team tippt Rechnungen ab. Danach gleicht es jede Rechnung mit Bestellung und Lieferschein ab.

    Lösung: Die KI liest die Rechnung. Sie gleicht Positionen und Beträge mit Bestellung und Lieferschein ab und bereitet die Buchung vor. Ihr Team prüft die Abweichungen und gibt frei.

    Darum eignet sich das Projekt: Die KfW nennt die automatisierte Rechnungsverarbeitung als typisches Einsatzgebiet der Texterkennung. Den Erfolg messen Sie in einer Kennzahl: der Durchlaufzeit je Rechnung.

    Mehr dazu: Prozessautomatisierung

    2. Firmenwissen durchsuchbar machen

    Ausgangslage: Wissen steckt in Mails, Ablagen und Köpfen. Neue Mitarbeitende fragen immer wieder dieselben Kollegen. Mit jedem Ruhestand geht Erfahrung verloren. Das Durchschnittsalter der Inhaber im Mittelstand liegt laut KfW bei über 54 Jahren.

    Lösung: Eine Firmen-KI beantwortet Fragen aus Mail, Ablage und ERP. Jede Antwort nennt ihre Quelle. Die KI zeigt nur Inhalte, die die fragende Person sehen darf.

    Darum eignet sich das Projekt: Laut Bitkom nutzen 22 Prozent der Unternehmen mit KI diese für das interne Wissensmanagement. 2025 waren es 11 Prozent.

    Mehr dazu: WissensAgent und KI-Wissensmanagement

    3. Anfragen im Postfach vorsortieren

    Ausgangslage: In Ihrem Sammelpostfach landen Anfragen, Bestellungen und Reklamationen. Eine Person sortiert sie von Hand und leitet sie weiter.

    Lösung: Die KI erkennt Anliegen und Dringlichkeit jeder Mail. Sie leitet die Mail an die zuständige Person weiter und legt einen Antwortentwurf an.

    Darum eignet sich das Projekt: Die KfW nennt die Vorsortierung eingehender E-Mails ausdrücklich als Einsatzgebiet. Laut Bitkom setzen 72 Prozent der Unternehmen mit KI diese im Kundenkontakt ein.

    Mehr dazu: Prozessautomatisierung

    4. Angebote vorbereiten

    Ausgangslage: Eine Anfrage kommt herein. Der Vertrieb sucht frühere Angebote, aktuelle Preise und passende Texte zusammen.

    Lösung: Die KI findet ähnliche Angebote und übernimmt Positionen aus Ihrem Katalog. Daraus erstellt sie einen Entwurf. Ihr Vertrieb prüft ihn und schickt ihn ab.

    Darum eignet sich das Projekt: Laut Bitkom stieg der KI-Einsatz im Vertrieb innerhalb eines Jahres von 5 auf 14 Prozent der Unternehmen mit KI.

    Mehr dazu: Anwendungsbeispiel Angebote und Aufträge

    5. Zahlen aus allen Systemen zusammenführen

    Ausgangslage: Vertrieb, Controlling und Einkauf arbeiten mit eigenen Zahlen. Jeder Monatsbericht beginnt mit der Frage, welche Zahl stimmt.

    Lösung: Wir führen die Daten aus ERP, CRM und Shop in einer gemeinsamen Datenbasis zusammen. Begriffe wie Umsatz oder Deckungsbeitrag bekommen eine feste Definition. Darauf bauen Berichte und später KI-Anwendungen auf.

    Darum eignet sich das Projekt: Genau diese Datenkultur fordert die KfW. Ohne nutzbare Daten bleibt KI bei Texten stehen. Laut Bitkom setzen bereits 25 Prozent der Unternehmen mit KI diese in Controlling und Rechnungswesen ein.

    Ein Beispiel: Für Thomann haben wir verstreute Datenquellen in einer zentralen Plattform zusammengeführt. Thomann arbeitet heute mit über 100 Dashboards, Prognosemodellen für den Einkauf und einem eigenen Datenteam.

    Mehr dazu: Intelligentes Datenmanagement

    Warum vorausschauende Wartung nicht auf der Liste steht

    Viele Ratgeber empfehlen vorausschauende Wartung als Einstieg. Wir sehen das anders. Laut KfW nutzen nur 3 Prozent der Mittelständler KI zur Datenanalyse. Als Grund nennt die KfW fehlende nutzbare Daten und fehlendes statistisches Wissen. Vorausschauende Wartung braucht beides. Sie ist ein guter zweiter oder dritter Schritt, wenn die Datenbasis steht.

    So finden Sie Ihr erstes KI-Projekt

    Ein gutes erstes Projekt besteht fünf Fragen:

    1. Kommt die Aufgabe jede Woche vor?
    2. Folgt sie festen Regeln?
    3. Liegen die nötigen Daten digital vor?
    4. Messen Sie den Erfolg in einer Kennzahl, zum Beispiel in Minuten je Vorgang?
    5. Prüft eine Person das Ergebnis in kurzer Zeit?

    Beantworten Sie mindestens vier Fragen mit Ja, haben Sie einen guten Kandidaten gefunden.

    Unser Grundsatz dabei: Wir beginnen mit den Daten und dem Wissen in Ihrem Haus, weil jede KI-Anwendung darauf aufbaut. Eine erste Selbsteinschätzung bietet unser KI-Readiness-Check.

    Häufige Einwände und ehrliche Antworten

    „Wir haben keine passenden Daten“

    40 Prozent der Unternehmen ohne KI nennen fehlende Daten als Hürde. In der Praxis liegen die Daten fast immer vor: in Mails, Belegen, Excel-Listen und der Historie Ihres ERP. Sie sind oft nur nicht verbunden. Genau dort setzt Projekt 5 an.

    „Der Datenschutz lässt das nicht zu“

    Selbst Unternehmen mit KI nennen Datenschutz als größte Hürde, 66 Prozent laut Bitkom. Datenschutzkonforme KI ist trotzdem möglich. Entscheidend sind ein Vertrag zur Auftragsverarbeitung, ein Anbieter mit Rechenzentren in der EU und klare Zugriffsrechte. Welche Daten in welche KI dürfen, legen Sie vor dem Start fest.

    „Was verlangt der AI Act von uns?“

    Seit dem 2. Februar 2025 verlangt Artikel 4 der KI-Verordnung, dass Unternehmen ihre Mitarbeitenden im Umgang mit KI befähigen. Seit dem 27. Juli 2026 gilt eine geänderte Fassung (Verordnung (EU) 2026/1744). Unternehmen ergreifen danach Maßnahmen zur KI-Kompetenz. Ein bestimmtes Kompetenzniveau jeder einzelnen Person müssen sie nicht garantieren. Dieser Artikel ersetzt keine Rechtsberatung.

    „Kompetenz entsteht mit dem KI-Einsatz, aber sie entsteht nicht von allein.“
    Dr. Ralf Wintergerst, Präsident des Bitkom, September 2026

    Laut Bitkom schulen 70 Prozent der Unternehmen ihre Mitarbeitenden bereits zu KI. Unsere Academy schult Teams an ihren eigenen Aufgaben.

    „Unser Team hat dafür keine Zeit“

    51 Prozent der Unternehmen ohne KI fehlt das Personal. Auch die KfW beschreibt, wie schwer es dem Mittelstand fällt, neben dem Tagesgeschäft Zeit für Neues freizumachen. Wir übernehmen deshalb die Umsetzung. Von Ihrer Seite brauchen wir eine verantwortliche Person, Zugang zu den Daten und einige Stunden pro Woche für Rückmeldungen.

    „Unsere Mitarbeitenden ziehen nicht mit“

    42 Prozent der Unternehmen mit KI erleben fehlende Akzeptanz. Wir binden die Menschen deshalb früh ein. Wir beginnen mit Aufgaben, die niemand gern macht. Die Freigabe bleibt immer beim Team.

    Was ein KI-Projekt kostet

    Die Lizenz ist selten der größte Posten. Unternehmen mit KI nennen laut Bitkom diese Kostentreiber:

    • Infrastruktur, Cloud und Rechenleistung: 51 Prozent
    • Aufbereitung der Daten: 50 Prozent
    • Anbindung an bestehende Systeme: 41 Prozent
    • Softwarelizenzen: 21 Prozent

    Daten und Anbindung entscheiden also über die Kosten. Deshalb klären wir beides vor dem Start.

    Wir rechnen jede Stufe zu einem eigenen Preis ab. Der Strategieworkshop kostet 3.900 Euro netto zum Festpreis. Die Kosten der Umsetzung nennen wir Ihnen nach dem Workshop für den abgegrenzten ersten Schritt. Den möglichen Nutzen schätzen Sie mit Ihren eigenen Zahlen im KI-ROI-Rechner.

    So arbeiten wir mit Ihnen

    1. Erstgespräch: Kostenlos. Wir klären Anlass, Ausgangslage und Ziel.
    2. Kurz-Playbook: Sie erhalten unsere Einschätzung, offene Fragen und den empfohlenen nächsten Schritt schriftlich.
    3. Strategieworkshop: An einem Tag bewerten wir mit Ihrem Team die passenden Anwendungsfälle. Sie erhalten eine Projektroadmap und einen 90-Tage-Plan.
    4. Umsetzung und Betrieb: Wir setzen den ersten Fall mit festen Abnahmekriterien um. Danach betreuen wir die Lösung im Alltag.

    Nach jeder Stufe entscheiden Sie, ob es weitergeht. Vereinbaren Sie ein Erstgespräch.

    Quellen

    Häufige Fragen

    Wie viele mittelständische Unternehmen nutzen KI?

    Je nach Studie zwischen 20 und 57 Prozent. Die KfW zählt für 2022 bis 2024 20 Prozent der mittelständischen Unternehmen. Das Statistische Bundesamt meldet für 2025 26 Prozent. Bitkom kommt 2026 bei Unternehmen ab 20 Beschäftigten auf 57 Prozent.

    Welches KI-Projekt eignet sich für den Einstieg?

    Ein guter Einstieg ist eine wöchentliche Aufgabe mit festen Regeln und digitalen Daten. Beispiele sind die Prüfung von Eingangsrechnungen, die Suche im Firmenwissen, die Vorsortierung von Anfragen, die Vorbereitung von Angeboten und eine gemeinsame Zahlenbasis.

    Was kostet ein KI-Projekt im Mittelstand?

    Die Kosten hängen vor allem von Datenaufbereitung und Anbindung an bestehende Systeme ab. Lizenzen sind selten der größte Posten. Der Strategieworkshop von datadice kostet 3.900 Euro netto zum Festpreis. Danach nennen wir die Kosten für den ersten Schritt.

    Müssen Unternehmen ihre Mitarbeitenden für KI schulen?

    Ja. Artikel 4 der KI-Verordnung verlangt seit Februar 2025 Maßnahmen zur KI-Kompetenz der Mitarbeitenden. Seit Juli 2026 gilt eine abgeschwächte Fassung: Unternehmen ergreifen Maßnahmen, müssen aber kein bestimmtes Kompetenzniveau garantieren.

    Das war hilfreich?

    Klären wir im Erstgespräch, wo KI in Ihrem Unternehmen konkret trägt.