Warum 77% der KI-Projekte im Mittelstand scheitern

91% der Mittelständler sagen, KI sei wichtig. 94% haben noch kein einziges KI-Projekt umgesetzt. Die 6%, die es versucht haben? 77% sind gescheitert.

Diese Zahlen stammen aus aktuellen Studien des Mittelstand-Digital Zentrums, der IHK und der Bitkom. Und sie erzählen eine Geschichte, die ich aus erster Hand kenne.

Ich habe bei Instacart gesehen, wie KI richtig eingesetzt wird: klein starten, schnell lernen, dann skalieren. Bei DHL, Delivery Hero und New Relic habe ich erlebt, wie Unternehmen mit riesigen Datenmengen und enormen Budgets KI-Projekte aufgesetzt haben. Manche erfolgreich, viele nicht. Im Mittelstand sehe ich jetzt das Gegenteil: großes Projekt, langer Zeitraum, kein messbares Ergebnis.

Die gute Nachricht: Das Scheitern hat Muster. Und wenn man die Muster kennt, kann man sie vermeiden.

Fünf Gründe, warum KI-Projekte im Mittelstand scheitern

Ich habe in den letzten zwei Jahren mit dutzenden Mittelständlern über ihre KI-Vorhaben gesprochen. Ob Produktionsbetrieb in der Eifel, Dienstleister im Rheinland oder Handwerksfirma im Kreis Euskirchen. Die Probleme wiederholen sich.

1. Schlechte Datenqualität

"Garbage in, garbage out" ist kein Spruch aus einem Lehrbuch. Das ist Alltag.

Ein KI-Modell ist nur so gut wie die Daten, auf denen es basiert. Und die Realität in vielen Mittelstandsunternehmen sieht so aus: Kundendaten in drei verschiedenen Excel-Tabellen, Produktionsdaten in einem System von 2014, Auftragshistorie halb digital, halb in Leitz-Ordnern.

Wer mit diesen Daten ein KI-Projekt startet, bekommt Ergebnisse, die bestenfalls nutzlos sind. Im schlimmsten Fall sehen die Ergebnisse plausibel aus, sind aber falsch. Und dann treffen Sie Entscheidungen auf Basis fehlerhafter Vorhersagen. Das ist gefährlicher als gar keine KI.

Bei Instacart hatten wir ein Team, das sich nur um Datenqualität gekümmert hat. Nicht um Modelle, nicht um Algorithmen. Nur um saubere, konsistente, aktuelle Daten. Denn ohne diese Basis bringt das beste Modell nichts.

Im Mittelstand gibt es dieses Team nicht. Und das ist okay. Aber dann muss man eben mit den Daten starten, die man hat, und vorher ehrlich bewerten, ob sie ausreichen.

2. Kein konkretes Problem, das gelöst werden soll

"Wir brauchen KI." Diesen Satz höre ich ständig. Wenn ich dann frage: "Wofür genau?", wird es still.

Die meisten gescheiterten KI-Projekte beginnen mit der Technologie statt mit dem Problem. Jemand war auf einer Messe, hat einen Vortrag über ChatGPT gehört, und jetzt soll das Unternehmen "was mit KI machen". Das ist, als würde man einen Hammer kaufen und dann ein Haus suchen, in das man Nägel schlagen kann.

Der richtige Ansatz ist umgekehrt: Sie haben ein konkretes Problem. Sie verlieren Kunden, weil Angebote zu langsam raus gehen. Ihre Mitarbeiter verbringen 10 Stunden pro Woche mit Dateneingabe. Die Qualitätskontrolle übersieht systematisch denselben Fehlertyp. Und dann prüfen Sie, ob KI dieses Problem lösen kann.

3. Zu großer Scope von Anfang an

"Wir machen eine komplette KI-Transformation." Dieser Satz ist der Anfang vom Ende.

Unternehmen, die mit einem Riesenprojekt starten, scheitern fast immer. Warum? Weil ein Gesamtprojekt zu komplex, zu teuer und zu langwierig ist. Nach sechs Monaten hat man viel Geld ausgegeben, aber nichts, das jemand im Alltag nutzen kann. Die Motivation sinkt, das Budget wird hinterfragt, und irgendwann stirbt das Projekt leise in einem Teams-Channel, den niemand mehr öffnet.

Bei New Relic habe ich erlebt, wie selbst ein milliardenschweres Tech-Unternehmen KI schrittweise eingeführt hat. Nicht als "Transformation", sondern als eine Serie kleiner Experimente. Jedes Experiment hatte einen klaren Zeitrahmen und ein messbares Ziel. Wenn es funktioniert hat: skalieren. Wenn nicht: stoppen und aus den Fehlern lernen.

Diese Disziplin fehlt im Mittelstand fast immer.

4. Kein interner Champion

KI-Projekte brauchen jemanden im Unternehmen, der dranbleibt. Nicht den Geschäftsführer, der das Projekt auf der Strategiekonferenz angekündigt hat. Jemanden, der den Alltag kennt, der mit den Mitarbeitern spricht, der Widerstände erkennt und abbaut.

Ohne diesen internen Champion passiert Folgendes: Der externe Dienstleister liefert eine Lösung ab. Die Mitarbeiter verstehen nicht, warum sie ihr Verhalten ändern sollen. Das Tool wird zwei Wochen genutzt und dann ignoriert. Das Projekt gilt als "umgesetzt", bringt aber keinen Mehrwert.

Change Management klingt nach Konzern-Jargon. Ist es auch. Aber das Problem dahinter ist real, auch in einem 15-Personen-Betrieb. Leute ändern ihr Verhalten nicht, nur weil jemand ein neues Tool installiert hat. Sie ändern ihr Verhalten, wenn sie den Nutzen selbst erleben.

5. Falscher Dienstleister

Der letzte Punkt ist heikel, weil ich selbst Dienstleister bin. Aber er muss gesagt werden.

Viele KI-Projekte scheitern, weil der Dienstleister die falsche Lösung verkauft hat. Ein Beratungshaus, das ein monatelanges Assessment macht, bevor überhaupt etwas passiert. Ein Startup, das eine Plattform verkauft, die für den Mittelstand viel zu komplex ist. Eine Agentur, die "KI" auf die Website schreibt, aber eigentlich nur ein paar API-Aufrufe zusammenklebt.

Worauf Sie achten sollten: Hat der Dienstleister Erfahrung mit Unternehmen Ihrer Größe? Kann er Referenzen zeigen, bei denen ein messbarer ROI entstanden ist? Spricht er von Monaten oder von Wochen? Will er erst Ihr gesamtes Unternehmen analysieren oder fängt er mit einem konkreten Prozess an?

Das Muster, das funktioniert: Klein, schnell, messbar

Jetzt zur guten Nachricht. Die KI-Projekte, die funktionieren, folgen einem klaren Muster. Ich habe das bei Instacart gesehen, bei Delivery Hero, und auch bei den Mittelständlern, die es richtig gemacht haben.

Das Muster in drei Schritten:

Schritt 1: Einen einzigen Prozess auswählen. Nicht zwei, nicht drei. Einen. Den Prozess, der am meisten nervt, der am meisten Zeit frisst, oder der am meisten Fehler verursacht. Das ist Ihr Pilotprojekt.

Schritt 2: In 30 Tagen ein messbares Ergebnis liefern. Nicht in sechs Monaten. In 30 Tagen. Das zwingt Sie dazu, den Scope klein zu halten. "Können wir in 30 Tagen zeigen, dass dieser Prozess schneller, besser oder günstiger läuft?" Wenn die Antwort nein ist, ist der Scope zu groß.

Schritt 3: Messen, lernen, dann erst skalieren. Hat der Pilot funktioniert? Was genau hat er gebracht? Wie viele Stunden gespart, wie viele Fehler reduziert, wie viel Umsatz zusätzlich? Erst wenn Sie diese Zahlen haben, entscheiden Sie über den nächsten Schritt.

Warum funktioniert das? Weil kleine Projekte schnelles Feedback liefern. Sie sehen innerhalb von Wochen, ob etwas klappt. Sie können den Kurs korrigieren, bevor es teuer wird. Und Sie bauen intern Vertrauen auf, das ist vielleicht der wichtigste Punkt. Wenn Ihr Team sieht, dass ein kleines KI-Projekt tatsächlich Stunden spart, dann ist die Bereitschaft für den nächsten Schritt da.

KI-Readiness: 5 Fragen an Ihr Unternehmen

Bevor Sie ein KI-Projekt starten, sollten Sie sich fünf Fragen ehrlich beantworten. Keine davon erfordert technisches Wissen. Alle erfordern Ehrlichkeit.

1. Haben Sie ein konkretes, messbares Problem? Nicht "wir wollen effizienter werden", sondern "Prozess X dauert 8 Stunden pro Woche und sollte 2 dauern." Wenn Sie das Problem nicht in einem Satz beschreiben können, ist es noch nicht reif für KI.

2. Haben Sie Daten zu diesem Problem? KI braucht Daten zum Lernen. Wenn Ihre Aufträge in drei Excel-Tabellen, zwei E-Mail-Postfächern und einem Notizbuch liegen, müssen Sie zuerst die Daten konsolidieren. Das klingt langweilig. Ist es auch. Aber ohne diesen Schritt bringt KI nichts.

3. Ist der Prozess wiederholbar? KI ist besonders gut bei Aufgaben, die sich wiederholen. Angebote schreiben, Rechnungen prüfen, Kundendaten erfassen, Qualitätskontrolle durchführen. Einmalige Aufgaben oder solche, die jedes Mal komplett anders ablaufen, sind für KI schwieriger.

4. Können Sie den Erfolg in 30 Tagen messen? Wenn Ihr Pilotprojekt 6 Monate braucht, bevor Sie wissen, ob es funktioniert, ist der Scope zu groß. Verkleinern Sie, bis die Antwort ja ist.

5. Gibt es jemanden im Team, der das Projekt vorantreibt? Nicht den Geschäftsführer (der hat anderes zu tun), sondern jemanden, der den Prozess kennt und motiviert ist. Das kann die Teamleiterin sein, der Werkstattmeister, die Büroleiterin. Jemand, der nah am Problem ist.

Wenn Sie drei oder mehr Fragen mit Ja beantworten können, sind Sie bereit für einen Piloten. Wenn nicht, arbeiten Sie zuerst an den Lücken. Das ist ja kein Versagen, das ist Vorbereitung.

Erfolg vs. Scheitern: Was den Unterschied macht

Ich will Ihnen zwei Geschichten erzählen. Beide aus der Region, anonymisiert.

Unternehmen A: 80.000 EUR verbrannt

Ein Maschinenbauunternehmen mit 45 Mitarbeitern. Die Geschäftsführung entscheidet: "Wir machen KI." Ein Beratungshaus wird beauftragt. Drei Monate Assessment, Interviews, Workshops. Ergebnis: eine 120-seitige Roadmap. Kosten bis hierhin: 35.000 EUR.

Dann wird ein Softwareunternehmen beauftragt, eine "KI-basierte Produktionsoptimierung" zu bauen. Nach vier weiteren Monaten gibt es einen Prototyp. Der funktioniert im Labor, aber nicht mit den realen Maschinendaten, weil die in einem Format vorliegen, das niemand vorher geprüft hat. Noch mal 45.000 EUR.

Gesamtkosten: 80.000 EUR. Ergebnis: ein Prototyp, den niemand nutzt. Die Mitarbeiter in der Produktion haben das Projekt nie verstanden und nie akzeptiert. Heute steht das Thema KI bei dem Unternehmen auf der internen Blacklist.

Unternehmen B: 3.800 EUR, ROI in drei Wochen

Ein Handwerksbetrieb mit 12 Mitarbeitern. Das Problem: Die Büroleiterin verbringt jeden Freitag 4 Stunden damit, Angebote aus Notizen, Fotos und Sprachnachrichten zusammenzuschreiben.

Die Lösung: Ein einfacher Workflow mit einem Spracherkennungstool und einer Vorlage. Der Monteur spricht seine Notizen ins Handy, das Tool transkribiert sie, und die Büroleiterin bekommt einen vorausgefüllten Angebotsentwurf. Sie muss nur noch prüfen und absenden.

Kosten: 3.800 EUR für die Einrichtung, 60 EUR monatlich für die Lizenzen. Zeitersparnis: 3,5 Stunden pro Woche. ROI: nach drei Wochen. Und das Beste: Die Büroleiterin hat das Projekt selbst vorangetrieben, weil sie den Freitagsfrust satt hatte.

Der Unterschied zwischen diesen zwei Fällen? Es ist nicht die Technologie. Es ist der Ansatz. Unternehmen A hat mit der Lösung angefangen. Unternehmen B hat mit dem Problem angefangen.

Welche Prozesse sich für den Einstieg eignen

Nicht jeder Prozess eignet sich gleich gut als KI-Pilotprojekt. Hier sind Kategorien, die ich im Mittelstand immer wieder als gute Startpunkte sehe.

Dokumente erstellen: Angebote, Berichte, Protokolle, Zusammenfassungen. Überall dort, wo jemand aus Rohdaten ein Dokument baut. Das ist einer der häufigsten Einstiegspunkte, weil der Aufwand vorher klar messbar ist.

Kundenkommunikation verbessern: E-Mail-Antworten vorformulieren, FAQ-Anfragen automatisch beantworten, Rückruftermine vorschlagen. Hier spart KI nicht nur Zeit, sondern verbessert auch die Reaktionsgeschwindigkeit, und das merken die Kunden.

Dann gibt es die klassische Datenerfassung. Rechnungen scannen und einlesen, Lieferscheine digitalisieren, Visitenkarten ins CRM übertragen. Alles repetitiv, alles gut automatisierbar.

Qualitätskontrolle ist ein weiterer starker Kandidat. Fotos von Produkten automatisch prüfen, Abweichungen in Messdaten erkennen. Gerade in der Produktion gibt es hier enormes Potenzial.

Und schließlich: Wissensmanagement. Interne Wissensdatenbanken durchsuchbar machen, Handbücher zusammenfassen, Einarbeitungsmaterial aufbereiten.

Was sich nicht eignet: Prozesse, bei denen die Entscheidung komplex, selten und hochindividuell ist. Personalauswahl, strategische Partnerwahl, Krisenmanagement. Da ist KI ein Werkzeug, aber kein Autopilot.

Mein persönlicher Blick auf KI im Mittelstand

Ich bin kein KI-Evangelist. Ich verkaufe keine KI-Plattformen. Ich bin Softwareentwickler und Gründer, und ich sehe jeden Tag, was bei meinen Kunden funktioniert und was nicht.

Meine ehrliche Einschätzung: Die meisten Mittelständler brauchen keine KI. Sie brauchen erst mal saubere Daten, klare Prozesse und Software, die miteinander spricht. Wer das hat, für den wird KI zum Hebel. Wer das nicht hat, für den wird KI zur nächsten teuren Enttäuschung.

Das klingt jetzt vielleicht kontraintuitiv für jemanden, der Software für den Mittelstand baut. Aber genau deshalb sage ich es: Ich will, dass meine Kunden mit KI Erfolg haben. Und der Weg dahin führt über Grundlagenarbeit, nicht über Hype.

Bei Instacart hat die erste KI-Anwendung, die wirklich Geld verdient hat, ein winziges Problem gelöst. Es ging darum, die optimale Reihenfolge von Artikeln auf der Einkaufsliste vorherzusagen, damit der Shopper im Supermarkt weniger Meter läuft. Kein glamouröses Projekt. Keine Schlagzeile. Aber Millionen an eingesparter Arbeitszeit pro Jahr. Klein starten, messen, skalieren.

Das funktioniert auch für einen 15-Personen-Betrieb in der Eifel.

Ihr erster KI-Schritt

Wenn Sie bis hierhin gelesen haben, dann weil Sie das Thema ernst nehmen. Gut. Hier ist, was Sie diese Woche tun können:

1. Identifizieren Sie Ihren nervigsten Prozess. Fragen Sie Ihr Team: "Welche Aufgabe nervt euch am meisten?" Nicht die strategisch wichtigste. Die nervigste. Denn Motivation ist der halbe Erfolg.

2. Messen Sie den Aufwand. Wie viele Stunden pro Woche? Wie viele Fehler pro Monat? Was kostet das in Euro? Wenn Sie das nicht beantworten können, ist das Ihr erster Schritt: eine Woche lang messen.

3. Prüfen Sie die Datenlage. Haben Sie die Daten, die ein KI-System brauchen würde? Sind sie digital? Sind sie konsistent? Wenn ja, haben Sie einen Kandidaten für einen Piloten. Wenn nein, wissen Sie, woran Sie zuerst arbeiten müssen.

4. Starten Sie klein. Budget unter 5.000 EUR. Zeitrahmen 30 Tage. Ein Prozess, ein Team. Wenn nach 30 Tagen kein messbares Ergebnis da ist, stoppen Sie und analysieren warum.

5. Holen Sie sich Hilfe, wenn nötig. Aber die richtige Art von Hilfe. Keinen Berater, der monatelange Assessments verkauft. Jemanden, der in der ersten Woche schon mit Ihnen am Prozess arbeitet.

Wenn Sie Fragen haben oder einschätzen wollen, ob KI für einen bestimmten Prozess in Ihrem Unternehmen Sinn macht: Sprechen Sie uns an. Wir machen das jeden Tag, für Unternehmen in der Eifel und im Rheinland.

Und wenn Sie sich fragen, ob Ihre Mitarbeiter für den Umgang mit KI geschult werden müssen: Ja, müssen sie. Seit Februar 2025. Mehr dazu in unserem Artikel zum EU AI Act und der Schulungspflicht.