KI im Mittelstand — Wo fängt man an? Ein Praxisleitfaden ohne Buzzword-Bingo

Die häufigste Frage: „KI klingt interessant, aber wo fangen wir an?"

Ich spreche regelmäßig mit Geschäftsführern und IT-Leitern mittelständischer Unternehmen. Die Frage ist fast immer dieselbe: „Alle reden von KI. Wir wollen nicht den Anschluss verlieren. Aber wo fangen wir an?"

Die ehrliche Antwort: Nicht dort, wo die meisten glauben.

Wo Sie NICHT anfangen sollten

Bevor wir über den richtigen Einstieg sprechen, räumen wir mit drei verbreiteten Irrtümern auf:

Irrtum 1: „Wir brauchen ein eigenes KI-Modell"

Nein. Sie brauchen kein eigenes Large Language Model. Das ist wie einen eigenen Satellit zu bauen, weil Sie GPS nutzen wollen. Nutzen Sie bestehende KI-APIs und -Tools.

Irrtum 2: „Wir brauchen zuerst eine KI-Strategie auf 50 Seiten"

Eine Strategie ist wichtig — aber nicht als erster Schritt. Starten Sie mit einem konkreten Use Case, sammeln Sie Erfahrung, und DANN definieren Sie eine Strategie auf Basis echter Erkenntnisse.

Irrtum 3: „KI ist nur was für Großkonzerne mit Data-Science-Teams"

Falsch. Die leistungsfähigsten KI-Tools sind heute als SaaS oder Open Source verfügbar. Ein Unternehmen mit 20 Mitarbeitern kann dieselben KI-Fähigkeiten nutzen wie ein DAX-Konzern — zu einem Bruchteil der Kosten.

Der richtige Einstieg: 3 Kriterien für den ersten Use Case

Suchen Sie einen Prozess, der diese 3 Kriterien erfüllt:

1. Wiederkehrend und manuell

Der Prozess wird regelmäßig ausgeführt (täglich oder wöchentlich) und erfordert heute manuelle Arbeit. Je häufiger und zeitaufwändiger, desto höher der ROI.

2. Regelbasiert, aber aufwändig

Der Prozess folgt grundsätzlich Regeln oder Mustern, ist aber zu komplex oder voluminös für einfache If-Then-Automatisierung. Genau hier glänzt KI.

3. Fehlertoleranz vorhanden

Ein Mensch prüft das Ergebnis vor der finalen Aktion. „Human in the Loop" — die KI arbeitet vor, der Mensch entscheidet.

5 Quick Wins, die in unter 2 Wochen umsetzbar sind

Quick Win 1: E-Mail-Klassifizierung und -Weiterleitung

**Problem:** Eingehende E-Mails (Anfragen, Beschwerden, Bestellungen) werden manuell gelesen, kategorisiert und weitergeleitet.

**Lösung:** KI liest die E-Mail, klassifiziert sie (Anfrage, Beschwerde, Bestellung, Spam) und leitet sie automatisch an die richtige Abteilung weiter. Zusätzlich wird eine Zusammenfassung erstellt.

**Tools:** n8n + OpenAI API (oder lokales LLM)

**Zeitaufwand:** 2-3 Tage Setup

**ROI:** 5-10 Stunden/Monat bei 50+ E-Mails/Tag

Quick Win 2: Dokumenten-Erkennung und automatische Ablage

**Problem:** Rechnungen, Lieferscheine und Verträge kommen als PDF per E-Mail. Jemand liest sie, benennt sie um und legt sie im richtigen Ordner ab.

**Lösung:** Paperless-ngx mit KI-Erweiterung: OCR erkennt den Text, KI klassifiziert das Dokument (Rechnung, Vertrag, Lieferschein), extrahiert Metadaten (Datum, Betrag, Lieferant) und legt es automatisch ab.

**Tools:** Paperless-ngx (Open Source, Self-Hosted) + KI-Plugin

**Zeitaufwand:** 1-2 Tage Setup

**ROI:** 3-5 Stunden/Monat, plus: nie wieder falsch abgelegte Dokumente

Quick Win 3: Meeting-Zusammenfassungen per KI

**Problem:** Nach jedem Meeting schreibt jemand (oder niemand) ein Protokoll. Oft unvollständig, manchmal gar nicht.

**Lösung:** Meeting aufnehmen (mit Einverständnis!), KI transkribiert und erstellt automatisch: Zusammenfassung, Entscheidungen, Action Items mit Verantwortlichen und Deadlines.

**Tools:** Whisper (lokal) oder Otter.ai + Zusammenfassung via LLM

**Zeitaufwand:** 1 Tag Setup

**ROI:** 2-4 Stunden/Woche bei 3-5 Meetings/Woche

Quick Win 4: Automatische Angebotserstellung

**Problem:** Angebote werden manuell erstellt — jedes Mal dieselben Textbausteine angepasst, Preise nachgeschlagen, Formatierung korrigiert.

**Lösung:** KI erstellt einen Angebotsentwurf basierend auf Kundenanfrage + Produktkatalog + Vorlagen. Der Vertrieb prüft, passt an und sendet.

**Tools:** Custom Script (Python/n8n) + LLM-API + Word/PDF-Template

**Zeitaufwand:** 3-5 Tage Setup

**ROI:** 30-60 Minuten pro Angebot gespart

Quick Win 5: FAQ-Bot für den Kundenservice

**Problem:** Kundenservice beantwortet dieselben 20 Fragen immer wieder. Per E-Mail, Telefon, Chat.

**Lösung:** KI-gestützter FAQ-Bot auf der Website oder intern. Basiert auf Ihren echten FAQ-Daten, Produktdokumentation und Wissensdatenbank. Eskaliert automatisch an einen Menschen, wenn die Antwort unsicher ist.

**Tools:** Open-Source-Chatbot + eigene Wissensdatenbank

**Zeitaufwand:** 3-5 Tage Setup

**ROI:** 5-15 Stunden/Monat im Kundenservice

Kosten: Was kostet KI-Einführung wirklich?

**Gesamt für den Einstieg:** 2.000-5.000 EUR einmalig + unter 100 EUR/Monat laufend.

Zum Vergleich: Eine Vollzeitkraft, die die gleichen manuellen Aufgaben erledigt, kostet 3.000-4.000 EUR/Monat.

Self-Hosted vs. Cloud: Datensouveränität beachten

Für mittelständische Unternehmen mit sensiblen Daten (Kundendaten, Finanzdaten, Personalakten) ist Datensouveränität ein wichtiges Thema.

Cloud-KI (OpenAI, Google, etc.):

• Schnell einsatzbereit
• Keine eigene Infrastruktur nötig
• Daten verlassen Ihr Unternehmen (prüfen Sie die DSGVO-Konformität!)

Self-Hosted-KI (lokale LLMs, eigener Server):

• Daten bleiben bei Ihnen
• Volle Kontrolle über Modelle und Verarbeitung
• Etwas höherer Initialaufwand
• Empfohlen für sensible Daten

**Meine Empfehlung:** Starten Sie mit Cloud-KI für unkritische Daten (FAQ, allgemeine Textgenerierung). Für sensible Prozesse: Self-Hosted-Lösung auf eigenem Server.

Der Fahrplan: Von Quick Win zur KI-Strategie

Nächste Schritte

Sie möchten herausfinden, welche Prozesse in Ihrem Unternehmen das größte KI-Potenzial haben? In einem kostenlosen 30-Minuten-Erstgespräch identifizieren wir gemeinsam die Top-3-Kandidaten.

**Kein Verkaufsgespräch.** Nur eine ehrliche Einschätzung, ob und wo KI für Sie Sinn macht.