KI im Unternehmen: Wo sie hilft, wo sie schadet und wie Sie anfangen

Ihr Kundenservice beantwortet jeden Tag dieselben Fragen: Wo ist meine Bestellung, wie funktioniert die Rücksendung, können Sie mir die Rechnung noch einmal schicken? Gleichzeitig sagt jemand in der Geschäftsleitung, man müsse „jetzt auch etwas mit KI machen“. Alle nicken. Niemand weiß so recht, wo man anfängt, was es kostet und wer haftet, wenn der Chatbot Unsinn erzählt.

Dieser Beitrag zeigt, wo KI im Unternehmen tatsächlich hilft, wo Sie sie besser heraushalten, wie Sie das Risiko erfundener Antworten messen und was DSGVO und europäische KI-Verordnung von Ihnen erwarten. Ziel ist keine beeindruckende Demo, sondern ein System, das Ihr Team in drei Monaten noch benutzt.

Was kann KI in Ihrem Unternehmen wirklich leisten?

Die meisten KI-Werkzeuge, die Unternehmen heute einsetzen, beruhen auf großen Sprachmodellen. Diese Modelle können sehr gut mit Sprache umgehen: lesen, zusammenfassen, einordnen, entwerfen, umformulieren. Sie sind weder Taschenrechner noch Datenbank noch Rechtsabteilung.

Wir vergleichen sie gern mit einer sehr schnellen Praktikantin, die nie müde wird und immer gleich überzeugt klingt, ob sie die Antwort kennt oder nicht. Geben Sie ihr ein gutes Dokument, bekommen Sie eine ausgezeichnete Zusammenfassung. Geben Sie ihr nichts, füllt sie die Lücke mit einer plausiblen Vermutung. Fast jede Entscheidung in diesem Beitrag folgt aus diesen zwei Sätzen.

Gute Einsatzfelder haben drei Dinge gemeinsam: Sie kontrollieren die Eingabe, ein Mensch kann das Ergebnis prüfen, und ein Fehler lässt sich günstig korrigieren. Bei schlechten Einsatzfeldern ist es umgekehrt: unklare Quellen, Ergebnisse, die direkt beim Kunden oder in einer Entscheidung landen, teure Fehler.

Ein Support-Assistent, der aus Ihren eigenen Unterlagen antwortet

Fragt ein Kunde ein allgemeines Sprachmodell, wie lange er etwas zurückschicken darf, bekommt er eine Antwort nach dem Durchschnitt des Internets. Ihre Rücksendebedingungen können ganz anders aussehen. Die Lösung: Das Modell wird an Ihre eigenen Unterlagen angebunden. Fachleute nennen das RAG (Retrieval-Augmented Generation, also durch Suche gestützte Textgenerierung). Der Name ist sperrig, die Idee einfach.

So funktioniert es, ganz ohne Fachjargon

1. Ihre Unterlagen (FAQ, Rücksendebedingungen, Bedienungsanleitungen, Lieferbedingungen) werden in kurze Abschnitte zerlegt und in einen durchsuchbaren Index gelegt.
2. Stellt ein Kunde eine Frage, sucht das System zuerst die wenigen Abschnitte, die am besten dazu passen.
3. Das Modell formuliert seine Antwort nur auf Grundlage dieser Abschnitte und zeigt im Idealfall an, aus welchem Dokument sie stammt.
4. Findet das System nichts Passendes oder ist das Thema heikel (Beschwerde, Zahlungsproblem, rechtliche Drohung), übernimmt ein Mensch.

Das Modell schreibt also eine Klausur mit offenem Buch statt aus dem Gedächtnis. Erfundene Antworten verschwinden dadurch nicht, werden aber deutlich seltener. Der größere Gewinn ist die Nachvollziehbarkeit: Ist eine Antwort falsch, sehen Sie, aus welchem Dokument sie kam, und können es korrigieren.

Die eigentliche Arbeit steckt in den Unterlagen

Die meisten Projekte scheitern nicht am Modell, sondern an den Inhalten. Stehen auf der Website, in den AGB und in einem alten PDF drei verschiedene Rückgabefristen, gibt der Assistent drei verschiedene Antworten. Führen Sie deshalb vorher alle Kundeninformationen in einer aktuellen Quelle zusammen, löschen Sie veraltete Fassungen und geben Sie jedem Dokument einen Verantwortlichen. Diese Aufräumarbeit lohnt sich auch dann, wenn der Assistent nie live geht.

Legen Sie außerdem früh die Grenzen fest. Soll der Assistent den Bestellstatus abfragen, bekommt er einen schmalen, rein lesenden Zugang zum Warenwirtschaftssystem. Erstattungen, Gutscheincodes und Adressänderungen bleiben beim Menschen. Projekte, die mit „der Bot soll alles können“ starten, werden meist nach der ersten seltsamen Antwort wieder abgeschaltet.

Interne Wissenssuche und Belegverarbeitung

Wissenssuche für Mitarbeitende

Dasselbe Prinzip funktioniert intern: Der Service sucht in Handbüchern, der Vertrieb in alten Angeboten. Die Frage „Welche Lieferbedingungen hatten wir mit diesem Kunden letztes Jahr vereinbart?“ ist in Sekunden beantwortet, statt in einem E-Mail-Verlauf zu verschwinden.

Am häufigsten vergessen werden die Berechtigungen. Wenn jemand ohne Zugriff auf den Personalordner den Assistenten fragt und die Gehaltsliste bekommt, haben Sie ein ernstes Problem. Eine interne Suche muss die bestehenden Zugriffsrechte jedes Dokuments übernehmen. Eine Lösung, die das nicht kann, geht nicht live.

Gibt es bei Ihnen einen Betriebsrat, holen Sie ihn früh ins Boot. Die Einführung technischer Einrichtungen, die geeignet sind, Verhalten oder Leistung von Beschäftigten zu überwachen, ist nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig, und viele KI-Werkzeuge protokollieren genau solche Daten.

Rechnungen, Formulare und Papierkram

Seit dem 1. Januar 2025 müssen Unternehmen im Inland E-Rechnungen empfangen können, die Pflicht zum Versand folgt in Stufen bis 2028. Strukturierte Formate wie XRechnung oder ZUGFeRD brauchen keine KI; Ihre Buchhaltungssoftware liest sie direkt. KI lohnt sich beim Rest: PDF-Rechnungen ausländischer Lieferanten, gescannte Lieferscheine, handschriftlich ausgefüllte Formulare, Vertragsanlagen.

Sinnvoll ist folgender Aufbau: Das Modell liest die Felder aus (Lieferant, Datum, Betrag, USt-IdNr., Positionen), markiert, wie sicher es sich bei jedem Feld ist, und legt jeden Beleg, bei dem es unsicher ist oder bei dem die Positionen nicht zur Summe passen, einem Menschen zur Freigabe vor. Erst danach entsteht die Buchung. Es geht nicht darum, Menschen aus dem Prozess zu nehmen, sondern darum, dass sie nur noch die zweifelhaften Belege anschauen.

Vertriebsmails, Inhalte, Produkttexte und Gesprächsnotizen

Texte erzeugen ist die bekannteste Anwendung von KI und die am häufigsten missbrauchte. Die Regel ist kurz: Das Modell entwirft, ein Mensch veröffentlicht.

Vertriebsmails und Textentwürfe

Ein Werkzeug, das aus CRM-Notizen einen persönlichen ersten Entwurf macht, spart dem Vertrieb viel Zeit. Auf „Senden“ drücken sollte trotzdem der Vertriebsmitarbeiter. Und bei Werbemails gilt weiter § 7 UWG: Ohne vorherige ausdrückliche Einwilligung ist E-Mail-Werbung grundsätzlich unzulässig, egal, wer oder was den Text geschrieben hat.

Bei Blogartikeln und Social-Media-Beiträgen ist es ähnlich. Texte, die ein Modell aus dem Nichts schreibt, klingen wie alle anderen und enthalten nichts von Ihrer Erfahrung. Besser: Zeichnen Sie ein halbstündiges Gespräch mit einer Fachkraft auf, lassen Sie das Modell daraus einen gegliederten Entwurf machen und geben Sie ihn derselben Fachkraft zur Korrektur. Das Wissen kommt von Ihnen, die Struktur vom Modell.

Produktbeschreibungen im Onlinehandel

Aus Datenblättern von Lieferanten lesbare Produkttexte für Tausende Artikel zu erstellen, kann KI wirklich gut. Die Gefahr: Das Modell ergänzt Eigenschaften, die nicht im Datenblatt stehen. Wer ein Produkt „wasserdicht“ nennt, obwohl das nirgends belegt ist, wirbt irreführend im Sinne von § 5 UWG, riskiert Abmahnungen und bekommt die Ware zurück.

Geben Sie dem Modell deshalb nur geprüfte Produktdaten, verbieten Sie ausdrücklich zusätzliche Eigenschaften und prüfen Sie die ersten hundert Texte von Hand. In Bereichen mit streng geregelten Aussagen, etwa Nahrungsergänzungsmittel, Kosmetik oder Medizinprodukte (Stichwort HWG), braucht jeder Text eine menschliche Freigabe. Für Amazon, Otto oder andere Marktplätze gelten zusätzlich deren Inhaltsrichtlinien.

Gesprächs- und Meetingnotizen

Telefonate, Vertriebstermine oder Support-Gespräche zusammenzufassen und die Aufgaben ins CRM zu übertragen, setzt sich in Teams am schnellsten durch. Zuerst muss die Aufzeichnung sauber geregelt sein. In Deutschland ist das heimliche Aufnehmen des nichtöffentlich gesprochenen Wortes nach § 201 StGB strafbar. Fragen Sie also vorher alle Beteiligten und legen Sie fest, wo Aufnahmen und Transkripte wie lange gespeichert werden.

Danach kommt die Freigabe. Ein Modell kann aus einer missverstandenen Zahl eine „Entscheidung“ machen. Verschicken Sie keine Zusammenfassung, bevor der Verantwortliche des Termins sie bestätigt hat.

Die folgende Tabelle stellt die Einsatzfelder nach Vorbereitung, Risiko und Messgröße gegenüber. Sie hilft bei der Auswahl eines Pilotprojekts.

Wo KI nichts zu suchen hat

Nur weil ein Werkzeug etwas kann, muss es das noch lange nicht tun. In diesen Bereichen lassen Sie KI entweder ganz weg oder nutzen sie nur als Hilfsmittel für eine menschliche Entscheidung, mit klaren Regeln:

• Endgültige Entscheidungen über Menschen: Bewerbervorauswahl, Leistungsbeurteilung, Kredit- oder Zahlungszielentscheidungen. Die KI-Verordnung stuft Systeme für Personalauswahl und Kreditwürdigkeitsprüfung als hochriskant ein, und Art. 22 DSGVO beschränkt ausschließlich automatisierte Entscheidungen mit erheblicher Wirkung.
• Medizinische, rechtliche oder finanzielle Beratung direkt an Kunden. Der Chatbot einer Zahnarztpraxis kann Öffnungszeiten nennen, aber keine Behandlung empfehlen.
• Zusagen zu Preisen, Lieferterminen oder Vertragsbedingungen. Den Rabatt, den Ihr Bot „gewährt“ hat, legt Ihnen der Kunde als Screenshot vor.
• Alles, was ohne menschliche Freigabe veröffentlicht wird: Social-Media-Beiträge, Pressemitteilungen, Antworten auf negative Bewertungen.
• Dokumente mit personenbezogenen Daten oder Geschäftsgeheimnissen, die Mitarbeitende in allgemeine Chat-Werkzeuge mit privatem Konto kopieren.

Der letzte Punkt ist der häufigste, und Verbote helfen selten: Die Werkzeuge werden weiter benutzt, nur erfahren Sie nichts mehr davon. Besser ist ein Unternehmenswerkzeug, dessen Vertrag Sie geprüft haben, plus eine einseitige Regel, welche Daten hinein dürfen.

Erfundene Antworten: messen und verringern

Fragt man ein Sprachmodell etwas, das es nicht weiß, sagt es selten „weiß ich nicht“. Es liefert eine plausibel klingende Antwort. Man nennt das Halluzination, und niemand kennt einen Weg, sie vollständig auszuschließen. Sie können das Risiko aber messen, auf einem vertretbaren Niveau halten und Kontrollpunkte einbauen, die Fehler abfangen, bevor Kunden sie sehen.

Bauen Sie einen Testkatalog

Die echten Fragen und richtigen Antworten Ihres Support-Teams sind dabei Ihr wertvollstes Material. Nehmen Sie bewusst unbequeme Fälle auf: Fragen, die Ihre Unterlagen nicht beantworten, Widersprüche zwischen zwei Dokumenten, provozierende oder themenfremde Anfragen. Nach jeder Änderung (neue Dokumente, neue Modellversion, neue Anweisungen) lassen Sie den Katalog erneut laufen und vergleichen mit dem letzten Durchgang.

Worauf Sie achten

• Ist die Antwort richtig und mit Ihren Unterlagen vereinbar?
• Steht in der angegebenen Quelle wirklich, was behauptet wird?
• Sagt der Assistent bei fehlender Information „dazu liegt mir nichts vor, ich verbinde Sie mit einem Kollegen“?
• Bleibt er standhaft, wenn man ihn aus seiner Rolle drängen will, etwa zu Konkurrenzempfehlungen, Rabattversprechen oder unhöflichem Ton?

Ein Teil der Bewertung lässt sich automatisieren. In den ersten Monaten ersetzt aber nichts einen Menschen, der jede Woche eine Stichprobe echter Gespräche liest. Jede Rückmeldung „der Bot hat mir etwas Falsches gesagt“ wird als Vorfall erfasst und auf ihre Ursache geprüft: fehlendes Dokument, falsch gefundener Abschnitt oder reine Erfindung. Jede Ursache braucht eine andere Lösung.

Datenschutz und Recht: DSGVO, Drittlandübermittlung und KI-Verordnung

Die meisten Rechtsfragen in KI-Projekten sind gar nicht neu: Wer verarbeitet welche personenbezogenen Daten, wo und wozu? Neu ist, dass diese Daten oft über Server eines Modellanbieters im Ausland laufen.

DSGVO und Auftragsverarbeitung

Schicken Sie Kundennamen, Bestelldaten oder Gesprächsaufnahmen an ein Cloud-Modell, ist der Anbieter fast immer Ihr Auftragsverarbeiter, und Sie brauchen einen Vertrag nach Art. 28 DSGVO. Prüfen Sie, ob der Anbieter Ihre Daten zum Training nutzt, in welcher Region sie liegen und wie lange sie gespeichert werden.

Verlassen die Daten den Europäischen Wirtschaftsraum, brauchen Sie eine Grundlage für die Drittlandübermittlung, bei US-Anbietern meist eine Zertifizierung nach dem EU-U.S. Data Privacy Framework oder Standardvertragsklauseln. Ihre Datenschutzerklärung sollte den KI-Dienst und die Übermittlung nennen. Bei risikoreicher Verarbeitung, etwa der systematischen Auswertung von Gesprächsaufnahmen, wird in der Regel eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO fällig. Einen guten Einstieg bietet die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz vom Mai 2024.

Die KI-Verordnung: was ab wann gilt

Die europäische KI-Verordnung, Verordnung (EU) 2024/1689, gilt in Etappen:

• 1. August 2024: Inkrafttreten.
• 2. Februar 2025: Verbote bestimmter Praktiken, etwa manipulativer Systeme, die Schwächen von Menschen ausnutzen.
• 2. August 2025: Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck.
• 2. August 2026: der Großteil der übrigen Regeln, darunter die Transparenzpflichten.
• 2. Dezember 2027 und 2. August 2028: Pflichten für Hochrisiko-Systeme. Diese Termine wurden durch den „Digital Omnibus“, Verordnung (EU) 2026/1744, verschoben, die am 27. Juli 2026 in Kraft trat.

Für Unternehmen mit Chatbot ist Art. 50 die greifbarste Vorschrift: Ein KI-System, das direkt mit Menschen interagiert, muss so gestaltet sein, dass die Betroffenen wissen, dass sie mit einer KI sprechen, sofern das nicht aus dem Zusammenhang offensichtlich ist. In der Praxis heißt das: ein klarer Satz zu Beginn des Chats, etwa „Sie schreiben mit unserem digitalen Assistenten. Auf Wunsch verbinde ich Sie jederzeit mit einem Mitarbeiter.“

Derselbe Artikel verlangt eine Offenlegung bei Deepfakes und bei KI-generierten Texten, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Texte, die ein Mensch geprüft und für die jemand die redaktionelle Verantwortung übernommen hat, sind von dieser letzten Pflicht ausgenommen.

Was die Kosten treibt, und Standardwerkzeug oder Eigenentwicklung?

Konkrete Zahlen gehören nicht in diesen Beitrag. Die Kostentreiber zu kennen, macht Angebote aber deutlich besser vergleichbar:

• Nutzungsvolumen. Die meisten Anbieter rechnen nach verarbeiteter Textmenge ab; lange Dokumente, lange Chats und unnötig große Modelle treiben die Rechnung.
• Lizenzen pro Nutzer, vor allem bei Standardwerkzeugen.
• Datenaufbereitung: Unterlagen sammeln, bereinigen, aktuell halten. Meist der größte Aufwand.
• Anbindung an CRM, Warenwirtschaft, ERP oder Ticketsystem.
• Bewertung und Überwachung: Testkatalog, wöchentliche Stichproben, Vorfallprotokoll.
• Pflege: Modellwechsel, neue Dokumente, geänderte Richtlinien.
• Arbeitszeit Ihres Teams für Freigaben, Lektorat und übernommene Gespräche. Sie taucht auf keiner Rechnung auf, ist aber real.

Die Wahl zwischen Standardwerkzeug und Eigenentwicklung ergibt sich aus derselben Liste. Für die meisten Unternehmen lautet die richtige Antwort: mit einem Standardwerkzeug beginnen. Die KI-Funktionen Ihrer Office-Suite, das Assistenzmodul Ihres Ticketsystems oder die Textwerkzeuge Ihres Shopsystems decken die ersten Monate meist gut ab.

Eine Eigenentwicklung lohnt sich, wenn der Assistent eng mit Ihren eigenen Systemen wie Bestellungen, Lager oder ERP zusammenarbeiten muss, wenn Sie mehr Kontrolle darüber brauchen, wo Daten verarbeitet werden, wenn Ihr Ablauf nicht ins Schema passt oder wenn Lizenzen pro Nutzer bei Ihrem Volumen keinen Sinn mehr ergeben. Dazwischen gibt es den Mittelweg: ein vorhandenes Modell über seine Schnittstelle nutzen und Suche, Berechtigungen und Oberfläche selbst bauen.

Egal, wofür Sie sich entscheiden, planen Sie den Ausstieg mit. Unterlagen, Testkatalog und Anweisungen gehören Ihnen, damit ein Anbieterwechsel nicht bei null beginnt.

Wie fangen Sie an?

Statt eines großen „KI-Transformationsprogramms“ wählen Sie eine einzige Aufgabe und starten ein zeitlich begrenztes Pilotprojekt. So bleiben Risiko und Kosten klein. Der Ablauf:

1. Wählen Sie eine Aufgabe, die sich wiederholt, auf Text beruht und deren Fehler sich leicht korrigieren lassen, etwa die häufigsten Support-Fragen oder PDF-Rechnungen von Lieferanten.
2. Legen Sie vorab fest, welche Kennzahl sich auf welches Niveau bewegen muss, damit der Pilot als Erfolg gilt.
3. Sammeln Sie die Unterlagen, lösen Sie Widersprüche auf und benennen Sie für jedes Dokument einen Verantwortlichen.
4. Bauen Sie aus echten Fragen und richtigen Antworten einen Testkatalog.
5. Zeichnen Sie den Datenfluss auf: Welche Daten gehen zu welchem Anbieter, wo werden sie gespeichert? Prüfen Sie Vertrag und Datenschutz mit Ihrer Rechtsberatung, und beziehen Sie gegebenenfalls den Betriebsrat ein.
6. Testen Sie zuerst intern, dann mit einer kleinen Kundengruppe, und halten Sie den Weg zum Menschen immer offen.
7. Entscheiden Sie am Ende: ausbauen, nachbessern oder beenden. Auch Beenden ist ein gültiges Ergebnis.

Bei AYTE Digital begleiten wir solche Pilotprojekte: von der Auswahl des Einsatzfelds über die Aufbereitung der Unterlagen und die Anbindung an Website oder interne Systeme bis zur Auswertung der ersten Wochen gemeinsam mit Ihrem Team. Am Anfang steht immer das Gespräch darüber, ob es zu Ihren Abläufen überhaupt passt.