KI-Projekt im Unternehmen sicher einführen

Ein KI-Projekt wird sicher, wenn sein erster Umfang klein genug ist

Viele Unternehmen starten mit einer großen Frage: „Wie können wir KI einsetzen?“ Für ein belastbares Projekt ist diese Frage zu weit. Besser ist: Welcher wiederkehrende Vorgang soll mit Unterstützung schneller oder nachvollziehbarer werden, und welche Entscheidung bleibt ausdrücklich beim Menschen?

Ein guter erster Anwendungsfall hat einen klaren Eingang, ein prüfbares Ergebnis und eine Person, die den Vorschlag freigeben kann. Das kann eine E-Mail-Triage, ein Angebotsentwurf, die Vorbereitung einer Gesprächszusammenfassung oder die Suche in einer freigegebenen Wissensbasis sein. Ein System, das ohne Prüfung Kunden, Zahlungen oder sicherheitsrelevante Entscheidungen steuert, ist für einen ersten Pilot meistens zu groß.

Sicher bedeutet dabei nicht, dass keine Fehler vorkommen. Sicher bedeutet, dass Fehler sichtbar werden, der Umfang begrenzt ist und niemand einen unklaren Vorschlag mit einer verbindlichen Entscheidung verwechselt.

Den Anwendungsfall als Arbeitsablauf formulieren

Schreibe den Vorgang in fünf Zeilen auf:

1. Eingang: Welche E-Mail, welches Dokument, welcher Anruf oder welches Formular startet die Arbeit?
2. Aufgabe: Was soll die KI erkennen, sortieren, zusammenfassen oder vorbereiten?
3. Quellen: Welche freigegebenen Informationen darf sie verwenden?
4. Freigabe: Wer prüft den Vorschlag und welche Regeln darf diese Person nicht überspringen?
5. Ergebnis: Was wird gespeichert, versendet, angelegt oder an eine andere Person übergeben?

Wenn diese fünf Zeilen nicht eindeutig sind, fehlt kein Modell. Es fehlt eine Prozessentscheidung. Das ist gute Nachricht, weil sich ein unklarer Prozess vor einem teuren Projekt klären lässt.

Ein konkretes Beispiel: Eingehende Anfragen sollen nach Thema sortiert und als Vorgang vorbereitet werden. Die KI darf den Inhalt zusammenfassen, fehlende Angaben markieren und einen Antwortentwurf vorschlagen. Sie darf aber keine verbindliche Preiszusage machen, keinen Auftrag anlegen und keine Antwort versenden, solange eine zuständige Person nicht freigegeben hat.

Quellen und Regeln vor dem Prompt

Ein KI-Projekt wird nicht dadurch verlässlich, dass der Prompt länger wird. Verlässlichkeit entsteht durch passende Quellen, klare Regeln und eine überprüfbare Ausgabe. Lege vor dem Pilot fest:

• Welche Dokumente und Wissenseinträge sind aktuell und freigegeben?
• Wie wird eine alte oder widersprüchliche Information erkannt?
• Welche Daten gehören nicht in die allgemeine Wissensbasis?
• Welche Antworten muss die KI ablehnen oder an einen Menschen geben?
• Welche Felder sind im Ergebnis Pflicht?
• Wie wird die Quelle oder Unsicherheit am Vorschlag sichtbar?

Gerade bei Betriebswissen ist die Herkunft wichtig. Eine Information aus einer alten Preisliste darf nicht gleich behandelt werden wie eine am selben Tag freigegebene Regel. Die KI muss nicht jede interne Entscheidung lösen. Sie muss aber zeigen, wenn ihr eine Grundlage fehlt.

Das Prinzip gilt auch für einen Kundenassistenten. Öffnungszeiten, Leistungen und Einsatzgebiet dürfen aus einer gepflegten Wissensbasis beantwortet werden. Ein Sonderfall, eine Beschwerde oder eine unklare Preisfrage braucht eine definierte Übergabe. Griffi verbindet solche Eingänge mit Wissen, Vorgängen und vorbereiteten Ergebnissen. Die fachliche Freigabe bleibt beim Betrieb.

Vorher festlegen, was „bestanden“ heißt

Ein Pilot braucht Akzeptanzregeln vor dem ersten Test. Sonst wird ein freundlicher oder plausibler Text schnell als Erfolg gezählt, obwohl die eigentliche Aufgabe nicht erledigt wurde.

Ergänze normale Fälle um Grenzfälle. Ein guter Test enthält Schreibfehler, fehlende Angaben, widersprüchliche Daten, eine doppelte Anfrage und eine Formulierung, die eine unzulässige Preis- oder Rechtsauskunft provozieren könnte. Genau dort zeigt sich, ob das System eine Grenze kennt oder nur überzeugend formuliert.

Messen heißt nicht nur Zeit sparen

Zeitersparnis ist ein möglicher Nutzen, aber nicht der einzige Messwert. Halte im Pilot mindestens fest:

• Wie viele Vorschläge ohne fachliche Korrektur verwendet werden konnten.
• Wie viele Pflichtangaben fehlten oder falsch erkannt wurden.
• Wie oft eine Person den Vorschlag komplett neu schreiben musste.
• Wie viele Vorgänge richtig zugeordnet und nachverfolgbar gespeichert wurden.
• Wie oft die KI an einen Menschen übergeben hat, obwohl eine Bearbeitung möglich gewesen wäre.
• Wie oft sie eine Antwort vorgeschlagen hat, obwohl die Grundlage fehlte.

Ein höherer Automatisierungsgrad ist nicht automatisch besser. Wenn ein System selten übergibt, aber dabei wichtige Grenzfälle übersieht, ist das Ergebnis schlechter als eine vorsichtige Konfiguration. Die Quote muss immer zusammen mit den konkreten Testfällen gelesen werden.

Für Sprachsysteme kommt die echte Telefonstrecke hinzu. Ein Texttest prüft nicht, ob Namen falsch erkannt, Pausen falsch interpretiert oder Termine wirklich angelegt werden. Der Beitrag Wie zuverlässig ist ein KI-Telefonassistent? beschreibt, wie wir solche Prüfungen in Messwerte, feste Regeln und Belege trennen.

Datenschutz ist ein Projektparameter

Vor dem ersten Pilot muss klar sein, welche Daten verarbeitet werden und warum. Nutze für die technische Vorbereitung anonymisierte oder selbst erstellte Beispiele. Für den Betrieb klärst du Zweck, Zugriff, Aufbewahrung, Anbieter, Übermittlungen und Löschung passend zum tatsächlichen Szenario.

Besonders wichtig ist die Trennung zwischen allgemeinem Betriebswissen und personenbezogenen Sonderfällen. Eine allgemeine Antwortquelle kann Öffnungszeiten und Leistungsgrenzen enthalten. Kundendaten, interne Notizen oder sensible Dokumente brauchen einen engeren Zweck und Zugriff.

Die Datenschutzerklärung von n3tz und der AVV erklären die öffentlich dokumentierten Rahmenbedingungen. Sie ersetzen keine Prüfung deines konkreten Einsatzes. Wenn ein KI-Projekt Gespräche, Gesundheitsdaten, Bewerbungen oder andere besonders schützenswerte Inhalte verarbeitet, müssen die Anforderungen früh in die Entscheidung einfließen.

Auch die Mitarbeiterperspektive zählt. Wer darf Vorschläge sehen? Wer muss sie prüfen? Wie wird erklärt, dass eine KI beteiligt war? Ein System wird nicht vertrauenswürdig, wenn es im Alltag als unsichtbare Autorität auftritt.

Pilot, Review und kontrollierter Ausbau

Ein sinnvoller Pilot läuft mit einem begrenzten Team, einem Eingang und einer klaren Aufgabe. Lege eine feste Testmenge fest, dokumentiere die Ausgangslage und entscheide nach einem Review, ob der Umfang erweitert, angepasst oder beendet wird. Der Review sollte nicht nur technische Kennzahlen enthalten, sondern auch Rückmeldungen der Personen, die mit den Vorschlägen arbeiten.

Plane den Ausbau in Stufen:

1. Vorschlag erzeugen und vollständig manuell prüfen.
2. Vorschlag in einen klaren Entwurfstatus übernehmen.
3. Nur unkritische Folgeaktionen nach festen Regeln auslösen.
4. Neue Eingänge oder Teams erst nach erneutem Test anschließen.

Zwischen den Stufen gehört ein Vergleich der Testfälle. Ein neues Modell, eine neue Wissensquelle oder eine geänderte Schnittstelle kann Verhalten verschieben. Deshalb reicht es nicht, den Pilot einmal abzunehmen. Die wichtigen Szenarien müssen nach relevanten Änderungen erneut laufen.

Wann externe Umsetzung hilft

Du brauchst nicht für jedes KI-Projekt eine große Beratung. Externe Unterstützung ist sinnvoll, wenn mehrere Systeme beteiligt sind, Datenflüsse unklar sind, die fachliche Abnahme im Alltag fehlt oder das Team den ersten Pilot nicht nebenbei sicher betreiben kann.

Bei n3tz beginnen wir mit Scope, Quellen, Grenzen und Messung. Die Leistungen für Software und Automatisierung decken je nach Aufgabe Prozessklärung, Integration, eigene Anwendungen und technische Qualitätssicherung ab. Für Voice-Agenten prüfen wir im Quality Lab autorisierte Tests mit definierten Szenarien und Belegen. Ein Audit ersetzt keine Produktentscheidung, macht aber sichtbar, ob ein System die vorher festgelegten Regeln erfüllt.

Die wichtigste Entscheidung bleibt beim Unternehmen: Welcher Vorgang soll besser werden, welches Risiko ist akzeptabel und wer trägt die Verantwortung im Betrieb? Wenn diese Fragen klar sind, kann KI ein sehr nützliches Werkzeug werden. Wenn sie offen bleiben, macht zusätzliche Automatisierung den Prozess nur schneller unklar.

Ersten KI-Anwendungsfall abgrenzen: Projekt mit n3tz besprechen →