Warum „richtig prompten“ im Unternehmen
anders ist als bei ChatGPT

Ein Satz, der immer häufiger fällt. Doch im Unternehmenskontext greift er oft zu kurz. Denn: Interne KI ist nicht gleich öffentliche KI. Und genau deshalb ist auch das Prompting ein anderes.

Warum Unternehmen nicht direkt mit einem KI-Modell chatten

Während ChatGPT auf allgemeines Weltwissen zugreift, arbeiten Unternehmen in der Regel mit einer Retrieval-Augmented-Generation (RAG). Das bedeutet: Die KI sucht in internen Quellen und generiert Antworten auf Basis dieses Kontextes – statt auf Basis „Internetwissen“.

• Interne Datenquellen werden angebunden (z. B. Server, SharePoint, E-Mails, DMS/ERP etc.)
• Relevante Inhalte werden abgerufen („retrieval“)
• Darauf basierend wird eine Antwort generiert („generation“)

Der Vorteil: In einer RAG-Architektur kann eine Unternehmens-KI deutlich verlässlicher arbeiten – inklusive Quellenbezug und unter Berücksichtigung von Zugriffsrechten. Mehr Hintergrund zur ONTIV AI und dem RAG-Ansatz finden Sie hier: ai.ontiv.com und ontiv.com/ontiv-ai.

Der entscheidende Unterschied: Kontext schlägt Kreativität

Bei generativer KI genügt oft eine kreative Frage wie: Im Unternehmen reicht das nicht. Hier muss der Prompt präzise steuern:

• Welche internen Quellen berücksichtigt werden sollen
• Welcher Zeitraum oder welches Projekt relevant ist
• Welche Zielgruppe/Abteilung betroffen ist
• Wie die Antwort strukturiert sein soll (Stichpunkte, Tabelle, Max.-Länge)
• Ob Quellen/Fundstellen ausgegeben werden müssen

Merksatz: RAG-KI reagiert auf Klarheit – nicht auf Kreativität.

Der System-Prompt: Das unsichtbare Regelwerk im Hintergrund

In Unternehmenslösungen arbeitet die KI mit einem sogenannten System-Prompt. Dieser legt fest, wie die KI sich verhalten soll – z. B. „nur auf Basis interner Quellen antworten“, „Quellen nennen“, „Zugriffsrechte beachten“ und „bei Unsicherheit Rückfragen stellen“.

• Antworte nur auf Basis interner Daten
• Beachte bestehende Zugriffsrechte
• Nenne Quellen oder Fundstellen
• Sage „ich weiß es nicht“, wenn keine Information vorhanden ist

Genau dieser Ansatz (keine WWW-Anbindung, kontrollierter Zugriff, verlässliche Antworten) ist ein Kernprinzip von ONTIV AI. Details dazu: Plattform-Übersicht.

Die häufigsten Fehler beim Prompting im Unternehmen

1. Zu vage formulieren

Was genau? Welche Norm? Welcher Zeitraum? Welche Abteilung? Besser: „Welche Dokumente enthalten Informationen zur ISO 9001 Auditvorbereitung 2023? Liste Dateinamen und Fundstellen.“

2. Kein klares Ziel definieren

Viele Prompts beschreiben ein Thema – aber kein Ergebnis. RAG-Systeme brauchen ein Ziel:

• zusammenfassen
• vergleichen
• analysieren
• Maßnahmen ableiten

3. Kein Ausgabeformat festlegen

Ohne Struktur entsteht eine lange Antwort – aber keine handlungsfähige Information.

4. Zu viel auf einmal

Wenn ein Prompt mehrere Themen und Ziele mischt, wird das Retrieval unscharf – und die Antwort unpräzise. Besser: Erst Quellen finden → dann verdichten → dann Maßnahmen ableiten.

5. Keine Quellen anfordern

In Unternehmen ist „klingt plausibel“ zu wenig. Ohne Quellen sinken Vertrauen und Akzeptanz. Besser: „…und nenne die Quelle/Fundstelle der Informationen.“

Warum gutes Prompting über Akzeptanz entscheidet

In Unternehmen zählt nicht nur die Antwort – sondern Verlässlichkeit und Nachvollziehbarkeit. Wenn eine KI klare Quellen nennt, Zugriffe respektiert und Unsicherheit transparent macht, entsteht Vertrauen. Genau das ist das Ziel einer firmeneigenen KI mit RAG-Ansatz. (Mehr dazu: Ihr firmeneigener AI-Chatbot.)

3 Best Practices für erfolgreiche Prompts

Best Practice 1: Ziel → Kontext → Aufgabe → Format → Quellen

Strukturierte Prompts liefern strukturierte Ergebnisse.

Best Practice 2: Rolle definieren

Definieren Sie den Blickwinkel – das schärft das Ergebnis:

• „Antworte als QM-Auditor“
• „Antworte als Projektleiter“
• „Antworte aus Sicht des Controllings“

Best Practice 3: Iterativ arbeiten

Erst relevante Dokumente identifizieren, dann nur die Top-Treffer verdichten und daraus Entscheidungen ableiten. Gute Prompts entstehen selten beim ersten Versuch – sie entwickeln sich.

Praxis-Tipp: Prompt-Vorlagen nutzen statt jedes Mal neu beginnen

Wenn Teams regelmäßig ähnliche Fragen stellen (Onboarding, Audits, Projekterfahrungen, Meeting-Protokolle), lohnt es sich, mit Prompt-Vorlagen zu arbeiten. Passende Beispiele finden Sie in unserer Prompting-Infobroschüre: „ONTIV AI – Richtig prompten“ (PDF) (Link ggf. auf Ihrer Website/Downloads hinterlegen)

Fazit: Prompting ist kein Nebenthema – sondern ein Produktivitätshebel

Im Unternehmenskontext bedeutet „richtig prompten“:

• klar denken
• konkret formulieren
• Ziele definieren
• Ergebnisse strukturieren
• Quellen einfordern

Nicht: Sondern: