Wenn Ihr KI-Dienstleister diese Begriffe verwendet, um Verzögerungen zu erklären, sollten Sie hellhörig werden.
Nicht, weil die Begriffe falsch sind. Sondern weil sie systematisch eingesetzt werden, um kaufmännische Verantwortung zu verschleiern.
1. Hallucination
Was es bedeutet: Das Modell erfindet Antworten die faktisch falsch sind mit voller Überzeugung und ohne Warnung.
Was Ihr Dienstleister sagt: „Das ist ein bekanntes Modellproblem, wir arbeiten daran."
Was Sie fragen sollten: „In welchen Prozessen läuft das Modell bereits produktiv und wie wird Hallucination dort erkannt und verhindert?"
Wenn es keine Antwort gibt: Das System ist nicht produktionsreif.
2. Fine-tuning
Was es bedeutet: Das Basismodell wird mit Ihren eigenen Daten nachtrainiert, um es für Ihren Kontext zu spezialisieren.
Was Ihr Dienstleister sagt: „Wir brauchen noch 6–8 Wochen für das Fine-tuning, dann wird die Qualität deutlich besser."
Was Sie fragen sollten: „Was genau wird besser und mit welcher messbaren Metrik werden wir das bewerten?"
Fine-tuning ist teuer, langsam und wird oft als Begründung verwendet, wenn Prompt Engineering versagt hat. Der Unterschied: Prompt Engineering kostet Stunden. Fine-tuning kostet Wochen und Ihre Daten.
3. RAG Retrieval Augmented Generation
Was es bedeutet: Das Modell sucht vor jeder Antwort in einer Wissensdatenbank und ergänzt seinen Kontext mit relevanten Dokumenten.
Was Ihr Dienstleister sagt: „Wir implementieren RAG, damit das Modell Ihre internen Dokumente kennt."
Was Sie fragen sollten: „Welche Dokumente, in welcher Qualität, mit welcher Aktualitätsgarantie und wer pflegt die Wissensdatenbank?"
RAG ist kein Selbstläufer. Eine ungewartete Wissensdatenbank produziert selbstbewusst falsche Antworten. Der laufende Wartungsaufwand wird in keiner Demo gezeigt.
4. Embeddings / Vector Database
Was es bedeutet: Texte werden in mathematische Vektoren umgewandelt und in einer speziellen Datenbank gespeichert, um semantische Suche zu ermöglichen.
Was Ihr Dienstleister sagt: „Wir müssen zuerst alle Ihre Daten embedden bevor wir mit der eigentlichen Entwicklung beginnen können."
Was Sie fragen sollten: „Was kostet das Embedding initial, was kostet die laufende Aktualisierung und bei welchem Anbieter liegen die Daten?"
Embeddings erzeugen Vendor Lock-in. Ihre Daten in den Vektoren eines bestimmten Anbieters zu migrieren, ist komplex und teuer.
5. Context Window
Was es bedeutet: Die maximale Textmenge, die das Modell gleichzeitig „im Gedächtnis" halten kann. Alles, was darüber hinausgeht, wird vergessen.
Was Ihr Dienstleister sagt: „Wir verwenden ein Modell mit 128k Context Window, das ist mehr als genug."
Was Sie fragen sollten: „Was passiert mit Informationen, die älter als das Context Window sind und wie wird das in unserem Anwendungsfall gehandhabt?"
Ein großes Context Window löst das Vergessen-Problem nicht, es verschiebt es nur. Und ein volles Context Window kostet ein Vielfaches eines leeren.
Die Gemeinsamkeit dieser fünf Begriffe
Keiner davon ist falsch. Alle davon werden eingesetzt, um technische Komplexität als Schutzschild zu nutzen.
Wer als Geschäftsführer nicht nachfragt, genehmigt Budgets auf Basis von Hoffnung.
Ich übersetze die Technologie in kaufmännische Konsequenzen. Nicht als KI-Berater der Ihnen KI verkauft, sondern als unabhängiger Realitätsprüfer, der Ihnen sagt, was das wirklich bedeutet.
Das Gespräch kostet nichts: esbrennt@georgwimberger.at