Du musst nicht wissen, wie ein Motor gebaut ist, um gut Auto zu fahren. Aber du musst wissen, dass er Benzin braucht und nicht schwimmen kann. Bei KI ist es gleich: Ein einfaches, richtiges Bild davon, was ein Sprachmodell tut, schützt dich vor den zwei teuersten Fehlern im Umgang damit.
Die beiden Fehler siehst du überall. Der eine: blindes Vertrauen. Jemand übernimmt eine Zahl aus ChatGPT in eine Offerte, die Zahl ist erfunden, der Kunde merkt es. Der andere: pauschale Ablehnung. «Das Ding erzählt doch nur Unsinn», und die Firma lässt ein Werkzeug liegen, das der Konkurrenz jede Woche Stunden spart.
Beide Fehler haben dieselbe Wurzel: ein falsches Bild davon, was da drin passiert. Also bauen wir ein richtiges. Ohne eine einzige Formel.
Die Maschine, die den nächsten Satzteil errät
Ein Sprachmodell tut im Kern eine einzige Sache: Es setzt Text fort. Du gibst ihm Wörter, es berechnet, welches Wort am wahrscheinlichsten als nächstes kommt. Dann das nächste. Und das nächste. Aus diesem simplen Vorgang, millionenfach hintereinander, entsteht deine Antwort.
«Am wahrscheinlichsten» heisst: gemessen an riesigen Mengen Text, mit denen das Modell trainiert wurde. Bücher, Websites, Dokumentationen, Diskussionen. Beim Training hat das Modell keine Fakten in eine Datenbank gelegt. Es hat Muster gelernt: wie Sprache funktioniert, welche Begriffe zusammengehören, wie ein Vertrag klingt und wie ein Kochrezept, was auf eine Frage typischerweise folgt.
Ein Bild, das trägt: Stell dir einen sehr belesenen Kollegen vor, der zehntausend Bibliotheken gelesen hat, aber keinen Aktenschrank besitzt. Fragst du ihn etwas, schlägt er nicht nach. Er antwortet aus dem Gedächtnis, flüssig und meistens richtig, weil er so viel gelesen hat. Aber er antwortet immer, auch wenn er es nicht weiss. Und er sagt es dir nicht, wenn er rät.
Das erklärt beide Seiten der Erfahrung, die du mit diesen Tools machst: die erstaunlich guten Antworten und die selbstbewusst vorgetragenen Fehler.
Warum die Maschine erfindet
Das Erfinden hat einen Namen: Halluzinieren. Es ist keine Störung, die man wegreparieren kann. Es ist eine Folge der Bauart. Das Modell produziert den plausibelsten Text, nicht den geprüften. Wenn die plausible Fortsetzung wahr ist, bekommst du eine richtige Antwort. Wenn die plausible Fortsetzung nur gut klingt, bekommst du eine überzeugende falsche.
Besonders gern passiert das bei Details: Zahlen, Namen, Gerichtsentscheiden, Quellenangaben, Paragrafen. Alles, was exakt sein muss und selten im Trainingsmaterial vorkam. Ein Modell, das dir die Funktionsweise der Mehrwertsteuer sauber erklärt, kann dir im nächsten Satz einen erfundenen Artikel aus dem Gesetz zitieren. Beides klingt gleich sicher.
Daraus folgt die wichtigste Nutzungsregel überhaupt: Je exakter eine Angabe sein muss, desto eher prüfst du sie nach. Text und Struktur darfst du dem Modell abnehmen lassen. Fakten, die dich Geld oder Ruf kosten, prüfst du an der Quelle.
Was das Modell sieht und was nicht
Zweites Missverständnis: «Die KI kennt mich doch.» Nein. Ein Sprachmodell sieht genau das, was im aktuellen Gespräch steht: deine Eingaben, hochgeladene Dokumente, seine eigenen Antworten. Das nennt sich Kontext, und er ist die halbe Miete.
Deshalb funktioniert der gleiche Auftrag einmal gut und einmal schlecht. «Schreib mir eine Offerte» zwingt das Modell zum Raten: Branche? Ton? Umfang? Es rät plausibel, also generisch. Gibst du ihm eine alte Offerte als Muster und die Eckdaten des Auftrags, muss es nicht mehr raten. Die Qualität der Antwort ist zum grossen Teil die Qualität deines Kontexts.
Dazu kommt: Das Trainingswissen hat einen Redaktionsschluss. Was danach passiert ist, kennt das Modell nicht, ausser es kann live im Internet suchen, was viele Tools inzwischen können. Auch dann gilt: Es liest schnell, aber es liest nicht sorgfältiger als ein Mensch unter Zeitdruck.
Wofür du sie einsetzt und wofür nicht
Aus dem Bild vom belesenen Kollegen ohne Aktenschrank ergibt sich fast von allein, was du der Maschine gibst und was du behältst.
Stark ist das Modell, wo Sprache und Muster die Arbeit sind: zusammenfassen, umformulieren, strukturieren, übersetzen, Entwürfe schreiben, aus deinen Stichworten einen Text machen, aus einem Dokument die Kernpunkte ziehen, Gegenpositionen durchspielen. Hier arbeitet es in Sekunden auf einem Niveau, für das du sonst eine gute Assistenz bräuchtest.
Schwach ist es, wo geprüfte Exaktheit die Arbeit ist: aktuelle Zahlen, rechtliche Details, Berechnungen mit Folgen, alles, wo «fast richtig» gleich «falsch» ist. Hier ist es Zulieferer, nie Schlussinstanz.
Und tabu ist es dort, wo Verantwortung die Arbeit ist. Was du dem Kunden versprichst, wen du einstellst, was du unterschreibst: Das Modell kann dir Argumente liefern. Entscheiden kann nur jemand, der für die Folgen geradesteht.
Der Test für den Alltag
Wenn du dir nur eine Frage merkst, dann diese: «Würde ich das einem klugen, belesenen neuen Mitarbeiter am ersten Arbeitstag anvertrauen, ohne seine Arbeit anzuschauen?»
Einen Entwurf? Ja, und dann liest du drüber. Eine Zusammenfassung fürs interne Verständnis? Ja. Die verbindliche Auskunft an den Kunden, ungeprüft? Nie. Genau so behandelst du das Sprachmodell, und du liegst in fast jeder Situation richtig.
Kein Informatikstudium nötig. Nur das richtige Bild.
Wenn du dieses Bild einmal an echten Aufgaben aus deinem Alltag ausprobieren willst: Im KI-Grundtraining machen wir genau das, in kleiner Gruppe und mit deinen eigenen Beispielen. Und wer erst mal reinschauen will: das kostenlose Webinar zum Einstieg.