06 Vorlesung 6 Quiz: Die Verteilung steuern

Das Pre-Training ist eine einzige Loss-Funktion — die Next-Token-Cross-Entropy — angewendet über Billionen von Tokens, und alles, was wie eine separate Fähigkeit aussieht (Code-Generierung, Übersetzung, Frage-Antwort), ist daraus emergent. Die verlockendste falsche Antwort ist B: Das Befolgen von Anweisungen fühlt sich fundamental an, aber die Vorlesung hebt es als das eine Verhalten hervor, das nicht aus dem Pre-Training emergiert — es benötigt den separaten Post-Training-Schritt. A beschreibt das RLHF-Reward-Signal und C beschreibt SFT — beide gehören zum Post-Training, nicht zum Pre-Training.

Der Trainingskorpus enthält sowohl korrekten als auch inkorrekten Text, ohne eine Markierung, die angibt, welcher welcher ist, sodass das Modell kein Konzept von Wahrheit hat — eine falsche Antwort ist einfach Text im selben statistischen Universum wie eine richtige. Die verlockendste falsche Wahl ist A: Das Ausgeben einer Wahrscheinlichkeitsverteilung ist das eine operative Verhalten des Modells — genau das, was es per Konstruktion hat — sodass Lesende, die über das großgeschriebene NICHT hinwegsehen, es wählen könnten. A, B und D sind allesamt Dinge, die das Modell tatsächlich besitzt.

Base-Modelle existieren, und Labore wie Meta, Mistral und DeepSeek veröffentlichen sie neben ihren post-trainierten Versionen — aber die Produkte, die Sie verwenden (Claude Code, ChatGPT, Copilot), liefern das post-trainierte Modell aus. Die verlockendste falsche Antwort ist D: Das Post-Training „poliert” nicht bloß eine bereits assistenten-ähnliche Base — ein Base-Modell hat keine Präferenz dafür, hilfreich zu sein, und könnte auf „Was ist die Hauptstadt von Frankreich?” mit weiteren Hauptstadt-Fragen antworten. C ist falsch (Base-Versionen werden veröffentlicht), und B ist ein falscher Grund.

SFT (Instruction Tuning) trainiert auf kuratierten Beispielkonversationen mit demselben Next-Token-Loss, sodass das Modell die Form von Assistenten-Antworten imitiert; RLHF rankt dann Antwortkandidaten nach menschlicher Präferenz und optimiert in Richtung der bevorzugten. Entscheidend ist, dass RLHF Form, nicht Wahrheit belohnt. B ist die verlockende Falle und ist gleich doppelt falsch: Das Post-Training ist nicht das Hauptvehikel für neue Fakten (die stammen aus dem Pre-Training), und RLHF richtet das Modell an bevorzugten Formen aus, nicht an der Wahrheit. C vertauscht die beiden Methoden, und D ist falsch — Ablehnung wird in beiden Stufen gelernt.

Der Endpunkt war nie im Training, also gibt es nichts nachzuschlagen — und die Pipeline kann sich nicht enthalten. Ein flüssiger Next-Token-Prädiktor ohne Konzept von Wahrheit füllt die Lücke mit der plausibelst aussehenden Fortsetzung, hier einem grammatikalisch validen, aber erfundenen Endpunkt. Beachten Sie: Es kann selbstbewusst falsch sein — die Verteilung kann scharf auf eine plausible Unwahrheit zeigen, nicht flach. Die verlockendste falsche Antwort ist D, aber ein halluzinierter Endpunkt ist „kein Abruf eines bekannten Faktes” — der Endpunkt war nie im Training, also gibt es nichts nachzuschlagen. C ist falsch, weil das Modell keine Ziele oder Absichten hat (es tut nichts „bewusst”), und A ist falsch, weil dies der normale Mechanismus ist, kein Code-Bug.

Eine lange Fließtext-Erklärung, die sich liest wie der Blog-Beitrag einer erfahrenen Ingenieurin, aber von Anfang bis Ende erfunden ist, ist Confident-Nonsense. Anders als faktische Halluzinationen (durch Prüfung einer Quelle abfangbar) oder strukturelle (durch Ausführen des Codes abfangbar) erfordert sie Fachexpertise oder externe Verifikation, um erkannt zu werden. Der attraktivste Distraktor ist C: Er nennt die richtige Kategorie, aber die falsche Gegenmaßnahme — ein Linter parst Code-Stil und Syntax und kann eine falsche Fließtext-Aussage nicht abfangen. B ist die falsche Kategorie, da das Szenario erfundener Fließtext ist, kein Code, den die Laufzeitumgebung zurückweisen könnte.

Die Datei befindet sich weiterhin im Kontext (die Sequenz wächst nur). Für jeden Head und jede Query-Position summieren sich die Softmax-Gewichte zu eins, sodass eine frühe Anweisung nun mit allem konkurriert, was seitdem hinzugekommen ist, und das Modell kann ihr weniger Attention schenken — aber das ist eine Tendenz, kein festes proportionales Gesetz: Ein gut trainiertes Long-Context-Modell folgt einer frühen Regel oft weiterhin, und Attention-Gewicht ist nicht dasselbe wie kausaler Einfluss auf die Ausgabe. CLAUDE.md beeinflusst die Verteilung; sie befiehlt nicht. Die verführerischste falsche Antwort ist A — „ignoriert” liest sich intuitiv als „nie geladen” — aber die Datei wurde nicht überschrieben; die Sequenz wächst nur. Es war keine Ablehnung (B: es gibt keinen Safety-Konflikt), und Tokens werden nicht gelöscht (D).

AGENTS.md begann als OpenAI-Initiative, wurde an die Agentic AI Foundation (einen Fonds der Linux Foundation) gespendet und wird von vielen Werkzeugen nativ gelesen — aber Claude Code liest CLAUDE.md, nicht AGENTS.md (die Behelfslösung ist eine einzeilige @AGENTS.md-Indirektion). Der attraktivste Distraktor ist A, die saubere Umkehrung der Wahrheit: AGENTS.md ist nicht von Anthropic verfasst, und Claude Code liest sie nicht nativ. Derselbe Attention-Mechanismus gilt für jede Anweisungsdatei (C falsch), und keine wird als Konfiguration erzwungen — sie werden als Kontext geladen (D falsch).

Die Abrufgenauigkeit ist U-förmig — hoch am Anfang (Primacy) und am Ende (Recency), am schlechtesten in der Mitte. Stellen Sie also die wichtigste Regel nach vorne und wiederholen Sie eine kritische Anweisung am Ende für Recency. A ist die genaue Umkehrung des Ergebnisses: Die Mitte ist die Genauigkeits-Senke von ~20 Punkten, der schlechteste Ort, um eine Regel zu vergraben. Die Prämisse von C ist richtig (Attention kann im Prinzip jede Position erreichen), aber die empirische U-förmige Positionsverzerrung ist real, also kommt es auf die Reihenfolge an; B ist falsch, weil das Auffüllen einer Datei mit Wiederholungen vor allem Ablenker hinzufügt und die wichtige Regel in Richtung der schwachen Mitte drängt — es hilft nicht zuverlässig.

Die Einflussschicht (Prompts, AGENTS.md, Few-Shot, CoT-Trigger) verzerrt nur die Verteilung — sie ist positionsabhängig, durch Attention verwässerbar und RLHF-begrenzt. Die Durchsetzung (Linter, Typen, Tests, CI) ist deterministisch und fängt harte Verstöße ab; die Menschen-Schicht fängt falsche, aber plausible Ausgaben ab. Sie können nicht eine Schicht durch mehr von einer anderen ersetzen. Der attraktivste Distraktor ist C, aber strenge Durchsetzung kann immer noch nicht erkennen, ob eine Funktion das Richtige tut — nur ob sie parst und die Typen besteht. B kehrt die Eigenschaft der Einflussschicht um, und D verwechselt die Durchsetzungsschicht mit einem Grund dafür, dass die Einflussschicht ausreichend sei.

Die Temperatur teilt die Logits vor dem Softmax und schärft (niedriges T) oder flacht (hohes T) die Verteilung ab. Der Argmax verschiebt sich nie — nur die Logits entscheiden über das Top-Token (A falsch: Das Abflachen verkleinert die Abstände, bewahrt aber deren Reihenfolge). Die verlockendste Falle ist B: Eine schärfere Verteilung fühlt sich sicherer an, aber bei einer flachen Verteilung legt sich T = 0 nur stärker auf das modale-aber-falsche Token fest, sodass Halluzination wiederholbarer wird, nicht verschwindet. Die Temperatur verteilt nur Masse um; sie kann keine Grammatik erzwingen — das ist Constrained Decoding (D falsch).

Für projektspezifische Konventionen gilt: Beispiele schlagen Anweisungen — zeigen, nicht erzählen. Few-Shot lässt die Induction Heads über echte Instanzen des Stils routen und produziert eine Ausgabe, die weitaus konsistenter mit dem bestehenden Code ist. Der attraktivste Distraktor ist A, der Anweisungs-Prompt, den die Vorlesung explizit gegen Few-Shot ins Feld führt: Jede Regel wird zu einem separaten Stück Konditionierung, das das Modell fehlinterpretieren kann, sodass die Ausgabe abdriftet. D scheitert aus demselben Grund wie A — ein referenzierter Style Guide ist Dokumentation, die das Modell interpretieren muss, keine konkreten Beispiele, über die die Induction Heads routen können; C ändert die Vielfalt, nicht die Treue.

Olsson et al. (2022) identifizierten Induction Heads, die genau dieses Copy-and-Continue-Routing durchführen — eng korreliert mit der In-Context-Learning-Fähigkeit und bei einem sichtbaren Phasenübergang während des Trainings auftauchend. Die verlockendste falsche Antwort ist C, aber In-Context Learning beinhaltet keine Gewichtsaktualisierungen; die Verhaltensänderung kommt rein aus dem längeren Kontext. A beschreibt Mean-Pooling und B beschreibt einen expliziten Beispiel-Cache/-Lookup — keines davon ist das, was ein Attention Head tut.

Der Großteil des Few-Shot-Zugewinns überlebte das Randomisieren der Labels. Demonstrationen übertragen primär das Format, die Eingabe- Verteilung, den Label-Raum und die Aufgabenidentität; die Induction Heads routen zu den Demonstrationspositionen, unabhängig davon, ob die Labels dort korrekt sind. B ist die naive Erwartung, die Min et al. widerlegten. D ist die Überkorrektur: Korrekte Labels schneiden immer noch geringfügig besser ab, also sind die Labels nicht völlig irrelevant. C ist ein Kategorienfehler — es gibt keine Gewichtsaktualisierungen im In-Context Learning, sodass „Überanpassung” nicht zutrifft.

Ein einzelner Forward Pass liefert N Berechnungsrunden; CoT gibt Zwischen-Tokens aus — jedes selbst die Ausgabe von N Schichten — und spätere Durchläufe richten Attention zurück auf sie und dehnen die effektive Tiefe auf ~N × L. Es gibt kein spezielles Modul (A), und N selbst ändert sich nie (B) — es ist die feste Tiefe des Modells, nicht etwas, das die Orchestrierungsschicht vergrößern kann. D verwechselt CoT (einen Tiefen-/Sequenz-Mechanismus) mit Temperatur/Top-p, die nur das Sampling umformen, nicht die Berechnung.

Eine CoT-Spur fängt einige kaskadierende Fehler ab und enthüllt das Framing des Modells, aber das Modell kann eine saubere Kette erzeugen, die die Antwort post-hoc rechtfertigt, anstatt sie herzuleiten (Lyu et al., 2023) — ein Signal, keine Garantie. A ist die verlockendste falsche Antwort und gleich doppelt falsch: Die sichtbare Kette ist kein getreues Protokoll (sie rechtfertigt post-hoc), und ihre Prämisse ist ebenfalls falsch — jedes Reasoning-Token ist ein separater Forward Pass, nicht derselbe wie das finale Token. C und D verwechseln beide interne Konsistenz oder plausibel aussehende Schritte mit Korrektheit; eine CoT-Kette kann eine längere falsche Antwort sein.

Reasoning-Modelle sind trainiert (oft mit RL gegen Signale nachweisbarer Korrektheit, z. B. DeepSeek-R1s GRPO), um intern ausführlich zu schließen. Sie sind architektonisch nicht anders — dieselbe Attention, FFN, Schichten und auto-regressive Schleife. Sie prompten also nach dem Ziel, den Einschränkungen, dem Kontext, den Werkzeugen, dem Ausgabeformat und den Verifikations- kriterien, nicht nach einer sichtbaren Kette; Anbieter warnen, dass „Let’s think step by step” die Qualität verschlechtern kann (A falsch). C ist falsch — es gibt kein separates Planungsmodul (kein neuer Mechanismus). B ist falsch — die Temperatur ist ein Sampling-Hebel, nicht die relevante Steuerung für die Reasoning-Qualität.

Self-Consistency ist ein Varianzreduktions-/Gesetz-der-großen-Zahlen-Argument: Es funktioniert nur, wenn korrekte Pfade wahrscheinlicher sind als jeder einzelne falsche Pfad. Wenn das Modell systematisch fehlgebildet ist, sodass eine falsche Antwort der Modus ist, konzentriert sich die Abstimmung darauf — eine selbstbewusstere falsche Antwort. C ist verkehrt herum (Sie benötigen T > 0, damit sich die Stichproben unterscheiden), D beschreibt genau, wann es funktioniert, und B ist falsch — die Stimmenaufteilung über viele Antworten verengt den Abstand, ist aber nicht der dokumentierte Fehlerfall; ein falscher Modus ist es.

Bei jedem Schritt setzt die Engine die Wahrscheinlichkeit jedes Tokens auf null, das die Grammatik brechen würde (ein kompilierter endlicher Automat / Kellerautomat), und gibt harte Garantien über die Form — keine fehlenden Schlüssel, kein fehlerhaftes JSON. Aber ein schema-gültiges Objekt kann immer noch halluzinierte Werte enthalten: Die Form wird erzwungen, die Wahrheit nicht. A ist die umgekehrte Falle für alle, die Structured Outputs überschätzen — das Erzwingen des Containers sagt nichts über die Werte aus, die hineingelegt werden. Sie benötigen immer noch einen guten Prompt (B falsch), und die Inhaltshalluzination ist unberührt (D falsch).

CLAUDE.md-Drift ist versehentlich; Prompt Injection ist adversarial. Das Modell wird nicht „ausgetrickst” — es folgt der kontextuell plausibelsten Fortsetzung, die der Angreifer so arrangiert hat, dass sie seine Anweisung ist. Sie können einen Angreifer nicht mit besseren Prompts überbieten: Für adversariale Eingaben wird die Einflussschicht als besiegt angenommen, daher muss Sicherheit in der Durchsetzungsschicht (Werkzeug-Berechtigungen, Sandboxes, Validierung, Egress-Kontrollen) und der Menschen-Schicht (Prüfung von allem, was Geld, Geheimnisse oder Produktion berührt) angesiedelt sein. D ist die verführerische falsche Antwort — das Neugewichten oder Verankern von Prompts ist immer noch die Einflussschicht, die besiegt ist. A macht denselben Fehler, und C verwechselt die Temperatur (einen Sampling-Regler) mit einer Sicherheitskontrolle.