V7: So wenig Sprachmodell wie möglichV7: As little language model as possible
Die erste Konsequenz aus V6: den Anteil des Sprachmodells verringern. Der Ort, an dem die Antwort entstand, blieb derselbe.
The first consequence of V6: reduce the share of the language model. The place where the answer was formed stayed the same.
Was es warWhat it was
Der innere Zustand wurde in einzelne Organe und Drüsen aufgeteilt. Alle anwendungsbezogenen Teile wurden entfernt. Identität sollte nicht mehr im Text liegen, sondern im Gelernten; das erklärte Ziel war, dass sich zwei Exemplare derselben Anlage nach einem halben Jahr deutlich unterscheiden.
The internal state was divided into separate organs and glands. All application related parts were removed. Identity was no longer meant to reside in the text but in what had been learned; the stated aim was that two instances of the same design differ clearly after six months.
Woran es scheiterteWhy it failed
Der Text wurde kürzer, die Antwort entstand aber weiterhin im Sprachmodell. Zudem war die Version unzureichend dokumentiert. Später ließ sich nicht mehr zuordnen, welcher Effekt woher kam, und damit waren auch positive Ergebnisse nicht belegbar.
The text became shorter, but the answer was still formed in the language model. In addition, the version was poorly documented. Later it was no longer possible to attribute effects to causes, so even positive results could not be evidenced.
Was daraus folgteWhat followed from it
Eine Verringerung ändert die Architektur nicht. Was nicht sauber dokumentiert wird, kann später nicht als Befund gelten.
A reduction does not change the architecture. What is not documented properly cannot count as a finding later.