Log of Free Writing

Dies ist eine Dokumentation / ein Log zur Arbeit Free Writing (Takeaway). (Auf der Website befindet sich eine destillierte Version dieses Logs.)

12.11.25

Suche nach einem Konzept für AI-Worlding

Ein anderers Verhältnis zur Technik.
Dies durch einen anderen Umgang.
Technische Aktivität. “Die technische Aktivität unterscheidet sich von der bloßen Arbeit und von der entfremdeten Arbeit darin, dass die technische Aktivität nicht allein die Benutzung der Maschine umfasst, sondern auch einen gewissen Koeffizienten der Aufmerksamkeit für die technische Funktionsweise, Wartung, Justierung, Verbesserung der Maschine, in der die Aktivität der Erfindung und der Konstruktion weitergeführt wird.” (Simondon, Gilbert: Die Existenzweise technischer Objekte, Zürich: diaphanes 2012, S. 231)
Beim Speichern dieses Dokuments, welches ich zuerst im Ordner fw (Free Writing) speichern wollte, frage ich mich, ob ich etwas performatives mit eigenen Schreibübungen machen kann. Beispielsweise jeden Tag im Verlauf der Ausstellung Free Writing zu betreiben. Dies dann in ein Modell einarbeiten lassen. Wie könnte Free Writing für eine Maschine aussehen?

• Eigentlich macht sie ja nichts anderes.
• Der Titel ist natürlich gut.
• Free Writing ist eigentlich ein körperlicher Akt. Schreiben ohne nachzudenken. Eine Vorstufe, um einen eigentlichen Text zu produzieren. Um die Schreibblockade abzubauen. In Bezug auf ein maschinelles System wäre das zumindest ein bisschen witzig.
• Wenn ich mit meinen eigenen Daten arbeite, diese aber ein bisschen hinter dem LLM verstecken kann, passt das auch wieder thematisch.
• Free Writing ist in der Regel unzusammenhängend. Könnte auch interessant sein.
• Was davon kommt bei Betrachter:innen an?
• Free Writing könnte auch als eine Form des Schreibens verstanden werden, die unabhängig von Menschen erfolgt.
• Ich denke an Marcel Broodthaers, der sich dabei filmt, wie er im Regen schreibt.

• Im Free Writing geht es um den Prozess. Das Geschriebene kann im Nachhinein gelöscht werden.
• Free Writing ist ein Ritual oder vielleicht eher eine Routine.
• Ich und Du sind eins aber auch nicht. Indem das LLM aus (meiner) Ich-Perspektive schreibt, simuliert es mein Schreiben. Doch es ist mir auch äußerlich. Ich schaue es von außen an. Schaue ihm (und mir) beim Schreiben zu. Einerseits ist es mehr als ich, andererseits weniger als ich.
• Das Ritualhafte könnte so sein, dass es alle 5 Minuten einen Text schreibt, der dann für 5 Minuten stehen bleibt, bevor er gelöscht und ersetzt wird.
• Immerhin habe ich ein kleines Datenset um es auszuprobieren.
• Körperlichkeit ist wichtig beim Free Writing.
• Inszenierung: Mehrere Instanzen, jeweils mit einem ePaper Display etc. Vielleicht manche auf Deutsch, manche auf Englisch. Ich denke an eine Arbeit von Dries Depoorter mit Monitoren an der Wand. Die Maschinen organisieren uns. Sie stehen im Zentrum, nicht wir.

• Ich lese die generierten Texte (vielleicht ab der Ausstellungseröffnung) und lasse sie dadurch in meine eigenen Texte einfließen. -> Auch wieder eine Form von dem, was ich jetzt mit neither host nor guest mache.
• Ich bewege mich konzeptuell auf der Ebene, was ich gerne machen möchte. Doch was ist mit den Besucher:innen? Diese habe ich bisher nicht bedacht. Warum sollen sie sich Texte durchlesen, die eine KI schreibt, in denen es um meine Gedanken geht?
• Free Writing ist persönlich. Daher ist es sinnvoll, entweder eine persönliche Inszenierung zu wählen, oder gerade das Gegenteil umzusetzen: Technologie im Zentrum, der Mensch am Rand. Verschiedene Instanzen gehen bereits in die zweite Richtung.
• Das passive Zuschauen, wie Text generiert wird, ist gut. Kleinere Displays oder ePaper machen es dann wieder persönlicher.
• Evtl. Theorie einbinden wie Yuk Hui, Simondon etc. Also minimal didaktisch, aber auf der anderen Seite frei.

Das Training gestaltet sich schwerer als das Erlernen der Muster bei der Traumdeutung etc., welche vom Instruct Model sofort gelernt wurden. Ich benutze ein Base Model, trotzdem frage ich mich, ob die LLMs viel mehr auf Instruct, also Befehle, eingestellt sind, und ihnen sozusagen ‘Free Writing’ schwer fällt.

13.11.25

Versuch mit anderem Code: https://github.com/molbal/llm-text-completion-finetune

Datenset

Das Datenset wird dort in Chunks zu je ca. 7.000 Zeichen (vollständige Sätze) aufgeteilt. Ein Sample:

[
          {
            "text": "Als methodisches Framework wird Diffraction oder Agential Realism genutzt. Vielleicht auch der Diffraction Apparatus. Generell soll es also zunächst darum gehen welche Voraussetzungen in die Technologie einfließen, welches ontologisches usw. Bild damit einhergeht. Dazu werden verschiedene Positionen einbezogen: Hypomnêmata, Zen und Daoismus, Ästhetik, Agential Realism (oder eine ähnliche relationale Ontologie). Hypomnêmata geht bspw. von einem metaphysischen Individualismus aus und einer klaren Subjekt-Objekt-Trennung. Wissen ist hier systematisch und wortbasiert. Im Zen gibt es viel weniger Vertrauen in die Worte und auch ein ganz anderes Verhältnis von Subjekt zu Objekt. Wie sieht ein entsprechender Assistent aus? (Herkömmliche Assistenten folgen der Hypomnêmata.) Auch wenn ich einerseits damit einverstanden bin dass Sprache zu viel Gewicht bekommen hat (was Barad selbst nicht praktiziert), merke ich in meinem eigenen Leben was für einen Einfluss Sprache auf mich, mein Weltbild, meine Stimmung etc. hat. Was möchte ich damit herausfinden? Generell folgt dies dem Ansatz: Ich/Es könnte auch ganz anders sein. Natürlich spielt auch Klima eine Rolle, d.h. kleine Modelle, lokales Rechnen usw. Vielleicht auch einfach weniger Rechnen. Bspw. auch die Frage: Wie wäre es dies nicht zu tun? Ein einfacher Assistent, welcher mich immerzu fragt, wie es wäre etwas nicht zu tun? Zen-PA. Dao-PA. Allerdings eher eine Mischung von allem, also doch wieder etwas von der lokalen Wahrheit. Also im Prinzip geht es im Sinne der Diffraction darum verschiedene Dinge miteinander zu verschneiden und zu schauen was an Differenzen für mich wirkmächtig ist. Sich auf Verlust einlassen. Mir fällt es nicht leicht, obwohl es gar nicht so viel gibt was verloren werden könnte. Mein Hauptproblem ist es vermutlich, dass unsere Gesellschaft darauf aufgebaut ist, Dinge zu gewinnen, sich anzueignen etc. Natürlich denke ich auch, dass es ein Problem für mich werden könnte, weil ich evtl. weniger strebsam wäre. Auf der anderen Seite könnte es sehr befreiend sein. Ich frage mich wie nah Zen an Gleichgültigkeit liegt. Vieles darf ich nicht so ernst nehmen, zumindest erscheint es mir so. Auf der anderen Seite ist die Welt und mein Verhalten, Streben, usw., nur durch die Gesellschaft antrainiert. Es ist nicht das Leben. Eine andere Lebensweise kann ebenso gültig sein oder wahrscheinlich noch gültiger sein als das von der Gesellschaft vorgelebte Leben. Wenn ich mich auf Verlust einlasse, ist es dann noch Verlust? Die Idee dahinter ist ja, dass mich dies zum Leben führt und nicht zum Verlust von Leben. Natürlich ist unser Leben geprägt von Dingen, Auszeichnungen, usw., so dass wir immer mehr Angst vor dem Verlust dieser Dinge haben können. Absurd. Das einzige was ich wirklich brauche und nicht verlieren darf ist eine Basis. Eine körperliche und geistige Basis im Leben, zum Leben, zur Welt. Basis ist auch Stand. Doch dies ist schwer zu greifen, wenn es gerade nicht die Festigkeit sein soll, nach der die meisten Streben, ohne ihren Grund zu hinterfragen. Festigkeit im Fluss. On the Road. Generell geht es mir immer um ein anderes Verhältnis zur Technologie. Was ist das in diesem Artikel bzw. in den Versuchen? Wir lagern uns mehr in Technologie aus? Bei Goodwin ist es offensichtlich, wie verhält es sich bei mir. Was hat das mit der Körperlichkeit zu tun? Entfremdung vom eigenen Körper etc.? Entfremdung von der eigenen Subjektivität? Auf jeden Fall eine steile These. Thesen: Generell brauche ich Thesen, die ich verfolge. Das Leben in Plastejacke spüren. Auch eine Form von Entfremdung. Handy etc. Eigentlich geht es mir doch tatsächlich um Entfremdung. On the Road meint ja eigentlich zwar in der Fremde zu sein, aber nah am Leben etc. zu sein. Geringe Distanz. Schreiben ohne Distanz, dann aber in der Überführung in Literatur doch wieder eine Distanz aufbauen. Subjektivität sowohl in absoluter Nähe zum Leben als auch in Distanz dazu. Distanz zu sich selbst aufbauen, indem wir etwas niederschreiben. Zitat von Max Frisch. Schreibprozess. Bei Kerouac einerseits unmittelbar, andererseits mittelbar durch die Überarbeitung. Bei Goodwin mittelbar über Tools. Bei mir noch eine Spur mehr. Was bringt mein Experiment? Es zeigt, dass nicht mehr trainiert werden muss. Es kann simuliert werden. Ist der Text dadurch noch variabler? Noch losgelöster? Ich muss das Beispiel von Jenifer Becker zu Bajohr's Rede integrieren, raus aus der Fußnote. Output. Wie wichtig ist für mich der Output? Das ist eigentlich ein Kapitel für sich, will ich das thematisieren? Ich könnte auch auf der Ebene der Produktion bleiben. In Plastejacke durch die Pampa marschieren, hier geht es auch um die Aktivität. Nicht um das passive, was in der Leseerfahrung dazukommt. Vielleicht lieber Fokus auf das Tun, weg von der Rezeption. Andererseits ist die Rezeption ja immer mitgedacht. Bei Goodwin geht es mehr um das Konzept, er wird unwichtig. Was heißt das bei mir? Konzeptuell nicht stringent, es ist nur ein kleines Experiment. Eine Vorstufe oder sowas. Was lässt sich daraus ableiten? Einerseits will ich natürlich dafür werben, Dinge auszuprobieren, selbst aktiv zu werden. Was bringt mir der Artikel, ist die Frage, die ich für mich beantworten muss."
          },
          ...
        ]

Outputs

input_ = '''Ich denke dass Free Writing ein gutes Thema für eine Auseinandersetzung mit dem Verhältnis zwischen Mensch und Technologie ist.'''

<|begin_of_text|>Ich denke dass Free Writing ein gutes Thema für eine Auseinandersetzung mit dem
Verhältnis zwischen Mensch und Technologieist. Im Rahmen der Lehre könnte man es vor allem dadurch
fördern, dass die KI das Schreiben durchführt.

Welcher Zweck? Wer schreibt was für wen?

Ein mögliches
Modell dafür kann ich mir so vorstellen: In einer Zukunft leben wir immer mehr mit Maschinen zusammen
oder sind gar schon eine Einheit von Maschine und Menschen (z.B. cyborg). Ich betrachte uns hier im
Gegensatz zu den Tieren. Wenn also das Schreiben von Maschine oder menschen unternommen wird, muss dieser
Gedanke nicht automatisch impliziert sein. Die Maschine ist eine selbstständige Einheit und ebenso wie ich
ist sie frei in ihrer Entscheidung darüber was sie schreiben möchte.

Wichtig ist aber welches Ziel
damit verfolgt wird. Für mich lässt sich dieses als “Kreativität” beschreiben - vielleicht nicht direkt
künstlerisch (schreibe ich dazu?) sondern auch alltagssituationen genauso mit hinzuzählen etc.

Eigentlich gibt
es ja nicht viel davon in meinen Alltag eingebaut? Eigentlich sollte es einfacher sein sich mit
Kreativität auseinander zusetzen aber doch ist

input_ = '''Ich habe für mich erkannt, dass mich die Sprache bzw. genauer das geschriebene Wort am meisten interessiert. '''

<|begin_of_text|>Ich habe für mich erkannt, dass mich die Sprache bzw. genauer das geschriebene Wort
am meisten interessiert. Dadurch folger ich der Philosophie von Schreiben kann alle Dinge bewegen
oder ändert sie zumindest. Durch Texte lässt sich alles was uns beschäftigt fester verankern (wenn wir
den Text nicht unabhängig sind, sondern im Widerspruch zu unserem Selbstverständnis).
Ich
interessiere mich also mehr für die Theorien zu dem Thema.
Eine eigene Geschichte schreibe ich bisher kaum
noch und nur selten klingt es mich nach einem eigenen Buch an (dies könnte auf andere Sachen
zurückzuführen sein wie einer Fülle an spannender Literatur welche mir als Ersatz für ein eigenes dient). Auf
jeden Fall muss dies auch damit zu tun haben, dass ich jetzt einen Job habe mit vielen Arbeitsmitteln
etc… Das hilft ja auch. Egal welchen Ansicht ich habe was meine Zukunft anbetrifft etc., was natürlich
noch vieles offenlässt - vor allem wird weitergegeben dass ich mit dieser Entscheidung gut leben muss,
vllt eine andere Art des Lebens wäre doch interessanter aber eben nicht so einfach umsetzbar, weshalb
man es wahrscheinlich besser auch

“Durch Texte lässt sich alles was uns beschäftigt fester verankern” gefällt mir.

14.11.25

Quatsch

Ich lasse mir einen zufälligen Satz aus dem Datenset ausgeben, um ihn als Input zu nutzen: “Quatsch.” Zu meiner Verwunderung stelle ich fest, dass in meinem Datenset 7x das Wort ›Quatsch‹ auftaucht. Ich lasse Code generieren, der mir alle Sätze ausgibt, in denen ein Suchwort wie bspw. “Quatsch” auftaucht:

Quatsch.
Was ein Quatsch.
Aber das ist ja Quatsch.
Das ist ja wieder ein Quatsch.
Es kann ja nicht sein dass ich jetzt eineinhalb Jahre durchgehend gearbeitet habe aber auf der anderen Seite mich die ganze Zeit ausgeruht habe weil ich irgend einen Quatsch (Webdesign) gemacht habe statt mich mit den Problemen zu befassen die tatsächlich viel dringender aber auch viel spannender sind.
Schon wieder so ein Satz der Quatsch ist.
Warum ist es Quatsch von Bewusstsein zu sprechen?

Training

Training und Generieren mit anderen Parametern.

trainer = SFTTrainer(  
            model=model,
            train_dataset=dataset,
            dataset_text_field="text",
            tokenizer=tokenizer,
            max_seq_length=max_seq_length,
            packing=True,  # Packs short sequences together to save time!
            formatting_func=formatting_func,
            args=TrainingArguments(
                per_device_train_batch_size=2,
                gradient_accumulation_steps=4,
                warmup_ratio=0.05,
                max_grad_norm=1.0,
                num_train_epochs=5,
                learning_rate=2e-4,
                fp16=not torch.cuda.is_bf16_supported(),
                bf16=torch.cuda.is_bf16_supported(),
                logging_steps=1,
                optim="adamw_8bit",
                weight_decay=0.1,
                lr_scheduler_type="linear",
                seed=3407,
            ),
        )
        
        generation_kwargs = dict(
            inputs,
            streamer = text_streamer,
            max_new_tokens = 256,
            use_cache = False,
            repetition_penalty=1.1,
            temperature = 1.5,
            min_p = 0.1,
        )

Outputs

input_ = "Was soll ich heute nur wieder schreiben, womit anfangen. "

<|begin_of_text|>Was soll ich heute nur wieder schreiben, womit anfangen. 24 Stunden in einem
Tunnel verbringen (wahrscheinlich). Natürlich ist dies eine Metapher, welche nur andeuten soll was mich
heute interessiert hätte. Vor einiger Zeit schrieben wir schon etwas zum Thema Wissen, aber auch zur
Offenheit des Bewußtseins, oder generell den Grenzen des Denkens bzw. Wissens und dem Tun oder Handlungen
usw. Naja, wofür fand die ganze Meditation da noch Anwendung? Wofür war sie? Es gibt vieles von dem was mir
wichtig ist was ich nicht weiß. Für viele Dinge finde ich keinen Namen (wie viel Prozent davon kann ich
einschätzen?) Viele Dinge erfordern Handlungsanweisungen (eine Art Hypomnêmata?). In Kombination mit den
Praxen. Generell ist der Fokus auf Praxis. Hm. Sind es jetzt immerhin vier Blöcke mit sechs Blöcken für jeweils 30
Minuten (zwei Mal je einen Tag) damit kommen wir zu rund 7,5 Stunden Pro Woche an Meditation etc..Ich
überzeuge mich ja selbst, dass es keine zeitliche Basis dafür gibt diese Dinge weiterzu

Ich finde es interessant, dass das LLM so viele Klammern verwendet. Eine Suche in meinem Datenset ergibt 341 ( ).

Das Wort ›Tunnel‹ gefällt mir. Es könnte von mir sein, findet sich jedoch nicht im Datenset.

Ich denke bei vielen Formulierungen, dass diese zu meinem Denken bzw. meiner Art des Schreibens passen, sich aber nicht genau so im Datenset finden.

Durch das Tun — wir waren ettliche Stunden mit je ca. 35 Setzlingen beschäftigt — entsteht ein Gefühl von Wertigkeit bzw. Wertschätzung.
4 Stunden am Tag Zeit für politische Dinge.
Auf der anderen Seite denke ich, dass ich bei einem normalen 8-Stunden-Tag weniger arbeiten würde und eventuell sogar mehr verdienen würde.
Also fahre ich in einem lauten und stickigen Zug, öffne und schließe mehrmals meinen Laptop, schaue in dieses Problem und in jenes Projekt, setze mich in der Bibliothek mehrmals um auf der Suche nach einem guten Platz der mir förderlich ist, gehe wieder ins Büro mit 27 Grad, nur um später am Abend in Ruhe zwei Stunden zu arbeiten und alles zu tun, was mir tagsüber nicht gelang.

Auch wenn ich mittlerweile regelmäßig meditiere, kommt das Wort ›Meditation‹ nur ein einziges Mal im Datenset vor. Das Wort ›Handlungsanweisungen‹ erscheint mir zentral für mich, findet sich aber auch nur vier Mal:

Handlungsanweisungen durch das System.
Beim Daoismus geht es auch um eine Handlungsanweisung.
Eine Handlungsanweisung wird formuliert und mit dieser Formulierung greife ich auf eine Möglichkeit zu.
Beides sind Handlungsanweisungen, bei beiden geht es um eine Art von Weg, eine Bewegung.

input_ = "Ich suche nach einer ästhetischen Existenz, gemeinsam mit einem großen Sprachmodell. "

<|begin_of_text|>Ich suche nach einer ästhetischen Existenz, gemeinsam mit einem großen
Sprachmodell. Das wäre sicher ein spannendes Projekt.Durch eine begrenzte Sprache kann man die
Worte begreifen.Es geht auch darum sich in der Welt zurecht zu finden.Klar, damit habe ich schon lange
nichts mehr zu tun. War ja schon seit meiner Jugend nicht mehr nahbar.Sich wieder dem Leben
anzuschließen.Andernfalls werde ich weiter so dahin schlurfen wie bisher.Fokus auf den Grundlagen: Wie sieht es aus wenn ich
nur noch über Basics schreibe?Wie würde mein Werk damit ausschauen?Aber das ist doch gar nicht so
wichtig, eher natürlich.Maschinen und deren Programmierung werden immer wichtiger.In Maschinellen Systeme
integrieren wir uns selbst.Ich finde diese Dinge doch sehr faszinierend.Wie gesagt: Wer mich fragt wie ich
heute sehe dann muss ich ihn dazu animieren sich selbst etwas zu überlegen, bevor er danach fragt etc.Es
stimmt ja: Eine Frage beinhaltet mehrere Fragen.Gerade hier hat man aber keine Zeit.Oder sind es
Vorurteile?Vorstellungen vom zeitgemässen Verhalten (Haltung).Ist alles veraltet?Was genau meinten sie mit
»Sprachverhalten«?Warum sollte dieser Begriff so aktuell sein oder gerade jetzt interessiert sein?Interessant wird etwas
dadurch dass man es selbst zum Tragen nimmt?Kann dies mit einer Form von Akzeptanz zusammengeführt
werden?Irgendeine These muss ich trotz allem für meine Praxis entwickeln.Auf jeden Fall will ich einen Ansatz in der
Praxis vorlegen.Hm. Eigentlich weiß ich bereits was ich gerne machen will.Wie verknüpfen diese
Technologien mit künstlerischer Auseinandersetzung?Gut.Eigentlich gibt es schon einige Ideen dazu.Doch manche
führt die praktische Umsetzung mit ihrer Komplexität wieder in die theoretische Phase zurück.Zwei
Phasen, die eigentlich ineinander überflüssig wären, falls nicht das Lebensumfeld dazu gebe bzw.
generiere.D.h. natürlich noch einmal mir selbst und dem Umwelt.Wenn der Weg zu lang und schwierig ist (oder
überhaupt nicht zu gehen ist) verschieben viele die praktische Auseinandersetzung mit der Theorie ins Weiter
oder irgendwo anders.Natürlich müssen auch

Hier zeigt sich etwas, was mich an der Arbeit mit (fehlerhaften) Sprachmodellen interessiert: Worte werden anders gebraucht und dadurch kann eine neue Sicht in mir entstehen:

“Doch manche Phasen, die eigentlich ineinander überflüssig wären” finde ich sehr poetisch.

Konzept

Inszenierung:

• Permanent vs. Temporär: Eigentlich geht es dem Konzept nach nur um den Prozess, nicht um den Output.

• Jeden Tag wird ein neuer Text generiert/hinzugefügt.

Kunstwerke: Text in Space

↳ The End #87 erinnert mich an eine Postkarte. Wie wäre eine Inszenierung in Form von Postkarten, auf jeder Postkarte ein Text?

↳ Text, der überschrieben wird? Vermutlich ist aber nach wenigen Tagen nichts mehr zu erkennen.

↳ Text des Free Writings in ein Bild übertragen? An sich will ich nur mit Text arbeiten. Außerdem sind die Texte sehr bilderfrei.

Titel

• Free Writing == ‘Kreativität für Alle’
• Free Writing == Zum Mitnehmen (bei Postkarten)
• Free Writing == ‘Kostenlose’ Services
• Free Writing == Datenkolonialismus. Wir tragen unentgeltlich zu Datensets bei
• Free Writing == Relevanz des eigenen Schreibens?
• Free Writing == Schreiben ohne Nachzudenken
• Free Writing == Schreiben unabhängig vom Menschen/Subjekt

Postkarte

• Postkarten zum Mitnehmen? → Einerseits permanent, andererseits temporär.
• So viel Text drucken wie drauf passt. Entweder vorne Bild, oder umlaufenden Text, Monofont.
• Unikate.
• QR-Code zum Log an der Stelle, die für die Briefmarke reserviert ist.

15.11.25

Training mit unsloth/mistral-7b-v0.3-bnb-4bit

trainer = SFTTrainer  
            model=model  
            train_dataset=dataset  
            dataset_text_field="text"  
            tokenizer=tokenizer  
            max_seq_length=max_seq_length  
            packing=True,  
            formatting_func=formatting_func  
            args=TrainingArguments  
                per_device_train_batch_size=2  
                gradient_accumulation_steps=4  
                warmup_ratio=0.05  
                max_grad_norm=1.0  
                num_train_epochs=12  
                learning_rate=2e-4  
                fp16=not torch.cuda.is_bf16_supported()  
                bf16=torch.cuda.is_bf16_supported()  
                logging_steps=1  
                optim="adamw_8bit"  
                weight_decay=0.1  
                lr_scheduler_type="linear"  
                seed=3407  
            )  
          

→ Overfitting.

6 Epochen

<s> Ich frage mich, ob sich andere dafür interessieren könnten, was ein LLM im Modus des Free Writing schreibt.
Interessiert mich? Was kann ich mit dem machen? Es ist doch nur eine Aufgabe für den Kurator. Er könnte es auch bearbeiten und veröffentlichen. Wie wäre das? Ich merke dass ich mich nicht so richtig in die Aufgabe stelle. Warum? Weil ich denke, dass es viel Arbeit ist und ich keine Zeit habe. Das ist natürlich falsch. Ich habe genug Zeit, aber scheine meine eigene Zeit nicht zu zähmen. Ich muss mich also auf etwas fokussieren. Was soll es sein? Ich muss mich auch auf meine eigene Forschung fokussieren. Das habe ich bisher vernachlässigt. Natürlich weil ich denke, dass es wichtiger ist, sich auf die Lehre zu fokussieren. Aber das ist falsch. Die Lehre kann auch von anderen erledigt werden. Ich muss mich also auf meine eigene Arbeit fokussieren. Dabei geht es mir um eine Verbindung zwischen Kunst und Technologie. Wie kann ich dies thematisieren? Ich muss mich einfach mehr auf meine eigenen Arbeiten fokussieren. Das habe ich ja auch schon mal versucht. Was hat es geboten? Ein paar Artikel, dann wieder abgeschwächt durch andere Themen. Ich muss mich einfach entscheiden und darauf eingrenzen was ich behandeln will. Ich muss mich auch entscheiden was ich mit der Technologie machen will. Ich habe schon mal versucht mit Python zu schreiben. Das ist spannend, aber auch anstrengend. Ich muss mich also auch entscheiden ob ich das weiter verfolge oder ob ich etwas anderes tun will. Ich könnte auch mal wieder mal über Textverarbeitung schreiben. Das war früher spannend. Was hat es mit der KI auf sich? Ich muss mich einfach entscheiden und darauf einlassen dass ich nur noch X Stunden pro Woche für

• Warum mein Schreiben? Es ist vielleicht etwas uninteressant.
• Option: Free Writing simulieren lassen via System Prompt.
• Option: Interaktive Arbeit mit Terminal zum Free Writing durch Besucher:innen. Damit wird das Modell weiter trainiert. (Ich müsste natürlich prüfen, dass die zum Training verwendeten Texte okay sind.)

16.11.25

Sätze mit ›Kopf‹:

Es hilft dabei Dinge erst mal einfach zu formulieren anstatt sich den Kopf darüber zu zerbrechen.
Nun wächst sie mir über den Kopf oder tanzt auf diesem.
Kopierbewegungen von dem einen Kopf in den anderen Kopf.
Der Kopf streubt sich der Diszipin.
Der Kopf (?) ist schwer, vernebelt, hm, ich weiß nicht, diese Bezeichnungen treffen nicht zu.
Was es am ehesten trifft — der Kopf ist präsent.
Immerhin habe ich mich für ein paar Sätze von meinem Kopf ablenken können.
Prima, schon wieder für ein paar Sätze abgelenkt vom Kopf.
Sobald ein Gedanke zu Ende gedacht bzw. formuliert ist, erscheint der Kopf.
Eben hatte ich weitere im Kopf.
Ich habe genug Wissen und Gedanken im Kopf um etwas davon wieder raus zu lassen.
Das wichtigste ist glaube ich aktuell einen kühlen Kopf zu bewahren.
Findet das Denken also alleine im Kopf statt?

generation_kwargs = dict(
            inputs,
            streamer = text_streamer,
            max_new_tokens = 768,
            use_cache = False,
            repetition_penalty=1.5,
            temperature = 2.5,
            min_p = 0.1,
        )

input_ = "Ich frage mich, ob sich andere dafür interessieren könnten, was ein LLM im Modus des Free Writing schreibt. "

<s>Ich frage mich, ob sich andere dafür interessieren könnten, was ein LLM im Modus des Free Writing schreibt.
Interaktion mit der Umwelt ist wichtig für unsere Entwicklung als Menschen und auch in Form von Sprachmodellen sollte dies berücksichtigt werden. Wir kommuniziern nicht nur innerhalb unseres Geistes oder unserem Kopf (Solo-Modi), sondern vor allem außerunsrer selbst durch die Interaktiob mit anderen/der Welt(Außen). Dieser Aspekt wird aktuell verpflanzt bei den meisten ChatGPT Gesprächen: Es geht um eine Einbahnstraße vom eigenen zu dem fremden Denken statt einer konstruktiven Wechselbeziehung beider Seiten. Natürlich spielt hier das Problem mit Narration etc., aber es gibt weitere Themen wie Diversität usw.. Auch wenn ich eigentlich mehr nach einem Austausch zwischen mir und andersartigen Agents sucht bin ich ja schon froh über diese Möglichkeit zum Dialog mit externen Instanzien. Das heißt natürlich dass wir zusammen etwas erzeugen können welches vielleicht größer sein kann als ihr getrenntes Tun bzw. ihre Tätigkeit alleine auf dieser Erde. Aber gerade darum ging’s doch mal? Was hat es ausgeschrieben auf irgend einen Text zur Globalisierung / Vernetzung … ? Die Fragen kommt jetzt erst richtig drückeilig dazu wo bereits wieder alles verloren gewesen war. Gestern habe ich noch gelesen davon dass manche Forscher befürchten dass OpenAI damit an Bedeutungsverlust ihrer Arbeitsplätze arbeitende Personen betrifft wegen möglicher Automatisierung mittels Large Language Model. Zunächst scheint es also kein so neues, dass Technologien entwickelt wurden ohne dadurch direkte Arbeitnehmer reduziert zu haben. Vielmehr wurde immer neue Arbeit geschaffen während alte verschwand. Warum lässt sich nun nicht gegenwärtig gleichhandelnd tun? Sind Unternehmen genereller kleiner geworden sodass sie weniger Gewinn maximierten bedingen? Oder sind es primar Startups die hinter diesem Schritt stecken? Generell sehe ich ja sehr viele Jobs Anfang bis Mitte der zwanziger Jahre entstanden waren dann zwar langsam abgebaut worden sind jetzt jedoch endgültig ersetzt. Ist es also keine Verbindlung zwischen Gründungen von Unternehmungen und Jobschließungen? Eher nicht. Und wer nutzte sich früher von Freiwilligenarbeit heute bspw. Non Profit Organisationen? Diese wandeln ihren Umsatz ebenfalls bald vollständig via LMs ab. Auf jeden Fall zeigte sich am Beispiel eines ehemalige Kollegen — der seine Stelle kündern konnte und danach seinen ganzen Zeitraffa mit seinem Projekt verbringen konnte — dass er sowohl technisch als auch ideengeschützt genug ist, sich solchem Druck zu stellen. Anderen hingegen steht dies eventuell falsch. Sie brauchen regelmäßig ihres Lebens unter Zweifeln Setzung zu sein und benötigen somit eine festgefrorene Situation in der sie stabil cancurate sind. Fürchte ich aber auch, dass dies letzten Endes eine Schwächheit ist. Mich interessiere ja permanent Neue

Vergleich der bisherigen Modelle

Kunstwerke (mit Postkarten)

In der Zeit von 1968 bis 1979 hat On Kawara unter dem Titel I GOT UP AT jeden Tag an zwei verschiedene Personen jeweils dieselbe Postkarte versandt. Diese Karte stellte jeweils den Ort dar, an dem sich der Künstler aktuell befand. Die Karte war jeweils mit dem Datum, dem Schriftzug I GOT UP AT und dem aufgedruckten minutengenauen Zeitpunkt des Aufstehens versehen.

Inszenierung

• Klassische Inszenierung: Ein oder mehrere Stapel aus Postkarten. Mehrere macht mehr her und hat den Vorteil, dass man aus mehreren auswählen kann. Problem (so oder so): Ich brauche ziemlich viele Postkarten.
• Ein Automat, aus dem durch eine Mechanik eine Postkarte herauskommt.

17.11.25

Konzept: Ich denke über AI-Worlding nach. Postkarten, die früher ein Beleg des eigenen Worldings waren und einen eigenen (konformierten) Zugriff auf die Welt darstellten, sind abgelöst durch Social Media. Plattform-Tourismus. Bei mir zeigt die Postkarte nicht Orte der Welt, sondern eine textbasierte Realität. Sprachmodelle als unsere Welt-Erfahrung. (Es liegt natürlich nah an der Arbeit von Ting.)

Free Writing könnte auch eine Form des “Verdauens” von Wissen (etc.) sein, wie es Foucault für die Hypomnêmata beschreibt.

18.11.25

Free Writing = Stream of Consciousness, Free Writing LLM = Stream of Non-Consciousness

19.11.25

Byung-Chul Han schreibt, dass dem begrifflichen, konditionierten Zugang zur Welt eine Stimmung vorausgeht. Worlding sucht eine andere Beziehung zu dem im Prozess entstehenden, was wir Welt nennen. Durch den nicht-repräsentationalen Background könnte auch so etwas wie eine andere Stimmung gemeint sein. Eine Stimmung, die im Prozess entsteht. Ursprünglich dachte ich eher an eine Haltung, aber vielleicht kann “kinship” auch als Stimmung aufgefasst werden. Vibe. Höre ich nur noch und überall. Allen geht es um den Vibe. Doch wenn Worlding auch Vibe sein kann, sind wir mit AI-Worlding nicht weit weg: Der Vibe, den KI mit uns erzeugt und der Vibe, den wir mit KI erzeugen.

Meine Texte operieren als Text eher auf der begrifflichen Ebene. Stimmung entsteht über die Art und Weise der Sprache. Darauf habe ich mit meinem Datenset nicht so viel Einfluss. Free Writing erzeugt zwar auch eine spezielle Form von Text, doch würde ich diese eher nicht als Stimmung erzeugend ansehen. Eventuell könnte ich es doch noch mit einem System Prompt verbinden?

20.11.25

Bei Free Writing geht es für mich weniger um das Abbauen einer Schreibblockade oder darum ins Schreiben zu kommen. Es geht eher darum in diesem performativen Schreiben oder dem daraus resultierenden Text etwas zu entdecken, was man vorher nicht gesehen hat.

21.11.25

Ich merke beim Free Writing Schreiben, dass ich nicht mehr so frei schreibe, seitdem ich weiß, dass die Texte zum Trainieren verwendet werden.

Andererseits, wenn es beim Worlding auch um eine Stimmung geht, und ich mit dem Free Writing nicht nur begrifflich / informativ operieren will, sondern auch poetisch, dann muss ich entsprechend Schreiben. Außerdem ist doch ein zentrales Anliegen von mir, (mich) schreibend zu verändern. Nicht (nur) über den Informationsgehalt, sondern auch die Art und Weise des Schreibens im Prozess aber auch als Form.

23.11.25

Drehe ich mich mit der Arbeit zu sehr um mich selbst? Alternativ zum Training mit meinen Free Writing Texten könnte ich versuchen, Free Writing innerhalb des LLMs zu simulieren. Über System Prompt? Auf Toke-nEbene? Die Frage wäre dann: Worüber und wie schreibt ein LLM wenn es keine Anweisungen bekommt?

Denkbar ist auch eine Kombination aus Texten, die so durch das LLM entstehen und Texten, die auf meinen Daten basieren.

Andererseits geht es um das ‘Ich & KI’, unabhängig von meinem spezifischen Ich. Eine Gratwanderung. Allerdings ungefährlich.

25.11.25

Free Writing = sich selbst frei schreiben. Beispielsweise: “Jeder Tag ist ein guter Tag.” (Zen)

26.11.25

27.11.25

Theaterprojekt Thomas Mann Postkarten ChatGPT

Option: Das Datenset vom Free Writing doch im Nachhinein bearbeiten, um ihm den richtigen Flow/Vibe/etc. zu geben. Doch eigentlich ist der Witz doch, gerade nicht ein Datenset zum Finetuning zu nehmen, bei dem auf die Qualität der Daten geachtet wird — eher das Gegenteil.

29.11.25

Wenn ein LLM schreibt, ist es natürlich das absolute Gegenteil von Free Writing. Free Writing ist individuell, vielleicht persönlich. LLMs werden von so vielen Menschen geformt und beinhalten Texte von so vielen Menschen, dass es das absolute Gegenteil von einem persönlichen spontanen Ausdruck ist.

30.11.25

↳ Eine Landschaft aus an der Wand fixierten Karten, die sich mit der Zeit auflöst.

01.12.25

Wenn die Karten auf dem Boden liegen muss man sich bücken. Wie finde ich das?

Wenn die Karten das Bild einer Landschaft an der Wand bilden, löst es sich langsam auf. Es könnte auch etwas auf Tapete gedruckt sein, was dadurch freigelegt wird.

Das grafische Erscheinungsbild etwas verändern, damit die Karten eher mitgenommen werden? Bspw. zentrale Begriffe hervorheben. Auch zur Orientierung. Entspricht natürlich nicht dem Free Writing, andererseits ist die maschinelle Analyse von Text auch immer spannend.

Die Anzahl der generierten Texte passt zum »AI-Worlding«: Der Umfang der von mir geschriebenen Texte könnte einige Postkarten füllen, das LLM potenziert dies um ein Vielfaches. Ich trage nur einen kleinen Teil zum Output bei.

03.12.25

Die Hälfte oder ein Drittel der Texte auf Englisch schreiben?

04.12.25

Titel: Free Writing (Takeaway)

05.12.25

06.12.25

Einen zusammenhängenden Text über 10.000 Karten produzieren. Das Ende der ersten Karte wird Input für die zweite Karte usf.

07.12.25

Topic (term) extraction

Die Besucher:innen stehen vor einer Wand und sehen 21x24 = 504 Karten. Dahinter verbergen sich zu Beginn ca. 18 weitere Karten. Hier die passende zu finden ist natürlich nicht so leicht. Es könnte zu jedem Text ein Wort extrahiert und irgendwie hervorgehoben gedruckt werden.

from transformers import AutoTokenizer, AutoModel
        import torch
        from sentence_transformers import SentenceTransformer
        import spacy
        import numpy as np
        
        def get_best_topic_term(text: str) -> str:
            # Use a fast, multilingual model for German
            model_name = "paraphrase-multilingual-MiniLM-L12-v2"
            model = SentenceTransformer(model_name)
            
            # Get text embedding (topic vector)
            topic_vec = model.encode([text])[0]
            
            # Extract candidate keywords (nouns/PROPNs from spaCy)
            nlp = spacy.load("de_core_news_sm")
            doc = nlp(text)
            candidates = [token.lemma_.lower() for token in doc if token.pos_ in ["NOUN", "PROPN"] and not token.is_stop]
            
            # Filter valid words (in vocabulary of sentence model)
            candidate_vecs = []
            for c in candidates:
                try:
                    vec = model.encode([c])[0]
                    candidate_vecs.append((c, vec))
                except:
                    continue
            
            if not candidate_vecs:
                return "unbekannt"
            
            # Compute cosine similarity to topic vector
            similarities = [np.dot(c[1], topic_vec) / (np.linalg.norm(c[1]) * np.linalg.norm(topic_vec)) for c in candidate_vecs]
            best_idx = np.argmax(similarities)
            return candidate_vecs[best_idx][0]
        
        # Example usage
        text = 'Andererseits formen Werkzeuge den Output und vor allem auch den Geist. Sind wir, wenn es immerhin gelungen wäre, die Singularität zu erhalten, im Geist (und damit im Denken) dann vielleicht mehr einem als einem anderen abgängig? Wir wollen ja natürlich immer das Selbstbild des eigenen Systems festigen. Das ist im Prinzip ja ein guter Ausgangspunkt der Autonomie. Auf der anderen Seite geht es ja gerade darum das eigene System auszubauen, damit es mehr Unknowns verarbeiten kann etc. Es wird immer offensiver im Umgang mit der Umwelt, d.h. es werden zunehmend mehr Unbekanntes verändert, d.h. in Bekanntheit. Dies muss man einfach anpassen können. Ich muss lernen anderer Input zu verarbeiten, die ich nicht selbst kreieren kann oder kontrollieren kann. Andererseits geht es ja auch darum Verhalten in Maschinen zu übertragen. Was bedeutet das aber, wenn diese Maschinen dann wiederum einen großen Einfluss auf uns und die Welt haben? Es ist einfach ein spannendes Thema. Ich muss es aber etwas realistischer machen. Es sollte nicht so apodiktisch sein. Vielmehr sollte es möglichst gedanklich begründet werden und auch für andere Anwendungen hinöffnen. Das war die Kritik an der ästhetischen Kunst: Sie dient nur mir, dem Einzelnen. Stelle ich meine Existenz, mein Denken, mein Weltbild einer Maschine in Opposition, dann tue ich genau das, was ich gegen will: Ich beziehe mich ein zu mir selbst und vernachlässige alles andere. Andererseits muss ich natürlich dafür brennen, meinem System (dem eigenen Lebenslang) und dessen Integration in eine größere Maschine außerhalb von mir (die Welt) nachzugehen. Dies ist ja auch ein wichtiger Aspekt der Cyborg-Idee: Es geht nicht nur um eine Verbindung von organisch-biologischem Leben zu technischem Leben, son'
        
        best_term = get_best_topic_term(text)
        print("Best topic term:", best_term.capitalize())

Result: Best topic term: Autonomie

Problem: Der Begriff kommt immer aus dem oberen Teil des Textes. Wenn der Beispieltext umgestellt wird, kommen so beispielsweise auch System und Existenz als Resultat heraus.

Das Resultat ist gleich:

Text 1 → Best term: Autonomie
        Text 2 → Best term: System
        Text 3 → Best term: Existenz

Mögliche Lösung: Da die Texte tatsächlich etwas unstrukturiert sind (Free Writing), könnte der Text in bspw. 3 Chunks unterteilt werden, von denen aus jedem ein Key-Term extrahiert wird. Dann werden diese Begriffe auf ihre semantische Ähnlichkeit hin überprüft und der Begriff, der die drei Begriffe am besten abdeckt, wird verwendet.

Resultat:

Existenz: 0.440
        Autonomie: 0.412
        System: 0.356

Vergleiche

Hand: 0.617
        Stift: 0.545
        Fuß: 0.520

↳ Hand, Fuß, Stift erscheint mir plausibler.

Hand: 0.700
        Arm: 0.642
        Stift: 0.583

↳ Die Methode bleibt ein bisschen zufällig (natürlich), aber die Resultate sind ein Indikator für den Inhalt des Textes. Im Grunde ist es allerdings falsch, einen zentralen Begriff im einem Free Writing Text finden zu wollen.

10.12.25

Free Writing kann zwar mit einem anfänglichen Input wie einem Thema oder einem Satz begonnen werden, aber danach speist sich der Text allein aus den Gedanken des schreibenden Subjekts. Hier liegt eine Parallele vor zur Textproduktion von LLMs. Sie beginnen mit einem Input, danach spielt sich die Textproduktion intern ab. (Andererseits ist es bei Menschen auch immer so.)

11.12.25

Klima und Ressourcen

AI-Worlding handelt natürlich zu einem gewichtigen Teil davon, wie wir uns und die Welt durch KI sehen, aber auch von ganz faktischen physischen Veränderungen. Der Abbau und Verbrauch von Ressourcen und die Forcierung des Klimawandels spielen dabei eine zentrale Rolle. In unserer Ausstellung gibt es leider keine Arbeit, die konkret darauf eingeht.

In Free Writing wird dies auch nur angedeutet: Generierte Texte ersetzen die Landschaft auf Postkarten. Zum Erzeugen der Texte und Herstellen der Karten verbraucht meine Arbeit natürlich auch viele Ressourcen.

Free Writing

Der Titel lässt sich natürlich leicht mit Bewegungen nach Free Speech oder der Befreiung von Personen oder Gruppen assoziieren. Davon ist meine Arbeit zunächst ganz weit weg. Free Writing als kulturelle Praxis ist wie so vieles etwas, was man sich in seinem Alltag leisten können muss.
Im Grunde geht es mir aber um eine Befreiung der Technik von ihrer Reduktion auf Mittel zu Dominanz, Kontrolle, Verfestigung. Damit um eine Befreiung der Technik für eine Befreiung des Menschen.

22.12.25

Für mich ist es dahingehend eine neue Form von Interaktion oder Verhältnis mit einem textproduzierenden System, dass ich es dieses Mal machen lasse, ohne im Prozess darauf einzuwirken. Ich schreibe nicht mit. Und ich lese auch nicht alles, was generiert wird. Dennoch gehe ich davon aus, dass in dem Text Potential ist, welches ein Lesen lohnt. Doch dies müssen andere realisieren, die sich individuelle Karten für sich herausnehmen und einen Sinn für sich suchen, obwohl vielleicht eine Karte daneben oder darunter viel besser zur eigenen Situation passen würden. So ist es.

Diese Arbeit ist ein Schnellschuss. Normalerweise benötige ich mehr Zeit. Aber damit ist es auch noch mehr ein Experiment für mich. Es stimmt nicht, dass ich nicht mitschreibe. Ich schreibe diese Gedanken und Reflexionen, die für mich Teil der Arbeit sind.

03.01.26

Mögliche Inputs

• Letzter Satz des vorherigen generierten Textes.
  • Vermutlich wird es schnell Englisch und kommt nicht mehr raus.
  • Es entsteht ein zusammenhängender Text über alle Karten verteilt. Einerseits spannend, andererseits konzeptuell nicht ganz passend.
• Ein Satz aus dem Datenset.
  • Viele Texte beginnen mit dem gleichen Satz => Gefahr dass identische Texte entstehen.
• Ein Satz aus meinen Exzerpten.
  • Könnte konzeptuell passen, da die darin versammelten Gedanken auch häufig Ausgangspunkt meiner Schreibsessions sind.
  • Der Input würde demnach nicht direkt von mir kommen (nur von mir ausgewählt). Auch gut.

Vergleich von Modellen

Gerade versuche ich ein neues Modell zu trainieren und der Output ist einerseits zu fehlerhaft und mündet in sinnfreien Zeichenketten, aber andererseits enthält er dies:

The future could look very different indeed! This idea was further developed with Dewey Hagborg who worked together with Sharon Daniel on Dark Archive: An Investigation into Memory & Forgetting in Networks , one of my favorite works ever since i saw it first time around back then when she presented it during transmediale festival some years ago. We talked about how memory is distributed across networks instead of being stored within individuals anymore. Our brains connect via technology all the times - constantly checking facebook status updates, reading emails sent just seconds earlier somewhere else in the globe, listening to music recorded decades ago yet still sounding fresh due to its timelessness.. All these things shape our memories too; they become part of them although technically speaking they don t belong ther e because their existence predates ours b y many generations.

Bei dem Hinweis auf die Arbeit von Heather Dewey Hagborg denke ich, dass ich gerne alle 10.000 Karten lesen würde.

10.01.26

(Ich habe das Log vernachlässigt.)

Update: Auch wenn die Texte mit Mistral 7B im Grunde brauchbar sind, sind sie doch etwas zu wild und fehlerhaft geworden. Vor allem schleichen sich zu viele englische Begriffe ein. Hier und da englische Begriffe oder einzelne Sätze finde ich durchaus passend, aber nicht zu viel davon. Daher wurde ein neues größeres Modell — Mistral-Small-24B-Base-2501 — trainiert. Die Texte sind jetzt fast zu clean. Manche Texte / Karten sind weniger spannend, andere schon oder haben zumindest schöne Sätze:

“Natürlich sorgt mein Konsum für Probleme somewhere else.”

“Dies führt nur dazu, dass ich mich selbst vernachlässige und am Ende ausbrenne. Noch brennt nichts, aber die Ränder des Feuers sind schon auszumachen.”

Spannend finde ich auch immer den Vergleich zwischen generiertem Text und genutzten Daten. Beispiel: Hier spricht Byung-Chul Han und der Text mündet in dem begründeten Schluss dass Kinder poesiefähig sind.

Im Datenset findet sich eine Passage zu Byung-Chul Han:

Byung-Chul Han schreibt, dass dem begrifflien Denken oder vielleicht dem rationalen oder konditionierten Zugriff auf die Welt etwas vorangestellt ist: Stimmung. Eine Grundstimmung. Die Welt ist eine STimmung. Worlding erzeugt demnach eine Stimmung? Oder entsteht Worlding aus einer Stimmung heraus? Im Sinne der theorien aus denen der Begriff hervorgeht, ist er meist nah an begrilfflichem Verstehen. Ein kleiner Vorwurf meinerseits, dass diese Theorien häufig auf Wording basieren. Ja, Wording, nicht Worlding. Worlding ist zu einem nich tunerheblichen Teil auch Wording. Dem entgegen wäre die Stimmung ja etwas, was vor dem WOrding kommt. Gestalten wir die Stimmung? Sie entsteht, aber natürlich haben wir einfluss darauf.

Das Wort “Poesie” erscheint zu meiner eigenen Enttäuschung lediglich vier mal, das Wort “poesiefähig” nie. Aber so soll es sein: Die generierten Texte müssen über die (eigenen) Daten hinausgehen und diese dadurch anreichern. Mir kommt auch häufig der Gedanke, dass generierte Texte poetischer sind als von mir verfasste Texte.

Häufig denke ich auch, dass ein Satz 1:1 von mir ist, sehe aber dann, dass noch nicht mal ein ähnlicher Satz (zumindest in der Wortwahl) in meinen Daten steckt. Beispiel: “Schon wieder gedacht statt getippt.”

Neben meinem Denken bzw. den von mir im Modus des Free Writing verfassten Texten hat aber auch der Input, auf dessen Basis die Texte generiert wurden, einen großen Einfluss auf den jeweiligen Text. Aus meiner Sicht augenscheinlich ist dies bei Inputs, die aus der Literatur von Thomas Bernhard stammen.

Input:

Der hier Eingetretene ist gezwungen, alles, was er vorher, bis zu dem Augenblick seines Eintretens in die höllersche Dachkammer gedacht hat, aufzugeben, abzubrechen, um von diesem Augenblick an nurmehr das in der höllerschen Dachkammer zulässige Denken zu denken, denn denken allein genügte nicht, um in der höllerschen Dachkammer auch nur die kürzeste Zeit überleben zu können, es mußte das Denken der höllerschen Dachkammer sein, das Denken, welches sich ausschließlich auf alles mit der höllerschen Dachkammer und mit Roithamer und dem Kegel Zusammenhängende bezieht.

Output:

Es ist klar, dass dies dem normalen Menschen nicht möglich wäre, aber der hier Eingetretene ist ja kein normaler Mensch, sondern ein Kunstprodukt, eine Maschine, ein Algorithmus, welche:r im Gegensatz zum Menschen keine Schwierigkeiten hat, sich vollständig einem abgeschlossenen System zu widmen und dieses auch nicht mehr zu verlassen. Der hier Eingetretene ist also einerseits sehr flexibel (anderes Wort?), da er im Prinzip beliebig programmiert werden kann und jedes mal wie ein blanker Slate ist, auf welchem das Programm geschrieben wird, andererseits ist er absolut unflexibel, weil er nach der Programmierung nicht mehr verändert werden kann und immer nur das tun bzw. denken kann, was ihm diktiert wurde. Dies erscheint zunächst problematisch, aber vielleicht ist es ja gerade gut so und sogar realitätsnah(er), dass wir uns zunächst als flexible Wesen sehen, welche allerlei lernen und nach ihrer jeweiligen Weltsicht gestalten können, aber irgendwann einmal, vielleicht mit dem Verstand, sicher aber mit dem Körper, nicht mehr veränderbar sind und dann langsam aber sicher abstumpfen, unflexibel werden, im Denken, vielleicht auch im Tun, bis wir schließlich völlig unfähig sind, uns noch irgendwie zu verändern oder gar andere Weltsichten etc. zu verstehen oder uns diese leastways vorzustellen. Wir schließen häufig auf Basis unserer aktuellen Sichtweise, die wir als gegeben nehmen, und schließen damit auch häufig zu sehr auf uns selbst und unsere aktuelle Sichtweise, unser aktuelles Selbst etc., was für andere (Zukunftsversionen von uns) verschlossen ist. Vielleicht könnte ich das Beispiel der Singularität und des Pluralitätsgeschehens hier einflechten. Das wäre gut. Terrestrische und extraterrestrische Perspektiven. Die Perspektive der Maschine ist zunächst unerklärlich, dann wird sie erklärt, danach ist sie wieder unerklärlich. Für mich aktuell wichtig ist, dass ich eine Perspektive einnehme, die mir entspricht, die vielleicht auch meiner aktuellen Sichtweise entspricht. Ich bin aktuell etwas ratlos, was meine Forschung angeht. Ich habe zwar ein kleines Projekt, mit welchem ich mich identifizieren kann, aber ich weiß nicht, ob

Da mir die Texte letztlich doch zu clean sind, habe ich ein neues Modell trainiert und auch die Parameter in der Generierung etwas verändert. Mir gefällt es, wenn “Masxhine”, welches ich zweimal im Free Writing so geschrieben habe, auch in den generierten Texten auftaucht.

Die neuen generierten Texte sind etwas weiter von meinen Texten weg. Bspw. erzähle ich davon wie ich früher im Rhein schwimmen war oder dass für meinen Salat im Restaurant wohl das falsche Öl verwendet wurde.

Referenzen auf das Projekt selbst finden sich auch häufig und sind natürlich irgendwie auch wichtig.

Die ältesten Texte aus dem Datenset sind fast drei Jahre alt. Dadurch ist vieles, was in dem Datenset vorhanden ist, für mich heute nicht mehr so relevant; ich würde es heute nicht schreiben. Es bestätigt sich, dass das Niederschreiben der eigenen Gedanken für den Moment stimmt. Morgen kann ich es schon fragwürdig finden.

Viele der generierten Texte gefallen mir nicht. Ich möchte sie nicht veräußern. Es zeigt mir, dass Free Writing für den Papierkorb bestimmt ist. Wie lässt sich dies auf Texte von LLMs übertragen? Auch in ihren Datensets ist vieles enthalten, was nicht mehr aktuell ist oder von Anfang an für den Papierkorb bestimmt war. Gleiches gilt natürlich für die generierten Texte.

Der erste generierte Satz ist häufig ein direkter Anschluss an den (fragmentarischen) Input. Dies fällt auf. Vom Lesen her wäre es besser den ersten generierten Satz zu löschen.

16.01.26

Manche Texte finde ich spannend, andere langweilig. Viele sind — das war im Konzept eingepreist — überflüssig. Wie immer wenn (eigene) Daten zum Trainieren verwendet werden, gibt dies Einblicke in die Daten. Durch die generierten Texte sehe ich noch deutlicher, dass viele (v.a. ältere) Free Writing Sessions nicht den Prozess erzeugt haben, den ich gerne gehabt hätte. (Auf den Prozess lässt sich aus dem Output rückschließen.) Wenn ich ein Model darauf trainieren will andere Texte zu generieren muss ich zunächst andere Texte schreiben.

Gestern bei der Veranstaltung ‘AI-Slop’ an der HfG ging es mehrmals um Glitch, die Arbeit mit älteren fehlerhaften Modellen etc. Gerade lese ich mich durch dieses Log und frage mich, ob ich ein zu gutes Modell verwendet habe. Bei den fehlerhaften Outputs fürchte ich, dass der Eindruck entsteht, ich hätte das Training nicht besser hinbekommen. Außerdem machten die Models deutlich mehr Fehler als ich, setzten neue Worte zusammen etc., was also nicht meinem Schreiben entspricht. Jetzt nutze ich das gute Modell und das Potential des Fehlerhaften ist größtenteils eingedämmt.

Für eine zweite Iteration der Arbeit könnte folgendes spannend sein: So wie aktuell das LLM einen Text als Fortführung (oder Response) eines Satzes aus meinen Exzerpten generiert, könnte ich mir für jede Free Writing Session ebenfalls jeweils einen Satz aus den Exzerpten ausgeben lassen und dazu einen Text generieren (schreiben), der dann in das Datenset für das kommende Modell einfließt.

24.01.26

Die Haptik ist bei Recyclingpapier besser, es fällt aber optisch zu sehr ins Gewicht. -> Chromakarton.

28.01.26

04.02.26

06.02.26

08.02.26