Mit eget kontekstvindue bliver fyldt op før agenternes

Nu hvor AI er blevet en stor del af vores hverdag, og især som udvikler, er jeg begyndt at lægge mærke til de nye udfordringer som der opstår ved daglig brug af AI agenter. Som udvikler er det en hel anden arbejdsgang man har fået sig, ofte hvor man sidder med flere agenter på samme tid indtil ens hoved eksploderer. Det er faktisk den problemstilling jeg vil snakke om idag. Fordi jeg er stor tilhænger af at vi mennesker arbejder bedst under dedikeret fokus.

Jeg kan mærke på mig selv at jeg derfor ofte bliver frustreret og hurtig udmattet når jeg sidder i en fokus session hvor jeg skal forholde mig til flere agenter. Specielt hvis deres context er i stor kontrast med hinanden. Min primære hypotese er at jeg tror ikke vi mennesker kan opnå et optimalt output af vores arbejdstid ved at udelukkende øge mængden af agenter i brug samtidigt.

Forestil dig kort at en AI agent er en kollega på dit team. Du uddelegerer en opgave til den kollega, og forsætter derefter med en anden opgave. Kollegaen kommer derefter over og stiller nogen spørgsmål. Det er fint nok i starten, men de bliver ved med hyppigt at afbryde dig og stille flere spørgsmål. Derudover er spørgsmålene også ret komplekse, fordi det viser sig at den nye kollega faktisk er rimelig klog.

Spørgsmålene er ofte meget detaljeret og krævende at forstå. I sådan et tilfælde ville det nok være urealistisk at opnå et optimalt flow state med noget andet arbejde. Det er essensen af det problem jeg sidder med i min hverdag.

En anden måde at se det på er at forestille sig at vi mennesker har vores eget context vindue. På samme måde som en AI agent har et context vindue. Hvis jeg så starter 3 forskellige agent sessioner samtidigt, som hver har deres eget fokus som skelner sig meget fra de andre. Så bliver mit eget personlige context vindue hurtigt fyldt op.

Hele det her problem bygger på noget jeg har nævnt tidligere, at vi mennesker ender med at blive flaskehalsen for hvor effektiv AI kan være. Det er derfor afgørende at vi optimerer brugen af AI agenter ved at fjerne os selv fra processen så meget muligt.

Det siger jeg dog trods alt med et skævt smil, da vi stadig ønsker agenterne har vores interesser i mente. Målet er derfor ikke at fjerne os selv helt fra ligningen, men i stedet at vi placerer os selv i workflowet så vi optimerer for vores tid og ekspertise.

Jeg kan til gengæld også hurtigt forestille mig et scenarie hvor en sådan optimering kan ende i spildt arbejde. Hvis man har sat sin agent igang med en opgave som den får eksekveret helt forkert, så har man potentielt spildt en masse tid på noget der skal laves helt om. Den primære løsning på det problem er et øget fokus på dokumentation og iterativ forbedring.

I mit arbejde, så er det sidste man har lyst til at få som opgave, at skrive dokumentation. Det er seriøst røv sygt. Men det ligner (desværre) noget som bliver endnu vigtigere fremadrettet. For det er den bedste måde at give AI agenterne så meget context som muligt omkring sit ønskede udfald.

Jeg tror derfor også at vi fremadrettet vil se flere teknologier komme frem som gør det nemmere at dokumentere alle former for vidensdeling og videreudvikling.

Nu er jeg kommet lidt langt fra min originale pointe, så jeg gentager lige. Jeg syntes jeg hurtig rammer grænsen for hvor mange agent sessioner jeg kan have kørende på samme tid uden at kvaliteten af mit arbejde dykker.

Fremadrettet har jeg derfor tænkt mig at være mere opmærksom og strategisk på hvilke opgavetyper jeg vælger at udføre sammen med en agent. For for mit eget vedkommende virker det på nuværende tidspunkt til at være 1 agent der udfører en større opgaver som ikke kræver afklaringer og 1 agent som sparringspartner til mindre opgaver. Domænet for de to agenter burde også optimalt set have noget med hinanden at gøre.