Jeg hadde samme tanke, så jeg har lekt med det i nanochat. For eksempel, her er 8 agenter (4 claude, 4 codex), med 1 GPU hver som kjører nanochat-eksperimenter (prøver å slette logit softcap uten regresjon). TLDR er at det ikke fungerer og det er et rot... Men det er fortsatt veldig pent å se på :) Jeg prøvde noen oppsett: 8 uavhengige soloforskere, 1 sjefsforsker som gir arbeid til 8 juniorforskere, osv. Hvert forskningsprogram er en git-gren, hver forsker forgrener den til en feature-gren, git-arbeidstrær for isolasjon, enkle filer for kommunikasjon, hopp over Docker/VM-er for enkelhet akkurat nå (jeg synes instruksjoner er nok til å forhindre interferens). Forskningsorganisasjonen kjører i tmux-vindusrutenett av interaktive økter (som Teams) slik at det er pent å se på, se deres individuelle arbeid, og «ta over» om nødvendig, altså ingen -p. Men ok, grunnen til at det ikke fungerer så langt, er at agentenes ideer rett og slett er ganske dårlige rett ut av boksen, selv på høyeste intelligens. De tenker ikke nøye gjennom eksperimentdesign, de kjører litt meningsløse variasjoner, de lager ikke sterke baselines og ablater ting riktig, de kontrollerer ikke nøye for kjøretid eller flopper. (Bare som et eksempel, en agent "oppdaget" i går at å øke den skjulte størrelsen på nettverket forbedrer valideringstapet, noe som er et helt uklart resultat siden et større nettverk vil ha lavere valideringstap i det uendelige dataregimet, men det trener også mye lenger, det er ikke klart hvorfor jeg måtte påpeke det). De er veldig flinke til å implementere enhver veldefinert og godt omfanget idé, men de genererer dem ikke kreativt. Men målet er at du nå programmerer en organisasjon (f.eks. en «forskningsorganisasjon») og dens individuelle agenter, så «kildekoden» er samlingen av prompts, ferdigheter, verktøy osv. og prosesser som utgjør den. For eksempel er en daglig standup om morgenen nå en del av «org-koden». Og å optimalisere nanochat-fortrening er bare én av mange oppgaver (nesten som en evaluering). Så – gitt en vilkårlig oppgave, hvor raskt genererer forskningsorganisasjonen din fremgang på den?

Med den kommende tsunamien av etterspørsel etter tokens, finnes det betydelige muligheter til å orkestrere den underliggende minne+compute *akkurat riktig* for LLM-er. Den grunnleggende og ikke-åpenbare begrensningen er at på grunn av chip-produksjonsprosessen får du to helt forskjellige minnepooler (med ulike fysiske implementasjoner også): 1) on-chip SRAM som ligger rett ved siden av beregningsenhetene og er utrolig rask, men med svært lav kapasitet, og 2) off-chip DRAM som har ekstremt høy kapasitet, men innholdet kan du bare suge gjennom et langt sugerør. I tillegg er det mange detaljer i arkitekturen (f.eks. systoliske matriser), numerikk osv. Utformingen av det optimale fysiske substratet og deretter orkestreringen av minne+beregning på tvers av de største arbeidsflytene i LLM-er (inferensprefill/dekoding, trening/finjustering osv.) med best gjennomstrømning/latens/$, er sannsynligvis dagens mest interessante intellektuelle puslespill med høyest belønning (\sitat 4,6T av NVDA). Alt dette for å få mange tokens, raskt og billig. Man kan hevde at arbeidsflyten som kan være viktigst (inferensdekoding *og* over lange token-kontekster i stramme agentiske løkker) er den vanskeligste å oppnå samtidig for ~begge leirene av det som eksisterer i dag (HBM-først NVIDIA adjacent og SRAM-først Cerebras-tilknyttet). Uansett, MatX-teamet er A++-klasse, så det er en glede for meg å ha en liten deltakelse, og gratulerer med lønnsøkningen!

CLI-er er superspennende nettopp fordi de er en «legacy»-teknologi, noe som betyr at AI-agenter kan bruke dem naturlig og enkelt, kombinere dem, samhandle med dem via hele terminalverktøykassen. For eksempel be Claude/Codex-agenten din installere denne nye Polymarket CLI-en og be om eventuelle vilkårlige dashbord, grensesnitt eller logikk. Agentene vil bygge det for deg. Installer også Github CLI, så kan du be dem navigere i repoet, se problemer, PR-er, diskusjoner, til og med selve koden. Eksempel: Claude bygde dette terminaldashbordet på ~3 minutter, av de mest volumende polymarkedene og 24-timers endring. Eller du kan gjøre det til en webapp eller hva du vil. Enda kraftigere når du bruker det som en modul i større pipelines. Hvis du har et produkt eller en tjeneste, tenk: kan agenter få tilgang til og bruke dem? - Er dine legacy-dokumenter (for mennesker) i det minste eksporterbare i Markdown? - har du skrevet ferdigheter for produktet ditt? - kan produktet/tjenesten din brukes via CLI? Eller MCP? - ... Det er 2026. Bygg. For. Agenter.