Yksikään koodieditori ei ollut suorituskyvyltään suunniteltu kestämään tekoälyagenttien valtavaa läpimenoa. 1. Zed kamppailee ongelman kanssa uudelleenindeksoidessani ja tarkistaessani tiedostoja, minulla on muistikaato joka kolmas päivä. 2. VSCodella ja sen haarukoilla on ongelmia GPU:n kiihdytyksen kanssa, ja ne kaatuvat noin kaksi kertaa päivässä 3. CMux, Ghosttty ovat yhtä vakaita kuin Zed. En ole kokeillut muita IDE-lääkkeitä, niissä kaikissa on näitä ongelmia. Myönnettäköön, että avaan projektin juurikansion ja käytän 10–20 päätelaitetta ympäri vuorokauden, ja tiedän, että se on kohtuutonta. Parempi laitteisto ei korjaa sitä, muistivuoto on muistivuoto riippumatta siitä, kuinka paljon muistia sinulla on. Järjestelmä kaatuu lopulta joka tapauksessa.

Paikallisen tekoälyn kiinnostuksen aalto on juuri sopivasti juuri sopivasti M5 ultraa varten. Rakastan näytönohjaimiani ja olen ikuisesti kiitollinen siitä, kuinka paljon ne ovat minulle opettaneet, mutta uskon, että Apple on tuomittu voittamaan kuluttaja-AI-laitteiston. Omituisesti ne ovat nyt halpoja

Tavoitteeni tälle vuodelle: tehdä paikallisesta tekoälystä helppoa ja miellyttävää käyttää puhelimella, kannettavalla, koodausagenteilla, Discordilla, selaimella ja jopa ESP:llä. Voit puhua Apple Watchin kanssa, ajaa paikallista mallia päivystämässä, saada sen koodaamaan puolestasi jne. Kimi on 150 Gt vram GLM-5 150gb vramilla MiniMax-M2.5 48gb vramilla QuantForge antaa sinun ottaa minkä mallin ja millä tahansa laitteistolla. Valitse kohdekoko ja kalibrointiaineistot ja sitten karsia ja kvantisoi ne. Työskentelen Macbookin parissa, korjaan ja kvantisoin pieniä malleja. Vuoden loppuun mennessä teen niin, että minä ja kuka tahansa voimme saada minkä mallin sopivaksi mihin tahansa laitteistoon. RN käyttää paikallista laitteistoa, mutta integroidun Prime Intellectiin. Aion lisätä ominaisuuksia datasettien jakamiseen ja rakentaa niitä monista itsenäisistä komponenteista.