Tillbaka till Bulletin Board
Ditt eget AI-moln: därför vill allt fler köra koden lokalt – och vilka öppna modeller som faktiskt duger
Tips 16 min lasning

Ditt eget AI-moln: därför vill allt fler köra koden lokalt – och vilka öppna modeller som faktiskt duger

När USA kan stänga av en topp-AI över en natt och leverantörer börjar be om ditt pass blir ett eget AI-moln plötsligt rimligt. Vilken hårdvara krävs – och vilka öppna modeller kodar faktiskt bra nog lokalt? En ärlig genomgång.

Robert Wallin

Robert Wallin

25 juli 2026

2 visningar
lokal AIöppna modellerunified memorySWE-bench ProRyzen AI MaxDeepSeekintegritetlokal kodning

Den 12 juni 2026, klockan 17:21 östkusttid, fick Anthropic ett brev från den amerikanska staten. Några timmar senare var bolagets två kraftfullaste modeller – Fable 5 och Mythos 5 – avstängda. Inte bara för misstänkta illvilliga användare. För alla. Inklusive dig och mig.

Det är den sortens händelse som får en att stanna upp. Du betalar för en tjänst, du följer reglerna, och ändå kan din tillgång till verktyget försvinna över en natt – på grund av ett beslut fattat i Washington, om något du inte hade en aning om. Lägg till att Anthropic samtidigt rullar ut krav på att vissa användare ska legitimera sig med pass och en live-selfie, så börjar en gammal idé kännas högaktuell igen: tänk om du körde modellerna på din egen hårdvara i stället?

Jag har grävt i det här under några dagar, och min bedömning är tydlig: ett "eget AI-moln" har gått från hobbyprojekt till något som allt fler proffs och företag på allvar borde överväga. Men – och det här är viktigt – det finns lika mycket hype som verklighet i berättelsen. Den här texten försöker reda ut båda delarna: varför suveränitet plötsligt spelar roll, vilken hårdvara som faktiskt krävs, och vilka öppna modeller som verkligen kodar bra nog att jämföras med en frontier-modell som Claude Opus 4.7. Svaret på den sista frågan är mer nyanserat än entusiasterna vill medge.

Vad som faktiskt hände – myt och verklighet

Eftersom det cirkulerar mycket lösa rykten är det värt att vara exakt. Här är vad som går att belägga, och vad som inte gör det.

"Staten tog modellen." Inte riktigt. Enligt Anthropics eget uttalande utfärdade den amerikanska regeringen ett exportkontrolldirektiv som tvingade bolaget att stänga av Fable 5 och Mythos 5 "för alla utländska medborgare, oavsett om de befinner sig i eller utanför USA". I praktiken gick det inte att uppfylla selektivt, så Anthropic stängde av modellerna globalt samma dag. Flera oberoende juridiska analyser (bland andra CSIS och Just Security) beskriver mekanismen som en så kallad "Is Informed"-skrivelse från handelsmyndigheten BIS, med stöd av den amerikanska exportkontrollagen ECRA. Själva regeringsbrevet är dock inte offentligt, så den exakta paragrafen bygger på andrahandsuppgifter, inte på en handling någon utomstående har läst. Den uppgivna grunden: regeringen tror sig ha hittat ett sätt att "jailbreaka" Fable 5.

Det här är alltså en avstängning via exportkontroll – inte ett beslag, inte ett förstatligande, och inte att staten "tog över" modellen för egen räkning. Skillnaden är inte hårklyveri: den ena framställningen är belagd, den andra är det inte.

"Modellen övervakas av staten." Det finns inget stöd för att amerikanska staten övervakar Claude eller har byggt in en bakdörr. Tvärtom: i en separat fråga sa Anthropic offentligt nej när det amerikanska försvarsdepartementet ville använda Claude för inhemsk massövervakning – bolaget kallade det "oförenligt med demokratiska värderingar". Att blanda ihop de två historierna vore att vända på verkligheten.

"Snart måste du fota ditt pass för att få använda Claude." Här ligger det närmare sanningen, men med en viktig brasklapp. Från och med 8 juli 2026 inför Anthropic en uppdaterad integritetspolicy där användare i vissa fall kan behöva verifiera ålder eller identitet – med pass, nationellt id-kort eller körkort, och ibland en live-selfie. Ålderskontrollen sköts av tjänsten Yoti, id-kontrollen av Persona, och Anthropic uppger att uppgifterna inte används för att träna modeller eller för annonsering. Men det är ett villkorat och selektivt krav: det utlöses bland annat vid signaler om att användaren är under 18, vid vissa funktioner och vid integritets- och efterlevnadskontroller, och det gäller bara konsumentkonton. Det är alltså inte "alla måste visa pass" – ännu. Riktningen är ändå tydlig, och den passar in i en bredare våg av ålders- och identitetskontroller för nättjänster, från brittiska Online Safety Act till EU-parlamentets diskussioner om åldersgränser för AI-kompanjoner.

Sammantaget: poängen som många känner instinktivt – "jag är beroende av en tjänst jag inte kontrollerar" – är helt korrekt. Det är bara de exakta orden som behöver stämma.

Varför ett eget moln plötsligt lockar

Avstängningen av Fable 5 är det skarpaste exemplet hittills, men argumenten för att köra modeller lokalt är bredare än en enskild nyhet.

  • Åtkomsten kan dras tillbaka utifrån. Det här är den verkligt nya insikten. En svensk eller europeisk användare kan förlora tillgången till en toppmodell, inte för att hen gjort något fel, utan på grund av amerikansk nationell säkerhetslagstiftning. En modell du har laddat ner och kör själv kan ingen stänga av från andra sidan Atlanten.

  • Datan stannar hos dig. Allt du skickar till ett amerikanskt moln kan i princip nås via amerikansk lag. Enligt den så kallade CLOUD Act kan USA-baserade leverantörer tvingas lämna ut lagrad data oavsett var servrarna står, och AI-konversationer har redan börjat dyka upp som bevis i rättsprocesser. Det finns ingen advokatsekretess för dina prompter. Kör du lokalt lämnar din kod och dina affärsdokument aldrig nätverket.

  • Det rättsliga underlaget för dataöverföring vajar. EU–USA-överföringar vilar i dag på Data Privacy Framework, som visserligen klarade sin första domstolsprövning hösten 2025 men har ett överklagande till EU-domstolen hängande över sig. Långsiktigt är det genuint osäkert – ett konkret skäl att hålla känslig data inom EU.

  • Regeltrycket ökar. EU:s AI-förordning trappas upp under 2026, och unionen bygger aktivt på "suverän" moln- och AI-infrastruktur. För den som hanterar känsliga uppgifter blir kontrollerbar, egen drift ett allt starkare kort.

  • Den enkla integritetspoängen. En lokal modell ser bara det du matar den med, på din egen maskin, även offline. Ingen loggning hos en leverantör, ingen mänsklig granskning, ingen tredjepart som kan läcka.

Det här är inte ett argument för att aldrig använda molnmodeller. Det är ett argument för att du numera har ett val – och att valet börjar bli tekniskt rimligt.

Hårdvaruvågen: "monstermaskiner" med unified memory

Det som gjort lokal AI intressant igen är en ny klass datorer byggda kring unified memory – ett gemensamt, stort minne som både processorn och grafikdelen delar på. I stället för ett grafikkort med begränsat VRAM får du tiotals, ibland över hundra, gigabyte som modellen kan bo i.

AMD:s Ryzen AI Max+ 395 ("Strix Halo") är arketypen. Den har upp till 128 GB delat LPDDR5X-minne, varav upp till 96 GB kan tilldelas grafikdelen, och en minnesbandbredd på runt 256 GB/s (i praktiken uppmätt till drygt 210 GB/s). Det räcker för att ladda modeller som aldrig skulle få plats i ett vanligt grafikkort.

Du nämnde en siffra på "AMD Ryzen AI Max för 15 000 kr", och den stämmer nästan – men det är värt att veta vad du får. Den billigaste varianten, Framework Desktop med Ryzen AI Max 385 och 32 GB, ligger enligt Ny Tekniks test runt 16 900 kr som instegspris, men "för att göra den användbar" landar man enligt samma test över 20 000 kr. Den maskin du faktiskt vill ha för stora modeller – 128 GB-varianten – kostar mer: Framework Desktop med 128 GB har legat kring 23 000 kr (SweClockers test, januari 2026), och säljs främst direkt via tillverkaren snarare än i de svenska butikskedjorna. En sak att hålla i minnet: en global brist på minneskretsar driver just nu upp alla de här priserna, så datera varje prisuppgift och räkna med att de rör sig uppåt.

Några andra alternativ, med svenska eller ungefärliga priser (juni 2026):

  • GMKtec EVO-X2 (samma Ryzen AI Max+ 395, 128 GB): de låga amerikanska kampanjpriserna (kring 1 999 USD) motsvarar inte vad en svensk köpare betalar – med moms, frakt och de fåtaliga återförsäljare som faktiskt lagerför den landar du betydligt högre. Efterföljaren EVO-X3 är aviserad med en kommande 192 GB-variant, men per 22 juni 2026 går den inte att köpa och alla prisuppgifter är förhandsrykten.

  • Apple Mac Studio. Apples styrka är minnesbandbredd: M3 Ultra ligger på 819 GB/s, ungefär tre gånger Strix Halo, vilket gör stor skillnad för tunga modeller. Men här finns en ironisk twist: i takt med den globala minnesbristen har Apple under 2026 successivt strypt de stora minnesalternativen – först försvann 512 GB i mars, och i maj togs även 256 GB och 128 GB bort. Per juni 2026 toppar M3 Ultra på blygsamma 96 GB, vilket kostar runt 46 399 kr exklusive moms (cirka 58 000 kr inklusive moms) hos Dustin. Just när lokal AI blev hett krympte alltså Apples mest minnesrika maskin.

  • NVIDIA DGX Spark (GB10): 128 GB, 273 GB/s, och en stark beräkningskapacitet på pappret. Säljs hos Dustin för 49 999 kr exklusive moms (cirka 62 499 kr inklusive moms, läst 22 juni 2026).

Och så det riktigt entusiastiska spåret: att para ihop flera Macar. Med macOS 26.2 och verktyget EXO går det att slå samman flera Mac-datorer till en gemensam minnespool via Thunderbolt 5, med RDMA som sänker latensen mellan maskinerna dramatiskt. Entusiaster rapporterar att en rigg på fyra Mac Studio kör DeepSeeks 671-miljardersmodell i runt 30 tokens i sekunden. Det är imponerande – men det är fortfarande nybyggarland, siffrorna kommer från enskilda byggen snarare än oberoende labb, och en sådan rigg kostar bortåt 400 000 kr (cirka 40 000 dollar) – dessutom byggd när Apple ännu sålde de stora minnesvarianterna. Behandla det som ett bevis på vad som går, inte som en köprekommendation.

Den obekväma sanningen om unified memory

Här måste jag bromsa hypen, för det sägs ofta att "unified memory tar bort effekten av GPU-kraft för tyngre modeller". Det är sant – och falskt – samtidigt, beroende på vad man menar.

Sant: unified memory löser kapacitetsproblemet. En 70-miljardersmodell i Q4-format tar omkring 40 GB, vilket inte ens får plats i ett RTX 5090 med 32 GB VRAM. Med 128 GB delat minne blir "ryms modellen?" plötsligt en konfigurationsfråga i en tyst liten låda i stället för ett serverhallsprojekt. I den meningen slutar rå GPU-kapacitet att vara flaskhalsen.

Falskt: flaskhalsen försvinner inte – den flyttar, från minnesmängd till minnesbandbredd. När en modell genererar text läses de aktiva vikterna ur minnet för varje enskild token. Strix Halos cirka 210 GB/s är ungefär en fjärdedel av ett högklassigt grafikkort med HBM-minne. Resultatet syns i mätningarna: en tät (dense) 70B-modell ger bara runt 5 tokens/sekund på en Strix Halo-maskin, och på DGX Spark bara 2,7 tokens/sekund – trots maskinens starka beräkningskapacitet. Det är bandbredden, inte beräkningen, som sätter taket. Och vid långa prompter (stora kodbaser, mycket kontext) är det i stället prefill – inläsningen av prompten – som blir tung, och där spelar ren beräkningskraft tvärtom stor roll.

Det finns ett undantag som ändrar hela bilden: MoE-modeller (mixture-of-experts). En sådan modell aktiverar bara en bråkdel av sina parametrar per token. Qwen3 30B-A3B har 30 miljarder parametrar totalt men bara 3 miljarder aktiva åt gången – och kör därför i runt 72 tokens/sekund på samma Strix Halo som kröp fram i 5 tokens/sekund på en tät 70B. Det är därför de här maskinerna i praktiken marknadsförs mot just MoE-modeller. Den ärliga formuleringen blir: unified memory gör stora modeller körbara på en liten tyst maskin, men inte nödvändigtvis snabba. För täta modeller blir det ofta ensiffriga tokens i sekunden; för MoE blir det fullt användbart.

Minnesmatematiken: vad får faktiskt plats?

Innan vi pratar modeller, en snabb tumregel som avgör allt. Minnesåtgången för vikterna räknas ut som antal parametrar gånger antal byte per parameter:

  • FP16 (full precision): cirka 2 byte per parameter

  • Q8: ungefär 1 byte – alltså "antal miljarder parametrar ≈ antal GB"

  • Q4 (den vanligaste komprimeringen): cirka 0,5–0,57 byte

  • Q2 (aggressivt, börjar tappa kvalitet): runt 0,3 byte

En 70B-modell blir alltså cirka 40 GB i Q4, 70 GB i Q8 och 140 GB i FP16. Ovanpå det kommer KV-cachen, som växer med kontextlängden och vid riktigt långa prompter kan bli större än själva modellen – något DeepSeek dämpar med kraftigt komprimerad attention.

Och nu till den siffra som lockar mest: DeepSeek V4 Pro på 1,6 biljoner parametrar. Ja, den finns på riktigt – släppt 24 april 2026, med öppna vikter (MIT-licens), 1,6 biljoner totalt men bara 49 miljarder aktiva per token. Men räkna på minnet med tumreglerna ovan: även i hårt komprimerat Q2-format behöver enbart vikterna runt 480 GB, och i Q4 närmare 800 GB – och då har vi inte ens räknat in KV-cachen. Slutsatsen är glasklar: en enskild 128 GB-maskin kan inte köra en 1,6-biljonersmodell, oavsett komprimering. Inte ens en maxad arbetsstation räcker bekvämt, och eftersom Apple just strypt sina stora Mac-minnen är ens den vägen nu stängd. Vill du köra modellen på riktigt krävs ett kluster, eller en server med massor av DDR5-minne plus ett grafikkort och så kallad expert-offloading.

Den nyktra sanningen: den 1,6-biljonersmodell som låter så lockande kör du inte lokalt på en konsumentmaskin. Det du realistiskt kör är de mindre eller medelstora modellerna – och det visar sig vara helt tillräckligt för en hel del.

Vilka öppna modeller kodar bäst – och når de Opus 4.7?

Det här är kärnfrågan: kan en öppen modell, som du kan ladda ner och köra själv, koda i nivå med en frontier-modell som Claude Opus 4.7? Du satte ribban själv, och det är rätt ribba. En sak till är värd att slå fast: i en tid när äldre kodningstester har blivit mättade och delvis läckt in i träningsdatan, är SWE-bench Pro i praktiken det enda mått som idag säger något skarpt om verklig kodkvalitet. Så det är där vi tittar. Och låt mig vara rak, för här florerar mest hype:

På just det måttet – SWE-bench Pro – når ingen öppen modell i dag upp till Opus 4.7.

Det närmaste vi har en äpplen-mot-äpplen-jämförelse är Scale AI:s standardiserade SWE-bench Pro-lista. Där är bästa öppna modell Qwen3-Coder-480B på 38,7 %, medan bästa Claude på listan (Opus 4.6 med thinking) ligger på 51,9 % och ledaren gpt-5.4 på 59,1 %. (Ett förbehåll: även den listan blandar olika testuppställningar, så siffrorna ska läsas som en grov fingervisning, inte en exakt rangordning.) Opus 4.7 finns ännu inte med där, men dess egen siffra ur Anthropics system card är 64,3 %. Och Opus 4.8, som nu är Anthropics aktuella Opus-flaggskepp, ligger enligt leverantörens egna siffror ännu högre, runt 69 %. Gapet är alltså stort.

"Men jag har sett siffror som nästan slår Opus!" – ja, och här ligger fällan. De höga siffrorna kommer från modellbyggarnas egna mätningar, var och en med sin egen testrigg:

  • GLM-5.2 (Zhipu/z.ai, släppt mitten av juni 2026, cirka 753 miljarder parametrar, öppna MIT-vikter): uppger 62,1 % på SWE-bench Pro – men mätt mot Opus 4.8, inte 4.7.

  • Kimi K2.6 (Moonshot, 1 biljon parametrar totalt / 32 miljarder aktiva): uppger 58,6 % – men mätt mot Opus 4.6.

  • DeepSeek V4 Pro (1,6 biljoner / 49 miljarder aktiva): når i sin mest tillåtande uppställning 80,6 % på det lättare och mer mättade testet SWE-bench Verified – jämsides med Google Gemini 3.1 Pro och bland de högsta för en öppen modell. Men även där leder Opus 4.7 med 87,6 %.

Tre saker att hålla isär. För det första: de imponerande siffrorna är självrapporterade och mäter mot olika Claude-versioner, vilket gör direkta jämförelser opålitliga. För det andra: när samma familj körs på en standardiserad rigg rasar siffrorna ofta dramatiskt – den enda GLM som Scale faktiskt har kört, föregångaren GLM-4.6, landar på drygt 9 %, medan GLM-5.2 helt saknar en oberoende notering. För det tredje, och kanske viktigast för dig som vill köra lokalt: de öppna modeller som kommer närmast Opus – GLM-5.2 och Kimi K2.6 – har 0,7 respektive 1 biljon parametrar. Det är datacenter-modeller, inte något du kör på en mini-PC.

Den ärliga slutsatsen är ändå anmärkningsvärd: de öppna vikterna har tagit igen större delen av pappersgapet på bara ett år. Men "tagit igen större delen av gapet på sina egna mätningar" är inte samma sak som "bevisat jämbördig på neutral grund". Det är de inte – ännu.

Vad du faktiskt kan köra lokalt i dag

Så var landar vi i praktiken? Inte vid en lokal Opus-dödare, men inte heller vid noll. Det realistiska valet för lokal kodning är en MoE-modell i 30-miljardersklassen.

Konkret: Qwen3-Coder-30B-A3B (öppen, Apache-licens) tar bara cirka 17 GB i Q4 och kör i 70–100 tokens/sekund på en Strix Halo-maskin. Det är fullt användbart för autokomplettering, enskilda filer och avgränsade uppgifter – snabbt nog att kännas levande. Vill du ha något ännu vassare på en enskild maskin finns Qwen3-Coder-Next (80 miljarder parametrar, 3 miljarder aktiva) som klarar 262 000 tokens kontext.

Men var ärlig mot dig själv om var gränsen går:

  • Kapacitetsgapet. De öppna modeller som närmar sig frontier i kodning (480 miljarder parametrar och uppåt) får inte plats på en enskild 128 GB-maskin i användbar komprimering. Det du kör bekvämt (30B MoE) är bra, men inte frontier.

  • Hastighetsgapet för agenter. En kodnings-agent gör många modellanrop per uppgift. På en 235-miljardersmodell handlar det enligt rapporter om kanske 11 tokens i sekunden, och vid lång kontext kan enbart inläsningen av prompten ta minuter – i ett uppmätt fall tog en Mac Studio nästan 15 minuter på att läsa in en prompt på 8 000 tokens till en 671-miljardersmodell innan den ens började svara. Det är helt okej för ett samtal, men segt för snabb, iterativ utveckling.

Verktygen är samtidigt mogna: llama.cpp, Ollama och LM Studio gör det enkelt att komma igång; MLX är snabbast på Apple-hårdvara; vLLM är vägen på NVIDIA- och AMD-grafikkort (men inte produktionsklart på Mac); och ktransformers är specialisten för att köra stora MoE-modeller på en maskin med mycket RAM plus ett grafikkort.

Min slutsats

Tre saker bär hem allt det här.

Suveränitetspoängen är verklig, och den blev plötsligt konkret. När USA kan stänga av världens kraftfullaste modell för alla icke-amerikaner över en kväll, och en privat leverantör börjar be om ditt pass, då är "kör det själv" inte längre paranoia – det är riskhantering. För känslig kod, affärsdata och allt som lyder under GDPR är argumentet starkt.

Hårdvaran har gjort det möjligt, men inte trollat bort fysiken. Unified memory låter dig ladda stora modeller i en tyst låda för 20 000–25 000 kr. Men bandbredden sätter taket på hastigheten, de riktigt stora modellerna kräver kluster, och drömmen om en lokal 1,6-biljonersmodell på skrivbordet är just nu en dröm.

Öppna modeller kodar förvånansvärt bra – men inte bevisat i nivå med Opus 4.7 på SWE-bench Pro, och de som kommer närmast kör du inte lokalt. Det du kan köra lokalt i dag (30B-klassens MoE-modeller) är fullt dugligt för en stor del av vardagsjobbet, och det blir bättre för varje månad.

Min ärliga rekommendation är därför hybrid: lägg det stora, privata och deadline-fria arbetet lokalt, och behåll en frontier-prenumeration för det som verkligen kräver toppklass. Men gapet krymper snabbt, och balansen lutar år för år mer mot din egen maskin. För första gången på länge är "mitt eget AI-moln" en mening man kan säga utan att skämmas.

Sugen på att bygga en egen rigg? På TechFlip hittar du köp- och säljannonser på begagnade Mac-datorer, mini-PC:ar och grafikkort – ett prisvärt sätt att komma igång med lokal AI utan att betala nypris. Kika in i elektronikkategorierna och se vad som finns just nu.

– Robert Wallin

Vi använder cookies för att säkra din inloggning och förbättra din upplevelse. Läs mer i vår Cookiepolicy.