{"id":1797,"date":"2026-08-02T09:59:28","date_gmt":"2026-08-02T07:59:28","guid":{"rendered":"https:\/\/vittrup-graversen.dk\/?p=1797"},"modified":"2026-08-02T09:59:29","modified_gmt":"2026-08-02T07:59:29","slug":"inkling-small-goer-aabne-llmer-mere-driftsbare","status":"publish","type":"post","link":"https:\/\/vittrup-graversen.dk\/index.php\/2026\/08\/02\/inkling-small-goer-aabne-llmer-mere-driftsbare\/","title":{"rendered":"Inkling-Small g\u00f8r \u00e5bne LLM\u2019er mere driftsbare"},"content":{"rendered":"\n

Thinking Machines Lab har gjort det, de fleste modeludbydere helst vil tale udenom: de har taget en meget stor \u00e5ben multimodal model og lavet en mindre variant, som n\u00e6sten holder niveauet p\u00e5 centrale benchmarks. Inkling-Small blev lanceret 30. juli 2026 som en open-weights model under Apache 2.0. Den har 276 milliarder parametre i alt, men bruger kun 12 milliarder aktive parametre pr. token.<\/p>\n\n\n\n

Det lyder stadig voldsomt, og det er det ogs\u00e5. Men nyheden er ikke, at modellen pludselig kan k\u00f8re p\u00e5 den gamle ThinkPad. Den kr\u00e6ver stadig GPU-servere, og BF16-varianten kr\u00e6ver if\u00f8lge modelkortet mindst 600 GB samlet VRAM. Nyheden er, at en model i denne klasse begynder at ligne noget, platformsteams kan vurdere som drift, licens og kapacitetsplanl\u00e6gning, ikke kun som forskningsdemo.<\/p>\n\n\n\n

Apache 2.0 g\u00f8r forskellen mindre akademisk<\/h2>\n\n\n\n

Thinking Machines kalder Inkling-Small en generel multimodal model til tekst, billeder og lyd. Den er bygget til blandt andet coding assistants, tool-use-systemer, chatbots og retrieval augmented generation, alts\u00e5 systemer hvor modellen arbejder oven p\u00e5 egne data og egne v\u00e6rkt\u00f8jer. Der er ogs\u00e5 underst\u00f8ttelse af op til 1 million tokens i kontekst, afh\u00e6ngigt af ops\u00e6tningen.<\/p>\n\n\n\n

Det vigtige for virksomheder er licensen. Apache 2.0 er en kendt og relativt enkel licens for kommerciel brug, \u00e6ndringer og intern distribution. Det betyder ikke, at man bare skal smide modellen ind i produktion uden juridisk gennemgang. Tr\u00e6ningsdata, acceptable-use-regler, persondata og sikkerhedsforpligtelser skal stadig vurderes. Men udgangspunktet er langt renere end de mange \u201c\u00e5bne\u201d modellicenser, hvor kommerciel brug, oms\u00e6tning, skala eller bestemte brancher pludselig udl\u00f8ser s\u00e6rvilk\u00e5r.<\/p>\n\n\n\n

Den skelnen bliver mere praktisk for hver m\u00e5ned. Jeg skrev for nylig om GLM-5.2 og presset fra open-weight modeller<\/a>. Pointen d\u00e9r var, at capability-gabet til lukkede frontiermodeller bliver mindre. Inkling-Small f\u00f8jer et andet lag til samme historie: licens og driftsprofil bliver lige s\u00e5 vigtige som r\u00e5 benchmarkscore.<\/p>\n\n\n\n

\u201cSmall\u201d betyder stadig serverrum<\/h2>\n\n\n\n

Navnet er lidt misvisende. Inkling-Small er kun lille i forhold til den oprindelige Inkling-model p\u00e5 975 milliarder parametre og 41 milliarder aktive parametre. If\u00f8lge modelkortet kr\u00e6ver BF16-checkpointet enten fire NVIDIA B300 GPU\u2019er eller otte H200 GPU\u2019er. Den kvantiserede NVFP4-version s\u00e6nker kravet til omkring 180 GB samlet VRAM, men det er stadig ikke en almindelig udviklermaskine.<\/p>\n\n\n\n

For et dansk SaaS-team betyder det, at selvhosting ikke n\u00f8dvendigvis er billigere end API. Regnestykket afh\u00e6nger af belastning, latencykrav, datakrav, compliance og hvor meget man faktisk bruger modellen. Men det er en reel valgmulighed p\u00e5 en anden m\u00e5de end med trillion-parameter-modeller, der prim\u00e6rt giver mening hos hyperscalers eller specialiserede inference-udbydere.<\/p>\n\n\n\n

Artificial Analysis placerer Inkling-Small p\u00e5 40 i deres Intelligence Index mod 41 for Inkling. Thinking Machines rapporterer ogs\u00e5 80,2 procent p\u00e5 SWE-bench Verified og 64,7 procent p\u00e5 Terminal Bench 2.1. Benchmarks skal ikke l\u00e6ses som sandhedstavler. De fort\u00e6ller sj\u00e6ldent, hvordan en model opf\u00f8rer sig p\u00e5 dine supporttickets, dine PDF\u2019er, dine logfiler eller dit kodebase-kaos. Men tallene er gode nok til, at modellen fortjener en plads i en seri\u00f8s eval, hvis man allerede unders\u00f8ger private eller halvprivate LLM-endpoints.<\/p>\n\n\n\n

Den praktiske parallel er private LLM-endpoints<\/a>. N\u00e5r modellerne kan flyttes t\u00e6ttere p\u00e5 egne data, flytter ansvaret ogs\u00e5. Man f\u00e5r mere kontrol over routing, logging og finjustering, men ogs\u00e5 mere ansvar for overv\u00e5gning, jailbreak-beskyttelse, outputfiltrering og regressionstest.<\/p>\n\n\n\n

Det her er en platformnyhed, ikke bare en modelnyhed<\/h2>\n\n\n\n

Det mest interessante ved Inkling-Small er tempoet. Den kommer to uger efter den f\u00f8rste Inkling-model. Thinking Machines beskriver selv forbedringer i data mix, tr\u00e6ningsopskrift, distillation fra den st\u00f8rre model og ekstra reinforcement learning for agentic coding. Hvis de kan gentage den proces, er det et tegn p\u00e5 en modelpipeline, hvor nye st\u00f8rrelser og afledte varianter kan produceres hurtigere.<\/p>\n\n\n\n

Det er s\u00e5dan modelmarkedet begynder at ligne almindelig softwaredrift. Ikke \u00e9n stor model, som alle bruger til alt. Flere modeller med forskellige profiler: en stor model til sv\u00e6re opgaver, en billigere model til hverdagsarbejde, en lokal eller privat model til f\u00f8lsomme data, og et kontrolplan der v\u00e6lger mellem dem. Den slags arkitektur kr\u00e6ver evals, budgetgr\u00e6nser, versionsstyring og tydelige fallback-regler. Ellers ender man bare med endnu en sort boks, nu med flere valgmuligheder.<\/p>\n\n\n\n

Der er ogs\u00e5 en sikkerhedsvinkel. Modelkortet siger selv, at Inkling-Small har kendte begr\u00e6nsninger: hallucinationer, uj\u00e6vn performance p\u00e5 sprog og dom\u00e6ner, og en tendens til indimellem at f\u00f8lge indirekte skadelige eller rollespilsformulerede prompts. Det er ikke specielt for Inkling-Small. Det er vilk\u00e5ret for \u00e5bne modeller. Men n\u00e5r v\u00e6gtene kan downloades og \u00e6ndres, kan udbyderen ikke v\u00e6re eneste sikkerhedslag. Moderation, rate limits, logning, testcases og menneskelig kontrol skal ligge rundt om modellen.<\/p>\n\n\n\n

Hvad b\u00f8r danske IT-teams g\u00f8re nu?<\/h2>\n\n\n\n

Mit r\u00e5d er ikke at migrere noget vigtigt til Inkling-Small i morgen. Mit r\u00e5d er at bruge lanceringen som anledning til at stramme sin LLM-arkitektur. Har I en liste over hvilke modeltyper der m\u00e5 bruges til hvilke data? Har I regressionstest for agentopgaver? Ved I hvad en model koster pr. afsluttet arbejdsproces, ikke bare pr. million tokens? Har I en plan for hvad der sker, n\u00e5r en model skifter version eller forsvinder fra en udbyder?<\/p>\n\n\n\n

Hvis svaret er nej, er Inkling-Small ikke l\u00f8sningen. Den er en p\u00e5mindelse om, at LLM-drift er blevet mere fragmenteret og mere arkitekturtung. De bedste teams kommer ikke til at v\u00e6lge \u00e9n model og h\u00e5be. De kommer til at bygge en modelportef\u00f8lje, hvor licens, datakontrol, latency, pris og sikkerhed v\u00e6gtes eksplicit.<\/p>\n\n\n\n

Det er mindre glamour\u00f8st end modelrelease-teater. Til geng\u00e6ld er det s\u00e5dan, man f\u00e5r AI ud af demoen og ind i produktion uden at miste styringen.<\/p>\n\n\n\n

Kilder<\/h2>\n\n\n\n