{"id":1743,"date":"2026-07-08T09:37:54","date_gmt":"2026-07-08T07:37:54","guid":{"rendered":"https:\/\/vittrup-graversen.dk\/?p=1743"},"modified":"2026-07-08T09:37:55","modified_gmt":"2026-07-08T07:37:55","slug":"llm-routing-modelvalget-er-blevet-et-kontrolplan","status":"publish","type":"post","link":"https:\/\/vittrup-graversen.dk\/index.php\/2026\/07\/08\/llm-routing-modelvalget-er-blevet-et-kontrolplan\/","title":{"rendered":"LLM-routing: modelvalget er blevet et kontrolplan"},"content":{"rendered":"\n

Den vigtigste LLM-nyhed lige nu er ikke endnu en benchmarkgraf. Det er, at modelrouting er ved at blive almindelig \u00f8konomisk drift.<\/p>\n\n\n\n

CNBC beskriver, hvordan amerikanske virksomheder i stigende grad sender trafik til kinesiske open source- og open weight-modeller, fordi de er blevet gode nok til mange opgaver og markant billigere end de dyreste modeller fra OpenAI og Anthropic. Samtidig skriver The Tech Portal, med Bloomberg som kilde, at Microsoft er begyndt at flytte udvalgte workloads i produktivitetsapps fra OpenAI og Anthropic til egne MAI-modeller.<\/p>\n\n\n\n

Det lyder som leverand\u00f8rpolitik. Det er det ogs\u00e5. Men for udviklere, arkitekter og driftsteams er pointen mere jordn\u00e6r: LLM-routing er ikke l\u00e6ngere en optimering for n\u00f8rder med for meget tid. Det er en del af produktarkitekturen.<\/p>\n\n\n\n

Fra \u00e9n model til en modelportef\u00f8lje<\/h2>\n\n\n\n

De f\u00f8rste LLM-implementeringer blev ofte bygget som en simpel integration: v\u00e6lg en leverand\u00f8r, v\u00e6lg en model, send prompts, betal regningen. Den fase er ved at lukke. N\u00e5r Microsoft selv begynder at flytte dele af belastningen til egne modeller, og n\u00e5r amerikanske virksomheder if\u00f8lge CNBC bruger kinesiske modeller for en stor del af tokenforbruget via OpenRouter, er signalet klart nok.<\/p>\n\n\n\n

Der er ikke l\u00e6ngere \u00e9n rigtig model. Der er en portef\u00f8lje af modeller med forskellige priser, latenstider, datarisici, jurisdiktioner, licenser og styrker. Nogle workloads skal m\u00e5ske k\u00f8re p\u00e5 Claude eller GPT, fordi kvaliteten stadig er bedst til kompleks r\u00e6sonnering. Andre kan k\u00f8re p\u00e5 en billigere model, hvis opgaven er klassifikation, udkast, ekstraktion eller triviel kodehj\u00e6lp.<\/p>\n\n\n\n

Det er den praktiske konsekvens af den udvikling, jeg tidligere beskrev i LLM tokenbudget: AI-regningen er blevet drift<\/a>. Tokenforbrug er ikke bare en fakturalinje. Det er et arkitekturvalg. Hvis alt sendes til dyreste frontiermodel, har man reelt lavet en h\u00e5rdkodet indk\u00f8bspolitik i sin applikation.<\/p>\n\n\n\n

Billigere modeller er ikke gratis modeller<\/h2>\n\n\n\n

CNBC fremh\u00e6ver flere konkrete tal. Kinesiske modeller via OpenRouter har if\u00f8lge artiklen ligget over 30 procent af tokenforbruget blandt amerikanske virksomheder i hver uge siden 8. februar, med toppe op mod 46 procent. I de foreg\u00e5ende 12 m\u00e5neder var gennemsnittet 11 procent, og i f\u00f8rste halvdel af 2025 var det 4,5 procent. CNBC citerer ogs\u00e5 OpenRouter for, at kinesiske open source-modeller kan v\u00e6re 60 til 90 procent billigere end ledende modeller fra Anthropic og OpenAI.<\/p>\n\n\n\n

Det er st\u00e6rke incitamenter. Men billigere inference fjerner ikke governancearbejdet. Tv\u00e6rtimod. N\u00e5r flere modeller og flere leverand\u00f8rer kommer ind i samme produktionsflow, bliver det vigtigere at styre, hvilke data der m\u00e5 sendes hvorhen. En supportopsummering med offentlige produktdata er \u00e9n ting. Persondata, kontrakter, kildekode, sikkerhedss\u00e5rbarheder eller interne strategidokumenter er noget andet.<\/p>\n\n\n\n

Derfor skal modelrouting designes som et kontrolplan, ikke som en tilf\u00e6ldig fallbackmekanisme. Hver opgavetype b\u00f8r have regler for modelvalg, dataklassifikation, logning, retention, evaluering og manuel eskalering. Hvis en billig model bruges til 80 procent af trafikken, skal det v\u00e6re fordi den er god nok og godkendt til netop den type data. Ikke bare fordi den sparer penge i denne uge.<\/p>\n\n\n\n

Den geopolitiske del kan ikke ignoreres<\/h2>\n\n\n\n

Det er fristende at reducere historien til pris. Det ville v\u00e6re for nemt. N\u00e5r virksomheder begynder at rute mere trafik til kinesiske modeller, sker det samtidig med amerikansk eksportkontrol, politiske krav til modeladgang og voksende usikkerhed om, hvem der f\u00e5r adgang til hvilke frontiermodeller hvorn\u00e5r.<\/p>\n\n\n\n

For danske virksomheder betyder det ikke, at kinesiske modeller skal afvises automatisk. Det betyder, at de skal behandles som et bevidst leverand\u00f8rvalg. Hvilke data forlader organisationen? Kan modellen hostes selv? Hvad siger licensen? Hvilke logs findes der hos gateway, leverand\u00f8r og applikation? Hvem kan \u00e6ndre routingreglerne? Og har man test, der opdager, n\u00e5r en billigere model \u00e6ndrer svaradf\u00e6rd?<\/p>\n\n\n\n

Der er en parallel til GLM-5.2 og open weight-modellernes pres p\u00e5 frontiermodellerne<\/a>. Open weight \u00e6ndrer markedet, fordi gode nok modeller kan flyttes t\u00e6ttere p\u00e5 egne systemer. Men hvis modellen stadig kaldes gennem en ekstern gateway uden klare regler, har man m\u00e5ske kun byttet \u00e9n afh\u00e6ngighed ud med en anden.<\/p>\n\n\n\n

Hvad b\u00f8r arkitekter g\u00f8re nu?<\/h2>\n\n\n\n

Start med at stoppe h\u00e5rdkodningen. Applikationer b\u00f8r ikke kende \u00e9n magisk modelstreng spredt ud over kodebasen. De b\u00f8r kalde en intern modelgateway eller et tyndt abstraktionslag, hvor politikken kan \u00e6ndres uden deploy af hele produktet.<\/p>\n\n\n\n

Derefter b\u00f8r man kortl\u00e6gge workloads. Hvilke prompts er h\u00f8jrisiko? Hvilke kr\u00e6ver st\u00e6rk r\u00e6sonnering? Hvilke kan evalueres automatisk? Hvilke svar m\u00e5 aldrig sendes direkte til en kunde uden menneskelig godkendelse? F\u00f8rst n\u00e5r det billede er tydeligt, giver det mening at optimere pris.<\/p>\n\n\n\n

Den modne LLM-stack kommer til at ligne klassisk drift mere end chatbot-magi: routingtabeller, politikker, budgetter, regressionstest, observability og change control. Det er kedeligt p\u00e5 den rigtige m\u00e5de.<\/p>\n\n\n\n

Nyheden er alts\u00e5 ikke, at kinesiske modeller er billige, eller at Microsoft helst vil bruge flere af sine egne modeller. Nyheden er, at modelvalget flytter fra udviklerens promptkode til virksomhedens kontrolplan. Det er der, LLM-routing h\u00f8rer hjemme.<\/p>\n\n\n\n

Kilder<\/h2>\n\n\n