{"id":1672,"date":"2026-06-16T09:15:59","date_gmt":"2026-06-16T07:15:59","guid":{"rendered":"https:\/\/vittrup-graversen.dk\/?p=1672"},"modified":"2026-06-16T09:16:00","modified_gmt":"2026-06-16T07:16:00","slug":"rio-sagen-modelprovenans-er-nu-en-driftsrisiko","status":"publish","type":"post","link":"https:\/\/vittrup-graversen.dk\/index.php\/2026\/06\/16\/rio-sagen-modelprovenans-er-nu-en-driftsrisiko\/","title":{"rendered":"Rio-sagen: modelprovenans er nu en driftsrisiko"},"content":{"rendered":"\n

En af de mere l\u00e6rerige LLM-historier de sidste d\u00f8gn handler ikke om et nyt benchmark p\u00e5 toppen af ranglisten. Den handler om noget langt mere jordn\u00e6rt: kan man stole p\u00e5 en model, hvis man ikke kan stole p\u00e5 dens oprindelse?<\/p>\n\n\n\n

Rio de Janeiros kommunale IT-selskab IplanRIO lagde modellen Rio-3.5-Open-397B<\/code> p\u00e5 Hugging Face som en stor \u00e5ben model med 397 milliarder parametre. Den blev hurtigt omtalt som en lokal, brasiliansk satsning p\u00e5 AI-uafh\u00e6ngighed. Kort efter \u00e5bnede Nex-AGI en GitHub-issue med en teknisk anklage: v\u00e6gtene i Rio-modellen lignede ikke en selvst\u00e6ndigt tr\u00e6net model. De lignede en direkte line\u00e6r blanding af cirka 60 procent Nex-N2-Pro og 40 procent Qwen3.5-397B-A17B.<\/p>\n\n\n\n

Det vigtige ord her er modelprovenans<\/strong>. Alts\u00e5 dokumentationen for hvor en model kommer fra, hvilke basisv\u00e6gte den bygger p\u00e5, hvilken tr\u00e6ning der er udf\u00f8rt, og hvilke rettigheder og risici der f\u00f8lger med. For udviklere, arkitekter og offentlige indk\u00f8bere er det ikke akademisk fnidder. Det er forskellen p\u00e5 en kontrollerbar komponent og en sort boks med god PR.<\/p>\n\n\n\n

Anklagen: en modelmerge forkl\u00e6dt som egen tr\u00e6ning<\/h2>\n\n\n\n

Nex-AGI skriver, at Rio-modellen er pr\u00e6senteret som en original 397B-model tr\u00e6net af IplanRIO, men at de ikke finder bevis for selvst\u00e6ndig tr\u00e6ning. De peger p\u00e5 to uafh\u00e6ngige spor. F\u00f8rst: n\u00e5r den h\u00e5rdkodede \u201cYou are Rio\u201d-systemprompt fjernes, identificerer modellen sig if\u00f8lge Nex-AGI som \u201cNex, from Nex-AGI\u201d i 79 procent af testene og som Rio i 0 procent. Dern\u00e6st: hver v\u00e6gttensor skulle statistisk passe som en 0,6\/0,4-blanding af Nex-N2-Pro og Qwen3.5 p\u00e5 tv\u00e6rs af alle 60 lag og netv\u00e6rkskomponenter.<\/p>\n\n\n\n

Det er en st\u00e6rk p\u00e5stand, men ogs\u00e5 en p\u00e5stand der netop kan unders\u00f8ges, fordi v\u00e6gtene er \u00e5bne. En modelmerge er i sig selv ikke snyd. Tv\u00e6rtimod er det en kendt metode i open-weight-milj\u00f8et, hvor besl\u00e6gtede modeller med samme arkitektur blandes matematisk for at kombinere egenskaber. Problemet opst\u00e5r, hvis resultatet s\u00e6lges som noget andet end det er.<\/p>\n\n\n\n

Hugging Face-siden for Rio-modellen er siden blevet opdateret med en forklaring: modellen skulle v\u00e6re bygget via en merge af Nex-N2-Pro og Qwen3.5-397B-A17B, efterfulgt af on-policy distillation fra en st\u00e6rkere model. Der st\u00e5r ogs\u00e5, at en forkert version blev uploadet, nemlig den basale merge i stedet for den endelige destillerede model. Det kan v\u00e6re sandt. Men indtil den korrekte model og en klar modelkort-historik ligger offentligt fremme, er tilliden skadet.<\/p>\n\n\n\n

Hvorfor det betyder noget i praksis<\/h2>\n\n\n\n

Hvis en kommune, et ministerium eller en virksomhed siger, at de har bygget en national eller lokal sprogmodel, f\u00f8lger der implicit nogle p\u00e5stande med: at de har kompetencerne, dataene, budgettet, evalueringssetup\u2019et og governance-modellen til at drive en s\u00e5dan model. Hvis modellen i virkeligheden prim\u00e6rt er en blanding af to eksisterende \u00e5bne modeller, er det stadig teknisk interessant, men det er ikke den samme organisatoriske kapabilitet.<\/p>\n\n\n\n

For IT-arkitekter er det her en indk\u00f8bsrisiko. Hvis man tager en model ind i en offentlig eller reguleret l\u00f8sning, skal man kunne svare p\u00e5 simple sp\u00f8rgsm\u00e5l: Hvilken licens g\u00e6lder? Hvilke basismodeller indg\u00e5r? Er der tr\u00e6net p\u00e5 data med s\u00e6rlige rettigheder? Kan modellen spores tilbage til en leverand\u00f8r, der senere \u00e6ndrer licens, fjerner filer eller bliver omfattet af eksportkontrol? Den slags er ikke pynt. Det er drift, compliance og kontraktstyring.<\/p>\n\n\n\n

Det er samme grundproblem som i LLM eksportkontrol: n\u00e5r modeladgang bliver driftsrisiko<\/a>: modelvalg er ikke l\u00e6ngere bare et sp\u00f8rgsm\u00e5l om kvalitet. Det er en afh\u00e6ngighed. Og afh\u00e6ngigheder uden tydelig oprindelse er sv\u00e6re at styre.<\/p>\n\n\n\n

Open weights g\u00f8r l\u00f8gnen sv\u00e6rere, ikke umulig<\/h2>\n\n\n\n

Den positive del af historien er, at open-weight-\u00f8kosystemet faktisk virkede. Fordi modellerne kunne inspiceres, kunne community\u2019et sammenligne v\u00e6gte, identitetstests og modelkort. Hacker News-tr\u00e5den gik hurtigt fra \u201csp\u00e6ndende lokal model\u201d til en ret pr\u00e6cis diskussion om v\u00e6gtinterpolation, attribution og falske kapabilitetsclaims. Det er sundt.<\/p>\n\n\n\n

Men det viser ogs\u00e5, at modelkort stadig er for svage som kontraktgrundlag. Et modelkort b\u00f8r ikke bare v\u00e6re marketingtekst med et par benchmarktabeller. Det b\u00f8r indeholde en sporbar k\u00e6de: basisv\u00e6gte, merge-opskrift, distillation, tr\u00e6ningsdata p\u00e5 h\u00f8jt niveau, evalueringsmetoder, licenser, kendte begr\u00e6nsninger og \u00e6ndringshistorik. Hvis en model bliver erstattet, b\u00f8r filhistorikken og checksums g\u00f8re det tydeligt hvad der skete.<\/p>\n\n\n\n

Det minder om diskussionen om \u00e5bne agentmodeller i SubQ-artiklen<\/a>: nye arkitekturer og billige kontekstvinduer er sp\u00e6ndende, men de \u00e6ndrer ikke p\u00e5 behovet for dokumentation. Jo mere modeller bliver produktionsinfrastruktur, desto mindre kan vi n\u00f8jes med \u201ctrust me, bro\u201d.<\/p>\n\n\n\n

Den praktiske lektie<\/h2>\n\n\n\n

Hvis du evaluerer en \u00e5ben LLM i 2026, b\u00f8r modelprovenans ind i tjeklisten f\u00f8r benchmarks. Sp\u00f8rg efter basisv\u00e6gte. Sp\u00f8rg efter tr\u00e6nings- og mergeproces. Gem modelkort og filhashes ved indk\u00f8bstidspunktet. Test om modellen afsl\u00f8rer en anden identitet end den annoncerede. Og v\u00e6r skeptisk, n\u00e5r en akt\u00f8r pludselig h\u00e6vder frontier-lignende resultater uden tilsvarende dokumentation for tr\u00e6ning, data og evalueringsmilj\u00f8.<\/p>\n\n\n\n

Rio-sagen kan stadig ende med en banal uploadfejl. Men selv i den mest velvillige version er den en advarsel: AI-suver\u00e6nitet handler ikke om at s\u00e6tte et lokalt navn p\u00e5 en model. Det handler om at kunne dokumentere hvad man faktisk har bygget, hvad man har arvet, og hvem der b\u00e6rer ansvaret n\u00e5r modellen bliver brugt i rigtige systemer.<\/p>\n\n\n\n

Kilder<\/h2>\n\n\n