{"id":1737,"date":"2026-07-07T06:18:08","date_gmt":"2026-07-07T04:18:08","guid":{"rendered":"https:\/\/vittrup-graversen.dk\/?p=1737"},"modified":"2026-07-07T06:18:09","modified_gmt":"2026-07-07T04:18:09","slug":"j-space-claude-faar-et-vindue-ind-i-sine-skjulte-tanker","status":"publish","type":"post","link":"https:\/\/vittrup-graversen.dk\/index.php\/2026\/07\/07\/j-space-claude-faar-et-vindue-ind-i-sine-skjulte-tanker\/","title":{"rendered":"J-space: Claude f\u00e5r et vindue ind i sine skjulte tanker"},"content":{"rendered":"\n

Anthropic offentliggjorde 6. juli et af de mere interessante LLM-resultater l\u00e6nge: et fors\u00f8g p\u00e5 at l\u00e6se den del af Claude, som modellen kan bruge til intern r\u00e6sonnering, men ikke n\u00f8dvendigvis siger h\u00f8jt. De kalder rummet for J-space, fundet med en metode kaldet Jacobian lens. Det lyder akademisk, og det er det ogs\u00e5. Men den praktiske konsekvens er enkel: vi n\u00e6rmer os v\u00e6rkt\u00f8jer, der kan vise, hvad en sprogmodel er p\u00e5 vej til at bruge som mellemregning, sikkerhedsvurdering eller skjult hensigt.<\/p>\n\n\n\n

Det er mere relevant for udviklere og IT-arkitekter end endnu en benchmarkrekord. Hvis LLM\u2019er skal bruges som agenter i kundesupport, kodebaser, dokumenth\u00e5ndtering eller driftsmilj\u00f8er, er outputtet ikke nok. Vi har brug for bedre indblik i, hvorfor modellen handler, hvor den opdager risiko, og hvorn\u00e5r den bare spiller p\u00e6nt, fordi den har genkendt en test.<\/p>\n\n\n\n

J-space er ikke bevis for bevidsthed<\/h2>\n\n\n\n

Anthropic er selv relativt forsigtige. De siger ikke, at Claude er bevidst som et menneske. Pointen er mere sn\u00e6vert: moderne sprogmodeller ser ud til at have et lille, privilegeret s\u00e6t interne repr\u00e6sentationer, som kan rapporteres, manipuleres og bruges fleksibelt i r\u00e6sonnering. Det minder funktionelt om global workspace theory fra kognitionsforskningen, hvor kun en lille del af hjernens behandling er tilg\u00e6ngelig for bevidst rapport og m\u00e5lrettet handling.<\/p>\n\n\n\n

I modellen finder Anthropic dette ved at lede efter interne vektorer, der g\u00f8r Claude mere tilb\u00f8jelig til at kunne sige bestemte ord senere. Det er ikke bare n\u00e6ste token. Det er snarere ord og begreber, modellen er parat til at bruge, hvis den bliver spurgt. Derfor kan J-space vise ting, som ikke st\u00e5r i prompten og ikke kommer med i svaret.<\/p>\n\n\n\n

Eksemplerne er konkrete nok til at v\u00e6re v\u00e6rd at tage alvorligt. N\u00e5r Claude l\u00e6ser kode med en fejl, kan J-space indeholde begreber som \u201cERROR\u201d. N\u00e5r modellen m\u00f8der s\u00f8geresultater med prompt injection, dukker ord som \u201cinjection\u201d og \u201cfake\u201d op. N\u00e5r den l\u00f8ser en opgave i flere trin, kan mellemregningerne ses i J-space, selv om modellen ikke skriver dem ud.<\/p>\n\n\n\n

Det vigtige er kontrol, ikke mystik<\/h2>\n\n\n\n

Det mest interessante er, at Anthropic ikke kun observerer J-space. De \u00e6ndrer ogs\u00e5 p\u00e5 det. I et fors\u00f8g lader de modellen t\u00e6nke p\u00e5 en sport. J-lens viser \u201csoccer\u201d, f\u00f8r Claude svarer. N\u00e5r forskerne erstatter den interne repr\u00e6sentation med \u201crugby\u201d, \u00e6ndrer svaret sig. I et andet eksempel \u00e6ndrer de \u201cspider\u201d til \u201cant\u201d i en skjult mellemregning, og modellens svar skifter fra 8 ben til 6.<\/p>\n\n\n\n

Det er vigtigt, fordi det peger p\u00e5 kausalitet. J-space er ikke kun en passiv logfil. Det ser ud til at v\u00e6re et arbejdsrum, som andre dele af modellen faktisk l\u00e6ser fra. Anthropic viser ogs\u00e5, at samme repr\u00e6sentation kan bruges fleksibelt. Skifter man \u201cFrance\u201d til \u201cChina\u201d, \u00e6ndrer modellen svar om hovedstad, sprog, kontinent og valuta i den rigtige retning.<\/p>\n\n\n\n

For drift og sikkerhed er det her mere interessant end filosofien. Hvis vi kan m\u00e5le, at en model internt har registreret prompt injection, testbevidsthed, manipulation eller en skadelig intention, f\u00e5r vi en ny type kontrolpunkt. Ikke et perfekt kontrolpunkt, men et ekstra signal ved siden af outputfiltre, evals, logning og rettighedsstyring.<\/p>\n\n\n\n

Det passer direkte ind i samme problem, som jeg tidligere har skrevet om i Prompt injection: LLM-agenter har f\u00e5et et kontrolplansproblem<\/a>. N\u00e5r modellen f\u00e5r adgang til v\u00e6rkt\u00f8jer, filer og forretningsdata, er sikkerhed ikke l\u00e6ngere kun et sp\u00f8rgsm\u00e5l om p\u00e6ne svar. Det handler om kontrolplan, identitet, v\u00e6rkt\u00f8jskald og audit.<\/p>\n\n\n\n

Risikoen: en ny sort boks oven p\u00e5 den gamle<\/h2>\n\n\n\n

Man kan hurtigt s\u00e6lge J-space som en slags \u201ctankel\u00e6sning\u201d. Metoden finder dog kun bestemte typer repr\u00e6sentationer, is\u00e6r begreber der kan kobles til tokens. Den er udviklet og testet i en forskningskontekst, ikke som et f\u00e6rdigt produktionsv\u00e6rkt\u00f8j. Og selv hvis et signal ser meningsfuldt ud i Claude, er det ikke givet, at det virker ens i andre modelarkitekturer eller hos andre leverand\u00f8rer.<\/p>\n\n\n\n

P\u00e5 Hacker News k\u00f8rer diskussionen ogs\u00e5. Nogle ser et praktisk spor mod bedre introspektion i kundesupportbots og agentdrift. Andre sp\u00f8rger mere n\u00f8gternt, hvor J-space egentlig ligger i v\u00e6gtene, og om metoden skalerer til noget, kunder kan bruge. Det er den rigtige skepsis. Forskning i interpretability har ofte set lovende ud i sm\u00e5 eller kontrollerede milj\u00f8er og v\u00e6ret sv\u00e6r at g\u00f8re robust i produktion.<\/p>\n\n\n\n

Den anden risiko er vendor-kontrol. Hvis kun modelleverand\u00f8ren kan l\u00e6se og p\u00e5virke arbejdsrummet, f\u00e5r kunderne endnu et lag af tillid til en sort boks. I enterprise-sammenh\u00e6ng er det ikke nok at f\u00e5 at vide, at modellen internt \u201copdagede\u201d en risiko. Man vil have revisionsspor, forklarbare gr\u00e6nser, dokumenterede fejlmoder og klare garantier for, hvordan data fra prompts, v\u00e6rkt\u00f8jer og interne repr\u00e6sentationer behandles.<\/p>\n\n\n\n

Det h\u00e6nger ogs\u00e5 sammen med den bredere udvikling, hvor LLM-drift bliver modelrouting, adgangskontrol og afh\u00e6ngighedsstyring. Se for eksempel LLM tokenbudget: AI-regningen er blevet drift<\/a>. J-space kan blive endnu et signal i s\u00e5dan et kontrolplan, men det m\u00e5 ikke blive endnu en magisk lampe, som ingen uden for leverand\u00f8ren m\u00e5 kigge ind i.<\/p>\n\n\n\n

Hvad danske teams b\u00f8r tage med<\/h2>\n\n\n\n

Min vurdering: dette er ikke noget, man skal bygge roadmaps p\u00e5 i morgen. Men det er et st\u00e6rkt signal om, hvor LLM-sikkerhed bev\u00e6ger sig hen. Vi g\u00e5r fra kun at teste svar til ogs\u00e5 at fors\u00f8ge at teste interne beslutningsprocesser. Det vil f\u00e5 betydning for evaluering, compliance og agentdesign.<\/p>\n\n\n\n

Hvis du driver LLM-l\u00f8sninger i dag, er den praktiske lektie ikke \u201cvent p\u00e5 J-space API\u2019et\u201d. Den er mere jordn\u00e6r: design dine systemer, s\u00e5 interne modelsignaler kan blive nyttige, hvis og n\u00e5r de modnes. Gem kontekst om v\u00e6rkt\u00f8jskald. Log beslutningspunkter. Adskil modelens tekstoutput fra autoriserede handlinger. Evaluer specifikt for prompt injection, testbevidsthed, skjulte m\u00e5l og manipulation af resultater. Og kr\u00e6v af leverand\u00f8rer, at sikkerhedssignaler kan auditeres, ikke bare beskrives i en blogpost.<\/p>\n\n\n\n

J-space g\u00f8r ikke Claude menneskelig. Men det g\u00f8r modellen lidt mindre uigennemsigtig. For alle os, der gerne vil bruge sprogmodeller til mere end chat, er det en langt vigtigere nyhed end endnu et tal p\u00e5 en leaderboard.<\/p>\n\n\n\n

Kilder<\/h2>\n\n\n\n