Et nyt stort studie fra MIT, Cambridge og flere f\u00f8rende universiteter har gennemg\u00e5et 30 af de mest udbredte AI-agent-systemer \u2014 og konklusionen er alarmerende: de fleste mangler grundl\u00e6ggende sikkerhedskontrol, gennemsigtighed og mulighed for overv\u00e5gning.<\/p>\n
Rapporten “The 2025 AI Index: Documenting Sociotechnical Features of Deployed Agentic AI Systems<\/em>” er p\u00e5 39 sider og kan downloades frit<\/a>. Den unders\u00f8ger agenter bygget p\u00e5 OpenAI’s GPT, Anthropic’s Claude og Google’s Gemini \u2014 de tre modeller, som langt de fleste agentsystemer i dag er baseret p\u00e5.<\/p>\n Forskerne kiggede p\u00e5 otte kategorier af information, som udviklere b\u00f8r oplyse om deres agentsystemer. Resultatet? De fleste systemer oplyser slet intet i de fleste kategorier. Det g\u00e6lder alt fra potentielle risici til tredjepartstestning.<\/p>\n Et af de mest bekymrende fund er, at mange enterprise-agenter ikke tilbyder monitorering af individuelle udf\u00f8relsestrin. 12 ud af 30 agenter giver ingen brugsoversigt overhovedet \u2014 eller advarer f\u00f8rst n\u00e5r man rammer en rate-limit. Det g\u00f8r det reelt umuligt for virksomheder at budgettere og styre deres AI-forbrug.<\/p>\n Endnu v\u00e6rre: de fleste agenter identificerer sig ikke som AI over for omverdenen. Ingen watermarking af genereret indhold, ingen respekt for robots.txt, ingen signalering til tredjeparter om at de interagerer med en maskine.<\/p>\n Alibaba’s MobileAgent, HubSpot’s Breeze, IBM’s watsonx og den tyske automatiseringsplatform n8n mangler alle dokumenterede stop-mekanismer \u2014 trods autonom udf\u00f8relse. I nogle tilf\u00e6lde er den eneste mulighed at stoppe alle<\/em> agenter eller tr\u00e6kke hele deploymentet tilbage.<\/p>\n For en virksomhed, der opdager at en agent laver skade, er det et mareridt: du kan ikke bare trykke p\u00e5 stop-knappen.<\/p>\n Studiet kommer p\u00e5 et tidspunkt, hvor AI-agenter bev\u00e6ger sig fra eksperimentelt v\u00e6rkt\u00f8j til produktionssystemer. OpenAI har netop ansat Peter Steinberg, skaberen af open source-frameworket OpenClaw, som tidligere har tiltrukket opm\u00e6rksomhed for b\u00e5de sine imponerende muligheder og sine dramatiske sikkerhedshuller<\/a>.<\/p>\n For udviklere og virksomheder, der bygger med AI-agenter, er budskabet klart:<\/p>\n Rapporten minder om, at AI-agenter stadig er en umoden teknologi. Modellerne bag \u2014 GPT, Claude, Gemini \u2014 bliver bedre m\u00e5ned for m\u00e5ned, men infrastrukturen omkring dem halter. Sikkerhed, gennemsigtighed og kontrol er ikke nice-to-have; det er foruds\u00e6tninger for at agenter kan bruges ansvarligt i produktion.<\/p>\nIngen ved hvad agenterne laver<\/h2>\n
Nogle agenter kan ikke stoppes<\/h2>\n
Hvad det betyder for udviklere<\/h2>\n
\n
Perspektiv<\/h2>\n