Sikkerhed Containment og skalering

Hundredvis af agenter. Lige så sikre som den første.

Når agenter arbejder i jeres systemer, skal sikkerhed, indkapsling og overblik være bygget ind fra starten. Her er de principper, vi bygger efter – så en fejl hos én agent forbliver hos én agent, og agent nummer 300 følger de samme regler som nummer 1.

01

Sikkerhed

En agent er en ny slags bruger i jeres systemer. Den skal behandles som én – med identitet, rettigheder og opsyn.

  • Egen identitet pr. agent

    Hver agent har sin egen servicekonto. Så kan den spores, begrænses og spærres uden at ramme andre agenter eller mennesker.

  • Mindst mulige rettigheder

    Adgang pr. handling og datatype. Læseadgang, hvor det er nok, og tidsbegrænsede nøgler til det, der skal skrives.

  • Hemmeligheder i en vault

    Nøgler og adgangskoder ligger i en hemmelighedsboks – aldrig i instruktioner, kode eller logs – og roteres løbende.

  • Forsvar mod prompt injection

    Indhold fra mails, dokumenter og hjemmesider behandles som data, ikke som ordrer. Hver handling tjekkes mod mandatet, og følsomme handlinger kræver et menneske.

  • Dataminimering

    Agenten ser kun de felter, opgaven kræver. Persondata maskeres, hvor de ikke er nødvendige for at løse opgaven.

  • Kryptering og datalokation

    Data krypteres under overførsel og opbevaring. Vi vælger region, leverandør eller on-prem ud fra jeres krav til, hvor data må være.

  • Fuld sporbarhed

    Hvert kald logges med agent, version, kilder, handling og godkender. Loggen ligger hos jer og kan bruges i revision og hændelseshåndtering.

  • Test før og under drift

    Misbrugsscenarier og angrebsforsøg testes, før en agent går i drift – og igen, hver gang en model, en instruktion eller et system ændrer sig.

02

Containment

Hver agent arbejder i sin egen, lukkede ramme. Den eneste vej ud går gennem en kontrolleret gateway.

Jeres lukkede miljø

Agenter · én container hver

  • TilbudCPU · tid · budget
  • HenvendelserCPU · tid · budget
  • FakturaerCPU · tid · budget
  • OnboardingCPU · tid · budget
  • KodeændringerCPU · tid · budget
  • RapporterCPU · tid · budget

Direkte adgang til internet og systemer: blokeret

Gateway · den eneste vej ud

  1. IdentitetHvilken agent – og hvis mandat?
  2. PolitikMå netop denne handling udføres?
  3. GodkendelseKræver det et menneske?
  4. LogAlt registreres med kilde

Jeres systemer

  • CRM
  • ERP
  • Mail
  • Dokumenter
  • Repository

Nødstop hos et menneske – pr. agent, pr. funktion eller alle på én gang

Diagram: Hver agent kører i sin egen container med grænser for ressourcer, tid og budget. Direkte adgang til internet og systemer er blokeret. Den eneste vej ud går gennem en gateway, der tjekker identitet, politik og behov for menneskelig godkendelse og logger alt, før handlingen når jeres systemer. Et menneske kan stoppe en agent, en funktion eller alle agenter.
  • Isoleret container pr. agent

    Eget filsystem og ingen delt tilstand. En agent kan ikke se eller påvirke de andre.

  • Lukket netværk som standard

    Kun godkendte destinationer kan nås. Alt andet er blokeret.

  • Én vej ud: gatewayen

    Al adgang til systemer går gennem en gateway med MCP-servere, der tjekker identitet, politik og godkendelse og logger alt.

  • Grænser for ressourcer og budget

    Faste lofter for CPU, hukommelse, køretid, antal kald, tokens og kroner pr. agent og pr. opgave.

  • Stopklodser mod løbske agenter

    Maksimalt antal trin, genkendelse af løkker og timeouts, så en agent ikke kan køre i ring.

  • Nødstop i tre niveauer

    Stop én agent, en hel funktion eller alle agenter på én gang. Det er aftalt på forhånd, hvem der må trykke.

03

Skalering

Det, der virker for fem agenter, holder ikke til fem hundrede. Kravene vokser trin for trin – og hvert trin bygger på det forrige.

  1. Trin 11–10agenter

    De første agenter

    • Mandat og navngiven ejer pr. agent
    • Godkendelse af alt, der forlader huset
    • Logning af hver handling
    • Evaluering på jeres egne eksempler
  2. Trin 210–50agenter

    Flere funktioner

    • Agentregister: hvem, hvad, hvis mandat, hvilken version
    • Fælles gateway og adgangsmodel
    • Automatisk evaluering ved hver ændring
    • Budgetter og overvågning pr. agent
  3. Trin 350+agenter

    Hundredvis på tværs

    • Kontrolplan med politikker som kode
    • Central overvågning af kvalitet, omkostning og hændelser
    • Gradvis udrulning – én funktion ad gangen
    • Valg af model pr. opgave og plan B, hvis en model fejler
    • Ejerskab i funktionerne, fælles regler centralt
    • Beredskab for hændelser

Tallene er en tommelfingerregel. Hvornår I skal tage næste trin, afhænger af, hvor følsomme opgaverne er, og hvor mange systemer agenterne arbejder i.

04

Trusselsbillede

De risici, vi designer imod – og hvad vi gør ved dem.

TrusselHvad kan skeModtræk
Prompt injectionEn mail eller et dokument indeholder skjulte instruktioner til agenten.Eksternt indhold er data. Gatewayen tjekker hver handling mod mandatet, og følsomme handlinger kræver et menneske.
For bred adgangEn agent kan se eller ændre mere, end opgaven kræver.Mindst mulige rettigheder pr. handling og datatype – og agentens egen identitet.
DataudslipFølsomme oplysninger sendes ud af huset.Lukket netværk, godkendte destinationer, maskering af persondata og logning.
Løbsk agentEn agent kører i ring, laver tusindvis af kald eller en stor regning.Lofter for trin, tid og budget – og nødstop.
Lækkede nøglerAdgangsnøgler ender i en prompt, en log eller et repository.Vault, rotation og ingen nøgler i agentens instruktioner.
ModelændringerEn ny modelversion opfører sig anderledes.Faste versioner og samme tests, før en opdatering går i drift.
Skygge-agenterAgenter uden ejer, mandat eller overblik opstår rundt omkring.Agentregister og en enkel regel: ingen agent uden mandat og ejer.
LeverandørafhængighedÉn modelleverandør bliver en flaskehals eller en risiko.Modelneutral opbygning med mulighed for open source-modeller og on-prem.

05

Revision og krav

Vi designer efter jeres krav – fx GDPR, NIS2 og EU’s AI-forordning – sammen med jeres IT-sikkerhed, DPO og compliance. Kontrollerne dokumenteres, så de kan indgå i jeres egen revision.

Uafhængig revisorerklæring

Vores kontroller er revideret efter ISAE 3402.

BDO Statsautoriseret revisionspartnerselskab har afgivet en ISAE 3402-erklæring med sikkerhed om vores software services og de tilhørende kontroller – deres udformning og operationelle effektivitet i hele perioden 1. november 2024 – 31. oktober 2025. Erklæringen er udstedt til WeCode A/S, i dag Appointed A/S.

Standard
ISAE 3402
Periode
1. november 2024 – 31. oktober 2025
Udstedt
18. december 2025
Læs erklæringen (PDF, 1,3 MB)

Skal vi gennemgå jeres sikkerhedskrav?

Fortæl os, hvilke systemer og data agenterne skal arbejde med, og hvilke krav I er underlagt. Så viser vi, hvordan miljøet kan sættes op.