En AI-agent bliver først virkelig nyttig, når den kan hente oplysninger eller udføre handlinger i andre systemer. Samtidig opstår den største risiko netop dér. En fejl i en tekst er irriterende; en fejl i en API-handling kan ændre data, sende en besked eller oprette en ordre.
Brug denne tjekliste før AI får adgang til virksomhedens systemer.
1. Del læse- og skriveadgang op
En integration, der kun skal hente information, bør ikke kunne ændre noget. Opret separate API-nøgler eller rettigheder til læsning og skrivning. Giv kun adgang til de ressourcer og kunder, som brugeren selv må se.
2. Gem aldrig hemmeligheder i prompts
API-nøgler, adgangstokens og passwords skal ligge i en sikker secret manager eller serverkonfiguration. De må ikke stå i prompten, i kode på klienten eller i en delt dokumentation. Sørg for rotation og en procedure til hurtig spærring.
3. Valider alle input på serversiden
En sprogmodel kan foreslå ugyldige eller farlige parametre. API’et skal derfor kontrollere datatyper, længder, tilladte værdier og brugerens adgang. Modellen må aldrig være den eneste sikkerhedsgrænse.
Læs hvordan en API-integration fungerer for at få grundbegreberne på plads.
4. Brug tydelige værktøjer
Undgå ét værktøj med næsten ubegrænsede muligheder. Opret små handlinger som “hent ordrestatus”, “opret kladde” og “send efter godkendelse”. Et smalt værktøj er lettere at beskrive, teste og overvåge.
5. Kræv godkendelse ved konsekvenser
Betalinger, sletning, publicering, udsendelse af beskeder og ændringer i kundedata bør kræve et menneskeligt ja. Vis præcist, hvad der vil ske, før handlingen udføres. Godkendelsen skal gælde den konkrete handling – ikke alle fremtidige handlinger.
6. Håndtér gentagelser og fejl
Netværk fejler. En agent kan prøve igen og dermed oprette den samme ordre to gange. Brug idempotency keys, tidsgrænser og et begrænset antal genforsøg. Skeln mellem midlertidige fejl og input, der skal rettes.
7. Sæt hastigheds- og beløbsgrænser
Rate limits begrænser skade ved fejl eller misbrug. Tilføj også forretningsgrænser: maksimalt antal poster, beløb eller modtagere pr. handling. En afvigende aktivitet bør stoppe integrationen og udløse en alarm.
8. Log det nødvendige
Log bruger, tidspunkt, værktøj, relevante parametre, resultat og godkendelse. Undgå at kopiere følsomme data ukritisk til loggen. Logs skal gøre det muligt at undersøge en hændelse uden selv at blive en ny datarisiko.
9. Test i staging
Brug testkonti og syntetiske data. Test manglende felter, ugyldige værdier, timeout, utilgængelige systemer og forsøg på prompt injection. Kør regressionstest, når model, prompt eller API ændres.
Se også guiden til test af AI-chatbots og AI-sikkerhed for små virksomheder.
10. Planlæg stop og rollback
I skal kunne deaktivere integrationen uden at lukke hele forretningen. Dokumentér hvem der må stoppe den, hvordan nøgler tilbagekaldes, og hvordan fejlagtige ændringer gendannes.
En sikker pilot
Start med læseadgang og én afgrænset arbejdsgang. Tilføj først skrivehandlinger, når data, rettigheder og logning er bevist i praksis. Brug EesyPlus Risikotjek eller AI Problem Lab til at afgrænse integrationen, før den får adgang til produktion.
