Workshop i LLM Firewall & Prompt Gateway: Filtrering, logning og policy enforcement før drift

Når generativ AI bevæger sig fra test til drift, ændrer risikobilledet sig markant. Det er ikke længere nok at skrive gode prompts og vælge en stærk model. Der skal sættes styr på, hvad der må passere ind til modellen, hvad der må komme ud igen, og hvordan hændelser dokumenteres uden at skabe nye datarisici.

En målrettet workshop om LLM-firewall og prompt-gateway giver teams et fælles, operationelt greb om filtrering, logning og policy enforcement, før løsningen møder rigtige brugere, rigtige data og rigtige krav fra sikkerhed, jura og ledelse.

Hvorfor LLM-sikkerhed skal være på plads før produktion

Mange organisationer starter med brugsscenarier og modelvalg. Det er naturligt. Men den kritiske kontrol ligger ofte et andet sted, nemlig i laget mellem bruger og model. Her afgøres det, om skadelige prompts bliver stoppet, om følsomme oplysninger maskeres, og om virksomhedsregler håndhæves ensartet på tværs af løsninger.

En LLM-firewall og en prompt-gateway fungerer som et styrende mellemled. De vurderer input, før modellen kaldes, og de kan også kontrollere output, før svaret sendes videre. Det giver et mere robust setup, hvor sikkerhed ikke afhænger af enkeltpersoners disciplin alene.

Det er især vigtigt i nordiske organisationer, hvor krav til GDPR, dokumentation, dataminimering og governance ofte er høje, og hvor AI-initiativer skal kunne forklares over for både ledelse, medarbejdere og tilsyn.

Hvad workshoppen om LLM-firewall og prompt-gateway indeholder

Workshoppen er bygget til fagfolk, der skal omsætte AI-sikkerhed til praksis. Fokus er ikke kun på teori, men på konkrete beslutninger, konfigurationer og testgreb, som kan bruges i den videre implementering.

Deltagerne arbejder typisk med de centrale lag i et sikkert LLM-setup:

• Inputfiltrering: klassificering af prompts, mønstergenkendelse, blokering af prompt injection, jailbreak-forsøg, kodede instruktioner og uønsket indhold
• Logning og sporbarhed: strukturerede audit trails, pseudonymisering, anonymisering af PII, adgangsstyring og opbevaringsprincipper
• Policy enforcement: oversættelse af interne regler til tekniske kontroller, emnebegrænsning, datakrav, formatkrav og rollebaserede beslutninger
• Outputvalidering: kontrol af svar før returnering, skema-validering, forretningsregler og ekstra godkendelseslag ved følsomme svar
• Pre-production test: red teaming, regressionstest, shadow deployment og måling af falske positiver og falske negativer

Det gør workshoppen relevant både for teams, der står før første go-live, og for organisationer, der allerede bruger LLM’er, men mangler et mere modent kontrolniveau.

Hvilke risici der arbejdes med i workshoppen

En stor del af værdien ligger i at se risici som arbejdsgange og ikke kun som teori. Når deltagere ser, hvordan et prompt-angreb faktisk kan omgå svage regler, bliver prioriteringerne tydelige.

Der arbejdes blandt andet med:

• prompt injection
• jailbreak-mønstre
• læk af persondata i prompts og logs
• manglende emneafgrænsning
• utilstrækkelig adgangskontrol til logdata
• svar, der bryder interne politikker

Samtidig bliver der sat fokus på et klassisk problem i AI-projekter: forskellen mellem det, man har besluttet i et policy-dokument, og det, systemet reelt håndhæver i drift.

Fra sikkerhedspolitik til håndhævelse i gatewayen

Mange virksomheder har allerede regler for fortrolighed, adgang, datadeling og faglige ansvarsområder. Udfordringen er at få disse regler omsat til maskinlæsbare kontroller, som virker ens hver gang.

I workshoppen arbejdes der derfor med, hvordan politikker formuleres, prioriteres og implementeres i en gateway. Det kan være regler om, at modellen kun må bruges til bestemte emner, at CPR-numre og kunde-ID’er skal maskeres, eller at bestemte brugerroller må få adgang til bestemte funktioner.

Det er her, en moden prompt-gateway bliver værdifuld. Den giver et centralt sted at håndhæve regler på tværs af modeller og use cases, så sikkerheden ikke spreder sig ud i mange uens scripts, prompts og lokale undtagelser.

Et godt setup er sjældent kun én regelmotor. Det er et lagdelt design.

• Regelbaseret kontrol: nøgleord, mønstre, skemaer og faste tærskler
• ML-baseret klassificering: vurdering af skadelighed, emnetyper og følsigt indhold
• Kontekststyring: kontrol af brugerrolle, kanal, datakilde og formål
• Svarkontrol: validering af output op mod policy, format og tilladte handlinger

Logning, privatliv og audit trails i LLM-miljøer

Logning er nødvendig, hvis fejl, angreb eller uønsket adfærd skal kunne spores. Men i AI-løsninger kan loggene hurtigt blive en risiko i sig selv. Prompts og svar kan indeholde personoplysninger, forretningshemmeligheder eller følsom intern viden.

Derfor arbejder workshoppen med logning som audit trail og ikke bare som teknisk fejlsøgning. Deltagerne ser, hvordan data kan minimeres, hvordan PII kan fjernes eller erstattes, og hvordan adgang til logs kan styres efter rolle og behov.

Der sættes også fokus på logkvalitet. Strukturerede logs er langt lettere at bruge til både sikkerhedsovervågning, compliance og intern læring. Når hændelser registreres ensartet, bliver det muligt at analysere mønstre, dokumentere hændelser og forbedre reglerne løbende.

Typiske moduler i en workshop om LLM-sikkerhed

Indholdet kan tilpasses organisationens modenhed, men nedenstående struktur giver et godt billede af, hvordan et fokuseret læringsforløb kan bygges op.

Tabellen er ikke en fast skabelon, men den viser, hvordan tekniske, juridiske og organisatoriske hensyn kan samles i ét forløb.

Hvem workshoppen er relevant for

En workshop om LLM-firewall og prompt-gateway virker bedst, når flere fagligheder er til stede. Det giver hurtigere beslutninger og færre misforståelser mellem dem, der vil bygge, dem der skal godkende, og dem der skal drifte.

Den er særligt relevant for:

• IT- og sikkerhedsteams
• compliance, jura og DPO-funktioner
• produktansvarlige og projektledere
• data- og AI-specialister
• ledere med ansvar for AI-governance

Når disse roller lærer det samme sprog om filtrering, logning og kontrol, bliver det langt lettere at etablere et fælles beslutningsgrundlag.

Sådan arbejder Nordisk Business Academy med læring på området

Nordisk Business Academy lægger vægt på praksisnære, AI-integrerede forløb, hvor deltagerne arbejder med virkelige problemstillinger frem for abstrakte principper alene. Det gør en stor forskel på et felt, hvor mange ellers ender med generelle diskussioner uden teknisk retning.

Undervisningen er kendetegnet ved cases, opdaterede materialer og konkrete øvelser, der gør det lettere at omsætte sikkerhedskrav til handling. Det kan være vurdering af prompts, design af gateway-regler, gennemgang af logging-praksis eller test af simple governance-scenarier.

For organisationer giver det en mere brugbar læringsoplevelse, fordi workshoppen ikke kun handler om at kende begreberne, men om at kunne tage de næste rigtige skridt i implementeringen.

Hvad deltagerne står med efter workshoppen

Det mest værdifulde output er ofte ikke et enkelt dokument, men en fælles arbejdsmåde. Når teams kan vurdere prompts, definere kontrolpunkter og se logning som en del af styringen, bliver AI-arbejdet både mere sikkert og mere modent.

Deltagerne går typisk videre med et klarere billede af:

• hvilke risici der skal blokeres før modelkald
• hvilke data der aldrig bør logges råt
• hvordan interne politikker omsættes til gateway-regler
• hvordan test før drift bør bygges op
• hvilke roller der skal eje hvilke beslutninger

Det skaber et stærkere fundament for ansvarlig AI-brug, især i miljøer hvor kravene til sporbarhed, databeskyttelse og faglig kvalitet er høje.

Workshop med fokus på nordiske krav og realistiske implementeringer

I en nordisk kontekst er det ikke nok, at en løsning virker teknisk. Den skal også passe til organisationens datakrav, governance-model og sproglige virkelighed. Det gælder både danske forhold, tværnordiske teams og miljøer med skærpede krav til persondata, dokumentation og intern kontrol.

Netop derfor giver en specialiseret workshop værdi tidligt i forløbet. Den samler teknik, jura, drift og ledelse om de kontroller, der skal være på plads, før AI kan bruges med ro, tempo og faglig tyngde.