NIS2 og generativ AI: Hvad betyder det for sikker brug af ChatGPT, Copilot og interne chatbots?

Generativ AI er allerede blevet en fast del af arbejdet i mange danske organisationer. Medarbejdere bruger ChatGPT til udkast og analyse, Copilot til dokumenter, møder og kode, og interne chatbots bliver koblet på videnbaser, sagsgange og supportfunktioner.

Det skaber fart, kvalitet og nye muligheder. Det ændrer også organisationens risikobillede. Når AI får adgang til data, systemer og beslutningsprocesser, bliver den en del af den digitale drift, og det er netop dér, NIS2 bliver relevant.

NIS2 og generativ AI: sådan skal reglerne læses

NIS2 nævner ikke generativ AI direkte. Direktivet er skrevet teknologineutralt og fokuserer i stedet på netværks- og informationssystemer, risikostyring og robust drift. Det afgørende spørgsmål er derfor ikke, om et værktøj hedder ChatGPT, Copilot eller noget helt tredje. Spørgsmålet er, hvilken funktion værktøjet har i organisationen, hvilke data det behandler, og hvor kritisk det er for leverancen af væsentlige tjenester.

Hvis en AI-løsning bruges i en organisation, der er omfattet af NIS2, og løsningen indgår i centrale arbejdsgange, skal den behandles som en del af den samlede sikkerhedsarkitektur. Det betyder blandt andet risikovurdering, adgangsstyring, logning, hændelseshåndtering, leverandørstyring og dokumentation. NIS2 ser ikke AI som et særskilt eksperiment. Direktivet ser på den som endnu en digital komponent, der skal styres forsvarligt.

Det er også værd at holde fast i, at NIS2 ikke står alene. GDPR gælder stadig for behandling af personoplysninger, og den kommende eller gældende AI-regulering på EU-niveau retter sig mod andre forhold, blandt andet krav til bestemte typer AI-systemer. NIS2 handler først og fremmest om cybersikkerhed, drift og modstandsdygtighed.

ChatGPT, Copilot og interne chatbots under NIS2

De tre værktøjstyper minder om hinanden på overfladen, men de giver forskellige sikkerheds- og complianceudfordringer. Et offentligt tilgængeligt AI-værktøj kan være hurtigt at tage i brug, mens en intern chatbot ofte virker mere kontrolleret. Copilot-løsninger ligger typisk et sted imellem, fordi de er tæt integreret med eksisterende kontorplatforme, identitetsstyring og dokumentmiljøer.

Den praktiske vurdering bør tage udgangspunkt i dataadgang, integrationsniveau og konsekvens ved fejl eller misbrug.

En vigtig pointe er, at intern drift ikke automatisk betyder lav risiko. En chatbot bag virksomhedens firewall kan stadig være en højrisikokomponent, hvis den har bred adgang til dokumenter, personoplysninger eller driftskritiske systemer.

Sikkerhedsrisici ved generativ AI under NIS2

NIS2 retter opmærksomheden mod risici, som kan påvirke fortrolighed, integritet og tilgængelighed. Generativ AI kan ramme alle tre områder. Et enkelt promptfelt kan blive en kanal for datalæk. Et AI-svar kan påvirke medarbejderes beslutninger. En integration til interne databaser kan skabe nye angrebsflader, som ikke fandtes før.

Det gælder også, når AI-løsningen tilsyneladende kun bruges til støtteopgaver. Hvis output bruges i support, drift, kommunikation eller ledelsesbeslutninger, kan kvaliteten og sikkerheden omkring det få direkte betydning for organisationens robusthed.

Typiske risici ser sådan ud:

• Datalæk via prompts eller chatlogs
• Prompt injection: en angriber manipulerer input eller kildedata, så modellen afslører noget, den ikke burde
• Supply chain-risiko: tredjepartsmodeller, plugins eller API’er indfører sårbarheder uden for direkte kontrol
• Fejlbehæftet eller misvisende output
• Manglende sporbarhed og utilstrækkelig logning

Det er ikke alle fejl i et AI-svar, der bliver til en NIS2-hændelse. Men hvis en fejl påvirker en væsentlig tjeneste, skaber driftsforstyrrelser, fører til brud på fortrolighed eller sætter organisationen i en krisesituation, er sagen pludselig langt mere alvorlig end et almindeligt kvalitetsproblem.

Ledelsesansvar, dokumentation og rapportering i NIS2

NIS2 flytter cybersikkerhed op på ledelsesniveau. Det gælder også ved brug af generativ AI. Bestyrelse og direktion kan ikke nøjes med at betragte ChatGPT eller Copilot som et rent IT-anliggende. Hvis værktøjerne bruges i centrale processer, skal ledelsen kunne forklare, hvilke risici der er vurderet, hvilke kontroller der er valgt, og hvordan organisationen følger op.

Dokumentation bliver derfor afgørende. Organisationen bør kunne vise sine politikker for brug af AI, klassificering af data, godkendte integrationsmønstre, træning af medarbejdere, leverandørvurderinger og resultater af sikkerhedstest. Det handler ikke kun om at have en mappe med pdf-filer. Det handler om at kunne demonstrere styring i praksis.

Rapportering er et andet centralt punkt. Ved væsentlige hændelser opererer NIS2 med hurtige frister, herunder tidlig varsling inden for 24 timer, en mere fyldig anmeldelse inden for 72 timer og en afsluttende rapport inden for en måned. Hvis et AI-værktøj medfører et alvorligt databrud, en længere driftsforstyrrelse eller kompromittering af kritiske tjenester, skal hændelsen ind i det samme beredskab som andre cyberhændelser.

Shadow AI er sjældent forenelig med den disciplin.

Tekniske og organisatoriske kontroller til sikker AI-brug

Den gode nyhed er, at NIS2 ikke kræver magiske løsninger. Det kræver moden styring. Mange af de stærkeste tiltag er velkendte fra klassisk informationssikkerhed, men de skal tilpasses den måde, generativ AI arbejder på.

Det starter med klare rammer for, hvad medarbejdere må bruge værktøjerne til, og hvad de ikke må taste ind. Derefter kommer de tekniske kontroller: identitetsstyring, segmentering, kryptering, logning, overvågning og test. Til sidst kommer den løbende disciplin, hvor politikker, træning og risikovurderinger holdes ajour.

En praktisk minimumsmodel kan se sådan ud:

• Dataregler: klassificér hvilke oplysninger der aldrig må deles med eksterne AI-tjenester uden særskilt kontrol
• Adgangsstyring: brug MFA, SSO og mindst mulige rettigheder til AI-portaler, plugins og API-nøgler
• Logning af AI-kald og brugerhandlinger
• Leverandørstyring: stil kontraktkrav til sikkerhed, underdatabehandlere, auditmuligheder og hændelsesvarsling
• Træning: giv medarbejdere konkrete retningslinjer for prompts, fortrolighed og rapportering af mistænkelig adfærd

Der er også god grund til at teste AI-løsninger mere aktivt, end mange organisationer gør i dag. Som Cadana viser i deres gennemgang af 5 typiske fejl i digitaliseringsprojekter, udspringer mange sikkerheds- og kvalitetsproblemer af uklare krav, uafdækkede dataveje og manglende testansvar. Prompt injection, rettighedseskalering via søgning i dokumenter, fejl i datafiltrering og uklare fallback-mekanismer bør være en del af både sikkerhedstest og almindelig kvalitetskontrol.

Mange organisationer vælger samtidig at koble AI-styring sammen med kendte standarder for informationssikkerhed og ledelse. Det giver en mere stabil model, hvor AI ikke bliver et særspor, men indgår i den samlede governance.

Interne chatbots, RAG og dataadgang under NIS2

Interne chatbots bliver ofte opfattet som den sikre løsning, fordi data forbliver i organisationens eget miljø. Det kan være rigtigt, men kun hvis arkitekturen er bygget med skarp adgangskontrol og tydelig dataadskillelse.

Særligt RAG-løsninger, hvor chatbotten henter svar fra dokumenter, SharePoint, intranet eller fagsystemer, kræver præcision. Hvis botten får bredere læseadgang end brugeren selv burde have, bliver den i praksis et omgåelsesværktøj for rettighedsstyringen. Det er et klassisk eksempel på, at en moderne AI-funktion kan skabe en gammel sikkerhedsfejl i ny form.

Derfor bør interne chatbots designes efter samme principper som andre kritiske systemer: mindst mulige rettigheder, segmentering af datakilder, test af svargrænser, stærk autentificering og fuldt revisionsspor. Hvis chatbotten bruges i HR, jura, kundeservice eller drift, stiger kravet til kontrol yderligere, fordi konsekvenserne ved fejl er større.

Et simpelt spørgsmål er ofte meget afslørende: Kan organisationen dokumentere, præcis hvilke datakilder chatbotten må bruge, og hvem der kan få hvilke svar?

Første 90 dage med NIS2 og generativ AI

For mange organisationer er det mest realistiske udgangspunkt ikke en total omlægning, men et fokuseret 90-dages program. Målet bør være at skabe overblik, få styr på de største risici og etablere et beslutningsgrundlag for det videre arbejde.

Arbejdet begynder normalt med kortlægning. Hvilke AI-værktøjer bruges allerede, officielt eller uofficielt? Hvilke data flyder igennem dem? Hvilke leverandører indgår? Hvilke funktioner er kritiske? Når det billede er på plads, kan organisationen prioritere sine første kontroller og definere, hvilke løsninger der må bruges under hvilke betingelser.

Et stærkt startforløb rummer typisk disse skridt:

• Kortlægning af alle AI-værktøjer og integrationer
• Risikovurdering: vurder data, systemadgang, driftskritikalitet og leverandørafhængighed
• Politikker: fastlæg godkendte use cases, forbudte datatyper og ansvar for godkendelse
• Logning, MFA og overvågning på de vigtigste løsninger
• Træning: giv ledelse og medarbejdere fælles sprog for sikker og ansvarlig AI-brug

Når først de grundlæggende mekanismer er på plads, bliver generativ AI ikke et område, der skal bremses. Det bliver et område, der kan skaleres med større sikkerhed, højere modenhed og langt bedre dokumentation. Det er præcis den tilgang, NIS2 lægger op til: ikke mindre digital udvikling, men mere robust digital udvikling.