RAG workshop for virksomheder: Byg en sikker intern AI-chat på jeres viden (SharePoint, Confluence m.fl.)

rag workshop virksomheder

Når medarbejdere kan stille spørgsmål til virksomhedens egne dokumenter og få præcise svar med kilder, ændrer det tempoet i hverdagen. Politikker, processer, produktviden, kontraktbilag og interne guides bliver pludselig tilgængelige i et naturligt sprog, uden at nogen skal lede i mapper, kanaler og gamle mails.

En målrettet RAG-workshop gør jer i stand til at bygge netop den type intern AI-chat, hvor svar bygger på jeres videnbase i SharePoint, Confluence, intranet eller andre kilder, og hvor sikkerhed og adgangsstyring er tænkt ind fra første beslutning.

Hvad en RAG-workshop giver jer i praksis

RAG står for Retrieval-Augmented Generation. Det er en arkitektur, hvor en sprogmodel først slår relevant viden op i jeres dokumenter og derefter formulerer svaret ud fra de fundne tekstpassager. Resultatet er en AI-chat, der i langt højere grad kan holde sig til fakta og henvise til interne kilder.

I Nordisk Business Academy er workshopformatet bygget til virksomheder, der vil fra idé til prototype uden at drukne i værktøjsvalg, tilfældige prompts og utestede antagelser. I arbejder med virkelige cases og de datatyper, I faktisk har.

Det betyder også, at workshoppen kan favne både tekniske og forretningsnære roller, så løsningen ikke kun virker i et udviklingsmiljø, men kan fungere i en organisation med ansvar, regler og drift.

Efter en kort afklaring af jeres mål og rammer kan fokus typisk ligge på:

  • Videnssøgning i SharePoint, Confluence og lignende
  • Semantisk søgning med embeddings og vektorsøgning
  • Promptdesign, der reducerer “gæt”
  • Evaluering af kvalitet og robuste sikkerhedsgreb

Hvor passer en intern AI-chat bedst ind?

Den stærkeste effekt kommer, når chatten løser konkrete flaskehalse: gentagne spørgsmål, spredt viden eller langsom onboarding. Det handler ikke om at gøre alt på én gang, men om at vælge et vidensdomæne, hvor datakvalitet og værdi er høj.

Typiske startområder er ofte:

  • HR og personalehåndbog
  • IT-support og self service
  • Projektmodeller og skabeloner
  • Salgs- og produktmaterialer
  • Kvalitetssystemer og procedurer

Workshoppen: fra datakilder til svar med kilder

I workshoppen arbejder I gennem de vigtigste byggeklodser i en RAG-løsning, og I ser tydeligt, hvor kvaliteten skabes: i dataforberedelse, retrieval og styring af modellens svar.

En typisk RAG-pipeline rummer fire lag:

  1. Indeksering og udtræk fra kildesystemer (SharePoint, Confluence, filområder).
  2. Chunking og embeddings, hvor dokumenter opdeles i passende tekststykker og omdannes til vektorer.
  3. Søgning (retrieval), ofte som hybrid mellem klassisk nøgleordssøgning og vektorsøgning.
  4. Generering, hvor sprogmodellen svarer med de fundne passager som kontekst og gerne med kildehenvisninger.

Det er her, mange virksomheder opdager, at “AI-chat” ikke er ét værktøj, men et samspil mellem integration, søgning, governance og brugeroplevelse.

Eksempel på workshopmoduler og leverancer

Modul Hvad I arbejder med Hvad I står med bagefter
Mål og afgrænsning Use case, succeskriterier, risici Klar scope og målepunkter
Datakilder og adgang SharePoint/Confluence-struktur, rettigheder, dataminimering Plan for hvilke kilder der må indgå
Forbehandling Chunking, metadata, sprog og terminologi Dokumentformat klar til indeks
Retrieval Vektorsøgning, hybrid-søgning, relevans Indstillinger der giver stabile fund
Prompt og svarformat “Svar kun ud fra kilder”, citater, usikkerhedssvar Svarskabelon der kan auditeres
Test og evaluering Testspørgsmål, fejltyper, justeringer En gentagelig testmetode

Teknologivalg uden at låse jer fast

Der findes flere måder at implementere RAG på, og workshoppen kan tage udgangspunkt i jeres nuværende platformvalg. Nogle vælger en cloud-baseret tilgang, andre ønsker mere kontrol via egen drift eller private miljøer.

Et vigtigt skel går ofte mellem:

  • Indeksering i kildesystemet (fx connector til SharePoint eller Confluence)
  • Vektorlagring (fx Pinecone, Chroma, Weaviate eller søgetjenester med vektorfelter)
  • LLM-adgang (kommerciel service eller egen model)
  • Orkestrering (fx LangChain eller LlamaIndex)

I workshoppen vurderes valgene ud fra jeres krav til datahåndtering, svartider, omkostninger, vedligehold og kompetencer.

Sikkerhed og compliance som designkrav

En intern AI-chat kan hurtigt komme tæt på personoplysninger, fortrolige forretningsinformationer og adgangsbegrænsede dokumenter. Derfor bør sikkerhed ikke være en “fase to”, men en del af arkitekturen og de organisatoriske rammer.

Workshoppen lægger vægt på praktiske kontroller, som både IT og forretning kan stå på mål for:

  • Adgangsstyring: Single Sign-On, multifaktor og rollebaseret adgang, så brugere kun kan få svar fra det, de allerede må se i kilden.
  • Kryptering: Data krypteres under transport og ved lagring, og nøgler håndteres efter jeres politikker.
  • Logning og sporbarhed: Hvem spurgte om hvad, og hvilke kilder blev brugt, så fejl og misbrug kan undersøges.
  • Robusthed mod manipulation: Inputfiltre, outputkontroller og test for prompt injection og uønsket dataudtræk.

Der arbejdes også med dataminimering og gennemsigtighed: hvilke dokumenttyper bør ikke indekseres, hvordan håndteres sletning, og hvordan informeres medarbejdere om brug og logning.

Hvad I typisk tager med jer fra dagen

En god RAG-workshop ender ikke som et whiteboard, der bliver taget billede af og glemt. Den ender som en konkret prototype eller et blueprint, som kan implementeres i små, sikre trin.

Efter workshoppen står I ofte med følgende, tilpasset jeres modenhed og behov:

  • En prioriteret use case og klare succeskriterier
  • En referencearkitektur, der passer til jeres datakilder og sikkerhedskrav
  • En plan for indeksering, inkl. metadata, opdateringsfrekvens og ejerskab
  • En testpakke, der afslører hallucinationer, irrelevante fund og svar uden dækning

Hvem bør deltage?

Effekten bliver størst, når de rigtige perspektiver er repræsenteret. Det er sjældent nok med kun udviklere eller kun forretning. En tværfaglig gruppe kan tage hurtigere beslutninger og undgå, at løsningen bliver enten for risikovillig eller for teoretisk.

En typisk deltagerkreds kan bestå af product owner, IT-arkitektur, sikkerhed/compliance, en dataansvarlig fra kildesystemerne samt 1 til 2 superbrugere fra det område, der skal have størst værdi først.

Format og rammer

Workshoppen kan afholdes online med høj grad af hands-on arbejde, så deltagere kan følge med fra egen maskine og egne værktøjer. Forløbet kan også deles op i moduler, hvis I ønsker tid mellem sessioner til at afklare adgang, udvælge dokumentmængder eller få interne godkendelser.

Hvis I vil, kan I arbejde med et afgrænset datasæt fra SharePoint eller Confluence. Alternativt kan der bruges et neutralt eksempel-datasæt, mens de rette adgangsforhold etableres. Det giver fremdrift uden at presse sikkerheden.

Ønsker I en RAG-workshop, der munder ud i en intern AI-chat, som kan dokumenteres, testes og drives ansvarligt, kan næste skridt være at afklare jeres første use case, datakilder og krav til adgangsstyring. Nordisk Business Academy kan derefter foreslå et workshopdesign, der matcher jeres niveau og jeres ambitionshøjde.

Til top