AI governance i praksis: Hvem bestemmer, hvad virksomhedens AI-agenter må gøre?

AI-agenter gør det muligt at automatisere arbejdsprocesser, der tidligere krævede, at medarbejdere fandt oplysninger, vurderede muligheder og gennemførte handlinger i forskellige systemer.

Med teknologier som Microsoft Copilot Studio og Dynamics 365 kan virksomheder udvikle AI-agenter, der både arbejder med forretningsdata og hjælper med at udføre konkrete opgaver. Læs mere om mulighederne med Copilot Agents hos Fellowmind.

Det skaber nye muligheder for effektivisering, men stiller også krav til, hvordan AI-agenterne styres. For der er forskel på en AI-agent, der finder oplysninger om en kundeordre, og en AI-agent, der selv ændrer eller annullerer den.

Det er her, AI governance kommer ind i billedet. Det handler om at definere, hvilke oplysninger AI-agenterne må tilgå, hvilke handlinger de må udføre, og hvornår medarbejdere skal involveres.

Forestil dig en virksomhed, der håndterer sine kundeordrer i Microsoft Dynamics 365. Virksomheden har udviklet en AI-agent, som hjælper kundeservice med at besvare spørgsmål om ordrer, lagerstatus og leveringstider.

Når en kunde spørger, om en ordre kan leveres tidligere, kan AI-agenten finde de relevante oplysninger og undersøge mulighederne. Det sparer medarbejderen for at navigere mellem flere systemer.

Men hvad hvis AI-agenten også skal kunne ændre leveringsdatoen direkte? Eller annullere en ordre på kundens anmodning? Så går AI-agenten fra at levere information til at udføre handlinger, der påvirker virksomhedens forretning.

At en AI-agent teknisk set kan udføre en handling, betyder ikke nødvendigvis, at AI-agenten skal have lov til det.

Derfor skal virksomheden tage stilling til AI-agentens beføjelser, før den bliver en del af den daglige drift. Netop den stillingtagen er kernen i AI governance.

Det første skridt i praktisk AI governance er at afgrænse, hvilke data AI-agenten skal kunne arbejde med. En AI-agent til ordrebehandling har eksempelvis brug for oplysninger om kundeordrer, lagerstatus og leveringstider. Men AI-agenten behøver ikke nødvendigvis adgang til virksomhedens øvrige økonomiske oplysninger eller andre forretningsområder.

Her er princippet om least privilege relevant. Det betyder, at brugere og systemer kun får de rettigheder, der er nødvendige for at løse deres opgaver.

I Microsofts økosystem kan adgang blandt andet styres gennem Microsoft Entra og rettighederne i de enkelte forretningssystemer. Det er dog vigtigt at undersøge, hvordan AI-agenten faktisk får adgang til data. AI-agenten kan eksempelvis anvende brugerens rettigheder eller forbindelser, der benytter en anden identitet.

Derfor er det ikke nok at se på, hvilke oplysninger AI-agenten er instrueret i at bruge. Virksomheden skal også sikre, at den tekniske adgang ikke er bredere end nødvendigt.

Adgang til oplysninger er én ting. Muligheden for at ændre dem er noget andet, og her bliver AI governance meget konkret.

For AI-agenten til ordrebehandling kan virksomheden eksempelvis vælge, at AI-agenten frit må besvare spørgsmål om leveringsstatus, mens ændringer i ordrer kun må gennemføres under bestemte betingelser.

Mindre ændringer kan måske automatiseres, hvis de ikke påvirker andre ordrer eller medfører ekstra omkostninger. Større ændringer kan kræve en medarbejders vurdering.

Med Microsoft Copilot Studio og Power Platform kan virksomheder afgrænse, hvilke værktøjer og handlinger en AI-agent kan anvende, og opbygge workflows med faste betingelser for, hvornår handlinger må gennemføres.

På den måde kan AI-agentens selvstændighed tilpasses den enkelte opgave, frem for at virksomheden skal vælge mellem fuld automatisering og manuel behandling.

Nogle beslutninger kræver mere end faste regler. Forestil dig, at en kunde ønsker at annullere en større ordre. Her kan AI-agenten undersøge ordren, indsamle relevante oplysninger og sende en godkendelsesanmodning til den ansvarlige medarbejder.

Medarbejderen vurderer sagen og godkender eller afviser annulleringen. Først derefter kan handlingen gennemføres. Denne tilgang kaldes human-in-the-loop, hvor menneskelig godkendelse indgår som en del af den automatiserede proces.

Det afgørende er, at godkendelsen bliver håndhævet teknisk. Det er ikke tilstrækkeligt blot at instruere AI-agenten i at bede om lov, hvis AI-agenten stadig kan udføre handlingen uden godkendelse.

Ved at indbygge godkendelsen i workflowet kan virksomheden lade AI-agenten håndtere det forberedende arbejde, mens medarbejderen bevarer kontrollen over beslutninger med større konsekvenser.

Selv med tydelige begrænsninger kan der opstå fejl. Hvis en ordre bliver ændret forkert, skal virksomheden kunne undersøge, hvad der skete. Hvilken handling udførte AI-agenten, hvilke oplysninger indgik, og blev ændringen godkendt?

Derfor er logning og sporbarhed en vigtig del af AI governance. I Microsofts økosystem kan virksomheder blandt andet anvende relevante logs fra Microsoft Purview, Copilot Studio, Power Platform og de tilknyttede forretningssystemer.

Hvilke oplysninger der registreres, afhænger af den enkelte løsning og dens konfiguration. Derfor bør virksomheden på forhånd definere, hvilke aktiviteter der er behov for at dokumentere.

For AI-agenten til ordrebehandling kan det eksempelvis være ændringer i ordrer, tidspunktet for handlingerne og eventuelle godkendelser. Det gør det lettere at identificere fejl, undersøge hændelser og forbedre AI-agentens funktion over tid.

En AI-agent kan udføre opgaver selvstændigt, men ansvaret for anvendelsen ligger fortsat hos virksomheden. Derfor er tydeligt ejerskab en bærende del af AI governance.

Hver AI-agent bør have en tydelig ejer, som har ansvar for, at løsningen understøtter den ønskede forretningsproces. For AI-agenten til ordrebehandling kan den forretningsansvarlige eksempelvis definere, hvilke opgaver AI-agenten skal løse, mens IT sikrer, at de tekniske adgangsrettigheder og begrænsninger er på plads.

Der skal også være en klar procedure for at gribe ind, hvis AI-agenten udfører uhensigtsmæssige handlinger. Det kan eksempelvis være nødvendigt midlertidigt at deaktivere bestemte funktioner, indtil problemet er undersøgt.

Når ansvar og muligheder for indgriben er afklaret, bliver det lettere at vedligeholde AI-agenten og reagere hurtigt på fejl.

AI governance handler ikke om at begrænse mulighederne med AI-agenter, men om at skabe rammerne for at udnytte dem.

En virksomhed kan eksempelvis begynde med en AI-agent til ordrebehandling, der finder oplysninger og foreslår ændringer. Når AI-agenten er afprøvet, kan den gradvist få mulighed for at udføre flere handlinger inden for definerede rammer.

På den måde kan virksomheden udvide automatiseringen i takt med, at den får erfaring med AI-agenten og de tilknyttede risici. Det kræver, at adgangsrettigheder, handlinger, godkendelser og sporbarhed tænkes ind fra begyndelsen.

Det er også en tilgang, som understøtter den praktiske anvendelse af AI i forretningen. Hos den finske producent Avant Tecno har Fellowmind eksempelvis været med til at implementere AI-agenter, der automatiserer dele af virksomhedens ordre- og indkøbsprocesser på en sikker og skalerbar platform. Læs kundecasen om Avant Tecnos arbejde med AI-agenter.

For det afgørende er ikke kun, hvad virksomhedens AI-agenter kan gøre, men hvad de skal have lov til at gøre.

AI-agenter kan være med til at effektivisere arbejdsprocesser og frigive medarbejdernes tid til andre opgaver. Men for at skabe varig værdi skal de indgå i virksomhedens systemer og processer med den rette styring.

Hos Fellowmind hjælper vi virksomheder med at omsætte Microsofts teknologier til AI-løsninger, der understøtter forretningen. Det gælder også arbejdet med AI governance, hvor automatisering, adgangsstyring og kontrol skal hænge sammen.

Vil I undersøge, hvordan AI-agenter kan skabe værdi i jeres virksomhed? Kontakt os, eller skriv til info@fellowmind.dk, og lad os tage en snak om mulighederne.