Skygge-KI: Slik får ledelsen kontroll uten å kvele innovasjonen
Skygge-KI handler om mer enn informasjonen ansatte deler med ChatGPT. KI-agenter kan nå hente bedriftsdata, utføre oppgaver på egen hånd og pådra virksomheten kostnader uten at ledelsen har oversikt. Hvordan får bedriften kontroll uten å bremse innovasjonen?
Når Conscia spør kunder hvor mange KI-verktøy de ansatte bruker, stemmer ikke alltid svaret med det som dukker opp i systemene.
– De anslår kanskje 15 eller 20. Så ser vi i systemene, og det viser seg å være 300 applikasjoner. Likevel mener de å ha kontroll fordi de har bestemt hvilke verktøy som er tillatt, sier Octavio Chira, CISO i Conscia Sverige.
Kundedata, kildekode og interne dokumenter kan havne i KI-tjenester arbeidsgiveren ikke har vurdert. Uten oversikt er det vanskelig å vite hvem som får informasjonen, hvor den lagres og hvilke vilkår som gjelder. En svakhet i én tjeneste kan være nok til at bedriftsinformasjon kommer på avveie.
– Man prøver å løse det med en policy uten å ha innsikt. Så håper man at det fikser problemet, sier Lars Erik Braatveit, CTO i Conscia Norge.
KI-bruk som virksomheten mangler oversikt over og styring med, kalles skygge-KI, eller «shadow AI».
Den private kontoen blir med på jobb
Det kan begynne med en presentasjon du skal lage på jobb, forklarer Braatveit.
– Kanskje du ikke er fornøyd med hvordan bedriftens løsning lager presentasjoner, mens du har en gratis konto et annet sted som gjør det bedre. Da bruker du den fordi den gjør deg mer effektiv. Samtidig er det nettopp effektivitet mange arbeidsgivere forventer.
Men jobbdokumentene kan bli liggende på den private kontoen sammen med samtalehistorikken. Kontoen kan dessuten mangle sikkerhetstiltakene bedriften krever ved innlogging. Et innbrudd i en privat konto kan dermed bli en datalekkasje for arbeidsgiveren.
– Hva om noen angriper deg som privatperson og får tilgang til KI-kontoen din? Da kan de også få historikken og dokumentene du har lagt inn fra jobb, påpeker Braatveit.
Også godkjent programvare kan ha KI-funksjoner virksomheten mangler oversikt over. Gjennom API-er kan verktøy kobles til ulike modeller, med ulike vilkår for hvor og hvordan dataene behandles. Derfor må virksomheten vite hva de ansatte bruker verktøyene til, og hvilke kontoer de logger inn med.
Når KI får tilgang til systemene
Med KI-agenter kan teknologien også utføre oppgaver i bedriftens systemer, som å hente informasjon fra databaser eller sende e-post.
– Før handlet risikoen mye om informasjonen folk la inn. Nå kan KI lese i interne systemer og databaser, og agentene kan jobbe på egen hånd gjennom natten, forklarer Chira.
En agent med for vide tilganger kan hente eller endre mer informasjon enn oppgaven krever. Noen må derfor bestemme hvilke systemer den får bruke, og følge med på hva den faktisk gjør. Det betyr også å holde oversikt over agentenes digitale identiteter, såkalte maskinidentiteter.
– Vi må nesten tenke på dem som mennesker, med en arbeidsbeskrivelse: Denne rollen har du, og dette får du lov til å gjøre, mener Chira.
KI-bruken må også inn i budsjettet
Mens KI-agentene jobber videre, kan regningen vokse. Når prisen følger forbruket, trenger virksomheten oversikt over hva hver avdeling og hvert verktøy koster.
– Vi er vant til at alt er innenfor en fastpris. Så kan vi plutselig måtte betale for bruken. Da blir kostnadskontroll ekstremt viktig, sier Braatveit.
Forbruket kan dessuten være spredt på flere tjenester og prosjekter. Uten en samlet oversikt er det vanskelig å oppdage en kostnadsøkning tidlig og finne ut hva som driver den.
Samtidig kan bedriften betale for lisenser som blir stående ubrukt, mens de ansatte velger andre verktøy.
– Dette blir lisensforvaltning, som med all annen programvare. Det kan være penger å spare på å ta bort lisenser som ikke har vært brukt på flere måneder, påpeker Braatveit.
– Ansvaret kryper oppover i ledelsen. Tidligere var det kanskje IT-sjefen som håndterte det. Nå må økonomisjefen også bry seg, sier Chira.
Begynn med å finne ut hva folk bruker
En del av svarene kan ligge i sikkerhetsverktøyene bedriften allerede har, forteller Braatveit.
– Vi har kunder som allerede har investert i sikkerhetsteknologi som kan gi dem innsikten de trenger. Vi hjelper dem med oversikten, primært med verktøy de har fra før.
Rapporter fra brannmurer og DNS-sikkerhet kan vise deler av KI-trafikken. For å forstå funnene må virksomheten også undersøke kontoer, integrasjoner og avtaler, og snakke med dem som bruker verktøyene.
– Ser vi at mange bruker den samme applikasjonen, fungerer den kanskje bra. Da kan vi vurdere å ta den inn og skaffe bedriftskontoer, sier Chira.
Et generelt forbud kan virke mot sin hensikt, mener han. Hvis de ansatte fortsetter med private kontoer, blir bruken enda vanskeligere å følge opp.
Valget av tiltak avhenger av hvilke opplysninger verktøyet får, hvor de behandles og hva verktøyet kan gjøre. Noen tjenester bør blokkeres. Andre kan brukes med begrensninger på opplasting eller varsler som hjelper ansatte å unngå å dele sensitive data.
– Vi skal fortsette å lære opp og informere folk. Men vi kan ikke forvente at et kurs og en PDF med retningslinjer er hele løsningen. Det må suppleres med tekniske tiltak, understreker Chira.
En felles inngang til godkjente KI-modeller kan også gjøre det lettere å følge forbruket til ansatte og avdelinger. Der kan virksomheten sette budsjetter og styre enkle oppgaver til rimeligere modeller. Slik kan investeringer i sikkerhet også gi bedre kontroll på KI-regningen.
– Vi har ikke lyst til å kvele innovasjon. Mange norske og svenske bedrifter har fått veldig god effekt av at folk har brukt egne KI-verktøy, avslutter Braatveit.
