Slik bygger du IT-infrastruktur for AI-prosjekter

Et grunnleggende steg her er å ha en IT-infrastruktur som er bygd for AI. Dette innebærer beregningskapasitet, lagring og nettverk, en dataplattform med tydelig styring og sikkerhet, samt rutiner for drift og kostnadskontroll. Vi guider deg gjennom dette i sju konkrete steg.

Steg 1: Vurder deres nåværende IT-infrastruktur

Begynn med å kartlegge hvilke systemer og datakilder dere har i dag, hvilke som kan støtte AI og hvordan data flyter gjennom nettopp deres virksomhet. Deres infrastruktur må kunne håndtere de skiftende ressurskravene som AI innebærer. Det stiller også høye krav til deres sikkerhet. Her velger mange en hybridløsning hvor AI-tjenester kjøres i skyen mens sensitive systemer og data forblir lokalt.

For å oppnå den skalerbarheten og fleksibiliteten dette krever, anbefaler vi ofte skyplattformer som Microsoft Azure. Disse tilbyr dessuten spesialiserte AI-tjenester og legger til rette for implementeringen.

Er dere klare for en skytransformasjon

Steg 2: Velg riktig beregningskapasitet

De fleste bedrifter trener ikke egne AI-modeller, men bruker ferdige tjenester via API eller skyen og betaler etter bruk. Skal dere trene, finjustere eller drifte modeller selv, trenger dere GPU-kapasitet som kan skaleres opp og ned. AI-belastning kommer ofte i topper, ikke minst med agentisk AI.

Steg 3: Forbered dataene deres

Vi pleier å si: uten kontroll på data, ingen sikre AI-satsinger. Start med en dataplattform med tydelig styring og sporbarhet, ellers blir hver AI-satsing en isolert pilot. Klassifiser deretter dataene: hva er sensitivt, hva har AI lov til å bruke, og hva må aldri forlate miljøet deres? Last ikke opp alt. Utdatert data gir dårligere svar og høyere kostnader, fordi AI-en bruker prosessorkraft, såkalte tokens, på materiale som ikke lenger er relevant. Tre enkle tiltak å starte med:

• Begrens AI-en til dokumenter, møteprotokoller og rapporter fra de siste 12–24 månedene.

• Filtrer kundedata til de siste to årene.

• Sett regler for når dokumenter arkiveres og fjernes fra AI-en.

Steg 4: Planlegg lagring, nettverk og hvor dataene deres skal ligge

Når dere vet hvor sensitiv dataene deres er, kan dere bestemme hvor de skal ligge. Data som omfattes av GDPR eller krav om lagring innen EU må ligge i riktig region, eller lokalt. Plasser deretter AI-tjenestene nær dataene, for eksempel i samme skyregion, slik at nettverket ikke blir en flaskehals. Innen industrien kan det bety at AI kjører lokalt, nær maskinene. Sørg til slutt for at dokumentene er søkbare og indekserte, ellers finner ikke AI-en deres riktig informasjon.

Steg 5: Sikre infrastrukturen og følg regelverkene

Sikkerhet og regelverksetterlevelse må bygges inn fra starten. En av de viktigste tingene er tilgangskontroll og autentisering for både brukere og AI-systemer, kryptering av data både under lagring og overføring, samt etterlevelse av både GDPR og EUs AI-forordning.

AI-forordningen stiller krav til åpenhet. Brukere skal vite når de interagerer med AI, og innhold som AI har laget skal merkes. Forordningen er dessuten risikobasert. Det vil si at jo større påvirkning en AI-applikasjon har på mennesker, f.eks. ved rekruttering eller kredittvurdering, desto strengere er kravene. Bygg derfor inn logging, sporbarhet og dokumentasjon fra starten av, siden det er vanskelig å legge til i etterkant. AI-agenter trenger dessuten egne, begrensede rettigheter og loggede handlinger.

Steg 6: Drifte og overvåk AI i produksjon

AI-modeller kan forringes over tid når dataene eller virksomheten deres endres. Derfor må kvaliteten følges opp kontinuerlig.

Logg hva AI-en gjør og svarer, slik at dere kan oppdage avvik og feilsøke ved behov. Bruk versjonskontroll for modeller og data slik at dere raskt kan gå tilbake til en tidligere versjon dersom en oppdatering oppfører seg merkelig. Utpek også en tjenesteeier med ansvar for drift og kvalitet, og sørg for menneskelig involvering når AI brukes i beslutninger med stor betydning. Dette er sentrale prinsipper innen AI-governance.

Steg 7: Styr kostnadene

Økende kostnader er en av hovedårsakene til at AI-prosjekter forlates etter proof of concept. Hold oversikt over kostnadene deres ved å overvåke forespørsler, GPU-tid, lagring og datatrafikk. Sett også budsjettvarsler og merk ressurser per prosjekt. Her spiller også modellstørrelse en stor rolle. Enkle oppgaver krever ikke den største modellen, og mål kostnaden mot forretningsverdien per bruksområde.

Neste steg mot AI

Utarbeid en AI-policy som styrer hvordan dere bruker AI, med fokus på sikkerhet, etikk, personvern, bærekraft og juridisk etterlevelse, og sats på opplæring av medarbeiderne. Infrastrukturen må tilpasses i takt med at forretningsbehov, trusler og teknologi endres. Bygg derfor fleksibelt og skalerbart.