Planlegge anskaffelse

Kartleggingen som er gjort så langt har gitt innsikt i hvilke KI-systemer som er tilgjengelige, og hvilke menneskelige og tekniske faktorer virksomheten må ta hensyn til ved en anskaffelse. Denne kunnskapen bidrar til å kunne oppdatere risikovurderingen og gevinstberegningene slik at virksomheten har et godt beslutningsgrunnlag med tanke på om man vil gå videre med anskaffelse av et KI-system.

Oppdatere gevinstberegninger

Virksomheten bør så langt det lar seg gjøre vurdere hvilken nytte KI systemet vil ha, på samme måte som i en metodevurdering basert på tilgjengelig kunnskap. En helseøkonomisk evaluering, å sammenligne kostnader og helseeffekter, er sentral i beslutningen om å anskaffe et KI-system. Elementer som bør inngå i vurderingen er:

• Hvilken nytte KI-systemet gir, klinisk, administrativt, i forskning eller annet
• Ressursbruk ved å innføre og bruke et KI-system
• Hvilken risiko det er forbundet med å innføre et KI-system

Den estimerte bruken av løsningen, for eksempel antall brukere eller antall undersøkelser kan påvirke kostnaden. Innføring av KI-systemer kan også medføre økt bruk av for eksempel diagnostiseringsmetoder. Derfor bør det gjennomføres en vurdering av økning i totalkostnader ved en eventuell økt bruk av helsetjenester. 

Ved å utføre og dokumentere relevante nullpunktsmålinger, for eksempel hvor mye tid helsepersonell bruker på en gitt arbeidsoperasjoner med dagens løsning, kan disse nullpunktsmålingene benyttes i det videre arbeidet med gevinster.

Oppdatere risikovurdering og planlegge sikkerhetstiltak

Informasjonssikkerhet og personvern knytter seg til hele systemet og dets bruk, og ikke kun KI-modellen. I virksomheten vil KI-systemet inngå i en helhet, hvor det driftes, forvaltes og brukes i en organisasjon som har flere andre systemer og sine måter å jobbe på, sin kultur og sin kompetanse. Normen (ehelse.no) og rammeverk for risikostyring av KI fra NIST kan være nyttig i vurderingen av om krav til informasjonssikkerhet og personvern er ivaretatt [103]. Basert på resultatet av risikovurderingen planlegger virksomheten hvilke tiltak som må iverksettes for å ivareta god risikohåndtering for en forsvarlig tjeneste, både ved innføring og når KI-systemet går over i drift [104].

Planlegge klinisk validering

Virksomheten bør vurdere om det er nødvendig med ytterligere klinisk validering før eller i forbindelse med implementeringen av et KI-system den planlegger å anskaffe. Kartleggingen av markedet gjennomført i fase 2 kan brukes som underlag for vurdering av grad og omfang av validering som virksomheten må gjøre selv. For ytterligere beskrivelse om validering i KI-faktaark 2 [105].

I noen tilfeller vil det være tilstrekkelig å teste løsningen på et lite utvalg av egne data, for deretter å sette produktet i drift og gjennomføre kvalitetskontroll som sikrer at man fanger opp eventuelle feil. I andre tilfeller kan det være fornuftig å gjennomføre prospektive studier, f.eks. randomiserte kontrollerte studier, for å validere KI-systemet i den tiltenkte arbeidsprosessen.

Det kan være hensiktsmessig å planlegge en pilot [106] før KI-systemet tas i bruk i andre deler av virksomheten. Ved å gjennomføre en pilot kan virksomheten redusere risiko, ved å kunne rette opp feil uten at konsekvensene blir for store, før en eventuell skalering. Det er viktig at helseinstitusjonen passer på at valideringen ikke er en klinisk utprøving uten at dette søkes godkjent i henhold til MDR.