Om faktaarket
Formålet med faktaarket er å beskrive de ulike rollene som kan involveres og hvilket ansvar de har i en anskaffelsesprosess av KI-systemer i helse- og omsorgstjenesten.
Roller i anskaffelsen
Rapport om kvalitetssikring av KI-systemer beskriver et eksempel på en ansvarsmatrise, også kalt HUKI-matrise.
Følgende roller kan være de mest aktuelle i en ansvarsmatrise for anskaffelse av et KI-system.
Prosjektledelsen med prosjektgruppe for anskaffelsen består ofte av ressurser med kompetanse innen ulike områder, og kan dermed dekke mange av kompetansene for anskaffelsen.
Domenekompetanse refererer til ekspertisen som er spesifikk for et bestemt fagfelt eller bruksområde. Domenekompetanse i medisin innebærer forståelse av medisinske prosedyrer, sykdommer, behandlingsmetoder og helsevesenets dynamikk, som er viktig for å definere suksesskriterier og terskelverdier for et KI-system i bruk. Domenekompetanse er avgjørende i prosessen, ettersom det bidrar til mer effektive og informerte beslutninger.
Virksomhetsarkitektens rolle er å utvikle, vedlikeholde og forvalte den overordnede arkitekturen til en organisasjon og ha evnen til å se den store sammenhengen i hvordan ulike systemer og prosesser interagerer og bidrar til organisasjonens overordnede mål.
Fagspesifikk kompetanse er spesiell kompetanse innen ulike fagspesifikke områder som ofte går på tvers av domenekompetanse. Et typisk eksempel er strålevern. Medisinske fysikere har god kompetanse i klinisk strålevern av pasienter (og personell) og kan bidra til identifisering av nytteverdi og risikoaspekter forbundet med bruken av KI-systemet knyttet opp mot lovpålagte krav i strålevernregelverket.
Etisk kompetanse er ikke begrenset til en bestemt yrkesgruppe. Det refererer til evnen å forstå, reflektere over, og anvende etiske prinsipper og verdier i beslutningstaking.
Innbygger/pasient/tjenestemottaker er person som KI-systemet brukes på. Det innebærer blant annet at personen har persondata som blir brukt for å få et resultat fra et KI-system. Interessene til disse personene kan være representert via et sykehus’ brukerutvalg eller en pasient-/brukerorganisasjon. Inkludering av disse kan bidra til å bygge tillit til teknologien, og sikrer deres perspektiv på etisk og trygg bruk av KI.
Juridisk kompetanse refererer til kunnskap og ferdigheter innen lovgivning, rettspraksis og juridiske prosedyrer. Det er mange ulike vurderinger som må foretas, blant annet forsvarlighet, pasientrettigheter, personvern og informasjonssikkerhet kontraktsrett og immaterielle rettigheter.
Kompetanse på personvern og informasjonssikkerhet innebærer å sikre at organisasjonens informasjonsteknologisystemer er sikre og at data behandles på en måte som er i samsvar med personvernlovgivningen. Dette inkluderer å identifisere og analysere potensielle risikoer forbundet med KI-systemet, inkludert datalekkasjer og cybertrusler. Kan bidra til å utvikle risikoreduserende strategier og sikkerhetstiltak. Virksomheten som anskaffer, vil som hovedregel være dataansvarlig og må ivareta ansvaret som følger med dette.
Analysekompetanse kan vurdere ytelsen til KI-systemet og designe robuste valideringsstudier for å teste ytelse. Dette inkluderer å bestemme passende datasett, velge relevante statistiske metoder, og gi anbefalinger for forbedring av modellens ytelse, for eksempel gjennom forslag til alternativ modellering eller dataforbedringer.
Innkjøpskompetanse sørger for at anskaffelsesprosessen følger lov og forskrift.
Løsningsarkitekt utformer og leder implementeringen av en spesifikk teknologisk løsning innenfor en virksomhet.
IKT drift og forvaltning overvåker og vedlikeholder KI-systemet når det er tatt i bruk.
En KI-superbruker kan være samme person som har domenekompetanse. Dennes rolle er å vite vet hvordan KI-systemet fungerer og sikrer at systemet blir brukt korrekt og effektivt. Kan for eksempel være ansvarlig for opplæring i virksomheten.
Systemansvarlig er den i virksomheten som har det tekniske og faglige ansvaret for KI-systemet.
Systemeier (virksomhetsledelse) er også risikoeieren, og er den i virksomheten som har det overordnede ansvaret for KI-systemet, dets funksjon og bruk inkludert risiko ved bruk av systemet.
Testleder forstår de tekniske og forretningsmessige kravene og kan utvikle en teststrategi som dekker blant annet krav til funksjonalitet, ytelse, sikkerhet, brukervennlighet og KI spesifikke forhold. Bidrar til å sikre løsningens kvalitet ved å identifisere og dokumentere feil.