Kapittel 1.3Anbefalt: Tydeliggjøre roller knyttet til KI-bruk i helse- og omsorgstjenesten

Bakgrunn

I kapittel 6.6 i sluttrapport for koordineringsprosjektet står følgende:

En nasjonal KI-strategi for trygge og effektive helse- og omsorgstjenester skal bidra til å:

• avklare oppgaver, ansvar og roller for de ulike aktørene på nasjonalt, regionalt og lokalt nivå, blant annet hva som er myndighetsoppgaver og hva som skal ivaretas i regi av tjenestene.

Helsedirektoratet er bedt om å utarbeide en felles plan, og ikke en KI-strategi, som anbefalt i sluttrapporten. Det er like fullt viktig å avklare oppgaver, roller og ansvar for trygge og effektive helse- og omsorgstjenester.

Dagens roller

I Nasjonal helse- og samhandlingsplan for 2024-2027 er regjeringen opptatt av at innføring av kunstig intelligens i pasientbehandlingen skjer på en trygg måte. Den understreker at tjenesten selv har ansvar for kvalitetssikring og validering av løsninger, for å sikre at de er gode nok for formålet. [24]  

Et viktig virkemiddel for å sikre innføring av trygge og effektive behandlinger, er metodevurderinger. Fra 2024 har Direktoratet for medisinske produkter (DMP) fått et samlet ansvar for metodevurderinger av medisinske produkter. DMP har allerede ansvaret for forvaltningen av regelverket om medisinsk utstyr. Dette omfatter også medisinsk utstyr som i form av programvare og kunstig intelligens. I arbeidet med å videreutvikle det nasjonale systemet Nye metoder i spesialisthelsetjenesten er tilpasning for håndtering av medisinsk utstyr et satsingsområde.[25]

Folkehelseinstituttets samfunnsoppdrag er 1) kunnskap: mer, bedre og raskere kunnskap for helse og bærekraftige tjenester, 2) beredskap: nye løsninger for å beskytte liv og helse og 3) infrastruktur: fremtidens helsedata, laboratorier og tjenester.[26] Folkehelseinstituttet har blant annet ansvar for mini-metodevurderinger.[27]

Helsetilsynets oppgave er å bidra til å styrke sikkerhet og kvalitet i tjenestene og bidra til rettsikkerhet og tillit. Helsetilsynet skal gjennom tilsyn se om virksomhetene etterfølger grunnleggende krav til at helse- og omsorgstjenesten gir forsvarlige tjenester og drives på en forsvarlig måte. Forsvarlighetskravet gjelder også pasientbehandling med medisinsk utstyr ved ytelse av helse- og omsorgstjenester, og herunder også utstyr som inkluderer KI.[28]

Helsedirektoratet jobber for å fremme helse og mestring og er pådrivere for bærekraftige, sammenhengende og likeverdige helse- og omsorgstjenester. [Helsedirektoratet] samordner Helse-Norge om felles retning for digitalisering.[29]

De regionale helseforetakenes hovedoppgaver er pasientbehandling, utdanning av helsepersonell, forskning og opplæring av pasienter og pårørende. RHF-ene har et overordnet ansvar for å iverksette den nasjonale helsepolitikken i helseregionen. Regionale helseforetak skal planlegge, organisere, styre og samordne virksomhetene i helseforetakene som de eier. Helseforetakenes rolle er å yte gode og likeverdige spesialisthelsetjenester til alle som trenger det når de trenger det, uavhengig av alder, kjønn, bosted, økonomi og etnisk bakgrunn, samt å legge til rette for forskning og undervisning.[30]

Kommunenes organisasjon (KS) er kommunesektorens interesseorganisasjon, utviklingspartner og landets største offentlige arbeidsgiverorganisasjon. KS' utviklingsarbeid er rettet mot kommune­sektorens behov for omstilling, kvalitetsforbedring og effektivisering. KS tilbyr verktøy og møte­plasser for kommuner og fylkeskommuner innen en rekke fagområder.[31]

Hva er problemet

Flere av aktørene i helsesektoren opplever at det er uavklart hva som er myndighetsoppgaver og hva som skal ivaretas av tjenesten for å oppnå trygg og effektiv bruk av KI i helse- og omsorgstjenesten. Det er for eksempel ikke effektivt hvis hvert enkelt sykehus eller fastlegekontor må gjennomføre de samme valideringene av samme type KI-system, selv om visse deler av valideringen uansett må gjøres lokalt. Det er uavklart hva som bør gjøres lokalt, regionalt og nasjonalt. Det kan også være vanskelig å vite om produktet man ønsker å ta i bruk må regnes som medisinsk utstyr eller ikke. Prosessene for å gjøre nødvendige vurderinger og godkjenninger oppleves også som lite effektive. Det stilles også spørsmål til om det er noen som kan ta et overordnet ansvar for nasjonalt samarbeid, om det bør være et eksisterende organ eller om det bør opprettes et nytt.

Hva vil vi oppnå

Det anbefales at det gjøres en vurdering i starten av 2025 hvorvidt det er behov for å igangsette et eget tiltak knyttet til å tydeliggjøre roller, eller om dette tydeliggjøres gjennom de pågående aktivitetene.

Aktiviteten skal etablere en felles forståelse av rollene og tydeliggjøring av ansvaret til ulike aktører i helse- og omsorgssektoren, og eventuelt foreslå endringer hvis det er behov for det.

Hvordan gjøre det

Følgende aktiviteter er aktuelle:

• Klargjøre rollene gjennom eksempler, for eksempel gjennom veiledningstjenesten (avsnitt 3.1) eller i seminarrekken (avsnitt 4.3).
• Et aktuelt tema er effektive prosesser for validering: vurdere hvordan validering av et KI-produkt kan gjøres effektivt sett i et nasjonalt perspektiv. Vurderingen bør inkludere hvordan ansvar kan fordeles mellom aktørene og hvilket behov de ulike aktørene har for støtte. Dette sees i sammenheng med rapporten om kvalitetssikring av KI i helse- og omsorgstjenesten (avsnitt 4.1) og et eventuelt seminar om validering (avsnitt 4.3).

Det har kommet en rekke forslag fra sektoren i innspillsrunden som kan være med i vurderingene:

• Etablere en godkjenningsordning, for eksempel for eksempel etter inspirasjon fra Finland[32]
• Etablere et implementerings- og innovasjonsråd for KI i helsetjenestene
• Helseregionene etablerer nettverk mellom helseforetakene for å ivareta behovet for kompetansedeling og erfaringsutveksling
• Helseregionene utarbeider en tiltaksplan for implementering av KI i egne helseforetak
• Helseregionene etablerer en dedikert kompetanseenhet for å understøtte arbeidet med å implementere KI-løsninger i Helseforetakene
• Helseregionene samarbeider med helseforetakene om å organisere og gjennomfører målrettede etterutdanningstilbud
• Helseregionene samarbeider med helseforetakene om å igangsette tiltak for å ta i bruk språkmodeller til å effektivisere administrative oppgaver
• Øke regionalt samarbeid mellom IKT-selskapene i de fire helseregionene om utvikling, implementering og anskaffelse av KI
• Formulere målsettinger og tiltak i regi av kommunene, evt. samarbeid mellom kommunene og Helseregionene

Aktuelt samarbeid

Helsedirektoratet, De regionale helseforetakene, KS, helse- og omsorgstjenesten, Helsetilsynet, FHI, DSA og DMP.