Kapittel 4Status for koordineringsprosjektet

Styring og organisering

Prosjektet er i dag organisert i tre nivåer: En tverrgående styringsgruppe, en tverrgående prosjektleder-/koordineringsgruppe og ulike delprosjekter.

Styringsgruppen består av en representant fra hver av de samarbeidende aktørene, og representantene er som regel ledere i sine respektive etater. Styringsgruppen beslutter oppstart av delprosjekter som til sammen danner en felles plan for prosjektet. Styringsgruppen er også en arena for å sette kunstig intelligens på dagsordenen og drøfte utfordringer og tiltak på ledernivå hos aktørene.

Prosjektleder-/koordineringsgruppen har ukentlige koordineringsmøter. Koordineringsgruppen forbereder saker til styringsgruppen, igangsetter delprosjekter og koordinerer aktiviteter på tvers av etatene.

Koordineringsprosjektet har felles referansegruppe med øvrige prosjekter igangsatt for å følge opp Nasjonal helse- og sykehusplan.

Metoder og tilnærminger

Arbeidsmetodikken til koordineringsprosjektet har vært inkluderende og eksplorerende, der utstrakt bruk av dialogmøter og workshoper har avdekket og tydeliggjort behov.  Gjennom metodikken tjenesteinnovasjon har alternative tiltak blitt utforsket, sortert, prioritert og konkretisert.

Leveranser i perioden

Koordineringsprosjektet har levert leveranser i form av rapporter, informasjonssider på nett og tverretatlig regulatorisk veiledningstjeneste. Oversikt over publiserte rapporter er gitt i vedlegg 1.

Deltakere i koordineringsprosjektet har deltatt med presentasjoner på mange arenaer. Der har de presentert kunnskap på temaområder som har blitt jobbet med i koordineringsprosjektet, slik som generell intro til KI i helse, juridisk veiledning, utvikling av medisinsk utstyr, metodevurderinger (HTA), informasjonssikkerhet mm.

Aktiviteter i 2023

Tverretatlige informasjonssider

Prosjektet lanserte en ny versjon av informasjonssidene våren 2023, og planlegger en oppdatering høsten 2023.[41] Det har kommet mange gode tilbakemeldinger på informasjonssidene.

Tverretatlig regulatorisk veiledning

Tverretatlig regulatorisk veiledning har i 2023 bestått av to deltakere fra Helsedirektoratet, to deltakere fra Direktoratet for e-helse, én deltaker fra Helsetilsynet og én deltaker fra Statens legemiddelverk. Veiledningsgruppen har i etterkant av prosjektets statusrapport for 2022 utarbeidet en administrasjonsmodell for tjenesten i 2023. Ansvaret for å administrere veiledningstjenesten ble fordelt slik at Helsedirektoratet, Direktoratet for e-helse og Statens legemiddelverk hver hadde ledelsen i fire måneder hver.

Tjenesten har veiledet to KI-prosjekter i 2023:

• Universitetssykehuset i Nord-Norge – Utvikling av klinisk beslutningsstøtteverktøy for ryggkirurgi integrert i DIPS
• St. Olavs Hospital – Tidlig risikovurdering for cerebral parese

For begge prosjekter ble det gjennomført skriftlig veiledning i forkant og i etterkant av digitale veiledningsmøter. Tilbakemeldingene fra prosjektene er veldig gode.

I tillegg har veiledningstjenesten mottatt to søknader hvor det ikke ble gjennomført veiledningsmøter, som følge av at den konkrete problemstillingen var for lite beskrevet.

Veiledningstjenesten er med i et nettverk av sandkasser/veiledningstjenester med bl.a. Datatilsynets og Finanstilsynets sandkasser. Nettverket har jevnlige erfaringsutvekslingsmøter og planlegger å holde et arrangement for sandkasser/veiledningstjenester.

Rammer for kvalitetssikring av KI-løsninger

Statusrapporten for 2022 og rapporten “Tilgang til data” har avdekket behov i sektoren for tydeligere rammer for hvordan kvalitetssikring (for eksempel validering) av KI-løsninger skal skje. Kompetansenettverket (KIN) har anbefalt at det opprettes en arbeidsgruppe med mandat til å utarbeide felles veileder for kvalitetssikring som en støtte til klinikere i helsetjenesten i tilknytning til anskaffelser av KI-løsninger.

Samtidig er KIN opptatt av å fremme metodevurderinger (HTA) som et redskap for å kvalitetssikre og gi en oversikt over KI-systemenes dokumenterte effekt, sikkerhet, organisatoriske konsekvenser og helseøkonomiske forhold ved nyanskaffelser. Metodevurderinger (HTA) vil da også kunne vise mangler.

Et forprosjekt ble etablert i starten av 2023, med Helsedirektoratet som ansvarlig etat. I mars 2023 ble det avholdt to åpne innspillsmøter med sektoren, hvor cirka 80 interessenter deltok. Hovedspørsmålene som skulle besvares i innspillsmøtene var "Hva må kvalitetssikres for å bruke et KI-system til å yte forsvarlig helsehjelp?" og "Hvilke behov har vi for nasjonale rammer for denne kvalitetssikringen?

I april ble det igangsatt en konseptfase der innspillene fra innspillsmøtene ble tydeliggjort, sortert og prioritert av prosjektet. Behovet «rammer for kvalitetssikring av KI-systemer i helsetjenesten» fikk høyest prioritet og vil være tema på første fase av prosjektet. Det var imidlertid flere behov fra innspillsmøtene som ikke kom med i den første fasen, som «økt kompetanse på gevinster», «løpende læring» og «rammer for kvalitetssikring for produsenter» (inkludert egenutvikling).

Delprosjektet Rammer for kvalitetssikring ble formelt startet i august. Den overordnet strukturen er inspirert av "A buyer’s guide to AI in health and care" fra NHS i England, og retter seg mot beslutningstakere, innkjøpere og helsepersonell.[42]

Delprosjektet er bemannet med personer fra de fem involverte helseetatene (Hdir, E-helse, SLV, FHI og Htil), Helse Sør-Øst RHF og Sykehuspartner. Det er etablert et brukerpanel med eksterne potensielle brukere av rammene, i tillegg til forpliktende samarbeid med utvalgte eksperter. Brukerpanelet får presentert delleveranser i sprinter, og gir innspill på delleveranser med tanke på nytteverdi og kvalitet.  

Prosjektet samarbeider med Digitaliseringsdirektoratet som utarbeider veiledningsmateriale for KI i offentlig sektor.

Delleveranser publiseres på den tverretatlige informasjonssiden jevnlig. Første sluttleveranse vil være en sjekkliste som viser hvilke spørsmål en må være spesielt oppmerksom på i en anskaffelsesprosess når KI skal være en del av løsningen Sjekklisten vil lenke til relevante regelverk og veiledere, nasjonalt og eventuelt internasjonalt.  

Arbeidet med sjekklisten vil kunne identifisere områder der dagens veiledere, metoder, standarder mm ikke er tilstrekkelig tilrettelagt for KI. Delprosjektet vil løpende jobbe med å avdekke gap, og vurdere og prioritere arbeid med å utvikle nytt veiledningsmateriell.

Forslag til KI-forordning 

Rapporten «Tilgang til data» anbefalte at alle etatene bør følge utviklingen og prosessen med å implementere KI-forordningen i EU, og formidle konsekvenser og muligheter for helse- og omsorgssektoren. Det vil gi økt forståelse og økte påvirkningsmuligheter for reguleringen av KI og helsedata i EU.

Forslaget til KI-forordning stiller krav til samsvarsvurdering av produkter med kunstig intelligens. Medisinsk utstyr vil utgjøre et høyrisiko KI-system. Et medisinsk utstyr med KI som plasseres på markedet må derfor samsvarsvurderes etter både MDR/IVDR og KI-forordningen.

Koordineringsprosjektet har utarbeidet en presentasjon som går gjennom de grunnleggende prinsippene i EU-kommisjonens forslag, og er blant annet presentert på NUFA 31. august 2023. [43]

Arbeidsgruppe for helse og KI-standardisering

I rapporten «Tilgang til data til kunstig intelligens i helse- og omsorgstjenesten» ble det avdekket behov for utvikling og normering av standarder for å få tilgjengeliggjort relevante data til KI. Koordineringsprosjektet anbefalte at Direktoratet for e-helse tok initiativ til at det etableres en faggruppe for KI i Standardiseringsutvalget for internasjonale e-helsestandarder.

Standardiseringsutvalget og Standard Norge har besluttet å etablere en arbeidsgruppe for helse og KI-standardisering i Standard Norges speilkomité for kunstig intelligens (SN/K 586 Kunstig intelligens). Speilkomiteen for Helseinformatikk (SN/K 587) er tilknyttet arbeidsgruppen for å få synergier med bl.a. standardiseringsarbeidet knyttet til europeiske helsedataområdet (EHDS).

Målet med arbeidsgruppen er å bygge og dele kompetanse på området og å være kanal for å ta imot og vurdere sektorens behov for standardisering på KI-feltet. Arbeidsgruppen vil prioritere standardiseringsinitiativ som vil sikre forsvarlig bruk av KI i helsesektoren. Gjennom arbeidsgruppen kan det bli mulig å indirekte påvirke lovarbeid på KI-feltet. Arbeidsgruppen har representanter fra spesialisthelsetjenesten (Ahus), Kreftregisteret, Helse Vest IKT, Sykehuspartner, Norsk radiologiforening, KS, UiA, UiO, NORA, Sintef, Freyr Batteries, Det norske Veritas (DNV), Digitaliseringsdirektoratet (DigDir) og Direktoratet for e-helse (E-helse). Etableringen drives av E-helse i tett samarbeid med representantene fra DigDir, DNV og Ahus.

Det jobbes med å prioritere standardene som vil være viktig for helsesektoren, samt fortsatt rekruttering til arbeidsgruppen. Det vil være spesielt viktig å inkludere brukere, pasienter, innbyggere og forbrukere.

Kunnskapsgrunnlag om personvernvennlige teknologier

Rapporten «Tilgang til data til kunstig intelligens i helse- og omsorgstjenesten» avdekket behov for mer kunnskap om hvordan personvernbevarende metodikk og teknologi kan tas i bruk i helse- og omsorgssektoren, herunder føderert maskinlæring[44] og bruk av syntetiske data til å utvikle maskinlæring. Koordineringsprosjektet anbefalte at Direktoratet for e-helse utarbeider et kunnskapsgrunnlag i samarbeid med forskningsmiljøer om denne tematikken.

E-helse har i samarbeid med forskere på Nasjonalt senter for e-helseforskning (NSE) utarbeidet to kunnskapsgrunnlag om hhv føderert maskinlæring og syntetiske data. Artiklene blir publisert på informasjonssiden til koordineringsprosjektet i tillegg til NSEs egne hjemmesider. Forskerne fra NSE vil også presentere resultatene for sektoren i relevante fora.

Kunnskapsgrunnlag om bruk av KI for å lette klinisk byrde med data inn

Rapporten «Tilgang til data» påpeker at løsninger som kan bidra til kategorisering, klassifisering og strukturering av data på en enklere måte for helsepersonell, vil kunne gi bedre data til KI og redusere merbelastningen på klinisk personell. KI kan også benyttes til struktureringsarbeidet. Koordineringsprosjektet anbefalte at Direktoratet for e-helse utarbeider et kunnskapsgrunnlag som oppsummerer metoder og verktøy som kan strukturere helseinformasjon på en hensiktsmessig måte. Det skal blant annet redegjøres for bruk av naturlig språkprosessering for å effektivisere arbeidet med datafangst, klassifisering og koding, og forenkle søk ved datauttrekk.

Utviklingen av store språkmodeller og generative modeller har styrket muligheten for at KI-verktøy kan brukes for å strukturere helseinformasjon. Det vil forutsette at språkmodellene som brukes er godt tilpasset språkbruken og kulturen i den norske helsetjenesten. Hvis det utvikles språkmodeller som er godt tilpasset norsk helsefaglig språkbruk vil det kunne effektivisere flere manuelle oppgaver med tekst i helsetjenesten, som å sjekke at kode og journalnotat stemmer, foreslå koder, oppsummere journalnotater og lage utkast til epikrise.

Koordineringsprosjektet jobber med et kunnskapsgrunnlag som skal vurdere aktuelle bruksområder for språkmodeller i helsetjenesten, gi en status over aktuelt arbeid med språkmodeller, samt skissere mulige måter å utvikle en språkmodell for helsefag som baserer seg på andre språkmodeller.

Internasjonalt arbeid

Koordineringsprosjektet har orientert seg mer mot internasjonalt arbeid. Det er viktig å følge med på EU-nivå, for å gjøre seg kjent med ambisjoner, strategier og lovendringer som også vil påvirke Norge fremover.

Etatene som er med i koordineringsprosjektet engasjerer seg i og formidler arbeidet med EUs lovarbeid knyttet til medisinsk utstyr (MDR og IVDR), metodevurderinger (HTAR), datareguleringer (Data Act, Data Governance Act, Open Data-direktivet og European Health Data Space) og KI-forordningen (AIA).[45] De er også engasjert i ulike typer standardiseringsarbeid som er igangsatt for å lette implementeringen av disse reguleringene. Direktoratet for e-helse er med i speilkomiteene for henholdsvis Helseinformatikk (SN/K 587) og Kunstig intelligens (SN/K 587) og FHI er med i et EU-prosjekt som skal se på en standardisert tilnærming av tidligere kliniske studier, som er ulikt praksis i Europa grunnet nasjonale handlingsrom.

Etatene deltar i flere prosjekter som skal tilrettelegge for både primær- og sekundærbruk av data, for å lette implementeringen av EHDS i Norge (MyHealth@EU og HealthData@EU). Etatene deltar også i andre europeiske prosjekter om samlet tilgang til større datamengder. Et eksempel er Jardin, som har som mål å integrere 24 europeiske referansenettverk (ERN) for så samle data om komplekse og sjeldne diagnoser som krever høyspesialisert behandling. Helse Sør Øst RHF, Oslo universitetssykehus HF og Helsedirektoratet deltar fra Norge.[46]

Studietur til Nederland

KIN-nettverket arrangerte studietur til Nederland. KIN har laget en reiserapport.[47] De viktigste læringspunktene var blant annet:  

• Det er vanskelig å lage en god "business case" for KI
• Bruk KI til å gi en forbedring av den totale arbeidsflyten
• KI bør være en integrert del av den kliniske arbeidsflyten og integreres med eksisterende infrastruktur

Møte i helsedepartementet i Nederland

I etterkant av studieturen arrangerte koordineringsprosjektet et møte med Helsedepartementet i Nederland. Flere fra etatene i koordineringsprosjektet deltok – både digitalt, fysisk.

Helsedepartementet i Nederland startet i 2019 «Program for Valuable AI for Healthcare». Programmets mål var å hjelpe sektoren til å forbedre og øke bruken av pålitelig AI for å bidra til å løse de store utfordringene innen helsevesenet. Programmet har jobbet med eksperter og helsepersonell, og opprettet arbeidsgrupper, ekspertpaneler og diskusjonsgrupper for å samle informasjon om hva feltet trengte og jobbet med måter å imøtekomme disse behovene på.

Noen av leveransene fra programmet kan fungere som inspirasjon eller også oversettes til norsk, blant annet retningslinjer for høykvalitet diagnostiske og prognostiske applikasjoner av AI i helsetjenesten[48] og Innovasjonsprosess for «valuable AI» i helsetjenesten[49]. Se for øvrig liste over leveranser i figur 7 i vedlegg 2.  

I 2023 har departementet gått over til tre team: KI i helse, Innovasjon og Datatilgang. Målene med arbeidet i disse teamene er å stimulere til datatilgjengelighet, skape klarhet og sikkerhet rundt juridiske betingelser for KI, fremme bevissthet rundt ansvarlig og pålitelig bruk av KI og å stimulere utvikling og bruk av pålitelig KI.

Hvordan har koordineringsprosjektet hjulpet helsetjenesten

Tilbakemeldingene fra de involverte fra helsetjenesten har gjennomgående vært gode. Koordinerings­­­prosjektet har gjennom tett dialog initiert og utviklet et godt samarbeid med sektoren. Gjennom en eksplorativ tilnærming har mange ulike type virksomheter i sektoren fått mulighet for å spille inn behov direkte til etatene, både i workshopene som er arrangert og gjennom den tverretatlige veiledningstjenesten. Tilnærmingen har gjort det mulig å avdekke, behandle, og prioritere behov løpende, etter hvert som både tjenesten og KI-feltet har modnes. Arbeidsmøtene ga i tillegg verdifull innsikt i hvor mye og hva som skjer i helsetjenesten i Norge på KI-området.

Tilbakemeldingene fra de involverte i helsetjenesten er at det har vært utført mye godt arbeid i koordineringsprosjektet. Kvaliteten har vært økende, fra å omhandle et nytt og umodent område, til at etatene og sektoren over tid har fått mer forståelse for både muligheter og utfordringer. Flere mener også at de publiserte leveransene er så nyttige at de bør evalueres og oppdateres med jevne mellomrom.

Sektoren gir uttrykk for at den tverretatlige regelverksstøtten har vært nyttig. Helsetjenesten kan ha spørsmål om hvordan den skal forholde seg til flere reguleringer av teknologier for helsepersonell, som ofte både er knyttet til medisinsk utstyr, IT generelt og behandlingsrettede helseregistre på en gang. Veiledningen har medført at bruken av det radiologiske systemet «Bone View» (som detekterer beinbrudd) i Vestre Viken har kommet raskere inn i klinikk.

Det er flere initiativ som krysser grensene mellom medisinsk utstyr og behandlingsrettede helseregistre, og som har komplekse IKT-utfordringer. Tjenesten kan ha behov for å kunne benytte den tverretatlige veiledningstjenesten, også utover KI-initiativ.

Styringsgruppen mener at behovet for tverretatlig veiledning vil øke, også fra andre deler og miljøer i etatene. Det vil bli mer fokus på metodevurdering og hvordan man klokest mulig tar i bruk KI.

Styringsgruppen gir uttrykk for at kompetansen til gruppen med jurister som gir tverretatlig veiledning er veldig god, og at de har en særdeles god oversikt.

Tilbudet om tverretatlig regulatorisk veiledning på KI-området blir ansett som nyttig også for andre områder. Helse- og omsorgsdepartementet har bedt om at det i 2023 prøves ut en utvidelse med veiledning for persontilpasset medisin i tråd med ny nasjonal strategi.

Styringsgruppen har vært bredt sammensatt, og gir tilbakemelding om at møtene har fungert som en god arena for dialog og strategiske diskusjoner og ikke minst kunnskaps- og erfaringsutveksling.

Samarbeidet med kompetansenettverket KIN har vært sentralt for både kompetansebygging, for kompetanse- og erfaringsdeling og for den tette dialogen med sektor.

Koordineringsprosjektet har utviklet seg til et tett og nyttig samarbeid mellom etatene. En av gevinstene er økt kompetanse om fagfeltet innad i helseforvaltningen, et nettverk av fagpersoner med dybdekunnskap og en felles forståelse om at tverretatlig samarbeid er en nyttig og bærekraftig innfallsvinkel til kompliserte problemstillinger. Samarbeidet på tvers av etatene har vært svært tid- og ressurskrevende, og det har vært utfordrende å finne velfungerende digital infrastruktur og møtetidspunkter. Prosjektet har også dratt stor nytte av at deltakerne har vist et særlig engasjement og innsats. Samlet sett er koordineringsprosjektet et eksempel på behovet for tverrgående nettverk og organisering i forvaltningen, og behovet for å effektivisere slike prosesser.

Fokuset i EU på data og digitalisering er positivt. Behovet for å samarbeide internasjonalt, spesielt med EU-land er stort, fordi vi ikke kan løfte alt selv og fordi det er mye å lære av andre lands erfaringer og kunnskap. Studieturen til Nederland viste stort potensiale for samarbeid med andre land.

Gjennom planperioden har antallet KI-aktiviteter økt innen forskning og utprøving, og de første tjenestene tar KI i klinisk bruk. «Bone Expert», som predikerer alder ved å analysere bilde av hender, er tatt i bruk ved flere sykehus. Vestre Viken har tatt i bruk KI-systemet «Bone View» for å detektere beinbrudd til klinisk bruk, og flere helseforetak planlegger å bruke det fremover. Vestre Viken har også gjort en større anskaffelse som i løpet av kommende år legger grunnlaget for storskala implementering.[50] Det forventes at behovet for hjelp fra etatene vil øke i takt med at flere vil ta i bruk KI-systemer i helsetjenesten framover. Samtidig vil det komme flere nye regelverk og stilles flere krav til aktørene.  

Fotnoter