Kapittel 4.3Anbefalte tema for seminarrekke om rammer for bruk

4.3.1 Anbefalt tema: validering og bruk
4.3.2 Anbefalt tema: gevinstpotensial og -realisering
4.3.3 Anbefalt tema: barrierer og behov for finansiering
4.3.4 Anbefalt tema: tilgang til data og infrastrukturer for trening, finjustering og validering av KI-modeller

I kapittel 1.2 beskrives en seminarrekke for helhetlig KI-bruk i helse- og omsorgstjenesten. I dette avsnittet beskrives de temaene som er kommet frem i arbeidet med felles KI-plan knyttet til rammer for bruk og som er aktuelle å jobbe videre med i seminarrekken.

4.3.1 Anbefalt tema: validering og bruk

Hva er problemet

Forsvarlig bruk av KI i helse- og omsorgstjenesten forutsetter ofte at KI-systemet er validert og/eller testet for bruk i Norge, på norsk populasjon, tilpasset språkbruken og kulturen og er i tråd med våre etiske verdier. Utprøving, validering og innføring av KI i helsevirksomheter er utfordrende og ressurskrevende, og det finnes få felles måter å gjøre det på. Det er vanskelig å skaffe nok personellressurser, for eksempel klinikere som har tid til testing og validering i en allerede travel arbeidshverdag.

Hva vil vi oppnå

Det er behov for å samarbeide, dele erfaringer og gjenbruke metoder, men også å utvikle felles metoder og praksiser for utprøving, validering, innføring og forvaltning. Slik kan helse- og omsorgstjenesten øke takten på å hente ut gevinster og redusere ressursbruk for innføring og bruk av KI-systemer.

Det må tas hensyn til at ikke all valideringsmetodikk er direkte overførbar mellom virksomheter, forvaltningsnivå eller mellom helseregioner.

Hva skjer på området

Merk at tematikken validering også blir omhandlet i områder Rammer for kvalitetssikring (avsnitt 3.1) og Videreutvikling av metodevurderinger (avsnitt 3.5).

Det er allerede flere lovende initiativer og samarbeid i gang i sektoren som vil kunne lette arbeidet med å samle og dele kunnskap og erfaring om validering og bruk av KI-systemer knyttet til bildediagnostikk:
- Vestre Viken har etablert Regionalt KI-fagnettverk i bildediagnostikk for helseforetakene i Helse Sør-Øst. Vestre Viken bistår med blant annet erfaringsoverføring, deling og gjenbruk, og støtter prosjektgrupper med planlegging av videre arbeid.[41] Vestre Viken utarbeider blant annet et KI starter kit.
- Helse Sør-Øst planlegger å etablere et nasjonalt fagnettverk for bildediagnostikk. Nettverket skal være en arena for å kunne koordinere KI satsningen nasjonalt og for å dele erfaringer ved ulike initiativer, blant annet validering av løsningene.
- Helseregionene samarbeider om å anskaffe KI-plattformer for applikasjoner innen bildediagnostikk, som alle helseforetak kan gjøre avrop på. Helse Sør-Øst RHF leder arbeidet.
Validering og kvalitetssikring kan sees i sammenheng med veilednings- og godkjenningsordninger i Helseteknologiordningen, når KI inngår i velferdsteknologi, digital hjemmeoppfølging eller EPJ-systemer.[42]
Etiske prinsipper for bruk av KI finnes i den gjeldende nasjonale strategien for kunstig intelligens[43]

Hvordan gjøre det

Følgende aktiviteter er aktuelle:

Etablere en oversikt over validerte produkter, kontaktinformasjon til de som har erfaringer med produktet og eventuelt informasjon om vurderinger som er blitt gjort.
Vurdere behov og mulighet for å samle, dele og gjenbruke erfaringer og vurderinger knyttet til validering, kvalitetssikring, risikovurderinger og etiske vurderinger.
Vurdere hva som bør gjøres lokalt, regionalt og nasjonalt og av hvem knyttet til validering, bruk og skalering av KI-systemer.
Spre relevant kunnskap og forskningsresultater om validering, innføring og bruk av KI i helse- og omsorgstjenesten, for eksempel gjennom artikler på de tverretatlige infosidene om KI.
Identifisere behov for å utvikle veiledningsmateriell eller nasjonale veiledere og retningslinjer på utvalgte områder, basert på erfaringer og behov i sektoren.
Identifisere behov for å etablere/videreutvikle eksisterende veiledningstjeneste med råd om for eksempel validering, anskaffelser, etikk, ibruktakelse, gevinstrealisering mm.
Vurdere behov for å etablere en godkjenningsordning for å sikre at KI brukes på en trygg og effektiv måte og på den måten skape tillit blant helsepersonell og innbyggere.
- En mulighet kan være å videreutvikle Helseteknologiordningen.

Arbeidet bør starte gjennom seminarrekken som er foreslått i avsnitt 1.2.

Aktuelt samarbeid

Helsemyndighetene, helseregionene, helseforetakene, KS, kommuner, interesseorganisasjoner, helsenæringen og forskningsmiljøene inkludert KIN, NORA og Nasjonalt senter for e-helseforskning (NSE).

4.3.2 Anbefalt tema: gevinstpotensial og -realisering

Bakgrunn

I kapittel 6.6 i sluttrapport for koordineringsprosjektet står følgende:

Helse- og omsorgstjenesten har betydelige økonomiske utfordringer, og dette begrenser evnen til å ta i bruk ny og innovativ teknologi. Dette er i EU-studier dokumentert som en av flere hemmende faktor for å investere i KI-løsninger. Strategien bør derfor drøfte behovet for å etablere nasjonale og regionale incentivordninger for å fremskynde nødvendige investeringer som kan gi fremtidig avkastning, som å avhjelpe behov for helsepersonell.

Hva er problemet

Bruk av KI i helse- og omsorgstjenesten kan introdusere risiko for å gjøre feil samt usikkerheter knyttet til teknologiske valg, informasjonssikkerhet, personvern og gevinster. Som ved innføring av annen teknologi, kan gevinstene ved bruk av KI kunne tas ut andre steder enn der investeringene gjøres i tillegg til at det kan ta tid å hente ut gevinstene.

KS skriver i sin FoU-rapport at potensialet i kunstig intelligens vurderes å være stort, og det vil kunne være et betydelig samfunnsmessig tap ved å ikke utnytte mulighetene ved KI. Likevel er det mange kommuner som er usikre på gevinstpotensialet og avventer.[44] I Arbeidsgivermonitoren 2023 trekkes det frem at gevinstrealisering ved digitalisering oppleves som den største utfordringen, da 80 prosent av kommunene oppgir dette som meget utfordrende eller ganske utfordrende.[45]

Hva vil vi oppnå

Vi ønsker at helse- og omsorgstjenesten tar i bruk KI for å løse sine oppgaver bedre eller mer effektivt, og øker takten på å hente ut gevinstene ved å ta i bruk KI. Gevinstene kan omfatte både kortsiktige og langsiktige gevinster, og for ulike målgrupper.

Hva skjer på området

Følgende aktiviteter er aktuelle:

Helseregionene skal, under ledelse av Helse Sør-Øst RHF, ta i bruk løsninger med kunstig intelligens som kan bidra til å frigjøre tid hos helsepersonell og redusere ventetider. Effekten av løsningene skal dokumenteres slik at det legger til rette for videre innføring.[46]
Digitaliseringsdirektoratet har skrevet om risikovurderinger og vurderinger av gevinster ved bruk av kunstig intelligens.[47]
Eksempler på nytte

Hvordan gjøre det

Følgende aktiviteter er aktuelle:

Vurdere behov for å samle, dele og gjenbruke erfaringer og vurderinger om gevinster og gevinstarbeid, både nasjonalt og internasjonalt.
Identifisere gevinstområder, systematisere hvem som får gevinster og hva de består i. Dette gjelder også ikke-kliniske anvendelser.
Vurdere å utarbeide veiledningsmateriell og maler for kostnadsestimering og gevinstarbeid for KI i helse- og omsorgstjenesten.
Vurdere å utarbeide veiledningsmateriell om strategiske og økonomiske vurderinger om valg av egenutvikling sett opp mot innkjøp av KI-systemer.
Vurdere hvordan forhandlingsmakten til sektoren som helhet kan utnyttes bedre, for eksempel ved å kunne stille kontraktsmessige krav om KI-systems ytelse i drift (prospektivt).
Vurdere å sette i gang følgeforskning på noen områder hvor KI-løsninger er tatt i bruk.

Arbeidet bør starte gjennom seminarrekken som er foreslått i avsnitt 1.2.

Aktuelt samarbeid

Helsedirektoratet, helseregionene, helse- og omsorgstjenesten, helsenæringen og FoU-organisasjoner.

4.3.3 Anbefalt tema: barrierer og behov for finansiering

Bakgrunn

I kapittel 6.6 i sluttrapport for koordineringsprosjektet står følgende:

Helse- og omsorgstjenesten har betydelige økonomiske utfordringer, og dette begrenser evnen til å ta i bruk ny og innovativ teknologi. Dette er i EU-studier dokumentert som en av flere hemmende faktor for å investere i KI-løsninger. Strategien bør derfor drøfte behovet for å etablere nasjonale og regionale incentivordninger for å fremskynde nødvendige investeringer som kan gi fremtidig avkastning, som å avhjelpe behov for helsepersonell.

Hva er problemet

Barrierer og behov rundt finansiering knyttet konkret til innføring og bruk av KI i helse- og omsorgstjenesten er lite kjent. Det at gevinster ofte tas ut andre steder enn der investeringene gjøres, kan oppleves som en barriere i innføringen og bruk av KI-systemer. Videre kan intern ressursknapphet gjøre det utfordrende å anskaffe og ta i bruk kvalitetssikrede løsninger. Det kan også være barrierer som gjør det lite attraktivt å overlate oppgaver til andre yrkesgrupper, pasientene selv og/eller til KI-systemer. Det er behov for å undersøke slike barrierer ytterligere og vurdere om behovet for incentiver som går på tvers av forvaltningsnivåer.

Hva vil vi oppnå

Kartlegge og avklare eventuelle KI-spesifikke barrierer og behov knyttet til finansiering, slik at helsesektoren kan øke takten på å hente ut gevinstene ved å ta i bruk KI. Basert på dette kan mulige finansieringsløsninger utredes. Helse- og omsorgstjenesten inkluderes i dette arbeidet.

Hva skjer på området

Noen eksisterende incentivordninger:

Ordninger som Diagnoserelaterte grupper (DRG-systemet) og innsatsstyrt finansering (ISF-systemet) i helsesektoren.
Tilskuddsordninger i Helsedirektoratet, Helseteknologiordningen
Medfinansieringsordningen i Digitaliseringsdirektoratet.
Kommende ordninger for Tryggere helseapper og Verktøykatalogen på helsenorge.no

Hvordan gjøre det

Følgende aktiviteter er aktuelle:

Undersøke barrierer og behov for ytterligere økonomiske insentiver eller finansiering som kan øke trygg bruk av KI i helse- og omsorgstjenesten. I dette bør det vurderes om dagens finansieringsløsninger er tilstrekkelig eller til hinder for å ta i bruk KI.
Utrede egnede finansieringsløsning(er) dersom behovet er der.
- Et eksempel kan være å vurdere å videreutvikle tilskuddsordningen i Helseteknologiordningen

Arbeidet bør starte gjennom seminarrekken som er foreslått i avsnitt 1.2.

Aktuelt samarbeid

Helsedirektoratet, helseregionene og helse- og omsorgstjenesten.

4.3.4 Anbefalt tema: tilgang til data og infrastrukturer for trening, finjustering og validering av KI-modeller

Bakgrunn

I kapittel 6.6 i sluttrapport for koordineringsprosjektet står anbefalingen:

I dag er data ofte bundet til proprietære fagsystemer og vanskelig å få tilgang til. De er dermed vanskelig å bruke til trening, validering og finjustering av KI-modeller. En løsning på problemet kan være å etablere en sikker og robust infrastruktur til dette. Strategien bør omhandle hvordan data og infrastruktur i helsevirksomhetene bør tilrettelegges slik at data kan gjenbrukes enklere og mer helhetlig. Gjort riktig vil det kunne øke takten på å ta i bruk slike systemer på en trygg og forsvarlig måte.

Hva er problemet

Det er tungvint, tid- og ressurskrevende å få tilgang til data, både for forskere, til intern KI-utvikling i helsevirksomheter og for leverandører som ønsker å utvikle KI-systemer. Utviklingen av KI skjer raskt, og behovene for infrastruktur i helse- og omsorgstjenesten kan endre seg raskt. Det er derfor vanskelig å forutse og avklare behovene frem i tid. Det kan i perioder være knapphet på regne- og lagringsressurser i markedet, noe som også påvirker prisene. Dessuten er miljøfotavtrykket stort, og et miljøregnskap må inngå i totalregnskapet. Det å ta i bruk tungregneressurser kan være komplisert og tidkrevende for forskere og andre. Det er også usikkerhet knyttet til tilgang til og behov for ulike typer data som trengs til trening, finjustering og validering av ulike typer KI-systemer, inkludert språkmodeller.

Det er tungvint, tid- og ressurskrevende å få tilgang til data, både for forskere, til intern KI-utvikling i helsevirksomheter og for leverandører som ønsker å utvikle KI-systemer.

Hva skal vi oppnå

Vi ønsker å

etablere effektive og fleksible måter å gjøre trening, finjustering og validering av KI-modeller på og som bidrar til trygge løsninger for hele helse- og omsorgstjenesten. Behovet for slik infrastruktur gjelder ulike typer KI-systemer, også språkmodeller (kapittel 5). Det kan være ulike behov til hhv. forskning, validering og drift. Arbeidet må gjøres i god dialog med helsetjenestene som har oversikt over mulighetene og avgrensingene i dagens infrastruktur.
gi god informasjon om hvordan man kan få tilgang til data og god kapasitet for søknadsbehandling om tilgang til data til KI hos Helsedirektoratet og Helsedataservice
gi god støtte til forskere, og andre som har behov for å benytte tungregneressurser, slik at de kan redusere tidsbruken og utnytte begrensede tungregneressurser godt.
legge bedre til rette for at norsk leverandørindustri effektivt skal kunne utvikle KI-systemer basert på norske data for utvikling, test og validering av KI-basert programvare, både for nye produkter og videreutvikling av dagens programvareprodukter.
styrke arbeidet med informasjonsforvaltning i sektoren, på lokalt, regionalt og nasjonalt nivå, herunder bruk av felles kodeverk og terminologi.

Hva skjer på området

Noen sentrale initiativer er i gang for å prøve ut, trene og/eller validere KI-modeller og skalere.

Utredningsoppdrag: Behov for tungregnekraft for forskning og kunstig intelligens er gitt til Norges forskningsråd fra Kunnskapsdepartementet. HOD har bedt om at Hdir kobler seg på arbeidet.
NOR-X-CHANGE: De regionale helseforetakene har et felles initiativ for å sette opp forsknings-PACS systemer og etablere en sentral støtteenhet som støtter felles funksjonalitet som datamigrering fra kliniske systemer og datautveksling mellom regionene.
Sigma2 AS er ansvarlig for å levere den nasjonale e-infrastrukturen for beregningsvitenskap i Norge, og tilbyr tjenester innen tungregning (superdatamaskiner) og storskala datalagring for forsknings- og utdanningsformål. Sigma2 eies av Sikt. Sigma2 tilbyr også bistand til forskere og andre i bruken av tungregneressursene.
EuroHPC[48] er et stort EU-initiativ for å samle europeiske ressurser innen "high performance computing". Pr. mars 2024 er Europas kraftigste superdatamaskin LUMI i Finland. I løpet av 2024 er planen at Europas første exa-datamaskin (det vil si at den kan gjøre ti¹⁸ beregninger per sekund) skal være på plass i Tyskland: JUPITER. Disse superdatamaskinene blir viktige for videreutvikling av kunstig intelligens i Europa. Universitetet i Oslo fikk i slutten av 2023 et par ukers tid avsatt på LUMI til å trene opp tre norske store språkmodeller[49].
EHDS (European Health Data Space) er en ny forordning for å etablere et felles europeisk område for helsedata. Målet med EHDS er å fremme sikker tilgang til og utveksling av helsedata på tvers av landegrenser. EHDS dekker både primærbruk av data (myHealth@EU) og sekundærbruk (HelthData@EU).
TEF Health[50] (Testing and Experimentation Facility for Health AI and Robotics) skal tilby standarder for sertifisering og kvalitetskontroll for å forenkle prosessene for å få ansvarlige KI-systemer på markedet. Det settes opp TEF Health sentre med miljøer som utviklere av KI-systemer kan benytte, for å demonstrere interoperabilitet og funksjonalitet i løsningene sine. Norge deltar så langt ikke i TEF Health som "associated country", men norske virksomheter har likevel mulighet til å søke på utlysningene som TEF Health legger ut.
European Cancer Imaging Initiative[51] er et initiativ under Europe's Beating Cancer Plan. Målet er her å etablere en federert europeisk infrastruktur for bildedata for kreft. Denne skal knytte sammen initiativer på EU-nivå og nasjonale initiativer og skal gi klinikere, forskere og innovatører tilgang på bildedata for kreft på tvers av landegrenser.
EU Rare Disease Platform[52] skal gi forskere, helseinstitusjoner, pasienter og beslutningstakere verktøy for å bedre kunnskap, diagnostisering og behandling av sjeldne sykdommer. Plattformen skal gjøre det mulig å søke i registerdata på EU-nivå og vil standardisere datafangst og datautveksling.
Persontilpasset medisin: Det er blant annet utarbeidet en nasjonal strategi for persontilpasset medisin 2023-2030[53], et nasjonalt genomsenter er under etablering og Norge deltar i ulike europeiske initiativer.
Grand Challenge i Nederland gir tilgang til data for utvikling/evaluering av modeller.
AIMInd er et etablert EU-prosjekt[54] og samarbeidspartnerne søker om å etablere et senter for fremragende innovasjon (SFI) om å etablere et sikkert federert omgivelse for utvikling og testing av KI-modeller.

Hvordan gjøre det

Følgende aktiviteter er aktuelle:

Identifisere behov:
- identifisere spesialisthelsetjenestens behov og vurdere mulige tilnærminger for felles rammeverk for effektiv trening, finjustering og validering av KI-modeller.
- identifisere kommunesektorens behov og vurdere mulige tilnærminger for felles rammeverk for effektiv trening, finjustering og validering av KI-modeller.
- identifisere leverandørindustriens behov og vurdere mulige tilnærminger for tilgang til helsedata for utvikling av kommersielle KI-systemer. Se blant annet på opplevde juridiske barrierer, organisatoriske barrierer og infrastrukturutfordringer for tilgang til data. Dette gjelder både for nye produkter og for eksisterende produkter som utvides med KI-funksjonalitet.
Vurdere å etablere oversikt over og samarbeid med eksisterende initiativer
- etablere en eller flere strukturer for å følge med på infrastrukturinitiativer knyttet til trening, validering og finjustering på helseområdet i Norge, tverrsektorielt og i Europa, for eksempel Sigma2, LUMI og Jupiter.
- vurdere tettere samarbeid for å koble oss på relevante europeiske og/eller nordiske initiativer og programmer som for eksempel test og eksperimentelle plattformer for KI (TEF Health).
- etablere tettere samarbeid med utdannings- og forskningsinstitusjoner.
Avhengig av behovene og eksisterende initiativer, vurdere for eksempel:
- å legge bedre til rette for lagring, kobling og bruk av både historiske data og prospektiv innsamling. Dette gjelder blant annet data fra medisinske undersøkelser, for eksempel EEG, nevrografi eller ultralyd, fra pasientjournaler og fra registre.
- behovet for og mulig organisering av en nasjonal infrastruktur for å tilgjengeliggjøre norske treningsdata til bruk av store språkmodeller i helse- og omsorgstjenesten (se også innsatsområdet om bruk av store språkmodeller).
- å etablere nasjonal organisering av føderert maskinlæring, inkludert for eksempel felles definisjoner av variabler.
- å etablere nasjonale test- og valideringsdatasett, som vil lette gjenbruk av valideringer.
- å etablere register over nasjonale og internasjonale datasett som er tilgjengelig for KI-forskning.

Arbeidet bør starte gjennom seminarrekken som er foreslått i avsnitt 1.2.

Tiltaket sees i sammenheng med oppdragene "Sikre tilgang på språkmodeller tilpasset norske forhold" og oppdraget til KD om tungregning og akademia. Tiltaket sees også sammenheng med relevante EU-initiativer (se avsnitt 1.4).