Kapittel 6Anbefalte tiltak

Systematisk arbeid med problemstillinger knyttet til å beregne gevinster, håndtere risiko, foreta kvalitetssikring, vurdere etikk og implementering kan bidra til at helse- og omsorgstjenesten i større grad kan ta i bruk kunstig intelligens som personellbesparende teknologi, og samtidig sikre eller øke kvaliteten på tjenesten. Bruk av kunstig intelligens krever tillit fra både helsepersonell og innbyggere, i tillegg til tett samarbeid mellom kliniske fagpersoner, jurister og teknologer samt tydeligere fordeling av ansvar mellom aktørene i helse- og omsorgssektoren. Næringslivet og utdannings- og forskningsmiljøene må også inkluderes i dette arbeidet. Helsemyndighetene bør være i stand til å gi god støtte og veiledning for at helse- og omsorgstjenesten skal kunne anskaffe, innføre og ta i bruk KI-systemer på en forsvarlig og nyttig måte. Dette kapitlet beskriver tiltak som bør prioriteres av nasjonale myndigheter de neste fire årene.

Anbefalingene i denne rapporten kommer fra styringsgruppen til koordineringsprosjektet «Bedre bruk av kunstig intelligens». Prioritering av foreslåtte tiltak, utpeking av ansvarlige for tiltakene og allokering av ressurser gjøres gjennom de ordinære virksomhetsprosessene i etatene og satsninger initiert fra departementet.

Koordinerings­prosjektet anbefaler at tiltakene som er igangsatt fortsetter (avsnitt 6.1 – 6.5), samtidig som det startes opp noen nye tiltak (avsnitt 6.6 – 6.7) for å hjelpe helse- og omsorgssektoren å ta i bruk KI i tjenestene på en forsvarlig og trygg måte.

Veilede om og tilpasse til eksisterende og kommende regelverk

Innføringen av kunstig intelligens i helsetjenesten må skje innenfor rammene av de rettsreglene som til enhver tid gjelder. Både anskaffere, forskningsmiljøene, helsepersonell og andre i helsesektoren må derfor kjenne til de juridiske rammene for å utvikle og ta i bruk et produkt med kunstig intelligens. Regelverket er også i stadig utvikling, og EU-regelverk som KI-forordningen, European Health Data Space (EHDS), Health Technology Assessment Regulation (HTAR) og Data Governance Act er av særlig interesse. For sektorovergripende regelverk slik som KI-forordningen bør det være et tettere samarbeid mellom fagetatene på helseområdet og relevante etater som Kommunal- og distriktsdepartementet og Digitaliseringsdirektoratet om konsekvensanalyse og fortolkning av regelverket innenfor den aktuelle sektoren.

Mange av spørsmålene som dukker opp i forbindelse med forskning, utvikling og bruk av kunstig intelligens krever kjennskap til flere regelverk som må ses i sammenheng, for å kunne løses. Flere av disse spørsmålene vil antakelig bli besvart ved hjelp av KI-­prosjektets informasjonssider og det vidtrekkende veiledningsmaterialet som er publisert der, samt i leveransene fra delprosjektet Rammer for kvalitetssikring. Det er likevel behov for å sikre at myndighetene har tilstrekkelig kunnskap om sammenhengen i gjeldende og kommende regelverk for å møte usikkerheten i helsetjenesten.

Veiledningstilbud til helsetjenesten

Hensikten med tverretatlig veiledningstjeneste er å gi spisset veiledning om kunstig intelligens til prosjekter eller miljøer som har behov for hjelp med juridiske problemstillinger knyttet til flere regelverk. Veiledningstjenesten var pilot i november og desember 2021, og ble opprettet som et fast tilbud i 2022. I 2023 er det mottatt fire søknader, der to av disse prosjektene har mottatt veiledning av veiledningsgruppen. Veiledningsgruppen hadde satt av halvannen time hver uke til arbeid med veiledningstjenesten.

Behovet og dermed nytten av en tverretatlig regulatorisk veiledningstjeneste for kunstig intelligens i helsetjenesten må vurderes mot kostnaden det er å tilby en slik tjeneste. Tilfanget av saker til veiledningstjenesten har til nå vært lavt. Sektoren, gjennom blant annet styringsgruppen i koordineringsprosjektet, mener at behovet for veiledningstjenesten kommer til å øke fremover.

Sektoren viser til at aktuelle prosjekter eksisterer, men at de ikke har søkt om veiledning fordi de frem til nå blant annet har vært for forskningsorienterte. Den lokale kompetansen i helsesektoren er relativt lav, og det er et behov for både tilføring av basiskunnskap og mer detaljert veiledning. Det er viktig å merke seg at den lave kompetansen også gjør det vanskelig for prosjektene å stille de riktige spørsmålene til veiledningstjenesten. De som har tilegnet seg kompetanse på området, har også et behov for en diskusjonsarena. Foreløpig er det få prosjekter som har vært modne nok for veiledning, men dette vil endres.

Videre er det vist til at veiledningstjenesten ikke er godt kjent i helsesektoren, og at det derfor er behov for mer informasjon og markedsføring om tjenesten. Her er det et stort potensialt både i primær- og spesialisthelsetjenesten.

Utviklingen går ikke fort, men den har aldri gått så fort som nå. Behovet for veiledning kan komme raskt, og det er derfor viktig at veiledningstilbudet er tilgjengelig når prosjektene har behov for hjelp.

Koordineringsprosjektet viser til at det også fra myndighetenes side er nyttig å vite hvilke behov sektoren har for veiledning, kompetanseheving og eventuelt regelverksutvikling, og at de gjennom veiledningstjenesten kan fange opp slike signaler.

Den tverretatlige veiledningstjenesten bygger kompetanse og regelverksforståelse både i sektoren og hos etatene. Dette er nyttig spisskompetanse for å kunne bidra til å holde farten oppe i sektoren på trygg innføring av KI, samt å kunne bidra til å tydeliggjøre eksisterende regelverk, foreslå regelverksendringer og bidra ved innføring av nytt regelverk fra EU.

Gruppen i tverretatlig regulatorisk veiledning har hatt jevnlig kontakt med Datatilsynets, Finanstilsynets og Arkivverkets sandkasser. Datatilsynets sandkasse har hatt helserettede prosjekter, blant annet Ahus’ prosjekt EKG AI[57] og Helse-Bergens prosjekt om oppfølging av sårbare pasienter[58]. Det er behov for kompetanse på helselovgivningen i prosjektene. Et tettere samarbeid med Helsedirektoratet er også nevnt i Evalueringen av Datatilsynets sandkasse for kunstig intelligens som en forbedringsmulighet.[59]

Koordineringsprosjektet anbefaler:

• at tverretatlig regulatorisk veiledning fortsetter, med noen forbedrings- og utviklingspunkter.
• at Helsedirektoratet har hovedansvar for veiledningstjenesten fra 2024, med bidrag fra Direktoratet for medisinske produkter og Helsetilsynet, etter deres respektive forvaltningsansvar.

Det er behovet til sektoren som må være førende for veiledningstjenesten. I og med at behovet er varierende og på ulikt kompetansenivå må veiledningstjenesten være fleksibel i hvordan veiledning tilbys og hvilke saker som behandles. Det er behov for å kunne skalere tjenesten både opp og ned.

Dersom behovet øker og blir tydeligere bør det vurderes om tilbudet bør utvides til å være en regulatorisk sandkasse og om andre etater og områder bør inngå i tjenesten.

Rammer for kvalitetssikring

Delprosjektet har nylig startet og har derfor ikke ferdigstilt noen leveranser ennå (se beskrivelse av prosjektet i avsnitt 4.4.3).

Behov for veiledningsmateriell om kvalitetssikring prioriteres jevnlig etter at hver leveranse er ferdigutviklet og publisert på den tverretatlige informasjonssiden. Prioriteringen gjøres i tett dialog med sektoren gjennom blant annet brukerpanelet som er satt opp for delprosjektet, slik at de i størst mulig grad er avstemt med behovene i sektoren.

Kartleggings­arbeidet våren 2023 avdekket flere behov knyttet til tydeligere rammer for kvalitetssikring som ikke ble prioritert i den første fasen i 2023. Dette gjelder for eksempel

• Nytte- og kostnadsvurderinger
• Rammer for egenutvikling
• Retningslinjer for etiske vurderinger
• Organisatoriske konsekvenser, herunder implementeringsforskning
• Kvalitetssikring av modeller som lærer løpende

Koordineringsprosjektet anbefaler:

• at arbeidet med å utvikle rammer for kvalitetssikring fortsetter. Utviklingen av rammene gjøres løpende og i dialog med sektoren, blant annet gjennom brukerpanelet, som både gir innspill til leveransene og er med på å prioritere tematikk som skal behandles i de neste trinnene.

Standardisering

EU har publisert og bestilt flere standarder som ledd i å lette implementeringen av deres lovarbeid knyttet til regelverkene for medisinsk utstyr (MDR og IVDR), metodevurderinger (HTAR), datareguleringer (Data Act, Data Governance Act, Open Data-direktivet, European Health Data Space (EHDS) og KI-forordningen (AIA). Ved å følge standarder vil det være enklere å dokumentere at et produkt er i overenstemmelse med kravene i reguleringer. Standarder vil ofte være viktige elementer i rammer for kvalitetssikring.  

Norsk deltakelse i relevant standardiseringsarbeid vil kunne bidra til at kravene og behovene til helsesektoren i Norge også blir tatt hensyn til og at sektoren bygger kompetanse.

Koordineringsprosjektet anbefaler:

• at helsesektoren engasjerer seg i relevant standardiseringsarbeid for KI, slik at sektoren både kan bygge kompetanse på og bidra inn i standardiseringsarbeid.

Metodevurderinger (HTA)

En forutsetning for å ta i bruk et nytt IKT-system i helsetjenesten er at bruken av systemet er helsefaglig forsvarlig og at dette kan dokumenteres. Dette gjelder også KI-systemer. Eksisterende regelverk og metoder kan til dels anvendes til dette.

Et KI-system kan være et medisinsk utsyr. Dersom et medisinsk utstyr er CE-merket, vil det sikre at produktet er trygt og effektivt dersom det brukes som produsenten har angitt. For å bli CE-merket må produsenten foreta en risikovurdering, utføre kliniske evaluering og eventuelt utprøvinger, utarbeide nødvendig teknisk dokumentasjon og implementere et kvalitetssikringssystem, slik at det kan dokumenteres at kravene i regelverket er tilfredsstilt.[60]

En metodevurdering (HTA) er en systematisk måte for å kartlegge og vurdere effekt, sikkerhet og helseøkonomiske forhold ved anskaffelser. Metodevurderinger (HTA) er et bidrag inn i beslutningsprosessen for å fremme et rettferdig og effektivt helsevesen av høy kvalitet. I tillegg kan en metodevurdering (HTA) inneholde en vurdering av tilgjengelighet, brukervennlighet, etiske og juridiske vurderinger, og sosiale og organisatoriske konsekvenser. Vurderingen bygger på dokumentasjon fra kliniske studier og systematiske oversikter.

Vurderingene samles i en leveranse og overleveres til systemet Nye Metoder som bidrag til beslutninger om anskaffelser eller utfasinger av medisinske metoder. Metodevurderinger (HTA) kan også benyttes på systemer og produkter som ikke er plassert på markedet som medisinsk utstyr.

Dagens maler for metodevurderinger (HTA) er imidlertid ikke godt nok tilpasset vurderinger av KI-systemer. Det går kort tid fra KI-utstyr er produsert til det settes på markedet. Det er ofte få uavhengige, randomiserte kliniske studier tilgjengelig i medisinske forskningsarkiver som PubMed.[61] Det er også få systematiske oversikter, observasjons- eller kohortstudier utover de få studiene som er initiert av produsentene under utprøving av utstyret. I dag er det disse studiene som danner grunnlaget for gjennomføring av metodevurderinger (HTA), og det er derfor vanskelig å gjøre vurderingene slik malene for leveransene er satt sammen i dag.

Sverige, Canada, USA og England arbeider med å lage tilpassede metodevurderinger (HTA) for å beskrive KI-baserte systemer. De baserer seg på risikobeskrivende innhold, i tillegg til de få identifiserte forskningsarbeidene og systematiske oversiktene som er tilgjengelige. De lager større kartleggingsoversikter hvor ett eller flere utstyr blir presentert. Oversiktene viser hvilke sikkerhetstiltak som er satt inn for å minimere risiko og avdekke og hindre diskriminerende treningsdata. Det foretas helseøkonomiske vurderinger, og det presenteres områder som er mangelfulle. Dagens Nye Metoder er lite tilpasset leveranser som favner KI og andre nye teknologiske løsninger.

På kort sikt vil metodevurderinger (HTA) av KI-løsninger måtte basere seg på studier der slike løsninger er anvendt på utenlandske pasientpopulasjoner. Med unntak for publikasjoner om KI brukt innen mammografifeltet, finnes det på andre områder ingen studier som dokumenterer resultater der kommersielle KI-modeller trenes på norske pasientdata. Det er derfor viktig at implementering av slike løsninger i Norge følges opp av vitenskapelige kliniske studier, gjerne multisenterstudier, for å dokumentere resultatene av bruken KI-modeller. Slike kliniske studier kan gi et viktig grunnlag for senere å kunne gjøre kunnskapsoppsummeringer og bredere metodevurdering (HTA) av implementering av KI i Norge.

Koordineringsprosjektet anbefaler

• at metodevurderinger (HTA) videreutvikles for å tilpasses vurderinger av KI-systemer.

Tverretatlig kunnskap og kompetanse om kunstig intelligens

“Jeg tror ikke vi innser hvor stor utvikling kunstig intelligens vil få”, uttalte Inga Strümke til A-magasinet i april 2023.[62] Samtidig svarer 43 prosent at de er bekymret eller svært bekymret for hvordan fremtiden påvirkes av kunstig intelligens, i en undersøkelse gjennomført av Ipsos for Nasjonal kommunikasjonsmyndighet.[63]

For at helseetatene skal kunne håndtere bølgen av teknologi i rask utvikling, og samtidig fremstå tillitsvekkende overfor en engstelig befolkning, er det viktig at mange ansatte i helseforvaltningen har grunnleggende kunnskap om kunstig intelligens, herunder aktuelle problemstillinger innen sitt fagfelt.  

En av de store gevinstene etter et fireårig koordineringsprosjekt om kunstig intelligens i helsetjenesten er økt kompetanse om fagfeltet  i helseforvaltningen, et nettverk av fagpersoner med dybdekunnskap og en felles forståelse om at tverretatlig samarbeid er en nyttig og bærekraftig innfallsvinkel til kompliserte problemstillinger. Det er derfor koordineringsprosjektets oppfatning at kompetansehevingen i helseetatene må fortsette også etter koordineringsprosjektets slutt.

Det er ikke behov for en rekke KI-eksperter, men derimot er det et stort behov for et mer helhetlig kompetanseløft i etatene, slik at de ansatte på en god måte kan forvalte sine arbeidsoppgaver også når de presenteres for spørsmål og problemstillinger knyttet til kunstig intelligens. Et slikt kompetanseløft vil være avgjørende for å kunne støtte og veilede helsetjenesten på en god måte. Bred kompetanseheving vil også sikre helseetatene mot sårbarheten det medfører at kompetansen på dette feltet ligger hos enkeltansatte med et særlig engasjement for fagfeltet.

I tillegg til å påvirke hvordan helsehjelp tilbys framover, kan kunstig intelligens få stor innflytelse på andre fagfelt som er nødvendige for å gi trygg og god helsehjelp. Et eksempel er digital sikkerhet: KI kan brukes både til mer sofistikerte angrep og i ny sikkerhetsteknologi, og kan endre hvordan helseorganisasjoner må jobbe med å sikre sine data og systemer. Dette illustrerer viktigheten av å bygge bred kompetanse om KI hos ulike grupper av ansatte i helseetatene og i sektoren.

I rapporten «Tilgang til data til kunstig intelligens i helse- og omsorgstjenesten» ble det pekt på noen tiltak på dette området, blant annet å jobbe med deling av Risiko og sårbarhetsanalyser (ROS) og vurderinger av personvernkonsekvenser (Data Protection Impact Assessment (DPIA)), samt videreutvikle Norm for informasjonssikkerhet og personvern i helse- og omsorgssektoren som både stiller krav og gir veiledning og kompetanseheving til helse- og omsorgssektoren.

Koordineringsprosjektet anbefaler:

• at etatene fortsetter å bygge kompetanse på KI-området.
• at etatene etablerer en eller flere permanente arenaer som gjør at de kan fortsette å samarbeide om produkter og tjenester som krever tverretatlig samarbeid. Det kan for eksempel være et nettverk med fagpersoner som har mål om å ha kompetansehevende arrangement jevnlig og lavterskel informasjonsutveksling.

Tverretatlige informasjonsside

Den tverretatlige informasjonssiden om KI skal være et verktøy som skal gjøre det enklere for virksomheter i helsesektoren å komme i gang med å ta i bruk KI-systemer på en forsvarlig måte. Her publiseres i størst mulig grad veiledningsmateriell, rapporter og kunnskapsgrunnlag som er produsert av etaene. Eksempler er tverretatlig regulatorisk veiledningsmateriell og rammer for kvalitetssikring. Veiledningsmateriell knyttet til regelverksarbeidet i EU kan bli relevant i tiden fremover.  

Det lenkes også opp til å vise til andre relevante kilder. Digitaliseringsdirektoratet har også en informasjonsside der de publiserer «veiledningsmateriale for ansvarlig utvikling og bruk av kunstig intelligens (KI) i offentlig sektor, oversikter over KI-prosjekter i offentlig sektor og henvisninger til annet relevant veiledningsmateriale og andre relevante aktører på denne siden.[64] KIN-nettverket publiserer en oversikt over KI-prosjekter i helsesektoren.[65]

Det forventes at leveransene vil bevege seg oppover i en "normeringstrapp"[66], og at de også vil kreve ulik type KI-kompetanse. Det blir viktig at etatene bygger og vedlikeholder KI-kompetanse slik at de kan svare ut de løpende behovene tjenesten får for veiledningsmateriell og eventuelt normerende produkter. Det kan bli behov for å videreutvikle metodevurderinger (HTA), og inkludere og eventuelt oversette standarder knyttet til de relevante EU-reguleringene.

Helsedirektoratet og Direktoratet for e-helse har publisert en rapport som beskriver en modell for kravstilling, veiledning, tilrettelegging og godkjenning innen helseteknologi.[67] Denne kan fungere som en modell også for hvordan veiledningsmateriell om kvalitetssikring av bruk av KI i helse- og omsorgstjenesten skal utvikles fremover.

Koordineringsprosjektet anbefaler:

• at den tverretatlige informasjonssiden fortsetter å publisere veiledningsmateriale, kunnskapsoppsummeringer og annen informasjon om KI fra helseetatene. Det anbefales at Helsedirektoratet fortsetter som redaktør.  

Koordinering og samarbeid om KI

Koordineringsprosjektet i sin nåværende form avsluttes i løpet av 2023, samtidig som Nasjonal helse- og sykehusplan.

Koordineringsprosjektet antar at helsetjenesten i økende grad vil anskaffe, utvikle og ta i bruk KI-løsninger. Samtidig vil det komme flere nye regelverk og stilles flere krav til aktørene. Dermed forventes det at behovet for hjelp og støtte vil øke – både fra myndighetene og mellom aktørene i sektoren.

Dersom utvikling av nasjonal KI-strategi for trygge og effektive helse- og omsorgstjenester blir igangsatt vil dette arbeidet gi viktig bidrag til hvordan samarbeider i sektoren bør etableres.

Uavhengig av om det settes i gang arbeid med en nasjonal KI-strategi bør samarbeidet om KI i sektoren fortsette og forankres på nytt.

Koordineringsprosjektet anbefaler:

• at tverretatlig samarbeid om KI i helse- og omsorgssektoren fortsetter.
• at Helse- og omsorgsdepartementet tydeliggjør en forventning om fortsatt samarbeid mellom etatene på KI-området.
• at det etableres en arena der etaene, RHF-ene, KS og KIN kan fortsette å ha dialog og strategiske diskusjoner, tilsvarende styringsgruppemøtene.
• at de tverretatlige samarbeidsprosjektene om KI i helse- og omsorgssektoren behandles og følges opp i Nasjonal rådsmodell for e-helse.

Nasjonal KI-strategi for trygge og effektive helse- og omsorgstjenester

«KI-milliarden» og flere av de seneste nasjonale utredningene, som Nasjonalt veikart for helsenæringen og Helsepersonellkommisjonen utrykker forventninger til at KI kan bidra til å løse viktige samfunnsutfordringer, samtidig som vi må lære oss å kontrollere de nye utfordringene som teknologien reiser. Det har også kommet signaler om at Regjeringens digitaliseringsstrategi og helse- og samhandlingsplan for den neste fireårsperioden (2024-2027), vil omhandle KI og uttrykke et behov for større oppmerksomhet på trygg og forsvarlig bruk av KI, i både offentlig sektor generelt og helse- og omsorgssektoren spesielt.

Koordineringsprosjektet ble etablert for å støtte opp under den nasjonale helse- og sykehusplanen fra 2019- 2023, og går derfor mot slutten. Siden det er uttrykt klare ambisjoner fra Regjeringen er det også sannsynlig at KI etter hvert vil bli tatt i bruk for å forbedre flere arbeidsprosesser, både kliniske og ikke-kliniske, i helse- og omsorgstjenesten. Utvikling og bruk av avanserte og kompliserte KI-systemer vil også kreve at hele sektoren, inkludert myndighetene, må beherske å kunne regulere, kontrollere, kvalitetssikre og ikke minst vurdere hvordan KI best mulig bør brukes i helse- og omsorgstjenesten.

I tillegg til å videreføre tiltak knyttet til blant annet veiledning, veiledningsmateriell og kompetanse som koordineringsprosjektet anbefaler skal videreføres (se avsnittene foran), så uttrykker sektoren et behov for å se på organiseringen av helse- og omsorgssektoren og å utarbeide en forpliktende og plan for implementering av KI i helse- og omsorgstjenesten.

En nasjonal KI-strategi for trygge og effektive helse- og omsorgstjenester skal bidra til:

• å tydeliggjøre visjoner, ambisjoner og målsettinger for at norsk helsetjeneste kan ta i bruk KI-løsninger på en trygg, sikker og etisk forsvarlig måte.
• å konkretisere hvordan bruk av KI i framtiden kan avhjelpe problemet med mangel på helsepersonell, både for medisinske og administrative funksjoner.
• å avklare oppgaver, ansvar og roller for de ulike aktørene på nasjonalt, regionalt og lokalt nivå, blant annet hva som er myndighetsoppgaver og hva som skal ivaretas i regi av tjenestene.
• å synliggjøre behovet for samarbeid mellom berørte aktører, blant annet forskningsmiljøer og helsetjenesten, nærings- og innovasjonsmiljøer, mellom kommuner, mellom regionale helseforetak med videre. 
• å foreslå etablering av hensiktsmessige arenaer og organisatoriske og strukturer som kan understøtte helhetlige og sammenhengende tiltak for å styrke implementering av KI.
• å spre budskapet om de strukturer og prosesser som allerede er på plass, som for eksempel prosjektets informasjonsside, tverretatlig regulatorisk veiledning og produktene som utarbeides av delprosjektet om rammer for kvalitetssikring, samt å klargjøre behovet for disse tjenestene ytterligere.

Den nasjonale KI-strategien må drøfte og foreslå handlinger på en rekke tiltaksområder. Noen av disse bør være:

Regulatoriske forutsetninger for å ta i bruk KI

For å kunne ta i bruk KI på en kontrollert, sikker og trygg måte, må det foretas grundige vurderinger av konsekvensene av kommende EU-regelverk som får betydning på området, for eksempel KI-forordningen, metodevurderingsforordningen, European Health Data Space med flere. I tillegg bør det vurderes om det er behov for ytterligere nasjonal regulering av utvikling og bruk av kunstig intelligens i helse- og omsorgstjenesten.

Styrke kapasitet og kompetanse på KI-feltet

Tilgang på tilstrekkelig kompetanse er en kritisk faktor for å kunne implementere og ta i bruk KI-løsninger på en forsvarlig måte. Dette behovet finnes både innen forskning og undervisning, i forvaltningen og i helsetjenesten. Det er derfor nødvendig å øke kapasiteten i grunn- og videreutdanning, både for teknologer og helsepersonell, og med betydelig vekt på å utvikle tverrfaglighet og hybridkompetanse.

Samordnende, organisatoriske og institusjonelle grep

Det bør utredes behov for nasjonale samordningstiltak med sikte på samarbeid og fellesløsninger på felter der dette gir klare positive synergier for kvalitet og ressursutnyttelse. Det gjelder eksempelvis overordnede rammer for kvalitetssikring og validering, metodevurderinger (HTA), inkludert kost-nytteanalyser), krav til samarbeid mellom regioner, felles testmiljøer for KI-modeller, samarbeid om innkjøp, teknisk infrastruktur og datatilgang, samt vurdere behovet for etablering av regionale kompetansesentra (som for eksempel SPKI ved UNN). Planen bør også inneholde en skisse til hensiktsmessige samarbeidsorganer, både på nasjonalt og regionalt nivå.

Utvikling og anskaffelser av KI-løsninger

Planen bør ha en strategi for utvikling og anskaffelser av KI-løsninger i helse- og omsorgstjenesten. Målsetningen med strategien bør være at helse- og omsorgstjenesten bidrar til utvikling av KI-utstyr på en kostnadseffektiv og fremtidsrettet måte. Egenutvikling av medisinsk utstyr med kunstig intelligens er bare mulig der det ikke finnes tilsvarende kommersielle alternativer i Norge. Det bør i strategiarbeidet derfor utforskes hvordan helse- og omsorgstjenesten kan bidra til innovasjon og produktutvikling, uten at produktene blir begrenset til enkelte helseforetak eller at løsningene må fases ut når det er tilgjengelige kommersielle alternativer. Strategien bør se nærmere på mulighetene for kommersialisering av egenutviklede KI-produkter og hvordan forsknings- og utviklingsmiljøene kan få støtte til dette. I strategiarbeidet bør det også ses nærmere på norske helseforetaks tilgang til data og sårbarheten knyttet til at våre data ligger hos få, svært store aktører.

Tilgang til data og infrastruktur for trening, validering og finjustering

I dag er data ofte bundet til proprietære fagsystemer og vanskelig å få tilgang til. De er dermed vanskelig å bruke til trening, validering og finjustering av KI-modeller. En løsning på problemet kan være å etablere en sikker og robust infrastruktur til dette. Strategien bør omhandle hvordan data og infrastruktur i helsevirksomhetene bør tilrettelegges slik at data kan gjenbrukes enklere og mer helhetlig. Gjort riktig vil det kunne øke takten på å ta i bruk slike systemer på en trygg og forsvarlig måte.

Finansieringsbehov, finansieringsløsninger og kost-nytteanalyser

Helse- og omsorgstjenesten har betydelige økonomiske utfordringer, og dette begrenser evnen til å ta i bruk ny og innovativ teknologi. Dette er i EU-studier dokumentert som en av flere hemmende faktor for å investere i KI-løsninger. Strategien bør derfor drøfte behovet for å etablere nasjonale og regionale incentivordninger for å fremskynde nødvendige investeringer som kan gi fremtidig avkastning, som å avhjelpe behov for helsepersonell.

KI-strategien vil tydeliggjøre virkemidler, oppgaver, ansvar og roller for relevante aktører på flere nivåer, og å skissere en nasjonal teknisk, organisatorisk og institusjonell infrastruktur for håndtering av KI-feltet innen helsetjenesten. Strategien bør ha et fire-fem­årsperspektiv og fremme forslag om prioriterte tiltak.

Det vurderes som nødvendig at strategiarbeidet gjennomføres med involvering av relevante aktører på flere nivåer, inkludert fagmiljøene og pasientorganisasjonene. Det foreslåtte strategiarbeidet, med dedikert fokus mot implementering av KI-løsninger i helsetjenesten, må ellers også samordnes og tilpasses andre parallelle initiativ og prosesser som foregår i regi av myndighetene, både helsemyndighetene og andre departementer/direktorater. Det innebærer at strategien på flere områder kan bygge på og gjenbruke elementer (deler av dokumenter) fra parallelle initiativ og prosesser. 

Koordineringsprosjektet anbefaler

• at det utarbeides en nasjonal KI-strategi for trygge og effektive helse- og omsorgstjenester, i samarbeid mellom sektoren, etatene, pasientorganisasjoner, forskningsmiljøer og andre relevante miljøer.

Bruk av (språk)modeller i helse- og omsorgstjenesten

I løpet av høsten 2022 fikk store (språk)modeller og generative modeller stor utbredelse. Spesielt gjelder dette KI-verktøy som behandler tekst, som prateroboter (chatbot).

Språkmodeller har vist seg å gi oppsiktsvekkende gode svar på spørsmål. En måte å illustrere forbedringene av tolkning av tekster og hvor rask utviklingen har vært er å se på hvordan språkmodeller svarer på eksamensspørsmål for medisinstudenter. I november svarte den beste språkmodellen DRAGON bare 47,5 prosent riktig. I mars 2023 oppnådde Med-PALM-2 fra Google DeepMind korrekt svarprosent på 86.5 prosent.[68] Den ville bestått medisineksamen med god margin.

Det er for tidlig å si hvordan store språkmodeller i større omfang vil bli tatt i bruk i helse- og omsorgstjenesten. De kan for eksempel plukke ut viktig informasjon i pasientjournalnotater, slik som Sørlandet sykehus har gjort for å finne ut om en pasient som skal opereres er allergisk mot anestesi. Andre eksempler er å sjekke at kode og journalnotat stemmer, foreslå koder eller oppsummere journalnotater og lage utkast til epikrise. 

Bruk av systemer som bruker språkmodeller introduserer noen nye utfordringer sammenlignet med andre KI-modeller. Flere av dem er såkalte generative modeller, som produserer nye tekster. De kan bli overraskende presise, men samtidig kan de også hallusinere, og derfor dikte opp helt tilfeldige og fullstendig gale, men tilforlatelige svar. Dette er det vanskelig både å oppdage og å teste for. Flere av språkmodellene angir heller ikke kildene til svarene de gir, noe som for så vidt er naturlig siden de produserer tekst selv. Språkmodeller kan gi ulike svar på nøyaktig det samme spørsmålet. Det ligger også i naturen til språkmodellene, bl.a. fordi de tilstreber et variert språk.

Også språkmodeller er avhengig av god datakvalitet. Dataene som brukes til å trene og utvikle en modell må være relevante for oppgaven modellen skal hjelpe til å løse og representative for populasjonen modellen skal anvendes på. Flere språkmodeller er generiske grunnmodeller (foundation model), som kan finjusteres inn mot ulike bruksområder. Det er imidlertid vanskelig å kontrollere datagrunnlaget, som ofte kan eies av andre aktører. Det er også vanskelig å holde en språkmodell anonym og hindre at man kan utlede personsensitiv informasjon fra en modell.

En annen utfordring er at trening og utvikling av store språkmodeller har et enormt behov for datalagring og gir økt strømforbruk. Dette kan koste miljøet i form av svært høyt strømforbruk. Treningen av en enkelt dyplæringsmodell kan, avhengig av dens kompleksitet og datamengden den behandler, generere like mye karbonavtrykk som flere biler gjør i hele deres levetid.[69]

Det foregår fremdeles mye forskning på utvikling av språkmodeller, om hvilke oppgaver i helse- og omsorgstjenesten de kan løse, hvilke konsekvenser som kan oppstå, hvordan de kan testes og kvalitetssikres mm. Det er ikke usannsynlig at også en del av «KI-milliarden» som ble annonsert i september 2023 vil brukes på forskning på bruk av språkmodeller, og slik sett vil styrke fag- og forskningsmiljøene i Norge på dette området.[70] Tett samarbeid med fag- og forskningsmiljøer er viktig slik at helse- og omsorgstjenesten kan ta i bruk språkmodeller på en forsvarlig og trygg måte. 

Koordineringsprosjektet har bedt eksperter i KIN om å skrive et avsnitt om store språkmodeller. Noe av innholdet er gjengitt her, og hele innspillet er gjengitt i vedlegg 3.

Koordineringsprosjektet jobber med et kunnskapsgrunnlag som skal vurdere aktuelle bruksområder for språkmodeller i helsetjenesten, gi en status over aktuelt arbeid med språkmodeller, samt skissere mulige måter å utvikle en språkmodell for helsefag som baserer seg på andre språkmodeller (se avsnitt 4.4.7).

Koordineringsprosjektet anbefaler

• at etatene fortsetter å bygge kompetanse på språkmodeller
• at etatene, sammen med helse- og omsorgstjenesten, vurderer hvilke bruksområder der slike modeller kan være nyttige og hensiktsmessige
• at etatene vurderer hvilke risikoer disse modellene introduserer, og identifiserer tiltak for å sikre at helsetjenesten har tilgang på språkmodell(er) som er godt tilpasset språket og kulturen som brukes i den norske helse- og omsorgstjenesten.  

Fotnoter