Du benytter en nettleser vi ikke støtter. Se informasjon om nettlesere

Kapittel 4.1Igangsatt: Rammer for kvalitetssikring

Bakgrunn

I kapittel 6.2 i sluttrapport for koordineringsprosjektet står anbefalingen:

  • at arbeidet med å utvikle rammer for kvalitetssikring fortsetter. Utviklingen av rammene gjøres løpende og i dialog med sektoren, blant annet gjennom brukerpanelet, som både gir innspill til leveransene og er med på å prioritere tematikk som skal behandles i de neste trinnene.

Status

Arbeidet med å utvikle rapport om kvalitetssikring av kunstig intelligens i helse- og omsorgstjenesten fortsetter.

Et brukerpanel fra sektoren gir innspill til helheten og ulike kapitler underveis i arbeidet.

Rapporten retter seg mot de som skal ta i bruk KI-løsninger i helse- og omsorgstjenesten i Norge. Den påpeker utfordringer en må være spesielt oppmerksom på i en anskaffelsesprosess for et KI-system. Dokumentet er et supplement til eksisterende veiledninger.

Den overordnet strukturen er inspirert av "A buyer’s guide to AI in health and care" fra NHS i England, og retter seg mot beslutningstakere, innkjøpere og helsepersonell.[38]

Innholdet er videre basert på relevante og anerkjente kilder, både nasjonalt og internasjonalt, og referanser finnes gjennomgående i teksten og på en egen side.

Denne versjonen av rapporten er avgrenset til ferdigutviklede produkter som anskaffes, og omfatter dermed ikke rammer for egenutvikling av KI-løsninger. Systemer med løpende læring faller utenfor dette rapporten.

Plan fremover

  • Ferdigstille rapport om kvalitetssikring av kunstig intelligens i helse- og omsorgstjenesten  
    Forventet leveranse: tredje kvartal 2024
  • Hente erfaringer, vedlikeholde og videreutvikle veiledningsmateriellet
  • Prioritere de neste leveransene

Identifiserte nye behov er å

  • tydeliggjøre når det er behov for forskning, dvs. ytterligere kliniske studier, før et KI-produkt kan implementeres i helsetjenesten.
  • tydeliggjøre hva som ligger i et CE-merke, og hva som ikke ligger i det
  • gi støtte til mindre aktører som fastleger, avtalespesialister og kommunehelsetjenesten.
  • tydeliggjøre hvordan virksomheter kan vurdere og validere nye versjoner av produkter som allerede er tatt i bruk, inkludert krav til datasett for valideringen.
  • tydeliggjøre hvordan KI-produkter som lærer og/eller finjusteres løpende kan valideres.
  • utarbeide retningslinjer for hvordan KI-systemer skal valideres. Validering bør gjøres etter en forhåndsspesifisert protokoll og slik at man får et estimat på nøyaktigheten til metoden.
  • etablere felles metodikk (eller standarder) for å validere ulike typer KI-systemer, inkludert de som involverer store språkmodeller.
  • etablere nasjonalt organisert kompetansesystem for å støtte validering av KI-løsninger

Hvem er ansvarlig

Helsedirektoratet

Hvem samarbeider

Helsetilsynet, Sykehuspartner, Helse Sør-Øst samt et bredt sammensatt brukerpanel. Direktoratet for medisinske produkter kvalitetssikrer arbeidet innenfor sitt fagområde.

Siste faglige endring: 13. august 2024