Bakgrunn
I kapittel 6.2 i sluttrapport for koordineringsprosjektet står anbefalingen:
- at arbeidet med å utvikle rammer for kvalitetssikring fortsetter. Utviklingen av rammene gjøres løpende og i dialog med sektoren, blant annet gjennom brukerpanelet, som både gir innspill til leveransene og er med på å prioritere tematikk som skal behandles i de neste trinnene.
Status
Arbeidet med å utvikle rapport om kvalitetssikring av kunstig intelligens i helse- og omsorgstjenesten fortsetter.
Et brukerpanel fra sektoren gir innspill til helheten og ulike kapitler underveis i arbeidet.
Rapporten retter seg mot de som skal ta i bruk KI-løsninger i helse- og omsorgstjenesten i Norge. Den påpeker utfordringer en må være spesielt oppmerksom på i en anskaffelsesprosess for et KI-system. Dokumentet er et supplement til eksisterende veiledninger.
Den overordnet strukturen er inspirert av "A buyer’s guide to AI in health and care" fra NHS i England, og retter seg mot beslutningstakere, innkjøpere og helsepersonell.[38]
Innholdet er videre basert på relevante og anerkjente kilder, både nasjonalt og internasjonalt, og referanser finnes gjennomgående i teksten og på en egen side.
Denne versjonen av rapporten er avgrenset til ferdigutviklede produkter som anskaffes, og omfatter dermed ikke rammer for egenutvikling av KI-løsninger. Systemer med løpende læring faller utenfor dette rapporten.
Plan fremover
- Ferdigstille rapport om kvalitetssikring av kunstig intelligens i helse- og omsorgstjenesten
Forventet leveranse: tredje kvartal 2024 - Hente erfaringer, vedlikeholde og videreutvikle veiledningsmateriellet
- Prioritere de neste leveransene
Identifiserte nye behov er å
- tydeliggjøre når det er behov for forskning, dvs. ytterligere kliniske studier, før et KI-produkt kan implementeres i helsetjenesten.
- tydeliggjøre hva som ligger i et CE-merke, og hva som ikke ligger i det
- gi støtte til mindre aktører som fastleger, avtalespesialister og kommunehelsetjenesten.
- tydeliggjøre hvordan virksomheter kan vurdere og validere nye versjoner av produkter som allerede er tatt i bruk, inkludert krav til datasett for valideringen.
- tydeliggjøre hvordan KI-produkter som lærer og/eller finjusteres løpende kan valideres.
- utarbeide retningslinjer for hvordan KI-systemer skal valideres. Validering bør gjøres etter en forhåndsspesifisert protokoll og slik at man får et estimat på nøyaktigheten til metoden.
- etablere felles metodikk (eller standarder) for å validere ulike typer KI-systemer, inkludert de som involverer store språkmodeller.
- etablere nasjonalt organisert kompetansesystem for å støtte validering av KI-løsninger
Hvem er ansvarlig
Helsedirektoratet
Hvem samarbeider
Helsetilsynet, Sykehuspartner, Helse Sør-Øst samt et bredt sammensatt brukerpanel. Direktoratet for medisinske produkter kvalitetssikrer arbeidet innenfor sitt fagområde.