Om faktaarket
Formålet med dette faktaarket er å forklare sentrale begreper knyttet til kunstig intelligens i helse- og omsorgstjenesten. Oversikten oppdateres løpende.
Relevante lenker
-
Teknologirådet: Ordliste for kunstig intelligens
Beskrivelse av KI-begreper
Automatiseringsskjevhet: En tendens til automatisk å stole på eller stole for mye på resultatene fra et KI-system som gir beslutningsstøtte.1
Bias oppstår når datasettene som brukes for å trene kunstig intelligente systemer bærer preg av historiske skjevheter, er ufullstendige eller inneholder feil. Det kan resultere i systematiske feil i modellens prediksjoner.2
Finjustering (på engelsk fine-tuning) er en teknikk hvor en allerede forhåndstrent språkmodell trenes videre på et smalere eller oppgavespesifikt datasett for å løse en bestemt oppgave, eller for å tilpasse seg et miljø med spesifikt fagspråk. Dette kan for eksempel innebære å trene modellen på domsavsigelser for å oppsummere rettspraksis og gi juridiske råd, eller på helsedata for å avdekke mønstre i helsejournaler eller stille diagnoser.3
Generativ kunstig intelligens: Maskinlæringsmodeller som kan generere unikt innhold basert på informasjonen de har blitt trent på. Dette innholdet kan være tekst, bilder, lyd og video. Eksempler er ChatGPT og Bard som genererer tekst og Dall-E og Midjourney som genererer bilder.4
KI for allmenn bruk (engelsk: General Purpose AI - GPAI) har ikke et tiltenkt formål, og faller således utenfor loven om medisinsk utstyr, men er regulert i EU-forordningen for KI. Reguleringen legger plikter på tilbydere av GPAI, og gir brukere og sluttbrukere rettigheter til en hel del informasjon om slike KI-modeller.5
KI-modell: En algoritme er en oppskrift som forteller hvordan noe gjøres, og består enkelt forklart av et sett instrukser som forvandler inndata til utdata. En maskinlæringsalgoritme er oppskriften systemet bruker for å bygge en KI-modell av virkeligheten, basert på dataene som blir matet inn (treningsdataene). Denne modellen kan så brukes for å ta nye beslutninger om nye data som kommer inn.6
KI-plattform brukes ofte om en plattform som kan håndtere ulike KI-systemer til bruk i en virksomhet. Et eksempel er KI-plattformen anskaffet i Vestre Viken HF. På denne KI-plattformen håndterer virksomheten ulike KI-systemer, som for eksempel Boneview, som er et KI-system som bruker en KI-modell for å tolke røntgenbilder tatt på skadelegevakten for å avgjøre om det er benbrudd eller ikke benbrudd.
KI-system: Det finnes mange definisjoner av kunstig intelligens. Vi har valgt å lene oss på definisjonen til den europeiske KI-forordningen (oversatt fra engelsk): "Et KI-system er et maskinbasert system som er designet for å fungere med varierende nivåer av autonomi og som kan vise tilpasningsevne etter implementering. For eksplisitte eller implisitte mål, utleder systemet, fra inndata det mottar, hvordan det skal generere utdata som prediksjoner, innhold, anbefalinger eller beslutninger som kan påvirke fysiske eller virtuelle miljøer".7
Kvalitetssikring: Kvalitetssikring er planlagte og systematiske aktiviteter som gjøres for å oppnå at et produkt eller en tjeneste vil oppfylle kravene til kvalitet. Kvalitetssikring er en del av en organisasjons kvalitetsstyring.8
Løpende maskinlæring er en teknikk som ligner på menneskers måte å lære på: Hver gang vi opplever, ser eller lærer noe nytt, tilpasser vi modellene vi bruker til å tolke verden rundt oss. Det finnes flere teknikker for å sørge for at maskinlæringsmodellene kan lære av stadig nye data. Én måte er å inkludere de nye dataene i settet med treningsdata, kjøre hele læringsalgoritmen på nytt, og oppdatere modellen som anvendes. Dette er ikke et problem med små datasett, men med dagens datamengder kan det kreve stor regnekapasitet, og koste tid, penger og energi. Andre metoder handler om å bruke de nye dataene til å justere på den modellen man allerede har. Dette er mye enklere, men har i noen tilfeller resultert i at de nye dataene får uforholdsmessig mye vekt, slik at modellen «glemmer» ting den egentlig hadde lært fra før.9
Modelldrift refererer til en forringelse av en KI-modells ytelse på grunn av endringer i data eller i sammenhengen mellom inndata og utdata. Modelldrift kan ha en negativ innvirkning på modellens ytelse, noe som kan resultere i feilaktige beslutninger og dårlige prediksjoner.10
Validering: Validering brukes om å bekrefte at KI-modellen yter som den er ment, for et bestemt tiltenkt formål.11
[1] Oversettelse fra KI-forordningen, artikkel 14 (3a): https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=OJ:L_202401689#d1e38-124-1.
[2] Teknologirådet: https://teknologiradet.no/ordliste-for-kunstig-intelligens/
[3] Teknologirådet: https://teknologiradet.no/ordliste-for-kunstig-intelligens/
[4] Teknologirådet: https://teknologiradet.no/ordliste-for-kunstig-intelligens/
[5] https://www.digi.no/artikler/debatt-alt-som-glimrer-er-ikke-ki-sjekk-om-ai-act-gjelder-deg/545862
[6] Teknologirådet, side 16: https://media.wpd.digital/teknologiradet/uploads/2022/02/Kunstig-intelligens-i-klinikken.pdf
[7] Artikkel 3.1 i KI-forordningen: https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=OJ:L_202401689#d1e38-124-1
[8] Store Norske Leksikon: https://snl.no/kvalitetssikring
[9] Teknologirådet, side 64: https://media.wpd.digital/teknologiradet/uploads/2022/02/Kunstig-intelligens-i-klinikken.pdf
[10] What Is Model Drift? | IBM
[11] I standarden ISO 9000:2015 "Quality Management System – Fundamentals and vocabulary" defineres "validation" slik: "Confirmation, through the provision of objective evidence, that the requirements for a specific intended use or application have been fulfilled: https://www.iso.org/obp/ui/#iso:std:iso:9000:ed-4:v1:en