Det å definere og tydeliggjøre virksomhetens behov er nødvendig for å kunne identifisere aktuelle KI-systemer som kan løse utfordringen. Dersom man for eksempel vil anskaffe et KI-system som er tiltenkt brukt for mennesker til et eller flere medisinsk formål, vil dette kunne anses som medisinsk utstyr (se fase 2)[18]. Hvem som skal bruke KI-systemet og hvem eller hva det skal brukes på, må klargjøres. Det samme gjelder med hvilken grad av autonomi KI-systemet skal fungere. Det må avklares om det er mulig og hensiktsmessig å løse problemet med et KI-system. Om problemet kan løses bedre, enklere og billigere ved en løsning uten KI, er det også viktig å kartlegge dette.
[18] Medisinsk utstyr defineres i MDR artikkel 2 (1), og omfatter programvare som ifølge produsenten er beregnet på å bli brukt på mennesker med henblikk på bl.a. følgende spesifikke medisinske formål: diagnostisering, forebygging, overvåking, prediksjon, prognostisering, behandling eller lindring av sykdom. https://www.dmp.no/medisinsk-utstyr/utvikling-og-produksjon/kvalifisering-og-klassifisering/kvalifisering#Definisjon-av-medisinsk-utstyr-179035