Å teste KI-systemer med organisasjonens egne data kan være en måte å vurdere KI-systemets egnethet på i denne fasen. Det gir mulighet for å teste systemet rent teknisk med tanke på informasjonsflyt og vurdere KI-modellen med virksomhetens egne data.
Det kan også vurderes om en retrospektiv valideringsprosess skal gjøres i denne fasen. Dersom leverandørene åpner for dette, så er det viktig å samtidig ivareta krav til likebehandling av leverandørene [119]. Se fase 5 for lovlig behandlingsgrunnlag og unntak fra taushetsplikten for bruk av data fra virksomhetens journaler. Dersom validering er ønskelig, men ikke gjennomførbart før kontrakt signeres, kan virksomheten vurdere å kontraktsfeste muligheten for å gå ut av kontrakten dersom det viser seg at ytelsen ikke er som forventet når virksomheten får validert KI-systemet på egne data.
[119] Som også skrevet i fase 2, vil en situasjon der man har testet en løsning fullt ut (inkl. integrasjoner) fra en enkelt leverandør før man setter i gang en konkurransefase kunne skape utfordringer når det gjelder å gjennomføre en anskaffelse som ivaretar kravet til likebehandling i anskaffelsesforskriften. I slike situasjoner må man utjevne eventuelle fordeler en leverandør har fått, som gjerne i slike saker medfører at anskaffelsesprosessen kan ta ganske lang tid, fordi de øvrige leverandørene også må få det samme kunnskapsgrunnlaget og bør ha mulighet til å vise frem sine løsninger på tilsvarende måte, før det tildeles kontrakt.