Helsedirektoratet har laget en omfattende veiledning til bruk for de som planlegger å anskaffe et KI-system (kunstig intelligens). I første rekke er den myntet på helsevesenet, som dermed får hjelp til å anskaffe et KI-system slik at de kan bruke det på en trygg og effektiv måte. Rapporten er bygget opp i en «steg-for-steg»-mal, og leder brukeren gjennom seks faser i en prosess fra vurdering av kjøp til drift og forvaltning.
«Rapport om kvalitetssikring: Bruk av kunstig intelligens i helse- og omsorgstjenesten» forelå nylig fra Helsedirektoratet. En rekke representanter for ulike helseetater har vært med på å lage rapporten, samtidig som et omfattende brukerpanel har trådt til.
Seks faser
Rapporten er inndelt i seks faser som en virksomhet kan ta utgangspunkt i når den skal vurdere å anskaffe og ta i bruk et KI-system:
- Fase 1: Beskrive utfordringen og vurdere om KI er løsningen. Definere behovet og gjøre overordnet risiko- og kost-nyttevurdering.
- Fase 2: Kartlegge KI-systemer på markedet. Vurdere KI-systemenes overenstemmelse med regelverk, samt KI-systemenes ytelse, kvalitet og nytte. Det kan være hensiktsmessig for anskaffelsesteamet å utføre en tidlig markedsdialog for å få bedre kjennskap til KI-systemer på markedet.
- Fase 3: Vurdere egen virksomhets evne til å ta i bruk et KI-system. Vurdere både menneskelige og tekniske faktorer, samt gjøre risiko- og sikkerhetsvurderinger og oppdatere gevinstberegninger. Beslutningsgrunnlag utarbeides og anskaffelse av et KI-system planlegges. Testmiljøer kan være relevant ved anskaffelse av KI-systemer, slik at virksomheten har mulighet for å kvalitetssikre KI-systemene på en kontrollert måte.
- Fase 4: Anskaffe et KI-system. Planlegge anskaffelsesprosedyre, utarbeide kravspesifikasjon og vurdere tilbud. Virksomheten bør vurdere i hvilken skala anskaffelsen skal gjennomføres. Det kan være ulike hensyn som gjør at det bør være en lokal prosess. Et eksempel er at et KI-system er så spesialisert at det bare vil gjøre nytte for noen få brukere i en spesifikk virksomhet. Andre ganger er det hensiktsmessig at virksomheten samarbeider om anskaffelsen med andre kommuner, eller andre sykehus, eventuelt kan anskaffelsen egne seg for en regional anskaffelse. I noen tilfeller kan det foreligge rammeavtaler som virksomheten kan gjøre avrop på. En rammeavtale gjør anskaffelsen enklere for de som kan gjøre avrop på denne. Det kan derfor være ønskelig å få på plass en rammeavtale dersom dette ikke er på plass i virksomheten, heter det i rapporten.
- Fase 5: Innføre og kvalitetssikre et KI-system. Gjøre risiko- og konsekvensvurderinger, validere KI-systemet på egne data, gjennomføre organisatoriske og tekniske tiltak og lage plan for drift og forvaltning.
- Fase 6: Drifte og forvalte et KI-system. Overvåke, drifte og vedlikeholde KI-systemet, sørge for kontinuerlig kvalitetsforbedring, realisere gevinster og dele erfaringer. Gjennom anskaffelsen, implementering og testing vil man få bedre underlag for kost-nytteanalysen. Denne vil så ligge til grunn for gevinstrealiseringsplanen, med konkrete og målbare gevinster.
Roller og «kjøp kjent»
Det heter i rapporten at anskaffelse av et KI-system som allerede er tatt i bruk i andre tilsvarende virksomheter med gode resultater, normalt vil kunne være mindre risikofylt enn å anskaffe et helt ukjent KI-system.
Flere faktaark hører med i rapporten, bl.a. et som beskrive de ulike rollene som kan involveres og hvilket ansvar de har i en anskaffelsesprosess av KI-systemer i helse- og omsorgstjenesten.
Bli den første til å kommentere på "Slik kan helsevesenet anskaffe et KI-system som kan brukes trygt og effektivt"