To i en serie av 18 svenske retningslinjer for bruk av generativ KI i offentlig forvaltning, handler om anskaffelser. I de to belyses viktige problemstillinger som virksomheten i offentlig forvaltning bør vurdere ved anskaffelse av KI-verktøy. Retningslinjene som er laget, er begrenset til veiledning knyttet til bruk av eksisterende generative KI-systemer, heter det.
I mars-utgaven av «Lov&Data» skriver advokat Anton Karlsson ved Wikström & Partners Advokatbyrå i Stockholm om tilfanget av retningslinjer for generativ KI i offentlig forvaltning. Hans spesialisering er innenfor IT, IP og databeskyttelse.
Retningslinjer
Myndigheten för Digital Förvaltning (“DIGG”) og Integritetsskyddsmyndigheten (“IMY”) publiserte tidligere i år «Retningslinjer for generativ KI i offentlig forvaltning». Poenget er at disse retningslinjene skal gi veiledning om hvordan generativ KI bør anskaffes og brukes i offentlig forvaltning, der målet er å fremme sikker, effektiv og etisk bruk av generativ KI. Målgruppen for retningslinjene er ansatte og personer i lederfunksjoner, og spesielt i organisasjoner som er i en tidlig fase av KI-modenhet. Retningslinjene omfatter totalt 18 retningslinjer innen områdene ledelse og ansvar, databeskyttelse og persondatabehandling (GDPR), arbeidsmetoder, innkjøp, informasjonssikkerhet, opphavsrett og etikk.
To av 18 retningslinjer
Innen anskaffelsesområdet er det utviklet to retningslinjer: «Ta informerte beslutninger om anskaffelse av generativ KI» og «Kjøp generativ KI i henhold til LOU». LOU er den svenske anskaffelsesloven. I de to retningslinjene er viktige problemstillinger som virksomheten i offentlig forvaltning bør vurdere ved anskaffelse av KI-verktøy, belyst, skriver Karlsson i sin artikkel. Det fremheves spesielt at kontraktsmessige forhold og leverandørvilkår bør utredes nøye. Flere forhold er viktige å huske på ved gjennomgang og forhandling av kontraktsvilkår, bl.a. vilkår om rett til generert materiale, ansvarsbegrensninger, behandling av personopplysninger, informasjonssikkerhet, samt tvister og oppsigelse.
Retningslinjene som er laget, er begrenset til veiledning knyttet til bruk av eksisterende genertive KI-systemer. De inkluderer ikke veiledning om utvikling av nye basismodeller eller finjustering av eksisterende basismodeller. I lys av det raske utviklingstakten når det gjelder generativ KI, skal retningslinjene utvikles og oppdateres fortløpende.
Generativ og prediktiv
Generativ kunstig intelligens er teknikker innen maskinlæring der målet er å etterligne et datamateriale. Ordet generativ stammer fra at modellen genererer data, til forskjell fra prediktiv, som klassifiserer eller forutsier en størrelse. Betegnelsen generativ kunstig intelligens brukes for å presisere en anvendelse av kunstig intelligens. Rent teknisk er det ingen forskjell mellom generativ og prediktiv intelligens (kilde: Store Norske Leksikon).
Bli den første til å kommentere på "Retningslinjer til bruk ved anskaffelse av KI-verktøy"