En bedre evalueringsmodell?

Anbud365: En bedre evalueringsmodellPrissetting av kvalitet med absolutte påslag eller fradrag er en forutsigbar, gjennomsiktig og rasjonell beslutningsmodell som kan benyttes uavhengig av prisfordeling, skriver artik-kelforfatteren, som tidligere har arbeidet som rådgiver innenfor IKT-infrastruktur og i de senere årene med rådgivning innenfor IT-anskaffelser.

Skriv ut artikkelen

Av Bjørn Erik Bjørnstad, Spesialrådgiver IKT-anskaffelser

De to hovedalternativene når både pris og kvalitet skal evalueres er Relative poengmodeller og Prissetting av kvalitet. Relative poengmodeller er mest benyttet i Norge, men har en del kjente svakheter. Er Prissetting av kvalitet et bedre alternativ? Artikkelforfatteren inviterer leserne til å komme med synspunkter på det han skriver.

Poengmodeller som regner om pris til poeng har svakheter

Relative poengmodeller kjennetegnes ved at pris / kostnad og de kvalitative egenskapene vurderes i relasjon til hverandre, og ikke forhold til forhåndsfastsatte kriterier [1]. Det er mange varianter av relative poengmodeller. To modeller som er mye brukt er forholdsmessig modell og lineær modell [2]. Felles for disse er at man regner om pris til poeng.  

I Sverige har Konkurrensverket gjort en del forskning på ulike evalueringsmodeller. Et argument mot modeller som poengsetter pris ut fra tilbudet med laveste pris er bl.a. at de kan gi en avhengighet av ikke-relevante alternativer, noe som gjør at den ikke oppfyller kravene til en rasjonell beslutningsmodell. Problemstillinger rundt bruk av modeller som poengsetter pris beskrives grundig i svenske forskningsrapporter (se Konkurrensverket 2004:1 [3] og en utdyping av temaet i Konkurrensverket 2009:12 [4]).

Et eksempel illustrerer avhengigheten av ikke-relevante alternativer for forholdsmessig modell:

  • Kvalitet vektes 60 % og pris 40 %.
  • Tre tilbud A, B og C. Bs pris er kr 6 mill, Cs pris er kr 10 mill.
  • B og C har bedre kvalitet enn A og oppnår høyere totalsum.

I figuren nedenfor er kvalitetspoeng holdt konstant og pris er konstant for B og C. Det eneste som varierer er pris for A.

Vi ser at når As pris er lav vinner C, men B kommer bedre ut og vinner konkurransen når As pris økes. Utsnittet av diagrammet nedenfor viser dette tydeligere.

Tilsvarende eksempel kan lages for en lineær poengmodell. Dette gjør det bl.a. vanskeligere å forutsi hva slags uttelling tilbud vil få ved ulike kombinasjoner av kvalitet og pris. Det kan også åpne for strategisk prising.

Det er også et problem med enkelte av poengmodellene at man ikke kan si hvor mye et prispoeng er verdt på forhånd, dvs modellene er ikke transparente. Den forholdsmessige modellen gir f.eks. ulike poengutslag for prisdifferanser avhengig av avstanden til den laveste prisen. Kristian Jåtog Trygstad beskriver dette godt i artikkelen “Forsvinner pengene i poengene?” [5].

Den svenske Upphandlingsutredningen (2013) har en klar konklusjon når det gjelder bruk av relative poengmodeller:

“Så kallade relativa anbudsutvärderingsmodeller är behäftade med stora brister och bör överhuvudtaget inte användas.” [6]

Modeller som prissetter kvalitet

I modeller som prissetter kvalitet holdes prisen fast og man legger til eller trekker fra et prissatt absolutt beløp for kvalitet [7]. Om man beregner påslag eller fradrag spiller ingen rolle. Det anbefales at man benytter absolutte påslag/avdrag, ikke prosentuelle påslag / avdrag som avhenger av pris. Ved bruk av absolutte påslag/avdrag vil kvalitetsendringer gi faste utslag uavhengig av pris, i motsetning til når man bruker prosentuelle påslag/avdrag hvor verdien av et en kvalitetsforbedring være høyere når tilbudsprisen er høyere. [8]

Fordeler med prissetting av kvalitet med absolutte påslag / avdrag at den er forutsigbar og transparent. Endring av pris i et ikke-relevant tilbud påvirker ikke evalueringen av de andre tilbudene. Endring i pris vil gi en lineær endring av evalueringssummen, dvs samme endring i pris gir samme endring i evalueringssum uansett hvilket prisområde det gjelder. I tillegg er verdien av kvalitet er synliggjort og fastsatt.

Den svenske forskningen i regi av Konkurrensverket er klar i sin anbefaling av denne modellen når man skal gjøre en samlet evaluering av pris og kvalitet. I Konkurrensverkets rapport 2009:10 er bl.a. en av konklusjonene:

“En av våra huvudslutsatser är att kvalitetsegenskaper bör uttryckas och värderas i monetära termer, det vill säga i kronor och ören, istället för att priset räknas om till kvalitetspoäng, när pris och kvalitet ska vägas samman.” [9]

Upphandlingsutredningen opprettholder samme konklusjon:

“När utvärderingsgrunden det ekonomiskt mest fördelaktiga anbudet använts bör den upphandlande myndigheten prissätta de kvalitativa tilldelningskriterierna redan i förfrågningsunderlaget.” [10]

Hvorfor benyttes ikke prissetting av kvalitet mer i Norge?

Det er en del motstand mot å ta i bruk denne modellen i Norge. Nedenfor sees det nærmere på noen argumenter som har vært brukt mot modeller som prissetter kvalitet. Det kan også være andre argumenter. Jeg tar gjerne imot innspill som ikke er dekket nedenfor.

“Det er problematisk å prissette alle kvalitetsdelene”

En innvending er at det kan virke arbeidskrevende og problematisk å skulle sette en kroneverdi på kvalitetsdelene. Man kan imidlertid prissette kvalitetspoeng og poengsette de kvalitative kriteriene på samme måte som i de relative poengmodellene, dvs. kvalitetsdelen av evalueringen gjøres på samme måte som for de relative poengmodellene.

Eksempel:

Man har et prisestimat for anskaffelsen på kr 6 mill. Hvis vi sammenligner med bruk av en relativ poengmodell kan man f.eks. ønske å vekte kvalitet 40 % og pris 60 %. Ved bruk av en lineær poengmodell er man da villig til å betale kr 4 mill mer, dvs kr 10 mill, for et tilbud med maksimal skår på kvalitet ift et tilbud med kun minimumskvalitet og lavest pris.

For en modell som prissetter kvalitet kan man i dette tilfellet sette total pris på kvalitet til:

Pris_kvalitet = kr 6 mill * 0,4 / (1-0,4) = kr 4 mill.

Hvis vi har en poengskala fra 0 til 10 blir prisen per poeng:

Pris_per_poeng = kr 4 mill / 10 = kr 0,4 mill.

For prissettingsmodellen regnes evalueringssummen ut med formelen:

 Evalueringssum = Tilbudspris + Påslag_Kvalitet

Påslag i evalueringssummen for kvalitet blir:

Påslag_Kvalitet = (Maks_kvalitetspoeng – Evaluert_kvalitetspoeng) * Pris_per_poeng

Ved bruk av en lineær poengmodell, og en modell med prispåslag / prisfratrekk for kvalitet og samme metode for kvalitetsberegning, vil et tilbud med minimumskvalitet og kr 6 mill i pris komme likt ut med et tilbud med maksimal skår på kvalitet og pris kr 10 mill.

For prissettingsmodellen vil et tilbud med total kvalitetsskår f.eks. på 4 og pris kr 6 mill, få påslag og evalueringssum:

Påslag = (10 – 4) * 0,4mill = 2,4 mill

Evalueringssum = 6,0 mill + 2,4 mill = 8,4 mill

Om man har underkriterier under Kvalitet kan man for begge modellene gi summen av karakterene per underkriterium en totalkarakter for underkriteriet i forhold til maksimal skår for underkriteriet [11].

For prissettingsmodellen vil de absolutte forskjellene i totalkarakterene for et underkriterium, dvs tilbudenes innplassering i poengskalaen for det aktuelle underkriteriet, gi grunnlag for påslag for underkriteriet. Har man vektede underkriterier under Kvalitet blir formelen for påslag:

Vektet_Påslag_underkriterium = Vekt * Påslag_underkriterium

Påslag_underkriterium = (Maks_kvalitetspoeng – Evaluert_kvalitetspoeng) * Pris_per_poeng

Kvalitet kan f.eks. deles opp i Funksjonelle egenskaper, Kompetanse og Vedlikeholdstjeneste som gis påslag. Hvis vi f.eks. vekter Funksjonelle egenskaper 50 %, Kompetanse 20 % og Vedlikeholdstjeneste 30 % blir evalueringssummen:

Evalueringssum =    Tilbudspris

+ 0,5 * Påslag_Funksjonelle

+ 0,2 * Påslag_Kompetanse

+ 0,3 * Pålag_Vedlikehold

Prinsippet med oppdeling i underkriterier og vekting av disse kan brukes på samme som for relative poengmodeller når man har prissatte kvalitetspoeng. Oppdelingen og utregningen er derfor ikke mer problematisk enn for poengmodellene.

Hvis man har en anskaffelse med mange delleveranser må man prissette kvalitet for hver delleveranse. Dette kan være noe mer arbeidskrevende, men fører også til at man blir mer bevisst på verdisettingen av kvalitet i hver delleveranse.

Man vil få samme problem med irrelevante alternativer med disse modellene, bare at det nå gjelder endring i kvalitet i stedet for pris”

Hvis man benytter absolutt evaluering av kvalitet, dvs man måler kvalitet opp mot en beskrevet ideell kvalitet, vil ikke dette argumentet være relevant siden tilbudene ikke måles mot hverandre. Det ene tilbudets skår på kvalitetskriteriet vil i dette tilfellet ikke påvirke skår for andre tilbud.

Hvis man måler kvalitet relativt, dvs tilbudenes kvalitet måles relativt mot hverandre, kan, som nevnt ovenfor, samme prinsipp brukes for utregning av kvalitetsskår i modeller som prissetter kvalitet som for relative poengmodeller. Resultatmessig for kvalitetsdelen vil da disse to modellene oppføre seg identisk, eksempel:

Tre tilbud A, B og C. As pris er kr 5 mill. Bs pris er kr 6 mill, Cs pris er kr 10 mill.

Figurene nedenfor gir en illustrasjon av dette. Her er pris holdt konstant for alle og kvalitet er konstant for B og C. Det eneste som varierer er kvalitet for A. Diagrammet nedenfor viser påslagssummer vs kvalitetspoeng ved bruk av modellen prissetting av kvalitet med påslag for manglende kvalitet.

Diagrammet nedenfor viser tilsvarende resultater for en relativ poengmodell.

Vi ser at kurvene har lik utvikling med de samme skjæringspunktene for de to modellene. Dette skyldes at prinsippet for utregning av kvalitetspoeng er likt i de to modellene.

“Prissetting av kvalitet er en lite brukt modell”

Modellen er lite brukt i Norge. Den er mer utbredt i Sverige. I forskningsrapporten Konkurrensverket 2009:10 om evalueringsmodeller ble 189 anskaffelser gjennomgått og type evalueringsmodell ble kartlagt [12]. Anskaffelsene ble gjennomført i perioden 2002 – 2009. I de fire kategoriene som ble undersøkt, (eldreomsorg, avfallstransport, mat og rengjøringstjenester), lå antall anskaffelser som benyttet prissetting av kvalitet på mellom 10 og 18 prosent. Med de klare anbefalingene fra myndighetene om å bruke modellen prissetting av kvalitet er det sannsynlig at bruken av modellen har vært økende og at en betydelig andel av anskaffelsene i Sverige nå benytter prissetting av kvalitet som modell.

For Norge har vi så vidt jeg kjenner til ikke noen tall for dette. Det er derfor interessant med tilbakemeldinger fra miljøer som har erfaring med modellen prissetting av kvalitet i Norge.

Stort avvik i prisnivå vil medføre stor endring i forholdet mellom tilbudspris og påslag / fradrag for kvalitet”

For modeller som prissetter kvalitet ligger pris for kvalitet fast og vil telle mindre hvis prisnivået er høyt og motsatt. Dette er imidlertid forutberegnelig. Leverandørene vet hvor mye kvaliteten er prissatt til og at hvis de inngir et tilbud med høy pris så vil prisen veie tyngre i evalueringen, og motsatt.

“Regelverket krever relativ vekting av tildelingskriteriene”

Kvalitet og pris vil ikke beholde sin relative vekt ift kvalitet i en modell hvor kvalitet prissettes og legges til / trekkes fra tilbudsprisen. Et høyt prisnivå vil medføre at pris utgjør en større relativ del av evalueringssummen og motsatt.

Det er ikke logisk å ha relativ vekting av kvalitet mot pris når man bruker modellen prissetting av kvalitet. Vektingen mellom kvalitet og pris vil uansett variere med tilbudenes pris. En relativ vekting vil bare være å legge til et nivå med justering av prispåslag / -avdrag på kvaliteten, dette er unødvendig, kompliserende og gjør modellen mindre gjennomsiktig. Påslag / avdrag for kvalitet bør altså gjøres absolutt og uavhengig av pris.

I anskaffelsesforskriften er det nevnt at man skal ha en relativ vekting av tildelingskriteriene, evt en prioritert rangering (forskriften del III, § 18-1 (6)). Sverige har tilsvarende regler og her har dette har vært vurdert i:

  • Konkurrensverkets rapport 2009:10 om evalueringsmodeller med følgende konklusjon:

“Detta leder fram till att lagens krav att en viktning skall ske är meningslös. Det som spelar roll är den faktiska skillnaden i värdering mellan det bästa möjliga och det sämsta möjliga anbudet.” [13]

  • Dom fra Kammarrätten i Stockholm i 2009. [14] Modellen som ble brukt var prissetting av kvalitet med absolutte påslag for redusert kvalitet. Kammarrätten konstaterer i dommen at evalueringsmodellen var forutsigbar og garanterte at samtlige tilbydere ble behandlet likt. At innbyrdes forhold mellom pris og kvalitet varierte endret ikke på vurderingen.
  • KOFA sak 2010/192 [15].

Alle disse konkluderer med at modellen kan brukes på tross av regelverkets krav om relativ vekting.

På spørsmål om rettspraksis når det gjelder forskriftens krav om relativ vekting når det gjelder prissetting av kvalitet med absolutte påslag / avdrag i Sverige svarer Upphandlingsmyndigheten, Frågor och svar (i 2018):

“Absoluta utvärderingsmodeller är vanligt förekommande och därför finns en omfattande mängd praxis som rör den typen av utvärderingsmodeller. Dock rör frågan i regel huruvida metoden är likabehandlande eller inte i det enskilda fallet, samt om metoden är beskriven i upphandlingsdokumenten på ett sätt som är förenligt med principen om öppenhet.”

Det virker som det nå er omfattende praksis med absolutte evalueringsmodeller (modeller som prissetter kvalitet) i Sverige, men at sakene går på likebehandling og beskrivelse, ikke på spørsmålet om relativ vekting av pris og kvalitet må gjøres. Det er sannsynligvis på grunn av at dette er vurdert og konkludert i nevnte dom i Kammarrätten og derfor ikke er utfordret senere.

Modeller som prissetter kvalitet bør benyttes mer

I Sverige er det lagt ned betydelig mer arbeid med disse problemstillingene enn i Norge. Konklusjonene i de nevnte svenske forskningsrapportene og Upphandlingsutredningen er sammenfallende, både når det gjelder å fraråde å bruke relative poengmodeller, og i å anbefale av modeller som prissetter kvalitet. Den rettsbehandling / klagesaksbehandling som eksisterer i Sverige og Norge har ikke hatt prinsipielle innvendinger mot modeller som prissetter kvalitet i de sakene der dette er behandlet.

Prissetting av kvalitet med absolutte påslag eller fradrag er en forutsigbar, gjennomsiktig og rasjonell beslutningsmodell som kan benyttes uavhengig av prisfordeling.

Ut den informasjonen som er tilgjengelig fremstår prissetting av kvalitet som et bedre alternativ enn modeller som poengsetter pris. Det ser ikke ut til å være noen hindringer for å benytte prissetting av kvalitet mer også i Norge. Jeg tar gjerne imot synspunkter på disse spørsmålene.

Tekstreferanser

[1] Se anskaffelser.no Relative poengmodeller

[2] Formler:

  • Prispoeng_forholdsmessig = Maks_poeng * (Laveste_pris/Evaluert_pris)
  • Prispoeng_lineær = Maks_poeng – Maks_poeng * (Evaluert_pris – Laveste_pris) / Laveste_pris

[3] Konkurrensverket 2004:1: «Metoder vid utvärdering av pris och kvalitet i offentlig upphandling», sammendrag side 60-62.

[4] Konkurrensverket 2009:12: «En logisk fälla – relativ poängsettning av pris vid anbudsutvärdering i offentlig upphandling». Dette er en utdyping av temaet i forhold til Konkurrensverket 2004:1.

[5] Anbud365, Kristian Jåtog Trygstad, Forsvinner pengene i poengene?

[6] Statens offentlige utredningar, SOU 2013:12: «Goda affärer, En strategi for hållbar offentlig upphandling», pkt 3.4.3, side 141.

[7] Formler:

  • Evalueringspris = Tilbudspris – Kvalitetsavdrag
  • Evalueringspris = Tilbudspris + Kvalitetspåslag

[8] Konkurrensverket 2009:10: “Att utvärdere anbud, Utvärderingsmodeller i teori och praktik”, pkt 4.8.

[9] Konkurrensverket 2009:10 side 8, 3. avsnitt.

[10] Statens offentlige utredningar, SOU 2013:12, pkt 3.4.3, side 141.

[11] Formel: Skår = Maks_karakter * Evaluert_skår / Maksimal_skår

[12] Konkurrensverket 2009:10, pkt 5.1 og pkt 5.2.

[13] Konkurrensverket 2009:10, pkt 4.10, side 61-62.

[14] Kammarrätten i Stockholm, Mål nr 3014-09, bl.a. Bilaga B, nr 35-42. Dommen er ikke lenger tilgjengelig på nett, men kan fås ved henvendelse til undertegnede.

[15] Klagenemnda for offentlige anskaffelser (KOFA), sak 2010/192, (53) – (55).

Bli den første til å kommentere på "En bedre evalueringsmodell?"

Legg inn kommentar

Epostadressen din vil ikke vises.


*


Dette nettstedet bruker Akismet for å redusere spam. Lær om hvordan dine kommentar-data prosesseres.