Det skulle være så smart: Landets jobcentre har med en ny lov fået mulighed for at samkøre flere data på ledige borgere om blandt andet alder, herkomst, sundhed, tidligere beskæftigelse og uddannelse.

Sammen med et spørgeskema til borgeren skal det ved hjælp af kunstig intelligens i et snuptag spotte de nyledige borgere, der er i fare for at blive langtidsledige.

Men flere eksperter har på Twitter påpeget, at den del af loven er meget problematisk i forhold til privatlivets fred, forbuddet mod profilering og GDPR-forordningen.

Lov om Aktiv Beskæftigelsesindsats blev ellers stemt igennem Folketinget uden yderligere debat 30. april i år.

Nu vil Datatilsynets genvurdere loven, fordi det ikke mener, at Styrelsen for Arbejdsmarked og Rekruttering (STAR) udpegede den del af lovforslaget, da Datatilsynet fik den 1000 sider lange lovtekst fremsendt under høringsperioden:

- Det er rigtig ærgerligt for alle parter, at Datatilsynet ikke i første omgang blev gjort opmærksom på alle de relevante dele af lovforslaget - det er jo både i borgernes og de involverede myndigheders interesse, at vi får fanget det i tide, hvis der er noget i et lovforslag, der kan være i strid med de databeskyttelsesretlige regler. Derfor ser vi nu på lovforslaget og loven igen, siger Datatilsynets direktør Cristina Angela Gulisano i en pressemeddelelse.

Kritik: Mennesker erstattes af computer

At Datatilsynet på den måde tager netop vedtaget lovgivning op igen, er aldrig sket før, siger Hanne Marie Motzfeldt, lektor i digital forvaltning ved Københavns Universitet. Hun er godt gammeldags vred over processen:

- Det er helt vildt, som de har kørt med mørkelygten. Jeg kan ikke komme på noget eksempel, jeg har aldrig set det her før. Det er svært at finde ord, siger hun.

Hun mener, at detaljerne i, hvordan et såkaldt profileringsværktøj skulle udformes er gemt væk på side 212 i lovforslaget, og kritiserer, at hverken Datatilsyn eller de folkevalgte politikere har haft “en kinamands chance” for at være opmærksom på spørgsmålet. Nu er det udelukkende op til embedsværket at vurdere, hvilke parametre arbejdsløse skal vurderes på.

- Det er kunstig intelligens, der vurderer din personlighed, bare fordi du bliver arbejdsløs. Er du doven? Er du konfliktsøgende? Man tager den her normalt menneskelig vurdering og overlader det til et computerprogram, siger hun.

Advokat: Ny lov er stærkt problematisk

Advokat Catrine Søndergaard Byrne med speciale i persondata og ansættelsesret kritiserer også, at en så omfattende lov er blevet vedtaget uden yderligere diskussion.

- Det er så indgribende et værktøj at tage i brug, at vi begynder at lave individuelle forudsigelser på baggrund af data og mønstre, og at man pludselig lovgiver om det på den her måde, er stærkt problematisk, siger hun og påpeger, at en borger har ret til at få kunne få forklaring på, hvorfor der bliver truffet en given afgørelse.

- Vil en sagsbehandler her være i stand til at gennemskue og redegøre for, hvorfor en borger bliver vurderet til at være i høj risiko for at blive langtidsledig? spørger hun.

- Det er ikke fordi, at det nødvendigvis er ulovligt, men hvis vi går ned ad den vej, skal vi være meget forsigtige med det og ikke vedtage det uden tilbundsgående undersøgelse eller dybdegående diskussion.

I lovteksten bliver der netop gjort rede for, at et profileringsværktøj kan være i strid med forbuddet mod profilering på baggrund af automatiserede data i Databeskyttelsesforordningen – men fordi en sagsbehandler i sidste ende møder den ledige og rådgiver borgeren, så falder det efter STAR’s mening under lovens rammer.

Rapport: Knap halvdel af jobcentre dømmer algoritme ude

STAR arbejder allerede med et såkaldt “profilafklaringsværktøj”, og i en evalueringsrapport om forsøget med at bruge værktøjet i 16 jobcentre svarer lidt under halvdelen af jobcentrene, at de slet ikke eller i mindre grad synes værktøjet er behjælpeligt med at spotte nyledige i risiko for at blive langtidsledige. Samme antal synes ikke, at værktøjet danner et godt grundlag for samtale med borgeren.

På den baggrund kritiserer Hanne Marie Motzfeldt STAR’s planer om yderligere at udrulle værktøjet:

- Hvis det i er lige under 50 procent af tilfældene kommer med en forkert vurdering, så må vi spørge, om det hjælper til en rigtig eller forkert behandling af borgeren. Hvis vi har digitale løsninger, der kommer med fejlagtige vurderinger, så er det fuldstændig klart for mig, at vi øger risikoen for at rådgive forkert.

Over for mediet Version2 stiller professor Thomas Hildebrandt ved Datalogisk Institut i København også spørgsmåltegn ved, om de mange forskellige data fra forskellige registre kan samkøres på en måde, hvor det giver mening og i sidste ende vil give et fyldestgørende billede:

– Det nytter ikke at træne en algoritme til at komme med forudsigelser eller beslutninger baseret på data, som blev indsamlet i en anden sammenhæng – hvor lovgivningen gav helt andre muligheder, siger han blandt andet.

STAR: Vi bidrager gerne til ny gennemgang

Styrelsen for Arbejdsmarked og Rekruttering (STAR) skriver til Fagbladet 3F, at styrelsen efter henvendelse fra Datatilsynet udpegede en række områder i loven, hvor reglerne ville blive ændret med lovforslaget.

Nu vil styrelsen gerne bidrage til, at Datatilsynet kan se loven igennem på ny. 

Opdateret kl. 20:30 med kommentar fra STAR.