Skip to main content ITU
Logo
  • Uddannelser
    • Bachelor
    • BSc i Global Business Informatics
    • BSc i Digital Design og Interaktive Teknologier
    • BSc i Softwareudvikling
    • BSc i Data Science
    • Sådan søger du ind
    • Åbent hus for bacheloruddannelser
    • Gæstestuderende på bachelorniveau
    • ITU Summer University på bachelorniveau
    • Kandidat
    • MSc i Digital Innovation & Management
    • MSc i Digital Design og Interaktive Teknologier
    • MSc i Softwaredesign
    • MSc i Data Science
    • MSc i Datalogi
    • MSc i Spil
    • Sådan søger du ind
    • Åbent hus for kandidatuddannelser
    • Gæstestuderende på kandidatniveau
    • ITU Summer University på kandidatniveau
    • Studieliv
    • Hvordan er det at være studerende på ITU?
    • Kvinder i tech
    • Labs for studerende
    • Studenterorganisationer
    • Studiestart
    • Studie- og karrierevejledning
    • #lifeatITU
    • Mød ITU
    • Spørg en studerende
    • Studerende for en dag
    • Studiepraktik i uge 43
    • Coding Café for kvindelige gymnasieelever
    • IT-Camp for kvindelige gymnasieelever
    • Åbent hus
    • For gymnasielærere
    • Gymnasiebesøg
    • Digital Dannelse
    • Coding Classes
  • Efteruddannelser
    • Efteruddannelser
    • Se alle efteruddannelser
    • Master i it
    • Master i it-ledelse
    • Studiestart
    • Nyhedsbrev
    • Talks om it-ledelse: ITU ESPRESSO
    • Besøg og arrangementer
    • Kontakt
    • Enkeltfagskurser
    • Om enkeltfag
    • Enkeltfagskurser på masterniveau
    • Se alle enkeltfagskurser
    • Nyhedsbrev
    • Kontakt
    • Korte kurser

    • Om ITU Professional Courses
    • Kurser
    • Skræddersyede kurser for virksomheder
    • Kontakt
    • Nyhedsbrev
    • Online kurser
    • Kurser i cybersikkerhed
  • Forskning
    • Institutter
    • Institut for Business IT
    • Institut for Datalogi
    • Institut for Digital Design
    • Forskningsgrupper og labs
    • Forskningsgrupper
    • Labs
    • Forskningscentre
    • Center for Digital Play
    • Center for Climate IT
    • Center for Computing Education Research
    • Center for Digital Velfærd
    • European Blockchain Centre
    • Centre for Information Security and Trust
    • Danish Institute for IT Program Management
    • ITU Research Portal
    • Find forsker
    • Find forskning
    • Forskningsetik og -integritet
    • God forskningspraksis
    • Tekniske rapporter
    • Tekniske rapporter
    • Ph.d.-skole
    • Om ph.d.-uddannelsen
    • Ph.d.-kurser
    • Ph.d.-forsvar
  • Erhvervssamarbejde
    • Samarbejde med Studerende
    • Projektsamarbejde
    • Projektmarked
    • Studiejob
    • Projektopslag
    • Job- og projektbank
    • Employer Branding
    • IT Match Making
    • Sådan ansætter du en ITU'er
    • Lav opslag i Jobbanken
    • Samarbejde om forskning
    • Licenser teknologi
    • Samarbejde om forskning
    • ErhvervsPhD
    • Ansæt en ErhvervsPhD
    • Innovation og iværksætteri
    • ITU Business Development
    • ITU Startup programme
  • Om ITU
    • Om ITU
    • Presse
    • Stillinger
    • Kontakt
  • ENG
Forskningsresultat: Kunstig intelligens på jobcentrene ligner ikke en god erstatning for menneskelige vurderinger
ITU  /  Presse  /  Nyheder fra ITU  /  Forskningsresultat: Kunstig intelligens på jobcentrene ligner ikke en god erstatning for menneskelige vurderinger

Forskningsresultat: Kunstig intelligens på jobcentrene ligner ikke en god erstatning for menneskelige vurderinger

Det kan blive problematisk at bruge AI-teknologier til at forudsige langtidsledighed blandt kontanthjælpsmodtagere. Det er resultatet af forskningsartiklen Det vil vi aldrig skrive ned, som er blevet offentliggjort i artikelsamlingen PACM HCI i forbindelse med den internationalt førende konference for computer-støttet samarbejde (CSCW 2021).

ForskningInstitut for Business ITkunstig intelligensoffentlig it

Skrevet 22. april 2021 08:40 af Jari Kickbusch

Kunstig intelligens – eller AI, som det også bliver kaldt ¬– bliver brugt til at forudsige vores næste køb, den næste film, vi ser, og en masse andre valg, som vi træffer i vores hverdag. Kort fortalt bliver AI-teknologiernes forudsigelser skabt ved at analysere enorme datasæt og i en tid, hvor vi lagrer elektronisk data som aldrig før, giver det mulighed for at skabe en indsigt, som for bare få årtier siden var uden for vores rækkevidde. Fx bliver AI-teknologier brugt til at forudsige, hvordan Covid-19 spreder sig og til at identificere, hvilke mennesker, som er særligt sårbare.

Selv om kunstig intelligens er blandt tidens mest hypede begreber, er det naturligvis ikke svaret på alle verdens udfordringer. Det bekræftes i forskningsartiklen “We Would Never Write That Down”: Classifications of Unemployed and Data Challenges for AI, som bygger på en undersøgelse foretaget på et dansk jobcenter, hvor sagsbehandlerne bl.a. skal kategorisere kontanthjælpsmodtagerne og vurdere deres arbejdsevne.

- På jobcentrene placerer sagsbehandlerne kontanthjælpsmodtagerne i nogle kategorier –eller målgrupper, som de også bliver kaldt. Og det har stor betydning for borgerne, hvor de bliver placeret, fordi det bl.a. har indflydelse på, hvilken hjælp de modtager, hvilke rettigheder de har osv. Flere steder har der været et stærkt ønske om at bruge historiske data fra en masse kontanthjælpsmodtagere til fx at forudsige sandsynligheden for langtidsledighed for de her mennesker, og det er så det, vi har undersøgt nærmere, fortæller ph.d.-studerende på IT-Universitetet, Anette C. M. Petersen, som har skrevet artiklen sammen med Lars Rune Christensen (IT-Universitetet) Richard Harper (Lancaster University) og Thomas Hildebrandt (Københavns Universitet).

Binær menneskeanskuelse
Anette C. M. Petersen lavede feltarbejdet, som undersøgelsen bygger på, i Gladsaxe. Med henblik på at undersøge, hvorvidt kunstig intelligens kunne bruges til at træffe bedre og mere effektive beslutninger, studerede hun sagsbehandlernes arbejde med kontanthjælpsmodtagerne, som officielt bliver inddelt i to kategorier; 2.2, som består af de jobparate, og 2.3, som består af de aktivitetsparate – og som altså ikke umiddelbart er i stand til at arbejde. (Efterfølgende er disse kategorier blevet omdøbt til henholdsvis 6.2 og 6.3). Virkeligheden er dog mere kompleks end de to kategorier antyder, fortæller Anette C. M. Petersen:

- En sagsbehandler fortæller mig, at man nærmest skal være død for at blive placeret i målgruppe 2.3. Det er utrolig svært for dem at finde beviser på, at borgerne har udfordringer, som berettiger til den placering og samtidig er der et politisk ønske om at flytte flere borgere over i gruppen med de jobparate for at få dem i job hurtigere ... Vi opdager, at langt de fleste borgere slet ikke hører hjemme i nogle af de her to kategorier. De befinder sig en gråzone, hvor de ikke er raske og i stand til at varetage et job, men de kan heller ikke bevise, at de syge nok til ikke at være jobparate. Det håndterer sagsbehandlerne ved at skabe deres egne termer, fx at en borger kan være en let, tung eller hård 2.2'er.

Mennesket bag en 2.2'er
Ifølge Anette C. M. Petersen hjælper sagsbehandlernes egne termer dem til at give borgerne den rette behandling og støtte (som ikke nødvendigvis kun handler om at skaffe et job), og forskningsartiklens konklusion er, at dette arbejde ikke uden videre erstattes af kunstig intelligens.

- Hovedpointen er, at hvis vi taler kunstig intelligens i jobcentrene, så er der en masse vigtig information om, hvad det vil sige at være en borger, som ikke er tilgængelig i den data, som AI-systemerne bruger til forudsige fx langtidsledighed ... Vores resultater har medført nogle spørgsmål om, hvorvidt man ikke bare kan finde andre sammenhænge i data, der identificerer som lette eller tunge 2.2'ere, og det er selvfølgelig rigtigt nok, men sagsbehandlerne sidder stadig til møder med borgerne og kan lugte, hvis der én, som lugter af alkohol eller hvis vedkommende bliver ked af det, når der bliver spurgt ind til helbredet. Så der er en masse fysiske "clues", som man endnu ikke kan tage teknologisk højde for, siger Anette C. M. Petersen, som ikke ser tegn i sol og måne på, at man ved hjælp af kunstig intelligens kan skabe it-systemer, som kan tage bedre beslutninger end sagsbehandlerne:

- De termer, som sagsbehandlerne bruger – er ifølge dem selv – ikke velegnede i et bureaukratisk system, og det er uanset, om vi taler kunstig intelligens eller andre systemer. Der er bare en masse ting, som sagsbehandlere ikke skriver ned, fordi det er mennesker, de har med at gøre, og mennesker er komplekse og foranderlige. Og ligeså snart du bruger historisk data til at forudsige fremtiden, så opstår der jo også en risiko for, at du kommer til at forstærke forholdene for de her mennesker og gøre dem permanente. Det er sagsbehandlerne meget opmærksomme på.

Hvordan bruger vi kunstig intelligens?
Hvor konklusionen i artiklen er kritisk i forhold til at bruge kunstig intelligens til at forudsige kontanthjælpsmodtagernes risiko for langtidsledighed, er der en optimisme i forhold til at bruge AI-teknologier til at hjælpe sagsbehandlerne med at opsamle den information, som de skal bruge i deres sager, på en måde, hvor vurderinger og vigtige beslutninger stadig ligger hos sagsbehandleren. Derfor håber Anette C. M. Petersen også, at artiklen i PACM HCI vil skabe debat om, hvad kunstig intelligens kan bruges til og ikke bruges til.

- Selv om det vi skriver om her foregår i en dansk kontekst, så har det jo stor relevans internationalt - og på et bredere niveau også. Det er med til at sætte fokus på nogle generelle udfordringer, som vi støder på, når vi arbejder med kunstig intelligens. Fx når det bliver brugt til forudsigelse af forbrydelser. Det, vi håber på med den her artikel, er jo også at få noget interesse fra dem, der udvikler systemerne, så vi kan debattere og arbejde sammen, og der er PACM HCI jo et godt sted at blive publiceret.

Ecoknow
Forskningsartiklen er blevet skrevet i forbindelse med det omfattende forskningsprojekt, Ecoknow, som har til formål at undersøge, hvordan digitale sagsbehandlingssystemer kan gøres mere intelligente, fleksible og gennemskuelige. Lederen af projektet, professor på Københavns Universitet, Thomas Hildebrandt (som også er medforfatter af artiklen) er særdeles tilfreds med, at det er lykkedes at få artiklen offentliggjort i en prominent udgivelse som PACM HCI. Faktisk er han dobbelt tilfreds, for artiklen får nemlig selskab af en anden Ecoknow-artikel: Street-Level Algorithms and AI in Bureaucratic Decision-Making: A Caseworker Perspective, der zoomer ind på sagsbehandlernes syn på anvendelse af AI til at støtte deres arbejde.

- Det er virkelig godt at vores arbejde i Ecoknow kommer ud, hvor den bliver set – og at der er så tydelig en interesse for forskning i AI, der ikke starter med en teknologisk løsning på et muligt problem, men starter med at observere sagsbehandlernes arbejde og tale med dem om deres syn på teknologien, så vi sammen kan identificere hvilke problemer, man bør og kan løses ved hjælp af AI,” siger Thomas Hildebrandt.


Læs mere om forskningsprojektet Ecoknow, som er finansieret af Innovationsfonden, på projektets hjemmeside

Læs forskningsartiklen på ACM's hjemmeside


Mere information

Jari Kickbusch, Forskningskommunikatør, telefon 7218 5304, email jark@itu.dk

Nyheder

Nyt ansigt på ITU skal være med til at bygge ”dansk ambassade for kunstig intelligens”

Nyt ansigt på ITU skal være med til at bygge ”dansk ambassade for kunstig intelligens”

3. februar 2023

Lektor i datalogi Toine Bogers startede 1. januar på IT-Universitetet i København. Ved siden af sit arbejde som lektor fungerer han også som Chief Scientific Officer i Pioneer Centre for AI – et samarbejde mellem fem danske universiteter – der skal skabe og understøtte grundforskning i kunstig intelligens.

ITU-forskere dokumenterer tårnhøjt behov for mental sundhedspleje blandt flygtninge

ITU-forskere dokumenterer tårnhøjt behov for mental sundhedspleje blandt flygtninge

2. februar 2023

Et forskerhold fra IT-Universitetet i København har udviklet en applikation, som kan bruges til at dokumentere behovet for sundhedspleje blandt flygtninge. Applikationen er nu blevet testet i flygtningelejren, Zaatari, som huser 80.000 syrere i den golde jordanske ørken.

Forskere og eksperter viser vejen til en inkluderende digitalisering

Forskere og eksperter viser vejen til en inkluderende digitalisering

27. januar 2023

35 forskere, eksperter og repræsentanter for organisationer har underskrevet en vision, som skal understøtte en mere inkluderende digitalisering af den offentlige sektor. Visionen er et resultatet af konferencen, Welfare after Digitalization, som IT-Universitetets Center for Digital Velfærd var vært for.

Radu-Cristian Curticapean sikrer midler fra Villum Fonden til forskning i beregningsmæssige problemer

Radu-Cristian Curticapean sikrer midler fra Villum Fonden til forskning i beregningsmæssige problemer

24. januar 2023

I år får 22 forskertalenter inden for teknisk og naturvidenskabelig forskning tilsammen 126 mio. kr. fra Villum Fondens Young Investigator-program. En af dem, der i år er sluppet gennem nåleøjet, er lektor i datalogi på IT-Universitetet, Radu-Cristian Curticapean, som har sikret 3 millioner kroner til forskning inden for teoretisk datalogi.

Angående sag om identiske eksamenssæt

Angående sag om identiske eksamenssæt

13. januar 2023

Studerende, der i forbindelse med kurset Security 1 aflagde eksamen d. 22. december sidste år, blev præsenteret for et eksamenssæt identisk med det foregående års eksamenssæt. Universitetets ledelse undersøger pt. sagens omfang.

Studie: Mere transparens vil kunne formodentlig styrke smitteopsporingen

Studie: Mere transparens vil kunne formodentlig styrke smitteopsporingen

21. december 2022

Forskere fra IT-Universitetet har undersøgt brugen af smitteopsporings-applikationer i fire lande, og de kan konkludere, at mange har fravalgt at deltage i den digitale opsporing pga. bekymring over beskyttelsen af deres private data. Studiet, som er blevet offentliggjort i det anerkendte datalogiske medie, ACM, kan vise sig værdifuldt i bekæmpelsen af fremtidige pandemier.

ITU-forsker modtager bevilling til udvikling af kvante-inspirerede algoritmer

ITU-forsker modtager bevilling til udvikling af kvante-inspirerede algoritmer

19. december 2022

Lektor på IT-Universitetet i København, Michael Kastoryano, er blevet tildelt fem millioner kroner fra Carlsbergfonden til udvikling af kvante-inspirerede algoritmer.

ITU-datalog modtager bevilling til at optimere maskinlæringsmodeller på små enheder

ITU-datalog modtager bevilling til at optimere maskinlæringsmodeller på små enheder

16. december 2022

Lektor i datalogi på IT-Universitetet i København, Pınar Tözün, har modtaget 2,7 millioner kroner fra Novo Nordisk Fonden til at udvikle nye mekanismer, der kan optimere databehandling på små hardware-enheder.

ITU-forsker sikrer midler fra Det Europæiske Forskningsråd til at udvikle kreativ AI

ITU-forsker sikrer midler fra Det Europæiske Forskningsråd til at udvikle kreativ AI

14. december 2022

Professor Sebastian Risi fra IT-Universitetet i Københavns Institut for Digital Design har modtaget en bevilling på 14,8 millioner kroner til at udvikle kunstig intelligens, som er i stand til at tilpasse sig uforudsete omstændigheder. Målet er at forløse mere af automatiseringens enorme potentiale.

Spinout-virksomheden LAIKA hjælper forfattere over skriveblokaden

Spinout-virksomheden LAIKA hjælper forfattere over skriveblokaden

9. december 2022

Lektor på IT-Universitetet, Martin Pichlmair, står bag udviklingen af LAIKA – et redskab baseret på kunstig intelligens, der agerer skrivemakker for forfattere, der kæmper med at finde inspirationen. Projektet er i samarbejde med ITU Business Unit netop lanceret som spinoutvirksomhed.

Forskningsprojekt om internetvalg i Grønland skal give bedre beslutningsgrundlag

Forskningsprojekt om internetvalg i Grønland skal give bedre beslutningsgrundlag

7. december 2022

Et forskningsprojekt, som har til formål at undersøge, hvorvidt man kan skabe et tillidsvækkende internetvalg i Grønland, er nu blevet delt i to, således at IT-Universitetets forskere kan arbejde uafhængigt af kommercielle interesser.

Kan sikkerhedsproblemerne i Whatsapp løses?

Kan sikkerhedsproblemerne i Whatsapp løses?

29. november 2022

Verdens mest brugte beskedapplikation, Whatsapp, er blevet kritiseret for at have store sikkerhedsproblemer. Nu vil forskere fra IT-Universitetet udvikle en metode, som kan hjælpe tech-virksomhederne og deres udviklere med at sikre, at behandlingen af brugernes data sker som tilsigtet.

Engang var vi verdensmestre i demokratisk iværksætteri – hvordan bliver vi det igen?

Engang var vi verdensmestre i demokratisk iværksætteri – hvordan bliver vi det igen?

29. november 2022

Demokratisk iværksætteri kan være med til at tackle nogle af samfundets største udfordringer og hjælpe et arbejdsmarked i forandring. Selvom vi har tradition for medarbejderejede virksomheder i Danmark, er vi langt bagefter udviklingen i dag. Det vil ITU-forskningsgruppen Reflection and Action (Reflact) gøre noget ved.

Routledge udgiver længe ventet håndbog i kollektiv intelligens

Routledge udgiver længe ventet håndbog i kollektiv intelligens

23. november 2022

Håndbogen, som bl.a. er redigeret af adjunkt på IT-Universitetet, Carina Antonia Hallin, er et vigtigt fundament for forskere, der arbejder med kollektiv intelligens inden for en bred vifte af discipliner. Bogen er nu mulig at forudbestille.

ITU-forsker sikrer prestigiøs EU-bevilling til forskning i teoretisk datalogi

ITU-forsker sikrer prestigiøs EU-bevilling til forskning i teoretisk datalogi

22. november 2022

Lektor Radu-Cristian Curticapean fra IT-Universitetet i København har modtaget en bevilling på ca. 11 millioner kroner fra Det Europæiske Forskningsråd til at forske i teoretisk datalogi.

ITU-forskning i valgsikkerhed og grafmodifikation bevilget midler fra DFF

ITU-forskning i valgsikkerhed og grafmodifikation bevilget midler fra DFF

16. november 2022

To forskere fra Institut for Datalogi på IT-Universitetet i København, lektor Oksana Kulyk og adjunkt Paloma Thomé De Lima, har hver især modtaget 2,8 millioner kroner fra Danmarks Frie Forskningsfond til deres respektive projekter.

Nyt forskningscenter stiller skarpt på IT-aspekterne af den grønne omstilling

Nyt forskningscenter stiller skarpt på IT-aspekterne af den grønne omstilling

11. november 2022

IT-Universitetet lancerer nyt Center for Climate IT, der stiller skarpt på det komplekse forhold mellem digitalisering og klimaforandringer. Centeret åbnes formelt ved en reception på ITU d. 7. december.

AI-spilmotor-udvikleren modl.ai sikrer investering på 63 millioner kroner

AI-spilmotor-udvikleren modl.ai sikrer investering på 63 millioner kroner

9. november 2022

Firmaet, der bl.a. er stiftet af professor ved IT-Universitetet, Sebastian Risi, tackler komplekse spiludviklingsproblemer ved hjælp af kunstig intelligens og en hær automatiserede spillere.

Forskningsprojekt giver vigtig viden om digital udsathed

Forskningsprojekt giver vigtig viden om digital udsathed

7. november 2022

I forskningsprojektet CAPE indsamles og analyseres erfaringer fra nogle af landets frivillige it-hjælpere, som hjælper digitalt udsatte borgere. Forskningsresultaterne kan blive værdifulde, når de nuværende offentlige it-systemer skal forbedres – og ikke mindst når fremtidens pendant til MitID skal designes.

Med filosofien som vejviser i en digital tid

Med filosofien som vejviser i en digital tid

3. november 2022

Filosofi kan være en indgang til at nytænke udviklingen af de teknologier, som får stadig større indflydelse på vores liv, samfund og verden. I IT-Universitetets AIRLab bruger lektor, Jonas Fritsch, den franske psykoanalytiker og filosof, Felix Guattaris essay, De tre økologier, til at perspektivere sin forskning for at skabe teknologisk grundlag for en holistisk og grøn udvikling.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53

Denne side er udskrevet fra https://en.itu.dk/