Skip to main content ITU
ITU
  • Eng
  • Stillinger
  • Presse
  • ITU Alumni
  • Nyheder
  • Events
  • Kontakt
  • Om ITU
  • English
  • Om ITU
x
  • Uddannelser
    • Bachelor
      • BSc i Global Business Informatics
      • BSc i Digital Design og Interaktive Teknologier
      • BSc i Softwareudvikling
      • BSc i Data Science
      • Sådan søger du ind
      • Gæstestuderende på bachelorniveau
      • ITU Summer University på bachelorniveau
      Kandidat
      • MSc i Data Science
      • MSc i Digital Innovation & Management
      • MSc i Digital Design og Interaktive Teknologier
      • MSc i Datalogi
      • MSc i Softwaredesign
      • MSc i Spil
      • Sådan søger du ind
      • Gæstestuderende på kandidatniveau
      • ITU Summer University på kandidatniveau
      Studieliv
      • Hvordan er det at være studerende på ITU?
      • Kvinder i tech
      • Labs for studerende
      • Spørg en studerende
      • Studenterorganisationer
      • Studiestart
      • Studie- og karrierevejledning
      • #lifeatITU
      Besøg ITU
      • Studerende for en dag
      • Coding Café for kvindelige gymnasieelever
      • IT-Camp for kvindelige gymnasieelever
      • Gymnasiebesøg
      • Studiepraktik i uge 43
      • Åbent Hus
      • Få besøg af ITU
        • Digital Dannelse
        • Coding Classes
  • Efteruddannelser
    • Master i it
      • Master i it-ledelse
      • Studiestart
      • Nyhedsbrev
      • Talks om it-ledelse: ITU ESPRESSO
      • Besøg IT-Universitetet
      • Kontakt
      Enkeltfagskurser
      • Se alle kurser
      • Kontakt
      ITU Professional Courses
      • Om ITU Professional Courses
      • Alle kurser
      • Skræddersyede kurser
      • Kontakt
  • Forskning
    • Institutter
      • Institut for Business IT
      • Institut for Datalogi
      • Institut for Digital Design
      • Forskningsgrupper og labs
        • Forskningsgrupper
        • Labs
      Forskningscentre
      • Center for Computer Games Research
      • Center for Computing Education Research
      • Center for Digital Velfærd
      • European Blockchain Centre
      • Forskningscenter for offentlig it
      • Centre for Information Security and Trust
      • Forskningsetik og -integritet
        • God forskningspraksis
      Udvalgte forskningstemaer
      • Big data
      • Blockchain
      • Computerspil
      • It-sikkerhed
      • Kunstig intelligens
      • Digitalisering
      • Find en forsker
        • Faculty Search
      Ph.d.-skole
      • Ledige ph.d.-stillinger
      • Om ph.d.-uddannelsen
      • Ph.d.-kurser
      • Ph.d.-forsvar
      • Tekniske rapporter
        • Tekniske rapporter
  • Erhvervssamarbejde
    • Samarbejde med Studerende
      • Projektsamarbejde
      • Projektmarked
      • Studiejob
      • Projektopslag
      • Job- og projektbank
      • Kandidatportrætter
      Employer Branding
      • IT Match Making
      • Sådan ansætter du en ITU'er
      • Lav opslag i Jobbanken
      Samarbejde om forskning
      • Licenser teknologi
      • Samarbejde om forskning
      • ErhvervsPhD
        • Ansæt en ErhvervsPhD
      Innovation og iværksætteri
      • ITU Business Development
      • ITU Startup programme
      • Startup historier
      • CSSME
  • Uddannelser
    • Forside: Uddannelser
    • Bacheloruddannelser
    • Kandidatuddannelser
    • Besøg ITU
    • Studieliv
  • Efteruddannelser
    • Forside: Efteruddannelser
    • Master i it-ledelse (opstart 2021)
    • Master i it-ledelse (sidste optag 2020)
    • Studiestart
    • Nyhedsbrev
    • Talks om it-ledelse: ITU ESPRESSO
    • Besøg ITU
    • Kontakt
    • Master i it
    • Enkeltfagskurser
    • ITU Professional Courses
  • Forskning
    • Forside: Forskning
    • Institutter
    • Forskningsgrupper og centre
    • Labs
    • Forskningsetik og -integritet
    • Tekniske rapporter
    • Ph.d.-skolen
  • Erhvervssamarbejde
    • Forside: Erhvervssamarbejde
    • Samarbejde med studerende
    • Employer Branding
    • Samarbejde om forskning
    • Erhvervs-ph.d.
    • Innovation og iværksætteri
    • ITU Business Develpment
    • CSSME
  • Genveje
    • Stillinger
    • Presse
    • ITU Alumni
    • Nyheder
    • Events
    • Kontakt
    • Om ITU
  • English
Hvornår skal vi lade data træffe beslutninger for os?
ITU  /  Presse  /  Nyheder fra ITU  /  Hvornår skal vi lade data træffe beslutninger for os?

Hvornår skal vi lade data træffe beslutninger for os?

Data er et kraftfuldt værktøj, der kan hjælpe os med at træffe objektive, rationelle og fair beslutninger på baggrund af mange flere informationer, end et menneske kan overskue. Men der er også store udfordringer med at sætte tallene i førersædet, skriver Rasmus Pagh, der forsker i Big Data på IT-Universitetet.

Rasmus PaghInstitut for DatalogiForskningbig dataetik

Skrevet 31. oktober 2016 10:07 af Rasmus Pagh

Artiklen er også bragt på Videnskab.dk.

De fleste af os er overbeviste om, at vi udmærket er i stand til at granske fakta og nå frem til en god beslutning.

Adfærdspsykologien har imidlertid vist, at det er overordentligt svært for os mennesker at træffe rationelle beslutninger, selv hvis vi anstrenger os. Vi påvirkes på godt og ondt af intuitive fornemmelser, der ofte peger i den rigtige retning, men nogle gange rammer helt skævt.

Desuden er det, som gode reklamefolk ved, ret nemt at påvirke vores beslutninger.

Vi får flere og flere data
Men hvad kan man så gøre ved det? Er vi nødt til bare at acceptere, at vi tager fejl og træffer forkerte valg?

»

Efterhånden som vi får adgang til mere og mere data om verden og dens indbyggere, er det fristende at forsøge at bruge disse data til at forstå verden bedre, og i sidste ende træffe bedre, datadrevne beslutninger.

Rasmus Pagh, forsker i Big Data

«
Inspiration kan hentes i de empiriske videnskaber, hvor det faktisk lykkes os at finde ud af, hvordan (dele af) verden hænger sammen. Forståelse af fysikken, bekræftet ved data fra utallige eksperimenter, gør os for eksempel i stand til at konstruere en flyvemaskine, som vi er ganske sikre på ikke falder ned.

Efterhånden som vi får adgang til mere og mere data om verden og dens indbyggere, er det fristende at forsøge at bruge disse data til at forstå verden bedre, og i sidste ende træffe bedre, datadrevne beslutninger.

I de senere år er data blevet mere og mere centralt i udviklingen af ’intelligent’ software.

Hvor programmører tidligere forsøgte at beskrive alle de regler et stykke software skulle følge for at udføre en opgave, for eksempel oversætte en tekst fra engelsk til dansk, baseres mere og mere software i dag på eksempler i form af data. Google Translate er et eksempel på dette (se faktaboks 1).

Ofte taler man om maskinlæring, fordi softwaren analyserer og ’lærer’ egenskaber ved data, som derefter bruges til at bestemme om softwaren skal træffe det ene eller det andet valg.

Andre gange fokuserer man på udnyttelsen af de store datamængder og taler om big data. Du har måske oplevet maskinlæring i aktion, når software til organisering af fotos (for eksempel på Facebook) lærer at genkende dit ansigt ved at blive præsenteret for eksempler, og de fleste har oplevet at blive foreslået ’anbefalede varer til dig’, når de handler på nettet.
Faktaboks 1: Eksempler på maskinlæring
  • Google Translate har ingen indbygget forståelse af grammatik, men baserer sine oversættelser på statistiske mønstre fra en stor samling oversættelser, bl.a. fra FNs arkiver.
  • Anbefalingssystemer finder mønstre i din adfærd på nettet, for eksempel hvilke varer du køber, eller hvilken musik du streamer. Dine og andre brugeres mønstre bruges derefter til at lave personlige anbefalinger af, hvad du kunne være interesseret i.
Vi skal kunne forstå vores computer
Data science er et nyt tværfagligt fagområde, der handler om at skabe grundlag for bedre beslutninger.

Det gør man ved at kombinere viden om statistik, programmering og algoritmer med specifik viden om et bestemt emne. Denne tilgang har allerede vundet indpas i erhvervslivet, hvor analyse af virksomhedens data, lavet med såkaldt business intelligence-software, ligger til grund for mange diskussioner i bestyrelserne.

»

Data science handler også om at forstå de beslutninger, der træffes af computere, så vi kan sikre, at beslutningerne træffes på et etisk forsvarligt grundlag.

Rasmus Pagh, forsker i Big Data

«
Ofte handler det om at skelne tilfældige variationer (støj) fra underliggende mønstre (signaler), som der bør reageres på. Det kræver ofte en stringent tilgang med værktøjer fra statistik, eksperimentdesign, visualisering og skalérbar dataanalyse.

Men data science handler også om at forstå de beslutninger, der træffes af computere, så vi kan sikre, at beslutningerne træffes på et etisk forsvarligt grundlag.

I USA, der er førende indenfor data science og big data, er politikerne blevet opmærksomme på mulighederne og udfordringerne ved datamængdernes voksende magt.

I 2014 og 2016 bestilte Barack Obama ekspertrapporter om, hvordan teknologierne påvirker borgerrettigheder. Rapporterne viste blandt andet, at der er potentiale for at bruge teknologierne til at

- hjælpe grupper af mennesker, der i dag har svært ved at få adgang til jobmarkedet, fordi deres ansøgninger bliver sorteret fra ud fra unuancerede kriterier (for eksempel fordomme om mennesker med en bestemt bopæl)

- øge social mobilitet ved at hjælpe mennesker med at finde uddannelsestilbud, der passer dem (men som de i dag ikke finder pga. manglende personligt netværk)

- hjælpe politiet med at bruge sine ressourcer bedre ved at vurdere, hvor sandsynligheden for at opdage kriminalitet er størst. 
 
Vi baserer vores valg på forenklet forforståelse
Mange valg i dag baseres på en stærkt forenklet forståelse af verden: Arbejdsgiveren sorterer ansøgere fra et bestemt område fra, fordi han mener, at de ofte giver problemer. Gymnasieeleven vælger en videregående uddannelse, som hun kender nogen, der har taget. Politiet sætter ekstra patruljevogne ind i et socialt belastet kvarter, fordi de forventer, at der foregår mere kriminalitet her.

I alle tre eksempler ville en bedre forståelse af verden, baseret på data, kunne hjælpe personerne til at træffe bedre beslutninger.

Kan vi undgå diskriminerede computere?
Men potentialet følges af udfordringer: Hvis man har en masse data om en ansøger til et job eller en uddannelsesplads, hvordan skelner man så mellem oplysninger, der er faktuelt relevante (og derfor skal inddrages i beslutningen), og oplysninger, der ikke er det?

Det er særligt udfordrende på grund af korrelationer i data (se faktaboks 2). Lovgivning mod diskrimination forbyder visse beslutninger at afhænge af for eksempel køn, etnicitet eller seksuel orientering. Men så burde det vel også være forkert at anvende data, som er højt korreleret med en af disse variabler, for eksempel information om navn?

Faktaboks 2: Korrelationer

Korrelationer findes, når der er en sammenhæng mellem to målbare ting (variabler).

For eksempel falder temperaturen når højden, man befinder sig i, øges, så de to tal er korrelerede.

Der kan findes korrelation uden årsagssammenhæng.

Eksempelvis følger salget af isvafler antallet af drukneulykker. Det betyder, at de to ting er korrelerede, men det er næppe sådan, at isvafler er årsagen til drukning.

Hvordan sikrer vi os, at der er taget hensyn til korrelationer? Og hvordan undgår vi, at skævvridninger i data (for eksempel at der bliver foretaget mange flere anholdelser i visse belastede områder) fører til fremtidig diskrimination? Hvem er egentlig ansvarlig for beslutninger foreslået af en computer?

Hvad ligger til grund for beslutningerne?
EU’s nye databeskyttelsesdirektiv, der efter planen skal træde i kraft fra 2018, taler om gennemsigtighed i datadrevne beslutninger.

Det er måske ikke så vigtigt at forstå, hvordan Facebook genkender dit ansigt på et foto, men hvis det for eksempel drejer sig om at få godkendt et lån i banken eller om, hvorvidt en e-butik vælger at tilbyde dig rabat, bør der være klare, transparente kriterier. Og det rækker ikke, at en softwareekspert i princippet vil kunne forstå, hvad der foregår.

I stedet har borgeren ifølge direktivet 'ret til en forklaring', altså skal beslutningen kunne koges ned til noget, et almindeligt menneske kan forstå.

Mulighederne skaber svære afvejninger 
Retten til en forklaring kommer til at give en masse udfordringer. Dels fordi der ofte ligger en masse data til baggrund for beslutningerne, som desuden kan være af fortrolig karakter. Dels fordi nogle metoder til maskinlæring finder mønstre i data, der er så komplekse at beskrive, at det er umuligt for et menneske at gennemskue.

I sidste ende bliver der formentlig tale om en afvejning mellem, hvor gennemskuelig og hvor smart software er til at træffe beslutninger. Her er der brug for teknologi og lovgivning, der sikrer tilstrækkelig fairness og gennemsigtighed uden at tabe for mange af de muligheder, der ligger i datadrevne beslutninger.

Og mere end nogensinde er der brug for dygtige dataspecialister, som forstår mekanismerne bag disse beslutninger og kan designe effektiv software, der ikke går på kompromis med etik og moral.

Kilder

•  Rasmus Paghs profil

•  Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights (2016)

•  Big data: Seizing opportunities, preserving values (2014)

Mere information

Rasmus Pagh, professor, telefon +45 7218 5284, email pagh@itu.dk

Vibeke Arildsen, presserådgiver, telefon 2555 0447, email viar@itu.dk

Nyheder

Ny podcastserie sætter den digitale velfærd til debat

Ny podcastserie sætter den digitale velfærd til debat

14. april 2021

I podcast-serien ’Digital Velfærd – Hvad er det?’ stiller Center for Digital Velfærd skarpt på, hvordan digitaliseringen har ændret præmisserne for vores velfærd. Seriens syv episoder er lavet i samarbejde med journalisten Anders Kjærulff.

D-Pop 2021 skal udbrede interessen for programmering i Danmark

D-Pop 2021 skal udbrede interessen for programmering i Danmark

14. april 2021

Den 23. april kan man prøve sine programmeringsevner af til D-Pop 2021, et online-arrangement, der skal fremme interessen for programmering og problemløsning ved hjælp af en række udfordringer skræddersyet til formålet. D-Pop er ifølge idémand og hovedansvarlig, professor Thore Husfeldt fra ITU, ikke en konkurrence. Tværtimod handler det om at løse opgaver og lære programmering i fællesskab.

IT-Universitetet bliver en del af nyt pionercenter

IT-Universitetet bliver en del af nyt pionercenter

7. april 2021

Sammen med fire andre danske universiteter skal IT-Universitetet være med til at opbygge pionercenter for forskning i kunstig intelligens. Med en bevilling på 350 millioner kroner i ryggen, skal centret bedrive verdensklasse forskning med fokus på samfundsudfordringer, mennesker, design og etik.

Portræt af professor, Dag Svanæs: "Vi er teknologiske af natur "

Portræt af professor, Dag Svanæs: "Vi er teknologiske af natur "

17. marts 2021

I hjemlandet Norge er professor på Institut for Digital Design, Dag Svanæs, bl.a. kendt for at gå med hale. Torsdag d. 25. marts holder han tiltrædelsesforelæsning om sammensmeltningen mellem menneske og teknologi.

Christina Hvid bliver medlem af ITU's bestyrelse

Christina Hvid bliver medlem af ITU's bestyrelse

15. marts 2021

IT-Universitetets udpegningsorgan har udpeget Christina Hvid, CEO i Molio, til nyt eksternt medlem af universitetets bestyrelse.

Offentlig digitalisering: Behovet for it-hjælp skal undersøges i nyt projekt

Offentlig digitalisering: Behovet for it-hjælp skal undersøges i nyt projekt

8. marts 2021

Digitaliseringen har medført, at vi selv skal varetage flere opgaver i kontakten med offentlige institutioner og myndigheder. Det er ikke lige let for alle, og mange har brug for hjælp. Men hvor får de den fra? Et nyt forskningsprojekt på IT-Universitetets Center for Digital Velfærd, skal kortlægge en uformelle hjælpekultur.

Portræt af nyudnævnt professor: Brobygger i klimaets tjeneste

Portræt af nyudnævnt professor: Brobygger i klimaets tjeneste

3. marts 2021

Steffen Dalsgaard er tiltrådt som professor på Institut for Business IT på IT-Universitetet. En af hans ambitioner er at skabe og udbrede viden om, hvordan teknologiske klimatiltag virker.

Fremtidens digitale udvikling stiller krav til ledere

Fremtidens digitale udvikling stiller krav til ledere

26. februar 2021

Den teknologiske udvikling skaber massive ændringer på arbejdsmarkedet. Derfor er det ikke længere muligt at lede en virksomhed – offentlig eller privat – uden af vide noget om it. Erik Møberg, som er senior direktør i Rambøll, fortæller her om de kompetencer, han mener er vigtige for fremtidens ledere.

IT-Universitetet i spidsen for forskningsprojekt om politiets brug af digitale teknologier

IT-Universitetet i spidsen for forskningsprojekt om politiets brug af digitale teknologier

9. februar 2021

Politiets brug af big data, ansigtsgenkendelse, overvågning og andre datadrevne værktøjer skal undersøges i det nye tre-årige forskningsprojekt, CUPP. Projektet er et samarbejde med fire europæiske universiteter, et forskningscenter og de it-professionelles fagforening, PROSA.

ITU-forsker vil udvikle metode til at sikre, at vores private data ikke bliver misbrugt

ITU-forsker vil udvikle metode til at sikre, at vores private data ikke bliver misbrugt

5. februar 2021

Hvis private oplysninger virkelig er private, kan det være en udfordring at opdage misbrug, datalæk og kriminelle aktiviteter. Danmarks Frie Forskningsfond har tildelt lektor ved IT-Universitetet, Bernardo David, en Sapere Aude-bevilling, så han kan finde ud af, hvordan man sikrer, at vores følsomme oplysninger ikke bliver misbrugt.

Datatilsynet: ITU har ageret korrekt ved brug af ProctorExam

Datatilsynet: ITU har ageret korrekt ved brug af ProctorExam

4. februar 2021

ITU brugte programmet ProctorExam, som er et monitoreringsværktøj, for at føre tilsyn ved skriftlig hjemmeeksamen i foråret 2020. Datatilsynet besluttede i den forbindelse at undersøge, om ITU havde efterlevet databeskyttelsesforordningens regler ved brug af ProctorExam.. Datatilsynet har nu afgjort sagen, og konkluderer, at ITU’s behandling af personoplysninger samt brugen af ProctorExam er sket indenfor rammerne af de databeskyttelsesretlige regler.

IT-Universitetet er medarrangør på de danske og europæiske cybermesterskaber

IT-Universitetet er medarrangør på de danske og europæiske cybermesterskaber

1. februar 2021

Sammen med Industriens Fond, Forsvarets Efterretningstjeneste (FE) og tre andre universiteter, afholder IT-Universitetet for første gang de danske cybermesterskaber. Målgruppen er de 15-25 årige, og formålet er at sikre, at danske virksomheder og myndigheder i fremtiden har medarbejdere med gode digitale kompetencer.

IT-Universitetet henter to internationale forskerprofiler med startpakke fra Novo Nordisk Fonden

IT-Universitetet henter to internationale forskerprofiler med startpakke fra Novo Nordisk Fonden

27. januar 2021

To internationale og særdeles kompetente forskere har valgt at rykke teltpælene op for at forske på IT-Universitetet. Det sker ved hjælp af Novo Nordisk Fonden nye Start Package-program.

Roberta Sinatra bliver tildelt Villum-bevilling til kampen mod diskriminerende algoritmer

Roberta Sinatra bliver tildelt Villum-bevilling til kampen mod diskriminerende algoritmer

25. januar 2021

De algoritmer, som bruges til rangordne forskere på baggrund af deres videnskabelige udgivelser og citeringer, er langt fra retvisende. Villum Fonden har tildelt lektor på IT-Universitetet, Roberta Sinatra, en Young Investigators-bevilling, som hun skal bruge til skabe grundlag for en mere fair rangering.

ITU-forsker får to bevillinger til at udvikle bæredygtig software

ITU-forsker får to bevillinger til at udvikle bæredygtig software

18. januar 2021

Lektor ved IT-Universitetet i København, Pinar Tözün, er blevet tildelt to bevillinger, som hun skal bruge til forske i bæredygtig, teknologisk vækst.

Ny rapport: Cybersikkerhed er underprioriteret i danske virksomheder

Ny rapport: Cybersikkerhed er underprioriteret i danske virksomheder

12. januar 2021

Danske virksomheder ser cybersikkerhed som vigtigt, men prioriterer området lavt, viser en ny rapport udarbejdet af forskere fra IT-Universitetet og Syddansk Universitet. En del af forklaringen er, at topledere har for lidt viden om cybertruslen, mener forskerne bag rapporten.

IT-Universitetets blockchain-professor får topplaceringer på to internationale ranglister

IT-Universitetets blockchain-professor får topplaceringer på to internationale ranglister

22. december 2020

Ifølge to internationale ranglister er professor på IT-Universitetet, Roman Beck, blandt de mest betydningsfulde akademikere inden for sit felt.

”Hvis man vil lykkes med digitale løsninger, er det afgørende at tage kundens perspektiv.”

”Hvis man vil lykkes med digitale løsninger, er det afgørende at tage kundens perspektiv.”

18. december 2020

Digitalisering bliver ofte set som løsningen, hvis man både vil effektivisere og samtidig yde digital service for sine kunder. Men at lykkes med digitalisering kræver, at de digitale løsninger giver værdi for kunden. Ellers ringer kunder i stedet til kundeservice.

Meddelelse om sikkerhedsbrud

Meddelelse om sikkerhedsbrud

16. december 2020

En fil indeholdende personlige oplysninger om censorer og en række ansatte har ligget tilgængelig på et af ITU’s interne netværksdrev. Sikkerhedsbruddet er anmeldt til Datatilsynet, og de berørte personer er blevet underrettet.

It-studerende lærer unge at programmere på YouTube

It-studerende lærer unge at programmere på YouTube

11. december 2020

IT-Universitetet går i luften med en ny YouTube-kanal, hvor it-studerende inspirerer andre unge til at lære at programmere og se muligheder i teknologien. ’Tænk i Tech’-projektet er støttet af Novo Nordisk Fonden og omfatter desuden undervisning på blandt andet ungdomsskoler.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53

Denne side er udskrevet fra https://en.itu.dk/research/portalplaceholder?layoutfraction=top&langRef=https://pure.itu.dk/portal/da/publications/special-topic-interoperability-and-ehr-combining-openehr-snomed-ihe-and-continua-as-approaches-to-interoperability-on-national-ehealth(e681882f-9a43-4b48-a997-3f93a59f7937).html