Skip to main content ITU
ITU
  • Eng
  • Stillinger
  • Presse
  • ITU Alumni
  • Nyheder
  • Events
  • Kontakt
  • Om ITU
  • English
  • Om ITU
x
  • Uddannelser
    • Bachelor
      • BSc i Global Business Informatics
      • BSc i Digital Design og Interaktive Teknologier
      • BSc i Softwareudvikling
      • BSc i Data Science
      • Sådan søger du ind
      • Gæstestuderende på bachelorniveau
      • ITU Summer University på bachelorniveau
      Kandidat
      • MSc i Data Science
      • MSc i Digital Innovation & Management
      • MSc i Digital Design og Interaktive Teknologier
      • MSc i Datalogi
      • MSc i Softwaredesign
      • MSc i Spil
      • Sådan søger du ind
      • Gæstestuderende på kandidatniveau
      • ITU Summer University på kandidatniveau
      Studieliv
      • Hvordan er det at være studerende på ITU?
      • Kvinder i tech
      • Labs for studerende
      • Spørg en studerende
      • Studenterorganisationer
      • Studiestart
      • Studie- og karrierevejledning
      • #lifeatITU
      Besøg ITU
      • Studerende for en dag
      • Coding Café for kvindelige gymnasieelever
      • IT-Camp for kvindelige gymnasieelever
      • Gymnasiebesøg
      • Studiepraktik i uge 43
      • Åbent Hus
      • Få besøg af ITU
        • Digital Dannelse
        • Coding Classes
  • Efteruddannelser
    • Master i it
      • Master i it-ledelse (opstart 2021)
      • Master i it-ledelse (sidste optag 2020)
      • Studiestart
      • Besøg IT-Universitetet
      • Kontakt
      • Nyhedsbrev
      Enkeltfagskurser
      • Se alle kurser
      • Kontakt
      ITU Professional Courses
      • Om ITU Professional Courses
      • Alle kurser
      • Skræddersyede kurser
      • Kontakt
  • Forskning
    • Institutter
      • Institut for Business IT
      • Institut for Datalogi
      • Institut for Digital Design
      • Forskningsgrupper og labs
        • Forskningsgrupper
        • Labs
      Forskningscentre
      • Center for Computer Games Research
      • Center for Computing Education Research
      • Center for Digital Velfærd
      • European Blockchain Centre
      • Forskningscenter for offentlig it
      • Centre for Information Security and Trust
      • Forskningsetik og -integritet
        • God forskningspraksis
      Udvalgte forskningstemaer
      • Big data
      • Blockchain
      • Computerspil
      • It-sikkerhed
      • Kunstig intelligens
      • Digitalisering
      • Find en forsker
        • Faculty Search
      Ph.d.-skole
      • Ledige ph.d.-stillinger
      • Om ph.d.-uddannelsen
      • Ph.d.-kurser
      • Ph.d.-forsvar
      • Tekniske rapporter
        • Tekniske rapporter
  • Erhvervssamarbejde
    • Samarbejde med Studerende
      • Projektsamarbejde
      • Projektmarked
      • Studiejob
      • Projektopslag
      • Job- og projektbank
      • Kandidatportrætter
      Employer Branding
      • IT Match Making
      • Sådan ansætter du en ITU'er
      • Lav opslag i Jobbanken
      Samarbejde om forskning
      • Licenser teknologi
      • Samarbejde om forskning
      • ErhvervsPhD
        • Ansæt en ErhvervsPhD
      Innovation og iværksætteri
      • ITU Business Development
      • ITU Startup programme
      • Startup historier
      • CSSME
        • Introduktion til it-sikkerhed for virksomheder
        • It-sikkerhed i praksis for virksomheder
  • Uddannelser
    • Forside: Uddannelser
    • Besøg ITU
    • Studieliv
    • Bacheloruddannelser
    • Kandidatuddannelser
  • Efteruddannelser
    • Forside: Efteruddannelser
    • Kvalifikationsforloeb
    • Master i it
    • Enkeltfagskurser
    • ITU Professional Courses
  • Forskning
    • Forside: Forskning
    • Institutter
    • Forskningsgrupper og centre
    • Labs
    • Forskningsetik og -integritet
    • Tekniske rapporter
    • Ph.d.-skolen
  • Erhvervssamarbejde
    • Forside: Erhvervssamarbejde
    • Samarbejde med studerende
    • Employer Branding
    • Samarbejde om forskning
    • Erhvervs-ph.d.
    • Employer Branding
    • Innovation og iværksætteri
  • Genveje
    • Stillinger
    • Presse
    • ITU Alumni
    • Nyheder
    • Events
    • Kontakt
    • Om ITU
  • English
Stil krav til algoritmerne
ITU  /  Presse  /  Nyheder fra ITU  /  Stil krav til algoritmerne

Stil krav til algoritmerne

EU's nye persondataregler giver større gennemsigtighed, men vi må ikke glemme selv at tage stilling til, hvordan vores data bliver brugt, skriver Rasmus Pagh, professor i datalogi ved IT-Universitetet. Debatindlægget er bragt i Weekendavisen fredag den 1. juni 2018.

Institut for DatalogialgoritmerprivacyRasmus Pagh

Skrevet 1. juni 2018 09:33 af Rasmus Pagh

Algoritmer har større og større indflydelse på vores hverdag. I sundhedsvæsenet eksperimenterer man med at lade algoritmer hjælpe til at diagnosticere patienter ud fra scanningsbilleder.

Sagsbehandling og kundesupport kan delvist automatiseres ved hjælp af algoritmer (som for eksempel i SKATs vision om større automatisering af skatteinddrivelse og Nordeas satsning på chatbotter). Netbutikker bruger algoritmer til at vise potentielle kunder personligt tilpassede anbefalinger af varer. Algoritmer hjælper med at finde rejser, der passer til vores kriterier, og sørger for at matche publikum på streamingtjenesterne med film og musik, de synes om.

Og ikke at forglemme: Googles algoritmer hjælper os med at finde frem til præcis den information, vi er på jagt efter, når vi bruger deres søgemaskine.

Samtidig ser vi eksempler på, at samspillet mellem it-systemer og mennesker let kan gå galt. Algoritmer der fungerer perfekt i én sammenhæng kan begynde at lave utilsigtede fejl, hvis omstændighederne er nye.

Som for eksempel da Google Translate lavede oversættelser, der afspejlede kønsstereotyper. Eller da IBM’s prestigeprojekt Watson, der kan slå de bedste mennesker i verden i Jeopardy, troede at Toronto var en amerikansk by.

»

Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.

«
Når entreprenører opfører nye huse, er der strenge regler for brandsikkerhed. Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.

EU’s nye persondataforordning (GDPR) træder i kraft den 25. maj er dog et skridt i retning af, at den almindelige borger bedre skal kunne navigere i det digitale farvand – blandt andet gennem større gennemsigtighed om, hvordan en algoritme er nået frem til en bestemt beslutning.

Fremover skal virksomheder og organisationer gøre rede for, hvordan de opsamler og behandler personlige data. Borgerne får mere kontrol over, hvad deres personlige data bliver brugt til, og skal have mulighed for at anke beslutninger, der er truffet automatisk. Direktivet gælder alle virksomheder, der driver forretning i EU – altså også de amerikanske internetgiganter.

»

GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs.

«
Men GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs. GDPR giver kun en begrænset mulighed for indsigt i de algoritmer, der behandler vores data.

Og måske er fuld indsigt ikke engang nok, for sandheden er, at selv eksperter i algoritmer har en begrænset forståelse af de algoritmer, der bruges. Det skyldes delvist, at analyse af algoritmer er en ung disciplin (vi arbejder på det!), men også at det er komplekst at forstå, hvad der sker, når algoritmer behandler data fra en rodet, nogle gange kaotisk virkelighed.

Uanset hvor umage vi gør os, kommer algoritmernes råd, diagnoser og anbefalinger, ligesom menneskers, til at være behæftet med usikkerhed. Facebook har ikke altid ret, når dit ansigt genkendes på et billede. En automatisk analyse af din kreditværdighed eller din sundhed kan være fejlagtig. I nogle sammenhænge kan vi måske acceptere fejl og usikkerhed til gengæld for at få nye muligheder, men når det eksempelvis gælder vores økonomi, demokrati og sundhed, bør vi stille krav.

»

Vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.

«
Vi må finde den rigtige balance mellem på den ene side at sikre fairness og gennemskuelighed og på den anden side at gøre ny, værdiskabende teknologi mulig.

En start kunne være at stille krav om at den usikkerhed, der ligger i analysen af vores data, bliver synlig og kvantificérbar. I nogle sammenhænge bør det fx være muligt at få at vide, hvor ofte en algoritmes beslutninger er fejlagtige. Og vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.

Endelig skal vi huske, at selv om GDPR giver os nye muligheder for at få indsigt i og bestemme over, hvordan vores data bliver brugt, ændrer tingenes tilstand sig kun, hvis vi hver især gør brug af vores nyvundne indsigt i, hvad der sker med data.

Vi skal stemme på politikere, der tager ansvar for den digitale udvikling. Vi skal undgå virksomheder, der bruger vores data på måder, vi ikke stoler på.

Og sidst men ikke mindst må vi indse, at det kræver en folkeoplysningsindsats at ruste os til at forstå det algoritmiske samfund.

Mere information

Rasmus Pagh, professor, telefon +45 7218 5284, email pagh@itu.dk

Nyheder

Ny rapport: Cybersikkerhed er underprioriteret i danske virksomheder

Ny rapport: Cybersikkerhed er underprioriteret i danske virksomheder

12. januar 2021

Danske virksomheder ser cybersikkerhed som vigtigt, men prioriterer området lavt, viser en ny rapport udarbejdet af forskere fra IT-Universitetet og Syddansk Universitet. En del af forklaringen er, at topledere har for lidt viden om cybertruslen, mener forskerne bag rapporten.

IT-Universitetets blockchain-professor får topplaceringer på to internationale ranglister

IT-Universitetets blockchain-professor får topplaceringer på to internationale ranglister

22. december 2020

Ifølge to internationale ranglister er professor på IT-Universitetet, Roman Beck, blandt de mest betydningsfulde akademikere inden for sit felt.

”Hvis man vil lykkes med digitale løsninger, er det afgørende at tage kundens perspektiv.”

”Hvis man vil lykkes med digitale løsninger, er det afgørende at tage kundens perspektiv.”

18. december 2020

Digitalisering bliver ofte set som løsningen, hvis man både vil effektivisere og samtidig yde digital service for sine kunder. Men at lykkes med digitalisering kræver, at de digitale løsninger giver værdi for kunden. Ellers ringer kunder i stedet til kundeservice.

Meddelelse om sikkerhedsbrud

Meddelelse om sikkerhedsbrud

16. december 2020

En fil indeholdende personlige oplysninger om censorer og en række ansatte har ligget tilgængelig på et af ITU’s interne netværksdrev. Sikkerhedsbruddet er anmeldt til Datatilsynet, og de berørte personer er blevet underrettet.

It-studerende lærer unge at programmere på YouTube

It-studerende lærer unge at programmere på YouTube

11. december 2020

IT-Universitetet går i luften med en ny YouTube-kanal, hvor it-studerende inspirerer andre unge til at lære at programmere og se muligheder i teknologien. ’Tænk i Tech’-projektet er støttet af Novo Nordisk Fonden og omfatter desuden undervisning på blandt andet ungdomsskoler.

It-fag i gymnasiet kan være nøglen til ligestilling i techbranchen

It-fag i gymnasiet kan være nøglen til ligestilling i techbranchen

9. december 2020

Debatindlæg bragt på Altinget.dk den 7. december 2020.

Coronakrisen gør os mere sårbare over for hackere

Coronakrisen gør os mere sårbare over for hackere

8. december 2020

It-sikkerheden er under pres, når vi arbejder hjemme og al vigtig kommunikation foregår over nettet. Hackere forsøger at udnytte vores psykologiske og tekniske sårbarheder i forbindelse med coronakrisen, fortæller Oksana Kulyk, som forsker i de menneskelige faktorer ved it-sikkerhed på ITU.

På hjemmekontoret er du din egen it-medarbejder – og det stresser

På hjemmekontoret er du din egen it-medarbejder – og det stresser

2. december 2020

Coronakrisen har bundet os til vores computere i endnu højere grad end tidligere. Det bør være en anledning til at tale åbent om, hvordan teknologien kan være en stressfaktor, mener Raluca Stana, som forsker i technostress på IT-Universitetet.

Studie: Kvindelige forskere er lige så produktive som mænd – men har kortere karrierer

Studie: Kvindelige forskere er lige så produktive som mænd – men har kortere karrierer

30. november 2020

Et omfattende studie af 1,5 millioner forskeres karrierer viser, at kvinder og mænd i gennemsnit producerer lige mange videnskabelige artikler årligt, men at kvinderne forlader forskerkarrieren tidligere. ITU-forsker Roberta Sinatra, som er medforfatter til studiet, mener at beslutningstagere bør kigge nærmere på årsagerne til, at kvinderne forlader den akademiske verden.

IT-Universitetet bliver en vigtig del af nyt nationalt forskningscenter for digitale teknologier

IT-Universitetet bliver en vigtig del af nyt nationalt forskningscenter for digitale teknologier

26. november 2020

Innovationsfonden har bevilliget 100 mio. kr. til et nationalt forskningscenter for digitale teknologier. Centerets konsortium består af syv danske universiteter, deriblandt IT-Universitetet, samt Alexandra Instituttet.

Unge ITU-forskere har stor succes med Sapere Aude-bevillinger

Unge ITU-forskere har stor succes med Sapere Aude-bevillinger

25. november 2020

Selvom IT-Universitetets datalogi-forskere kun fylder 0,4 procent i det samlede danske universitetslandskab, har de fået mere end 8 procent af årets Sapere Aude-bevillinger fra Danmarks Frie Forskningsfond.

Coronakrisen har fået ledere til at slippe tøjlerne og finde empatien frem

Coronakrisen har fået ledere til at slippe tøjlerne og finde empatien frem

23. november 2020

Da coronaen ramte og medarbejderne blev sendt hjem, måtte lederne slippe kontroltrangen og i stedet fokusere på den enkeltes unikke situation, siger Louise Harder Fischer, som forsker i ledelse og digital transformation på ITU. Her er første artikel i en ny serie, hvor forskere fra ITU sætter ord på coronaens aftryk på den digitale omstilling.

IT-Universitetet igangsætter arbejde for større kønsdiversitet blandt de ansatte

IT-Universitetet igangsætter arbejde for større kønsdiversitet blandt de ansatte

12. november 2020

Med en ny handlingsplan vil ITU arbejde systematisk og strategisk for at fremme kønsdiversiteten ved at sikre lige muligheder for alle ansatte.

Bliv klogere i kaffepausen: ITU lancerer samtalerække om digital transformation

Bliv klogere i kaffepausen: ITU lancerer samtalerække om digital transformation

12. november 2020

I en ny serie af livestreamede samtaler vil IT-Universitetet formidle indsigter fra it-forskningen til professionelle, der arbejder med digitalisering. Under overskriften ITU ESPRESSO vil serien forløbe som en række koncentrerede kaffepauser, der gør dig klogere på alt det, der rører sig på digitaliseringsagendaen. Første talk går i luften 26. november.

Software-studerende vinder pris for lærerigt spil om techmonopoler

Software-studerende vinder pris for lærerigt spil om techmonopoler

11. november 2020

Lily Li og Olivia Winkel afsluttede deres bachelorgrad i Softwareudvikling med et projekt om spilbaseret læring. Opgaven har netop modtaget FA’s bachelorpris – og med anerkendelsen følger en check på 30.000 kroner.

Ny uddannelseschef til ITU

Ny uddannelseschef til ITU

9. november 2020

IT-Universitetet har ansat Pernille Rydén som uddannelseschef per 1. januar 2021.

Forelæsning via liveradio: Corona baner vej for nye undervisningsformer

Forelæsning via liveradio: Corona baner vej for nye undervisningsformer

5. november 2020

De logistiske udfordringer, der følger med coronarestriktionerne, giver anledning til nytænkning blandt underviserne på ITU. Halvdelen af forelæsningerne på kurset ’Navigating Complexities’ er i dette semester forvandlet til et live-radioprogram med både nyheder, diskussioner og musikpauser. Radioformatet giver nye muligheder for at formidle kompleks viden til de studerende, mener underviserne.

Populært it-sikkerhedskursus for mindre virksomheder rykker online

Populært it-sikkerhedskursus for mindre virksomheder rykker online

3. november 2020

IT-Universitetets gratis it-sikkerhedskurser til små og mellemstore virksomheder går nu i luften på nettet og bliver dermed tilgængelige for virksomheder over hele Danmark.

Nyt center på IT-Universitetet skal give flere unge nøglen til digitale fagområder

Nyt center på IT-Universitetet skal give flere unge nøglen til digitale fagområder

27. oktober 2020

Mange mennesker bliver skræmte bare ved tanken om at lære om it, fx et programmeringssprog. Men sådan behøver det faktisk ikke at være. Deltag i åbningen af IT-Universitetets nye Center for Computing Education Research torsdag 5. november og få mere at vide om, hvordan vi sikrer, at dørene til it-fagene bliver åbnet for flere.

ITU skal uddanne eftertragtede Data Science-kandidater

ITU skal uddanne eftertragtede Data Science-kandidater

21. oktober 2020

Fra næste sommer bliver det muligt at tage en to-årig cand.scient. i Data Science på IT-Universitetet. De kommende kandidater bliver stærkt eftertragtede i erhvervslivet, som skriger på specialister, der kan trække værdifuld viden ud af store datamængder.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53

Denne side er udskrevet fra http://212.97.130.100/