Skip to main content ITU
ITU
  • Eng
  • Stillinger
  • Presse
  • ITU Alumni
  • Nyheder
  • Events
  • Kontakt
  • Om ITU
  • English
  • Om ITU
x
  • Uddannelser
    • Bachelor
      • BSc i Global Business Informatics
      • BSc i Digital Design og Interaktive Teknologier
      • BSc i Softwareudvikling
      • BSc i Data Science
      • Sådan søger du ind
      • Gæstestuderende på bachelorniveau
      • ITU Summer University på bachelorniveau
      Kandidat
      • MSc i Data Science
      • MSc i Digital Innovation & Management
      • MSc i Digital Design og Interaktive Teknologier
      • MSc i Datalogi
      • MSc i Softwaredesign
      • MSc i Spil
      • Sådan søger du ind
      • Gæstestuderende på kandidatniveau
      • ITU Summer University på kandidatniveau
      Studieliv
      • Hvordan er det at være studerende på ITU?
      • Kvinder i tech
      • Labs for studerende
      • Spørg en studerende
      • Studenterorganisationer
      • Studiestart
      • Studie- og karrierevejledning
      • #lifeatITU
      Besøg ITU
      • Studerende for en dag
      • Coding Café for kvindelige gymnasieelever
      • IT-Camp for kvindelige gymnasieelever
      • Gymnasiebesøg
      • Studiepraktik i uge 43
      • Åbent Hus
      • Få besøg af ITU
        • Digital Dannelse
        • Coding Classes
  • Efteruddannelser
    • Master i it
      • Master i it-ledelse
      • Studiestart
      • Nyhedsbrev
      • Talks om it-ledelse: ITU ESPRESSO
      • Besøg IT-Universitetet
      • Kontakt
      Enkeltfagskurser
      • Se alle kurser
      • Kontakt
      ITU Professional Courses
      • Om ITU Professional Courses
      • Alle kurser
      • Skræddersyede kurser
      • Kontakt
  • Forskning
    • Institutter
      • Institut for Business IT
      • Institut for Datalogi
      • Institut for Digital Design
      • Forskningsgrupper og labs
        • Forskningsgrupper
        • Labs
      Forskningscentre
      • Center for Computer Games Research
      • Center for Computing Education Research
      • Center for Digital Velfærd
      • European Blockchain Centre
      • Forskningscenter for offentlig it
      • Centre for Information Security and Trust
      • Forskningsetik og -integritet
        • God forskningspraksis
      Udvalgte forskningstemaer
      • Big data
      • Blockchain
      • Computerspil
      • It-sikkerhed
      • Kunstig intelligens
      • Digitalisering
      • Find en forsker
        • Faculty Search
      Ph.d.-skole
      • Ledige ph.d.-stillinger
      • Om ph.d.-uddannelsen
      • Ph.d.-kurser
      • Ph.d.-forsvar
      • Tekniske rapporter
        • Tekniske rapporter
  • Erhvervssamarbejde
    • Samarbejde med Studerende
      • Projektsamarbejde
      • Projektmarked
      • Studiejob
      • Projektopslag
      • Job- og projektbank
      • Kandidatportrætter
      Employer Branding
      • IT Match Making
      • Sådan ansætter du en ITU'er
      • Lav opslag i Jobbanken
      Samarbejde om forskning
      • Licenser teknologi
      • Samarbejde om forskning
      • ErhvervsPhD
        • Ansæt en ErhvervsPhD
      Innovation og iværksætteri
      • ITU Business Development
      • ITU Startup programme
      • Startup historier
      • CSSME
  • Uddannelser
    • Forside: Uddannelser
    • Bacheloruddannelser
    • Kandidatuddannelser
    • Besøg ITU
    • Studieliv
  • Efteruddannelser
    • Forside: Efteruddannelser
    • Master i it-ledelse (opstart 2021)
    • Master i it-ledelse (sidste optag 2020)
    • Studiestart
    • Nyhedsbrev
    • Talks om it-ledelse: ITU ESPRESSO
    • Besøg ITU
    • Kontakt
    • Master i it
    • Enkeltfagskurser
    • ITU Professional Courses
  • Forskning
    • Forside: Forskning
    • Institutter
    • Forskningsgrupper og centre
    • Labs
    • Forskningsetik og -integritet
    • Tekniske rapporter
    • Ph.d.-skolen
  • Erhvervssamarbejde
    • Forside: Erhvervssamarbejde
    • Samarbejde med studerende
    • Employer Branding
    • Samarbejde om forskning
    • Erhvervs-ph.d.
    • Innovation og iværksætteri
    • ITU Business Develpment
    • CSSME
  • Genveje
    • Stillinger
    • Presse
    • ITU Alumni
    • Nyheder
    • Events
    • Kontakt
    • Om ITU
  • English
Skal vi frygte kunstig intelligens?
ITU  /  Presse  /  Nyheder fra ITU  /  Skal vi frygte kunstig intelligens?

Skal vi frygte kunstig intelligens?

Vil udviklingen inden for kunstig intelligens føre til, at robotterne en dag overtager verden? Thore Husfeldt, algoritmeforsker på IT-Universitetet, frygter nærmere den overvågning, som kunstig intelligens og andre digitale teknologier muliggør allerede nu. Mød ham til Forskningens Døgn på ITU torsdag d. 25. april.

Institut for DatalogiEventsForskningkunstig intelligensrobotterThore Husfeldt

Skrevet 25. april 2019 07:51 af Vibeke Arildsen

”Udviklingen af sand kunstig intelligens kan betyde enden for menneskeheden,” udtalte den legendariske fysiker Stephen Hawking tilbage i 2014.

Også prominente folk som Elon Musk og Bill Gates har udtrykt bekymring for, at utøjlet kunstig intelligens kan løbe løbsk og ende med at være ødelæggende for menneskeheden. Samme fortælling kender vi fra populærkulturen, for eksempel Terminator-filmene, hvor dræberrobotter overtager verdensherredømmet.

Men vi er stadig langt fra katastrofescenarierne om løbske robotter, mener Thore Husfeldt, som forsker i algoritmer og teoretisk datalogi på ITU.

Rent teknisk er de kunstige intelligenser, vi har i dag, faktisk ikke særlig intelligente i menneskelig forstand.

Kunstig intelligens: På vej mod apokalypsen?

Er computere på vej til at blive klogere end os mennesker, og er der reel fare for, at de vil udslette os?

Til Forskningens Døgn på ITU torsdag d. 25. april 2019 diskuterer ITU-forsker Thore Husfeldt disse spørgsmål med sin svenske kollega, Olle Häggström, professor i matematisk statistik ved Chalmers University of Technology.

Diskussionen modereres af Christiane Vejlø, vært på radioprogrammet Elektronista.

Arrangementet er udsolgt, men kan efterfølgende ses i fuld længde på itu.dk. Læs mere. 
”I dag er vi vant til at omgås meget specifikke kunstige intelligenser – det kan for eksempel være en skakcomputer, som løser et meget konkret, afgrænset område af en beslutningsproces meget godt,” forklarer Thore Husfeldt.

De specifikke kunstige intelligenser har dog ingen selvstændige tanker eller vilje, de kan ikke løse opgaver, der ikke er klart definerede, og de kan ikke selv definere nye arbejdsopgaver, som mennesket kan.

Skak er nemt, at genkende ansigter er svært

Hvorvidt det en dag bliver teknisk muligt for robotterne at tænke selvstændigt og efterfølgende vende sig mod os, afhænger af, om det lykkes forskerne at udvikle generel kunstig intelligens – altså kunstig intelligens, der kan løse andet end afgrænsede opgaver.

Arnold Schwarzenegger som Terminator.
Nok den mest berømte dræberrobot: Terminator i skikkelse af Arnold Schwarzenegger.

Og det har vist sig sværere, end forskerne oprindeligt regnede med. Ikke mindst fordi, det i starten ikke stod fuldstændig klart, hvad intelligens egentlig er for en størrelse.

”I 1950, hvor Alan Turing skrev den første forskningsartikel om kunstig intelligens, var vores fælles intuition om, hvad der er intelligent og ikke intelligent stadig af den type, at man troede, at skakspil var en god målestok for intelligens. Helt enkelt fordi mennesker, der spiller skak, ofte er lynende intelligente. Derimod troede vi, at evnen til at kende forskel på ansigter, som de fleste etårige børn er i stand til, var triviel,” forklarer Thore Husfeldt.

”Det viste sig, at de ting, vi troede var nemme, er svære, og omvendt. Det var meget nemmere at udvikle en skakcomputer end at lave en maskine, der kan genkende ansigter på niveau med et etårigt barn.”

I dag har computeren for længst fejet selv de bedste menneskelige skakspillere af banen, og mange former for specifik kunstig intelligens er allerede i spil i vores hverdag – telefonen kan kategorisere billeder, selvkørende biler kan navigere i tæt trafik, og algoritmer kan træffe beslutninger om at købe og sælge aktier.

Papirclips-apokalypsen

Vi har dog stadig ikke opfundet en generel kunstig intelligens, der potentielt en dag vil finde på at sætte gang i en masseudryddelse af mennesket. Ifølge Thore Husfeldt er det heller ikke nødvendigt at maskinerne bliver decideret ondsindede. Han mener, at selv en generel kunstig intelligens med neutrale arbejdsopgaver in extremis kan føre til udslettelse af menneskeheden.

Et berømt eksempel, der illustrerer hans pointe, handler om noget så banalt som papirclips. Det starter med, at et menneske beder en computer om at fremstille én million papirclips så billigt, som overhovedet muligt.

»

Den største trussel mod computerens overlevelse er mennesket. Så hvis ikke vi fortæller den, at den ikke skal slå alle mennesker ihjel, vil den starte med at gøre det [...]

«
”Der findes mange underholdende eksempler på, hvordan computeren kan misforstå denne opgave og i sidste ende med at udrydde mennesket. Fra computerens perspektiv er det i første omgang en god idé at sørge for, at ingen mennesker kommer i vejen. Den har fået en opgave, som den ikke kan løse, hvis ikke den eksisterer. Den største trussel mod computerens overlevelse er mennesket. Så hvis ikke vi fortæller den, at den ikke skal slå alle mennesker ihjel, vil den starte med at gøre det, inden den overhovedet laver den første papirclips,” fortæller Thore Husfeldt.

Papirclips.

De ser så uskyldige ud... Men kan papirclips være begyndelsen til enden for mennesket? 

”Her taler vi ikke engang om en særlig klog eller ondartet kunstig intelligens. Men selvfølgelig findes der også katastrofescenarier, hvor den kunstige intelligens er lige så ondartet mod homo sapiens, som vi er mod andre arter,” siger han og tilføjer, at selvom eksemplet med papirclips er fiktivt og absurd, er potentialet for, at noget lignende kan ske, dog til stede – for første gang i historien.

Bør vi fortsætte med at forske?

Og dette potentiale – hvor end hypotetisk – er årsagen til, at mange filosoffer i øjeblikket stiller spørgsmålet: Bør vi fortsætte bestræbelserne på at opnå generel kunstig intelligens?

Det er et dilemma, som også de, der uddeler forskningsmidler må forholde sig til.

”Forskningsansøgninger om kunstig intelligens har det i dag typisk som langsigtet mål at skabe generel kunstig intelligens. Hvis der i en ansøgning om midler til et projekt om kunstig intelligens står, ’hvis det her virker, er det muligvis et første skridt i retningen mod generel kunstig intelligens’ – bør man så smide ansøgning i skraldespanden eller give den penge?,” spørger han.

Han forestiller sig, at det øgede fokus på de negative konsekvenser af kunstig intelligens kan føre til, at forskere i kunstig intelligens skal redegøre for sikkerhedsovervejelser i deres projektbeskrivelser, ligesom eksempelvis forskere i smitsomme sygdomme gør det i dag.

Frygt for totalovervågning

For Thore Husfeldt handler den primære bekymring om kunstig intelligens dog ikke om udviklingen af en generel kunstig intelligens. Han frygter ikke, at teknologien udvikler værdier, som adskiller sig fra menneskets. Derimod ser han en fare for, at kunstig intelligens kan anvendes som et våben af mennesker, hvis værdier, han ikke deler.

Han mener, at kunstig intelligens og andre digitale teknologier i dag muliggør en totalovervågning, som DDR-styret kun kunne drømme om. Samtidig kan det være svært at argumentere imod overvågningen, for den kan også have mange positive effekter.

Han giver et hypotetisk eksempel:

En mand går ind på en bar og bestiller tre store fadøl på en time, hvorefter han sætter sig ind i sin bil for at køre hjem. Ved hjælp af de digitale spor, han efterlader via sit kreditkort, bilens låsesystem og mobiltelefonen, kan man i princippet forhindre ham i at køre spirituskørsel, inden det sker. Og det er svært at argumentere for, at hans privatliv er vigtigere end at forhindre, at en flok skolebørn bliver kørt ned.  

Vi har ikke brug for Terminator

Faktisk er en sådan massiv overvågning mulig allerede med den teknologi, vi har i dag. I Kina bruger man i stor stil kameraer og ansigtsgenkendelse til at sørge for, at befolkningen opfører sig ordentligt.

Overvågningskameraer.
Allerede i dag muliggør teknologien massiv overvågning af os alle.

»

Hvis vi bor i et samfund, hvor alle vores handlinger bliver overvåget konstant, er vi på en eller anden måde selv blevet til robotter

«
Ifølge Thore Husfeldt har vi altså slet ikke brug for et katastrofescenarie, hvor computerne bliver klogere end os. Teknologien er allerede tilstrækkeligt avanceret til at gennemføre alle totalitære scenarier. Han frygter derfor ikke en robotapokalypse, men nærmere at teknologien skaber grobund for et totalovervåget samfund.

”Hvis vi bor i et samfund, hvor alle vores handlinger bliver overvåget konstant, er vi på en eller anden måde selv blevet til robotter,” siger han.

Mere information

Thore Husfeldt, lektor, telefon +45 7218 5075, email thore@itu.dk

Vibeke Arildsen, presserådgiver, telefon 2555 0447, email viar@itu.dk

Nyheder

IT-Universitetet bliver en del af nyt pionercenter

IT-Universitetet bliver en del af nyt pionercenter

7. april 2021

Sammen med fire andre danske universiteter skal IT-Universitetet være med til at opbygge pionercenter for forskning i kunstig intelligens. Med en bevilling på 350 millioner kroner i ryggen, skal centret bedrive verdensklasse forskning med fokus på samfundsudfordringer, mennesker, design og etik.

Portræt af professor, Dag Svanæs: "Vi er teknologiske af natur "

Portræt af professor, Dag Svanæs: "Vi er teknologiske af natur "

17. marts 2021

I hjemlandet Norge er professor på Institut for Digital Design, Dag Svanæs, bl.a. kendt for at gå med hale. Torsdag d. 25. marts holder han tiltrædelsesforelæsning om sammensmeltningen mellem menneske og teknologi.

Christina Hvid bliver medlem af ITU's bestyrelse

Christina Hvid bliver medlem af ITU's bestyrelse

15. marts 2021

IT-Universitetets udpegningsorgan har udpeget Christina Hvid, CEO i Molio, til nyt eksternt medlem af universitetets bestyrelse.

Offentlig digitalisering: Behovet for it-hjælp skal undersøges i nyt projekt

Offentlig digitalisering: Behovet for it-hjælp skal undersøges i nyt projekt

8. marts 2021

Digitaliseringen har medført, at vi selv skal varetage flere opgaver i kontakten med offentlige institutioner og myndigheder. Det er ikke lige let for alle, og mange har brug for hjælp. Men hvor får de den fra? Et nyt forskningsprojekt på IT-Universitetets Center for Digital Velfærd, skal kortlægge en uformelle hjælpekultur.

Portræt af nyudnævnt professor: Brobygger i klimaets tjeneste

Portræt af nyudnævnt professor: Brobygger i klimaets tjeneste

3. marts 2021

Steffen Dalsgaard er tiltrådt som professor på Institut for Business IT på IT-Universitetet. En af hans ambitioner er at skabe og udbrede viden om, hvordan teknologiske klimatiltag virker.

Fremtidens digitale udvikling stiller krav til ledere

Fremtidens digitale udvikling stiller krav til ledere

26. februar 2021

Den teknologiske udvikling skaber massive ændringer på arbejdsmarkedet. Derfor er det ikke længere muligt at lede en virksomhed – offentlig eller privat – uden af vide noget om it. Erik Møberg, som er senior direktør i Rambøll, fortæller her om de kompetencer, han mener er vigtige for fremtidens ledere.

IT-Universitetet i spidsen for forskningsprojekt om politiets brug af digitale teknologier

IT-Universitetet i spidsen for forskningsprojekt om politiets brug af digitale teknologier

9. februar 2021

Politiets brug af big data, ansigtsgenkendelse, overvågning og andre datadrevne værktøjer skal undersøges i det nye tre-årige forskningsprojekt, CUPP. Projektet er et samarbejde med fire europæiske universiteter, et forskningscenter og de it-professionelles fagforening, PROSA.

ITU-forsker vil udvikle metode til at sikre, at vores private data ikke bliver misbrugt

ITU-forsker vil udvikle metode til at sikre, at vores private data ikke bliver misbrugt

5. februar 2021

Hvis private oplysninger virkelig er private, kan det være en udfordring at opdage misbrug, datalæk og kriminelle aktiviteter. Danmarks Frie Forskningsfond har tildelt lektor ved IT-Universitetet, Bernardo David, en Sapere Aude-bevilling, så han kan finde ud af, hvordan man sikrer, at vores følsomme oplysninger ikke bliver misbrugt.

Datatilsynet: ITU har ageret korrekt ved brug af ProctorExam

Datatilsynet: ITU har ageret korrekt ved brug af ProctorExam

4. februar 2021

ITU brugte programmet ProctorExam, som er et monitoreringsværktøj, for at føre tilsyn ved skriftlig hjemmeeksamen i foråret 2020. Datatilsynet besluttede i den forbindelse at undersøge, om ITU havde efterlevet databeskyttelsesforordningens regler ved brug af ProctorExam.. Datatilsynet har nu afgjort sagen, og konkluderer, at ITU’s behandling af personoplysninger samt brugen af ProctorExam er sket indenfor rammerne af de databeskyttelsesretlige regler.

IT-Universitetet er medarrangør på de danske og europæiske cybermesterskaber

IT-Universitetet er medarrangør på de danske og europæiske cybermesterskaber

1. februar 2021

Sammen med Industriens Fond, Forsvarets Efterretningstjeneste (FE) og tre andre universiteter, afholder IT-Universitetet for første gang de danske cybermesterskaber. Målgruppen er de 15-25 årige, og formålet er at sikre, at danske virksomheder og myndigheder i fremtiden har medarbejdere med gode digitale kompetencer.

IT-Universitetet henter to internationale forskerprofiler med startpakke fra Novo Nordisk Fonden

IT-Universitetet henter to internationale forskerprofiler med startpakke fra Novo Nordisk Fonden

27. januar 2021

To internationale og særdeles kompetente forskere har valgt at rykke teltpælene op for at forske på IT-Universitetet. Det sker ved hjælp af Novo Nordisk Fonden nye Start Package-program.

Roberta Sinatra bliver tildelt Villum-bevilling til kampen mod diskriminerende algoritmer

Roberta Sinatra bliver tildelt Villum-bevilling til kampen mod diskriminerende algoritmer

25. januar 2021

De algoritmer, som bruges til rangordne forskere på baggrund af deres videnskabelige udgivelser og citeringer, er langt fra retvisende. Villum Fonden har tildelt lektor på IT-Universitetet, Roberta Sinatra, en Young Investigators-bevilling, som hun skal bruge til skabe grundlag for en mere fair rangering.

ITU-forsker får to bevillinger til at udvikle bæredygtig software

ITU-forsker får to bevillinger til at udvikle bæredygtig software

18. januar 2021

Lektor ved IT-Universitetet i København, Pinar Tözün, er blevet tildelt to bevillinger, som hun skal bruge til forske i bæredygtig, teknologisk vækst.

Ny rapport: Cybersikkerhed er underprioriteret i danske virksomheder

Ny rapport: Cybersikkerhed er underprioriteret i danske virksomheder

12. januar 2021

Danske virksomheder ser cybersikkerhed som vigtigt, men prioriterer området lavt, viser en ny rapport udarbejdet af forskere fra IT-Universitetet og Syddansk Universitet. En del af forklaringen er, at topledere har for lidt viden om cybertruslen, mener forskerne bag rapporten.

IT-Universitetets blockchain-professor får topplaceringer på to internationale ranglister

IT-Universitetets blockchain-professor får topplaceringer på to internationale ranglister

22. december 2020

Ifølge to internationale ranglister er professor på IT-Universitetet, Roman Beck, blandt de mest betydningsfulde akademikere inden for sit felt.

”Hvis man vil lykkes med digitale løsninger, er det afgørende at tage kundens perspektiv.”

”Hvis man vil lykkes med digitale løsninger, er det afgørende at tage kundens perspektiv.”

18. december 2020

Digitalisering bliver ofte set som løsningen, hvis man både vil effektivisere og samtidig yde digital service for sine kunder. Men at lykkes med digitalisering kræver, at de digitale løsninger giver værdi for kunden. Ellers ringer kunder i stedet til kundeservice.

Meddelelse om sikkerhedsbrud

Meddelelse om sikkerhedsbrud

16. december 2020

En fil indeholdende personlige oplysninger om censorer og en række ansatte har ligget tilgængelig på et af ITU’s interne netværksdrev. Sikkerhedsbruddet er anmeldt til Datatilsynet, og de berørte personer er blevet underrettet.

It-studerende lærer unge at programmere på YouTube

It-studerende lærer unge at programmere på YouTube

11. december 2020

IT-Universitetet går i luften med en ny YouTube-kanal, hvor it-studerende inspirerer andre unge til at lære at programmere og se muligheder i teknologien. ’Tænk i Tech’-projektet er støttet af Novo Nordisk Fonden og omfatter desuden undervisning på blandt andet ungdomsskoler.

It-fag i gymnasiet kan være nøglen til ligestilling i techbranchen

It-fag i gymnasiet kan være nøglen til ligestilling i techbranchen

9. december 2020

Debatindlæg bragt på Altinget.dk den 7. december 2020.

Coronakrisen gør os mere sårbare over for hackere

Coronakrisen gør os mere sårbare over for hackere

8. december 2020

It-sikkerheden er under pres, når vi arbejder hjemme og al vigtig kommunikation foregår over nettet. Hackere forsøger at udnytte vores psykologiske og tekniske sårbarheder i forbindelse med coronakrisen, fortæller Oksana Kulyk, som forsker i de menneskelige faktorer ved it-sikkerhed på ITU.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53

Denne side er udskrevet fra https://en.itu.dk/about-itu/the-story-of-itu