Skip to main content ITU
ITU
  • Eng
  • Stillinger
  • Presse
  • ITU Alumni
  • Nyheder
  • Events
  • Kontakt
  • Om ITU
  • English
  • Om ITU
x
  • Uddannelser
    • Bachelor
      • BSc i Global Business Informatics
      • BSc i Digital Design og Interaktive Teknologier
      • BSc i Softwareudvikling
      • BSc i Data Science
      • Sådan søger du ind
      • Gæstestuderende på bachelorniveau
      • ITU Summer University på bachelorniveau
      Kandidat
      • MSc i Data Science
      • MSc i Digital Innovation & Management
      • MSc i Digital Design og Interaktive Teknologier
      • MSc i Datalogi
      • MSc i Softwaredesign
      • MSc i Spil
      • Sådan søger du ind
      • Gæstestuderende på kandidatniveau
      • ITU Summer University på kandidatniveau
      Studieliv
      • Hvordan er det at være studerende på ITU?
      • Kvinder i tech
      • Labs for studerende
      • Spørg en studerende
      • Studenterorganisationer
      • Studiestart
      • Studie- og karrierevejledning
      • #lifeatITU
      Besøg ITU
      • Studerende for en dag
      • Coding Café for kvindelige gymnasieelever
      • IT-Camp for kvindelige gymnasieelever
      • Gymnasiebesøg
      • Studiepraktik i uge 43
      • Åbent Hus
      • Få besøg af ITU
        • Digital Dannelse
        • Coding Classes
  • Efteruddannelser
    • Master i it
      • Master i it-ledelse (opstart 2021)
      • Master i it-ledelse (sidste optag 2020)
      • Studiestart
      • Besøg IT-Universitetet
      • Kontakt
      • Nyhedsbrev
      Enkeltfagskurser
      • Se alle kurser
      • Kontakt
      ITU Professional Courses
      • Om ITU Professional Courses
      • Alle kurser
      • Skræddersyede kurser
      • Kontakt
  • Forskning
    • Institutter
      • Institut for Business IT
      • Institut for Datalogi
      • Institut for Digital Design
      • Forskningsgrupper og labs
        • Forskningsgrupper
        • Labs
      Forskningscentre
      • Center for Computer Games Research
      • Center for Computing Education Research
      • Center for Digital Velfærd
      • European Blockchain Centre
      • Forskningscenter for offentlig it
      • Centre for Information Security and Trust
      • Forskningsetik og -integritet
        • God forskningspraksis
      Udvalgte forskningstemaer
      • Big data
      • Blockchain
      • Computerspil
      • It-sikkerhed
      • Kunstig intelligens
      • Digitalisering
      • Find en forsker
        • Faculty Search
      Ph.d.-skole
      • Ledige ph.d.-stillinger
      • Om ph.d.-uddannelsen
      • Ph.d.-kurser
      • Ph.d.-forsvar
      • Tekniske rapporter
        • Tekniske rapporter
  • Erhvervssamarbejde
    • Samarbejde med Studerende
      • Projektsamarbejde
      • Projektmarked
      • Studiejob
      • Projektopslag
      • Job- og projektbank
      • Kandidatportrætter
      Employer Branding
      • IT Match Making
      • Sådan ansætter du en ITU'er
      • Lav opslag i Jobbanken
      Samarbejde om forskning
      • Licenser teknologi
      • Samarbejde om forskning
      • ErhvervsPhD
        • Ansæt en ErhvervsPhD
      Innovation og iværksætteri
      • ITU Business Development
      • ITU Startup programme
      • Startup historier
      • CSSME
        • Introduktion til it-sikkerhed for virksomheder
        • It-sikkerhed i praksis for virksomheder
  • Uddannelser
    • Forside: Uddannelser
    • Besøg ITU
    • Studieliv
    • Bacheloruddannelser
    • Kandidatuddannelser
  • Efteruddannelser
    • Forside: Efteruddannelser
    • Kvalifikationsforloeb
    • Master i it
    • Enkeltfagskurser
    • ITU Professional Courses
  • Forskning
    • Forside: Forskning
    • Institutter
    • Forskningsgrupper og centre
    • Labs
    • Forskningsetik og -integritet
    • Tekniske rapporter
    • Ph.d.-skolen
  • Erhvervssamarbejde
    • Forside: Erhvervssamarbejde
    • Samarbejde med studerende
    • Employer Branding
    • Samarbejde om forskning
    • Erhvervs-ph.d.
    • Employer Branding
    • Innovation og iværksætteri
  • Genveje
    • Stillinger
    • Presse
    • ITU Alumni
    • Nyheder
    • Events
    • Kontakt
    • Om ITU
  • English
Skal vi frygte kunstig intelligens?
ITU  /  Presse  /  Nyheder fra ITU  /  Skal vi frygte kunstig intelligens?

Skal vi frygte kunstig intelligens?

Vil udviklingen inden for kunstig intelligens føre til, at robotterne en dag overtager verden? Thore Husfeldt, algoritmeforsker på IT-Universitetet, frygter nærmere den overvågning, som kunstig intelligens og andre digitale teknologier muliggør allerede nu. Mød ham til Forskningens Døgn på ITU torsdag d. 25. april.

Institut for DatalogiEventsForskningkunstig intelligensrobotterThore Husfeldt

Skrevet 25. april 2019 07:51 af Vibeke Arildsen

”Udviklingen af sand kunstig intelligens kan betyde enden for menneskeheden,” udtalte den legendariske fysiker Stephen Hawking tilbage i 2014.

Også prominente folk som Elon Musk og Bill Gates har udtrykt bekymring for, at utøjlet kunstig intelligens kan løbe løbsk og ende med at være ødelæggende for menneskeheden. Samme fortælling kender vi fra populærkulturen, for eksempel Terminator-filmene, hvor dræberrobotter overtager verdensherredømmet.

Men vi er stadig langt fra katastrofescenarierne om løbske robotter, mener Thore Husfeldt, som forsker i algoritmer og teoretisk datalogi på ITU.

Rent teknisk er de kunstige intelligenser, vi har i dag, faktisk ikke særlig intelligente i menneskelig forstand.

Kunstig intelligens: På vej mod apokalypsen?

Er computere på vej til at blive klogere end os mennesker, og er der reel fare for, at de vil udslette os?

Til Forskningens Døgn på ITU torsdag d. 25. april 2019 diskuterer ITU-forsker Thore Husfeldt disse spørgsmål med sin svenske kollega, Olle Häggström, professor i matematisk statistik ved Chalmers University of Technology.

Diskussionen modereres af Christiane Vejlø, vært på radioprogrammet Elektronista.

Arrangementet er udsolgt, men kan efterfølgende ses i fuld længde på itu.dk. Læs mere. 
”I dag er vi vant til at omgås meget specifikke kunstige intelligenser – det kan for eksempel være en skakcomputer, som løser et meget konkret, afgrænset område af en beslutningsproces meget godt,” forklarer Thore Husfeldt.

De specifikke kunstige intelligenser har dog ingen selvstændige tanker eller vilje, de kan ikke løse opgaver, der ikke er klart definerede, og de kan ikke selv definere nye arbejdsopgaver, som mennesket kan.

Skak er nemt, at genkende ansigter er svært

Hvorvidt det en dag bliver teknisk muligt for robotterne at tænke selvstændigt og efterfølgende vende sig mod os, afhænger af, om det lykkes forskerne at udvikle generel kunstig intelligens – altså kunstig intelligens, der kan løse andet end afgrænsede opgaver.

Arnold Schwarzenegger som Terminator.
Nok den mest berømte dræberrobot: Terminator i skikkelse af Arnold Schwarzenegger.

Og det har vist sig sværere, end forskerne oprindeligt regnede med. Ikke mindst fordi, det i starten ikke stod fuldstændig klart, hvad intelligens egentlig er for en størrelse.

”I 1950, hvor Alan Turing skrev den første forskningsartikel om kunstig intelligens, var vores fælles intuition om, hvad der er intelligent og ikke intelligent stadig af den type, at man troede, at skakspil var en god målestok for intelligens. Helt enkelt fordi mennesker, der spiller skak, ofte er lynende intelligente. Derimod troede vi, at evnen til at kende forskel på ansigter, som de fleste etårige børn er i stand til, var triviel,” forklarer Thore Husfeldt.

”Det viste sig, at de ting, vi troede var nemme, er svære, og omvendt. Det var meget nemmere at udvikle en skakcomputer end at lave en maskine, der kan genkende ansigter på niveau med et etårigt barn.”

I dag har computeren for længst fejet selv de bedste menneskelige skakspillere af banen, og mange former for specifik kunstig intelligens er allerede i spil i vores hverdag – telefonen kan kategorisere billeder, selvkørende biler kan navigere i tæt trafik, og algoritmer kan træffe beslutninger om at købe og sælge aktier.

Papirclips-apokalypsen

Vi har dog stadig ikke opfundet en generel kunstig intelligens, der potentielt en dag vil finde på at sætte gang i en masseudryddelse af mennesket. Ifølge Thore Husfeldt er det heller ikke nødvendigt at maskinerne bliver decideret ondsindede. Han mener, at selv en generel kunstig intelligens med neutrale arbejdsopgaver in extremis kan føre til udslettelse af menneskeheden.

Et berømt eksempel, der illustrerer hans pointe, handler om noget så banalt som papirclips. Det starter med, at et menneske beder en computer om at fremstille én million papirclips så billigt, som overhovedet muligt.

»

Den største trussel mod computerens overlevelse er mennesket. Så hvis ikke vi fortæller den, at den ikke skal slå alle mennesker ihjel, vil den starte med at gøre det [...]

«
”Der findes mange underholdende eksempler på, hvordan computeren kan misforstå denne opgave og i sidste ende med at udrydde mennesket. Fra computerens perspektiv er det i første omgang en god idé at sørge for, at ingen mennesker kommer i vejen. Den har fået en opgave, som den ikke kan løse, hvis ikke den eksisterer. Den største trussel mod computerens overlevelse er mennesket. Så hvis ikke vi fortæller den, at den ikke skal slå alle mennesker ihjel, vil den starte med at gøre det, inden den overhovedet laver den første papirclips,” fortæller Thore Husfeldt.

Papirclips.

De ser så uskyldige ud... Men kan papirclips være begyndelsen til enden for mennesket? 

”Her taler vi ikke engang om en særlig klog eller ondartet kunstig intelligens. Men selvfølgelig findes der også katastrofescenarier, hvor den kunstige intelligens er lige så ondartet mod homo sapiens, som vi er mod andre arter,” siger han og tilføjer, at selvom eksemplet med papirclips er fiktivt og absurd, er potentialet for, at noget lignende kan ske, dog til stede – for første gang i historien.

Bør vi fortsætte med at forske?

Og dette potentiale – hvor end hypotetisk – er årsagen til, at mange filosoffer i øjeblikket stiller spørgsmålet: Bør vi fortsætte bestræbelserne på at opnå generel kunstig intelligens?

Det er et dilemma, som også de, der uddeler forskningsmidler må forholde sig til.

”Forskningsansøgninger om kunstig intelligens har det i dag typisk som langsigtet mål at skabe generel kunstig intelligens. Hvis der i en ansøgning om midler til et projekt om kunstig intelligens står, ’hvis det her virker, er det muligvis et første skridt i retningen mod generel kunstig intelligens’ – bør man så smide ansøgning i skraldespanden eller give den penge?,” spørger han.

Han forestiller sig, at det øgede fokus på de negative konsekvenser af kunstig intelligens kan føre til, at forskere i kunstig intelligens skal redegøre for sikkerhedsovervejelser i deres projektbeskrivelser, ligesom eksempelvis forskere i smitsomme sygdomme gør det i dag.

Frygt for totalovervågning

For Thore Husfeldt handler den primære bekymring om kunstig intelligens dog ikke om udviklingen af en generel kunstig intelligens. Han frygter ikke, at teknologien udvikler værdier, som adskiller sig fra menneskets. Derimod ser han en fare for, at kunstig intelligens kan anvendes som et våben af mennesker, hvis værdier, han ikke deler.

Han mener, at kunstig intelligens og andre digitale teknologier i dag muliggør en totalovervågning, som DDR-styret kun kunne drømme om. Samtidig kan det være svært at argumentere imod overvågningen, for den kan også have mange positive effekter.

Han giver et hypotetisk eksempel:

En mand går ind på en bar og bestiller tre store fadøl på en time, hvorefter han sætter sig ind i sin bil for at køre hjem. Ved hjælp af de digitale spor, han efterlader via sit kreditkort, bilens låsesystem og mobiltelefonen, kan man i princippet forhindre ham i at køre spirituskørsel, inden det sker. Og det er svært at argumentere for, at hans privatliv er vigtigere end at forhindre, at en flok skolebørn bliver kørt ned.  

Vi har ikke brug for Terminator

Faktisk er en sådan massiv overvågning mulig allerede med den teknologi, vi har i dag. I Kina bruger man i stor stil kameraer og ansigtsgenkendelse til at sørge for, at befolkningen opfører sig ordentligt.

Overvågningskameraer.
Allerede i dag muliggør teknologien massiv overvågning af os alle.

»

Hvis vi bor i et samfund, hvor alle vores handlinger bliver overvåget konstant, er vi på en eller anden måde selv blevet til robotter

«
Ifølge Thore Husfeldt har vi altså slet ikke brug for et katastrofescenarie, hvor computerne bliver klogere end os. Teknologien er allerede tilstrækkeligt avanceret til at gennemføre alle totalitære scenarier. Han frygter derfor ikke en robotapokalypse, men nærmere at teknologien skaber grobund for et totalovervåget samfund.

”Hvis vi bor i et samfund, hvor alle vores handlinger bliver overvåget konstant, er vi på en eller anden måde selv blevet til robotter,” siger han.

Mere information

Thore Husfeldt, lektor, telefon +45 7218 5075, email thore@itu.dk

Vibeke Arildsen, presserådgiver, telefon 2555 0447, email viar@itu.dk

Nyheder

ITU-forsker får to bevillinger til at udvikle bæredygtig software

ITU-forsker får to bevillinger til at udvikle bæredygtig software

18. januar 2021

Lektor ved IT-Universitetet i København, Pinar Tözün, er blevet tildelt to bevillinger, som hun skal bruge til forske i bæredygtig, teknologisk vækst.

Ny rapport: Cybersikkerhed er underprioriteret i danske virksomheder

Ny rapport: Cybersikkerhed er underprioriteret i danske virksomheder

12. januar 2021

Danske virksomheder ser cybersikkerhed som vigtigt, men prioriterer området lavt, viser en ny rapport udarbejdet af forskere fra IT-Universitetet og Syddansk Universitet. En del af forklaringen er, at topledere har for lidt viden om cybertruslen, mener forskerne bag rapporten.

IT-Universitetets blockchain-professor får topplaceringer på to internationale ranglister

IT-Universitetets blockchain-professor får topplaceringer på to internationale ranglister

22. december 2020

Ifølge to internationale ranglister er professor på IT-Universitetet, Roman Beck, blandt de mest betydningsfulde akademikere inden for sit felt.

”Hvis man vil lykkes med digitale løsninger, er det afgørende at tage kundens perspektiv.”

”Hvis man vil lykkes med digitale løsninger, er det afgørende at tage kundens perspektiv.”

18. december 2020

Digitalisering bliver ofte set som løsningen, hvis man både vil effektivisere og samtidig yde digital service for sine kunder. Men at lykkes med digitalisering kræver, at de digitale løsninger giver værdi for kunden. Ellers ringer kunder i stedet til kundeservice.

Meddelelse om sikkerhedsbrud

Meddelelse om sikkerhedsbrud

16. december 2020

En fil indeholdende personlige oplysninger om censorer og en række ansatte har ligget tilgængelig på et af ITU’s interne netværksdrev. Sikkerhedsbruddet er anmeldt til Datatilsynet, og de berørte personer er blevet underrettet.

It-studerende lærer unge at programmere på YouTube

It-studerende lærer unge at programmere på YouTube

11. december 2020

IT-Universitetet går i luften med en ny YouTube-kanal, hvor it-studerende inspirerer andre unge til at lære at programmere og se muligheder i teknologien. ’Tænk i Tech’-projektet er støttet af Novo Nordisk Fonden og omfatter desuden undervisning på blandt andet ungdomsskoler.

It-fag i gymnasiet kan være nøglen til ligestilling i techbranchen

It-fag i gymnasiet kan være nøglen til ligestilling i techbranchen

9. december 2020

Debatindlæg bragt på Altinget.dk den 7. december 2020.

Coronakrisen gør os mere sårbare over for hackere

Coronakrisen gør os mere sårbare over for hackere

8. december 2020

It-sikkerheden er under pres, når vi arbejder hjemme og al vigtig kommunikation foregår over nettet. Hackere forsøger at udnytte vores psykologiske og tekniske sårbarheder i forbindelse med coronakrisen, fortæller Oksana Kulyk, som forsker i de menneskelige faktorer ved it-sikkerhed på ITU.

På hjemmekontoret er du din egen it-medarbejder – og det stresser

På hjemmekontoret er du din egen it-medarbejder – og det stresser

2. december 2020

Coronakrisen har bundet os til vores computere i endnu højere grad end tidligere. Det bør være en anledning til at tale åbent om, hvordan teknologien kan være en stressfaktor, mener Raluca Stana, som forsker i technostress på IT-Universitetet.

Studie: Kvindelige forskere er lige så produktive som mænd – men har kortere karrierer

Studie: Kvindelige forskere er lige så produktive som mænd – men har kortere karrierer

30. november 2020

Et omfattende studie af 1,5 millioner forskeres karrierer viser, at kvinder og mænd i gennemsnit producerer lige mange videnskabelige artikler årligt, men at kvinderne forlader forskerkarrieren tidligere. ITU-forsker Roberta Sinatra, som er medforfatter til studiet, mener at beslutningstagere bør kigge nærmere på årsagerne til, at kvinderne forlader den akademiske verden.

IT-Universitetet bliver en vigtig del af nyt nationalt forskningscenter for digitale teknologier

IT-Universitetet bliver en vigtig del af nyt nationalt forskningscenter for digitale teknologier

26. november 2020

Innovationsfonden har bevilliget 100 mio. kr. til et nationalt forskningscenter for digitale teknologier. Centerets konsortium består af syv danske universiteter, deriblandt IT-Universitetet, samt Alexandra Instituttet.

Unge ITU-forskere har stor succes med Sapere Aude-bevillinger

Unge ITU-forskere har stor succes med Sapere Aude-bevillinger

25. november 2020

Selvom IT-Universitetets datalogi-forskere kun fylder 0,4 procent i det samlede danske universitetslandskab, har de fået mere end 8 procent af årets Sapere Aude-bevillinger fra Danmarks Frie Forskningsfond.

Coronakrisen har fået ledere til at slippe tøjlerne og finde empatien frem

Coronakrisen har fået ledere til at slippe tøjlerne og finde empatien frem

23. november 2020

Da coronaen ramte og medarbejderne blev sendt hjem, måtte lederne slippe kontroltrangen og i stedet fokusere på den enkeltes unikke situation, siger Louise Harder Fischer, som forsker i ledelse og digital transformation på ITU. Her er første artikel i en ny serie, hvor forskere fra ITU sætter ord på coronaens aftryk på den digitale omstilling.

IT-Universitetet igangsætter arbejde for større kønsdiversitet blandt de ansatte

IT-Universitetet igangsætter arbejde for større kønsdiversitet blandt de ansatte

12. november 2020

Med en ny handlingsplan vil ITU arbejde systematisk og strategisk for at fremme kønsdiversiteten ved at sikre lige muligheder for alle ansatte.

Bliv klogere i kaffepausen: ITU lancerer samtalerække om digital transformation

Bliv klogere i kaffepausen: ITU lancerer samtalerække om digital transformation

12. november 2020

I en ny serie af livestreamede samtaler vil IT-Universitetet formidle indsigter fra it-forskningen til professionelle, der arbejder med digitalisering. Under overskriften ITU ESPRESSO vil serien forløbe som en række koncentrerede kaffepauser, der gør dig klogere på alt det, der rører sig på digitaliseringsagendaen. Første talk går i luften 26. november.

Software-studerende vinder pris for lærerigt spil om techmonopoler

Software-studerende vinder pris for lærerigt spil om techmonopoler

11. november 2020

Lily Li og Olivia Winkel afsluttede deres bachelorgrad i Softwareudvikling med et projekt om spilbaseret læring. Opgaven har netop modtaget FA’s bachelorpris – og med anerkendelsen følger en check på 30.000 kroner.

Ny uddannelseschef til ITU

Ny uddannelseschef til ITU

9. november 2020

IT-Universitetet har ansat Pernille Rydén som uddannelseschef per 1. januar 2021.

Forelæsning via liveradio: Corona baner vej for nye undervisningsformer

Forelæsning via liveradio: Corona baner vej for nye undervisningsformer

5. november 2020

De logistiske udfordringer, der følger med coronarestriktionerne, giver anledning til nytænkning blandt underviserne på ITU. Halvdelen af forelæsningerne på kurset ’Navigating Complexities’ er i dette semester forvandlet til et live-radioprogram med både nyheder, diskussioner og musikpauser. Radioformatet giver nye muligheder for at formidle kompleks viden til de studerende, mener underviserne.

Populært it-sikkerhedskursus for mindre virksomheder rykker online

Populært it-sikkerhedskursus for mindre virksomheder rykker online

3. november 2020

IT-Universitetets gratis it-sikkerhedskurser til små og mellemstore virksomheder går nu i luften på nettet og bliver dermed tilgængelige for virksomheder over hele Danmark.

Nyt center på IT-Universitetet skal give flere unge nøglen til digitale fagområder

Nyt center på IT-Universitetet skal give flere unge nøglen til digitale fagområder

27. oktober 2020

Mange mennesker bliver skræmte bare ved tanken om at lære om it, fx et programmeringssprog. Men sådan behøver det faktisk ikke at være. Deltag i åbningen af IT-Universitetets nye Center for Computing Education Research torsdag 5. november og få mere at vide om, hvordan vi sikrer, at dørene til it-fagene bliver åbnet for flere.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53

Denne side er udskrevet fra http://212.97.130.100/