Kunstig intelligens – noget nyt og farligt?

Økonomi

Af Bo Møller

I panik før lukketid lancerer regeringen den ene rapport efter den anden om tilfældige emner. Senest kom en rapport med den flotte titel: ’National strategi for kunstig intelligens’. Forhåbentlig er der ikke mange, der læser den, for magen til pladder er sjældent set. 

Hvad er kunstig intelligens?

Kunstig intelligens er meget omtalt, men er ikke noget nyt. Allerede i 1996 havde IBM fremstillet en computer, der kunne spille skak så godt, at den vandt over den daværende sovjetiske verdensmester. I virkeligheden var det ret simpelt: Først programmerede man alle spilleregler i skak og lagde dem ind i computeren. Herefter lagde man et stort antal data om virkelige skakspil ind i computerens hukommelse. Når det blev computerens tur i et spil skak, slog den op i sit bibliotek over tidligere spil og fandt de situationer, der lignede den aktuelle mest. Herefter så den så, hvad de virkelige skakspillere, der faktisk havde vundet deres spil, havde gjort i en tilsvarende situation. Så efterabede maskinen bare det.

Hvad er det nye?

Det er stort set samme teknik, som nutidens maskiner bruger. Maskinerne er dog i dag meget kraftigere, og de har adgang til langt flere data.  F.eks. kan en computer hos COOP ud fra dine indkøb, der er aflæst via stregkoden ved kassen, finde et mønster i dine indkøbsvaner.  På den baggrund kan COOP tilrette sine tilbud til at passe godt til netop dig. Et politisk parti kan ud fra din anvendelse af Facebook finde ud af, hvilke emner du interesserer dig for, og så tilpasse partiets politiske propaganda derefter. Det første eksempel er ret uskadeligt, mens det næste er mere alvorligt. Det kan blive meget værre: F.eks. ved Google ud fra at følge min brug af min private computer, at jeg jævnligt slår op på KPiDs hjemmeside og at jeg følger med i den internationale kommunistiske bevægelsens hjemmeside. Så Google ved, at jeg nok har kommunistiske sympatier. I 1943, hvor det kommunistiske parti blev forbudt, blev et stort antal kommunister interneret på grundlag af lister hos det danske politi. I dag ville det være meget mere effektivt at fængsle kommunister ud fra Googles data.

Det drejer sig i disse eksempler om at finde et mønster i en enorm mængde data. Hertil kræves maskinkraft og så nogle algoritmer. Algoritmer er – ligesom strikkeopskrifter, der for udenforstående er ulæselige – ret beset kun regneregler, der er lavet, så de kan finde mønstre i store datamængder.

Skal kunstig intelligens forbydes?

Nej, men der skal være grænser for, hvordan kunstig intelligens må bruges. Kunstig intelligens kan f.eks. være med til at finde risiko for kræft ud fra en række data – men den endelige beslutning om en behandling skal træffes af en læge. Tilsvarende gælder for f.eks. ejendomsvurderinger, hvor en maskine kan komme med forslag ud fra data om ejendommen, men det skal være et menneske, der i sidste ende ser på, om maskinens forslag ser fornuftigt ud. Der er flere grunde hertil: 

• Det skal det være muligt at klage over en afgørelse. Man kan ikke på samme måde klage over en maskine som over en persons fejl.
• En maskine, der fungeret nok så effektivt, kan blive hacket og sat til at træffe forkerte afgørelser. 
• Enhver nok så dygtig programmør kan lave fejl i de indviklede programmer – fejl, som kan få alvorlige konsekvenser.
• Endelig kan et system, der kan træffe korrekte afgørelser på nuværende tidspunkt, regne helt forkert, hvis den virkelige verden ændrer sig på en uforudset måde

Man kan ikke forbyde kunstig intelligens, men vi skal kræve, at såvel offentlige som private systemer underlægges en løbende og uafhængig kontrol.