Kunstig intelligens, et dumt valg
Dårlige erfaringer med katastrofale konsekvenser
Af Lilli Rodeck
Her i Danmark tales der nu om at bruge kunstig intelligens på velfærdsområdet. Ved at lave smarte logaritmer er målet at gøre det nemmere at behandle syge, arbejdsløse og svage medborgere. Det lyder besnærende, men man burde spørge de lande, som har erfaringer med kunstig intelligens.
85% fejl
På Twitter afprøvede man kunstig intelligens i et chatforum. Men hurtigt blev det klart, at den kunstige intelligens kom med racistiske og sexistiske indlæg. Twitter måtte hurtigst muligt fjerne den ikke så kloge kunstige intelligens.
Flere lande bruger kunstig intelligens til at styre udbetalinger, men har dårlige erfaringer, fordi penge standses og ofte på et forkert grundlag. I Michigan fandt den kunstige intelligens en masse snydere og krævede enormt mange penge tilbage; men det viste sig, at der var fejl i 85% af opkrævningerne.
I Australien diskuteres det, om kunstig intelligens fungerer godt, da der ikke tages højde for den enkeltes tilstand. Psykisk syge, som kan have dårlige dage, oplever ofte at blive straffet uforholdsmæssig hårdt, hvis for eksempel en telefonsamtale glipper for dem.
Danmark
På danske jobcentre bruges kunstig intelligens til at for-udse de arbejdsløses muligheder på arbejdsmarkedet. Algoritmerne bruger f.eks. etnicitet som vigtig oplysning og forklaring på, hvorfor den enkelte ender ud i langtidsledighed.
På trods af at FN advarer mod hovedløs brug af kunstig intelligens, planlægger regering, kommuner og sygehuse at udvide brugen af kunstig intelligens.
Inden for en kort tid vil mange sygehuse bruge kunstig intelligens til at diagnostisere sygdomme. Men da det er mennesker, som indkoder algoritmerne, er risikoen for fejl rigtigt stor. Drømmen er nok, at computere kan blive så smarte, at de kan diagnostisere sygdomme, som ofte overses. Men erfaringer viser, at risikoen for, at computerne går amok, er alt for stor. Og det kan jo afstedkomme katastrofer.
De farlige fejl
Måske er det eneste gode, at computere ikke reagerer på over- og middelklassens skrig om bedre service end underklassen.
Men man kan frygte, at kunstig intelligens bliver så udbredt, f.eks. at det sociale område styres af logaritmer, hvor den enkelte sagsbehandler ikke har mulighed for at ændre de beslutninger, den kunstige intelligens har besluttet. Og hvis man i logaritmerne har etnisk tilhørsforhold, religion, køn og alder, kan man frygte, at hele velfærdsområdet bliver styret af en racistisk og sexistisk computer, som ikke kan ændres, inden store skader er sket.
Det, som mange ikke er klar over, er, at kunstig intelligens ikke er klogere end programmørerne, som er styret af menneskelige fejl. Så ved at læne sig op af kunstig intelligens, kan man ende med et fejlbehæftet system.
I Skat har man i mange år prøvet at få kunstig intelligens til at styre inddragelsen af gæld, hvilket er endt i skraldespanden. De kæmper med at få kunstig intelligens til at udregne ejendomsskat, hvilket endnu ikke virker, selvom man i mange år har arbejdet med at programmere de rigtige logaritmer.
Godt nok er mennesker fejlbehæftede, men laver de fejl, kan man hurtigt ændre på det. Det skal der ikke logaritmer til, men ofte bare sund fornuft.