Eksperimenter med kunstig intelligens må ikke bryde dataetikken


Teknologidirektør Hans Jayatissa, KMD, er en erfaren herre med stor viden om de nye teknologier, som kunstig intelligens, machine learning og blockchain.
Han har siden foråret 2017 arbejdet i KMD, hvor han har ansvaret for at opbygge og drive KMD's Office of Technology-enhed.
Hans Jayatissa er uddannet cand.scient i datalogi og matematik fra Aarhus Universitet i 1994 og har en MBA fra Henley Business School (2006).
I sin fritid er han bestyrelsesmedlem i De Berejstes Klub og han har i skrivende stund besøgt 82 lande.

Af CTO Hans Jayatissa, KMD
Hvordan kan vi rent praktisk give plads til at eksperimentere med kunstig intelligens uden at give køb på den nødvendige etiske ansvarlighed?

Kunstig intelligens kan både skabe vækst, velfærd og et bedre samfund for os alle. Det kan f.eks. ske, når kunstig intelligens kan hjælpe læger med at diagnosticere en patient hurtigere end i dag – eller når virksomheder kan øge deres konkurrenceevne ved at lære sine kunder og deres behov bedre at kende, fordi kunstig intelligens kan analysere indkøbsmønstre og brugsmønstre baseret på store mængder data.

I det perspektiv er etisk ansvarlighed helt afgørende, men samtidig er det vigtigt at kunne prøve teknologiens muligheder af og eksperimentere.

For hvis vi i dataetikkens navn på forhånd blokerer for forsøg og eksperimenter, der kan lære os at udnytte kunstig intelligens, så lærer vi hverken det fulde potentiale eller de ukendte barrierer at kende.

Det beskrev jeg for et par måneder siden i et debatindlæg i Jyllands-Posten som reaktion på den daværende regerings nye nationale strategi for kunstig intelligens. I mit indlæg efterspurgte jeg et frirum med plads til eksperimenter uden at sætte etikken og sikkerheden på spil. Det kunne f.eks. være ønsket om at samkøre databaser, som normalt ikke må samkøres. Hvis man som et eksperiment ved hjælp af kunstig intelligens kunne vise fordele ved samkøringen, som var store og vigtige for samfundet, kunne man måske på baggrund af eksperimentet overveje regelændringer.

Tjekliste som værktøj
Efterfølgende er jeg mange gange blevet spurgt, hvordan man rent praktisk kunne etablere sådan et frirum for eksperimenter med kunstig intelligens – og det vil jeg da meget gerne give et bud på.

Jeg vil tillade mig at begynde i EU, for her bliver der også arbejdet intenst med de etiske, praktiske og lovmæssige sider af kunstig intelligens. EU-kommissionen offentliggjorde i april 2019 det første udkast til det, som skal blive en tjekliste, der er tænkt som et værktøj til brug for kunstig intelligens projekter.

”Men EU-listen er retrospektiv, hvor man kigger tilbage på, om man gjorde tingene korrekt. Mit forslag vil i stedet være en proaktiv tjekliste, som skal bruges, før selve kunstig intelligens-projektet bliver sat i gang.”

Frem mod starten af 2020 vil en række europæiske myndigheder og private virksomheder indgå i pilotprojektet og være med til at vurdere og justere listen. KMD er netop blevet godkendt til at indgå i projektet.

Det første udkast af listen spørger bl.a., om man i udviklingen af sin AI-software har gjort det på en etisk forsvarlig måde – og om man har overvejet, om løsningen kan være forudindtaget mod bestemte befolkningsgrupper. Der er mange gode ting at sige om listen, og jeg er især begejstret over tilgangen med en tjekliste. Mit forslag til en praktisk tilgang til et frirum til eksperimenter tager således også udgangspunkt i en tjekliste.

Men EU-listen er retrospektiv, hvor man kigger tilbage på, om man gjorde tingene korrekt. Mit forslag vil i stedet være en proaktiv tjekliste, som skal bruges, før selve kunstig intelligens-projektet bliver sat i gang.

Mulighed for at fravige tjeklisten
Jeg forestiller mig en tjekliste på f.eks. 20 punkter med emner, som man bør overveje at have styr på – af både tekniske, etiske og lovmæssige art – før man går i gang. Hvis man kan sætte kryds ved alle punkter på listen, bør man uden problemer kunne sætte sit projekt i gang – for så er man inden for de rammer, vi som samfund har udstukket.

Men hvis vi kommer til eksperimenter og forsøg, kan man måske ikke altid sætte kryds ved alle punkter. Faktisk vil der måske være specifikke områder, hvor man ønsker at udfordre reglerne for at kunne lære at udnytte kunstig intelligens til nye tiltag. Måske ønsker man at undersøge konsekvenserne ved en forudindtaget kunstig intelligens – eller man ønsker at samkøre nogle data, man ikke har samtykke til at bruge. Det skal man kunne bruge mit ’frirum’ til.

Jeg forestiller mig, at man her kan søge om at lave et eksperiment, hvor man afviger fra tjeklistens punkter. I ansøgningen skal man forklare, hvorfor det er relevant at bevæge sig væk fra tjeklisten – og hvilke hypoteser man har om samfundsmæssige fordele, som denne nye brug af kunstig intelligens vil kunne give.

Ansøgningen sendes f.eks. til Dataetisk Råd eller Datatilsynet – eller en forretningsenhed under en af disse, som hurtigt kan give en godkendelse eller afvisning – eller foreslå andre veje til at opnå de samme resultater. Det er afgørende med en hurtig vurdering – og her er tjeklisten et godt redskab.

Godkendelsen vil så udelukkende gælde et pilotprojekt eller proof of concept, som kan vurdere effekten af kunstig intelligens i den konkrete situation, som man ikke umiddelbart har lov til at gennemføre. Projektet skal altså undersøge, om ’ulovlighederne’ har store fordele for samfundet.

Efterfølgende skal projektet dokumenteres – og de konstaterede fordele og ulemper beskrives grundigt, så f.eks Datatilsynet kan beslutte at godkende at bruge løsningen fremadrettet – eller helt skrotte projektet.

Den beskrevne proces vil gøre det muligt at eksperimentere med kunstig intelligens under kontrollerede forhold og med fuld transparens i stedet for etisk tvivlsomme projekter, som bliver gennemført under radaren ude i landet.
Vi vil således sikre, at vi bedre kan udnytte det fulde potentiale af en teknologi, hvor vi hidtil hovedsagligt har skrabet i overfladen - også selv om vi bevæger os ud i grænsetilfælde. For det kan jo netop være der, at vi for alvor høster fordelene ved kunstig intelligens til gavn for væksten og samfundet.