Dataetiske standarder kan blive ny GDPR

Dansk Standards udvalg for kunstig intelligens skal levere input til de internationale standarder, der udarbejdes i en Joint Technical Committee under ISO/IEC. Komitéen er her forsamlet til det første møde i Beijing i april 2018, hvor Lars Rugholm Nielsen, Erhvervsstyrelsen, og Kim Skov Hilding, Dansk Standard, deltog. Foto: ISO/IEC

Af Stig Andersen

Dataetiske emner har fyldt meget på de første møder i Dansk Standards udvalg for kunstig intelligens og forventes at være et vigtigt element i det danske input til de internationale standarder. Etik er dog en besværlig størrelse, hvis der skal opnås enighed internationalt.

Arbejdet i Dansk Standards udvalg for kunstig intelligens er nu i fuld gang. Udvalget, som i øjeblikket består af 10 medlemmer, har siden april 2018 i første omgang arbejdet med afklaring af terminologi og koncepter, men fokus er hurtigt kommet over på nogle af de etiske problemstillinger, der knytter sig til anvendelsen af kunstig intelligens.

”På længere sigt tror jeg på, at der er en forretningsmæssig fordel i at indbygge ansvarlighed i løsningerne," siger Anders Kofod-Petersen, professor i kunstig intelligens ved Norges Teknisk-Naturvidenskabelige Universitet (NTNU) og vicedirektør i Alexandra Instituttet.

”Når der skal bygges noget i virkeligheden, er det vigtigt med standarder. Som kunde eller bruger af et system skal jeg have sikkerhed for, at systemet gør lige det, jeg har bedt det om, og det kan standarder være med til at sikre. Så derfor er det også rigtig interessant at diskutere tillid og etik i den sammenhæng,” siger Anders Kofod-Petersen, professor i kunstig intelligens ved Norges Teknisk-Naturvidenskabelige Universitet (NTNU) og vicedirektør i Alexandra Instituttet, som han repræsenterer i udvalget.

Udfordringer internationalt
Han forventer i det hele taget, at etik bliver et stort emne i udvalgets arbejde, og at det vil blive en vigtig komponent i det, der bliver båret videre til det internationale standardiseringsarbejde. Men udfordringerne er til at få øje på.

”Når det gælder jura og etik, skal man virkelig holde tungen lige i munden, hvis man arbejder med internationale standarder. Opfattelsen af hvad man eksempelvis forstår ved tillid i en forretningsmæssig sammenhæng varier jo stærkt på tværs af planeten. Så uden at det skal misforstås går øvelsen måske ud på at blive enige om nogle standarder for, hvad kunstig intelligens-baserede løsninger skal levere, uden at blande for meget jura og etik ind i det,” siger Anders Kofod-Petersen, der understreger, at de etiske indspark er vigtige, men at de måske i højere grad vil tjene som inspiration.

Analogt til GDPR
Morten Rosted Vang, chefkonsulent i Dansk Industri (DI), sidder også i udvalget og fortæller, at for DI har digital ansvarlighed fra starten været et fokuspunkt og en hovedgrund til, at man er gået ind i arbejdet i udvalget.

”Aktuelt er borgernes tillid til digitaliseringen på spil, og det gælder i høj grad også i forhold til kunstig intelligens. I DI tror vi også på, at digital ansvarlighed bliver et konkurrenceparameter, selvom det i første omgang måske virker som en hæmsko. Udviklingen går simpelthen i retning af, at ansvarlighed er en integreret del af produktet,” siger han.

Ifølge Anders Kofod-Petersen er der to yderpunkter, når det gælder mulige scenarier.
”Hvis der overhovedet ikke er sat nogen etiske begrænsninger, kan man kan løse alle mulige problemer. Modsat kan man ikke løse nogen problemer overhovedet, hvis man sætter for mange begrænsninger op,” siger han og fortsætter:

”Fra et teknisk perspektiv kan det godt gøre tingene lidt vanskeligere, men på længere sigt tror jeg på, at der er en forretningsmæssig fordel i at indbygge ansvarlighed i løsningerne. Jeg ser en analogi til GDPR, hvor man landede et sted midt imellem yderpunkterne. Og interessant nok er nogle amerikanske virksomheder nu begyndt at adoptere en GDPR-agtig tilgang, fordi deres kunder går op i, at de opfører sig ansvarligt.”

Dansk Industri er ifølge chefkonsulent Morten Rosted Vang gået ind i arbejdet i Dansk Standards udvalg for kunstig intelligens med et hovedfokus på digitial ansvarlighed.

Morten Rosted Vang ser samme tendens:
”Internationalt pågår der et arbejde med at fastlægge retningslinjer for, hvordan vi skal forholde os til de store datamængder, vi har til rådighed i dag, og hvordan vi anvender dem på forsvarlig vis. Og vi kan se, at tankegangen i GDPR har spredt sig som ringe i vandet.”

Privatliv vs. samfundets behov
Etiske problemstillinger optræder i mange varianter i forhold til nye teknologi som kunstig intelligens. En af de helt overordnede diskussioner er ifølge Anders Kofod-Petersen spørgsmålet om, hvornår samfundets behov er vigtigere end det enkelte individs. Eller formuleret på en anden måde: Hvornår må man som borger acceptere at levere personlig data, så et kunstig intelligens-baseret system eksempelvis kan diagnosticere sygdomme bedre end lægerne – uden at det nødvendigvis kommer den enkelte leverandør af data til gode?

”Hvis vi tager eksemplet med brug af persondata og kunstig intelligens inden for lægevidenskaben, så har vi i dag meget vide rammer for anvendelse inden for forskningen. Men hvis vi kommer til den egentlige diagnosticering og behandling, så har vi endnu ikke fundet vores ben. Her har vi brug for at afklare balancen mellem individets privatliv og samfundets behov,” siger Anders Kofod-Petersen.

Selvom dataetiske problemstillinger har fyldt en del på de første møder i udvalget, er der andre temaer på bordet. Således er mere teknisk orienterede emner nu også ved at komme på banen. Det kan for eksempel være spørgsmålet om, hvordan man holder en machine learning-model konsistent, og hvordan man bedst overfører datasæt mellem forskellige virksomheder og systemer.

Danske fingeraftryk
Dansk Standard blev for nylig udvalgt til at være sekretariat for en ny fokusgruppe for kunstig intelligens oprettet i et samarbejde mellem de to europæiske standardiseringsorganisationer CEN og CENELEC. Medlemmer af udvalget for kunstig intelligens har mulighed for at deltage som eksperter i fokusgruppen på lige fod med deltagere fra andre lande. Det betyder, at Dansk Standard og udvalgsmedlemmerne har gode muligheder for at sætte vigtige fingeraftryk på fremtidens internationale standarder for kunstig intelligens og varetage danske interesser.

FAKTA – Dansk Standards udvalg Kunstig Intelligens (S-855)

  • Nedsat i april 2018. Består aktuelt af 10 medlemmer:
    • Advokatfirmaet Poul Schmith, Kammeradvokaten I/S
    • Alexandra Instituttet A/S
    • Dansk Industri
    • Digitaliseringsstyrelsen
    • Erhvervsstyrelsen
    • Forbrugerrådet TÆNK
    • KMD A/S
    • Københavns Institut, IFRO
    • Københavns Universitet, SCIENCE, Datalogisk Institut
    • IDA
  • Udvalget mødes cirka fire gange om året. Derudover er der to årlige møder i ISO/IEC-regi.
  • Udvalget er åbent for nye medlemmer. Henvendelse til Kim Skov Hilding, konsulent i Dansk Standard, ksk@ds.dk.
  • Se mere på Dansk Standards hjemmeside.