Dagbog fra Davos

Dag 3: Ansvarlighed og etik var de helt store temaer i dette års debatter om den teknologiske udvikling på World Economic Forum i Davos. Således fulgte den voksende bekymring for tech-giganternes magtfulde position og den generelle frygt for robotternes indtog i verden med til elitens årsmøde under overskriften ”Stakeholder Capitalism”.

Den dækker over en ny form for kapitalisme, som ikke kun handler om at tjene penge til aktionærerne, men fokuserer mere bredt på at imødekomme alle de interessenter, som omgiver virksomhederne i samfundet. 

Wired Magazines illustration af en såret udgave af Facebooks grundlægger Mark Zuckerberg, som bliver kritiseret for at true den demokratiske samtale.

Jeg har især dyrket de paneldebatter, der fokuserede på kunstig intelligens, fordi Kina kommer til at spille en afgørende rolle på området. Den kinesiske regering har sat et mål om, at Kina skal være verdens førende inden for kunstig intelligens i 2030, og kinesiske virksomheder er allerede frontløbere, når det gælder den praktiske anvendelse af kunstig intelligens.

Den udbredte brug af for eksempel ansigtsgenkendelse i kinesiske storbyer, har betydet, at Kina ofte bliver hevet frem som skræmmeeksemplet på, hvordan nye teknologier kan bruges til at overvåge og kontrollere borgere. Det skyldes også, at kinesiske virksomheder ind i mellem chokerer med at overtræde den usynlige grænse for, hvad man set med europæiske øjne bør bruge teknologien til.

Det gælder blandt andre  Zao, der var en af de mest downloadede apps i Kina sidste år. App’en giver brugerne mulighed for at lave såkaldte ”deep fakes” ved at uploade et portrætfoto. Det tog mig mindre en fem sekunder at blive forvandlet til en kinesisk prinsesse i en sæbeopera.

“Deep fakes” blev også et stort samtaleemne i Davos, fordi den kinesiske forsker, Hao Li, som er blevet kaldt verdens bedste på sit felt af MIT Technology Review, demonstrerede teknologien ”live”. Det er alt for let at forestille sig, hvordan disse værktøjer kan blive misbrugt til at få, hvem som helst til at sige, hvad som helst.

Kinas kommunistpartis hang til kontrol og overvågning er ikke den eneste årsag til, at Kina i disse år investerer så massivt i kunstig intelligens. Det handler i højere grad om at løse nogle af de største udfordringer i samfundet, heriblandt den demografiske krise, som etbarnspolitikken har forårsaget. For eksempel udgør manglen på arbejdskraft en alvorlig trussel mod Kinas fortsatte økonomisk udvikling.

Det blev jeg bekræftet i, at da jeg deltog i en paneldebat arrangeret af Kinas næststørste e-handelsvirksomhed JD.com med Bowen Zhou, som er ansvarlig for Cloud og AI hos JD.com. Virksomheden har samme forretningsmodel som Amazon med eget logistiksystem, men er længere fremme med brugen af droneteknologi til levering.

Derudover deltog professor Xue Lan fra Tsinghua University, som er Kinas svar på MIT . Han var super interessant at lytte til, for han rådgiver den kinesiske regering på området og har blandt andet været med til at lave Kinas første etiske retningslinjer for brugen af kunstig intelligens.

Det var betryggende at høre, at han også mener, at der skal være en grænse for, hvor langt man må gå både som virksomhed og i forskningen, når det gælder kunstig intelligens. Blandt andet på grund af risikoen for, at man ikke kan gå tilbage, hvis man først er gået for langt.

Ellers brugte han det meste af sin taletid på at argumentere for Kinas udbredte brug af ansigtsgenkendelse, sandsynligvis fordi han ved, at det vækker dystopiske tanker i Europa og USA.

Han forklarede, at man for eksempel bruger ansigtsgenkendelse til at finde små børn, der er blevet væk fra deres forældre og til at nedbringe ventetiden i transportsystemet, der er under stort pres i Kinas millionbyer.

Debatten blev styret af Nicholas Thompson, chefredaktør for Wired Magazine, der er kendt for sin balancerede dækning af den teknologiske udvikling i Kina. Jeg var især glad for hans spørgsmål til Kay Firth-Butterfield, som er ansvarlig for området hos World Economic Forum.

Han spurgte nemlig, om man kan forvente, at World Economic Forum  (WEF) også vil introducere ansigtsgenkendelse til at identificere deltagerne i næste års topmøde. Det blev bestemt ikke afvist. Tværtimod. Kay Firth-Butterfield kom med et vævende svar om, at WEF hele tiden tester nye ting.

Selvom EU i øjeblikket diskuterer, om man skal lovgive imod brugen af ansigtsgenkendelse, er jeg ikke i tvivl om, at det kommer på et tidspunkt. Også til Davos. I Danmark har Brøndby Stadion for eksempel fået dispensation til at bruge ansigtsgenkendelse til at spotte hooligans, inden de går ind.

Jeg hæftede mig ved, at begge kinesiske eksperter talte om behovet for ”agile governance”, hvilket dækker over et nyt dilemma, som den hurtige teknologisk udvikling stiller vores politikere overfor. Hvordan kan man for eksempel lovgive om brugen af robotter i medicinsk udstyr, der automatisk opdaterer sig selv?

Agilitet er generelt en stor udfordring i vores del af verden, hvor traditionelle systemer og dogmer styrer mange organisationer. Kinesiske virksomheder er derimod født agile, fordi de er vant til, at lovgivningen og konteksten kan ændre sig fra den ene dag til den anden.

Selvom det kommunistiske system er bureaukratisk og topstyret, så er den kinesiske regering temmelig agil, når det kommer til lovgivning. Det vil sige, at man typisk slipper teknologierne løs i pilotprojekter, hvor man kan se, hvordan de virker. Derefter retter man løbende til med passende love og regler.

Danske politikere kan naturligvis ikke være lige så risikovillige som kinesiske politikere, men de kunne godt blive bedre til at lave pilotprojekter, der giver mulighed for at teste nye teknologier i stedet for at sidde på hænderne.

Det var også en af pointerne fra den kendte kinesiske AI-ekspert og forfatter Kai-Fu Lee, som jeg hørte flere gange i ugens løb. Han deltog blandt andet i et panel om ”Responsible AI” med Brad Smith, der er chef for Microsofts juridiske afdeling. Debatten var arrangeret af INSEAD og foregik i SDG-teltet, som havde de 17 verdensmål som omdrejningspunkt.

Kai-Fu Lee har boet og arbejdet i USA så mange år, at han kan slippe afsted med at sige ting, som en almindelig kinesisk professor eller topchef ville møde kritik for. For eksempel talte han flere gange om ”the greater good” og ”trade offs” i forbindelse med risikoen for brud på datasikkerheden.

Som eksempel nævnte han, at man i Kina er ved at opbygge et dataregister på tværs af hospitalerne. Her må den samlede gevinst for samfundet overtrumfe risikoen for lækager af enkeltpersoners privatdata. Derfor mener han, at der er behov for konstant at teste og justere lovgivningen.

Det giver måske mening i en kinesisk kontekst, hvor sundhedssystemet er under massivt pres, men det er politisk ukorrekt i disse tider, hvor dataetik for alvor er begyndt at komme på agendaen. 

Det var også interessant at høre Brad Smith fra Microsoft beskrive, hvordan hele stemningen og tilgangen til nye teknologier er forandret gennem de seneste 12 år. Selvom mange af de nye teknologier er udviklet i Silicon Valley, var San Fransisco en af de første byer i verden til at gøre brugen af ansigtsgenkendelse forbudt. ”Og det er jo fordi, det kan bruges både godt og dårligt”.

En af de vigtigste årsager til den voksende bekymring for indsamling af data er, at fremtidens olie ender på meget få hænder. Det er store tech-virksomheder som Facebook, Google, Microsoft, Alibaba, Tencent og Bytedance (står bag det populære sociale medie Tik Tok), der indsamler og kontrollerer massive mængder data og dermed viden om borgere i hele verden.

Men også den kendsgerning tager Kai-Fu Lee med sindsro. ”I skal ikke tro, at de vil være store for evigt”. Som eksempel nævner han forsikringskoncernen Ping An, der blandt andet er i gang med at opbygge verdens største sundhedsplatform. ”Alibaba vil blive udfordret af dem”.

Det var en vigtig påmindelse om, at udviklingen i disse år går så ekstremt hurtigt, at det ikke nødvendigvis er de samme virksomheder og de samme forretningsmodeller, der udfordrer os om fem eller 10 år.

Det er endnu en god grund til at følge udviklingen i Kina tæt, for det er blevet et epicenter for innovation. Kina er verdens største digitale økonomi med mere end 850 millioner internetbrugere, og derfor kommer vi til at se mange flere globale spillere melde sig på banen i de kommende år. Tik Tok og Alibaba er kun begyndelsen.