FN's generalsekretær advarer mod ureguleret kunstig intelligens og lancerer en pagt for børns sikkerhed, mens EU-Parlamentet hastebehandler ePrivacy og udvider indsatsen for cybersikkerhed.
FN's generalsekretær advarer nu mod et ukontrolleret, globalt AI-eksperiment på vores samfund, mens EU i Strasbourg skruer bissen på med en hastebehandling af den omstridte ePrivacy-undtagelse og en udvidelse af cybersikkerhedsindsatsen.
Verden står midt i en ukontrolleret udrulning af kunstig intelligens, som ifølge FN's generalsekretær António Guterres udgør en akut trussel mod den globale rettighedsbeskyttelse. Ved den første globale dialog om AI-governance i Genève blev det slået fast, at udviklingen går for hurtigt til, at de nuværende retslige og politiske institutioner kan følge med. Hvor det tog internettet 15 år at nå en milliard brugere, opnåede AI det samme på blot to år.
Strammere krav og børnesikkerhed
For danske tech-virksomheder, myndigheder og lovgivere varsler FN's udmeldinger en fremtid med radikalt strammere krav. Guterres præsenterede blandt andet en ny bindende børnesikkerhedspagt for kunstig intelligens. Regelsættet kræver nultolerance over for AI-genereret seksuelt misbrugsmateriale (CSAM) og uafhængige, børnespecifikke sikkerhedstest, før systemer overhovedet må gøres tilgængelige for mindreårige.
"Et eksperiment udføres på vores egne samfund — uden en plan og uden samtykke. Det er ikke bæredygtigt. Og det er ikke acceptabelt. Intet barn bør være forsøgskanin for ureguleret AI."
Forbud mod autonome våbensystemer
Sideløbende rejses der et ufravigeligt krav om at forbyde autonome våbensystemer, de såkaldte dræberrobotter. I en dansk kontekst flugter dette med advarsler fra blandt andet Center for Militære Studier, hvor forsvarsanalytikere længe har understreget vigtigheden af, at mennesker altid fastholdes i beslutningskæden for at sikre overholdelse af krigens folkeret. Guterres kalder teknologien for moralsk modbydelig og kræver den bandlyst ved international lov, da maskiner aldrig må træffe beslutninger om at tage menneskeliv.
AI's massive klimaaftryk
Endelig stiller FN skarpt på teknologiens massive klimaaftryk. Gennem initiativet "AI Environmental Transparency Initiative" stilles der krav om, at alle store AI-udviklere øjeblikkeligt skal offentliggøre deres fulde vand- og CO2-aftryk samt overgå 100 procent til vedvarende energi inden 2030. Dette rammer direkte ind i den danske debat om tilladelser til, og ressourceforbruget i, store datacentre på dansk grund.
Den digitale kløft og faren for suverænitetstab
Adgang til internettet og bredbånd er langtfra nok til at sikre reel digital lighed. Budskabet fra FN's Konference om Handel og Udvikling (UNCTAD) er utvetydigt forud for sommerens AI-topmøder. Hvis ikke borgere og stater får ejerskab over egne data og evnen til at præge den digitale økonomis regler, risikerer det globale samfund en massiv skævvridning.
Behov for en uafhængig infrastruktur
Mens lande som Danmark ligger helt i front på det globale digitaliseringsindeks, advares der i FN-regi mod, at ensidige digitale handelsaftaler kan fungere som en fælde for udviklingslande. FN-chefen understregede ved samme lejlighed, at den teknologiske kløft kan udvikle sig til et fundamentalt tab af national suverænitet. For at imødegå dette er der bred opbakning til at etablere en global AI-fond og fremme teknologioverførsel uden for det frie markeds logik, så flere lande kan bygge deres egen, uafhængige data- og AI-infrastruktur frem for at være bundet af amerikanske eller kinesiske løsninger.
EU hastebehandler omstridt ePrivacy undtagelse
Mens FN i Genève fokuserer på de helt store, langsigtede globale retningslinjer, er det storpolitiske maskinrum i EU kørt i stilling. Europa-Parlamentets formand Roberta Metsola har netop åbnet plenarsamlingen i Strasbourg, hvor et af de mest opsigtsvækkende juridiske skridt er en officiel anmodning om at hastebehandle den såkaldte ePrivacy-undtagelse.
Balancen mellem fortrolighed og beskyttelse
Undtagelsen gør det juridisk muligt for udbydere af kommunikationstjenester proaktivt at scanne brugernes ellers private beskeder og billeder for børnepornografi. I Danmark har netop dette spørgsmål – i folkemunde kendt som chatkontrol – trukket dybe spor i den it-retlige debat. Balancen mellem den fundamentale ret til fortrolig kommunikation ifølge EU's charter og nødvendigheden af at beskytte børn online udfordres konstant af disse forlængelser af de frivillige scanningsmuligheder.
Bekymring for manglende lovhjemmel
En regulær hastebehandling signalerer en udtalt nervøsitet i EU-systemet for at stå uden lovhjemmel, mens de intense og svære forhandlinger om en permanent lovgivning (CSAM-forordningen) fortsat trækker i langdrag. Du kan læse Europa-Parlamentets åbningsdagsorden i sin fulde form i PDF version.
Cybersikkerhed og byrden for de danske kommuner
Udover håndteringen af digital overvågning og privacy tager EU også markante skridt for at konsolidere sin infrastrukturelle sikkerhed. I denne uge skal Parlamentet i Strasbourg debattere en ny, fælles handlingsplan for cybersikkerhed og kunstig intelligens, som har til formål at højne forsvarsværkerne mod avancerede, AI-drevne cyberangreb. Mere om dagsordenen findes i Parlamentets PDF version af pressebriefingen.
Stramme krav fra NIS2-direktivet
Sideløbende har Det Europæiske Regionsudvalgs Økonomiudvalg (ECON) vedtaget afgørende udtalelser om den kommende Cybersikkerhedspakke og loven om digitale netværk (Digital Networks Act). Regionsudvalget peger på et fundamentalt problem, som netop nu afspejler virkeligheden i de danske kommuner og regioner, der i forvejen kæmper med at afkode og implementere de stramme krav fra implementeringen af NIS2-direktivet i dansk ret.
Behov for økonomisk og teknisk støtte
Kravene til sikre IKT-forsyningskæder og modstandsdygtige netværk er eksploderet. Udvalget advarer om, at uden direkte økonomisk støtte, målrettet teknisk bistand og uddannelse af personale vil de lokale myndigheder have overordentligt svært ved at løfte den retlige og praktiske byrde, der er forbundet med driften af kritisk infrastruktur.
"Cybersikkerheden i Europa skal styrkes gennem effektiv forvaltning, sikre IKT-forsyningskæder og modstandsdygtige digitale netværk, men den skal forblive fuldt ud gennemførlig for lokale og regionale myndigheder, der driver kritisk infrastruktur og væsentlige tjenester."
Mindskelse af sårbarhed over for forsyningssvigt
Regionsudvalget understreger ligeledes vigtigheden af at etablere decentrale forsvarsindustrielle økosystemer for at mindske Europas sårbarhed over for forsyningssvigt — et emne, der er beskrevet yderligere i det tværgående dokument EU Defence Industry Transformation Roadmap.
