KI-advarsel gjør at NRK må tenke nytt om sladding

• Få nyhetsbrev fra Journalisten

Nylig kom det frem at NRK og danske DR har fjernet dokumentarproduksjoner fra nettsidene sine fordi de fryktet at KI-verktøy kan brukes til å identifisere anonyme kilder.

Nå går NRK gjennom en liste over produksjoner i risikosonen, mens TV 2 og VG diskuterer hva mer som kan gjøres for å hindre avanonymisering.  

Skjærer ut piksler

Det begynte med at NRK fikk en henvendelse fra DR om Brennpunkt-dokumentaren «Skyggekrigen», med henvisning til en forskningsartikkel fra USA. Det forteller NRK Fakta-redaktør Egil Sundvor til Journalisten.

I artikkelen ble det slått fast at KI kunne identifisere personer bak klassiske sladdinger i rundt 95 prosent av tilfellene.

– Når man bruker det man kaller gaussian blur, som er en matematisk modell man bruker for flytte pikslene rundt, så er det mulig å reversere matematikken og flytte piksler tilbake dit de kom fra, sier Sundvor. 

Studien fra USA var liten, men med farten teknologien har nå, vil det ikke akkurat bli vanskeligere å avanonymisere i fremtiden, tror han.

– Det vi har gjort nå, er å ta vekk dataene som ligger i ansiktet. Vi skjærer ut pikslene i ansiktet og legger inn en svart flekk og gaussian blur oppå. Så hvis man får til å ta vekk sladden, ser man bare en svart flekk. Det er ikke noe data der.

Det er den sikreste måten foreløpig, sier han.

Har liste

Den teknologiske utviklingen går i en rasende fart, og det gjør at NRK må være årvåkne der teknologien kan utfordre kildevernet, forteller Sundvor. 

– Vi må være på den sikre siden, og lage nye rutiner i redigeringsrommet, slik at man ikke kan reversere matematiske modeller for hva som ligger bak sladden. Nå jobber vi ut nye instrukser på det for å sikre at det ikke kan skje i fremtidige produksjoner.

For om lag et halvt år siden gjorde NRK sårbarhetsanalyser, og de har god oversikt over produksjoner de er nødt til å være oppmerksomme på, sier han.

På spørsmål om de må gjennom hele arkivet for å rette gamle sladdinger, svarer han at de har laget en liten liste og er i gang med arbeidet på noen publiseringer.

– Vi må se på de mest kritiske produksjonene vi har og gjøre tilsvarende operasjon som med «Skyggekrigen». Parallelt må vi teste ut forskningen i praksis. Selv om det kan være vanskelig å klare det nå, så vet vi ikke hvor god KI er om seks måneder eller ett år. Det er bare å begynne å jobbe med å sikre det mest kritiske, sier han.

Hvor lang tid arbeidet vil ta, er han imidlertid ikke sikker på.

– Hvilke er de mest kritiske produksjonene?

– Vi går nå gjennom og setter opp en liste. Det går forholdsvis fort gjort å korrigere det. Det tok vel noen timer å korrigere «Skyggekrigen». Gjør vi det på denne måten, tro jeg det kan gå rimelig raskt. Vi må ta dette på alvor, være føre var og begynne prosessen så vi ikke kommer versjoner senere som gjør det lette å reversere anonymiseringer.

Dobbelsladding 

Ifølge Sundvor har de fått henvendelser fra flere som er interesserte i hva som har skjedd og hvordan det er blitt håndtert. 

Bildesjef i VG, Thomas Andreassen, sier til Journalisten at han ikke er kjent med at VG er i dialog med NRK om deres erfaringer, men sier de har kontroll på rapporter og det som er skrevet om verktøy som kan gjenskape sladdede ansikter.

De har i flee år forberedt seg på at muligheten for avanonymisering kan bli mulig, forteller han. 

– Når vi sladder bilder i dag har vi en dobbelsladding. Det er to lag, hvor vi først bruker gaussian blur som gjør ansiktet uskarpt og flatt. Oppå det legger vi på en mosaikksladding som er en klassisk pikselering. Ut ifra hva vi forstår, skal det nærmest være umulig å gjenskape et ansikt da, sier Andreassen.

Han forteller at de er i dialog internt om det bør gjøres enda flere tiltak, og at det blant annet skal være et møte denne uka hvor dette er et tema.

Andreassen understreker at de imidlertid føler seg trygge på at deres sladdede bilder ikke skal la seg gjenskape av KI.

Bakgrunnen for VGs dobbeltsladding var en sak om en pedofiliring, der overgripere for om lag ti år siden hadde anonymisert seg ved å dreie bildene. Det klarte politiet ganske enkelt å gjenskape, forteller Andreassen.

– Vi hadde en diskusjon allerede da, og begynte med dobbeltsladding, fortsetter han.

– Jeg har også prøvd med våre bilder, uten at jeg har klart å gjenskape dem. Men teknologien er helt i startgropa og ting utvikles hele tiden. Hva som kan skje om et halvt år er ganske vanskelig å si. Vi er i en pågående diskusjon med mye møtevirksomhet rundt om vi skal ha ytterligere tiltak.

Skuespillerbruk

Også i TV 2 har man fått med seg manøveren i NRK, men TV 2-sjef Olav T. Sandnes sier til Journalisten at det tradisjonelt ikke har vært utstrakt bruk av sladding hos dem, selv om de har benyttet seg av det.

I kjølvannet av nyheten om «Skyggekrigen» har TV 2 hatt en første gjennomgang av materialet de har for å se hva som finnes, opplyser Sandnes.

– Det er egentlig to spørsmål her: hva gjør man med det gamle materialet og hva gjør man fremover?

Når det gjelder praksis framover, vil trolig TV 2 vurdere å benytte andre virkemidler, som for eksempel å bruke skuespillere, sier Sandnes.

– Dette er noe vi allerede har erfaring med, avslutter han.