Midt i den digitale tidsalder har bekymring over falske nyheder i stigende grad været opmærksom på offentlige organisationer, medier og personligheder af enhver art. Ikke for ingenting har Fake News haft en vis vægt i vigtige valgprocesser såsom præsidentvalget i De Forenede Stater i 2016, folkeafstemningen om Det Forenede Kongeriges udgang fra Den Europæiske Union eller generalerne i Brasilien, der gav Bolsonaro sejr.
Uden at skulle gå så langt måtte Facebook for nylig i vores land lukke tre store højreekstreme netværk, der gennem 30 sider, grupper og duplikatkonti akkumulerede mere end en og en halv million tilhængere og mere end 7 millioner interaktioner . Disse grupper var dedikeret til at sprede hoaxes og falske billeder.
Men nu står vi over for en anden type digital trussel, der genererer ny hovedpine. Vi taler om den såkaldte Deepfake, et udtryk, der stammer fra kombinationen af "Deep Learning" og "Fake". Dybest set er det en form for kunstig intelligens, der gør det muligt for enhver bruger at redigere falske videoer og lydbånd af mennesker, der virker ægte. Til dette anvendes antagonistiske generative netværk (AGR'er) , en slags algoritme, der kan skabe nye typer data fra andre sæt, der allerede findes.
Kort fortalt er "deepfakes" endnu en form for digital manipulation , og en af de mest sandsynlige vil blive brugt til "trolling" i de bedste tilfælde. Men hvordan kan vi opdage dem? Og frem for alt, hvad gør private institutioner og virksomheder for at forhindre dets katastrofale konsekvenser? I denne special vil vi gennemgå bestræbelserne på at stoppe denne nye digitale svøbe.
Hvorfor er dybe forfalskninger så farlige?
”Deepfake” -teknologien giver os mulighed for let at erstatte ansigtet på en person med en andens, som om det var en slags digital maske eller maske, for at få os til at tro, at han har sagt visse ting, der aldrig rigtig fandt sted . Som du kan gætte, har disse teknikker en række ret betydelige konsekvenser for at bestemme legitimiteten af de oplysninger, der cirkulerer på internettet.
Selvom de ofte bruges til at skabe humoristiske videoer, er sandheden, at "deepfakes" har et mørkt potentiale til at ødelægge en persons offentlige image eller at påvirke den offentlige mening gennem brug af desinformation. Desværre er vi nødt til at fortælle dig, at denne misbrug er mere udbredt, end vi ønsker, og med enorm succes bør vi tilføje.
Et klart eksempel er i DeepNude-appen, som tillod dig at uploade billedet af en person med tøj og oprette en ny af den samme nøgne person . Heldigvis er den allerede lukket, men vi må understrege den brugervenlige brug af denne type værktøjer, som der ikke kræves nogen viden om redigering, da algoritmen selv gør alt arbejdet.
I tilfælde af DeepNude tilbød platformen utrolige realistiske resultater og var fuldt tilgængelig via sin hjemmeside til Windows og Linux . Og som forventet tog montagerne med berømtheder som Katy Perry eller Gal Gadot ikke lang tid at vises på netværket, til det punkt, at presset fra advokaterne fra disse skuespillerinder ikke ophørte, før vigtige websteder til voksenindhold fjernede videoer .
Dette er kun toppen af isbjerget af den håndteringskapacitet, som disse typer applikationer kan have. Forestil dig nu konsekvenserne af en kampagne af denne type rettet mod en bestemt politisk figur for at manipulere en valgproces i et land eller en region. Det onde kender ingen grænser.
Hvordan bekæmpes deepfakes?
Et af de første virksomheder, der talte, var ingen ringere end Google, der annoncerede sin faste vilje til at bekæmpe dybe forfalskninger, og som de siger i disse tilfælde, brandslukker ild. Teknologigiganten bekræftede lanceringen af en hel database med op til 3.000 videoer manipuleret med kunstig intelligens (deepfakes), der er oprettet specifikt for at hjælpe med at forfine forskernes detektionsværktøjer.
For at gøre dette har Google hyret rigtige skuespillere til at optage deres ansigter og bruge dem som et referencepunkt for at afgøre, om en video er blevet kunstigt ændret. Ved hjælp af deepfake-genereringsmetoder tilgængelige for alle oprettes tusindvis af deepfakes ud fra disse optagelser.
De resulterende videoer, ægte og falske, uploades til den fælles udviklingsplatform GitHub, så forskerne fuldt ud forstår, hvad systemet producerer. Denne database er, som vi siger, fuldt tilgængelig, selvom de først skal give dig tilladelse .
For sin del planlægger Facebook også at oprette en lignende database inden udgangen af dette år. Ifølge sin administrerende direktør, Mark Zuckerberg, er hovedproblemet, at industrien ikke har et standardiseret system til at opdage dem . Derfor er det gået sammen med Association of AI, Microsoft og akademikere fra Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park og University of Albany-SUNY for at opbygge Deepfakes Detection Challenge. (DFDC for dets forkortelse på engelsk).
Dette makroprojekt vil omfatte en omfattende database og en detaljeret klassificering ud over økonomisk støtte og donationer for at opmuntre så mange samarbejdspartnere som muligt. Ideen er at skabe et slags samfund, der hjælper med at opdage og undgå manipulerede videoer gennem en AI.
Der er ingen tvivl om, at spredningen af "deepfakes" er blevet et meget alvorligt spørgsmål med alvorlige konsekvenser, der ikke kan ignoreres. Selvom de foranstaltninger, der er foreslået af de vigtigste agenter, der har forpligtet sig til denne sag, i det lange løb kan virke upraktiske eller endog kontraproduktive, er de måske den eneste måde at udrydde denne forbrydelse på. Selvom det kan virke modstridende, vil bekæmpelse af "deepfakes" med flere "deepfakes" hjælpe detekteringsværktøjerne med at absorbere flere data for at hjælpe dem lettere med at finde disse typer montager .