Facebook fjerner «deepfakes»
Folk deler millioner av bilder og videoer på Facebook hver dag, og tidvis skaper de noen overbevisende og kreative bilder og videoer som de legger ut på plattformen. Noe av dette innholdet blir manipulert, ofte av godartede grunner, som å gjøre en video skarpere eller gjøre lyd tydeligere. Men det er mennesker som driver med mediamanipulering for å villede menneskene som mottar innholdet. Man kan også spille rulett på online casino, og da er det også viktig å finne et pålitelig casino som presenterer deg virkeligheten og ikke falske nyheter. Et trygt og sikkert valg for online rulett vil da være JackpotCity Casino.
Tilbake til Facebook gjelder deres innstramming først og fremst valget i USA i 2020, og ved å forby videoer som er skapt ved kunstig intelligens (AI), skal dette medføre at feilinformasjon ikke blir spredt. Men vil dette virkelig hjelpe hvis de ikke kontrollerer alle videoer, og kun fokusere på AI-videoene? Nedenfor vil du få mer informasjon om utfordringene med et slikt forbud.
Bruk av kunstig intelligens
Manipulasjoner kan gjøres gjennom enkel teknologi som Photoshop eller gjennom sofistikerte verktøy som bruker kunstig intelligens eller maskinlæringsteknologi for å lage videoer som forvrenger virkeligheten. Videoer hvor slik teknologi er tatt i bruk blir vanligvis kalt «deepfakes». Mens disse videoene fremdeles er sjeldne på internett, presenterer de en betydelig utfordring for industrien og samfunnet etter hvert som bruken øker.
Facebook har forbudt brukere fra å legge ut datagenererte, sterkt manipulerte videoer, kjent som «deepfakes», og forsøker å stoppe spredningen av en ny form for feilinformasjon måneder før presidentvalget i 2020. Men deres forbud forbyr ikke alle manipulerte videoer. Facebooks nye retningslinjer ser ikke ut til å adressere det villedende redigerte klippet av Speaker i Representantenes hus i USA, Nancy Pelosi. Klippet gikk viralt på det sosiale nettverket i fjor, noe som fikk kritikk fra demokratiske ledere og digitale eksperter.
Hva betyr forbudet
Fremover har Facebook til hensikt å forby videoer som altså er redigert eller syntetisert av teknologier som kunstig intelligens på en måte som den vanlige brukeren ikke lett vil få øye på, som for eksempel inkluderer forsøk på å forvrenge videoen slik at personer sier ord som de aldri i virkeligheten har sagt.
Facebook vil imidlertid ikke forby videoer som er manipulert med tanke på parodi eller satire. Dette signaliserer at heller ikke andre mindre former for manipulasjon vil bli forbudt, selv om de i mange tilfeller kunne vært faktasjekket og begrenset i deres spredning på det sosiale nettverket.
På den beryktede manipulerte «berusede» videoen av Pelosi, som ble sett millioner av ganger på Facebook i fjor, ble talen hennes bremset og forvrengt for å få henne til å fremstå beruset. Effekten ble oppnådd med relativ enkel videoredigeringsprogramvare. I kontrast til mer sofistikerte datagenererte «deepfakes», har enkelte omtalt denne typen videoer som «cheapfakes» eller «shallowfakes».
Drew Hammill, en talsperson for Pelosi, kritiserte Facebook for sin tilnærming. Han uttalte blant annet at selskapet vil at du skal tro at problemet er videoredigeringsteknologi, men det virkelige problemet er at Facebooks ikke stopper spredningen av feilinformasjon.
Facebooks policy
Tidligere erkjente Facebook at faktasjekkerne hadde ansett den manipulerte Pelosi-videoen som «falsk», men at den teknologiske giganten nektet å slette den fordi de ikke har en policy som bestemmer at informasjonen du legger ut på Facebook må være sant.
Policyen ser heller ikke ut til å begrense andre enklere former for manipulering av video, for eksempel feilmerking av opptak, forvrengning av dialog eller å ta sitater ut av kontekst, som i en nyere video i der en lang respons fra Joe Biden til et publikum i New Hampshire var manipulerte for å få ham til å høres rasistisk ut.
Uttalelsen fra Facebook om deres policy fikk kraftig kritikk fra Bidens kampanje. Bill Russo, den tidligere visepresidentens talsmann for 2020, sa at Facebooks håndtering av «deepfakes» er utilstrekkelig og tilbyr bare en illusjon av fremgang og at Facebooks policy ikke kommer til kjernespørsmålet om hvordan plattformen deres brukes til å spre feilinformasjon, men snarere hvor profesjonelt den manipulerte informasjonen skapes.
Facebook og andre teknologifirmaer sponset i fjor en «deep fake detection Challenge», som tilbyr prispenger til forskere som kan levere de mest raffinerte teknikkene for automatisk å oppdage manipulerte videoer, så får vi se hva fremtiden gir oss.