Meta støtter ny plattform for å hjelpe mindreårige med å tørke nakne, seksuelle bilder av Internett

TNational Center for Missing & Exploited Children har lansert en plattform, finansiert av Meta, for å hjelpe barn og tenåringer med å fjerne nakne eller seksuelle bilder og videoer av seg selv fra sosiale medier.

Den nye tjenesten for mindreårige, kalt Ta det ned, ble avduket ett år etter utgivelsen av et lignende verktøy for voksne kjent som StoppNCII (forkortelse for intime bilder uten samtykke). I dag vil Take It Down bare fungere på fem plattformer som har sagt ja til å delta: Meta-eide Facebook og Instagram, samt Yubo, OnlyFans og Pornhub.

"Vi opprettet dette systemet fordi mange barn står overfor disse desperate situasjonene," sa NCMECs president og administrerende direktør Michelle DeLaune. "Vårt håp er at barn blir oppmerksomme på denne tjenesten, og de føler en lettelse over at det finnes verktøy for å ta bildene ned."

Hvordan sosiale medieselskaper beskytter barn og tenåringer – og hvor de kommer til kort – har dukket opp som et hovedsaklig tverrpolitisk teknologipolitisk spørsmål i den nye kongressen, og en der lovgivere har den beste sjansen til å vedta lovgivning. Likevel er det en lang vei foran eventuelle forslag om å opprette eller styrke sikkerhetstiltak, og uten at noen lover er nært forestående, fortsetter NCMEC å fungere som en bro mellom nettselskaper og rettshåndhevelse i barnesikkerhetsspørsmål. I 2021 mottok den ideelle organisasjonen nesten 30 millioner tips fra hele bransjen om tilsynelatende sextorsjon og materiale om seksuelt misbruk av barn på deres plattformer. Et flertall ble rapportert av plattformer eid av Meta.

Mindreårige og foreldre kan bruke NCMECs gratis, anonyme verktøy å flagge eksplisitt materiale fra en mindreårig person som har blitt – eller som de tror vil bli – spredt på nettet. Når de har valgt de sensitive bildene eller videoene på enheten deres, genererer plattformen tilsvarende et digitalt fingeravtrykk av det bildet (kalt en "hash") som NCMEC deretter deler med deltakende sosiale medier, slik at de kan prøve å finne, begrense eller fjerne, og fortsett å overvåke det innholdet.

De aktuelle bildene eller videoene forlater ikke enheten og blir ikke sett av noen, ifølge NCMEC. (Hashen holder også ofrene uidentifiserbare både for NCMEC og for sosiale medier-appen, og signaliserer bare at et bilde er skadelig og bør fjernes.) NCMEC sa at det ikke har vært kjente brudd på hasjdatabasen som potensielt kan avsløre en persons identitet .

Men en av de største hindringene for denne innsatsen er fremveksten av ende-til-ende-kryptering. "Når teknologiselskaper implementerer ende-til-ende-kryptering, uten innebygde forebyggende tiltak for å oppdage kjent materiale om seksuelle overgrep mot barn, er innvirkningen på barnesikkerhet ødeleggende," sa DeLaune, NCMECs president, til Senatets rettskomité under en høring denne måneden. . Elefanten i rommet er at den økonomiske støttespilleren og mest fremtredende selskapet involvert i Take It Down, Meta, er beveger seg på et klipp mot ende-til-ende-kryptering på både Instagram og Messenger.

Hvordan de to organisasjonene kan forene dette er "million dollar-spørsmålet," sa NCMECs visepresident Gavin Portnoy Forbes, og bemerker at NCMEC fortsatt ikke vet nøyaktig hva Metas planer er for kryptering og hvilke sikkerhetstiltak som kan være på plass. (Meta sa at de er under arbeid og at forskjellige krypteringsfunksjoner blir testet på Instagram og Messenger.)

"Vi bygger Take It Down for måten internett og [leverandøren av elektroniske tjenester] er plassert i dag," sa Portnoy. "Det er virkelig en bro vi må krysse når vi har en bedre forståelse av hvordan [Metas] ende-til-ende-krypteringsmiljø ser ut - og hvis det er en verden der Take It Down kan fungere."

Metas globale sikkerhetssjef, Antigone Davis, fortalte Forbes at "kryptering vil føre til at visse bilder ikke blir identifisert av oss", men at det er i ferd med å bli en industristandard innen meldingstjenester som er avgjørende for brukernes personvern og sikkerhet. Å bruke hash-teknologi og støtte NCMEC på prosjekter som dette er blant flere måter Meta prøver "å virkelig komme foran problemet," sa hun. (Begge parter nektet å si hvor mye penger Meta har gitt til NCMEC for å bygge Take It Down.)

"Det er ingen universalmiddel for å ta opp disse problemene," sa Davis i et intervju, og beskrev Metas tilnærming som "flerfasettert." I tillegg til å samarbeide om dette nye systemet som tar sikte på å hindre sextortion og spredning av intime bilder uten samtykke, tillater ikke Meta voksne fremmede å komme i kontakt med mindreårige gjennom meldingsfunksjonene, sa hun. Den bruker også klassifiserere for å forhindre at mindreåriges kontoer og innhold blir presset til voksne Meta-brukere som har utvist mistenkelig oppførsel på nettet, la hun til.

«Jeg håper at folk som har delt bilder på denne måten da de var unge av hvem som helst – av en forelder som utnyttet dem, av en annen voksen som utnyttet dem, av en tidligere kjæreste eller kjæreste – at de vil føle seg interessert i å bruk dette verktøyet," sa Davis.

NCMEC sa at det har slått noen 200 andre elektroniske tjenesteleverandører som har sendt inn informasjon til «CyberTipline» om å bli med i Take It Down-programmet. Det gjenstår å se hvem andre – utover den lille håndfullen sosiale mediespillere som forkjemper det i dag – som kommer om bord. Yubo sa på sin side at de håper disse tidlige brukerne vil presse andre til å bli med.

"Det krever mer enn bare statlig inngripen for å redusere risiko og løse problemer på nettet," sa Yubo-sjef Sacha Lazimi over e-post. «Alle skuespillere må spille sin rolle. … Samarbeid er nøkkelen til å identifisere løsninger på store utfordringer, så vi håper å se flere plattformer bli med i Take It Down-initiativet.»

MER FRA FORBESHvordan TikTok Live ble "en strippeklubb fylt med 15-åringer"By Alexandra S. LevineMER FRA FORBESDisse TikTok-kontoene skjuler materiale om seksuelle overgrep mot barnBy Alexandra S. LevineMER FRA FORBESTikTok-moderatorer blir opplært ved å bruke grafiske bilder av seksuelle overgrep mot barnBy Alexandra S. Levine