Algoritmedød: Når vi er på vei mot et oppslukende liv i Metaverset, lyder alarmer. Teknologiselskaper må få orden på algoritmene sine, ellers kan dette være en risikabel fremtid for noen.
Selv om vi ikke er på Web3 ennå, er problemer med Web2 fortsatt utrolig bekymringsfulle. Mens algoritmer laget av storteknologi kan være bra for samfunnet, som slike forutsi kriminalitet på forhånd, det er andre som er en total katastrofe.
Coroner Andrew Walker identifiserte dødsårsaken til 14 år gamle Molly Rose Russell som selvskading. Han sa at dette var forårsaket av depresjon og den negative effekten av nettinnhold.
Walker sa at «det ville ikke være trygt for oss å erkjenne selvmord som dødsårsak».
Algoritmedød: Instagram og Pinterest
Eksperten sa at Instagram og Pinterest brukte algoritmer som valgte og delte upassende innhold med studenten uten at hun ba om informasjonen. Walker rapporterer: "Noen innhold romantiserte unge menneskers selvskading, mens andre fremmet isolasjon og gjorde det umulig å diskutere problemet med folk som kunne hjelpe."
Ifølge Guardian, Russell lagret, likte eller la ut mer enn 2,000 Instagram-innlegg i 2017 like før hennes død. De var alle assosiert med selvmord, depresjon eller selvskading. Jenta så også på 138 filmer av lignende art. Blant dem var episoder av serien 13 grunner til hvorfor for personer 15+ og 18+.
En barnepsykiater sa under høringen at etter å ha analysert hva Russell hadde sett kort før hennes død, klarte han ikke å sove godt på flere uker.
"10 depresjonsnåler du kanskje liker"
Etterforskere fant hundrevis av bilder av selvskading og selvmord på jentas Pinterest-konto. Det viste seg også at plattformen sendte studentene e-post med anbefalinger om upassende innhold. Noen av dem hadde overskrifter som sa: "10 depresjonsnåler du kan like."
Det er sannsynlig at materialet Molly, som allerede led av en depressiv lidelse og sårbar for aldersrelaterte skader, hadde en negativ effekt på henne. Det er også sannsynlig at det har bidratt mer enn minimalt til barnets død.
Meta- og Pinterest-tjenestemenn ba om unnskyldning og innrømmet at Russell møtte innhold på plattformene som ikke burde være der. En Meta-talsperson sa: "Vi vil at Instagram skal gi en positiv opplevelse for alle, spesielt tenåringer. Vi vil ta en nærmere titt på rettsmedisinerens fullstendige rapport når han leverer den.»
Pinterest har uttalt at de hele tiden forbedrer plattformen og er forpliktet til å sikre sikkerhet for alle.
Andre saker
TikTok ble saksøkt i mai for påståtte "dødelige anbefalinger" av algoritmene. I desember 2021, Amazons virtuelle assistent Alexa foreslått en fatal utfordringe til et 10 år gammelt barn.
Det er en modig ny verden, men også en skummel. Big tech kan ikke være selvtilfredse med den fremtidige rollen de har i denne saken.
Har du noe å si om algoritmens død eller noe annet? Skriv til oss eller delta i diskusjonen i vår Telegram kanal. Du kan også ta oss på Tik Tok, Facebook eller Twitter.
Ansvarsfraskrivelse
All informasjonen på nettstedet vårt er kun publisert i god tro og kun for generell informasjon. Enhver handling som leseren tar på informasjonen som finnes på nettstedet vårt, er strengt på egen risiko.
Kilde: https://beincrypto.com/algorithm-death-instagram-pinterest-suggested-content-killed-teenager/