TikTok skal have givet teenagere en placeboknap til at nulstille feedet, siger New York

Da tusindvis af TikTok-brugere, heriblandt teenagere og børn, trykkede på appens knap for at slette deres anbefalinger og begynde forfra, skete der ingenting, ifølge nyligt afklassificerede dokumenter i New Yorks søgsmål mod virksomheden. De fik vist en besked om, at nulstillingen var gennemført. Deres For You-feed blev ved med at vise den samme type videoer.

Værktøjet i centrum for anklagen, Algo Refresh, er en af de få udveje, TikTok tilbyder brugere, hvis feed er drevet et sted hen, hvor de ikke længere ønsker at være. Funktionen skal få For You-siden til at opføre sig, som om kontoen var helt ny. New York hævder, at nogle af dem, der brugte funktionen, blev placeret i en testgruppe og fik en version, der intet gjorde, mens brugere uden for forsøget fik en version, der virkede.

Ifølge klagen sammenlignede TikTok derefter de to grupper med hensyn til tid brugt i appen og annonceindtægter. Den citerer også en intern indvending. En produktchef på TikToks Digital Well Being-team skrev i en chat: »Denne funktion handler om algoritmisk gennemsigtighed og kontrol« og tilføjede: »En placebogruppe er fuldstændig i modstrid med det.« New York hævder desuden, at selv den nulstilling, der virkede, kun havde en midlertidig effekt.

TikTok afviser den fremstilling. En talsperson fortalte Reuters, at »vi regelmæssigt tester nye produkter og funktioner for at validere brugeroplevelsen og forstå, hvordan de fungerer i den virkelige verden«, og sagde, at søgsmålet giver et falsk billede af, hvordan Algo Refresh fungerer. I et retsdokument erkendte virksomheden, at dens test »kan omfatte en del af platformens trafik, som fortsat fik den oprindelige oplevelse«, men afviste, at det gjorde disse brugere mindre sikre.

Der er reelle grænser for, hvad man ved. Der er tale om anklager i en ændret klage, ikke om en domstols konklusioner, og de passager, der indtil videre er blevet offentliggjort, angiver hverken, hvor mange der havnede i placebogruppen, hvor længe testen varede, eller hvad den viste. At teste en ændring over for en kontrolgruppe er almindelig praksis i techbranchen. Stridsspørgsmålet er, om et sikkerhedsværktøj, der bruges af mindreårige, overhovedet bør være blandt de ting, der testes på den måde. Sagen drejer sig om New York, og de hidtil omtalte retsdokumenter oplyser ikke, hvor de testede brugere boede.

For alle, der bruger knappen i dag, er det praktiske budskab mere begrænset. En nulstilling er ikke bevis på, at algoritmen har glemt dig. TikToks søgeordsfiltre, indstillingen for begrænset indhold og muligheden for at skjule bestemte skabere er separate kontroller, og nulstillingen ændrer ikke på dem.

Testene, der beskrives i retsdokumentet, fandt sted i 2023, samme år som TikTok lancerede muligheden for at opdatere For You-feedet. New Yorks statsanklager Letitia James anlagde første gang sag mod virksomheden i oktober 2024. Påstandene om placebo stammer fra en ændret klage, der blev indleveret fortroligt i slutningen af august og efter en dommerkendelse gjort offentlig, som Reuters rapporterede den 7. oktober.

Det er ikke det eneste forsøg, sagen handler om. Bloomberg rapporterede i august, at TikTok tilbageholdt en separat sikkerhedsopdatering fra omkring 10 % af sine amerikanske brugere, svarende til cirka 15 millioner mennesker, og at en 16-årig New Yorker i gruppen døde ved selvmord i 2022. Ingen domstol har knyttet dødsfaldet til testen.

Mere end to dusin amerikanske delstater har sagsøgt TikTok og beskyldt virksomheden for at designe appen, så den fastholder børn, og for at vildlede familier om dens sikkerhedsværktøjer. Alabama, hvis sag var den første, der skulle for retten, indgik i september et forlig på op til 300 millioner dollar. Der er ikke offentliggjort nogen dato for retssagen i New York.

Tags: New York, tiktok, børns sikkerhed, Algo Refresh, For dig