Ray-Ban Meta-briller streamede intime optagelser til Kenya uden at fortælle brugerne det

Når Ray-Ban Meta-briller vender mod et rum, optager de. Ifølge et gruppesøgsmål indgivet ved en føderal domstol i Californien blev disse optagelser derefter sendt til Sama, et content-moderation-firma baseret i Kenya, hvor medarbejdere gennemgik materialet og mærkede det til træning af kunstig intelligens. Stævningen beskriver optagelser, der inkluderede personer, der besøgte toilettet, klædte sig af, deltog i intime aktiviteter, og børn under bleskift og badning. Ansigterne i optagelserne var identificerbare, hævdes det i søgsmålet, på trods af Metas påståede anonymiseringsindsats.

Meta solgte disse briller med et specifikt løfte. “Ray-Ban Meta smartbriller er bygget med privatlivets fred som kerneværdi,” skrev virksomheden i sit markedsføringsmateriale ved lanceringen. Gruppesøgsmålet hævder, at dette udsagn ikke var korrekt. Søgsmålet trækker på vidneudsagn fra Sama-medarbejdere, som beskrev, hvad de havde gennemgået i interviews med svenske undersøgende journalister tidligere i år.

En ændret stævning indgivet i slutningen af august udvider sagsøgerkredsen i en juridisk betydningsfuld retning: den omfatter nu personer, der aldrig har købt eller båret brillerne – tilskuere, der optrådte i optagelser foretaget af en anden på en restaurant, i et hjem, på en arbejdsplads eller i et offentligt rum. Advokaterne vurderer, at den udvidede kreds dækker millioner af mennesker. Inkluderingen af tilskuere, personer der overhovedet ikke havde nogen relation til produktet, er det mest juridisk nyskabende element i sagen.

Der er en skelnen værd at trække mellem, hvad søgsmålet hævder er ulovligt, og hvad der er rutine i AI-industrien. Menneskelig gennemgang af AI-træningsdata er standard på tværs af sektoren. Virksomheder som Apple, Google og Amazon har alle brugt underleverandører til at gennemgå stemmeoptagelser, billeder og andre brugerdata for at forbedre deres modeller. Meta henviser netop til denne sammenligning i sit svar: gennemgang af data til produktforbedring “fungerer på samme måde som hos mange andre virksomheder.” Den juridiske teori her er snævrere – at brugere og tilskuere aldrig blev informeret om, at dette fandt sted i et produkt, hvis hele markedsføring hvilede på privatlivets fred.

Anklagerne er endnu ikke bevist. Sagen er i en tidlig retsproces, Meta har afvist karakteristikken af, hvad Sama-medarbejdere gennemgik, og domstole har historisk været forsigtige med at udvide søgsmålsberettigelse til tilskuer-sagsøgere, der ikke havde nogen direkte relation til et produkt. Clarkson Law Firm, der co-leder sagen, har en track record med at skubbe de juridiske grænser for forbrugerbeskyttelsessøgsmål – og en track record med at tabe nogle af dem.

Den næste milepæl er certificering af gruppesøgsmålet, hvor en dommer vil afgøre, om bærer-klassen og tilskuer-klassen kan fortsætte sammen eller hver for sig – eller overhovedet. Denne afgørelse vil bestemme, om argumentet om, at tilskuere har privatlivsrettigheder over optagelser taget med hardware, de aldrig valgte at eje, når frem til en retssag. Meta har sagt, at det vil bekæmpe anklagerne.

Tags: meta, privatliv, wearables, AI-træning, gruppesøgsmål, Ray-Ban Meta