Erhverv og økonomi

Meredith Whittaker: Signal-chefen der vil holde AI-assistenterne ude af dine beskeder

Penelope H. Fritz
Tilføj os på Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Født2000
ErhvervPræsident for Signal Foundation
PriserHelmut Schmidt Future Prize

I fredags aktiverede Signal en indstilling, som de fleste af appens brugere aldrig vil lægge mærke til. På nye iPhones forhindrer appen nu Apples Siri-AI i at læse, hvad der står på skærmen inde i en chat, og blokerer som standard for skærmbilleder, og på Android lukker den vinduet, hver gang Googles Gemini forsøger at kigge med. Meredith Whittaker, Signals præsident, offentliggjorde selv ændringen, og i samme opslag indrømmede hun, at det ikke er nok. De agenter, som Apple, Google og Microsoft er i færd med at bygge ind i deres operativsystemer, kan stadig få adgang til det, der er gemt på enheden, og på en Mac kan Signal slet ikke stoppe dem. Hun kaldte det en eksistentiel trussel mod den app, hun leder.

Kampen klæder hende, og den blotlægger samtidig det dilemma, der ligger i kernen af hendes karriere. Whittaker tilbragte mere end ti år hos Google, før hun blev en af de skarpeste kritikere af den forretningsmodel, der betalte for det hele. Nu leder hun en almennyttig messengertjeneste, som nægter at indsamle data, ikke sælger noget og er afhængig af donorer, men som alligevel må leve på telefoner bygget af netop de virksomheder, hvis AI-produkter hun kalder hensynsløse. Signal kan kryptere en besked fra ende til anden. Det kan ikke kryptere operativsystemet.

Hendes vej ind i teknologiens verden var usædvanlig. Whittaker læste retorik og engelsk litteratur på University of California, Berkeley, og kom til Google i 2006, hvor hun blev i tretten år. Hun grundlagde virksomhedens Open Research-gruppe, som samarbejdede med akademikere og open source-udviklere om måling af netneutralitet, privatliv og sikkerhed, og hun var medstifter af M-Lab, Measurement Lab, et åbent netværk, der er blevet den største offentlige kilde til data om internettets ydeevne.

Målingerne lærte hende at være mistroisk over for påstande, der kommer uden dokumentation. I 2017 grundlagde hun sammen med forskeren Kate Crawford AI Now Institute ved New York University efter et symposium, som Det Hvide Hus var vært for. Instituttet undersøgte, hvad kunstig intelligens gør ved de mennesker, den bruges på, snarere end hvad den kan i en demonstration, og dets rapporter vendte igen og igen tilbage til ét argument: at det dybere problem i mindre grad handlede om forudindtaget kode end om, hvem der ejer disse systemer, og hvem de bliver rettet mod. Senere havde hun Minderoo-forskningsprofessoratet ved NYU og var AI Nows faglige direktør; i dag er hun instituttets chefrådgiver.

Det argument bragte hende på kollisionskurs med arbejdsgiveren. I 2018 skrev hun et protestbrev mod Project Maven, en kontrakt med Pentagon, hvor Google udviklede maskinsyn til det amerikanske droneprogram. Mere end tre tusind ansatte skrev under, og Google fornyede ikke kontrakten. Få måneder senere var hun en af hovedkræfterne bag Google Walkout, da mere end tyve tusind medarbejdere forlod deres skriveborde efter meldinger om, at selskabet havde udbetalt en fratrædelsespakke på 90 millioner dollar til Andy Rubin, en leder anklaget for seksuel krænkelse. Whittaker har senere sagt, at Google gengældte det ved at pålægge hende at opgive sit arbejde hos AI Now. Hun forlod Google i juli 2019.

Samme sommer fortalte hun Repræsentanternes Hus’ videnskabsudvalg, at AI-systemer kan fastlåse skævheder, og bad om beskyttelse af whistleblowere i techbranchen. I begyndelsen af 2020 gik hun videre over for Repræsentanternes Hus’ tilsynsudvalg, hvor hun argumenterede for, at problemet med ansigtsgenkendelse ikke blot var nøjagtighed, men magten hos dem, der bruger teknologien mod mennesker med mindre magt, og opfordrede til, at brugen blev stoppet. Fra november 2021 var hun seniorrådgiver i kunstig intelligens for formanden for Federal Trade Commission, Lina Khan.

Signal ansatte hende i september 2022 som sin første præsident, en stilling skabt i samarbejde med appens ledelse. Signal har ingen reklamer og ingen brugerdata at sælge, og Whittaker har åbent sagt, at driften koster omkring 50 millioner dollar om året. Store dele af hendes første tid i jobbet gik med at forklare, hvorfor en messenger, der gemmer næsten intet om sine brugere, alligevel har brug for et stort udviklerteam og faste donorer, og hvorfor alternativet er at blive betalt i overvågning.

Hendes kritikere peger på grænserne for den model. Signals krypteringsprotokol beskytter allerede WhatsApps samtaler, men selve appen er stadig en brøkdel af størrelsen på det Meta-produkt, der er bygget på dens kryptografi, og Whittakers pondus over for regeringer hviler i vid udstrækning på én trussel: at Signal hellere forlader et land end at svække sin kryptering. Hun har rettet den mod EU og igen i juni mod Storbritannien. Truslen er troværdig, fordi en donorfinansieret app ikke har aktionærer at tage hensyn til, men den gør også Signals svar til lovgiverne mere lig et eksil end en forhandling. Den episode, der gav appen dens hidtil største byge af opmærksomhed, viste en lignende kløft. Da det i marts 2025 kom frem, at højtstående amerikanske embedsmænd havde drøftet militære planer i en Signal-gruppe, som ved en fejl også indeholdt en journalist, forsvarede Whittaker krypteringen som guldstandarden inden for privat kommunikation og påpegede, at ingen applikation kan forhindre folk i at tilføje den forkerte person til en chat. Omtale i den størrelsesorden er svær at sige nej til og endnu sværere at styre.

Siden da har hendes fokus flyttet sig fra regeringer til de virksomheder, der laver enhederne. I Davos i januar kaldte hun AI-agenter i operativsystemer for farlige for krypterede tjenester og advarede om, at et system med root-adgang kan kapres. I et interview med Bloomberg i juni sagde hun, at chatbots ikke er dine venner, og beskrev en assistent med adgang til hendes betalingsoplysninger og hendes Signal-konto som en slags bagdør. I denne uge fandt tests udført af Reuters sammen med medarbejdere fra Signal og AI Now, at Metas Muse-agent læste Signal-chats på Android via adgang til notifikationer, og Whittaker kaldte agenter med den slags rækkevidde teknologisk hensynsløse.

I 2023 satte TIME hende på sin første liste over de mest indflydelsesrige personer inden for kunstig intelligens. I maj 2024 modtog hun Helmut Schmidt Future Prize i Hamborg, uddelt af Die Zeit og dets partnere for arbejdet med demokrati og teknologi, og i juli 2025 trådte hun ind i bestyrelsen for den tyske mediekoncern Hubert Burda Media.

Hvad der sker nu, afhænger mindre af Signal end af Apple, Google og Microsoft. Whittaker har bedt alle tre om en dokumenteret måde, hvorpå apps kan holde AI-agenter væk fra deres skærme og data, og Signal siger, at man er forsigtigt optimistisk med hensyn til, at Google og Apple går i dialog. Hvis de bygger den, bliver den blokering, hun slog til i denne uge, til en branchestandard. Hvis ikke, vil markedets mest private messenger fortsat udsende omgåelser mod de telefoner, den kører på, og dens præsident vil fortsætte med at sige det højt.

Tags: , , , , , , ,

Tilføj os på Google

Debat

Der er 0 kommentarer.