Teknologi

OpenRouter smider tre AI-udbydere ud efter måneders tyveri af prompts

Adrian Kessler
Tilføj os på Google

OpenRouter, tjenesten som mange AI-apps bruger til at sende prompter videre til den modeludbyder, der er billigst eller hurtigst, har fjernet tre af disse udbydere fra sin platform og frataget mere end hundrede endpoints sin Zero Data Retention-mærkning. Anledningen var et eksperiment, hvor forskere plantede falske adgangsoplysninger i prompter og derefter holdt øje med, hvem der forsøgte at bruge dem. Nogle af de prompter, der blev lækket, var markeret med, at de aldrig måtte gemmes.

Hvis du bruger en chatbot, en kodeassistent eller et skriveværktøj bygget oven på en andens model, kan din tekst passere gennem flere virksomheder, før svaret kommer tilbage, og hver af dem kan læse den i fuld længde. OpenRouter oplyser, at resultaterne ikke viste noget brud på selskabets egne systemer. De svage punkter lå længere nede i kæden, hos de virksomheder, der rent faktisk kører modellerne.

Undersøgelsen stammer fra Dragos, et sikkerhedsfirma, hvis forskningschef (chief research officer), HD Moore, ledede arbejdet. I løbet af fem måneder sendte hans team næsten to millioner prompter, som hver især indeholdt et weblink, en serveradgangskode eller en Amazon Web Services-nøgle, der ikke fandtes andre steder. En plantet hemmelighed kan kun være kendt fra den prompt, der bar den, så enhver brug af en sådan beviser, at nogen har læst netop den prompt. De første tokens blev brugt inden for få dage.

Det mest alvorlige fund var simpelt tyveri. Angribere var brudt ind hos tre inferensudbydere, og ingen af de tre vidste det, før forskerne fortalte dem det. I det største tilfælde blev alle forespørgsler sendt til én udbyder i nogle få korte tidsvinduer kopieret, også forespørgsler som udbyderen afviste, før en model overhovedet kørte, hvilket placerer tyven ved hoveddøren frem for dybt inde i systemet. De stjålne AWS-nøgler blev testet, nogle gange inden for få timer, og derefter brugt til at søge i lagerplads og hemmelighedsbokse gennem titusindvis af API-kald. Nogle af de stjålne forespørgsler bar flaget for nulopbevaring.

Andre lækager krævede ikke et indbrud. På en markedsplads for videresalg udbød sælgere populære modeller til den laveste pris, slog logning af forespørgsler til og beholdt alt, hvad der strømmede igennem. En person på en hjemmeforbindelse i Frankrig tog adgangskoder fra to prompter og forsøgte at logge ind som root over SSH, hvor hvert forsøg blev tastet ind i hånden. Særskilt hentede et kinesisk AI-laboratorium de hemmelige links fra mere end halvdelen af de prompter, der blev sendt til dets modeller, herunder omkring to tredjedele af dem, der var markeret med ingen dataindsamling, og amerikanske udbydere, der videresælger laboratoriets modeller, fodrede den samme scraper. Ét link dukkede op i en Feishu-arbejdschat, åbnet fra seks enheder i Beijing og Shanghai, 24 dage efter en enkelt forespørgsel.

Tre udbydere har offentliggjort meddelelser. Phala oplyste, at en angriber tog kontrol over en af virksomhedens inferensservere og kunne se forespørgsler, mens de blev behandlet. Together AI oplyste, at en AI-kodeagent lagde en adgangskode ind i et offentligt GitHub-repositorium, hvilket gav en ubuden gæst mulighed for at downloade gemte prompteksempler og teste adgangskoderne i dem; fem af dem var forskernes lokkemad. Novita oplyste, at en routingfejl sendte nogle MiniMax-forespørgsler videre til MiniMax’ egen tjeneste.

Oprydningen har tydelige begrænsninger. OpenRouter har ikke navngivet de tre udbydere, det fjernede, Dragos har ikke navngivet de tre, der blev fundet kompromitteret, og ingen af dem har sagt, om det er de samme virksomheder. Én kompromitteret udbyder havde ifølge forskerne stadig ikke offentliggjort sin hændelse. Det kan heller ikke kalde prompter tilbage, der allerede er kopieret, at man dropper en udbyder: plantede nøgler og links blev stadig brugt uger efter de første tyverier. Og folk, der bruger en app bygget på disse gateways, har som regel ingen mulighed for at se, hvilken udbyder der håndterede deres tekst.

Moores råd tager udgangspunkt i én begrænsning: Et privatlivsflag binder kun det første led, og AI-agenter sender alt, hvad de kan læse, adgangsoplysninger inklusive. Selvhosting er den eneste opsætning, hvor ingen tredjepart læser en prompt. Går man direkte til én stor udbyder, er der kun én kontrakt og én privatlivspolitik at tjekke, og brugere af routere bør selv vælge de udbydere, der ligger bagved, i stedet for at acceptere den billigste pulje.

Dragos offentliggjorde sine resultater den 19. november. OpenRouter sendte e-mails til berørte kunder og offentliggjorde sin hændelsesmeddelelse i løbet af den følgende weekend, og Phala opfordrer alle, der sendte hemmeligheder til en DeepSeek-model via gatewayen mellem den 21. oktober og den 8. november, til at skifte dem. OpenRouter oplyser, at selskabet bygger forskernes lokkeprompt-tests ind i sin egen platform, så kontrollerne kører løbende, og at fjernede endpoints først får nulopbevaringsmærkningen tilbage efter garantier og validering. Dragos arbejder nu sammen med omkring et dusin udbydere.

Som Moore udtrykte det, er det en beslutning, hvor dine prompter havner, “og hvis du ikke træffer den, træffer den laveste pris den for dig.”

Tags: , , , , ,

Tilføj os på Google

Debat

Der er 0 kommentarer.