Google sætter sin bug bounty for open source på pause efter en strøm af falske AI-rapporter

Google tager ikke længere imod nye indberetninger om sikkerhedsfejl i sine open source-projekter via det bug bounty-program, der betalte eksterne forskere for at finde dem. Årsagen er en strøm af indsendelser skrevet med AI-værktøjer, og de fleste beskriver fejl, der ikke findes.

Konsekvenserne rækker langt ud over Google. Programmeringssproget Go, webframeworket Angular, byggesystemet Bazel og Protocol Buffers ligger til grund for millioner af apps og websites, og bug bounty-programmet var en af måderne, eksterne forskere kunne få betaling for at finde svagheder, før angribere gjorde det. Indtil videre er den dør kun halvt åben.

Et bug bounty-program bygger på en enkel aftale. Alle kan undersøge koden, og hvis de finder en reel sårbarhed og indberetter den fortroligt, betaler virksomheden. Googles Open Source Software Vulnerability Reward Program udbetalte mellem 100 og 31.337 dollars pr. indberetning; det højeste beløb var et vink til «elite», et gammelt hackerudtryk. Hver indsendelse lander på en sikkerhedsingeniørs bord, og vedkommende skal kunne genskabe problemet, før nogen får betaling.

Det var netop det menneskelige led, der fik systemet til at gå i hårdknude. I sin meddelelse skrev Google, at pausen skyldtes «en markant stigning i automatiserede indsendelser, hvoraf langt de fleste ikke er gyldige». Rapporter fra AI-modeller kan ligne ekspertarbejde med kodestykker, trin for trin-beskrivelser af angreb og selvsikre vurderinger af alvoren. Sikkerhedsforskere, der følger problemet, beskriver opdigtede angrebsforløb, fejlagtige antagelser om, hvordan koden fungerer, og påstande om, at man kan nå en sårbar funktion, selv om det ikke er muligt. Hver enkelt rapport koster stadig en ingeniør tid at afvise.

Pausen er mere afgrænset, end den umiddelbart lyder. Google modtager fortsat indberetninger om forsyningskæden, altså sager om kompromitterede afhængigheder eller kaprede byggeprocesser, og virksomheden færdigbehandler alle indberetninger om produkter, der blev sendt ind inden skæringsdatoen. Patch Rewards Program, der betaler op til 15.000 dollars for rettelser, som styrker vigtige open source-projekter, fortsætter, og visse fejl i Googles Google Cloud-kodelagre kan stadig indberettes via det særskilte Cloud-program.

Men pausen har også en pris. Den afviser samtidig de grundige menneskelige forskere, der bruger AI som ét blandt flere værktøjer, og en reel fejl, der bliver fundet i mellemtiden, har én færre betalt vej ind til Googles ingeniører. Virksomheden har ikke oplyst, hvor mange indberetninger den modtog, hvor stor en andel der kom fra AI, eller hvordan den vil skelne mellem gode og dårlige automatiserede fund, når programmet vender tilbage.

Google er ikke den første, der støder på den mur. Daniel Stenberg, hovedansvarlig vedligeholder af curl, dataoverførselsværktøjet, der er indbygget i milliarder af enheder, lukkede projektets bug bounty-program i januar 2026, efter at AI-genererede rapporter blev ved med at hobe sig op. I marts lovede Anthropic, Google, Microsoft, GitHub, OpenAI og AWS 12,5 millioner dollars til Open Source Security Foundation og organisationens Alpha-Omega-projekt, mens AWS advarede om, at AI-genererede rapporter overvældede open source-vedligeholderne.

Pausen trådte i kraft den 1. oktober, og Google har lovet en opdatering om et revideret program i første kvartal af 2027. Indtil da bliver forskere, der finder en fejl i et af Googles open source-produkter, henvist til virksomhedens andre belønningsprogrammer.

De værktøjer, der skulle finde fejl hurtigere, er endt med at begrave de mennesker, der skal kontrollere dem. Lige nu er det mest knappe i open source-sikkerhed en person, der har tid nok til at læse rapporten.

Tags: Google, cybersikkerhed, Open Source, AI-genererede rapporter, bug bounty, curl