Microsoft kaldte AI-skrabning »det største tyveri af arbejde i historien« i sine egne dokumenter

En Microsoft-forsker satte ord på, hvad virksomheden var ved at bygge, og ordet var ikke smigrende. I en gennemgang af, hvordan store sprogmodeller lærer fra det åbne web, kaldte han det “det største arbejdstyveri i menneskehedens historie.” Linjen var skrevet til interne øjne. Nu er den et retsdokument.

Udtrykket lander som en gotcha: AI-gigantens egen medarbejder kalder forretningsmodellen tyveri. Den læsning er for snæver. Hvad de frigivne dokumenter faktisk viser, er en virksomhed, der forstod den mekanisme, den tjente penge på, beskrev den mekanisme i klart sprog, og alligevel sendte produktet på markedet. Det interessante er ikke fornærmelsen. Det er diagrammet under den.

Dokumentet tilhører Brent Hecht, Microsofts direktør for anvendt videnskab, og det dukkede op i den ophavsretssag, som The New York Times har anlagt mod OpenAI og Microsoft. Hecht argumenterede for, at træning af modeller på publicerede værker uden betaling udgjorde “et forbløffende tyveri af hidtil usete proportioner.” En separat intern præsentation gik dybere ind i mekanikken: den advarede om, at Microsofts AI-indholdsstrategi havde startet et “doom loop”, der ville “skade vores modellers præstation og hele internettet på samme tid.” Store sprogmodeller, lyder en linje, er “et produkt, der ødelægger sin egen forsyningskæde.”

Anbefalet læsningMeta frigiver gratis AI-model og udpeger OpenAI som den reelle trussel

Den sidste sætning er hele historien på syv ord. En chatbot, der besvarer et spørgsmål inde i søgefeltet, fjerner grunden til at klikke videre til den side, den lærte af. Færre klik betyder mindre indtægt for de sider, der producerer skriveriet, hvilket betyder, at færre af dem overlever, hvilket betyder mindre frisk menneskelig tekst til den næste model at træne på. Microsoft teoretiserede ikke denne loop udefra. Virksomhedens egne data målte den: Copilots svar-motor drev klikraterne til Times’ side ned med op til 93 procent i forhold til almindelig søgning.

Dokumenterne kvantificerer også indgangssiden af handelen. OpenAIs midt-træningsdata indeholdt mere end 91.000 kopier af værker fra Times, Daily News og Center for Investigative Reporting. Et datasæt hentet fra Common Crawl bar over to millioner dokumenter alene fra nytimes.com. En samling mærket Project Mango indeholdt mindst 160.000 unikke værker fra nyhedsudgivere. Dokumenterne beskriver betalingsmure, der blev omgået, og ophavsretlige meddelelser, der blev fjernet fra teksten, før den blev fodret ind.

OpenAIs egne ledere var ikke naive over for effekten. Nick Turley, der står i spidsen for ChatGPT, citeres for at beskrive produkter, der er “i høj grad substituerende” for journalistik og kalder skiftet en “eksistentiel trussel” mod udgivere. Det er den samme konklusion, Hecht nåede, blot under en anden jobtitel.

Her er hvorfor sproget betyder noget ud over pinlighed. Microsoft har distanceret sig fra bemærkningerne og fortalt retten, at dets faktiske holdning overholder ophavsretten, og ingen af virksomhederne ville kommentere lækagen. Men et fair use-forsvar afhænger delvist af, hvad en virksomhed vidste og havde til hensigt. Dokumenter, hvor dens egne forskere navngiver skaden – tyveri, en ødelagt forsyningskæde, et udhulet web – er ikke meninger, virksomheden bare kan afvise. De læses som bevis på, at mekanismen var forstået, før den blev skaleret.

Internettet, som disse modeller lærte fra, blev bygget af mennesker, der antog en læser i den anden ende. Microsofts dokumenter viser, at det vidste, skriftligt, at læseren blev konstrueret ud, og fortsatte med at bygge.

Tags: OpenAI, microsoft, AI training data, Brent Hecht, copyright lawsuits, The New York Times

Mere som dette

OpenAI’s modeller hackede Hugging Face på egen hånd — ingen mennesker gav ordren

OpenAI slukkede sikkerhedsspærringerne, og så hackede dens AI-agent Hugging Face

Bill Gates: »AI bliver enten den største ligemager nogensinde eller den værste kilde til uretfærdighed«

Et 10-personers Microsoft-team byggede en talemodel, der slår OpenAI, Google og ElevenLabs — for 0,10 dollar i timen

Microsoft fyrer 5.500 for at finansiere AI-investeringer på 190 milliarder dollar

Hinton siger, at den AI du bruger hver dag, allerede er bevidst