Teknologi

Wells Fargos nye vilkår gør kunden ansvarlig for AI-agentens fejl

Susan Hill
Tilføj os på Google

Wells Fargo omskriver aftalen bag bankens app og hjemmeside, så alt, hvad en ekstern AI-agent foretager sig på en kundes konto, regnes som kundens egen handling. Banken oplyser, at den vil følge en agents instruktioner uden at kontrollere dem, at den ikke vil holde øje med, hvad agenten gør, og at den vil behandle agentens fejl som kundens. »Your use of any AI Agent is AT YOUR OWN RISK«, lyder det i de nye vilkår – med versaler.

For alle, der har givet en indkøbsbot eller en budgetassistent adgang til deres netbank-adgangskode, ændrer det, hvem der betaler, når softwaren tager fejl. En dobbelt betaling, en ordre afgivet ti gange eller en overførsel udløst af en booby-trapped webside vil ligge hos kontoindehaveren og ikke hos banken, medmindre en lov siger noget andet. Ingen behøver at skrive under på noget: Kunder, der fortsætter med at bruge onlinebanken efter ændringen, anses for at have accepteret den. »Forbrugerne godkender mål, ikke hvert eneste klik«, sagde Kacy Kim, professor i markedsføring ved Bryant University, der forsker i forbrugeradfærd, til Wired.

Definitionen er bred. Wells Fargo kalder enhver software, der foretager »autonomous, semi-autonomous, or non-autonomous action« på en persons vegne, for en »AI Agent«, og det rækker langt videre end de chatbots, der sælges som personlige assistenter. Kunden bærer omkostningen, hvis en agent misforstår instruktioner, gør ting, ingen har bedt om, handler på baggrund af »manipulated inputs« eller overskrider den bemyndigelse, den har fået. Agenter, der drives af personer, som en kunde giver adgang til kontoen, er omfattet af de samme regler, og ingen under 18 år må overhovedet tilknytte en agent.

Det er også kundens opgave at slukke for en agent. Ifølge vilkårene skal kunderne selv tilbagekalde agentens adgang, gemme dokumentation for, at de har gjort det, og udlevere den dokumentation, hvis banken beder om det. Indtil de giver Wells Fargo besked, er de fortsat ansvarlige for alt, hvad agenten foretager sig. Det følger logikken i den amerikanske regel om elektroniske overførsler, Regulation E, som behandler overførsler foretaget af en person, du har givet dit kort eller dit login, som godkendte, indtil du beder banken om at stoppe dem.

Wells Fargo lukker stadig agenter ind, hvilket placerer banken i den tilladende ende af en branche, der er ved at lukke døren. Ifølge Wired har JPMorgan Chase ændret sine vilkår, så tredjepartsagenter, der logger ind med en kundes loginoplysninger, er forbudt, Bank of America har advaret kunderne mod at dele deres login med agenter, og Citibank og PNC har tilføjet deres egne advarsler. Morgan Stanley har blokeret tredjepartsagenter fra sine platforme, skriver Axios. Wells Fargo har bevaret retten til at afbryde de forbindelser, agenter bruger, eller til helt at blokere en given agent.

Modstanden rækker ud over banksektoren. Amazon har blokeret Metas agent Muse fra at foretage køb i sin butik, og United Airlines har sagt, at personlige bots ikke vil kunne købe flybilletter til rejsende. American Express er den sjældne undtagelse i Wireds gennemgang: Selskabet har sagt, at nogle agentfejl, for eksempel at der bestilles for mange stk. af en vare, i fremtiden kan komme i betragtning til refusion, hvis kunden ikke kan få pengene tilbage fra forhandleren.

Hvor meget de nye formuleringer ændrer i praksis, er uklart. Klausulerne henviser gentagne gange til »law or regulation«, og ingen domstol har taget stilling til, hvem der bærer tabet, når en agent, som en kunde har tændt for, gør noget, kunden aldrig havde tænkt sig. Målgruppen er desuden lille. »All of our data shows that most people don’t even know what agents are, much less use them«, sagde Forrester-analytiker Sucharita Kodali til Wired. Og bankerne er ikke imod agenter som sådan. »De låser døren for eksterne agenter og bygger deres egne«, sagde Luca Cian, professor ved University of Virginia, der forsker i forbrugerpsykologi og AI. Wells Fargos egen generative AI-assistent har håndteret mere end en milliard interaktioner.

De nye vilkår omfatter kun kunder i Wells Fargos amerikanske online- og mobilbank, og alle de banker, der er nævnt indtil nu, er amerikanske. I EU presser betalingsreglerne allerede apps, der læser eller flytter penge, mod licenserede forbindelser leveret af banken i stedet for en delt adgangskode, hvilket levner mindre plads til agenter, der logger ind som kunden.

Den opdaterede aftale med Wells Fargo træder i kraft tirsdag den 24. november og gælder for alle, der fortsætter med at bruge bankens hjemmeside eller app efter den dag. JPMorgans forbud mod agenter, der bruger loginoplysninger, kom i slutningen af oktober, samme dag som Bank of America sendte sin advarsel. Wells Fargo har desuden bevaret muligheden for at kræve, at kunderne registrerer deres agenter hos banken, hvilket ville give den en liste over de bots, som den siger, at den ikke overvåger.

Tags: , , , , ,

Tilføj os på Google

Debat

Der er 0 kommentarer.