ChatGPT får teen-tilstand — forældre kan begrænse, men ikke læse chats

ChatGPT opfører sig nu anderledes for teenagere. OpenAI lancerede ChatGPT for Teens den 18. august, og systemet er automatisk: brugere mellem tretten og sytten år får en version af produktet, der allerede er konfigureret med strammere begrænsninger end voksenstandarden. Teenageren skal ikke gøre noget, og der kræves ikke noget samtykke fra en forælder. Funktionen begyndte at rulle ud globalt den uge og forventes at være færdig med sin to-ugers udrulning til alle markeder.

Forældrekontrollen, som tilgås via en familieprofil, er mere gennemtænkt end de fleste platforme tilbyder. En forælder kan indstille stille timer – bestemte tidsrum på dagen, hvor ChatGPT er utilgængeligt for teenagekontoen – og uafhængigt deaktivere stemmetilstand, billedgenerering eller den vedvarende hukommelsesfunktion, der lader ChatGPT huske detaljer på tværs af samtaler. Hver af disse er en separat kontakt. Der er også en mulighed for at fravælge, at OpenAI bruger teenagerens samtaler til at træne fremtidige modeller – noget der ikke er slået til som standard på almindelige konti.

Hvad forældre ikke kan gøre, er at læse, hvad deres barn har skrevet til ChatGPT. Det er en bevidst designbeslutning, ikke et hul i implementeringen. OpenAIs holdning er, at teenagere, der har mistanke om, at deres samtaler kan blive delt med forældre, simpelthen ikke vil bruge produktet til de ting, de rent faktisk har brug for hjælp til – og en teenager, der ikke kan spørge en AI om noget følsomt uden at blive dømt, mister den mest nyttige del af teknologien. Kontrollen giver forældre værktøjer til at sætte grænser omkring tid og tilstand; indholdet af samtalerne forbliver privat.

Selve modellen har indbyggede begrænsninger, der gælder uanset forældrenes indstillinger. ChatGPT for Teens har en strammere håndtering af emner omkring selvskade, spiseforstyrrelser og vold. Modellen er trænet til at omdirigere frem for at engagere sig i disse emner, og de samme begrænsninger gælder i Study Mode – en ny funktion, der omdanner svar til quizzer og øvelsesspørgsmål i stedet for direkte svar. Study Mode er designet til at støtte lektier uden at erstatte dem, så teenageren skal hente information frem i stedet for blot at kopiere den.

Spørgsmålet om aldersverifikation er, hvor systemets begrænsninger bliver tydelige. OpenAI bruger en aldersforudsigelsesmodel, ikke en formel identitetskontrol, til at klassificere brugere som teenagere. Teenagere, der har angivet en falsk fødselsdato, da de først oprettede en konto – en almindelig omgåelse på aldersbegrænsede platforme – vil sandsynligvis ikke blive omklassificeret. Udrulningen er rettet mod nye konti og konti med korrekt registrerede fødselsdatoer. OpenAI har ikke oplyst, hvor stor en andel af den eksisterende brugerbase der falder inden for aldersgruppen 13 til 17, men forskere har konsekvent fundet, at gruppen er stor og uforholdsmæssigt tung i sin brug af AI-værktøjer til akademiske formål.

Den bredere designlogik her er værd at stoppe op ved. OpenAI forsøger at holde to ting på én gang: nok sikkerhedsarkitektur til at tilfredsstille forældre og reguleringsmyndigheder, og nok privatliv til at være virkelig nyttig for teenagere. Stille timerne og emnebegrænsningerne adresserer det første; afvisningen af at dele chatlogs adresserer det andet. Om denne balance er korrekt, er et spørgsmål, som fornuftige mennesker kan være uenige om. Det bemærkelsesværdige er, at OpenAI gjorde afvejningen eksplicit – de valgte teenage-nytte frem for forældreovervågning, og de sagde det.

ChatGPT for Teens er tilgængelig nu på alle platforme. Den to-ugers globale udrulning begyndte den 18. august.

Tags: kunstig intelligens, OpenAI, chatgpt, ChatGPT for Teens, digital sikkerhed unge, forældrekontrol