- OpenAI aktiverer en aldersforudsigelsesmodel i ChatGPT for at registrere mulige brugere under 18 år og anvende flere sikkerhedsfiltre.
- Systemet analyserer adfærdssignaler og kontodata og tillader, at fejl rettes via selfie-verifikation og officielt dokument via Persona.
- Når en mindreårigs konto identificeres, begrænses adgangen til følsomt indhold såsom grafisk vold, seksuelle rollespil eller farlige virale udfordringer.
- Udrulningen er global og vil nå Den Europæiske Union i de kommende uger i en kontekst af øget regulatorisk pres og planer om en fremtidig "voksentilstand".
OpenAI er begyndt at blive implementeret i ChatGPT, et aldersforudsigelsessystem hvilket markant ændrer den måde, chatbotten behandler brugere under 18 år påVirksomheden forsøger automatisk at justere oplevelsen og sikkerhedsforanstaltningerne baseret på, om en konto ser ud til at tilhøre en teenager eller en voksen.
Beslutningen kommer på et vanskeligt tidspunkt, stigende regulatorisk pres på AI's indvirkning på mindreårige og igangværende retssager mod virksomheden og dens administrerende direktør, Sam Altman, i sager, der undersøger samtaleassistentens rolle i højrisikosituationer. Samtidig ønsker virksomheden, at at forberede nye indholdsformater uden at lade det yngste publikum være ubeskyttet.
Sådan fungerer ChatGPTs aldersforudsigelsesmodel
Den nye funktion er baseret på en kunstig intelligensmodel, der er i stand til at vurdere, om en konto tilhører en person under 18 årDette er baseret på flere signaler genereret af selve tjenesten. Det handler ikke kun om, hvad brugeren oplyser ved registrering, men om en kombination af indikatorer, der giver mulighed for en mere præcis udledning af brugerens aldersprofil.
Ifølge OpenAI tager systemet højde for kontoens alder, typiske aktivitetstimerDataene omfatter også brugsmønstre over tid og den alder, brugeren indtastede, da de oprettede deres profil. Med denne massive udrulning sigter virksomheden mod at identificere de mest pålidelige faktorer for yderligere at forfine modellen og reducere fejl.
Tilgangen indebærer at bevæge sig væk fra et fokus, der næsten udelukkende er baseret på selverklæring om alder, let at omgåDette fører til et mere automatiseret system, der aktiverer yderligere beskyttelse, når der er rimelig tvivl. I praksis er det et ekstra lag, der supplerer eksisterende forældrekontrol og familieindstillinger.
OpenAI insisterer på, at Intet aldersforudsigelsessystem er ufejlbarligtVirksomheden anerkender, at der vil være tilfælde, hvor en voksen behandles som en mindreårig, eller omvendt scenarier, hvor AI'en ikke registrerer i tide, at den interagerer med en teenager. Derfor foreslår virksomheden en yderligere verifikationsmekanisme for at rette disse fejl.
Hvad ændres for mindreårige: begrænsninger på følsomt indhold
Når modellen tager højde for, at En konto tilhører sandsynligvis en person under 18 årChatGPT aktiverer automatisk en mere beskyttet oplevelse. Målet er at reducere eksponering for visse typer indhold, som ifølge litteratur om børns udvikling kan have en større indflydelse på unge.
I den sammenhæng vil platformen gælde Yderligere filtre til grafisk vold, blodige scener eller særligt grafiske beskrivelserudover at begrænse deltagelse i rollespil med seksuelle komponenterRomantisk eller voldeligt indhold vil være forbudt. Virale udfordringer, der kan tilskynde til risikabel eller skadelig adfærd, vil også være begrænsede.
Et andet område, hvor OpenAI ønsker at sætte bremserne på, er Indhold, der forstærker ekstreme skønhedsstandarderUsunde kostvaner eller fortællinger, der promoverer bodyshaming, vil blive behandlet med større forsigtighed eller helt blokeret, hvis systemet vurderer brugeren som for ung.
Disse yderligere sikkerhedsforanstaltninger kommer ud over sikkerhedskontroller, som ChatGPT allerede har anvendt på alle brugereuanset alder. Assistenten selv oplyser, at den ikke genererer pornografi eller eksplicitte seksuelle beskrivelser, undgår instruktioner om selvskade eller selvmord, ikke forklarer, hvordan man begår forbrydelser, og ikke videregiver personoplysninger om tredjeparter.
Om emner som f.eks. sundhed, grundlæggende seksualitet, vold eller politikChatbotten fungerede allerede med en pædagogisk og neutral tilgang og undgik sensationsprægede toner eller enhver form for overtalelsesintention. Forskellen er nu, at hvis kontoen ser ud til at tilhøre en mindreårig, vil visse sager blive håndteret med endnu større forsigtighed eller filtreret helt fra.
Bekræft alder med Persona: selfie og officielt dokument
I tilfælde hvor AI begår en fejl, tilbyder OpenAI en aldersbekræftelsesproces via Persona...en tredjepartsudbyder, der specialiserer sig i identitetsbekræftelse. Ideen er, at en voksen, der fejlagtigt er blevet klassificeret som mindreårig, kan få fuld adgang til ChatGPT's funktioner igen.
Proceduren starter i serviceindstillingerne, i kontosektionen, hvor muligheden for at "Aldersbekræftelse"Derfra bliver brugeren omdirigeret til Persona, som kan anmode om en Live selfie med din mobiltelefon eller computerkamera at bekræfte, at personen har nået myndighedsalderen.
Afhængigt af landet kan systemet også kræve et officielt identitetsdokumentsåsom et nationalt identitetskort, pas eller kørekort. Med disse oplysninger verificerer Persona, om brugeren er 18 år eller ældre, og kommunikerer kun resultatet til OpenAI uden at dele billeder eller originale dokumenter.
Når checken er bestået, De ekstra restriktioner forbundet med oplevelsen for mindreårige fjernes. Kontoen fungerer derefter som enhver voksens, inden for de generelle sikkerhedsgrænser. OpenAI advarer om, at det kan tage lidt tid, før denne ændring afspejles på tværs af alle tilknyttede tjenester og enheder.
Med hensyn til privatlivets fred understreger virksomheden, at Personen sletter selfien og dokumenterne inden for maksimalt syv dage. og at OpenAI ikke tilgår disse filer. Den modtager kun fødselsdatoen eller et tilsvarende voksensignal, nok til at deaktivere forudsigelser på den konto i fremtiden.
Et skridt midt i intenst regulatorisk pres og med Europa i søgelyset
Implementeringen af aldersforudsigelse kan ikke forstås uden den lovgivningsmæssige kontekst. OpenAI anerkender, at foranstaltningen imødekommer behovet for tilpasning af ChatGPT til teenageres virkelighed samt krav fra myndigheder og lovgivere, der anmoder om flere garantier for mindreårige i AI-tjenester.
I USA, Federal Trade Commission (FTC) Den fortsætter løbende undersøgelser af effekten af disse teknologier på unge brugere.I mellemtiden står virksomheden over for retssager, der debatterer chatbottens ansvar i ekstreme risikosituationer. De nye sikkerhedsforanstaltninger har til formål at lette disse spændinger og demonstrere en proaktiv forpligtelse til sikkerhed.
I Den Europæiske Unionsystemimplementeringen vil ankomme "i de kommende uger"OpenAI skal tage hensyn til yderligere regionale krav, der stammer fra EU-forordninger om databeskyttelse og digitale tjenester. Europa har været særligt strengt med hensyn til behandling af mindreårige på onlineplatforme, herunder generative AI-systemer.
Foranstaltningen stemmer også overens med praksis på andre platforme, såsom YouTube, der bruger yderligere aldersbekræftelse når den har mistanke om, at en mindreårig kan stå bag en konto. I dette tilfælde efterligner ChatGPT delvist denne tilgang, men med en model, der forsøger at forudse eksponering for følsomt indhold, før det sker.
OpenAI oplyser, at systemdesignet er færdigt med deltagelse af eksperter i børns udvikling og baserer sig på akademiske studier af forskellene mellem unge og voksne i aspekter som risikoopfattelse, impulskontrol eller sårbarhed over for bestemte typer beskeder.
800 millioner brugere, fremtidens "voksentilstand" og behovet for kontrol
Annonceringen af aldersforudsigelsesfunktionen falder sammen med en periode med stærk ekspansion for ChatGPT. OpenAI vurderer, at tjenesten allerede har cirka 800 millioner aktive brugere om ugen, en skala, der gennemtvinger orden i, hvordan indhold tilbydes, og som er begrænset afhængigt af, hvem der er på den anden side.
Virksomheden har også i de seneste uger annonceret, at ChatGPT vil begynde at vise annoncer i den gratis version. For nogle brugere i USA, samtidig med at de bevarer reklamefri adgang til de dyrere betalte abonnementer. Flytningen er en del af en bredere strategi for at øge omsætningen.
Faktisk har virksomheden selv angivet, at dens Den årlige omsætning ville have oversteget 20.000 milliarder dollars i 2025, sammenlignet med de 6.000 milliarder, der blev anslået et år tidligere, drevet af udvidelsen af dens computerkapacitet og væksten i brugen af dens modeller.
Sideløbende arbejder OpenAI på en fremtid "Voksentilstand" til ChatGPTDenne funktion ville give adgang til mere følsomme indholdskategorier, forudsat at brugeren bekræfter sin alder. Virksomhedens applikationsdirektør, Fidji Simo, angav, at dens ankomst ville være i første kvartal af 2026, betinget af at der er solide sikkerhedsforanstaltninger på plads for at blokere denne mulighed for mindreårige.
Aldersforudsigelsen passer ind i den plan, da den nødvendige brik til, med en vis sikkerhedsmargin, at adskille den unges oplevelse fra den voksnesUden denne adskillelse ville det være vanskeligt at retfærdiggøre over for tilsynsmyndigheder og offentligheden at muliggøre en tilstand med mere eksplicit indhold.
En usynlig infrastruktur, der vil forme, hvordan børn bruger AI
Ud over overskriften fungerer aldersforudsigelsen på ChatGPT sådan her lydløs infrastruktur, der vil forme millioner af unge brugeres dagligdagSystemet bestemmer, hvad der ses, og hvad der ikke ses, hvilke samtaler der er mulige, og hvilke der er begrænsede, selv når teenageren ikke åbent har oplyst sin alder.
Succesen af dette væddemål afhænger af to faktorer: modellens nøjagtighed og det friktionsniveau, den introducererHvis man fejlmærker for mange voksne, vil der hurtigt følge klager; hvis man ikke lever op til forventningerne, vil kritikken fokusere på manglen på beskyttelse af mindreårige, især i Europa og andre krævende jurisdiktioner.
Selv med sine begrænsninger repræsenterer den nye funktion et betydeligt skridt i, hvordan store AI-platforme tager konkret ansvar for, hvem der bruger deres produkter, herunder online sikkerhedsalliancerI tilfældet med OpenAI kommer det efter måneders offentlig debat, regulatoriske fremskridt og kommerciel vækst, der kræver en kombination af ekspansion, monetisering og sikkerhed i ét træk.
Med denne globale udrulning og dens forestående ankomst i Den Europæiske Union bevæger ChatGPT sig mod en model, hvor Alder er ikke længere bare et stykke data, der indtastes i en formular at blive en central variabel, der bestemmer den type samtaler, indhold og begrænsninger, som chatbotten vil tilbyde hver bruger.
Jeg er en teknologientusiast, der har vendt sine "nørde" interesser til et erhverv. Jeg har brugt mere end 10 år af mit liv på at bruge avanceret teknologi og pille ved alle slags programmer af ren nysgerrighed. Nu har jeg specialiseret mig i computerteknologi og videospil. Dette skyldes, at jeg i mere end 5 år har skrevet til forskellige hjemmesider om teknologi og videospil, og lavet artikler, der søger at give dig den information, du har brug for, på et sprog, der er forståeligt for alle.
Har du spørgsmål, så spænder min viden fra alt relateret til Windows styresystemet samt Android til mobiltelefoner. Og mit engagement er over for dig, jeg er altid villig til at bruge et par minutter og hjælpe dig med at løse eventuelle spørgsmål, du måtte have i denne internetverden.