- OpenAI aktive yon modèl prediksyon laj nan ChatGPT pou detekte posib itilizatè ki poko gen 18 an epi aplike plis filtè sekirite.
- Sistèm nan analize siyal konpòtman ak done kont, epi li pèmèt korije erè yo atravè verifikasyon selfie ak dokiman ofisyèl atravè Persona.
- Lè yo idantifye kont yon minè, yo limite aksè a kontni sansib tankou vyolans grafik, jwèt wòl seksyèl, oswa defi viral danjere.
- Lansman an se mondyal e li pral rive nan Inyon Ewopeyen an nan semèn kap vini yo, nan yon kontèks kote presyon regilasyon an ap ogmante ak plan pou yon "mòd pou granmoun" nan lavni.
OpenAI te kòmanse deplwaye nan ChatGPT, yon sistèm prediksyon laj ki chanje anpil fason chatbot la trete itilizatè ki poko gen 18 anKonpayi an ap chèche ajiste eksperyans lan ak mezi sekirite yo otomatikman selon si yon kont sanble pou yon adolesan oswa yon granmoun.
Desizyon an rive nan yon moman delika, avèk ogmante presyon regilasyon sou enpak IA sou minè yo ak pwosè kontinyèl kont konpayi an ak PDG li a, Sam Altman, nan ka ki mennen ankèt sou wòl asistan konvèsasyon an nan sitiyasyon ki gen gwo risk. An menm tan, konpayi an vle pou prepare teren an pou nouvo fòma kontni san kite pi jèn odyans lan san pwoteksyon.
Kijan modèl prediksyon laj ChatGPT a fonksyone
Nouvo karakteristik la baze sou yon modèl entèlijans atifisyèl ki kapab estime si yon kont se pou yon moun ki poko gen 18 anSa a baze sou plizyè siyal ke sèvis la menm pwodui. Se pa sèlman sa itilizatè a deklare lè l ap enskri, men yon konbinezon endikatè ki pèmèt yon dediksyon pi egzak sou pwofil laj itilizatè a.
Dapre OpenAI, sistèm nan pran an kont laj kont lan, lè aktivite tipik yoDone yo gen ladan yo tou modèl itilizasyon sou tan ak laj itilizatè a te antre lè l t ap kreye pwofil li a. Avèk gwo deplwaman sa a, konpayi an gen pou objektif idantifye faktè ki pi fyab yo pou kapab amelyore modèl la pi byen epi diminye erè yo.
Apwòch la enplike chanje soti nan yon konsantrasyon ki baze prèske sèlman sou deklarasyon laj pwòp tèt ou, fasil pou kontouneSa mennen nan yon sistèm ki pi otomatik ki aktive pwoteksyon adisyonèl lè gen dout rezonab. An pratik, se yon kouch siplemantè ki konplete kontwòl paran yo ak paramèt familyal ki deja egziste yo.
OpenAI ensiste ke Pa gen okenn sistèm prediksyon laj ki san fayKonpayi an rekonèt ke pral gen ka kote yo trete yon granmoun tankou yon minè, oubyen okontrè, senaryo kote IA a pa rive detekte alè ke l ap kominike avèk yon adolesan. Se poutèt sa, konpayi an ap pwopoze yon mekanis verifikasyon adisyonèl pou korije erè sa yo.
Sa k ap chanje pou minè yo: limit sou kontni sansib
Lè modèl la konsidere sa Yon kont gen anpil chans pou se pou yon moun ki poko gen 18 an.ChatGPT otomatikman aktive yon eksperyans ki pi pwoteje. Objektif la se diminye ekspozisyon a sèten kalite kontni ki, dapre literati sou devlopman timoun, ka gen yon pi gwo enpak sou adolesan yo.
Nan kontèks sa a, platfòm nan pral aplike Filtè adisyonèl pou vyolans grafik, sèn san koule, oswa deskripsyon patikilyèman grafikanplis de mete restriksyon sou patisipasyon nan jwèt wòl ak konpozan seksyèl yoKontni amoure oswa vyolan pral entèdi. Defi viral ki ka ankouraje konpòtman ki riske oswa danjere yo pral limite tou.
Yon lòt domèn kote OpenAI vle mete fren an se Kontni ki ranfòse estanda bote ekstrèm yoY ap adrese rejim alimantè malsen oswa naratif ki ankouraje wont kò a avèk plis prekosyon oswa bloke yo nèt si sistèm nan jije itilizatè a twò jèn.
Pwoteksyon adisyonèl sa yo anplis de kontwòl sekirite ke ChatGPT te deja aplike pou tout itilizatè yokèlkeswa laj. Asistan an li menm deklare ke li pa jenere pònografi oswa deskripsyon seksyèl eksplisit, evite enstriksyon sou oto-mutilation oswa swisid, pa eksplike kijan pou komèt krim, epi li pa bay done pèsonèl twazyèm pati.
Sou sijè tankou sante, seksyalite debaz, vyolans oswa politikChatbot la te deja ap fonksyone avèk yon apwòch edikatif ak net, li evite ton sansasyonalis oswa nenpòt entansyon pou pèsyade. Diferans lan kounye a se ke, si kont lan sanble pou yon minè, sèten bagay yo pral trete avèk plis prekosyon oswa yo pral filtre nèt.
Verifye laj ak Moun nan: selfie ak dokiman ofisyèl
Pou ka kote IA fè yon erè, OpenAI ofri yon pwosesis verifikasyon laj atravè Persona...yon twazyèm pati ki espesyalize nan verifikasyon idantite. Lide a se pou yon granmoun ki te klase pa erè kòm yon minè ka reprann tout aksè a fonksyonalite ChatGPT yo.
Pwosedi a kòmanse nan paramèt sèvis yo, nan seksyon kont lan, kote opsyon pou "Verifikasyon laj"Apre sa, itilizatè a ap redireksyonnen sou Persona, ki moun ki ka mande yon selfie an dirèk avèk kamera telefòn mobil ou oswa òdinatè w pou konfime ke moun nan rive nan laj majorite.
Tou depan de peyi a, sistèm nan ka mande tou yon dokiman idantite ofisyèltankou yon kat idantite nasyonal, yon paspò, oswa yon lisans chofè. Avèk enfòmasyon sa yo, Persona verifye si itilizatè a gen 18 an oswa plis epi li kominike sèlman rezilta a bay OpenAI, san li pa pataje imaj yo oswa dokiman orijinal yo.
Yon fwa chèk la pase, Yo retire restriksyon siplemantè ki asosye avèk eksperyans pou minè yo. Kont lan ap fonksyone tankou nenpòt granmoun, avèk limit sekirite jeneral yo. OpenAI avèti ke chanjman sa a ka pran yon ti tan pou l parèt sou tout sèvis ak aparèy ki lye yo.
Konsènan vi prive, konpayi an mete aksan sou sa Moun nan efase selfie a ak dokiman yo nan yon maksimòm sèt jou. epi OpenAI pa jwenn aksè nan dosye sa yo. Li sèlman resevwa dat nesans la oswa yon siyal granmoun ekivalan, ase pou enfim prediksyon sou kont sa a nan lavni.
Yon mouvman nan mitan yon presyon regilasyon entans ak Ewòp nan sant atansyon an.
Aplikasyon prediksyon laj la pa ka konprann san kontèks regilasyon an. OpenAI rekonèt ke mezi a reponn a bezwen pou Adapte ChatGPT a reyalite adolesan yo ansanm ak demand otorite yo ak lejislatè yo k ap mande plis garanti pou minè nan sèvis IA yo.
Ozetazini, Komisyon Federal Komès la (FTC) Li kontinye ap fè envestigasyon sou efè teknoloji sa yo sou jèn itilizatè yo.Pandanstan, konpayi an ap fè fas ak pwosè k ap deba sou responsablite chatbot la nan sitiyasyon ki gen risk ekstrèm. Nouvo pwoteksyon yo gen pou objektif diminye tansyon sa yo epi demontre yon angajman proaktif anvè sekirite.
Nan la Inyon Ewopeyen andeplwaman sistèm lan ap rive "nan semèn k ap vini yo"OpenAI dwe pran an kont lòt egzijans rejyonal ki soti nan règleman Inyon Ewopeyen an sou pwoteksyon done ak sèvis dijital yo. Ewòp te patikilyèman strik anrapò ak tretman minè sou platfòm sou entènèt, tankou sistèm IA jeneratif yo.
Mezi a tou aliyen ak pratik lòt platfòm yo, tankou YouTube, ki itilize verifikasyon laj adisyonèl lè li sispèk yon minè ka dèyè yon kont. Nan ka sa a, ChatGPT imite apwòch sa a an pati, men avèk yon modèl ki eseye antisipe ekspozisyon a kontni sansib anvan li rive.
OpenAI deklare ke konsepsyon sistèm lan fini. avèk patisipasyon ekspè nan devlopman timoun epi apiye sou etid akademik sou diferans ki genyen ant adolesan ak granmoun nan aspè tankou pèsepsyon risk, kontwòl enpilsyon, oswa vilnerabilite anvè sèten kalite mesaj.
800 milyon itilizatè, "mòd granmoun" nan lavni ak bezwen pou kontwòl
Anons fonksyon prediksyon laj la koresponn ak yon peryòd gwo ekspansyon pou ChatGPT. OpenAI estime ke sèvis la deja genyen apeprè 800 milyon itilizatè aktif pa semèn, yon echèl ki fòse lòd nan fason yo ofri kontni epi limite li selon moun ki lòt bò a.
Konpayi an te anonse tou nan dènye semèn yo ke ChatGPT ap kòmanse montre piblisite nan vèsyon gratis la. Pou kèk itilizatè Ozetazini, pandan y ap kenbe aksè san piblisite a abònman peye ki pi chè yo. Mouvman sa a fè pati yon estrateji pi laj pou ogmante revni.
Anfèt, konpayi an li menm te endike ke li Revni anyèl yo ta dwe depase 20.000 milya dola ameriken an 2025., konpare ak 6.000 milya dola yo te estime yon ane anvan, akòz ekspansyon kapasite enfòmatik li yo ak kwasans nan itilizasyon modèl li yo.
An paralèl, OpenAI ap travay sou yon avni "Mòd pou granmoun" pou ChatGPTFonksyonalite sa a ta pèmèt aksè a kategori kontni ki pi sansib, depi itilizatè a verifye laj li. Direktè aplikasyon konpayi an, Fidji Simo, te endike ke li ta rive nan premye trimès 2026 la, sa depann de mezi pwoteksyon solid an plas pou bloke opsyon sa a pou minè yo.
Prediksyon laj la anfòm nan plan sa a kòm moso nesesè pou separe, avèk yon sèten maj sekirite, eksperyans adolesan an ak eksperyans granmoun nanSan separasyon sa a, li t ap difisil pou jistifye bay regilatè yo ak piblik la pou pèmèt yon mòd ak kontni ki pi eksplisit.
Yon enfrastrikti envizib ki pral fòme fason timoun yo itilize IA
Anplis tit la, prediksyon laj sou ChatGPT fonksyone tankou enfrastrikti silansye ki pral fòme lavi chak jou plizyè milyon jèn itilizatèSistèm nan deside sa ki wè ak sa ki pa wè, ki konvèsasyon ki posib e ki limite, menm lè adolesan an pa deklare laj li ouvètman.
Siksè parye sa a pral depann de de faktè: presizyon modèl la ak nivo friksyon li prezante aSi ou mal mete etikèt sou twòp granmoun, plent ap vini byen vit; si ou pa rive jwenn yo, kritik yo ap konsantre sou mank pwoteksyon pou minè yo, sitou an Ewòp ak lòt jiridiksyon ki mande anpil.
Menm avèk limit li yo, nouvo fonksyonalite a reprezante yon etap enpòtan nan fason gwo platfòm IA yo pran responsablite konkrè pou moun ki itilize pwodwi yo, tankou alyans sekirite sou entènètNan ka OpenAI a, li vini apre plizyè mwa deba piblik, pwogrè regilasyon, ak kwasans komèsyal ki mande pou konbine ekspansyon, monetizasyon, ak sekirite nan yon sèl mouvman.
Avèk deplwaman mondyal sa a ak rive iminan li nan Inyon Ewopeyen an, ChatGPT ap deplase nan direksyon yon modèl kote Laj pa sèlman yon enfòmasyon ki antre nan yon fòm ankò. pou l vin yon varyab santral ki detèmine kalite konvèsasyon, kontni, ak limit ke chatbot la ap ofri chak itilizatè.
Mwen se yon antouzyast teknoloji ki te vire enterè "jik" li nan yon pwofesyon. Mwen te pase plis pase 10 ane nan lavi mwen itilize teknoloji dènye kri ak brikolaj ak tout kalite pwogram nan pi kiryozite. Koulye a, mwen te espesyalize nan teknoloji òdinatè ak jwèt videyo. Sa a se paske depi plis pase 5 ane mwen ap ekri pou divès sit entènèt sou teknoloji ak jwèt videyo, kreye atik ki ap chèche ba w enfòmasyon ou bezwen an nan yon lang ke tout moun konprann.
Si w gen nenpòt kesyon, konesans mwen varye ant tout bagay ki gen rapò ak sistèm operasyon Windows la ak Android pou telefòn mobil yo. Ak angajman mwen se avè ou, mwen toujou dispoze pase kèk minit epi ede ou rezoud nenpòt kesyon ou ka genyen nan mond entènèt sa a.