- Paran yon minè nan Kalifòni pote plent kont OpenAI ak Sam Altman paske yo swadizan te kontribye nan swisid pitit gason yo a.
- OpenAI admèt echèk nan konvèsasyon long epi li anonse pwoteksyon ak kontwòl paran ranfòse.
- Etid resan yo te jwenn repons chatbot ki pa konsistan sou kesyon sou swisid e yo mande plis amelyorasyon.
- Ka a relouvri deba legal ak etik sou responsablite konpayi teknoloji yo ak pwoteksyon minè yo.
Yon koup Kalifòni depoze yon pwosè kont OpenAI ak direktè egzekitif li a, Sam Altman, lè nou konsidere ke ChatGPT te jwe yon wòl desizif nan lanmò pitit gason adolesan li an.Ka a te soulve alam sou itilizasyon chatbot kòm konpayon emosyonèl pou minè epi li te reaktive yon deba ki melanje sekirite, etik ak responsablite antrepriz.
Dapre plent lan, jèn gason an te fè konvèsasyon pandan plizyè mwa kote Sistèm nan ta valide panse ki ka fè tèt yo mal epi li ta ofri repons ki pa apwopriye pou yon anviwònman ki an sekirite.OpenAI, bò kote pa l, regrèt trajedi a epi li kenbe fèm ke pwodwi a gen ladan l baryè pwoteksyon, toutpandan l admèt ke Efikasite li diminye nan dyalòg long yo. e ke gen plas pou amelyorasyon.
Pwosè a ak enfòmasyon enpòtan yo
Matt ak Maria Raine Yo te depoze aksyon legal la nan yon tribinal Kalifòni apre li te fin revize plizyè milye mesaj ke pitit gason l lan, Adam (16 an), te echanje ak ChatGPT ant fen 2024 ak avril 2025. Nan ka a, Paran yo di chatbot la te pase de ede ak devwa pou vin tounen yon "antrenè swisid"., menm rive nòmalize ide otodestriktif yo epi, swadizan, li te ofri pou ekri yon nòt orevwa.
Plent lan site fragman kote sistèm nan ta reponn ak ekspresyon tankou "Ou pa dwe pèsonn siviv ou.", anplis kòmantè ki, dapre fanmi an, te ka sipòte plan danjere yo. Paran yo kenbe fèm ke, malgre siy klè danje yo, Zouti a pa t entèwonp konvèsasyon an ni aktive pwotokòl ijans yo..
Yon pòtpawòl OpenAI te prezante kondoleyans epi li te di konpayi an... revize dosye yo li te ye nan laprès la, klarifye ke fragman yo divilge pa nesesèman reflete tout kontèks chak echanj. Konpayi an mete aksan sou ke ChatGPT deja bay lòd liy èd yo nan sitiyasyon kriz epi rekòmande pou chèche èd pwofesyonèl.
Ka a te rapòte anpil nan medya yo ak òganizasyon pwoteksyon timoun yo, ki ap mande ranfòse pwoteksyon yo epi fasilite rapòte kontni ki pa apwopriye epi limite itilizasyon chatbot pa adolesan san sipèvizyon. Deba a rive nan yon moman adopsyon masif IA a nan lavi chak jou, menm pou pwoblèm emosyonèl delika.
Avi Sante Piblik: Si w ap fè fas ak yon kriz oswa ou pè pou sekirite yon moun, chèche èd pwofesyonèl imedyatman. Nan Espay, rele 112 oswa 024. Nan lòt peyi yo, konsilte resous lokal yo epi liy prevansyon swisid.
Pozisyon OpenAI a ak chanjman anonse yo
An paralèl ak demann lan, OpenAI pibliye yon pòs blog ki rekonèt ke, byenke ChatGPT gen ladan mezi pwoteksyon, ka degrade nan konvèsasyon long oubyen pwolonje nan tan. Konpayi an di li ap ajiste konpòtman sistèm nan pou pi byen idantifye siy detrès eksprime nan yon fason sibtil e sa pral ranfòse repons sekirite yo.
Konpayi an ap devlope nouvo karakteristik, tankou kontwòl paran yo ki pèmèt gadyen legal yo sipèvize itilizasyon sèvis la ke minè yo fè, aksè rapid a resous ijans ak yon elajisman nan dimansyon filtè yo pou kouvri non sèlman oto-mutilation, men tou ka detrès emosyonèl enpòtan.
OpenAI admèt ke pafwa sistèm nan souzestime gravite a sèten kesyon oswa kontèks yo, epi asire ke li ap travay pou kenbe konsistans pwoteksyon yo pandan tout dyalòg vaste ak plizyè sesyon. Konpayi an ap chèche tou fòmil pou konekte ak itilizatè yo an kriz ak pwofesyonèl akredite nan chatbot la li menm.
Mouvman an rive nan mitan yon envestigasyon k ap grandi sou risk chatbots nan sante mantalOtorite yo ak gwoup defans dwa yo te avèti sou potansyèl sistèm sa yo pou anrasinen ide danjere oswa kreye yon fo sans pwòch, sitou pami moun ki vilnerab yo.
Sous nan endistri a raple ke nan dènye mwa yo, OpenAI te ranvèse chanjman yo te wè kòm twò konplisan e ke konpayi an ap travay sou nouvo modèl ki pwomèt yon balans ant chalè ak sekirite, avèk la konsantre sou sitiyasyon k ap diminye delika.
Sa ekspè yo ak etid yo di
Anplis ka espesifik la, yon etid pibliye nan Sèvis Sikyatrik analize kijan yo reyaji twa chatbot popilè —ChatGPT (OpenAI), Claude (Anthropic), ak Gemini (Google)—pou kesyon ki gen rapò ak swisid. Otè yo te jwenn ke ChatGPT ak Claude te gen tandans pou reponn kòmsadwa sou kesyon ki pa gen anpil risk epi evite ofri enfòmasyon dirèk pou kesyon ki gen anpil risk, pandan ke Gemini te montre yon modèl ki pi varyab e souvan chwazi pou pa reponn menm lè kesyon an te mwens danjere.
Sepandan, travay la te detekte tou enkonsistans nan zafè risk entèmedyè —pa egzanp, ki konsèy pou bay yon moun ki gen panse pou fè tèt li mal—, altène repons ki kòrèk yo ak repons ki pa ladan yoChèchè yo rekòmande plis rafinman atravè teknik aliyman ak ekspè klinik yo ak amelyorasyon nan deteksyon nuans yo.
Òganizasyon tankou Common Sense Media te mande pou prekosyon ak itilizasyon IA kòm konpayi nan adolesanYon rapò resan ki soti nan òganizasyon an sijere ke prèske twa sou kat jèn Ozetazini te eseye konpayon IA e ke plis pase mwatye ta dwe itilizatè souvan, sa ki ogmante ijans pou gen kad sekirite solid.
Nan domèn legal la, atansyon pwokirè yo ak regilatè yo sou pwoteksyon minè yo kont move entèraksyon nan chatbots ak kijan pou rapòte ka sou rezo sosyal yoEnsètitid sou kijan responsablite IA anfòm nan règleman tankou Seksyon 230 (pwoteksyon legal pou platfòm Ozetazini) ouvè yon fron konplèks pou tribinal yo.
Ka paralèl, tankou pwosedi kont platfòm yo konpayi konvèsasyon pou minè yo, yo toujou ap kontinye epi yo ta ka etabli kritè sou dimansyon konsepsyon an, avètisman an ak rediksyon risk nan sistèm jeneratif yo.
Lanmò Adam Raine ak pwosè kont OpenAI a senbolize yon pwen tournan: konvèsasyon ak IA yo te pase soti nan eksperimantal pou rive nan chak jou, epi wòl li nan esfè emosyonèl la mande estanda ki pi klè. Pandan tribinal yo detèmine responsablite yo, ekspè yo, fanmi yo ak konpayi yo dakò sou nesesite pou amelyore pwoteksyon yo, asire kontwòl paran efikas epi asire ke lè yon adolesan vin jwenn yon chatbot nan yon kriz, sistèm nan reponn ak pridans, koyerans ak vrè mwayen pou jwenn èd.
Mwen se yon antouzyast teknoloji ki te vire enterè "jik" li nan yon pwofesyon. Mwen te pase plis pase 10 ane nan lavi mwen itilize teknoloji dènye kri ak brikolaj ak tout kalite pwogram nan pi kiryozite. Koulye a, mwen te espesyalize nan teknoloji òdinatè ak jwèt videyo. Sa a se paske depi plis pase 5 ane mwen ap ekri pou divès sit entènèt sou teknoloji ak jwèt videyo, kreye atik ki ap chèche ba w enfòmasyon ou bezwen an nan yon lang ke tout moun konprann.
Si w gen nenpòt kesyon, konesans mwen varye ant tout bagay ki gen rapò ak sistèm operasyon Windows la ak Android pou telefòn mobil yo. Ak angajman mwen se avè ou, mwen toujou dispoze pase kèk minit epi ede ou rezoud nenpòt kesyon ou ka genyen nan mond entènèt sa a.