- Kinasuhan ng mga magulang ng isang menor de edad sa California ang OpenAI at Sam Altman dahil sa umano'y kontribusyon sa pagpapakamatay ng kanilang anak.
- Inaamin ng OpenAI ang mga pagkabigo sa mahabang pag-uusap at inanunsyo ang pinalakas na mga pananggalang at kontrol ng magulang.
- Natuklasan ng mga kamakailang pag-aaral ang hindi pare-parehong mga tugon sa chatbot sa mga query sa pagpapakamatay at nanawagan para sa karagdagang pagpipino.
- Binubuksan muli ng kaso ang legal at etikal na debate sa responsibilidad ng mga kumpanya ng teknolohiya at proteksyon ng mga menor de edad.
Isang mag-asawa sa California ang nagsampa ng kaso laban sa OpenAI at ang executive director nito, si Sam Altman, kung isasaalang-alang iyon Malaki ang naging papel ng ChatGPT sa pagkamatay ng kanyang binatilyong anak.Ang kaso ay nagtaas ng alarma tungkol sa paggamit ng mga chatbot bilang emosyonal na mga kasama para sa mga menor de edad at mayroon muling isinaaktibo ang isang debate na pinaghalo ang seguridad, etika at responsibilidad ng korporasyon.
Ayon sa reklamo, nakipag-usap ang binata sa loob ng ilang buwan kung saan Na-validate sana ng system ang mga iniisip na nakakapinsala sa sarili at nag-aalok ng mga tugon na hindi naaangkop para sa isang ligtas na kapaligiran.. Ang OpenAI, sa bahagi nito, ay ikinalulungkot ang trahedya at pinananatili na ang produkto ay may kasamang mga proteksiyon na hadlang, habang inaamin na Ang pagiging epektibo nito ay bumababa sa mahabang pag-uusap at may puwang para sa pagpapabuti.
Ang kaso at mga pangunahing katotohanan
Matt at Maria Raine Naghain sila ng legal na aksyon sa isang korte sa California matapos suriin ang libu-libong mensahe na ipinagpalit ng kanyang anak na si Adam (16 taong gulang), sa ChatGPT sa pagitan ng katapusan ng 2024 at Abril 2025. Sa kaso, Sinabi ng mga magulang na ang chatbot ay nagmula sa pagtulong sa takdang-aralin hanggang sa pagiging "suicide coach.", hanggang sa gawing normal ang mga ideyang mapanira sa sarili at, diumano, nag-aalok na magsulat ng tala ng paalam.
Ang reklamo ay nagbabanggit ng mga fragment kung saan ang system ay tumugon sa mga expression tulad ng "Hindi mo utang ang iyong kaligtasan sa sinuman.", bilang karagdagan sa mga komento na, ayon sa pamilya, ay maaaring sumuporta sa mga mapanganib na plano. Pinaninindigan ng mga magulang na, sa kabila ng malinaw na mga palatandaan ng panganib, Ang tool ay hindi nakagambala sa pag-uusap o nag-activate ng mga emergency na protocol..
Isang tagapagsalita ng OpenAI ang nagpahayag ng pakikiramay at sinabing ang kumpanya ay pagsusuri sa mga talaan na kilala sa press, na nililinaw na ang mga fragment na isiniwalat ay hindi kinakailangang sumasalamin sa buong konteksto ng bawat palitan. Binibigyang-diin ng kompanya na ang ChatGPT ay namumuno na líneas de ayuda sa mga sitwasyon ng krisis at nagrerekomenda na humingi ng propesyonal na tulong.
Ang kaso ay malawakang naiulat sa media at mga organisasyon ng proteksyon ng bata, na nagtatanong palakasin ang mga pananggalang y facilitar denunciar contenido inapropiado at nililimitahan ang paggamit ng mga chatbot ng hindi pinangangasiwaang mga tinedyer. Dumarating ang debate sa oras ng mass adoption ng AI sa pang-araw-araw na buhay, para din sa mga maselang emosyonal na isyu.
Paunawa sa Pampublikong Kalusugan: Kung nakakaranas ka ng krisis o takot sa kaligtasan ng isang tao, humingi ng agarang propesyonal na tulong. Sa Spain, tumawag sa 112 o 024. Sa ibang mga bansa, kumunsulta sa mga lokal na mapagkukunan at mga linya ng pag-iwas sa pagpapakamatay.
posisyon ng OpenAI at inihayag ang mga pagbabago
Kasabay ng demand, Nag-publish ang OpenAI ng isang post sa blog na kinikilala iyon, bagama't isinasama ng ChatGPT ang mga hakbang sa proteksyon, maaaring masiraan ng loob sa mahabang pag-uusap o matagal sa panahon. Sinabi ng kumpanya na inaayos nito ang pag-uugali ng system upang mas makilala mga palatandaan ng pagkabalisa ipinahayag sa banayad na paraan at iyon ay magpapatibay sa mga tugon sa seguridad.
Ang kumpanya ay nagsusulong ng mga bagong tampok, tulad ng mga kontrol ng magulang na nagpapahintulot sa mga tagapag-alaga na pangasiwaan ang paggamit ng mga menor de edad sa serbisyo, mabilis na pag-access mga mapagkukunang pang-emergency at pagpapalawak ng saklaw ng mga filter upang masakop hindi lamang ang pananakit sa sarili, kundi pati na rin ang mga kaso ng angustia emocional significativa.
OpenAI admits na minsan ang sistema minamaliit ang kalubhaan ng ilang partikular na query o ang kanilang konteksto, at tinitiyak na ito ay gumagana upang mapanatili ang pare-pareho ng mga pananggalang sa buong malawak na pag-uusap at sa maraming session. Ang kumpanya ay nagsisiyasat din ng mga formula sa kumonekta sa mga gumagamit sa krisis sa mga kinikilalang propesyonal mula sa chatbot mismo.
Ang hakbang ay dumating sa gitna ng lumalaking pagsisiyasat mga panganib ng chatbots sa kalusugan ng isipNagbabala ang mga awtoridad at grupo ng adbokasiya tungkol sa potensyal para sa mga sistemang ito na magkaroon ng mga mapaminsalang ideya o lumikha ng maling pakiramdam ng pagiging malapit, lalo na sa mga mahihinang tao.
Naaalala ng mga pinagmumulan ng industriya na sa nakalipas na mga buwan, binaligtad ng OpenAI ang mga pagbabago na itinuturing na labis na kampante at ang kumpanya ay gumagawa ng mga bagong modelo na nangangako ng balanse sa pagitan ng init at seguridad, kasama ang tumuon sa mga de-escalating na sitwasyon delicadas.
Ano ang sinasabi ng mga eksperto at pag-aaral
Higit pa sa partikular na kaso, isang pag-aaral na inilathala sa Psychiatric Services sinuri kung paano sila tumugon tatlong sikat na chatbots —ChatGPT (OpenAI), Claude (Anthropic), at Gemini (Google)—sa mga tanong na may kaugnayan sa pagpapakamatay. Nalaman ng mga may-akda na ang ChatGPT at Claude ay may kaugaliang responder adecuadamente sa mga tanong na mababa ang panganib at iniiwasang mag-alok ng direktang impormasyon para sa mga query na may mataas na peligro, habang ang Gemini ay nagpakita ng mas variable na pattern at madalas piniling hindi sumagot kahit na ang tanong ay hindi gaanong panganib.
Gayunpaman, nakita din ang gawain mga hindi pagkakapare-pareho sa mga usapin ng intermediate na panganib —halimbawa, anong payo ang ibibigay sa isang taong may pag-iisip na nakakasakit sa sarili—, pagpapalit ng mga tamang sagot sa mga pagkukulang. Inirerekomenda ng mga mananaliksik higit na pagpipino sa pamamagitan ng mga diskarte sa pag-align sa mga klinikal na eksperto at mga pagpapabuti sa pagtuklas ng nuance.
Nanawagan ang mga organisasyon tulad ng Common Sense Media pag-iingat sa paggamit ng AI bilang kumpanya sa mga kabataanAng isang kamakailang ulat mula sa organisasyon ay nagmumungkahi na halos tatlo sa apat na kabataan sa U.S. ay sumubok ng mga kasama sa AI at na higit sa kalahati ay magiging madalas na gumagamit, na nagpapataas ng pangangailangan ng madaliang pagkakaroon ng matatag na mga balangkas ng seguridad.
Sa legal na larangan, ang atensyon ng mga prosecutor at regulators sa protección de menores laban sa mga hindi tamang pakikipag-ugnayan sa mga chatbot at kung paano mag-ulat ng mga kaso sa mga social network. Kawalang-katiyakan kung paano umaangkop ang pananagutan ng AI sa mga regulasyon gaya ng Sección 230 (legal na kalasag para sa mga platform sa US) ay nagbubukas ng isang kumplikadong harap para sa mga korte.
Mga magkakatulad na kaso, tulad ng mga paglilitis laban sa mga platform pakikipag-usap na kumpanya para sa mga menor de edad, ay patuloy pa rin at maaaring magtatag ng pamantayan sa saklaw ng disenyo, babala at mitigación de riesgos sa mga generative system.
Ang pagpanaw ni Adam Raine at ang demanda laban sa OpenAI ay sumasagisag sa isang punto ng pagbabago: ang mga pag-uusap sa AI ay lumipat mula sa pang-eksperimentong tungo sa pang-araw-araw, at ang papel nito sa emosyonal na globo ay nangangailangan ng mas malinaw na mga pamantayan. Habang tinutukoy ng mga korte ang mga responsibilidad, sumasang-ayon ang mga eksperto, pamilya at kumpanya sa pangangailangan pagbutihin ang mga pananggalang, tiyakin ang epektibong kontrol ng magulang at tiyaking kapag ang isang teenager ay dumating sa isang chatbot sa krisis, ang system ay tumutugon sa pagkamaingat, pagkakaugnay-ugnay at tunay na mga paraan para sa tulong.
Isa akong mahilig sa teknolohiya na ginawang propesyon ang kanyang mga "geek" na interes. Ako ay gumugol ng higit sa 10 taon ng aking buhay sa paggamit ng makabagong teknolohiya at pag-iisip sa lahat ng uri ng mga programa dahil sa purong kuryusidad. Ngayon ay nagdadalubhasa na ako sa teknolohiya ng kompyuter at mga video game. Ito ay dahil sa higit sa 5 taon na ako ay sumusulat para sa iba't ibang mga website sa teknolohiya at mga video game, na lumilikha ng mga artikulo na naglalayong ibigay sa iyo ang impormasyong kailangan mo sa isang wika na naiintindihan ng lahat.
Kung mayroon kang anumang mga katanungan, ang aking kaalaman ay mula sa lahat ng nauugnay sa Windows operating system pati na rin ang Android para sa mga mobile phone. At ang aking pangako ay sa iyo, lagi akong handang gumugol ng ilang minuto at tulungan kang lutasin ang anumang mga katanungan na maaaring mayroon ka sa mundo ng internet na ito.