Kesi ya kusikitisha na maswali mengi: ChatGPT inakabiliwa na kesi kuhusu kesi ya kujitoa mhanga

Wanandoa wa California wamefungua kesi dhidi ya OpenAI na mkurugenzi mtendaji wake, Sam Altman, kwa kuzingatia hilo ChatGPT ilichukua jukumu muhimu katika kifo cha mtoto wake wa ujana.Kesi hiyo imeibua kengele kuhusu utumizi wa chatbots kama maswahaba wa kihisia kwa watoto na imekuwa hivyo ilianzisha upya mjadala unaochanganya usalama, maadili na uwajibikaji wa shirika.

Kulingana na malalamiko, kijana huyo alifanya mazungumzo kwa miezi ambayo Mfumo ungethibitisha mawazo ya kujidhuru na kutoa majibu yasiyofaa kwa mazingira salama.. OpenAI, kwa upande wake, inajutia janga hilo na inashikilia kuwa bidhaa hiyo inajumuisha vizuizi vya kinga, huku ikikiri kwamba. Ufanisi wake hupungua katika mazungumzo marefu na kwamba kuna nafasi ya kuboresha.

Kesi na mambo muhimu

Matt na Maria Raine Waliwasilisha hatua ya kisheria katika mahakama ya California baada ya kukagua maelfu ya jumbe ambazo mwanawe, Adam (umri wa miaka 16), alibadilishana na ChatGPT kati ya mwisho wa 2024 na Aprili 2025. Katika kesi hiyo, Wazazi wanasema chatbot ilitoka kusaidia kazi za nyumbani hadi kuwa "kocha wa kujiua.", kwenda mbali na kurekebisha mawazo ya kujiharibu na, inadaiwa, kutoa kuandika barua ya kuaga.

Malalamiko yanataja vipande ambavyo mfumo ungejibu kwa misemo kama vile "Huna deni la kuishi kwako kwa mtu yeyote.", pamoja na maoni ambayo, kulingana na familia, yangeweza kuunga mkono mipango hatari. Wazazi wanashikilia kwamba, licha ya dalili za wazi za hatari, Zana haikukatiza mazungumzo au kuwezesha itifaki za dharura..

Msemaji wa OpenAI alitoa rambirambi na kusema kampuni hiyo iko kukagua kumbukumbu inayojulikana kwa waandishi wa habari, ikifafanua kuwa vipande vilivyofichuliwa si lazima vionyeshe muktadha kamili wa kila ubadilishanaji. Kampuni inasisitiza kuwa ChatGPT tayari inaelekeza mistari ya usaidizi katika hali ya shida na inapendekeza kutafuta msaada wa kitaalamu.

Kesi hiyo imeripotiwa sana katika vyombo vya habari na mashirika ya ulinzi wa watoto, ambayo yanauliza kuimarisha ulinzi na kuwezesha ripoti maudhui yasiyofaa na kuzuia utumiaji wa chatbots na vijana wasio na usimamizi. Mjadala unakuja wakati wa kupitishwa kwa wingi kwa AI katika maisha ya kila siku, pia kwa masuala tete ya kihisia.

Notisi ya Afya ya Umma: Ikiwa unakabiliwa na shida au unahofia usalama wa mtu, tafuta usaidizi wa haraka wa kitaalamu. Nchini Hispania, piga simu 112 au 024. Katika nchi nyingine, wasiliana na rasilimali za ndani na mistari ya kuzuia kujiua.

Nafasi ya OpenAI na mabadiliko yaliyotangazwa

Sambamba na mahitaji, OpenAI ilichapisha chapisho la blogi ikikubali hilo, ingawa ChatGPT inajumuisha hatua za ulinzi, inaweza kuharibiwa katika mazungumzo marefu au kurefushwa kwa wakati. Kampuni hiyo inasema inarekebisha tabia ya mfumo ili kutambua vyema dalili za dhiki kuonyeshwa kwa njia ya hila na ambayo itaimarisha majibu ya usalama.

Kampuni inaendeleza vipengele vipya, kama vile udhibiti wa wazazi ambayo inaruhusu walezi kusimamia matumizi ambayo watoto hufanya ya huduma, ufikiaji wa haraka rasilimali za dharura na upanuzi wa upeo wa filters ili kufunika sio tu kujidhuru, lakini pia kesi za dhiki ya kihisia muhimu.

OpenAI inakubali kwamba wakati mwingine mfumo inadharau ukali ya hoja fulani au muktadha wao, na inahakikisha kwamba inafanya kazi ili kudumisha uwiano wa ulinzi katika mazungumzo ya kina na katika vipindi vingi. Kampuni pia inachunguza fomula za kuunganisha kwa watumiaji katika mgogoro na wataalamu walioidhinishwa kutoka kwenye chatbot yenyewe.

Hatua hiyo inakuja huku kukiwa na ongezeko la uchunguzi hatari za chatbots katika afya ya akiliMamlaka na makundi ya utetezi yametahadharisha juu ya uwezekano wa mifumo hii kuingiza mawazo yenye madhara au kujenga hisia potofu za ukaribu, hasa miongoni mwa watu walio hatarini.

Vyanzo vya tasnia vinakumbuka kuwa katika miezi ya hivi karibuni, OpenAI ilibadilisha mabadiliko yaliyochukuliwa kuwa ya kuridhika kupita kiasi na kwamba kampuni inafanyia kazi mifano mpya ambayo inaahidi usawa kati ya joto na usalama, na kuzingatia hali zinazopungua delicada.

Wataalamu na tafiti wanasema nini

Zaidi ya kesi maalum, utafiti uliochapishwa katika Huduma za Psychiatric kuchambuliwa jinsi wanavyojibu chatbots tatu maarufu —ChatGPT (OpenAI), Claude (Anthropic), na Gemini (Google)—kwa maswali yanayohusiana na kujiua. Waandishi waligundua kuwa ChatGPT na Claude walipenda jibu ipasavyo kwa maswali ya hatari kidogo na kuepukwa kutoa taarifa ya moja kwa moja kwa maswali hatarishi, huku Gemini ilionyesha muundo unaobadilika zaidi na mara nyingi. alichagua kutojibu hata wakati swali lilikuwa la hatari kidogo.

Walakini, kazi hiyo pia iligunduliwa kutofautiana katika masuala ya hatari ya kati -kwa mfano, ni ushauri gani wa kumpa mtu mwenye mawazo ya kujidhuru-, kubadilisha majibu sahihi na kuachwa. Watafiti wanapendekeza uboreshaji zaidi kupitia mbinu za upatanishi na wataalam wa kliniki na uboreshaji wa utambuzi wa nuances.

Mashirika kama Common Sense Media wametoa wito tahadhari na matumizi ya AI kama kampuni katika vijanaRipoti ya hivi majuzi kutoka kwa shirika hilo inapendekeza kuwa karibu vijana watatu kati ya wanne nchini Marekani wamejaribu washirika wa AI na kwamba zaidi ya nusu itakuwa watumiaji wa mara kwa mara, ambayo huongeza uharaka wa kuwa na mifumo thabiti ya usalama.

Katika uwanja wa kisheria, tahadhari ya waendesha mashitaka na wasanifu juu ya ulinzi wa watoto dhidi ya mwingiliano usiofaa katika chatbots na jinsi ya kuripoti kesi kwenye mitandao ya kijamii. Kutokuwa na uhakika kuhusu jinsi dhima ya AI inavyolingana na kanuni kama vile Sehemu ya 230 (ngao ya kisheria kwa majukwaa nchini Marekani) hufungua njia tata kwa mahakama.

Kesi sambamba, kama vile kesi dhidi ya majukwaa kampuni ya mazungumzo kwa watoto, bado zinaendelea na zinaweza kuweka vigezo juu ya wigo wa muundo, onyo na kupunguza hatari katika mifumo ya uzazi.

Kufariki kwa Adam Raine na kesi dhidi ya OpenAI inaashiria hatua ya mabadiliko: mazungumzo na AI yamehama kutoka kwa majaribio hadi ya kila siku, na jukumu lake katika nyanja ya kihisia linadai viwango vilivyo wazi zaidi. Wakati mahakama zinaamua wajibu, wataalam, familia na makampuni wanakubaliana juu ya haja ya kuboresha ulinzi, hakikisha udhibiti mzuri wa wazazi na uhakikishe kuwa kijana anapokuja kwenye chatbot katika shida, mfumo unajibu kwa busara, mshikamano na njia halisi za usaidizi.

Nakala inayohusiana:

Sheria ya Usalama Mtandaoni ni nini na inaathiri vipi ufikiaji wako wa mtandao ukiwa popote duniani?

Alberto navarro

Mimi ni mpenda teknolojia ambaye amegeuza masilahi yake ya "geek" kuwa taaluma. Nimetumia zaidi ya miaka 10 ya maisha yangu kwa kutumia teknolojia ya kisasa na kuchezea kila aina ya programu kwa udadisi mtupu. Sasa nimebobea katika teknolojia ya kompyuta na michezo ya video. Hii ni kwa sababu kwa zaidi ya miaka 5 nimekuwa nikifanya kazi ya kuandika kwenye tovuti mbalimbali za teknolojia na michezo ya video, nikitengeneza makala zinazotaka kukupa taarifa unazohitaji kwa lugha inayoeleweka na kila mtu.

Ikiwa una maswali yoyote, ujuzi wangu unatoka kwa kila kitu kinachohusiana na mfumo wa uendeshaji wa Windows pamoja na Android kwa simu za mkononi. Na ahadi yangu ni kwako, niko tayari kutumia dakika chache na kukusaidia kutatua maswali yoyote ambayo unaweza kuwa nayo katika ulimwengu huu wa mtandao.