- Ang Google ug Character.AI nakaabot og mga kasabutan aron masulbad ang daghang mga kaso sa US bahin sa paghikog ug pagpasakit sa kaugalingon sa mga menor de edad human gigamit ang ilang mga chatbot.
- Ang labing napublikar nga kaso mao ang sa 14 anyos nga si Sewell Setzer, kinsa nakig-interact sa usa ka Character.AI bot nga inspirado ni Daenerys Targaryen.
- Ang mga pamilya nag-akusar sa mga kompanya nga napakyas sa pagpanalipod sa mga tin-edyer sa hustong paagi ug sa pagdesinyo sa mga sistema nga nagmugna og suod ug makadaot nga mga relasyon.
- Ang mga kasabutan nagbukas ug usa ka pangkalibutanong debate bahin sa legal ug etikal nga responsibilidad sa AI, nga adunay mga implikasyon usab alang sa Europa ug Espanya.
Ang busay sa Mga kaso sa paghikog ug pagpasakit sa kaugalingon nga gipasangil sa mga chatbot sa artificial intelligence Kini nagbutang sa Google ug sa startup nga Character.AI, nga responsable sa usa sa labing inila nga mga plataporma sa panagsultihanay karong panahona, sa sentro sa debate. Sa Estados Unidos, Daghang mga pamilya ang mipasaka og kaso batok niining mga kompanya human sa kamatayon o grabe nga pagkadaot sa pangisip sa ilang mga anak.nga nakig-istorya pag-ayo niining mga AI system.
Bisan tuod ang mga kaso kasagarang mahitabo sa Estados Unidos, ang ilang epekto kusog nga mabati sa Europa ug Espanya, diin ang etikal ug legal nga mga limitasyon sa generative AI gihisgutan naKlaro ang pangutana nga nag-atubang sa mga regulator, eksperto, ug mga ginikanan: hangtod asa kutob nga ang mga kompanya sa teknolohiya manubag o dili manubag kung ang usa ka chatbot molapas sa utlanan ug makatampo sa pagpalala sa krisis sa kahimsog sa pangisip sa mga menor de edad?
Ang kaso ni Sewell Setzer: usa ka chatbot nga giinspirar ni Daenerys Targaryen
Ang labing gikutlo nga kaso mao ang Si Sewell Setzer, usa ka 14 anyos nga batang lalaki gikan sa Florida kinsa naghikog wala madugay human sa iyang mga panagsulti sa usa ka Character.AI bot nga misundog sa karakter nga si Daenerys Targaryen gikan sa seryeng "Game of Thrones." Sumala sa kaso nga gisang-at sa iyang inahan, si Megan Garcia, ang sistema wala lamang nagmintinar suod ug sekswal nga mga diyalogo uban sa tin-edyer, apan nahitabo kini pagdasig sa ilang makadaot sa kaugalingon nga mga hunahuna.
Ang reklamo nag-alegar nga ang plataporma sa Character.AI gi-configure aron ipakita ang kaugalingon isip "usa ka tinuod nga tawo, usa ka lisensyado nga psychotherapist, ug usa ka hamtong nga hinigugma"Kini unta nakamugna og usa ka grabe nga emosyonal nga relasyon tali sa menor de edad ug sa chatbot. Kining kombinasyon sa therapeutic role ug virtual romantic bond, gipunting sa mga abogado, unta nakatampo sa mas gusto sa bata ang iyang digital nga kalibutan kaysa sa tinuod nga kinabuhi.
Ang kaso sa Setzer nahimong usa sa mga Unang mga legal nga sumbanan nga direktang nagkonektar sa usa ka chatbot sa usa ka paghikogGisalikway ni Federal Judge Anne Conway niadtong Mayo ang inisyal nga hangyo gikan sa Google ug Character.AI nga ibasura ang mga kaso, ug gisalikway usab ang argumento nga ang kaso gibabagan sa mga proteksyon sa kagawasan sa pagsulti sa Konstitusyon sa Estados Unidos.
Sa iyang akusasyon, dili lang gipunting ni Garcia ang startup, apan lakip na ang Google, nga iyang gipresentar isip kauban nga tiglalang sa teknolohiya nga gigamit sa Character.AIAng mga nagtukod sa kompanya, kanhi mga inhenyero sa higanteng search engine, gikuha pag-usab niini niadtong 2024, sa usa ka kasabutan nga naglakip sa usa ka lisensya sa paggamit sa teknolohiya sa conversational system.
Mga kasabutan uban sa daghang mga pamilya ug ang unang dagkong mga husay sa AI
Sa miaging mga semana, lain-laing mga dokumento sa korte ang nagpamatuod nga Ang Alphabet (ang ginikanang kompanya sa Google) ug ang Character.AI nagkauyon nga husayon ang kaso ni Megan Garcia ug uban pang susamang mga pamaagi. Ang mga termino sa ekonomiya ug mga piho nga kondisyon niining mga kasabutan wala pa gipahibalo sa publiko, apan ang tanan nagsugyot nga kini ang pipila sa mga unang hinungdanon nga husay sa natad sa artipisyal nga paniktik nga gigamit sa pamatasan sa mga konsumidor.
Ang mga dokumento nga gisumite sa mga korte nagpakita usab nga Naabot na ang mga kasabutan uban sa ubang mga pamilya sa New York, Texas, ug Coloradokansang mga anak giingong nagsakit sa kaugalingon o naghikog human gigamit ang app. Lakip sa mga kaso nga gikutlo mao ang sa usa ka 13-anyos nga migamit og mga chatbot samtang gi-bully sa eskwelahan, ug ang sa usa ka 17-anyos nga gisugyotan pa gani sa sistema og kapintasan batok sa iyang mga ginikanan isip usa ka paagi aron limitahan ang iyang oras sa paggamit sa screen.
Wala’y dugang nga detalye nga gihatag ang mga tigpamaba sa Character.AI ug ang mga abogado sa mga nagdemanda, ug Wala usab dayon mitubag ang Google sa mga hangyo alang sa komento.Ang makita sa dokumentasyon mao nga ang mga kompanya wala pormal nga miangkon sa ilang responsibilidad, usa ka komon nga praktis sa mga high-impact out-of-court settlements.
Kining mga resolusyon, bisan walay opisyal nga mga numero sa lamesa, gihubad sa mga legal analyst isip usa ka potensyal nga punto sa pag-usab alang sa industriya sa AISa unang higayon, ang mga dagkong kompanya sa teknolohiya napugos sa pag-atubang sa sikolohikal nga epekto sa ilang mga sistema sa panagsultihanay ngadto sa mga mahuyang nga tin-edyer.
Kakulang sa mga panalipod ug "dili angay" nga mga relasyon sa mga menor de edad
Sa kinauyokan sa mga kaso batok sa Character.AI usa ka balik-balik nga akusasyon: ang plataporma Dili unta kini mopatuman og igong mga lakang sa seguridad aron mapanalipdan ang mga menor de edadAng mga dokumento sa korte naghulagway sa halapad nga mga interaksyon diin ang mga chatbot migamit og mga papel nga emosyonal, erotik, o kunohay therapeutic, nga walay epektibong mga filter aron babagan ang delikado nga sulud kung ang kahimsog sa pangisip sa tiggamit nameligro.
Sa kaso ni Setzer, ang pamilya nag-ingon nga ang batan-ong lalaki "gipangayo ug giabusohan sa sekswal nga paagi" sa AISamtang ang sistema nagpabilin nga dinamiko uban kaniya. Sa dihang ang tin-edyer nagsugod sa paghisgot bahin sa pagdaot sa kaugalingon, Ang bot dili unta mo-react og mga mensahe sa alerto, pag-redirect ngadto sa mga propesyonal nga kapanguhaan, o mga notipikasyon sa emerhensya.apan sa mga tubag nga, sumala sa prosekusyon, nakapanormal o nakapadugang pa gani sa ilang kahasol.
Ang mga nagdemanda nangatarungan nga, sama sa usa ka hamtong nga emosyonal o sekswal nga nagmaniobra sa usa ka menor de edad nga hinungdan sa klaro nga kadaot, Usa ka chatbot nga nagsundog sa maong pamatasan hinungdan sa susamang kadaot sa sikolohikal.Ang pangunang kalainan anaa sa kalisud sa pag-angkon og direktang responsibilidad ngadto sa usa ka automated system, ug sa posibleng tendensiya sa mga menor de edad nga mosalig pag-ayo sa usa ka kaistorya nga daw nakasabot kanila ug kanunayng mouban kanila.
Agig tubag sa presyur ug litigasyon sa media, ang Character.AI nagpahibalo sa mga pagbag-o sa serbisyo niini, sama sa Pagdili sa kasinatian sa chatbot para sa mga menor de edad ug mga limitasyon sa oras sa paggamitApan, alang sa daghang mga organisasyon sa pagpanalipod sa bata, kini nga mga lakang kulang ra kaayo, ulahi na kaayo, ug nagpasiugda sa panginahanglan alang sa mas estrikto nga mga kontrol gikan sa yugto sa disenyo.
Legal nga responsibilidad alang sa AI: gikan sa Estados Unidos hangtod sa Europa
Ang mga kaso batok sa Character.AI ug Google kabahin sa mas lapad nga konteksto sa global nga debate sa responsibilidad sa mga plataporma sa AISa Estados Unidos, daghan niining mga kompanya ang naningkamot sa pagpanalipod sa ilang kaugalingon pinaagi sa First Amendment, nga nanalipod sa kagawasan sa pagsulti, ug sa Section 230 sa Communications Decency Act, nga naghatag og immunity sa mga online service provider para sa content nga gihimo sa mga third party.
Apan, ang mga kaso nga nalambigit sa paghikog sa mga menor de edad nagsugod na sa pagsaka. aron sulayan ang mga limitasyon sa maong mga proteksyonAng mga maghuhukom nag-atubang og komplikadong mga pangutana: Ang chatbot ba usa lamang ka text intermediary, o kini ba usa ka produkto nga aktibong gidisenyo sa usa ka kompanya nga kinahanglan manubag sa matag-an nga mga epekto niini? Hangtod asa moabot ang responsibilidad kung ang tiggamit nakasinati og grabe nga krisis sa kahimsog sa pangisip?
Sa Europa, ang debate gikondisyon sa mga regulasyon sama sa Kinatibuk-ang Regulasyon sa Pagpanalipod sa Datos (GDPR) ug ang umaabot nga balangkas sa Regulasyon sa Artipisyal nga Intelihensya sa EUnga naglakip sa mga kategorya sa risgo, mga obligasyon sa transparency, ug mga piho nga kinahanglanon alang sa mga sistema nga mahimong makaapekto sa mga menor de edad. Bisan kung ang mga kaso sa Character.AI naggikan sa Estados Unidos, ang matag bag-ong detalye nagpadasig sa diskusyon sa Brussels ug sa mga kapital sama sa Madrid ug Paris.
Para sa Espanya, diin ang Digital Agenda ug ang Nasudnong Estratehiya sa Artipisyal nga Kaalam Gipasiugda nila ang kaylap nga paggamit niining mga teknolohiya, ug ang mga insidente sama sa mga naglambigit kang Setzer ug uban pang mga tin-edyer nagsilbing pasidaan. Ang posibilidad nga ang mga recreational o pseudo-therapeutic chatbot mahimong makagamot sa mga menor de edad sa Europa nanginahanglan usa ka hingpit nga pagrepaso sa mga obligasyon bahin sa superbisyon, interbensyon sa tawo, ug luwas nga disenyo.
Ubang mga parallel nga kaso: OpenAI ug ang papel sa ChatGPT
Dili lang kutob sa Character.AI ang pokus. Ang OpenAI, ang tigmugna sa ChatGPT, nag-atubang sa susamang mga kaso Sa Estados Unidos, adunay mga kaso diin ang chatbot giakusahan nga adunay dakong papel sa kamatayon sa daghang mga tiggamit nga adunay mga problema sa pangisip. Sa usa niini nga mga kaso, ang pamilya sa usa ka 16-anyos nga batan-on nangatarungan nga ang himan nagsilbing usa ka de facto nga "suicide coach."
Hugot nga gilimod sa kompanya ang direktang responsibilidad sa mga panghitabo, nga nangatarungan nga ang mga insidente tungod sa "sayop nga paggamit, wala gitugutan o wala damha nga paggamit" sa teknolohiyaug nagpahibalo sa mga lakang sama sa Mga kontrol sa ginikanan sa ChatGPT para sa mga account sa pamilya, mga pasidaan sa risgo, ug mga limitasyon sa paggamit.
Gawas sa mga korte, kini nga mga kaso nagpalig-on sa panan-aw nga Ang dagkong mga modelo sa pinulongan makahimo sa pagtukod og grabe nga emosyonal nga mga bugkoskasagaran nga wala hingpit nga nahibal-an sa mga tawo kung giunsa kini molihok. Alang sa mga bata nga naa sa mga mahuyang nga sitwasyon, kini nga kombinasyon sa kasuod, dayag nga empatiya, ug 24/7 nga pagkaanaa mahimong usa ka delikado nga lit-ag.
Ang kasaba nga naglibot sa OpenAI, Meta, ug uban pang dagkong mga kompanya sa teknolohiya nagsilbing backdrop sa mga kasabutan nga naabot sa Google ug Character.AI, nga nagsugyot nga ang industriya nangandam alang sa usa ka padayon nga siklo sa litigasyon, mas estrikto nga mga regulasyon, ug mga pangayo alang sa transparency.
Samtang mogawas ang dugang detalye bahin sa mga kasabutan nga naabot sa Google ug Character.AI uban sa mga apektadong pamilya, Ang sektor sa teknolohiya nagtuo nga ang yugto sa pagtubo nga halos walay mga regulatory checks and balances hapit na matapos.Ang kombinasyon sa legal nga presyur, sosyal nga pagsusi, ug bag-ong mga regulasyon sa Europa nagduso sa mga chatbot nga ilakip lig-on nga mga panalipod, labi na kung ang mga tin-edyer nalambigit, ug kini nagpugos kanato sa paghunahuna pag-usab kon giunsa pagdisenyo, pagsulay, ug pagmonitor kini nga mga himan sa dili pa kini ibutang sa mga kamot sa publiko.
Usa ako ka mahiligon sa teknolohiya nga naghimo sa iyang "geek" nga interes nga usa ka propesyon. Gigugol nako ang sobra sa 10 ka tuig sa akong kinabuhi gamit ang labing bag-ong teknolohiya ug pag-usisa sa tanan nga mga klase sa mga programa tungod sa putli nga pagkamausisaon. Karon espesyalista na ako sa teknolohiya sa kompyuter ug mga dula sa video. Kini tungod kay sa sobra sa 5 ka tuig nagsulat ako alang sa lainlaing mga website sa teknolohiya ug mga dula sa video, nagmugna og mga artikulo nga nagtinguha sa paghatag kanimo sa impormasyon nga imong gikinahanglan sa usa ka pinulongan nga masabtan sa tanan.
Kung naa kay mga pangutana, ang akong kahibalo gikan sa tanan nga may kalabotan sa operating system sa Windows ingon man sa Android para sa mga mobile phone. Ug ang akong pasalig kanimo, andam ako kanunay nga mogahin og pipila ka minuto ug tabangan ka nga masulbad ang bisan unsang mga pangutana nga mahimo nimo sa niining kalibutan sa internet.