California hla SB 243 los tswj AI chatbots thiab tiv thaiv menyuam yaus

California tau txiav txim siab los saib xyuas kev txawj ntse txawj ntse. nrog rau txoj cai uas tsom mus rau qhov hu ua "tus khub chatbots," cov uas simulate kev phooj ywg lossis kev sib raug zoo. Tus tswv xeev Gavin Newsom tau kos npe rau SB 243, ib txoj cai lij choj uas xav kom cov cuab yeej no los txheeb xyuas lawv tus kheej li cov tshuab automated thiab txais kev tiv thaiv tshwj xeeb thaum cuam tshuam nrog cov neeg siv tsawg.

Qhov kev ntsuas, txhawb nqa los ntawm Lub Xeev Senator Steve Padilla, tsom tsawg dua ntawm kev tsim qauv thiab ntau ntxiv rau kev xav interface ntawm tib neeg thiab tshuabQhov kawg version, uas tau txwv ntau dua tom qab lub siab los ntawm kev lag luam, tswj cov luag num tseem ceeb: Kev ceeb toom tsis tu ncua uas koj tab tom tham nrog AI, hnub nyoog tsim nyog cov ntsiab lus lim dej, thiab cov txheej txheem teb cov cim qhia txog kev ua phem rau tus kheej lossis tua tus kheej.

SB 243 xav tau dab tsi?

Lub hauv paus ntawm tus qauv xav kom chatbots kom meej meej thiab rov ceeb toom tias lawv yog AI softwareRau cov neeg siv me, lub kaw lus yuav tsum tso cov lus ceeb toom tsawg kawg txhua peb teev, kom pom thiab nkag siab zoo kom tsis txhob muaj kev ntxhov siab txog qhov tsis yog tib neeg ntawm kev sib cuam tshuam.

Tsis tas li ntawd, cov neeg ua haujlwm yuav tsum siv cov ntsiab lus lim thiab txwv hnub nyoog: Qhia meej txog kev sib deev thiab kev sib cuam tshuam uas normalizes lossis txhawb kev ua phem rau tus kheej tsis suav nrog kev sib tham nrog menyuam yaus. Cov teeb meem no tau ntxiv los ntawm kev xa mus rau cov kev pabcuam teebmeem thaum lawv kuaj pom. kev pheej hmoo ntsuas.

La Txoj cai lij choj xav kom cov platforms tsim kom muaj kev tshawb pom ntxov thiab cov lus teb raws tu qauv., as well as reports of case of suicidal ideation txheeb xyuas ntawm lub Office of Suicide Prevention Ntawm CaliforniaQhov no nrhiav kev ntxiv dag zog rau kev sib koom tes nrog cov neeg saib xyuas kev noj qab haus huv thiab suav nrog cov ntsuas kev cuam tshuam ntawm cov cuab yeej no rau kev mob hlwb.

Txhawm rau txhawb nqa cov kev tiv thaiv no, Cov tuam txhab lag luam yuav tsum siv cov txheej txheem tshawb xyuas lub hnub nyoog tsim nyog hauv lawv cov kev pabcuam tsom rau cov neeg nyob hauv lub xeev.Qhov yuav tsum tau siv rau kev sib tham, cov vev xaib, thiab cov apps uas muaj cov phooj ywg chatbots, suav nrog kev ua si platforms lossis cov kev xaiv faib ua haujlwm hauv California.

Qhov kawg version ntawm SB 243 tau tso tawm qhov kev tshuaj xyuas thib peb thiab ib qho app rau txhua tus neeg siv (tsis yog menyuam yaus) uas tau xav txog hauv cov ntawv sau ua ntej. Txawm hais tias qhov kev txiav no, Newsom tau tiv thaiv daim nqi no lub dam tiv thaiv kev puas tsuaj, nrog rau kev nkag mus rau hauv lub zog npaj rau Lub Ib Hlis 2026.

Ib pob dav ntawm AI cov cai hauv lub xeev

SB 243 los nrog rau lwm cov kev pib dhau los tsis ntev los no, xws li SB 53, uas xav kom cov neeg tsim tawm AI loj los tshaj tawm lawv cov tswv yim AI. kev ruaj ntseg thiab kev pheej hmoo mitigationLub hom phiaj yog txhawm rau txhim kho pob tshab ntawm cov qauv siab heev uas twb muaj kev cuam tshuam loj hauv zej zog.

Nyob rau tib lub sijhawm, kev ntsuas tau raug txhawb los tiv thaiv cov tuam txhab los ntawm kev khiav tawm lub luag haujlwm los ntawm kev thov cov thev naus laus zis. "ua autonomously"Kev nplua rau kev sib daj sib deev tsis sib haum xeeb kuj tau raug nruj, kev nplua nyiaj ntau ntxiv thaum lawv cuam tshuam rau cov neeg raug tsim txom me.

Lub pob kuj suav nrog kev txwv los tiv thaiv chatbots los ntawm kev dag ntxias profesionales sanitarios cov los yog cov ntaub ntawv muaj cai, ib qho kev tawm tsam uas tuaj yeem ua rau cov neeg siv tsis zoo. Nrog rau cov ntawv no, Sacramento qhia txog lub hauv paus hauv lub xeev uas sim sib npaug kev tsim kho tshiab, txoj cai, thiab kev nyab xeeb rau pej xeem.

Kev txhawb nqa, kev thuam thiab kev tsis ntseeg txog nws txoj haujlwm

Tus qauv tau txais kev qhuas rau qhov ua tsis tiav, thaum tib lub sijhawm kev thuam rau qhov luv luv. Cov koom haum xws li Cov Xov Xwm Txog Kev Xav Zoo thiab Tech Oversight Project tau thim lawv txoj kev txhawb nqa tom qab tshem tawm cov kev soj ntsuam sab nraud thiab txwv lawv cov peev txheej rau cov menyuam yaus, uas lawv ceeb toom tuaj yeem ua rau txoj cai tsis txaus rau qhov kev pheej hmoo tam sim no.

Ntawm lwm qhov kawg, cov neeg tsim khoom thiab cov kws tshaj lij ceeb toom tias a lub luag haujlwm tsis txaus ntseeg tuaj yeem ua rau "kev tiv thaiv kev tiv thaiv": cov ntxaij lim dej nruj heev kom lawv ntsiag to kev sib tham raug cai txog kev mob hlwb lossis kev sib deev kev kawm, tsis pub cov hluas nrhiav kev pab online ntawm kev txhawb nqa tseem ceeb.

Txoj kev nom kev tswv thiab kev khwv nyiaj txiag tau hnyav heev: Cov pab pawg thev naus laus zis thiab kev lag luam sib koom ua lag luam tau nqis peev ntau lab hauv kev lobbying thaum lub sijhawm sib tham kom hloov kho cov ntawv nyuaj tshaj plaws.Nyob rau tib lub sij hawm, lub xeev prosecutor lub chaw ua hauj lwm thiab cov FTC tau ua rau muaj kev tshuaj xyuas ntawm cov kev coj ua chatbot tsom rau cov menyuam yaus, hauv ib puag ncig ntawm kev sib foob thiab kev tsis txaus siab los ntawm cov tsev neeg cuam tshuam.

Tsis ntev los no cov teeb meem thiab kev foob tawm tsam Platforms zoo li Character.AI lossis OpenAI tau nce kev sib cav txog pej xeem. Tom qab cov lus iab liam, Cov players loj xws li Meta thiab OpenAI tshaj tawm cov kev hloov pauv: Thaiv kev sib tham tsis tsim nyog nrog cov hluas thiab kev xa mus rau cov peev txheej tshwj xeeb, ntxiv rau kev tswj xyuas niam txiv tshiab.

Cov kev sib tw ua tiav thiab cov txiaj ntsig yav dhau los

Qhov kev tso tawm ua rau muaj teeb meem kev ua haujlwm. Cov platforms thoob ntiaj teb yuav tau txiav txim siab yog leej twg me nyuam nyob hauv California thiab saib xyuas ntau lab ntawm kev sib cuam tshuam txhua hnub yam tsis muaj kev cuam tshuam txog kev ceev ntiag tug, ib yam dab tsi uas yog technically thiab txoj cai nyuaj.

Lwm qhov kev sib tw yuav tsum zam kom tsis txhob muaj "trickling effect" rau kev censorship ntau dhau: yog tias cov tuam txhab ntshai kev rau txim, lawv tuaj yeem thim rov qab cov ntsiab lus tseem ceeb kev xav zoo los ntawm kev ncaj ncees prudence. Nrhiav qhov sib npaug ntawm kev tiv thaiv thiab kev nkag mus rau cov ntaub ntawv txhim khu kev qha yuav yog qhov tseem ceeb rau kev ntsuas kev ua tiav ntawm txoj cai.

Cov lus nug ntawm kev cuam tshuam hauv lub tebchaws tseem tseem nyob: raws li tau tshwm sim nrog lwm cov cai hauv California thaum ntxov, nws cov kev cai yuav dhau los ua qhov tseeb tus qauv rau cov neeg khiav dej num thoob plaws hauv Teb Chaws Asmeskas, txawm tias ua ntej muaj pov thawj ntawm kev ua tau zoo.

Txawm hais tias cov ntawv kawg yog nqaim dua li cov lus qhia thawj zaug, cov SB 243 teeb tsa txoj cai tsis tau muaj dua los rau "tus khub chatbots": Cov lus ceeb toom meej, cov hnub nyoog lim dej thiab cov txheej txheem kev kub ntxhov nrog kev tshaj tawm hauv tsev. Yog koj yog yam tsawg kawg nkaus Yog tias lawv tswj hwm kev tiv thaiv cov menyuam yaus yam tsis muaj kev txhawb nqa raug cai, California yuav tau teeb tsa txoj hauv kev nruab nrab uas lwm lub xeev tuaj yeem ua raws.

Tsab xov xwm cuam tshuam:

OpenAI yuav ntxiv kev tswj xyuas niam txiv rau ChatGPT nrog tsev neeg cov nyiaj, ceeb toom kev pheej hmoo, thiab kev txwv kev siv.

Alberto Navarro

Kuv yog ib tus neeg nyiam siv thev naus laus zis uas tau hloov nws txoj kev nyiam "geek" rau hauv txoj haujlwm. Kuv tau siv ntau tshaj 10 xyoo ntawm kuv lub neej siv cov cuab yeej siv thev naus laus zis thiab tinkering nrog txhua yam kev pab cuam tawm ntawm kev xav paub dawb huv. Tam sim no kuv tau tshwj xeeb hauv computer technology thiab video games. Qhov no yog vim ntau tshaj 5 xyoo kuv tau sau rau ntau lub vev xaib ntawm kev siv tshuab thiab kev ua si video, tsim cov ntawv uas nrhiav kom muab cov ntaub ntawv koj xav tau hauv hom lus uas txhua tus neeg nkag siab.

Yog tias koj muaj lus nug, kuv qhov kev paub yog los ntawm txhua yam ntsig txog Windows operating system nrog rau Android rau cov xov tooj ntawm tes. Thiab kuv txoj kev cog lus yog rau koj, Kuv ib txwm kam siv ob peb feeb thiab pab koj daws cov lus nug uas koj muaj nyob hauv lub ntiaj teb no hauv internet.