- SB 243 ຕ້ອງການ chatbots ເພື່ອກໍານົດຕົວຕົນແລະສະຫນອງການແຈ້ງເຕືອນເປັນໄລຍະ, ໂດຍມີການແຈ້ງເຕືອນທຸກໆສາມຊົ່ວໂມງສໍາລັບຜູ້ເຍົາ.
- ການສົນທະນາກ່ຽວກັບເພດແລະການທໍາຮ້າຍຕົນເອງກັບຜູ້ເຍົາແມ່ນຖືກຈໍາກັດ, ແລະໂປໂຕຄອນວິກິດໄດ້ຖືກເປີດໃຊ້.
- ເວທີຕ້ອງລາຍງານອາການຂອງຄວາມຄິດຢາກຂ້າຕົວຕາຍຕໍ່ຫ້ອງການປ້ອງກັນການຂ້າຕົວຕາຍຂອງລັດ.
- ຊຸດດັ່ງກ່າວປະກອບມີກົດລະບຽບ AI ຂອງລັດຄາລິຟໍເນຍອື່ນໆກ່ຽວກັບຄວາມສ່ຽງ, ການປອມແປງເລິກ, ແລະຄວາມຮັບຜິດຊອບ.
ລັດຄາລິຟໍເນຍ ໄດ້ດຳເນີນຂັ້ນຕອນທີ່ຕັດສິນໃຈໃນການຄວບຄຸມປັນຍາປະດິດ. ດ້ວຍກົດລະບຽບທີ່ເນັ້ນໃສ່ອັນທີ່ເອີ້ນວ່າ "companion chatbots", ເຊິ່ງຈໍາລອງມິດຕະພາບຫຼືຄວາມໃກ້ຊິດ. ເຈົ້າແຂວງ Gavin Newsom ລົງນາມ SB 243, ກົດຫມາຍທີ່ຮຽກຮ້ອງໃຫ້ມີເຄື່ອງມືເຫຼົ່ານີ້ເພື່ອກໍານົດຕົນເອງເປັນລະບົບອັດຕະໂນມັດແລະຮັບຮອງເອົາການປົກປ້ອງສະເພາະໃນເວລາທີ່ພົວພັນກັບ. ຜູ້ໃຊ້ເລັກນ້ອຍ.
ມາດຕະການດັ່ງກ່າວ, ໄດ້ຮັບການສະໜັບສະໜູນໂດຍສະມາຊິກສະພາສູງຂອງລັດ Steve Padilla, ສຸມໃສ່ໜ້ອຍລົງໃສ່ສະຖາປັດຕະຍະກຳດ້ານວິຊາການ ແລະ ອື່ນໆອີກ ການໂຕ້ຕອບທາງດ້ານຈິດໃຈລະຫວ່າງຄົນແລະເຄື່ອງຈັກສະບັບສຸດທ້າຍ, ເຊິ່ງຖືກຈໍາກັດຫຼາຍຫຼັງຈາກຄວາມກົດດັນຈາກອຸດສາຫະກໍາ, ຮັກສາພັນທະທີ່ສໍາຄັນ: ເຕືອນປົກກະຕິວ່າທ່ານກໍາລັງລົມກັບ AI, ຕົວກອງເນື້ອຫາທີ່ເຫມາະສົມກັບອາຍຸ, ແລະໂປໂຕຄອນການຕອບສະຫນອງ. ອາການຂອງການທໍາຮ້າຍຕົນເອງຫຼືຂ້າຕົວຕາຍ.
SB 243 ຕ້ອງການຫຍັງແທ້?
ຫຼັກຂອງມາດຕະຖານຮຽກຮ້ອງໃຫ້ chatbots ເຕືອນຢ່າງຊັດເຈນແລະຊ້ໍາຊ້ອນວ່າພວກເຂົາແມ່ນ ຊອບແວ AIສໍາລັບຜູ້ໃຊ້ເລັກນ້ອຍ, ລະບົບຕ້ອງສະແດງການແຈ້ງເຕືອນຢ່າງຫນ້ອຍທຸກໆສາມຊົ່ວໂມງ, ໃນລັກສະນະທີ່ເຫັນໄດ້ແລະເຂົ້າໃຈໄດ້ເພື່ອຫຼີກເວັ້ນການສັບສົນກ່ຽວກັບລັກສະນະທີ່ບໍ່ແມ່ນມະນຸດຂອງການໂຕ້ຕອບ.
ນອກຈາກນັ້ນ, ຜູ້ປະກອບການຕ້ອງປະຕິບັດ ການກັ່ນຕອງເນື້ອຫາແລະຈໍາກັດອາຍຸ: ການມີເພດສຳພັນຢ່າງຈະແຈ້ງ ແລະ ການໂຕ້ຕອບໃດໆກໍຕາມທີ່ເຮັດໃຫ້ເປັນປົກກະຕິ ຫຼື ຊຸກຍູ້ການທຳຮ້າຍຕົນເອງແມ່ນບໍ່ລວມເອົາການສົນທະນາກັບຜູ້ເຍົາ. ສິ່ງກີດຂວາງເຫຼົ່ານີ້ຖືກເສີມໂດຍການສົ່ງຕໍ່ການບໍລິການວິກິດເມື່ອພວກເຂົາຖືກກວດພົບ. ຕົວຊີ້ວັດຄວາມສ່ຽງ.
La ກົດໝາຍຮຽກຮ້ອງໃຫ້ແພລະຕະຟອມສ້າງຂະບວນການກວດຫາ ແລະຕອບສະໜອງໄວ., ເຊັ່ນດຽວກັນກັບບົດລາຍງານຂອງກໍລະນີຂອງ ideation suicide ໄດ້ກໍານົດຢູ່ທີ່ ຫ້ອງການປ້ອງກັນການຂ້າຕົວຕາຍ ຂອງຄາລີຟໍເນຍນີ້ພະຍາຍາມເພີ່ມທະວີການປະສານງານກັບເຈົ້າຫນ້າທີ່ສຸຂະພາບແລະລວມເອົາຕົວຊີ້ບອກຜົນກະທົບຂອງເຄື່ອງມືເຫຼົ່ານີ້ຕໍ່ສຸຂະພາບຈິດ.
ເພື່ອປົກປັກຮັກສາການປົກປັກຮັກສາເຫຼົ່ານີ້, ບໍລິສັດຕ້ອງປະຕິບັດກົນໄກການກວດສອບອາຍຸທີ່ສົມເຫດສົມຜົນໃນການບໍລິການຂອງພວກເຂົາເພື່ອແນໃສ່ປະຊາຊົນຂອງລັດ.ຂໍ້ກໍານົດດັ່ງກ່າວໃຊ້ກັບເຄືອຂ່າຍສັງຄົມ, ເວັບໄຊທ໌, ແລະແອັບຯທີ່ສະຫນອງ chatbots ທີ່ເປັນຄູ່, ລວມທັງເວທີການຫຼິ້ນເກມຫຼືທາງເລືອກການກະຈາຍອໍານາດໃນຄາລິຟໍເນຍ.
ສະບັບສຸດທ້າຍຂອງ SB 243 ອອກຈາກການກວດສອບຂອງພາກສ່ວນທີສາມແລະແອັບຯສໍາລັບຜູ້ໃຊ້ທັງຫມົດ (ບໍ່ພຽງແຕ່ເດັກນ້ອຍ) ທີ່ຖືກພິຈາລະນາໃນສະບັບຮ່າງກ່ອນຫນ້ານີ້. ເຖິງວ່າຈະມີການຕັດນີ້, Newsom ໄດ້ປົກປ້ອງບັນຊີລາຍການເປັນ ເຂື່ອນບັນຈຸ ຕໍ່ຄວາມເສຍຫາຍທີ່ສາມາດປ້ອງກັນໄດ້, ໂດຍມີແຜນຈະມີຜົນບັງຄັບໃຊ້ໃນເດືອນມັງກອນ 2026.
ຊຸດທີ່ກວ້າງຂວາງຂອງກົດໝາຍ AI ຢູ່ໃນລັດ
SB 243 ມາພ້ອມກັບການລິເລີ່ມອື່ນໆທີ່ຜ່ານບໍ່ດົນມານີ້, ເຊັ່ນ: SB 53, ເຊິ່ງຮຽກຮ້ອງໃຫ້ຜູ້ພັດທະນາ AI ຂະຫນາດໃຫຍ່ເປີດເຜີຍຍຸດທະສາດ AI ຂອງພວກເຂົາຢ່າງເປີດເຜີຍ. ຄວາມປອດໄພແລະການຫຼຸດຜ່ອນຄວາມສ່ຽງເປົ້າຫມາຍແມ່ນເພື່ອປັບປຸງຄວາມໂປ່ງໃສຂອງຮູບແບບກ້າວຫນ້າທາງດ້ານທີ່ມີຜົນກະທົບທາງດ້ານສັງຄົມຂະຫນາດໃຫຍ່ແລ້ວ.
ໃນຂະນະດຽວກັນ, ໄດ້ຍົກອອກມາດຕະການເພື່ອປ້ອງກັນບໍ່ໃຫ້ບໍລິສັດຫຼົບໜີຈາກຄວາມຮັບຜິດຊອບໂດຍອ້າງວ່າເຕັກໂນໂລຊີ. "ປະຕິບັດຢ່າງເປັນເອກະລາດ"ການລົງໂທດສໍາລັບການປອມແປງທາງເພດທີ່ບໍ່ມີຄວາມເຫັນດີເຫັນພ້ອມຍັງໄດ້ຮັບການເຄັ່ງຄັດ, ການປັບໄຫມເພີ່ມຂຶ້ນຢ່າງຫຼວງຫຼາຍເມື່ອພວກເຂົາສົ່ງຜົນກະທົບຕໍ່ຜູ້ເຄາະຮ້າຍເລັກນ້ອຍ.
ຊຸດດັ່ງກ່າວຍັງປະກອບມີຂໍ້ຈໍາກັດເພື່ອປ້ອງກັນບໍ່ໃຫ້ chatbots ປອມຕົວ ຜູ້ຊ່ຽວຊານດ້ານສຸຂະພາບ ຫຼືຕົວເລກຂອງອຳນາດ, ຍຸດທະວິທີທີ່ສາມາດຫຼອກລວງຜູ້ໃຊ້ທີ່ມີຄວາມສ່ຽງ. ດ້ວຍຕ່ອນເຫຼົ່ານີ້, Sacramento ອະທິບາຍກອບລັດທີ່ພະຍາຍາມດຸ່ນດ່ຽງການປະດິດສ້າງ, ສິດ, ແລະ ຄວາມປອດໄພສາທາລະນະ.
ສະຫນັບສະຫນູນ, ການວິພາກວິຈານແລະຄວາມສົງໃສກ່ຽວກັບຂອບເຂດຂອງຕົນ
ມາດຕະຖານໄດ້ຮັບການຍ້ອງຍໍສໍາລັບການເປັນພື້ນຖານ, ໃນຂະນະທີ່ການວິພາກວິຈານສໍາລັບການຫຼຸດລົງສັ້ນ. ອົງການຈັດຕັ້ງເຊັ່ນ: Common Sense Media ແລະໂຄງການກວດກາເຕັກໂນໂລຢີໄດ້ຖອນຕົວອອກຈາກການສະຫນັບສະຫນູນຂອງພວກເຂົາຫຼັງຈາກການກໍາຈັດການກວດສອບພາຍນອກແລະຈໍາກັດຂອບເຂດຂອງພວກເຂົາຕໍ່ຜູ້ເຍົາ, ເຊິ່ງພວກເຂົາເຕືອນວ່າສາມາດເຮັດໃຫ້ກົດຫມາຍມີທ່າທາງທີ່ບໍ່ພຽງພໍໃນການປະເຊີນຫນ້າກັບຄວາມສ່ຽງໃນປະຈຸບັນ.
ໃນທາງກົງກັນຂ້າມ, ນັກພັດທະນາແລະຜູ້ຊ່ຽວຊານເຕືອນວ່າ a ຄວາມຮັບຜິດຊອບທີ່ບໍ່ສົມດຸນ ສາມາດນໍາໄປສູ່ "ການຂັດຂວາງ": ການກັ່ນຕອງທີ່ເຂັ້ມງວດທີ່ພວກເຂົາປິດສຽງການສົນທະນາທີ່ຖືກຕ້ອງກ່ຽວກັບສຸຂະພາບຈິດຫຼືການສຶກສາທາງເພດ, ຂັດຂວາງໄວລຸ້ນທີ່ຊອກຫາການຊ່ວຍເຫຼືອທາງອິນເຕີເນັດຂອງການສະຫນັບສະຫນູນທີ່ສໍາຄັນ.
ຄວາມກົດດັນທາງການເມືອງແລະເສດຖະກິດໄດ້ມີຄວາມເຂັ້ມແຂງ: ກຸ່ມເທັກໂນໂລຍີ ແລະພັນທະມິດຂອງອຸດສາຫະກຳໄດ້ໃຊ້ເວລານັບລ້ານໃນການ lobbying ໃນລະຫວ່າງກອງປະຊຸມເພື່ອປານກາງບົດເລື່ອງທີ່ຍາກທີ່ສຸດ.ພ້ອມກັນນັ້ນ, ອົງການໄອຍະການແຫ່ງລັດ ແລະ ສ FTC ໄດ້ກະຕຸ້ນການກວດສອບກ່ຽວກັບການປະຕິບັດ chatbot ເປົ້າຫມາຍເດັກນ້ອຍ, ໃນສະພາບແວດລ້ອມຂອງ ຄະດີແພ່ງ ແລະການຮ້ອງຮຽນຈາກຄອບຄົວທີ່ໄດ້ຮັບຜົນກະທົບ.
ກໍລະນີທີ່ຜ່ານມາແລະການຟ້ອງຮ້ອງຕໍ່ ເວທີເຊັ່ນ Character.AI ຫຼື OpenAI ໄດ້ຂະຫຍາຍການໂຕ້ວາທີສາທາລະນະ. ຫຼັງຈາກການກ່າວຫາ, ຜູ້ຫຼິ້ນໃຫຍ່ເຊັ່ນ Meta ແລະ OpenAI ປະກາດການປ່ຽນແປງ: ການຂັດຂວາງການສົນທະນາທີ່ບໍ່ເຫມາະສົມກັບໄວລຸ້ນແລະການສົ່ງຕໍ່ຊັບພະຍາກອນພິເສດ, ບວກກັບການຄວບຄຸມຂອງຜູ້ປົກຄອງໃຫມ່.
ສິ່ງທ້າທາຍໃນການຈັດຕັ້ງປະຕິບັດ ແລະຜົນກະທົບທີ່ຄາດໄວ້
ການຈັດຕັ້ງປະຕິບັດມີຄວາມທ້າທາຍໃນການປະຕິບັດງານ. ເວທີທົ່ວໂລກຈະຕ້ອງກໍານົດຢ່າງຖືກຕ້ອງວ່າແມ່ນໃຜ ທີ່ຢູ່ອາໄສເລັກນ້ອຍໃນຄາລິຟໍເນຍ ແລະຕິດຕາມກວດກາການຕິດຕໍ່ພົວພັນປະຈໍາວັນນັບລ້ານໂດຍບໍ່ມີການບຸກລຸກຄວາມເປັນສ່ວນຕົວ, ບາງສິ່ງບາງຢ່າງທີ່ສັບສົນທາງດ້ານເຕັກນິກແລະທາງດ້ານກົດຫມາຍ.
ສິ່ງທ້າທາຍອີກອັນຫນຶ່ງແມ່ນຈະຫຼີກເວັ້ນ "ຜົນກະທົບ trickling" ຕໍ່ການ censorship ຫຼາຍເກີນໄປ: ຖ້າບໍລິສັດຢ້ານການລົງໂທດ, ພວກເຂົາສາມາດຖອນຕົວໄດ້. ເນື້ອໃນທີ່ເປັນປະໂຫຍດ ອາລົມດີຈາກຄວາມຮອບຄອບອັນບໍລິສຸດ. ຊອກຫາຄວາມສົມດູນລະຫວ່າງການປົກປ້ອງແລະການເຂົ້າເຖິງຂໍ້ມູນທີ່ເຊື່ອຖືໄດ້ຈະເປັນກຸນແຈໃນການປະເມີນຜົນສໍາເລັດຂອງລະບຽບການ.
ຄໍາຖາມກ່ຽວກັບຜົນກະທົບລະດັບຊາດຍັງມີຢູ່: ດັ່ງທີ່ໄດ້ເກີດຂຶ້ນກັບກົດລະບຽບອື່ນໆຂອງລັດຄາລິຟໍເນຍ, ຂໍ້ກໍານົດຂອງມັນສາມາດກາຍເປັນຄວາມຈິງ ມາດຕະຖານ ສໍາລັບຜູ້ປະກອບການໃນທົ່ວສະຫະລັດ, ເຖິງແມ່ນວ່າກ່ອນທີ່ຈະມີຫຼັກຖານທີ່ເຂັ້ມແຂງຂອງປະສິດທິພາບ.
ເຖິງແມ່ນວ່າຂໍ້ຄວາມສຸດທ້າຍແມ່ນແຄບກວ່າຂໍ້ສະເຫນີເບື້ອງຕົ້ນ, ໄດ້ SB 243 ກໍານົດກົດລະບຽບທີ່ບໍ່ເຄີຍມີມາກ່ອນສໍາລັບ "chatbots companion": ຄໍາເຕືອນທີ່ຊັດເຈນ, ການກັ່ນຕອງອາຍຸແລະພິທີການວິກິດການທີ່ມີການລາຍງານຂອງສະຖາບັນ. ຖ້າເຈົ້າເປັນ ອຸປະສັກຫນ້ອຍທີ່ສຸດ ຖ້າພວກເຂົາຄຸ້ມຄອງເພື່ອປົກປ້ອງຜູ້ນ້ອຍໂດຍບໍ່ມີການຂັດຂວາງການສະຫນັບສະຫນູນທີ່ຖືກຕ້ອງຕາມກົດຫມາຍ, ຄາລິຟໍເນຍຈະລຸກລາມໄປສູ່ເສັ້ນທາງກາງທີ່ລັດອື່ນໆສາມາດປະຕິບັດຕາມ.
ຂ້ອຍເປັນນັກເທັກໂນໂລຍີທີ່ກະຕືລືລົ້ນທີ່ໄດ້ຫັນຄວາມສົນໃຈ "geek" ຂອງລາວໄປສູ່ອາຊີບ. ຂ້າພະເຈົ້າໄດ້ໃຊ້ເວລາຫຼາຍກ່ວາ 10 ປີຂອງຊີວິດຂອງຂ້າພະເຈົ້າໂດຍການນໍາໃຊ້ເຕັກໂນໂລຊີທີ່ທັນສະໄຫມແລະ tinkering ກັບທຸກປະເພດຂອງໂຄງການອອກຈາກ curiosity ອັນບໍລິສຸດ. ຕອນນີ້ຂ້ອຍມີຄວາມຊ່ຽວຊານດ້ານເທັກໂນໂລຍີຄອມພິວເຕີ ແລະເກມວີດີໂອ. ນີ້ແມ່ນຍ້ອນວ່າຫຼາຍກວ່າ 5 ປີທີ່ຂ້ອຍໄດ້ຂຽນສໍາລັບເວັບໄຊທ໌ຕ່າງໆກ່ຽວກັບເຕັກໂນໂລຢີແລະວິດີໂອເກມ, ການສ້າງບົດຄວາມທີ່ຊອກຫາເພື່ອໃຫ້ທ່ານມີຂໍ້ມູນທີ່ທ່ານຕ້ອງການໃນພາສາທີ່ທຸກຄົນເຂົ້າໃຈໄດ້.
ຖ້າທ່ານມີຄໍາຖາມໃດໆ, ຄວາມຮູ້ຂອງຂ້ອຍແມ່ນມາຈາກທຸກສິ່ງທຸກຢ່າງທີ່ກ່ຽວຂ້ອງກັບລະບົບປະຕິບັດການ Windows ເຊັ່ນດຽວກັນກັບ Android ສໍາລັບໂທລະສັບມືຖື. ແລະຄໍາຫມັ້ນສັນຍາຂອງຂ້າພະເຈົ້າແມ່ນກັບທ່ານ, ຂ້າພະເຈົ້າສະເຫມີເຕັມໃຈທີ່ຈະໃຊ້ເວລາສອງສາມນາທີແລະຊ່ວຍທ່ານແກ້ໄຂຄໍາຖາມໃດໆທີ່ທ່ານອາດຈະມີຢູ່ໃນໂລກອິນເຕີເນັດນີ້.