แคลิฟอร์เนียผ่านร่างกฎหมาย SB 243 เพื่อควบคุมแชทบอท AI และปกป้องผู้เยาว์

รัฐแคลิฟอร์เนียได้ดำเนินขั้นตอนเด็ดขาดในการกำกับดูแลปัญญาประดิษฐ์ โดยมีกฎที่มุ่งเน้นไปที่สิ่งที่เรียกว่า "แชทบอทคู่หู" ซึ่งเป็นตัวจำลองมิตรภาพหรือความใกล้ชิด ผู้ว่าการรัฐ Gavin Newsom ลงนามใน SB 243กฎหมายที่กำหนดให้เครื่องมือเหล่านี้ต้องระบุตัวเองว่าเป็นระบบอัตโนมัติและนำมาตรการป้องกันเฉพาะมาใช้เมื่อโต้ตอบกับ ผู้ใช้รายย่อย.

มาตรการนี้ได้รับการสนับสนุนโดยวุฒิสมาชิกรัฐ Steve Padilla โดยเน้นที่สถาปัตยกรรมทางเทคนิคน้อยลงและเน้นที่ การเชื่อมต่อทางอารมณ์ระหว่างคนกับเครื่องจักรเวอร์ชันสุดท้ายซึ่งมีข้อจำกัดมากขึ้นหลังจากได้รับแรงกดดันจากอุตสาหกรรม ยังคงรักษาภาระผูกพันที่สำคัญไว้: การเตือนเป็นประจำว่าคุณกำลังพูดคุยกับ AI ตัวกรองเนื้อหาที่เหมาะสมกับวัย และโปรโตคอลการตอบสนอง สัญญาณของการทำร้ายตัวเองหรือการฆ่าตัวตาย.

SB 243 กำหนดอะไรบ้าง?

แกนหลักของมาตรฐานกำหนดให้แชทบอทต้องแจ้งเตือนอย่างชัดเจนและซ้ำๆ ว่ากำลัง ซอฟต์แวร์ AIสำหรับผู้ใช้ที่เป็นผู้เยาว์ ระบบจะต้องแสดงคำเตือนอย่างน้อยทุก ๆ สามชั่วโมงในลักษณะที่มองเห็นได้และเข้าใจได้ เพื่อหลีกเลี่ยงความสับสนเกี่ยวกับธรรมชาติของการโต้ตอบที่ไม่ใช่มนุษย์

นอกจากนี้ผู้ประกอบการยังต้องดำเนินการ ตัวกรองเนื้อหาและข้อจำกัดอายุ: การสนทนากับผู้เยาว์จะไม่รวมถึงเรื่องเพศที่โจ่งแจ้งและปฏิสัมพันธ์ใดๆ ที่ส่งเสริมหรือทำให้การทำร้ายตัวเองเป็นเรื่องปกติ อุปสรรคเหล่านี้ยังได้รับการเสริมด้วยการส่งต่อไปยังหน่วยบริการช่วยเหลือฉุกเฉินเมื่อตรวจพบ ตัวบ่งชี้ความเสี่ยง.

La กฎหมายกำหนดให้แพลตฟอร์มต้องจัดทำโปรโตคอลการตรวจจับและการตอบสนองในระยะเริ่มต้นรวมถึงรายงานกรณีที่มีความคิดฆ่าตัวตายที่พบใน สำนักงานป้องกันการฆ่าตัวตาย แห่งแคลิฟอร์เนียสิ่งนี้มุ่งหวังที่จะเสริมสร้างการประสานงานกับหน่วยงานด้านสุขภาพและรวมมาตรวัดผลกระทบของเครื่องมือเหล่านี้ต่อสุขภาพจิต

เพื่อยึดถือการคุ้มครองเหล่านี้ บริษัทต่างๆ จะต้องนำกลไกการตรวจสอบอายุที่สมเหตุสมผลมาใช้ในบริการที่มุ่งเป้าไปที่ผู้อยู่อาศัยในรัฐข้อกำหนดนี้ใช้กับเครือข่ายโซเชียล เว็บไซต์ และแอปที่ให้บริการแชทบอทคู่หู รวมถึงแพลตฟอร์มเกมหรือตัวเลือกแบบกระจายอำนาจที่ดำเนินการในแคลิฟอร์เนีย

ร่างกฎหมาย SB 243 ฉบับสุดท้ายไม่ได้รวมการตรวจสอบโดยบุคคลที่สามและแอปพลิเคชันสำหรับผู้ใช้ทุกคน (ไม่ใช่เฉพาะผู้เยาว์) ที่เคยพิจารณาไว้ในร่างก่อนหน้านี้ แม้จะมีการตัดทอนดังกล่าว นิวซัมก็ยังคงปกป้องร่างกฎหมายนี้ในฐานะ เขื่อนกั้นน้ำ เพื่อป้องกันไม่ให้เกิดความเสียหาย โดยจะเริ่มบังคับใช้ในเดือนมกราคม พ.ศ. 2026

กฎหมาย AI ที่ครอบคลุมมากขึ้นในรัฐ

SB 243 มาพร้อมกับแผนริเริ่มอื่นๆ ที่เพิ่งผ่านไป เช่น SB 53 ซึ่งกำหนดให้ผู้พัฒนา AI รายใหญ่ต้องเปิดเผยกลยุทธ์ AI ของตนต่อสาธารณะ ความปลอดภัยและการลดความเสี่ยงเป้าหมายคือการปรับปรุงความโปร่งใสของโมเดลขั้นสูงที่มีผลกระทบทางสังคมในวงกว้างอยู่แล้ว

ในเวลาเดียวกัน มาตรการต่างๆ ได้รับการส่งเสริมเพื่อป้องกันไม่ให้บริษัทหลีกเลี่ยงความรับผิดชอบโดยอ้างว่าเทคโนโลยี “ทำหน้าที่โดยอิสระ”นอกจากนี้ บทลงโทษสำหรับการทำดีปเฟกทางเพศโดยไม่ได้รับความยินยอมยังเข้มงวดยิ่งขึ้น โดยเพิ่มค่าปรับอย่างมีนัยสำคัญหากการกระทำดังกล่าวส่งผลกระทบต่อเหยื่อที่เป็นผู้เยาว์

แพ็คเกจนี้ยังรวมถึงข้อจำกัดในการป้องกันไม่ให้แชทบอทปลอมตัว ผู้เชี่ยวชาญด้านสุขภาพ หรือผู้มีอำนาจ ซึ่งเป็นกลยุทธ์ที่อาจทำให้ผู้ใช้ที่มีความเสี่ยงเข้าใจผิดได้ ด้วยบทความเหล่านี้ แซคราเมนโตได้สรุปกรอบการทำงานของรัฐที่พยายามสร้างสมดุลระหว่างนวัตกรรม สิทธิ และ ความปลอดภัยสาธารณะ.

การสนับสนุน การวิพากษ์วิจารณ์ และความสงสัยเกี่ยวกับขอบเขตของมัน

มาตรฐานนี้ได้รับการยกย่องว่าเป็นนวัตกรรมใหม่ แต่ในขณะเดียวกันก็ถูกวิพากษ์วิจารณ์ว่าทำได้ไม่ดีพอ องค์กรต่างๆ เช่น คอมมอนเซนส์มีเดีย และโครงการ Tech Oversight ได้ถอนการสนับสนุนหลังจากยกเลิกการตรวจสอบจากภายนอกและจำกัดขอบเขตให้เฉพาะกับผู้เยาว์ ซึ่งพวกเขาเตือนว่าอาจทำให้กฎหมายนี้ไม่เพียงพอเมื่อเผชิญกับความเสี่ยงในปัจจุบัน

ในทางกลับกัน นักพัฒนาและผู้เชี่ยวชาญเตือนว่า ความรับผิดชอบที่ไม่สมส่วน อาจนำไปสู่ ​​"การปิดกั้นเชิงป้องกัน": ตัวกรองที่เข้มงวดจนทำให้การสนทนาที่ถูกต้องเกี่ยวกับสุขภาพจิตหรือการศึกษาเรื่องเพศเงียบลง ส่งผลให้วัยรุ่นที่แสวงหาความช่วยเหลือทางออนไลน์ขาดการสนับสนุนที่สำคัญ

แรงกดดันทางการเมืองและเศรษฐกิจมีความรุนแรงมาก: กลุ่มเทคโนโลยีและกลุ่มอุตสาหกรรมต่างลงทุนหลายล้านดอลลาร์ในการล็อบบี้ระหว่างการประชุมเพื่อควบคุมข้อความที่ยากที่สุดขณะเดียวกันสำนักงานอัยการสูงสุดและ เอฟทีซี ได้กระตุ้นให้มีการตรวจสอบการใช้งานแชทบอทที่มุ่งเป้าไปที่ผู้เยาว์ในสภาพแวดล้อม คดีแพ่ง และการร้องเรียนจากครอบครัวผู้ได้รับผลกระทบ

คดีความและคดีฟ้องร้องล่าสุดต่อ แพลตฟอร์มเช่น Character.AI หรือ OpenAI ได้ทำให้เกิดการถกเถียงในที่สาธารณะมากขึ้น. หลังจากมีการกล่าวหา ผู้เล่นหลักอย่าง Meta และ OpenAI ประกาศการเปลี่ยนแปลง:การบล็อกการสนทนาที่ไม่เหมาะสมกับวัยรุ่นและการอ้างอิงไปยังแหล่งข้อมูลเฉพาะ รวมถึงการควบคุมโดยผู้ปกครองแบบใหม่

ความท้าทายในการดำเนินการและผลกระทบที่คาดการณ์ได้

การเปิดตัวนี้ก่อให้เกิดความท้าทายในการดำเนินงาน แพลตฟอร์มระดับโลกจะต้องกำหนดอย่างแม่นยำว่าใครคือ ผู้อยู่อาศัยที่เป็นผู้เยาว์ในแคลิฟอร์เนีย และตรวจสอบการโต้ตอบนับล้านครั้งต่อวันโดยไม่ละเมิดความเป็นส่วนตัว ซึ่งเป็นเรื่องที่ซับซ้อนทั้งในด้านเทคนิคและกฎหมาย

ความท้าทายอีกประการหนึ่งคือการหลีกเลี่ยง "ผลกระทบแบบหยด" ที่นำไปสู่การเซ็นเซอร์ที่มากเกินไป: หากบริษัทต่างๆ กลัวการคว่ำบาตร พวกเขาอาจถอนตัว เนื้อหาที่เป็นประโยชน์ สุขภาวะทางอารมณ์ที่มาจากความรอบคอบอย่างแท้จริง การหาสมดุลระหว่างการคุ้มครองและการเข้าถึงข้อมูลที่เชื่อถือได้จะเป็นกุญแจสำคัญในการประเมินความสำเร็จของกฎระเบียบ

คำถามเกี่ยวกับผลกระทบระดับชาติยังคงอยู่: เช่นเดียวกับที่เกิดขึ้นกับกฎระเบียบอื่นๆ ของแคลิฟอร์เนียในช่วงแรก ข้อกำหนดของกฎระเบียบดังกล่าวอาจกลายเป็นเรื่องโดยพฤตินัย มาตรฐาน สำหรับผู้ประกอบการทั่วสหรัฐอเมริกา แม้ว่าจะไม่มีหลักฐานที่ชัดเจนเกี่ยวกับประสิทธิผลก็ตาม

แม้ว่าข้อความสุดท้ายจะแคบกว่าข้อเสนอเริ่มต้นก็ตาม SB 243 กำหนดกฎเกณฑ์ที่ไม่เคยมีมาก่อนสำหรับ "แชทบอทคู่หู": คำเตือนที่ชัดเจน ตัวกรองอายุ และโปรโตคอลวิกฤต พร้อมการรายงานระดับสถาบัน หากคุณ อุปสรรคน้อยที่สุด หากพวกเขาสามารถปกป้องผู้เยาว์ได้โดยไม่ต้องปิดกั้นการสนับสนุนที่ถูกต้องตามกฎหมาย แคลิฟอร์เนียก็จะได้เปิดทางสายกลางที่รัฐอื่นๆ สามารถทำตามได้

บทความที่เกี่ยวข้อง:

OpenAI จะเพิ่มการควบคุมโดยผู้ปกครองให้กับ ChatGPT ด้วยบัญชีครอบครัว คำเตือนความเสี่ยง และการจำกัดการใช้งาน

อัลแบร์โต นาวาร์โร

ฉันเป็นผู้ชื่นชอบเทคโนโลยีที่เปลี่ยนความสนใจ "เกินบรรยาย" ของเขาให้กลายเป็นอาชีพ ฉันใช้เวลามากกว่า 10 ปีในชีวิตไปกับเทคโนโลยีล้ำสมัยและปรับแต่งโปรแกรมทุกประเภทด้วยความอยากรู้อยากเห็น ตอนนี้ฉันมีความเชี่ยวชาญในด้านเทคโนโลยีคอมพิวเตอร์และวิดีโอเกม เนื่องจากเป็นเวลากว่า 5 ปีแล้วที่ฉันเขียนให้กับเว็บไซต์ต่างๆ เกี่ยวกับเทคโนโลยีและวิดีโอเกม โดยสร้างบทความที่พยายามให้ข้อมูลที่คุณต้องการในภาษาที่ทุกคนเข้าใจได้

หากคุณมีคำถามใดๆ ความรู้ของฉันมีตั้งแต่ทุกอย่างที่เกี่ยวข้องกับระบบปฏิบัติการ Windows รวมถึง Android สำหรับโทรศัพท์มือถือ และความมุ่งมั่นของฉันคือคุณ ฉันยินดีสละเวลาสักครู่เสมอและช่วยคุณแก้ไขคำถามใดๆ ที่คุณอาจมีในโลกอินเทอร์เน็ตนี้