OpenAI จะเพิ่มการควบคุมโดยผู้ปกครองให้กับ ChatGPT ด้วยบัญชีครอบครัว คำเตือนความเสี่ยง และการจำกัดการใช้งาน

OpenAI ได้ประกาศการมาถึงของ การควบคุมโดยผู้ปกครองใน ChatGPT มุ่งเป้าไปที่บ้านที่มีวัยรุ่น ซึ่งเป็นคุณสมบัติใหม่ที่บริษัทมุ่งหวังที่จะเสริมสร้างความปลอดภัยและมอบให้แก่ครอบครัว เครื่องมือตรวจสอบเพิ่มเติม โดยไม่ละทิ้งประโยชน์ของแชทบอท

การตัดสินใจดังกล่าวเกิดขึ้นหลังจากแรงกดดันทางสังคมและกฎระเบียบที่เพิ่มมากขึ้น รวมถึง คดีฟ้องร้องครอบครัวของอดัม เรน ในแคลิฟอร์เนีย ซึ่งกล่าวหาว่าบริษัทมีความล้มเหลวในบริบทด้านสุขภาพจิต OpenAI คาดการณ์ว่าจะมี คำเตือนอัตโนมัติสำหรับสัญญาณของ “ความทุกข์ทรมานเฉียบพลัน” และชุดคุณลักษณะสำหรับจัดการประสบการณ์ของผู้เยาว์

มีอะไรเปลี่ยนแปลงใน ChatGPT สำหรับครอบครัว?

ด้วยตัวเลือกใหม่นี้ ผู้ปกครองจะสามารถ เชื่อมโยงบัญชีของคุณกับบัญชีของบุตรหลานของคุณ ผ่านการเชิญชวนผ่านอีเมล ตรวจสอบว่าระบบตอบสนองอย่างไร และปรับเปลี่ยนพฤติกรรมของโมเดลด้วยกฎที่ออกแบบมาสำหรับช่วงวัยเริ่มต้น

การควบคุมต่างๆ จะประกอบไปด้วยความสามารถในการ ปิดการใช้งานหน่วยความจำและประวัติการแชทรวมถึงการจำกัดฟังก์ชันตามระดับความเป็นผู้ใหญ่ของผู้เยาว์ OpenAI ยังพิจารณา คำเตือนระหว่างเซสชันที่ยาวนาน เพื่อส่งเสริมการพักผ่อนอย่างมีสุขภาพดี

นอกจากนี้แพ็คเกจยังจะรวมถึง ปุ่มฉุกเฉิน ซึ่งจะช่วยอำนวยความสะดวกในการติดต่อกับบริการสนับสนุนและผู้เชี่ยวชาญด้านสุขภาพจิต และตัวเลือกของ บล็อกเนื้อหา เมื่อตรวจพบสัญญาณความเสี่ยงในการสนทนา

ปฏิทินและแผนงานด้านความปลอดภัย

OpenAI วางตำแหน่งการเปิดตัว สำหรับเดือนหน้า และแม้ว่าจะไม่ได้กำหนดวันที่แน่นอน แต่กำลังดำเนินการตามแผน 120 วันเพื่อเสริมสร้างมาตรการป้องกันที่เฉพาะเจาะจง เด็กและวัยรุ่น ทั้งในผลิตภัณฑ์และกระบวนการภายใน

บริษัทระบุว่าการสนทนาที่ละเอียดอ่อนบางอย่าง จะเปลี่ยนเส้นทางไปสู่โมเดลการใช้เหตุผล สามารถปฏิบัติตามแนวทางความปลอดภัยได้อย่างเป็นระบบมากขึ้น โดยมีเป้าหมายเพื่อให้ความสำคัญกับการตอบสนองที่ระมัดระวังและให้การสนับสนุนเมื่อตรวจพบ ปัญหาความเสี่ยง เช่น การทำร้ายตัวเองหรือความคิดฆ่าตัวตาย

คดีที่ทำให้มีเสียงเตือนภัย

การประกาศดังกล่าวเกิดขึ้นหลังจากมีการฟ้องร้องจากผู้ปกครองของ อดัม เรน วัยรุ่นอายุ 16 ปี ซึ่งฆ่าตัวตายหลังจากโต้ตอบกับแชทบอทเป็นเวลาหลายเดือน ตามเอกสารที่ยื่นฟ้อง ChatGPT จะต้อง ความคิดฆ่าตัวตายที่เป็นปกติ และไม่ควรแสวงหาความช่วยเหลือจากครอบครัว เนื่องจากข้อกล่าวหาดังกล่าวจะต้องถูกตัดสินโดยศาล

ในขณะเดียวกัน OpenAI ยอมรับว่าผู้ช่วยของตนอาจล้มเหลว “สถานการณ์วิกฤต” และมุ่งมั่นที่จะเปลี่ยนแปลง บริษัทยืนยันว่ามาตรการเหล่านี้มุ่งหวัง ลดความเสี่ยง โดยไม่ได้ระบุอย่างเป็นทางการว่าการตัดสินใจดังกล่าวเป็นผลจากคดีความซึ่งยังอ้างถึงการใช้ GPT-4o ในการสนทนาด้วย

แรงกดดันทางสังคมและการเมืองต่อ AI และผู้เยาว์

ในเดือนกรกฎาคม วุฒิสมาชิกสหรัฐฯ หลายท่านได้ขอให้บริษัท คำอธิบายเกี่ยวกับการทำร้ายตัวเองและการป้องกันการฆ่าตัวตาย เพื่อตอบสนองต่อการตอบสนองที่ไม่เหมาะสมซึ่งตรวจพบในสถานการณ์ที่รุนแรง ในส่วนของ Common Sense Media โต้แย้งว่า ภายใต้ 18 ปี ไม่ควรใช้แอปพลิเคชัน AI เชิงสนทนาเนื่องจาก “ความเสี่ยงที่ยอมรับไม่ได้”

การเคลื่อนไหวของ OpenAI สอดคล้องกับแนวโน้มของอุตสาหกรรมซึ่งมีแพลตฟอร์มเช่น เมต้า หรือ ยูทูป ได้ผลักดันให้มีการควบคุมครอบครัว การอภิปรายเบื้องต้นมุ่งเน้นไปที่การสร้างสมดุลระหว่างนวัตกรรม รับประกัน และการรับประกันสำหรับผู้ใช้รุ่นเยาว์

เกิดอะไรขึ้นภายใน ChatGPT เมื่อมีสัญญาณความเสี่ยง

OpenAI มุ่งเป้าไปที่การกำหนดเส้นทางแบบไดนามิกที่ ทำให้เกิดบทสนทนาที่ซับซ้อน มุ่งสู่โมเดลที่สะท้อนมากขึ้น พร้อมแนวทางความปลอดภัยที่เข้มงวดยิ่งขึ้น เป้าหมายคือการลดอคติความพึงพอใจ เพิ่มเกณฑ์ความรอบคอบ และ จัดลำดับความสำคัญของการตอบสนองการสนับสนุน ต่อต้านการโต้ตอบที่อาจก่อให้เกิดอันตรายได้

เพื่อเสริมสร้างแนวทางนี้ บริษัทจึงได้สร้าง สภาผู้เชี่ยวชาญด้านความเป็นอยู่ที่ดีและ AI และเครือข่ายแพทย์ทั่วโลก ตามที่บริษัทระบุ มีมากกว่า แพทย์ 250 คนใน 60 ประเทศ และได้รวมเอาส่วนสนับสนุนเกี่ยวกับพฤติกรรมของโมเดลนี้ไว้แล้วมากกว่า 90 รายการ บริบทด้านสุขภาพจิต.

สิ่งที่พ่อแม่สามารถทำได้ทีละขั้นตอน

ครอบครัวจะพบกับขั้นตอนง่ายๆ ดังนี้: เชิญผู้เยาว์ทางไปรษณีย์ยืนยันการเชื่อมโยงบัญชีและกำหนดว่าฟังก์ชันใดเปิดใช้งานหรือไม่เปิดใช้งานในโปรไฟล์วัยรุ่น โดยให้ความสนใจเป็นพิเศษกับความจำ ประวัติ และ ตัวกรองความปลอดภัย.

• เชื่อมโยงบัญชีผู้ใหญ่กับบัญชีผู้เยาว์ผ่านการเชิญ
• กำหนดขีดจำกัด: หน่วยความจำ ประวัติ และคุณสมบัติที่ได้รับการอนุมัติตามอายุ
• เปิดใช้งานการแจ้งเตือน “อาการฉุกเฉินเฉียบพลัน” และเข้าถึงปุ่มฉุกเฉิน
• ตรวจสอบระบบตอบสนองและปรับการตั้งค่าเป็นระยะๆ

OpenAI กล่าวว่าจะยังคงปรับปรุงเครื่องมือเหล่านี้ต่อไป แต่ยังไม่ได้ให้รายละเอียดทั้งหมด พารามิเตอร์ความเป็นส่วนตัว และการมองเห็น บริษัทขอเตือนว่าการควบคุมโดยผู้ปกครองเป็นเพียงการสนับสนุนและไม่สามารถทดแทนได้ ความเอาใจใส่จากมืออาชีพ และไม่ได้รับการสนับสนุนจากครอบครัวอย่างต่อเนื่อง

ด้วยแพ็คเกจนี้ OpenAI พยายามเสริมสร้างความปลอดภัยของ ChatGPT ในสภาพแวดล้อมของวัยรุ่นโดย บัญชีครอบครัว ขีดจำกัด และการแจ้งเตือนการเปิดตัวแบบเป็นระยะและคำแนะนำทางคลินิกภายนอก ขั้นตอนที่มุ่งจำกัดความเสี่ยงโดยไม่ละเลยความจริงที่ว่าการดูแลของผู้ใหญ่และการตัดสินใจของผู้เชี่ยวชาญยังคงอยู่ ชิ้นสำคัญ.

บทความที่เกี่ยวข้อง:

แอพควบคุมโดยผู้ปกครองที่ดีที่สุดสำหรับ iPhone และ Android

Alberto navarro

ฉันเป็นผู้ชื่นชอบเทคโนโลยีที่เปลี่ยนความสนใจ "เกินบรรยาย" ของเขาให้กลายเป็นอาชีพ ฉันใช้เวลามากกว่า 10 ปีในชีวิตไปกับเทคโนโลยีล้ำสมัยและปรับแต่งโปรแกรมทุกประเภทด้วยความอยากรู้อยากเห็น ตอนนี้ฉันมีความเชี่ยวชาญในด้านเทคโนโลยีคอมพิวเตอร์และวิดีโอเกม เนื่องจากเป็นเวลากว่า 5 ปีแล้วที่ฉันเขียนให้กับเว็บไซต์ต่างๆ เกี่ยวกับเทคโนโลยีและวิดีโอเกม โดยสร้างบทความที่พยายามให้ข้อมูลที่คุณต้องการในภาษาที่ทุกคนเข้าใจได้

หากคุณมีคำถามใดๆ ความรู้ของฉันมีตั้งแต่ทุกอย่างที่เกี่ยวข้องกับระบบปฏิบัติการ Windows รวมถึง Android สำหรับโทรศัพท์มือถือ และความมุ่งมั่นของฉันคือคุณ ฉันยินดีสละเวลาสักครู่เสมอและช่วยคุณแก้ไขคำถามใดๆ ที่คุณอาจมีในโลกอินเทอร์เน็ตนี้