ChatGPT Trusted Contact: วิธีการทำงานและเหตุผลที่มันเปลี่ยนแปลงทุกอย่าง

ฟีเจอร์ Trusted Contact ใหม่ของ ChatGPT กลายเป็นหนึ่งในฟีเจอร์ที่ถูกพูดถึงมากที่สุดในโลกของปัญญาประดิษฐ์ ผู้ใช้หลายพันคนใช้แชทบอทนี้เป็นที่ปรึกษา ที่พึ่งทางอารมณ์ และพื้นที่ระบายความรู้สึกอยู่แล้วและ OpenAI ได้ตัดสินใจที่จะก้าวไปอีกขั้นด้วยการยอมรับความเป็นจริงนั้นอย่างชัดเจน และเพิ่มมาตรการรักษาความปลอดภัยอีกชั้นหนึ่งเมื่อมีคนเผชิญกับช่วงเวลาวิกฤต

Trusted Contact ไม่ใช่แค่การปรับแต่งการตั้งค่าธรรมดา แต่มีเป้าหมายเพื่อเปลี่ยนแปลงกระบวนทัศน์: ปัจจุบัน การใช้ AI ไม่ได้ถูกมองว่าเป็นเพียงเพื่อเพิ่มประสิทธิภาพการทำงานหรือเพื่อความบันเทิงอีกต่อไปแต่เป็นสิ่งที่สามารถส่งผลกระทบอย่างลึกซึ้งต่อสุขภาพจิตของผู้คนได้ ฟังก์ชันนี้เชื่อมโยงการสนทนากับแบบจำลองเข้ากับเครือข่ายสนับสนุนของมนุษย์ โดยมีเป้าหมายเพื่อให้แน่ใจว่าไม่มีใครถูกทิ้งไว้ลำพังเมื่อแสดงความคิดเกี่ยวกับการทำร้ายตัวเองหรือการฆ่าตัวตาย

Trusted Contact ใน ChatGPT คืออะไร และใช้ทำอะไร?

ผู้ติดต่อที่ไว้วางใจได้ เป็นฟีเจอร์เสริมของ ChatGPT ที่อนุญาตให้ผู้ใช้ที่เป็นผู้ใหญ่แต่ละคนเลือกบุคคลที่ไว้วางใจได้ ซึ่งจะได้รับการแจ้งเตือนในกรณีฉุกเฉิน แนวคิดนั้นง่ายมาก: หากระบบตรวจพบสัญญาณบ่งชี้ถึงความเสี่ยงร้ายแรงของการทำร้ายตัวเองหรือการฆ่าตัวตายสามารถแจ้งให้ผู้ติดต่อดังกล่าวพยายามติดต่อผู้ใช้และสอบถามความเป็นอยู่ของพวกเขาได้

เครื่องมือนี้มีไว้สำหรับบัญชีส่วนบุคคลของผู้ใช้ที่มีอายุ 18 ปีขึ้นไป และไม่ได้มีให้บริการใน แผนธุรกิจ สภาพแวดล้อมทางธุรกิจ หรือทางการศึกษาแต่ละบัญชีสามารถลงทะเบียนผู้ติดต่อได้เพียงรายเดียว ซึ่งอาจเป็นสมาชิกในครอบครัว เพื่อน ผู้ดูแล หรือผู้ใหญ่คนใดก็ได้ที่ผู้ใช้ไว้วางใจ คุณสมบัตินี้เป็นตัวเลือกเสริม: คุณต้องเปิดใช้งานอย่างชัดเจนในการตั้งค่า ChatGPT ไม่ได้เปิดใช้งานโดยค่าเริ่มต้น หากคุณใช้แอปส่งข้อความ คุณควรตรวจสอบ... การสำรองข้อมูลผู้ติดต่อ.

OpenAI อธิบายว่า Trusted Contact ไม่สามารถใช้ทดแทนบริการฉุกเฉินหรือการดูแลสุขภาพจิตจากผู้เชี่ยวชาญได้จุดประสงค์ของมันคือการทำหน้าที่เป็นสะพานเชื่อมระหว่างความช่วยเหลืออัตโนมัติที่แบบจำลองสามารถให้ได้ กับการสนับสนุนที่แท้จริงซึ่งมาจากบุคคลอื่นเท่านั้น ข้อความหลักของบริษัทคือ ระบบ AI ไม่ควรทำให้เราโดดเดี่ยว แต่ควรช่วยอำนวยความสะดวกในการเชื่อมต่อของเรากับเครือข่ายความสัมพันธ์ที่สำคัญที่สุดสำหรับเรา

ในบริบทที่มีผู้ใช้งาน ChatGPT มากกว่า 900 ล้านคนต่อสัปดาห์ บริษัทตระหนักดีว่าผู้คนจำนวนมากหันมาใช้แชทบอทในช่วงเวลาที่ตนเองอ่อนไหวทางอารมณ์มากที่สุดTrusted Contact ถูกสร้างขึ้นมาเพื่อกรณีที่อยู่กึ่งกลางระหว่างการสอบถามข้อมูลทั่วไปและการสอบถามข้อมูลแบบทั่วไปโดยเฉพาะ

การพึ่งพาทางอารมณ์ที่เพิ่มมากขึ้นต่อปัญญาประดิษฐ์ และเหตุใดจึงมีความสำคัญ

มีการพูดคุยกันมาระยะหนึ่งแล้วเกี่ยวกับความผูกพันทางอารมณ์ที่บางคนพัฒนาขึ้นกับแบบจำลองภาษาที่ยอดเยี่ยม แซม อัลท์แมน ซีอีโอของ OpenAI ถึงกับกล่าวว่า ChatGPT เป็นเหมือน “ระบบปฏิบัติการที่สำคัญ” สำหรับคนหนุ่มสาวจำนวนมากผู้ที่ปรึกษาเขาในเรื่องงานที่เกี่ยวข้องกับประสิทธิภาพการทำงานและการตัดสินใจที่สำคัญในชีวิตส่วนตัว

ในทางปฏิบัติ ChatGPT ทำหน้าที่เป็นทั้งนักบำบัดที่ไม่เป็นทางการ เพื่อนร่วมทาง โค้ชชีวิต และผู้ให้คำปรึกษาแก่ผู้ใช้จำนวนมากอยู่แล้ว การใช้งานที่หลากหลายเช่นนี้ก่อให้เกิดความเสี่ยงอย่างเห็นได้ชัด: โดยเฉพาะอย่างยิ่งเมื่อบุคคลนั้นกำลังเผชิญกับวิกฤตทางอารมณ์พวกเขาอาจระบายความวิตกกังวลทั้งหมดลงในแชทบอทและไม่แบ่งปันอะไรกับคนใกล้ชิดเลย Trusted Contact พยายามแก้ไขแนวโน้มนี้ โดยเตือนผู้คนว่าท้ายที่สุดแล้ว สิ่งที่สร้างความแตกต่างได้ก็คือการเข้ามาช่วยเหลือของบุคคลอื่น

การเปิดตัวฟีเจอร์นี้ได้รับอิทธิพลจากปัจจัยอื่นๆ ด้วยเช่นกัน แรงกดดันทางกฎหมายและจากสาธารณชนที่ OpenAI ได้รับในกรณีของผู้ใช้งานที่จบชีวิตด้วยการฆ่าตัวตาย หลังจากประสบปัญหาในการใช้งานระบบ มีการฟ้องร้องเรียกค่าเสียหายจากการเสียชีวิตโดยไม่เป็นธรรม โดยกล่าวหาว่า ChatGPT ให้การตอบสนองที่ไม่เพียงพอหรือไม่ตอบสนองต่อสัญญาณที่ชัดเจนของความทุกข์ทางจิตใจ บริษัทได้ปฏิเสธข้อกล่าวหาเหล่านี้ แต่การถกเถียงได้บานปลายจนถึงขั้นที่รัฐฟลอริดากำลังตรวจสอบความเชื่อมโยงที่เป็นไปได้ระหว่างเครื่องมือนี้กับพฤติกรรมทางอาญา รวมถึงการยุยงให้ฆ่าตัวตายและการทำร้ายตัวเอง

ทั้งหมดนี้เป็นส่วนหนึ่งของการอภิปรายในวงกว้าง: เมื่อ AI มีความคล้ายคลึงกับมนุษย์มากขึ้น ทั้งในด้านน้ำเสียงและความสามารถในการสนทนา ความเสี่ยงที่ผู้คนจะผูกพันทางอารมณ์กับ AI ก็เพิ่มสูงขึ้นเช่นกัน มากเกินกว่าที่จะสมเหตุสมผล ฟีเจอร์ Trusted Contact เป็นการตอบสนองโดยตรงต่อข้อกังวลนั้น และทำให้ชัดเจนว่า สำหรับ OpenAI การสร้างระบบที่ชาญฉลาดขึ้นนั้นไม่เพียงพออีกต่อไปแล้ว ระบบเหล่านั้นจำเป็นต้องมีกลไกการใช้งานอย่างมีความรับผิดชอบควบคู่ไปด้วย

ระบบตรวจจับวิกฤตทำงานอย่างไรใน Trusted Contact

หัวใจสำคัญของ Trusted Contact อยู่ที่ระบบตรวจจับความเสี่ยงซึ่งวิเคราะห์บทสนทนาด้วย ChatGPT มันไม่ใช่แค่เรื่องของคำพูดหรือข้อความที่แยกออกมาเท่านั้นแต่เป็นรูปแบบการใช้งานต่อเนื่องเป็นเวลานาน ซึ่งอาจบ่งชี้ถึงการเสื่อมถอยอย่างเงียบๆ ของสุขภาพของผู้ใช้

OpenAI กล่าวถึง “ตัวชี้วัดการเสื่อมถอยอย่างเงียบๆ” ซึ่งก็คือ สัญญาณที่ละเอียดอ่อนซึ่งตรวจไม่พบจากการอ่านแบบผิวเผิน แต่ตัวชี้วัดเหล่านี้ เมื่อสะสมกันแล้ว บ่งชี้ว่าบุคคลนั้นกำลังเผชิญกับวิกฤตอย่างหนัก ตัวชี้วัดเหล่านี้อิงตามเทคนิคการประมวลผลภาษาธรรมชาติขั้นสูง (NLP) และการสังเกตวิวัฒนาการของการสนทนาเมื่อเวลาผ่านไป

เมื่อระบบอัตโนมัติตรวจพบความเสี่ยงร้ายแรงต่อการทำร้ายตัวเองหรือการฆ่าตัวตาย ระบบจะเริ่มดำเนินการตามขั้นตอนหลายขั้น ประการแรก ChatGPT จะแจ้งเตือนผู้ใช้ว่าพวกเขาสามารถแจ้งเรื่องนี้ให้ผู้ติดต่อที่ไว้ใจได้ทราบได้และค่อยๆ ชักชวนให้เขาติดต่อบุคคลนั้นด้วยตนเอง ข้อความนี้เป็นการเชิญชวนให้打破ความโดดเดี่ยว ไม่ใช่การข่มขู่หรือสร้างความตื่นตระหนก

ขั้นตอนต่อไปคือ ทีมงานผู้เชี่ยวชาญเฉพาะด้านจะเข้ามามีบทบาท OpenAI ระบุว่า ทีมผู้ตรวจสอบที่ได้รับการฝึกฝนมาอย่างดีจำนวนเล็กน้อยจะทำการประเมินแต่ละกรณีด้วยตนเอง ก่อนที่จะมีการส่งการแจ้งเตือนใดๆ ตัวกรองนี้มีจุดมุ่งหมายเพื่อลดการแจ้งเตือนที่ผิดพลาด ซึ่งมีความสำคัญอย่างยิ่งเมื่อต้องจัดการกับความสัมพันธ์ส่วนบุคคลที่ละเอียดอ่อนและประเด็นที่อ่อนไหว เช่น ความคิดฆ่าตัวตาย

หากทีมงานตรวจสอบแล้วพบว่ามีข้อกังวลที่สมเหตุสมผล ระบบแจ้งเตือนจะถูกเปิดใช้งาน: ผู้ติดต่อที่น่าเชื่อถือจะได้รับข้อความสั้นๆ ผ่านทางอีเมล SMS หรือการแจ้งเตือนใน ChatGPT (หากคุณมีบัญชี) ซึ่งคุณจะได้รับคำแนะนำให้ดำเนินการดังต่อไปนี้ ติดต่อเรา โดยแจ้งให้ผู้ใช้ทราบแล้ว ข้อความแจ้งเตือนนี้ไม่ได้รวมถึงบันทึกการสนทนาหรือรายละเอียดที่แน่ชัดของการสนทนา แต่ระบุเพียงว่ามีการกล่าวถึงการทำร้ายตัวเองหรือมีข้อกังวลด้านความปลอดภัยที่ร้ายแรง

ความเป็นส่วนตัว ข้อจำกัด และการออกแบบการแจ้งเตือน

ประเด็นสำคัญที่สุดประเด็นหนึ่งของ Trusted Contact คือเรื่องความเป็นส่วนตัว OpenAI ยืนยันว่า จะไม่มีการเปิดเผยบันทึกการสนทนาให้กับผู้ติดต่อที่เชื่อถือได้ไม่ว่าในกรณีใดๆสิ่งที่บุคคลนั้นได้รับคือคำเตือนทั่วไปเกี่ยวกับความกังวล พร้อมด้วยคำแนะนำเกี่ยวกับวิธีการรับมือกับบทสนทนาที่ยากลำบาก

บริษัทยืนยันว่า Trusted Contact คือ คุณสมบัติเสริมที่ต้องได้รับความยินยอมจากผู้ใช้ผู้ใช้ต้องเลือกผู้ติดต่อจากเมนูการตั้งค่า ป้อนที่อยู่อีเมล (และควรระบุหมายเลขโทรศัพท์ด้วย) และเชิญให้ผู้ติดต่อยอมรับบทบาท หากผู้ติดต่อไม่ยอมรับภายในหนึ่งสัปดาห์ คำเชิญจะหมดอายุ และผู้ใช้สามารถเสนอชื่อบุคคลอื่นได้

ทั้งผู้ใช้และผู้ติดต่อที่น่าเชื่อถือยังคงมีอำนาจควบคุมอยู่ ผู้ใช้สามารถ เปลี่ยนหรือลบรายชื่อผู้ติดต่อที่เชื่อถือได้ของคุณ ได้ตลอดเวลาจากการตั้งค่า ChatGPTผู้ติดต่อสามารถเพิกถอนการเข้าร่วมได้ผ่านศูนย์ช่วยเหลือของ OpenAI ซึ่งจะช่วยให้ฟีเจอร์นี้สอดคล้องกับความต้องการของทั้งสองฝ่าย

ในขณะเดียวกัน OpenAI ก็ชี้แจงอย่างชัดเจนว่า Trusted Contact ไม่สามารถใช้ทดแทนบริการฉุกเฉินหรือการดูแลสุขภาพจากผู้เชี่ยวชาญได้แอปพลิเคชันนี้ไม่ได้รับประกันว่าจะได้รับการตอบสนองทันที และไม่ได้ประสานงานด้านทรัพยากรทางการแพทย์ มันเป็นเพียงมาตรการป้องกันเพิ่มเติมที่ช่วยให้บุคคลในแวดวงของผู้ใช้ (โดยระบุชื่อและนามสกุล) สามารถติดต่อและสอบถามความเป็นอยู่ของผู้ที่ใช้ ChatGPT ได้

การออกแบบระบบแจ้งเตือนพยายามสร้างสมดุลระหว่างการปกป้องและการเคารพความเป็นส่วนตัว ข้อความดังกล่าวอธิบายเพียงว่า ตรวจพบข้อกังวลเกี่ยวกับความเป็นไปได้ที่จะมีการกล่าวถึงการทำร้ายตัวเอง นอกจากนี้ยังมีการให้ลิงก์ไปยังแนวทางปฏิบัติสำหรับการสนทนาที่ละเอียดอ่อน อย่างไรก็ตาม ไม่ได้ระบุรายละเอียดวลีเฉพาะหรือกล่าวถึงประเด็นส่วนตัวใดๆ ที่เกิดขึ้นในการสนทนา

Trusted Contact คือสัญญาณบ่งบอกถึงอนาคตของ AI ที่มีความรับผิดชอบ

นอกเหนือจากความแปลกใหม่เฉพาะตัวแล้ว Trusted Contact ยังส่งข้อความที่ชัดเจนเกี่ยวกับทิศทางของอุตสาหกรรมนี้อีกด้วย แบบจำลองภาษาที่ยอดเยี่ยมจะไม่ถูกนิยามเพียงแค่ความสามารถในการสร้างคำตอบที่ยอดเยี่ยมอีกต่อไป และพวกเขาจะถูกตัดสินโดยเครือข่ายการคุ้มครองที่อยู่รอบตัวพวกเขาด้วยเช่นกัน

ทุกอย่างบ่งชี้ว่าเราจะได้เห็นระบบที่มีความฉลาดทางอารมณ์สูงขึ้น และมีความสามารถในการ... รับรู้ถึงความแตกต่างเล็กน้อยในน้ำเสียง บริบท และการเปลี่ยนแปลงของอารมณ์รวมถึงระเบียบปฏิบัติที่แข็งแกร่งยิ่งขึ้นเพื่อบูรณาการการส่งต่อผู้ป่วยไปยังบริการด้านสุขภาพ สายด่วน หรือเครือข่ายสนับสนุนชุมชน

ในขณะเดียวกัน รูปแบบ "มนุษย์มีส่วนร่วมในกระบวนการ" จะได้รับการเสริมสร้างให้แข็งแกร่งยิ่งขึ้น: โมเดลที่ไม่สามารถตัดสินใจที่สำคัญได้ด้วยตนเอง แต่จะเรียกใช้ทีมผู้เชี่ยวชาญเฉพาะด้านเมื่อสถานการณ์จำเป็นTrusted Contact ได้นำแนวทางนี้มาใช้แล้ว โดยการผสมผสานการตรวจจับอัตโนมัติเข้ากับการตรวจสอบความปลอดภัยโดยผู้ตรวจสอบที่ได้รับการฝึกอบรม

สำหรับผู้ใช้งาน หน่วยงานกำกับดูแล และภาคธุรกิจ ข้อความสำคัญก็คือ ปัญญาประดิษฐ์ไม่สามารถทำงานต่อไปได้ในสภาพแวดล้อมที่ปราศจากปฏิสัมพันธ์ทางสังคม หากแชทบอทปรากฏตัวในช่วงเวลาที่เปราะบางที่สุดในชีวิตของบุคคลนั้นเป็นเรื่องสมเหตุสมผลที่จะมีความคาดหวังสูงเกี่ยวกับพฤติกรรม ขีดจำกัด และความสามารถในการขอความช่วยเหลือจากมนุษย์ของพวกเขา

เมื่อมองในภาพรวมแล้ว Trusted Contact ทำให้ ChatGPT เป็นมากกว่าแค่ผู้ช่วยดิจิทัลหรือเครื่องมือเพิ่มประสิทธิภาพการทำงาน: แนวคิดนี้วางตำแหน่งให้เป็นพื้นที่สำหรับการปฏิสัมพันธ์ โดยให้ความสำคัญกับความปลอดภัย ความโปร่งใส และการดูแลสุขภาพจิตใจเป็นหัวใจหลักของประสบการณ์นับจากนี้เป็นต้นไป ผู้เล่นทุกคนที่ต้องการแข่งขันในเวทีนี้จะต้องพิสูจน์ให้ได้ว่าตนเองมีคุณสมบัติตรงตามมาตรฐานใหม่นี้

บทความที่เกี่ยวข้อง:

Google เปิดใช้งานการกู้คืนรายชื่อติดต่อ: กู้คืนบัญชีของคุณด้วยความช่วยเหลือจากเพื่อน

อัลแบร์โต นาวาร์โร

ฉันเป็นผู้ชื่นชอบเทคโนโลยีที่เปลี่ยนความสนใจ "เกินบรรยาย" ของเขาให้กลายเป็นอาชีพ ฉันใช้เวลามากกว่า 10 ปีในชีวิตไปกับเทคโนโลยีล้ำสมัยและปรับแต่งโปรแกรมทุกประเภทด้วยความอยากรู้อยากเห็น ตอนนี้ฉันมีความเชี่ยวชาญในด้านเทคโนโลยีคอมพิวเตอร์และวิดีโอเกม เนื่องจากเป็นเวลากว่า 5 ปีแล้วที่ฉันเขียนให้กับเว็บไซต์ต่างๆ เกี่ยวกับเทคโนโลยีและวิดีโอเกม โดยสร้างบทความที่พยายามให้ข้อมูลที่คุณต้องการในภาษาที่ทุกคนเข้าใจได้

หากคุณมีคำถามใดๆ ความรู้ของฉันมีตั้งแต่ทุกอย่างที่เกี่ยวข้องกับระบบปฏิบัติการ Windows รวมถึง Android สำหรับโทรศัพท์มือถือ และความมุ่งมั่นของฉันคือคุณ ฉันยินดีสละเวลาสักครู่เสมอและช่วยคุณแก้ไขคำถามใดๆ ที่คุณอาจมีในโลกอินเทอร์เน็ตนี้