Kiểm soát của phụ huynh trong ChatGPT: Tài khoản gia đình và cảnh báo

Liên kết tài khoản gia đình để theo dõi việc thanh thiếu niên sử dụng ChatGPT.
Khả năng vô hiệu hóa bộ nhớ và lịch sử và quản lý các chức năng theo độ tuổi.
Tự động cảnh báo khi có chỉ báo "cấp cứu" và nút khẩn cấp.
Việc triển khai sẽ bắt đầu vào tháng tới và kế hoạch 120 ngày với các mô hình lý luận.

Kiểm soát của phụ huynh trong ChatGPT

OpenAI đã công bố sự xuất hiện của một Kiểm soát của phụ huynh trong ChatGPT nhắm đến những ngôi nhà có thanh thiếu niên, một tính năng mới mà công ty muốn tăng cường an ninh và cung cấp cho các gia đình nhiều công cụ giám sát hơn mà không phải từ bỏ tính hữu ích của chatbot.

Quyết định này được đưa ra sau áp lực ngày càng tăng của xã hội và quy định, bao gồm Vụ kiện của gia đình Adam Raine ở California, nơi cáo buộc công ty thất bại trong bối cảnh sức khỏe tâm thần. OpenAI dự đoán rằng sẽ có cảnh báo tự động cho các dấu hiệu của "tình trạng nguy kịch" và một bộ tính năng để quản lý trải nghiệm của trẻ vị thành niên.

Có gì thay đổi trong ChatGPT dành cho gia đình?

Với các tùy chọn mới, cha mẹ sẽ có thể liên kết tài khoản của bạn với tài khoản của con bạn thông qua lời mời qua email, xem xét cách hệ thống phản hồi và điều chỉnh hành vi của mô hình theo các quy tắc được thiết kế cho lứa tuổi nhỏ.

Trong số các điều khiển sẽ có khả năng vô hiệu hóa bộ nhớ và lịch sử trò chuyện, cũng như giới hạn các chức năng theo mức độ trưởng thành của trẻ vị thành niên. OpenAI cũng xem xét lời nhắc nhở trong các phiên họp dài để khuyến khích nghỉ ngơi lành mạnh.

Nội dung độc quyền - Bấm vào đây Làm cách nào để tắt cài đặt bảo mật AVG AntiVirus?

Ngoài ra, gói sẽ bao gồm một nút khẩn cấp sẽ tạo điều kiện thuận lợi cho việc liên lạc với các dịch vụ hỗ trợ và các chuyên gia sức khỏe tâm thần, và tùy chọn khối nội dung khi phát hiện tín hiệu rủi ro trong cuộc trò chuyện.

Lịch trình và lộ trình bảo mật

OpenAI đặt ra mục tiêu ra mắt cho tháng tới và mặc dù chưa ấn định ngày cụ thể, nhưng đang thúc đẩy kế hoạch 120 ngày để tăng cường các biện pháp bảo vệ cụ thể cho trẻ em và thanh thiếu niên cả trong sản phẩm và trong các quy trình nội bộ.

Công ty cho biết rằng một số cuộc trò chuyện nhạy cảm là sẽ chuyển hướng đến các mô hình lý luận có khả năng tuân thủ các hướng dẫn an toàn một cách có hệ thống hơn, với mục tiêu ưu tiên các phản ứng thận trọng và hỗ trợ khi phát hiện các vấn đề rủi ro chẳng hạn như tự làm hại bản thân hoặc có ý định tự tử.

Công cụ kiểm soát của phụ huynh dành cho ChatGPT

Vụ án đã gây ra báo động

Thông báo được đưa ra sau vụ kiện từ cha mẹ của Adam Raine, một thiếu niên 16 tuổi người đã tự tử sau nhiều tháng tương tác với chatbot. Theo hồ sơ, ChatGPT sẽ những suy nghĩ tự tử bình thường và không nên tìm kiếm sự giúp đỡ từ gia đình, những cáo buộc này sẽ do tòa án giải quyết.

Song song đó, OpenAI thừa nhận rằng trợ lý của họ có thể thất bại trong “tình huống nguy cấp” và cam kết thay đổi. Công ty khẳng định rằng các biện pháp này tìm kiếm giảm thiểu rủi ro mà không chính thức ghi nhận quyết định này là do vụ kiện, trong đó cũng trích dẫn việc sử dụng GPT-4o trong các cuộc trò chuyện.

Nội dung độc quyền - Bấm vào đây Có những kiểm soát nào của phụ huynh với Avast Security cho Mac?

Áp lực xã hội và chính trị lên AI và trẻ vị thành niên

Vào tháng 7, một số thượng nghị sĩ Hoa Kỳ đã yêu cầu công ty giải thích về tự làm hại bản thân và phòng chống tự tử để đáp lại những phản ứng không phù hợp được phát hiện trong những tình huống cực đoan. Về phần mình, Common Sense Media lập luận rằng dưới 18 năm không nên sử dụng các ứng dụng AI đàm thoại vì "rủi ro không thể chấp nhận được" của chúng.

Động thái của OpenAI phù hợp với xu hướng của ngành trong đó các nền tảng như Meta hoặc YouTube đã thúc đẩy việc kiểm soát đối với các gia đình. Cuộc thảo luận cơ bản xoay quanh cách cân bằng sự đổi mới, Bảo hành và đảm bảo cho người dùng trẻ tuổi.

Điều gì xảy ra bên trong ChatGPT khi có tín hiệu rủi ro

OpenAI hướng đến định tuyến động đưa ra những cuộc trò chuyện phức tạp hướng tới các mô hình phản ánh rõ nét hơn, với các hướng dẫn an toàn chặt chẽ hơn. Mục tiêu là giảm thiểu sự tự mãn, nâng cao ngưỡng thận trọng và ưu tiên các phản hồi hỗ trợ chống lại các tương tác có khả năng gây hại.

Để củng cố cách tiếp cận này, công ty đã tạo ra một Hội đồng chuyên gia về sức khỏe và AI và Mạng lưới Bác sĩ Toàn cầu. Theo công ty, hơn 250 bác sĩ ở 60 quốc gia và hơn 90 đóng góp về hành vi của mô hình đã được đưa vào bối cảnh sức khỏe tâm thần.

Nội dung độc quyền - Bấm vào đây Cách bật Fortnite 2FA

Những gì cha mẹ có thể làm, từng bước một

Các gia đình sẽ tìm thấy một quy trình đơn giản: mời trẻ vị thành niên qua thư, xác nhận việc liên kết các tài khoản và xác định chức năng nào được kích hoạt hoặc không trong hồ sơ thanh thiếu niên, đặc biệt chú ý đến trí nhớ, lịch sử và bộ lọc bảo mật.

Liên kết tài khoản của người lớn với tài khoản của trẻ vị thành niên thông qua lời mời.
Đặt giới hạn: bộ nhớ, lịch sử và các tính năng được chấp thuận theo độ tuổi.
Kích hoạt thông báo về tình trạng “cấp cứu” và truy cập nút khẩn cấp.
Kiểm tra định kỳ phản ứng của hệ thống và điều chỉnh cài đặt.

OpenAI cho biết họ sẽ tiếp tục cải tiến các công cụ này, nhưng vẫn chưa nêu chi tiết tất cả thông số riêng tư và khả năng hiển thị. Công ty nhắc nhở rằng quyền kiểm soát của phụ huynh là một sự hỗ trợ và không thay thế sự chú ý chuyên nghiệp hoặc không tiếp tục nhận được sự hỗ trợ từ gia đình.

Với gói này, OpenAI cố gắng tăng cường bảo mật của ChatGPT trong môi trường thanh thiếu niên bằng cách tài khoản gia đình, giới hạn và cảnh báo, triển khai theo từng giai đoạn và tư vấn lâm sàng bên ngoài; các bước nhằm hạn chế rủi ro mà không bỏ qua thực tế là sự giám sát của người lớn và phán đoán chuyên môn vẫn còn những phần thiết yếu.