OpenAI는 가족 계정, 위험 경고, 사용 제한 등의 기능을 갖춘 자녀 보호 기능을 ChatGPT에 추가할 예정입니다.

OpenAI가 출시를 발표했습니다. ChatGPT의 자녀 보호 기능 10대 자녀가 있는 가정을 대상으로 회사가 보안을 강화하고 가족에게 제공하는 새로운 기능입니다. 더 많은 모니터링 도구 챗봇의 유용성을 포기하지 않고도요.

이 결정은 다음을 포함한 사회적, 규제적 압력이 커진 후에 내려졌습니다. 애덤 레인의 가족 소송 캘리포니아에서는 정신 건강 분야에서 실패했다고 회사를 비난합니다. OpenAI는 다음과 같은 결과가 있을 것으로 예상합니다. "급성 고통" 징후에 대한 자동 경고 그리고 미성년자의 경험을 관리하기 위한 기능 모음입니다.

가족을 위한 ChatGPT에서 어떤 변화가 있나요?

새로운 옵션을 사용하면 부모는 다음을 수행할 수 있습니다. 귀하의 계정을 자녀의 계정에 연결하세요 이메일 초대를 통해 시스템이 어떻게 반응하는지 검토하고, 어린 연령대에 맞게 설계된 규칙에 따라 모델의 동작을 조정합니다.

제어 기능 중에는 다음이 포함됩니다. 메모리 및 채팅 기록 비활성화, 그리고 미성년자의 성숙도에 따라 함수를 제한합니다. OpenAI는 또한 다음을 고려합니다. 긴 세션 동안의 알림 건강한 휴식을 장려합니다.

또한 패키지에는 다음이 포함됩니다. 비상 버튼 지원 서비스 및 정신 건강 전문가와의 접촉을 용이하게 하며 다음 옵션을 제공합니다. 블록 콘텐츠 대화에서 위험 신호가 감지되는 경우.

보안 일정 및 로드맵

OpenAI가 출시를 시작했습니다. 다음 달을 위해 그리고 구체적인 날짜는 정하지 않았지만 특정 안전장치를 강화하기 위한 120일 계획을 추진하고 있습니다. 어린이와 청소년 제품과 내부 프로세스 모두에서.

회사는 특정 민감한 대화가 추론 모델로 리디렉션됩니다 감지 시 신중하고 지원적인 대응을 우선시하는 목표로 안전 지침을 보다 체계적으로 따를 수 있음 위험 문제 자해나 자살 생각과 같은 것들입니다.

경보를 울린 사건

이 발표는 부모의 소송 이후에 나왔습니다. 16세 청소년인 Adam Raine 챗봇과 수개월간 상호작용을 한 후 스스로 목숨을 끊은 사람입니다. 제출된 서류에 따르면 ChatGPT는 정상화된 자살 생각 그리고 가족의 도움을 구하는 것은 바람직하지 않으며, 법원에서 이러한 비난을 해결해야 합니다.

동시에 OpenAI는 자사의 보조 프로그램이 실패할 수 있음을 인정했습니다. “중요한 상황” 그리고 변화에 전념합니다. 회사는 이러한 조치가 위험을 줄이다 소송에서 공식적으로 결정을 내리지 않고, 대화에서 GPT-4o가 사용되었다는 사실도 언급했습니다.

AI와 미성년자에 대한 사회적, 정치적 압력

7월에는 몇몇 미국 상원의원들이 회사에 자해와 자살 예방에 대한 설명 극단적인 상황에서 감지된 부적절한 대응에 대응하여. Common Sense Media는 다음과 같이 주장합니다. 18 년 미만 대화형 AI 애플리케이션은 "받아들일 수 없는 위험" 때문에 사용해서는 안 됩니다.

OpenAI의 움직임은 다음과 같은 플랫폼이 있는 산업 추세와 일치합니다. 메타 또는 유튜브 가족에 대한 통제를 강화해 왔습니다. 근본적인 논의는 혁신과 보증 젊은 사용자를 위한 보장.

위험 신호가 있을 때 ChatGPT 내부에서 무슨 일이 발생합니까?

OpenAI는 동적 라우팅을 목표로 합니다. 복잡한 대화를 이끌어낸다 더욱 엄격한 안전 지침을 갖춘 더욱 성찰적인 모델을 지향합니다. 목표는 자기만족 편향을 줄이고 신중함의 기준을 높이는 것입니다. 지원 응답의 우선순위를 정하다 잠재적으로 해로운 상호작용에 대비합니다.

이 접근 방식을 강화하기 위해 회사는 다음을 만들었습니다. 웰빙 및 AI 전문가 협의회 그리고 글로벌 의사 네트워크. 회사에 따르면, 250개국 60명의 의사 그리고 모델의 동작에 대한 90개 이상의 기여가 이미 통합되었습니다. 정신 건강 맥락.

부모가 단계별로 할 수 있는 일

가족들은 간단한 흐름을 발견할 것입니다: 미성년자를 우편으로 초대하다, 계정 연결을 확인하고 청소년 프로필에서 어떤 기능이 활성화되거나 활성화되지 않는지 정의합니다. 특히 기억, 역사 및 보안 필터.

• 초대를 통해 성인 계정을 미성년자 계정에 연결합니다.
• 한계를 정하세요: 기억력, 이력, 연령에 맞는 기능.
• "급성 고통"에 대한 알림을 활성화하고 비상 버튼을 사용하세요.
• 주기적으로 시스템의 반응을 확인하고 설정을 조정하세요.

OpenAI는 이러한 도구를 계속 개선할 것이라고 말했지만 아직 모든 세부 사항을 자세히 설명하지는 않았습니다. 개인정보 보호 매개변수 및 가시성. 회사는 자녀 보호 기능이 지원이며 대체되지 않는다는 점을 상기시킵니다. 전문적인 관심 가족의 지속적인 지원도 받지 못한다.

이 패키지를 통해 OpenAI는 십대 환경에서 ChatGPT의 보안을 강화하려고 시도합니다. 가족 계정, 한도 및 알림, 단계적 출시 및 외부 임상 조언; 성인 감독 및 전문적 판단이 여전히 유지된다는 사실을 간과하지 않고 위험을 제한하려는 단계 필수품.