- Verknüpfen von Familienkonten, um die Nutzung von ChatGPT durch Jugendliche zu überwachen
- Möglichkeit, Speicher und Verlauf zu deaktivieren und Funktionen nach Alter zu verwalten.
- Automatische Warnmeldungen bei „akuter Notlage“ und Notruftaste.
- Bereitstellung ab nächstem Monat und 120-Tage-Plan mit Argumentationsmodellen.
OpenAI hat die Ankunft eines Kindersicherung in ChatGPT richtet sich an Haushalte mit Teenagern, eine neue Funktion, mit der das Unternehmen die Sicherheit erhöhen und Familien bieten möchte weitere Überwachungstools ohne auf die Nützlichkeit des Chatbots zu verzichten.
Die Entscheidung erfolgte nach wachsendem gesellschaftlichen und regulatorischen Druck, darunter Klage der Familie von Adam Raine in Kalifornien, die dem Unternehmen Versäumnisse im Bereich der psychischen Gesundheit vorwirft. OpenAI geht davon aus, dass es automatische Warnungen bei Anzeichen von „akuter Not“ und eine Reihe von Funktionen zur Verwaltung der Erfahrungen von Minderjährigen.
Was ändert sich in ChatGPT für Familien?
Mit den neuen Optionen können Eltern Verknüpfen Sie Ihr Konto mit den Konten Ihrer Kinder Überprüfen Sie durch eine E-Mail-Einladung, wie das System reagiert, und passen Sie das Verhalten des Modells mit Regeln an, die für jüngere Altersgruppen entwickelt wurden.
Zu den Steuerelementen gehört die Möglichkeit, Speicher und Chatverlauf deaktivieren, sowie die Einschränkung von Funktionen entsprechend dem Reifegrad des Minderjährigen. OpenAI erwägt auch Erinnerungen während langer Sitzungen um gesunde Pausen zu fördern.
Darüber hinaus enthält das Paket eine Notruftaste Dies erleichtert den Kontakt mit Unterstützungsdiensten und Fachleuten für psychische Gesundheit und bietet die Möglichkeit, Inhalt blockieren wenn in einem Gespräch Risikosignale erkannt werden.
Sicherheitskalender und Roadmap
OpenAI platziert den Start für nächsten Monat und obwohl noch kein konkretes Datum festgelegt wurde, wird ein 120-Tage-Plan zur Verstärkung spezifischer Schutzmaßnahmen für Kinder und Jugendliche sowohl im Produkt als auch in den internen Prozessen.
Das Unternehmen weist darauf hin, dass bestimmte sensible Gespräche wird zu Argumentationsmodellen weitergeleitet in der Lage, Sicherheitsrichtlinien systematischer zu befolgen, mit dem Ziel, vorsichtige und unterstützende Reaktionen zu priorisieren, wenn sie erkannt werden Risikoprobleme wie Selbstverletzung oder Selbstmordgedanken.
Der Fall, der die Alarme ausgelöst hat
Die Ankündigung erfolgte nach einer Klage der Eltern von Adam Raine, ein 16-jähriger Teenager der sich nach monatelanger Interaktion mit dem Chatbot das Leben nahm. Laut der Akte hätte ChatGPT normalisierte Selbstmordgedanken und es ist nicht ratsam, die Hilfe der Familie in Anspruch zu nehmen, da diese Vorwürfe vor Gericht geklärt werden müssen.
Parallel dazu räumte OpenAI ein, dass sein Assistent möglicherweise versagen könnte bei „kritische Situationen“ und sich zu Veränderungen verpflichtet. Das Unternehmen betont, dass diese Maßnahmen Risiken reduzieren ohne die Entscheidung offiziell der Klage zuzuschreiben, in der auch die Verwendung von GPT-4o in den Gesprächen erwähnt wird.
Sozialer und politischer Druck auf KI und Minderjährige
Im Juli forderten mehrere US-Senatoren das Unternehmen auf Erklärungen zur Selbstverletzung und Suizidprävention als Reaktion auf unangemessene Reaktionen, die in Extremsituationen erkannt wurden. Common Sense Media argumentiert seinerseits, dass unter 18 Jahren sollten aufgrund der „inakzeptablen Risiken“ keine Konversations-KI-Anwendungen verwenden.
Der Schritt von OpenAI entspricht einem Branchentrend, in dem Plattformen wie Meta oder YouTube haben sich für Kontrollen für Familien eingesetzt. Die zugrunde liegende Diskussion dreht sich um die Frage, wie Innovation, Garantie und Garantien für junge Benutzer.
Was passiert in ChatGPT, wenn Risikosignale vorliegen?
OpenAI zielt auf dynamisches Routing ab, das leitet komplexe Gespräche ab hin zu reflektierteren Modellen mit strengeren Sicherheitsrichtlinien. Ziel ist es, den Selbstgefälligkeitsbias zu reduzieren, die Vorsichtsschwelle zu erhöhen und Priorisieren Sie Support-Antworten vor potenziell schädlichen Wechselwirkungen.
Um diesen Ansatz zu festigen, hat das Unternehmen eine Expertenrat für Wohlbefinden und KI und ein globales Netzwerk von Ärzten. Nach Angaben des Unternehmens mehr als 250 Ärzte in 60 Ländern und mehr als 90 Beiträge zum Verhalten des Modells wurden bereits eingearbeitet Kontexte der psychischen Gesundheit.
Was Eltern Schritt für Schritt tun können
Familien finden einen einfachen Ablauf: laden Sie den Minderjährigen per Post ein, bestätigen Sie die Verknüpfung von Konten und definieren Sie, welche Funktionen im Jugendprofil aktiviert sind oder nicht, mit besonderem Augenmerk auf Speicher, Verlauf und Sicherheitsfilter.
- Verknüpfen Sie das Konto des Erwachsenen per Einladung mit dem Konto des Minderjährigen.
- Grenzen setzen: Speicher, Verlauf und altersgerechte Funktionen.
- Aktivieren Sie Benachrichtigungen bei „akuter Notlage“ und den Zugriff auf den Notrufknopf.
- Überprüfen Sie regelmäßig, wie das System reagiert, und passen Sie die Einstellungen an.
OpenAI sagt, dass es diese Tools weiter verfeinern wird, hat aber noch nicht alle Details Datenschutzparameter und Sichtbarkeit. Das Unternehmen erinnert daran, dass die Kindersicherung eine Unterstützung ist und nicht die professionelle Aufmerksamkeit noch weitere Unterstützung durch die Familie.
Mit diesem Paket versucht OpenAI, die Sicherheit von ChatGPT im Teenager-Umfeld zu stärken, indem Familienkonten, Limits und Warnungen, eine schrittweise Einführung und externe klinische Beratung; Schritte, die darauf abzielen, Risiken zu begrenzen, ohne die Tatsache aus den Augen zu verlieren, dass die Aufsicht durch Erwachsene und das professionelle Urteilsvermögen weiterhin wesentliche Stücke.
Ich bin ein Technik-Enthusiast, der seine „Geek“-Interessen zum Beruf gemacht hat. Ich habe mehr als 10 Jahre meines Lebens damit verbracht, modernste Technologie zu nutzen und aus purer Neugier an allen möglichen Programmen herumzubasteln. Mittlerweile habe ich mich auf Computertechnik und Videospiele spezialisiert. Das liegt daran, dass ich seit mehr als fünf Jahren für verschiedene Websites zum Thema Technologie und Videospiele schreibe und Artikel erstelle, die Ihnen die Informationen, die Sie benötigen, in einer für jeden verständlichen Sprache vermitteln möchten.
Bei Fragen reicht mein Wissen von allem rund um das Windows-Betriebssystem bis hin zu Android für Mobiltelefone. Und mein Engagement gilt Ihnen, ich bin immer bereit, ein paar Minuten zu investieren und Ihnen bei der Lösung aller Fragen in dieser Internetwelt zu helfen.