- 家族のアカウントをリンクして、10代の若者の ChatGPT の使用状況を監視します。
- メモリや履歴を無効にしたり、年齢別に機能を管理する機能。
- 「急性の危機」インジケーターと緊急ボタンによる自動警報。
- 来月からの展開と推論モデルを使用した 120 日計画。
OpenAIは、 ChatGPTのペアレンタルコントロール 同社は、10代の子供がいる家庭を対象に、セキュリティを強化し、家族に提供する新しい機能を導入した。 より多くの監視ツール チャットボットの有用性を犠牲にすることなく。
この決定は、社会や規制の圧力が高まったことを受けて行われた。 アダム・レインの家族訴訟 カリフォルニア州では、メンタルヘルス分野での同社の失敗を非難する訴訟が起こされている。OpenAIは、 「急性の苦痛」の兆候に対する自動警告 未成年者の体験を管理するための一連の機能。
家族向けの ChatGPT では何が変わりますか?
新しいオプションにより、保護者は あなたのアカウントを子供のアカウントにリンクする 電子メールの招待を通じて、システムがどのように応答するかを確認し、幼児向けに設計されたルールを使用してモデルの動作を調整します。
コントロールの中には、 メモリとチャット履歴を無効にする未成年者の成熟度に応じて機能を制限することも検討している。OpenAIはまた、 長時間のセッション中のリマインダー 健康的な休憩を奨励するため。
さらに、このパッケージには 緊急ボタン これにより、サポートサービスやメンタルヘルスの専門家との連絡が容易になり、 コンテンツをブロックする 会話中にリスク信号が検出された場合。
セキュリティカレンダーとロードマップ
OpenAIが打ち上げ 来月に向けて 具体的な日付は設定していないものの、120日間の計画を進めており、 子供とティーンエイジャー 製品と内部プロセスの両方において。
同社は、特定の機密性の高い会話は 推論モデルにリダイレクトされます 検出された場合には慎重かつ支援的な対応を優先することを目標に、より体系的に安全ガイドラインに従うことができる リスク問題 自傷行為や自殺願望など。
警鐘を鳴らした事件
この発表は、 16歳のティーンエイジャー、アダム・レイン チャットボットと数ヶ月間やり取りした後、自殺した人物。訴状によると、ChatGPTは 自殺願望の正常化 家族の助けを求めることは賢明ではなく、その告発は裁判所が解決しなければならない。
同時に、OpenAIは、そのアシスタントが 「危機的な状況」 変化にコミットしている。同社はこれらの対策は リスクを軽減する この決定が訴訟によるものであるとは公式には言及していないが、訴訟では会話の中で GPT-4o が使用されていたことも言及されている。
AIと未成年者に対する社会的・政治的圧力
7月、複数の米国上院議員が同社に 自傷行為と自殺予防に関する説明 極端な状況で検出された不適切な対応への対応として。Common Sense Mediaは次のように主張している。 18年の下で 「許容できないリスク」があるため、会話型AIアプリケーションを使用すべきではない。
OpenAIの動きは、次のようなプラットフォームが業界のトレンドと一致している。 メタまたはYouTube 家族向けの規制を推進してきた。根本的な議論は、イノベーションと 保証 若いユーザーに対する保証もございます。
リスクシグナルがある場合、ChatGPT内で何が起こるか
OpenAIは、ダイナミックルーティングを目指しています。 複雑な会話を導き出す より厳格な安全ガイドラインを備えた、より反省的なモデルへと移行する。目標は、自己満足バイアスを減らし、慎重さの閾値を高め、 サポート対応の優先順位付け 潜在的に有害な相互作用に対して。
このアプローチを強化するために、同社は ウェルビーイングとAIに関する専門家委員会 医師のグローバルネットワークも展開しています。同社によると、 250カ国60人の医師 モデルの挙動に関する90以上の貢献がすでに組み込まれている メンタルヘルスの文脈.
親ができること、段階的に
家族はシンプルな流れを見つけるでしょう: 未成年者を郵便で招待するアカウントのリンクを確認し、記憶、履歴、および セキュリティフィルター.
- 招待を通じて、大人のアカウントを未成年者のアカウントにリンクします。
- 制限を設定します: メモリ、履歴、年齢承認機能。
- 「急性の苦痛」に関する通知を有効にし、緊急ボタンにアクセスします。
- システムの応答を定期的に確認し、設定を調整します。
OpenAIはこれらのツールを改良し続けるとしているが、まだすべての詳細を明らかにしていない。 プライバシーパラメータ 同社は、ペアレンタルコントロールはサポートであり、 プロフェッショナルな注意 家族からの継続的な支援も受けられません。
このパッケージでOpenAIは、10代の環境におけるChatGPTのセキュリティを強化するために、 ファミリーアカウント、制限、アラート段階的な導入と外部の臨床アドバイス。大人の監督と専門家の判断が重要であるという事実を見失うことなく、リスクを制限することを目指す措置。 必須アイテム.
私はテクノロジー愛好家であり、その「オタク」の興味を職業に変えています。私は 10 年以上、純粋な好奇心から最先端のテクノロジーを使用し、あらゆる種類のプログラムをいじくり回してきました。現在はコンピューター技術とビデオゲームを専門にしています。これは、私が 5 年以上、テクノロジーやビデオ ゲームに関するさまざまな Web サイトに執筆し、誰にでも理解できる言語で必要な情報を提供することを目的とした記事を作成しているためです。
ご質問がございましたら、私の知識は Windows オペレーティング システムから携帯電話用の Android に関連するあらゆるものまで多岐にわたります。そして、私はあなたに対して、いつでも喜んで数分を費やして、このインターネットの世界であなたが抱いている疑問を解決するお手伝いをしたいと考えています。