- SB 243 では、チャットボットに自身の身元を明かし、定期的にリマインダーを提供することが義務付けられており、未成年者には 3 時間ごとに通知が送られます。
- 未成年者との性行為や自傷行為に関する話し合いは制限され、危機対応プロトコルが発動されます。
- プラットフォームは、自殺念慮の兆候を州の自殺予防局に報告しなければなりません。
- このパッケージには、リスク、ディープフェイク、責任に関するカリフォルニア州のその他の AI 規制も含まれています。
カリフォルニア州は人工知能の監督において決定的な一歩を踏み出した。 このルールは、友情や親密さをシミュレートする、いわゆる「コンパニオン チャットボット」に焦点を当てています。 ギャビン・ニューサム知事がSB243に署名これらのツールが自動化システムであることを識別し、相互作用する際に特定の安全対策を採用することを要求する法律である。 未成年者ユーザー.
州上院議員スティーブ・パディラが提案したこの法案は、技術的なアーキテクチャよりも、 人間と機械の間の感情的なインターフェース業界からの圧力を受けて制限が厳しくなった最終版でも、主要な義務は維持されています。 AIと話していることを定期的に知らせるリマインダー、年齢に応じたコンテンツフィルター、応答プロトコル 自傷行為や自殺の兆候.
SB 243 では具体的に何が求められているのでしょうか?
標準規格の中核は、チャットボットが明確に繰り返し警告することを求めている。 IAソフトウェア未成年のユーザーの場合、システムは、非人間的なやり取りの性質に関する混乱を避けるために、少なくとも 3 時間ごとに、目に見えてわかりやすい方法でリマインダーを表示する必要があります。
さらに、事業者は コンテンツフィルターと年齢制限未成年者との会話では、露骨な性的な内容や、自傷行為を正常化または助長するようなやり取りは避けます。これらの障壁が発見された場合は、危機対応サービスへの紹介によって補完されます。 リスク指標.
La 法律では、プラットフォームに早期検出および対応プロトコルを確立することを義務付けています。、また、自殺念慮が確認された症例の報告も 自殺予防局 カリフォルニアのこれにより、保健当局との連携を強化し、これらのツールがメンタルヘルスに与える影響に関する指標を組み込むことが目的です。
これらの安全策を維持するために、 企業は、州の居住者を対象としたサービスにおいて、合理的な年齢確認メカニズムを実装する必要があります。この要件は、カリフォルニア州で運営されているゲーム プラットフォームや分散型オプションを含む、コンパニオン チャットボットを提供するソーシャル ネットワーク、Web サイト、アプリに適用されます。
SB243の最終版では、以前の草案で検討されていた第三者による監査とすべてのユーザー（未成年者だけでなく）向けのアプリが削除された。この削除にもかかわらず、ニューサム知事は法案を擁護した。 貯留ダム 予防可能な損害に対する保護を目的とした条約で、2026年1月に発効が予定されている。
州におけるAI関連法のより広範なパッケージ
SB 243 は、大規模な AI 開発者に AI 戦略の公開を義務付ける SB 53 など、最近可決された他の法案と並行して施行されます。 セキュリティとリスク軽減すでに大規模な社会的影響を与えている先進的なモデルの透明性を向上させることが目標です。
同時に、企業が技術の欠陥を主張して責任を回避することを防ぐための対策も推進されている。 「自律的に行動する」合意のない性的ディープフェイクに対する罰則も強化され、未成年者が被害者となった場合の罰金は大幅に増加した。
このパッケージには、チャットボットがなりすましをするのを防ぐための制限も含まれている。 健康の専門家 権威者や権力者を欺くような行為は、脆弱なユーザーを誤解させる可能性がある。サクラメントはこれらの資料を用いて、イノベーション、権利、そして 公安.
支持、批判、そしてその範囲に関する疑問
この規格は画期的であると称賛される一方で、不十分であるとの批判も受けている。 コモン・センス・メディア また、テック監視プロジェクトは、外部監査を廃止し、その対象を未成年者に限定した後に支持を撤回したが、これにより、現在のリスクに直面するとこの法律は不十分な措置になる可能性があると警告している。
一方、開発者や専門家は、 不釣り合いな責任 これは「予防的ブロック」につながる可能性がある。これは、メンタルヘルスや性教育に関する正当な会話を封じ込めるほど厳しいフィルターであり、オンラインで助けを求める十代の若者から重要なサポートを奪うことになる。
政治的、経済的圧力は強まっています。 テクノロジー団体や業界連合は、会期中に最も厳しい文書を緩和するためのロビー活動に数百万ドルを投じた。同時に、州検察庁と FTC 未成年者をターゲットにしたチャットボットの実践に対する監視を引き起こした。 民事訴訟 被害を受けた家族からの苦情。
最近の訴訟事例 Character.AIやOpenAIのようなプラットフォームは、公的な議論をエスカレートさせている。告発後、 MetaやOpenAIなどの主要プレーヤーが変更を発表: 10 代の若者との不適切な会話をブロックし、専門リソースに紹介するほか、新しいペアレンタル コントロールも提供します。
実施上の課題と予測される影響
この立ち上げは運用上の課題を伴います。グローバルプラットフォームは、誰が カリフォルニア州在住の未成年者 プライバシーを侵害することなく、何百万もの毎日のやり取りを監視できますが、これは技術的にも法的にも複雑な作業です。
もう一つの課題は、過剰な検閲への「トリクル効果」を避けることだ。企業が制裁を恐れれば、撤退する可能性がある。 役に立つコンテンツ 純粋な慎重さから、感情的な幸福が優先される。保護と信頼できる情報へのアクセスのバランスを見つけることが、規制の成功を評価する鍵となるだろう。
全国的な影響の問題も残っている。カリフォルニア州の他の初期の規制と同様に、その要件は事実上 estándar 有効性の確固たる証拠が得られるようになる前から、米国全土の事業者にとって、
最終的な文章は当初の提案よりも範囲が狭くなっていますが、 SB 243は「コンパニオンチャットボット」に関する前例のない規則を定める明確な警告、年齢制限、機関報告による危機管理手順。 最小限の障壁 正当な支援を抑圧することなく未成年者を保護することができれば、カリフォルニア州は他の州が追随できる中道を切り開くことになるだろう。
私はテクノロジー愛好家であり、その「オタク」の興味を職業に変えています。私は 10 年以上、純粋な好奇心から最先端のテクノロジーを使用し、あらゆる種類のプログラムをいじくり回してきました。現在はコンピューター技術とビデオゲームを専門にしています。これは、私が 5 年以上、テクノロジーやビデオ ゲームに関するさまざまな Web サイトに執筆し、誰にでも理解できる言語で必要な情報を提供することを目的とした記事を作成しているためです。
ご質問がございましたら、私の知識は Windows オペレーティング システムから携帯電話用の Android に関連するあらゆるものまで多岐にわたります。そして、私はあなたに対して、いつでも喜んで数分を費やして、このインターネットの世界であなたが抱いている疑問を解決するお手伝いをしたいと考えています。