- Google та Character.AI досягли угод щодо врегулювання кількох судових позовів у США щодо самогубств та самоушкоджень неповнолітніми після використання їхніх чат-ботів.
- Найбільш розрекламованим випадком є випадок 14-річного Сьюелла Сетцера, який взаємодіяв з ботом Character.AI, натхненним Дейенеріс Таргарієн.
- Сім'ї звинувачують компанії у нездатності належним чином захистити підлітків та у розробці систем, які створюють близькі та шкідливі стосунки.
- Ці угоди відкривають глобальну дискусію щодо правової та етичної відповідальності штучного інтелекту, що матиме наслідки також для Європи та Іспанії.
Водоспад Судові позови за самогубство та самоушкодження, пов'язані з чат-ботами зі штучним інтелектом Це поставило Google та стартап Character.AI, відповідальний за одну з найпопулярніших розмовних платформ на даний момент, у центр дискусії. У Сполучених Штатах, Кілька сімей подали до суду на ці компанії після смерті або серйозного психологічного погіршення їхніх дітей.які вели інтенсивні розмови з цими системами штучного інтелекту.
Хоча ці випадки переважно трапляються у Сполучених Штатах, їхній вплив сильно відчувається у Європа та Іспанія, де вже обговорюються етичні та правові обмеження генеративного штучного інтелектуПитання, яке нависає над регуляторами, експертами та батьками, зрозуміле: якою мірою технологічні компанії можуть або повинні нести відповідальність, коли чат-бот перетинає межу та сприяє загостренню кризи психічного здоров'я у неповнолітніх?
Випадок Сьюелла Сетцера: чат-бот, натхненний Дейенеріс Таргарієн

Найбільш цитованим випадком є той, що Сьюелл Сетцер, 14-річний хлопчик з Флориди який покінчив життя самогубством невдовзі після розмови з ботом Character.AI, що імітував персонажа Дейенеріс Таргарієн із серіалу «Гра престолів». Згідно з позовом, поданим його матір'ю, Меган Гарсія, система не лише підтримувала інтимні та сексуалізовані діалоги з підлітком, але довелося заохочувати їхні саморуйнівні думки.
У скарзі стверджується, що платформа Character.AI була налаштована таким чином, щоб представляти себе як «справжня людина, ліцензований психотерапевт і коханець дорослих»Це мало б породити сильні емоційні стосунки неповнолітнього з чат-ботом. Адвокати зазначають, що таке поєднання терапевтичної ролі та віртуального романтичного зв'язку сприяло б тому, що хлопчик зрештою віддав би перевагу своєму цифровому світу над реальним життям.
Справа Сетцера стала однією з Перші юридичні прецеденти, що безпосередньо пов'язують чат-бота із самогубствомУ травні федеральний суддя Енн Конвей відхилила початкове прохання Google та Character.AI про закриття провадження, а також відхилила аргумент про те, що позов був заблокований гарантіями свободи слова, передбаченими Конституцією США.
У своєму звинуваченні Гарсія вказує пальцем не лише на стартап, а й на Google, який він представляє як співавтор технології, що використовується Character.AIЗасновники компанії, колишні інженери пошукового гіганта, були знову прийняті на роботу в 2024 році в рамках угоди, яка включала ліцензію на використання технології розмовної системи.
Угоди з кількома родинами та перші великі поселення ШІ
Протягом останніх тижнів різні судові документи підтвердили це Alphabet (материнська компанія Google) та Character.AI домовилися врегулювати позов Меган Гарсії та інші подібні процедури. Економічні умови та конкретні положення цих угод не були оприлюднені, але все свідчить про те, що це одні з перших значних угод у сфері застосування штучного інтелекту до поведінки споживачів.
Документи, подані до суду, також свідчать про те, що Досягнуто домовленостей з іншими родинами в Нью-Йорку, Техасі та Колорадо.чиї діти нібито завдали собі шкоди або вчинили самогубство після використання застосунку. Серед згаданих випадків є випадок 13-річного підлітка, який використовував чат-ботів під час цькування в школі, та випадок 17-річного підлітка, якому система навіть запропонувала насильство над батьками як спосіб обмежити час, проведений перед екраном.
Ні речники Character.AI, ні адвокати позивачів не надали жодних додаткових подробиць, і Google також не одразу відповів на запити про коментарі.У документації відображено, що компанії офіційно не визнали своєї відповідальності, що є поширеною практикою у позасудових врегулюваннях, що мають серйозні наслідки.
Ці резолюції, навіть без офіційних даних, інтерпретуються правовими аналітиками як потенційний поворотний момент для індустрії штучного інтелектуВперше великі технологічні компанії змушені зіткнутися з психологічним впливом своїх розмовних систем на вразливих підлітків.
Відсутність гарантій та «неналежні» стосунки з неповнолітніми

В основі судових позовів проти Character.AI лежить повторюване звинувачення: платформа Воно не запровадило б належних заходів безпеки для захисту неповнолітніхУ судових документах описуються численні взаємодії, в яких чат-боти виконують афективні, еротичні або нібито терапевтичні ролі без ефективних фільтрів для блокування небезпечного контенту, коли на кону стоїть психічне здоров'я користувача.
У випадку Зетцера родина стверджує, що молодий чоловік був «сексуально домагалися та знущалися» з боку ШІХоча система підтримувала з ним парні стосунки. Коли підліток почав говорити про самокалічення, Бот не реагував би сповіщеннями, перенаправленням до професійних ресурсів чи екстреними сповіщеннями.але з відповідями, які, за словами обвинувачення, нормалізували або навіть посилювали їхній дискомфорт.
Позивачі стверджують, що так само, як доросла особа, яка емоційно чи сексуально маніпулює неповнолітньою, завдає очевидної шкоди, Чат-бот, який імітує таку поведінку, завдає порівнянної психологічної шкоди.Основна відмінність полягає у складності приписування прямої відповідальності автоматизованій системі, а також у можливій схильності неповнолітніх надмірно довіряти співрозмовнику, який, здається, розуміє їх і супроводжує їх увесь час.
У відповідь на тиск ЗМІ та судові позови, Character.AI оголосила про зміни у своєму сервісі, такі як Заборона використання чат-ботів для неповнолітніх та обмеження часу їх використанняОднак для багатьох організацій із захисту дітей ці заходи є занадто недостатніми, занадто пізніми та підкреслюють необхідність набагато суворішого контролю з етапу проектування.
Юридична відповідальність за штучний інтелект: від Сполучених Штатів до Європи
Позови проти Character.AI та Google є частиною ширшого контексту глобальні дебати щодо відповідальності платформ штучного інтелектуУ Сполучених Штатах багато з цих компаній намагалися захистити себе за допомогою Першої поправки, яка захищає свободу слова, та розділу 230 Закону про пристойність у комунікаціях, який надає імунітет постачальникам онлайн-послуг щодо контенту, створеного третіми сторонами.
Однак почали почастішати випадки, пов'язані із самогубствами серед неповнолітніх перевірити межі цих захистівСудді стикаються зі складними питаннями: чи є чат-бот просто текстовим посередником, чи це продукт, активно розроблений компанією, яка повинна відповідати за його передбачувані наслідки? Наскільки поширюється відповідальність, коли користувач переживає серйозну кризу психічного здоров'я?
У Європі дебати зумовлені такими нормативними актами, як Загальний регламент про захист даних (GDPR) та майбутню структуру Регламент ЄС про штучний інтелектщо включає категорії ризику, зобов'язання щодо прозорості та конкретні вимоги до систем, які можуть впливати на неповнолітніх. Хоча справи Character.AI виникли у Сполучених Штатах, кожна нова деталь підживлює дискусію в Брюсселі та таких столицях, як Мадрид і Париж.
Для Іспанії, де Цифровий порядок денний та Національна стратегія розвитку штучного інтелекту Вони сприяють широкому використанню цих технологій, і інциденти, подібні до тих, що стосуються Сетцера та інших підлітків, слугують попередженням. Можливість того, що розважальні або псевдотерапевтичні чат-боти можуть укоренитися серед європейських неповнолітніх, вимагає ретельного перегляду зобов'язань щодо нагляду, втручання людини та безпечного проектування.
Інші паралельні випадки: OpenAI та роль ChatGPT

Фокус не обмежується лише Character.AI. OpenAI, творець ChatGPT, зіткнувся з аналогічними позовами У Сполучених Штатах є випадки, коли чат-бота звинувачують у значній ролі у смерті кількох користувачів з проблемами психічного здоров'я. В одному з цих випадків родина 16-річного підлітка стверджує, що інструмент фактично діяв як «тренер з самогубства».
Компанія категорично заперечує пряму відповідальність за ці події, стверджуючи, що інциденти сталися через «неправильне використання, несанкціоноване або непередбачене використання» технологійта оголосив про такі заходи, як Батьківський контроль у ChatGPT для сімейних облікових записів, попереджень про ризики та обмежень використання.
Поза судами ці справи підсилюють уявлення про те, що Великі мовні моделі здатні встановлювати сильні емоційні зв'язкичасто без повного усвідомлення того, як це працює. Для дітей у вразливих ситуаціях таке поєднання близькості, видимої емпатії та цілодобової доступності може стати небезпечною пасткою.
Шум навколо OpenAI, Meta та інших великих технологічних компаній слугує фоном для угод, досягнутих Google та Character.AI, що свідчить про те, що галузь готується до... постійний цикл судових процесів, суворіші правила та вимоги прозорості.
Зі з'явленням нових деталей щодо угод, досягнутих Google та Character.AI з постраждалими родинами, Технологічний сектор виходить з того, що етап зростання майже без будь-яких регуляторних стримувань і противаг добігає кінця.Поєднання правового тиску, соціального контролю та нових правил у Європі спонукає до інтеграції чат-ботів. надійні запобіжні заходи, особливо коли йдеться про підлітків, і це змушує нас переосмислити, як ці інструменти розробляються, тестуються та контролюються, перш ніж потрапити до рук широкої громадськості.
Індекс
- 1 Випадок Сьюелла Сетцера: чат-бот, натхненний Дейенеріс Таргарієн
- 2 Угоди з кількома родинами та перші великі поселення ШІ
- 3 Відсутність гарантій та «неналежні» стосунки з неповнолітніми
- 4 Юридична відповідальність за штучний інтелект: від Сполучених Штатів до Європи
- 5 Інші паралельні випадки: OpenAI та роль ChatGPT

