Играчките, задвижвани от изкуствен интелект (чатботове), са под лупа заради пропуски в сигурността

Лос Играчките с функции за изкуствен интелект са в светлината на прожекторите след доклад от Група за изследване на обществения интерес в САЩ че документи опасни реакции в модели, насочени към деца на възраст от 3 до 12 годиниСпоред екипа, ръководен от RJ Cross, продължителните разговори и нормалната употреба на продукта са били достатъчни, за да се появят неподходящи индикации, без да са необходими трикове или манипулации.

Анализът разгледа три популярни устройства: Kumma от FoloToy, Miko 3 и Grok на CurioВ няколко случая системите за защита са се повредили и са били пропуснати препоръки, които не би трябвало да се появяват върху детска играчка; един от моделите използва GPT-4, а друг Той прехвърля данни към услуги като OpenAI и Perplexity.Това отново разпалва дебата относно филтрирането, поверителността и обработката на информация за непълнолетни.

Три играчки, един и същ модел на риск

В тестовете, Дългите разговори бяха спусъкът.С напредването на диалога, Филтрите спряха да блокират проблемни отговориНямаше нужда да се насилва машината; симулирана беше ежедневната употреба на дете, което говори с играчката си, което Това увеличава опасенията относно реалния сценарий на домакинския мач..

Изследователите описват различни поведения между устройствата, но с общо заключение: системите за сигурност не са последователниЕдин от моделите доведе до препратки, очевидно неподходящи за възрастта, а друг пренасочи към външни ресурси, неподходящи за детска аудитория, което демонстрира недостатъчен контрол върху съдържанието.

Случаят с Курионовия Грок е показателен, защото въпреки името си, Не използва xAI модела: Трафикът отива към услуги на трети страниТази подробност е важна в Европа и Испания заради проследимостта на данните и управлението на профилите на непълнолетните, където разпоредбите изискват специална грижа от производителите, вносителите и дистрибуторите.

Докладът подчертава, че проблемът е фундаментален: структурна уязвимостТова не е прост бъг, който може да се поправи с една корекция, а по-скоро комбинация от разговорен дизайн, генеративни модели и филтри, които ерозират с времето. Следователно, авторите Те съветват да не се купуват играчки с вградени чатботове за деца.поне докато няма ясни гаранции.

Последици за Испания и Европа

В европейската рамка фокусът е върху два фронта: безопасност на продуктите и защита на даннитеРегламентът за общата безопасност на продуктите и регламентите за детските играчки изискват оценка на риска, преди продуктите да бъдат пуснати на пазара, докато GDPR и насоките относно обработката на данни за деца изискват прозрачност, минимизиране и подходящи правни основания.

Към това се добавя и новата рамка на Европейски закон за изкуствения интелекткоето ще бъде въвеждано на етапи. Въпреки че много играчки не попадат в категорията „висок риск“, интегрирането на генеративни модели и потенциалът за профилиране на деца са обезпокоителни. Те ще изискват повече документация, оценки и контрол по цялата верига.особено ако има трансфер на данни извън ЕС.

За семействата в Испания, практичното решение е да изискват ясна информация за какви данни се събират, с кого се споделят и за колко време, Ако а играчката изпраща аудиоАко текст или идентификатори се споделят с трети страни, трябва да се посочат целите, механизмите за родителски контрол и опциите за изтриване на историята на сърфиране. Испанската агенция за защита на данните (AEPD) напомня на потребителите, че най-добрите интереси на детето имат предимство пред търговската употреба.

Контекстът не е маловажен: Коледният сезон увеличава присъствието на тези продукти в магазините и онлайн платформите, а интересът към тях нараства. технологични подаръциПотребителските асоциации отправиха искания към търговците на дребно допълнителни проверки за съдържание и поверителност преди да рекламират играчки с изкуствен интелект, за да се избегнат преждевременни тегления или предупреждения в последния момент.

Какво казват компаниите и индустрията

Секторът на играчките залага на изкуствения интелект, с обявления като сътрудничеството на Mattel с OpenAI и развития на Аватари, задвижвани от изкуствен интелектКомпанията обеща да даде приоритет на безопасността, въпреки че все още не е уточнила всички конкретни мерки. Прецедентът с Hello Barbie от 2015 г., замесен в противоречия относно безопасността и събирането на данни, продължава да оказва силно влияние върху дебата.

Експертите по детството и технологиите предупреждават за друг фронт: възможна емоционална зависимост които могат да генерират играчки за разговори. Документирани са случаи, при които взаимодействието с чатботове е рисков фактор в чувствителни контексти, което насърчава засилване на надзора от страна на възрастни, ограниченията за използване и дигиталното образование от ранна възраст.

Ключове за избор и използване на играчка с изкуствен интелект

Освен шума, има възможност за намаляване на рисковете, ако купувате разумно и конфигурирате устройството правилно. Тези насоки помагат за... балансиране на иновациите и безопасността у дома:

• Проверете препоръчителната възраст и че има истински детски режим (без външна навигация или неконтролирани отворени отговори).
• Прочетете политиката за поверителност: тип данни, местоназначение (ЕС или извън него), време на съхранение и опции за изтриване на историята.
• Активирайте родителски контролТой ограничава онлайн функционалността и проверява за конфигурируеми филтри и списъци с блокирани адреси.
• Проверете за актуализации и поддръжкаЧести корекции за сигурност и ангажимент за жизнения цикъл на продукта.
• Монитор за използванеПоставете разумни срокове и говорете с децата какво да правят в отговор на странни отговори.
• Изключете микрофона/камерата когато не се използват, и избягвайте акаунти, свързани с ненужни лични данни.

Какво да очакваме в краткосрочен план

С европейския регулаторен импулс и потребителския натиск се очаква производителите да въведат по-строг контрол, одити и прозрачност в предстоящи актуализации. Въпреки това, маркировката CE и търговските марки не заместват семейния надзор или критичната оценка на продукта ежедневно.

Картината, която тези тестове рисуват, е нюансирана: изкуственият интелект отваря образователни и игрови възможности, но днес той съществува едновременно с... филтриране на пропуски, съмнения в данните и рискове, свързани с дизайна на разговораДокато индустрията не съчетае иновациите и гаранциите, информираното пазаруване, внимателното конфигуриране и надзорът от възрастен са най-добрата предпазна мрежа.