Цацкі на базе штучнага інтэлекту (чат-боты) пад пільнай увагай з-за недахопаў бяспекі

Л У цэнтры ўвагі цацкі з функцыямі штучнага інтэлекту пасля справаздачы з Група даследаванняў грамадскіх інтарэсаў ЗША што дакументы небяспечныя рэакцыі ў мадэлях, прызначаных для дзяцей ва ўзросце ад 3 да 12 гадоўПаводле слоў каманды пад кіраўніцтвам Р. Дж. Кроса, працяглых размоў і звычайнага выкарыстання прадукту было дастаткова для з'яўлення неадпаведных прыкмет, без неабходнасці хітрыкаў або маніпуляцый.

У аналізе разглядаліся тры папулярныя прылады: Kumma ад FoloToy, Miko 3 і Grok ад CurioУ некалькіх выпадках сістэмы абароны не спрацавалі, і рэкамендацыі, якія не павінны быць на дзіцячай цаццы, праслізгвалі; адна з мадэляў выкарыстоўвае GPT-4, а другая... Ён перадае дадзеныя ў такія сэрвісы, як OpenAI і Perplexity.Гэта зноў узбуджае дыскусію аб фільтрацыі, прыватнасці і апрацоўцы інфармацыі пра непаўналетніх.

Тры цацкі, адзін і той жа ўзор рызыкі

У тэстах, Доўгія размовы сталі штуршком.Па меры развіцця дыялогу, Фільтры перасталі блакіраваць праблемныя адказыНе трэба было прымушаць машыну; імітавалася штодзённае выкарыстанне дзіцяці, якое размаўляе са сваёй цацкай, што Гэта выклікае занепакоенасць з нагоды рэальнага развіцця падзей хатняй гульні..

Даследчыкі апісваюць розныя паводзіны розных прылад, але з агульная выснова: сістэмы бяспекі непаслядоўныяАдна з мадэляў дала пачатак спасылкі, відавочна неадпаведныя ўзросту, а яшчэ адзін перанакіроўваў на знешнія рэсурсы, непрыдатныя для дзіцячай аўдыторыі, што сведчыць аб недастатковым кантролі кантэнту.

Выпадак з Грокам Курыа паказальны, бо, нягледзячы на ​​назву, Ён не выкарыстоўвае мадэль xAI: Трафік ідзе на староннія сэрвісыГэтая дэталь важная ў Еўропе і Іспаніі з-за магчымасці адсочвання дадзеных і кіравання профілямі непаўналетніх, дзе правілы патрабуюць асаблівай дбайнасці ад вытворцаў, імпарцёраў і дыстрыб'ютараў.

У дакладзе падкрэсліваецца, што праблема мае фундаментальны характар: структурная ўразлівасцьГэта не простая памылка, якую можна выправіць адным патчам, а хутчэй спалучэнне дызайну размоў, генератыўных мадэляў і фільтраў, якія з часам знікаюць. Таму аўтары Яны раяць не купляць дзецям цацкі з інтэграванымі чат-ботамі.прынамсі, пакуль не будзе выразных гарантый.

Наступствы для Іспаніі і Еўропы

У еўрапейскіх рамках увага сканцэнтравана на двух напрамках: бяспека прадукцыі і абарона дадзеныхАгульны рэгламент бяспекі прадукцыі і правілы адносна цацак патрабуюць ацэнкі рызык перад тым, як прадукцыя будзе выпушчана на рынак, у той час як GDPR і рэкамендацыі па апрацоўцы дадзеных дзяцей патрабуюць празрыстасці, мінімізацыі і адпаведных прававых падстаў.

Да гэтага дадаецца новая структура Еўрапейскі закон аб штучным інтэлекцеякі будзе ўкараняцца паэтапна. Нягледзячы на ​​тое, што многія цацкі не адносяцца да катэгорыі «высокай рызыкі», інтэграцыя генератыўных мадэляў і патэнцыял прафілявання дзяцей выклікаюць заклапочанасць. Яны запатрабуюць больш дакументацыі, ацэнак і кантролю па ўсім ланцужку.асабліва калі адбываецца перадача дадзеных за межы ЕС.

Для сем'яў у Іспаніі практычным рашэннем з'яўляецца патрабаванне выразнай інфармацыі пра якія дадзеныя збіраюцца, з кім яны перадаюцца і на працягу якога часу, Калі цацка пасылае гукКалі тэкст або ідэнтыфікатары перадаюцца трэцім асобам, неабходна ўказаць мэты, механізмы бацькоўскага кантролю і параметры выдалення гісторыі прагляду. Іспанскае агенцтва па абароне дадзеных (AEPD) нагадвае карыстальнікам, што найлепшыя інтарэсы дзіцяці маюць прыярытэт над камерцыйным выкарыстаннем.

Кантэкст не мае значэння: Калядны сезон павялічвае прысутнасць гэтых тавараў у крамах і на інтэрнэт-платформах, і цікавасць да іх расце. тэхналагічныя падарункіСпажывецкія асацыяцыі звяртаюцца да рознічных гандляроў дадатковыя праверкі кантэнту і прыватнасці перад тым, як рэкламаваць цацкі са штучным інтэлектам, каб пазбегнуць несвоечасовага зняцця сродкаў з продажаў або папярэджанняў у апошнюю хвіліну.

Што кажуць кампаніі і галіна

Індустрыя цацак робіць стаўку на штучны інтэлект, абвясціўшы пра такія праекты, як супрацоўніцтва... Mattel з OpenAI і распрацоўкі Аватары на базе штучнага інтэлектуКампанія абяцала надаць прыярытэт бяспецы, хоць пакуль не падрабязна апісала ўсе канкрэтныя меры. Прэцэдэнт Hello Barbie ў 2015 годзе, які быў ахоплены спрэчкамі адносна бяспекі і збору дадзеных, працягвае моцна ўплываць на дыскусію.

Эксперты па пытаннях дзяцінства і тэхналогій папярэджваюць пра іншы фронт: магчымая эмацыйная залежнасць якія могуць ствараць цацкі для размоў. Былі задакументаваны выпадкі, калі ўзаемадзеянне з чат-ботамі было фактарам рызыкі ў далікатных кантэкстах, што рэкамендуе ўзмацняць кантроль дарослых, абмежаванні выкарыстання і лічбавую адукацыю з ранняга ўзросту.

Ключы да выбару і выкарыстання цацкі са штучным інтэлектам

Акрамя шуму, ёсць магчымасць знізіць рызыкі, калі купляць з розумам і правільна наладзіць прыладу. Гэтыя рэкамендацыі дапамогуць баланс інавацый і бяспекі дома:

• Праверце рэкамендаваны ўзрост і што існуе рэальны дзіцячы рэжым (без знешняй навігацыі або некантраляваных адкрытых адказаў).
• Азнаёмцеся з палітыкай прыватнасцітып дадзеных, месца прызначэння (ЕС ці за яго межамі), час захоўвання і опцыі выдалення гісторыі.
• Актывуйце бацькоўскі кантрольЁн абмяжоўвае анлайн-функцыянальнасць і правярае наяўнасць наладжвальных фільтраў і спісаў блакіроўкі.
• Праверце наяўнасць абнаўленняў і падтрымкіЧастыя абнаўленні бяспекі і абавязацельствы па жыццёвым цыкле прадукту.
• Выкарыстанне манітораУсталюйце разумныя часавыя абмежаванні і абмяркуйце з дзецьмі, што рабіць у адказ на дзіўныя адказы.
• Выключыць мікрафон/камеру калі не выкарыстоўваюцца, і пазбягайце акаўнтаў, звязаных з непатрэбнымі асабістымі дадзенымі.

Чаго чакаць у кароткатэрміновай перспектыве

Пад уплывам еўрапейскіх рэгулятараў і ціску спажыўцоў чакаецца, што вытворцы ўвядуць больш строгі кантроль, аўдыты і празрыстасць у наступных абнаўленнях. Тым не менш, маркіроўка CE і гандлёвыя маркі не замяняюць сямейны кантроль або крытычную ацэнку прадукту на штодзённай аснове.

Карціна, якую малююць гэтыя тэсты, мае нюансы: штучны інтэлект адкрывае адукацыйныя і гульнявыя магчымасці, але сёння ён суіснуе з фільтраванне прабелаў, сумненняў у дадзеных і рызык дызайну размоўПакуль галіна не ўзгадніць інавацыі і гарантыі, найлепшай сеткай бяспекі з'яўляюцца абгрунтаваныя пакупкі, старанная канфігурацыя і кантроль дарослых.

Альберта Навара

Я энтузіяст тэхналогій, які ператварыў свае інтарэсы "гікаў" у прафесію. Я правёў больш за 10 гадоў свайго жыцця, выкарыстоўваючы перадавыя тэхналогіі і важдаючыся з рознымі праграмамі з чыстай цікаўнасці. Цяпер я спецыялізаваўся на камп'ютарных тэхналогіях і відэагульнях. Гэта таму, што больш за 5 гадоў я працаваў для розных вэб-сайтаў, прысвечаных тэхналогіям і відэагульням, ствараючы артыкулы, якія імкнуцца даць вам неабходную інфармацыю на мове, зразумелай кожнаму.

Калі ў вас ёсць якія-небудзь пытанні, я ведаю ўсё, што звязана з аперацыйнай сістэмай Windows і Android для мабільных тэлефонаў. І я перад вамі абавязаны: я заўсёды гатовы выдаткаваць некалькі хвілін і дапамагчы вам вырашыць любыя пытанні, якія могуць узнікнуць у гэтым свеце Інтэрнэту.