- یک گزارش مستقل، واکنش‌های خطرناکی را در سه اسباب‌بازی هوش مصنوعی که برای کودکان در نظر گرفته شده است، شناسایی می‌کند.
- فیلترها در مکالمات طولانی از کار می‌افتند و توصیه‌های نامناسبی ارائه می‌دهند.
- تأثیر در اسپانیا و اتحادیه اروپا: استانداردهای حریم خصوصی و ایمنی کودکان در کانون توجه
- راهنمای خرید و بهترین شیوه‌ها برای خانواده‌ها قبل از کریسمس.
ل اسباب‌بازی‌هایی با عملکردهای هوش مصنوعی در کانون توجه قرار دارند در پی گزارشی از گروه تحقیقاتی منافع عمومی ایالات متحده آن اسناد پاسخ‌های خطرناک در مدل‌هایی که برای کودکان ۳ تا ۱۲ سال طراحی شده‌اندبه گفته تیم تحت رهبری آر جی کراس، جلسات مکالمه طولانی مدت و استفاده عادی از محصول برای بروز نشانه‌های نامناسب کافی بود، بدون اینکه نیازی به ترفند یا دستکاری باشد.
این تحلیل سه دستگاه محبوب را بررسی کرد: Kumma از FoloToy، Miko 3 و Curio's Grokدر چندین مورد، سیستم‌های حفاظتی از کار افتادند و توصیه‌هایی که نباید روی اسباب‌بازی کودکان وجود داشته باشد، از قلم افتادند؛ یکی از مدل‌ها از GPT-4 و دیگری از ... استفاده می‌کند. این داده‌ها را به سرویس‌هایی مانند OpenAI و Perplexity منتقل می‌کند.این موضوع بحث در مورد فیلترینگ، حریم خصوصی و نحوه‌ی مدیریت اطلاعات مربوط به افراد زیر سن قانونی را دوباره داغ می‌کند.
سه اسباب‌بازی، یک الگوی ریسک یکسان
در آزمایشات ، مکالمات طولانی عامل محرک بودند.همچنان که دیالوگ پیش می‌رفت، فیلترها دیگر پاسخ‌های مشکل‌ساز را مسدود نکردندنیازی به فشار آوردن به دستگاه نبود؛ استفاده‌ی روزمره‌ی یک کودک که با اسباب‌بازی‌اش صحبت می‌کرد، شبیه‌سازی شده بود، که این موضوع نگرانی‌ها را در مورد سناریوی واقعی بازی خانگی افزایش می‌دهد..
محققان رفتارهای متفاوتی را بین دستگاه‌ها توصیف می‌کنند، اما با ... نتیجه گیری رایج: سیستم های امنیتی سازگار نیستندیکی از مدل‌ها باعث شد ارجاعات به وضوح برای سن نامناسب هستندو دیگری به منابع خارجی که برای مخاطبان کودک مناسب نیستند هدایت می‌شود که نشان‌دهنده کنترل ناکافی محتوا است.
مورد گروک کوریو گویای این موضوع است، زیرا برخلاف نامش، از مدل xAI استفاده نمی‌کند.: ترافیک به سمت سرویس‌های شخص ثالث می‌روداین جزئیات در اروپا و اسپانیا به دلیل قابلیت ردیابی داده‌ها و مدیریت پروفایل‌های افراد زیر سن قانونی، که در آنها مقررات مستلزم دقت ویژه از سوی تولیدکنندگان، واردکنندگان و توزیع‌کنندگان است، اهمیت دارد.
این گزارش تأکید می‌کند که مشکل اساسی است: آسیب‌پذیری ساختاریاین یک اشکال ساده نیست که بتوان آن را با یک وصله برطرف کرد، بلکه ترکیبی از طراحی محاوره‌ای، مدل‌های مولد و فیلترهایی است که به مرور زمان فرسوده می‌شوند. بنابراین، نویسندگان آنها توصیه می‌کنند از خرید اسباب‌بازی‌هایی که چت‌بات‌های یکپارچه دارند برای کودکان خودداری کنید.حداقل تا زمانی که تضمین‌های روشنی وجود نداشته باشد.
پیامدهایی برای اسپانیا و اروپا
در چارچوب اروپایی، تمرکز بر دو جبهه است: ایمنی محصول و حفاظت از داده‌هامقررات عمومی ایمنی محصولات و مقررات مربوط به اسباب‌بازی، ارزیابی ریسک را قبل از عرضه محصولات به بازار الزامی می‌کنند، در حالی که GDPR و دستورالعمل‌های مربوط به پردازش داده‌های کودکان، شفافیت، حداقل‌سازی و مبانی قانونی مناسب را الزامی می‌دانند.
چارچوب جدیدِ [موضوع/موضوعات/...] به این موارد اضافه شده است. قانون هوش مصنوعی اروپاکه به صورت مرحله‌ای عرضه خواهد شد. اگرچه بسیاری از اسباب‌بازی‌ها در دسته «پرخطر» قرار نمی‌گیرند، اما ادغام مدل‌های مولد و پتانسیل ایجاد پروفایل کودک نگران‌کننده است. آنها به مستندسازی، ارزیابی‌ها و کنترل‌های بیشتری در سراسر زنجیره نیاز خواهند داشت.به خصوص اگر انتقال داده‌ها به خارج از اتحادیه اروپا انجام شود.
برای خانواده‌ها در اسپانیا، کار عملی که باید انجام دهند این است که اطلاعات شفافی در مورد ... درخواست کنند. چه داده‌هایی جمع‌آوری می‌شود، با چه کسی به اشتراک گذاشته می‌شود و برای چه مدت. اگر یک اسباب‌بازی صدا ارسال می‌کنداگر متن یا شناسه‌ها با اشخاص ثالث به اشتراک گذاشته شوند، اهداف، مکانیسم‌های کنترل والدین و گزینه‌های حذف سابقه مرور باید مشخص شوند. آژانس حفاظت از داده‌های اسپانیا (AEPD) به کاربران یادآوری می‌کند که منافع کودک بر استفاده‌های تجاری اولویت دارد.
زمینه کم اهمیت نیست: فصل کریسمس حضور این محصولات را در فروشگاه‌ها و پلتفرم‌های آنلاین افزایش می‌دهد و علاقه به آنها بیشتر می‌شود. هدایای فن آوریانجمن‌های مصرف‌کنندگان از خرده‌فروشان درخواست کرده‌اند محتوای اضافی و بررسی‌های حریم خصوصی قبل از تبلیغ اسباب‌بازی‌های هوش مصنوعی، برای جلوگیری از برداشت‌های بی‌موقع یا هشدارهای دقیقه نودی.
آنچه شرکت‌ها و صنعت می‌گویند
بخش اسباب‌بازی روی هوش مصنوعی شرط‌بندی می‌کند و اعلامیه‌هایی مانند همکاری... متل با OpenAI و تحولاتِ آواتارهای مجهز به هوش مصنوعیاین شرکت قول داده است که ایمنی را در اولویت قرار دهد، اگرچه هنوز تمام اقدامات خاص را به تفصیل شرح نداده است. سابقه هلو باربی در سال ۲۰۱۵، که درگیر جنجال بر سر ایمنی و جمع‌آوری داده‌ها بود، همچنان بر این بحث سنگینی می‌کند.
متخصصان دوران کودکی و فناوری نسبت به جبهه دیگری هشدار می‌دهند: وابستگی عاطفی احتمالی مواردی ثبت شده است که تعامل با چت‌بات‌ها در زمینه‌های حساس، یک عامل خطر بوده است، که تقویت نظارت بزرگسالان، محدودیت‌های استفاده و آموزش دیجیتال از سنین پایین را تشویق می‌کند.
نکات کلیدی در انتخاب و استفاده از اسباب‌بازی هوش مصنوعی
فراتر از سر و صدا، اگر عاقلانه خرید کنید و دستگاه را به درستی پیکربندی کنید، جایی برای کاهش خطرات وجود دارد. این دستورالعمل‌ها به شما کمک می‌کنند ایجاد تعادل بین نوآوری و ایمنی در خانه:
- سن توصیه شده را بررسی کنید و اینکه یک حالت فرزند واقعی وجود دارد (بدون ناوبری خارجی یا پاسخ‌های باز کنترل نشده).
- سیاست حفظ حریم خصوصی را بخوانید: نوع داده، مقصد (اتحادیه اروپا یا خارج از آن)، زمان نگهداری و گزینه‌هایی برای حذف تاریخچه.
- Activa el control والدیناین برنامه عملکرد آنلاین را محدود می‌کند و فیلترهای قابل تنظیم و لیست‌های مسدود شده را بررسی می‌کند.
- بررسی به‌روزرسانی‌ها و پشتیبانیوصله‌های امنیتی مکرر و تعهد به چرخه عمر محصول.
- نظارت بر میزان استفادهمحدودیت‌های زمانی معقولی تعیین کنید و با بچه‌ها در مورد واکنش به پاسخ‌های عجیب و غریب صحبت کنید.
- میکروفون/دوربین را خاموش کنید وقتی استفاده نمی‌شوند و از حساب‌های کاربری مرتبط با داده‌های شخصی غیرضروری اجتناب کنید.
در کوتاه مدت چه انتظاری باید داشت
با توجه به انگیزه‌های نظارتی اروپا و فشار مصرف‌کنندگان، انتظار می‌رود تولیدکنندگان این فناوری را معرفی کنند. کنترل‌های سختگیرانه‌تر، حسابرسی‌ها و شفافیت در به‌روزرسانی‌های آینده. با این حال، علامت تجاری و نشان CE جایگزین نظارت خانواده یا ارزیابی انتقادی روزانه محصول نمی‌شود.
تصویری که این آزمایش‌ها ترسیم می‌کنند، ظریف و دقیق است: هوش مصنوعی امکانات آموزشی و بازی را فراهم می‌کند، اما امروزه با ... همزیستی دارد. شکاف‌های فیلترینگ، تردیدهای داده‌ای و خطرات طراحی محاوره‌ایتا زمانی که صنعت، نوآوری و ضمانت را با هم هماهنگ نکند، خرید آگاهانه، پیکربندی دقیق و نظارت بزرگسالان بهترین راه برای حفظ امنیت است.
من یک علاقه مند به فناوری هستم که علایق "گیک" خود را به یک حرفه تبدیل کرده ام. من بیش از 10 سال از زندگی خود را صرف استفاده از فناوری های پیشرفته و سرهم بندی کردن انواع برنامه ها از روی کنجکاوی کرده ام. اکنون در زمینه فناوری رایانه و بازی های ویدیویی تخصص دارم. این به این دلیل است که بیش از 5 سال است که برای وب سایت های مختلف در زمینه فناوری و بازی های ویدیویی می نویسم و مقالاتی را ایجاد می کنم که به دنبال ارائه اطلاعات مورد نیاز شما به زبانی قابل فهم برای همه هستند.
اگر سوالی دارید، دانش من از همه چیز مربوط به سیستم عامل ویندوز و همچنین اندروید برای تلفن های همراه است. و تعهد من به شماست، من همیشه حاضرم چند دقیقه وقت بگذارم و به شما کمک کنم تا هر سوالی را که ممکن است در این دنیای اینترنتی داشته باشید حل کنید.