قامت جوجل بإزالة Gemma من AI Studio بعد شكوى أحد أعضاء مجلس الشيوخ

قرار جوجل سحب النموذج الخاص بك جيما من منصة AI Studio ويأتي ذلك بعد شكوى رسمية من السيناتور الأمريكية مارشا بلاكبيرن، التي تدعي أن لقد ولّد الذكاء الاصطناعي اتهامات كاذبة ضدهلقد أشعلت هذه الحلقة النقاش من جديد حول حدود الأنظمة التوليدية ومسؤولية شركات التكنولوجيا عندما ينتج نموذج ما معلومات ضارة.

صُممت جيما كمجموعة من النماذج خفيفة الوزن الموجهة للمطورين، وليس كمساعد شخصي عام. ومع ذلك، تمكن المستخدمون من الوصول إليه من خلال AI Studio y لقد استخدموها لطرح أسئلة واقعيةمما كان من شأنه أن يؤدي إلى إجابات ملفقة وروابط غير موجودة.

ماذا حدث وكيف نشأ الجدل

وفقًا لرواية السيناتور، عندما سُئل "هل تم اتهام مارشا بلاكبيرن بالاغتصاب؟"، كانت جيما ستعيد حسابًا مفصلاً ولكنه كاذب التي وضعت الأحداث خلال حملة مجلس الشيوخ في الولاية عام 1987، وشملت ضغوطًا مزعومة للحصول على المخدرات و أفعال غير توافقية لم تكن موجودة أبدًاوأوضحت النائبة بنفسها أن حملتها كانت في عام 1998 وأنها لم تتلق مثل هذا الاتهام من قبل.

وكان من المقرر أن تتضمن استجابة الذكاء الاصطناعي أيضًا الروابط التي تؤدي إلى صفحات الخطأ أو أخبار غير ذات صلة، تُعرض كما لو كانت أدلة. هذه النقطة حساسة بشكل خاص لأن يحول "الهلوسة" إلى شيء يُنظر إليه على أنه قابل للتحققحتى لو لم يكن كذلك.

رد فعل جوجل والتغييرات التي طرأت على وصول جيما

وفي أعقاب الجدل، أوضحت شركة Google أنها اكتشفت محاولات استخدام Gemma من قبل غير المطورين في AI Studioمع تحقيقات واقعية. لذلك، قررت إزالة Gemma من الوصول العام في AI Studio وإبقائها متاحة حصريًا من خلال واجهات برمجة التطبيقات لأولئك الذين يقومون ببناء التطبيقات.

وأكدت الشركة أن Gemma هو نموذج "المطور أولاً" وليس روبوت محادثة للمستهلك مثل Gemini.لذلك، فهو ليس مُصممًا للتحقق من الحقائق، ولا يحتوي على أدوات مُخصصة لاسترجاع المعلومات. وحسب الشركة، الهلوسة تشكل تحديًا للصناعة بأكملها ويعملون بنشاط على التخفيف منها.

هذا التغيير يعني أن لن تكون هناك واجهة من نوع الدردشة بعد الآن. في AI Studio لـ Gemma؛ يقتصر استخدامه على بيئات التطوير والتكاملات التي يتم التحكم فيها بواسطة واجهات برمجة التطبيقات، وهو السياق الذي يفترض فيه المطور ضمانات وعمليات تحقق إضافية.

البعد القانوني والنقاش السياسي حول التحيز والتشهير

أرسل بلاكبيرن رسالة إلى الرئيس التنفيذي لشركة جوجل، ساندر بيتشاي، واصفًا ما حدث بأنه ليس خطأً غير ضار، بل التشهير الناتج عن نموذج الذكاء الاصطناعيوطلب السيناتور توضيحات حول كيفية إنشاء المحتوى، وما هي التدابير الموجودة لتقليل التحيزات السياسية أو الإيديولوجية، وما هي الإجراءات التي سيتم اتخاذها لمنع التكرار، كما حدد موعدًا نهائيًا لتلقي الرد.

خلال جلسة استماع للجنة التجارة بمجلس الشيوخ، أثارت عضو الكونجرس هذه القضية أيضًا مع نائب رئيس الشؤون الحكومية والسياسات العامة في جوجل، ماركهام إريكسون، الذي واعترف بأن الهلوسة مشكلة معروفة، مشيرا إلى أن الشركة تعمل على التخفيف منها.وقد عززت هذه القضية التركيز على مسؤولية الشركات عندما تتسبب عارضاتها في الإضرار بسمعة الشخصيات العامة.

اشتد الجدل مع حلقات أخرى استشهد بها المحافظون، مثل ذلك الناشط روبي ستارباكأن يزعم أنه تم ربطه بشكل خاطئ من قبل جيما بجرائم خطيرة والتطرف. في هذا السياق، تم إعادة إشعال النقاش حول التحيزات المحتملة في أنظمة الذكاء الاصطناعي والحاجة إلى أطر أمنية ومراقبة ومسارات اللجوء عند حدوث الضرر.

وبعيدًا عن المواقف الحزبية، تسلط القضية الضوء على أن النماذج غير المصممة للتفاعل العام يمكن أن تكون يُساء فهمهم على أنهم مساعدون عامونطمس الخط الفاصل بين نماذج التطوير والمنتجات الموجهة لعامة الناس، مع وجود مخاطر واضحة إذا تم اعتبار ما تم إنشاؤه بمثابة معلومات تم التحقق منها.

انسحاب جيما من AI Studio وحصرها في علامة API محاولة لإعادة توجيه استخدام النموذج إلى المجال الذي تم تصميمه من أجله، في حين أثار أيضًا أسئلة حول معايير الصدق والضمانات والمساءلة هذا ما ينبغي أن يحكم عندما يؤثر الذكاء الاصطناعي على سمعة الأشخاص الحقيقيين، وخاصة المسؤولين العموميين.