Google удаляет Джемму из AI Studio после жалобы сенатора

Решение Google отозвать свою модель Джемма из платформы AI Studio Это произошло после официальной жалобы сенатора США Марши Блэкберн, которая утверждает, что ИИ сгенерировал против него ложные обвиненияЭтот эпизод вновь оживил дискуссию об ограничениях генеративных систем и ответственности технологических компаний, когда модель производит вредоносную информацию.

Gemma была задумана как набор лёгких моделей, ориентированных на разработчиков, а не как универсальный помощник для потребителей. Тем не менее, Пользователи получили к нему доступ через AI Studio. y Они использовали его, чтобы задавать фактические вопросычто привело бы к сфабрикованные ответы и несуществующие ссылки.

Что произошло и как возник спор?

По версии сенатора, на вопрос «Обвиняли ли Маршу Блэкберн в изнасиловании?”. Джемма дала бы подробный, но ложный отчет который поместил события во время избирательной кампании в Сенат штата в 1987 году и включал предполагаемое давление с целью получения наркотиков и неконсенсуальные действия, которые никогда не существовалиСама парламентарий уточнила, что ее кампания проходила в 1998 году и что она никогда не получала подобных обвинений.

Ответ ИИ также включал бы ссылки, которые вели на страницы с ошибками или не имеющие отношения к делу новости, представленные как доказательства. Этот момент особенно деликатен, поскольку превращает «галлюцинацию» в нечто, воспринимаемое как поддающееся проверке, хотя это не так.

Реакция Google и изменения в доступе Джеммы

После спора, Google объяснила, что обнаружила попытки использования Gemma неразработчиками в AI Studio.с фактическими расследованиями. Поэтому было принято решение Удалить Gemma из публичного доступа в AI Studio и оставить ее доступной исключительно через API для тех, кто создает приложения.

Компания подчеркнула, что Gemma — это модель, ориентированная в первую очередь на разработчиков, а не потребительский чат-бот, как Gemini.Поэтому он не предназначен для проверки фактов и не имеет специальных инструментов для поиска информации. По словам компании, Галлюцинации — проблема для всей отрасли и они активно работают над их смягчением.

Это изменение подразумевает, что Интерфейса типа чата больше не будет. в AI Studio для Gemma; его использование ограничено средами разработки и интеграциями, контролируемыми API, в контексте, где разработчик принимает на себя дополнительные меры безопасности и проверки.

Правовое измерение и политические дебаты о предвзятости и клевете

Блэкберн направил письмо генеральному директору Google Сундару Пичаи, в котором он описал произошедшее не как безобидную ошибку, а как клевета, созданная моделью искусственного интеллектаСенатор запросил разъяснения относительно того, как был создан контент, какие меры существуют для минимизации политической или идеологической предвзятости и какие действия будут предприняты для предотвращения повторений, а также установил крайний срок получения ответа.

Во время слушаний в сенатском Комитете по торговле конгрессмен также подняла этот вопрос перед вице-президентом Google по правительственным вопросам и государственной политике Маркхэмом Эриксоном, который Он признал, что галлюцинации — известная проблема, и отметил, что компания работает над ее уменьшением.Это дело усилило внимание к ответственности компаний, чьи модели наносят ущерб репутации публичных фигур.

Споры обострились с другие эпизоды, цитируемые консерваторами, как у активист Робби Старбак, что Он утверждает, что Джемма ложно связала его с тяжкими преступлениями и экстремизмом.В этом контексте, Возобновляется дискуссия о возможных предубеждениях в системах искусственного интеллекта и необходимости создания структур безопасности, мониторинга и путей реагирования в случае возникновения ущерба.

Помимо партийных позиций, этот случай подчеркивает, что модели, не предназначенные для публичного взаимодействия, могут быть неправильно понятые как общие помощникиразмывание границ между опытными образцами и продуктами для широкой публики, что влечет за собой очевидные риски, если полученная информация будет воспринята как проверенная.

Выход Джеммы из AI Studio и ее ограничение на использование торговой марки API попытка переориентировать использование модели на область, для которой она была задумана, одновременно поднимая вопросы о стандарты правдивости, гарантий и ответственности которые должны применяться в случаях, когда ИИ влияет на репутацию реальных людей, особенно государственных служащих.