- Google elimina o modelo Gemma de AI Studio e limita o seu uso a desenvolvedores baseados en API.
- A senadora Marsha Blackburn alega que a IA xerou acusacións falsas de conduta sexual inapropiada
- Google alega o mal uso dunha ferramenta destinada a desenvolvedores e recoñece o desafío das alucinacións
- O caso reavivou o debate político e xurídico sobre os prexuízos, a difamación e a responsabilidade na IA.
A decisión de Google de retirar o teu modelo Gemma da plataforma AI Studio Isto ocorre despois dunha queixa formal da senadora estadounidense Marsha Blackburn, que afirma que A IA xerou falsas acusacións contra elO episodio reavivou o debate sobre os límites dos sistemas xerativos e a responsabilidade das empresas tecnolóxicas cando un modelo produce información prexudicial.
Gemma foi concibida como un conxunto de modelos lixeiros dirixidos a desenvolvedores, non como un asistente de consumo de propósito xeral. Aínda así, Os usuarios accederon a el a través de AI Studio y Usárono para facer preguntas factuaiso que levaría a respostas inventadas e ligazóns inexistentes.
Que aconteceu e como xurdiu a polémica
Segundo a versión do senador, cando se lle preguntou “Foi acusada Marsha Blackburn de violación?”, Gemma tería devolto un relato detallado pero falso que situou os feitos durante unha campaña para o Senado estatal de 1987 e incluíu presuntas presións para obter drogas e actos non consentidos que nunca existironA propia parlamentaria aclarou que a súa campaña foi en 1998 e que nunca recibiu unha acusación semellante.
A resposta da IA tamén tería incorporado ligazóns que levaron a páxinas de erro ou noticias sen relación, presentadas coma se fosen probas. Este punto é especialmente delicado porque converte unha "alucinación" en algo que se percibe como verificablemesmo que non o sexa.
A reacción de Google e os cambios no acceso de Gemma
Tras a polémica, Google explicou que detectara intentos de usar Gemma por parte de persoas non desenvolvedoras en AI Studio.con investigacións factuais. Polo tanto, decidiu Eliminar a Gemma do acceso público en AI Studio e mantela dispoñible exclusivamente a través das API para aqueles que crean aplicacións.
A empresa salientou que Gemma é un modelo de "desenvolvemento primeiro" e non un chatbot de consumo como Gemini.Polo tanto, non está deseñado como un verificador de datos nin ten ferramentas específicas de recuperación de información. Nas palabras da empresa, As alucinacións son un desafío para toda a industria e traballan activamente para mitigalos.
Este cambio implica que Xa non haberá unha interface de tipo chat. en AI Studio para Gemma; o seu uso está restrinxido a entornos de desenvolvemento e integracións controladas por API, un contexto no que o desenvolvedor asume garantías e validacións adicionais.
Dimensión xurídica e debate político sobre parcialidade e difamación
Blackburn enviou unha carta ao director executivo de Google, Sundar Pichai, na que describiu o sucedido non como un erro inofensivo, senón como difamación producida por un modelo de IAO senador solicitou explicacións sobre como se xerou o contido, que medidas existen para minimizar os sesgos políticos ou ideolóxicos e que accións se tomarán para evitar repeticións, fixando tamén un prazo para recibir a resposta.
Durante unha audiencia do Comité de Comercio do Senado, a congresista tamén plantexou o asunto ao vicepresidente de Asuntos Gobernamentais e Políticas Públicas de Google, Markham Erickson, quen Recoñeceu que as alucinacións son un problema coñecido e sinalou que a empresa está a traballar para mitigalas.O caso intensificou a atención sobre a responsabilidade das empresas cando os seus modelos danan a reputación de figuras públicas.
A polémica intensificouse con outros episodios citados polos conservadores, como o de activista Robby Starbuck, iso Afirma que Gemma o vinculou falsamente con delitos graves e extremismo.Neste contexto, Reavivouse o debate sobre os posibles prexuízos nos sistemas de IA e a necesidade de marcos de seguridade, monitorización e vías de recurso cando se producen danos.
Máis alá das posicións partidistas, o caso destaca que os modelos non deseñados para a interacción pública poden ser incomprendidos como asistentes xeraisdifuminando a liña entre os prototipos de desenvolvemento e os produtos para o público en xeral, con riscos evidentes se o que se xera se toma como información verificada.
A retirada de Gemma de AI Studio e o seu confinamento á marca API un intento de redirixir o uso do modelo ao campo para o que foi concibido, ao mesmo tempo que suscita dúbidas sobre estándares de veracidade, garantías e responsabilidade que debería rexer cando unha IA afecta á reputación de persoas reais, especialmente de funcionarios públicos.
Son un entusiasta da tecnoloxía que converteu os seus intereses "friki" nunha profesión. Levo máis de 10 anos da miña vida empregando tecnoloxía de punta e retocando todo tipo de programas por pura curiosidade. Agora especializeime en tecnoloxía informática e videoxogos. Isto débese a que dende hai máis de 5 anos levo escribindo para diversas webs sobre tecnoloxía e videoxogos, creando artigos que buscan darche a información que necesitas nun idioma comprensible para todos.
Se tes algunha dúbida, os meus coñecementos abarcan dende todo o relacionado co sistema operativo Windows e tamén con Android para teléfonos móbiles. E o meu compromiso é contigo, sempre estou disposto a dedicar uns minutos e axudarche a resolver calquera dúbida que teñas neste mundo de internet.