在一位參議員投訴後，Google將Gemma從AI Studio中移除。

Google決定 撤回你的模型 來自 AI Studio 平台的 Gemma 此前，美國參議員瑪莎布萊克本正式提出投訴，她聲稱： 人工智慧產生了針對他的虛假指控。這一事件重新引發了關於生成系統的局限性以及當模型產生有害資訊時科技公司應承擔的責任的討論。

Gemma 的設計初衷是作為一套開發者的輕量級模型，而非通用型消費助理。即便如此， 使用者透過 AI Studio 存取它。 y 他們用它來問事實性問題。這將導致 捏造的答案和不存在的聯繫.

發生了什麼事？這場爭議是如何產生的？

根據這位參議員的說法，當被問及“瑪莎·布萊克本是否被指控強姦？“ 傑瑪本來可以交出一份詳細但虛假的帳目。 事件發生在1987年州參議院競選期間，其中包括據稱施壓以獲取毒品和 從未存在過的非自願行為這位議員本人澄清說，她的競選活動是在 1998 年，她從未收到過這樣的指控。

人工智慧的回應也會包含以下內容。 指向錯誤頁面的鏈接 或將無關的新聞報導當作證據呈現。這一點尤其敏感，因為 將「幻覺」轉化為可驗證的事物，即使事實並非如此。

谷歌的反應以及對傑瑪訪問權限的更改

爭議過後， 谷歌解釋說，他們檢測到有非開發者試圖在AI Studio中使用Gemma。通過事實調查，因此決定 將 Gemma 從 AI Studio 的公共存取權中移除，並使其僅透過 API 提供。 對於那些開發應用程式的人來說。

該公司強調： Gemma 採用的是「開發者優先」的模式，而不是像 Gemini 那樣的面向消費者的聊天機器人。因此，它並非設計為事實查核工具，也沒有特定的資訊檢索工具。用該公司的話來說， 幻覺對整個產業來說都是一個挑戰。 他們積極努力減輕這些影響。

這項變化意味著 將不再提供聊天式介面。 在 AI Studio for Gemma 中；其使用僅限於由 API 控制的開發環境和集成，在這種情況下，開發人員需要承擔額外的安全措施和驗證責任。

關於偏見和誹謗的法律層面和政治辯論

布萊克本致函谷歌執行長桑達爾·皮查伊，稱這並非一個無傷大雅的錯誤，而是… 人工智慧模型產生的誹謗這位參議員要求解釋內容是如何生成的，有哪些措施可以最大限度地減少政治或意識形態偏見，以及將採取哪些行動來防止再次發生此類事件，並設定了收到答复的最後期限。

在參議院商務委員會的聽證會上，這位女議員也向Google政府事務和公共政策副總裁馬克漢姆·艾瑞克森提出了這個問題。 他承認幻覺是一個已知的問題，並指出公司正在努力減輕幻覺的影響。該案件加劇了人們對企業在模型損害公眾人物聲譽時應承擔的責任的關注。

爭議愈演愈烈 保守派人士也引用了其他一些事件。，就像 活動家羅比·斯塔巴克該 他聲稱自己被傑瑪誣陷與嚴重犯罪和極端主義有關。。在此背景下， 關於可能存在的偏見的爭論再次升溫。 在人工智慧系統中，需要安全框架、監控以及在發生損害時採取補救措施。

拋開黨派立場不談，該案例凸顯了並非為公眾互動而設計的模式可能會造成以下後果： 被誤解為普通助理模糊了開發原型和麵向公眾的產品之間的界限，如果將生成的內容視為經過驗證的訊息，則存在明顯的風險。

Gemma退出AI Studio並被限制在API標記範圍內 試圖將該模型的應用重新導向其最初設想的領域。同時，也引發了關於以下方面的問題： 真實性標準、保障措施與問責制 這應該成為人工智慧影響現實人物（尤其是公職人員）聲譽的準則。