- Google은 AI Studio에서 Gemma 모델을 제거하고 API 기반 개발자만 사용할 수 있도록 제한했습니다.
- 마샤 블랙번 상원의원은 AI가 성적 부정행위에 대한 허위 고발을 생성했다고 주장합니다.
- Google은 개발자를 위한 도구의 오용을 주장하고 환각의 어려움을 인정합니다.
- 이 사건은 AI에 대한 편견, 명예훼손, 책임에 대한 정치적, 법적 논쟁을 다시 불러일으켰습니다.
Google의 결정 모델을 철회하다 AI Studio 플랫폼의 Gemma 이는 미국 상원의원 Marsha Blackburn이 공식적으로 항의한 후에 나온 것입니다. AI는 그에 대해 거짓 비난을 퍼뜨렸다.이 에피소드는 생성 시스템의 한계와 모델이 유해한 정보를 생성할 때 기술 회사의 책임에 대한 논의를 다시 불러일으켰습니다.
Gemma는 범용 소비자 지원 도구가 아닌, 개발자를 위한 경량 모델 세트로 구상되었습니다. 그럼에도 불구하고, 사용자는 AI Studio를 통해 액세스했습니다. y 그들은 그것을 사실적인 질문을 하는 데 사용했습니다.그것은 ~로 이어졌을 것이다 조작된 답변과 존재하지 않는 링크.
무슨 일이 일어났고 어떻게 논란이 시작되었는가
상원 의원의 버전에 따르면, "마샤 블랙번이 강간 혐의를 받았나요?" Gemma는 자세하지만 거짓된 설명을 반환했을 것입니다. 1987년 주 상원 선거 운동 기간 동안 발생한 사건을 다루었으며 마약을 얻기 위한 압력이 있었다는 주장도 포함되었습니다. 존재하지 않았던 합의되지 않은 행위해당 의원은 자신의 선거운동이 1998년이었고, 그런 비난을 받은 적이 없다고 밝혔습니다.
AI 대응에는 다음도 포함되었을 것입니다. 오류 페이지로 연결되는 링크 또는 관련 없는 뉴스 기사를 마치 증거인 것처럼 제시하는 경우. 이 점은 특히 민감합니다. '환각'을 검증 가능한 것으로 인식되는 것으로 바꿔줍니다.그렇지 않더라도요.
Google의 반응과 Gemma의 액세스 변경 사항
논란이 이어지면서 Google은 AI Studio에서 비개발자가 Gemma를 사용하려는 시도를 감지했다고 설명했습니다.사실적 조사를 통해. 따라서 결정했다 AI Studio에서 Gemma를 공개 액세스에서 제거하고 API를 통해서만 사용할 수 있도록 유지합니다. 애플리케이션을 만드는 사람들을 위해.
회사는 다음과 같이 강조했다. Gemma는 Gemini와 같은 소비자용 챗봇이 아닌 '개발자 우선' 모델입니다.따라서 사실 확인 도구로 설계되지 않았으며, 특정 정보 검색 도구도 갖추고 있지 않습니다. 회사 측은 다음과 같이 밝혔습니다. 환각은 산업 전체에 대한 도전입니다. 그리고 그들은 이를 완화하기 위해 적극적으로 노력합니다.
이 변경 사항은 다음을 의미합니다. 더 이상 채팅 유형의 인터페이스는 존재하지 않습니다. Gemma용 AI Studio에서 이 기능은 API로 제어되는 개발 환경 및 통합으로 제한되며, 개발자는 이 환경에서 추가적인 보호 장치와 검증을 가정합니다.
편견과 명예훼손에 대한 법적 차원과 정치적 논쟁
블랙번은 구글 CEO인 순다르 피차이에게 편지를 보내 사건의 경위를 무해한 실수가 아닌 다음과 같이 설명했습니다. AI 모델이 생성한 명예훼손상원의원은 콘텐츠가 어떻게 생성되었는지, 정치적 또는 이념적 편견을 최소화하기 위한 조치는 무엇인지, 반복을 방지하기 위해 어떤 조치를 취할 것인지에 대한 설명을 요청했으며, 또한 답변을 받기 위한 마감일도 정했습니다.
상원 상무위원회 청문회에서 해당 의원은 또한 Google의 정부 업무 및 공공 정책 부사장인 Markham Erickson과 이 문제를 제기했습니다. 그는 환각이 알려진 문제라는 점을 인정했으며 회사가 이를 완화하기 위해 노력하고 있다고 밝혔습니다.이 사건은 기업의 모델이 대중 인물의 평판을 손상시켰을 때 기업의 책임에 대한 주목을 더욱 높였습니다.
논란은 더욱 심화되었다 보수주의자들이 인용한 다른 에피소드, 같은 활동가 로비 스타벅그 그는 Gemma가 자신을 심각한 범죄와 극단주의에 거짓으로 연결했다고 주장합니다.. 이러한 맥락에서, 가능한 편견에 대한 논쟁이 다시 불붙었다 AI 시스템에서 보안 프레임워크, 모니터링, 손상 발생 시 구제 경로의 필요성.
당파적 입장을 넘어 이 사례는 대중 상호 작용을 위해 설계되지 않은 모델이 다음과 같은 결과를 낳을 수 있음을 강조합니다. 일반 보좌관으로 오해받다개발 프로토타입과 일반 대중을 위한 제품 간의 경계가 모호해지고, 생성된 내용을 검증된 정보로 받아들이면 명백한 위험이 따릅니다.
Gemma의 AI Studio 철수와 API 마크에 대한 그녀의 제한 모델 사용을 원래 의도된 분야로 재지정하려는 시도, 또한 다음과 같은 질문을 제기합니다. 진실성, 안전장치 및 책임에 대한 기준 AI가 실제 사람, 특히 공직자의 평판에 영향을 미칠 때 이를 규제해야 합니다.
나는 그의 "괴짜" 관심을 직업으로 바꾼 기술 열광자입니다. 나는 10년 넘게 최첨단 기술을 사용하고 순수한 호기심으로 온갖 프로그램을 만지작거리며 살아왔습니다. 이제 저는 컴퓨터 기술과 비디오 게임을 전공했습니다. 왜냐하면 저는 5년 넘게 기술 및 비디오 게임에 관한 다양한 웹사이트에 글을 쓰고 모든 사람이 이해할 수 있는 언어로 필요한 정보를 제공하려는 기사를 작성해 왔기 때문입니다.
질문이 있으시면 제가 알고 있는 지식은 Windows 운영 체제는 물론 휴대폰용 Android까지 다양합니다. 그리고 저는 여러분을 위한 헌신을 하고 있습니다. 저는 항상 몇 분씩만 시간을 내어 이 인터넷 세계에서 여러분이 가질 수 있는 모든 질문을 해결하도록 도와드릴 의향이 있습니다.