Google сенатордун арызынан кийин Джемманы AI Studio'дон алып салат

Google чечими моделиңизди алып салыңыз AI Studio платформасынан Джемма Бул АКШ сенатору Марша Блэкберндин расмий даттануусунан кийин келип чыкты AI ага каршы жалган айыптарды жараттыЭпизод генеративдик системалардын чеги жана модель зыяндуу маалыматты чыгарганда технологиялык компаниялардын жоопкерчилиги жөнүндө талкууну кайрадан жандантты.

Gemma жалпы максаттагы керектөөчү жардамчысы катары эмес, иштеп чыгуучуларга багытталган жеңил моделдердин жыйындысы катары иштелип чыккан. Ошондой болсо да, Колдонуучулар ага AI Studio аркылуу кирди y Алар аны фактылуу суроолорду берүү үчүн колдонушканэмнеге алып келмек ойдон чыгарылган жооптор жана жок шилтемелер.

Эмне болду жана талаш-тартыш кантип чыкты

деген суроого сенатордун версиясы боюнча «Марша Блэкберн зордуктоо боюнча айыпталганбы?" Джемма деталдуу, бирок жалган эсепти кайтарып бермек 1987-жылдагы мамлекеттик Сенаттын кампаниясы учурундагы окуяларды жайгаштырган жана баңги заттарын жана эч качан болбогон консенсуалдык аракеттерПарламентарий өзү үгүт өнөктүгү 1998-жылы болгонун жана буга чейин мындай айып тагылбаганын тактады.

AI жообу да камтылган ката барактарына алып келген шилтемелер же эч кандай тиешеси жок жаңылыктар, алар далил катары берилген. Бул жагдай өзгөчө сезимтал, анткени "галлюцинацияны" текшерилүүчү нерсеге айлантатал болбосо да.

Google реакциясы жана Джемма кирүүсүнө болгон өзгөрүүлөр

Талаш-тартыштан кийин, Google AI Studio'до иштеп чыгуучулар эмес Gemma колдонуу аракетин аныктаганын түшүндүрдүфактылуу суроо менен. Ошондуктан, чечим кабыл алды Gemma'ны AI Studio'догу жалпыга жеткиликтүүлүктөн алып салыңыз жана аны API'лер аркылуу гана жеткиликтүү болуңуз тиркемелерди кургандар үчүн.

Бул тууралуу компания баса белгиледи Gemma Gemini сыяктуу керектөөчү чатбот эмес, "биринчи иштеп чыгуучу" модели.Ошондуктан, ал факт-текшерүүчү катары иштелип чыккан эмес жана анын атайын маалымат издөө куралдары да жок. Компаниянын сөзү менен айтканда, Галлюцинация бүтүндөй тармак үчүн кыйынчылык жана аларды жецилдетуу боюнча активдуу иштеп жатышат.

Бул өзгөртүү ушуну билдирет Мындан ары чат түрүндөгү интерфейс болбойт. Gemma үчүн AI студиясында; аны колдонуу API'лер тарабынан башкарылуучу иштеп чыгуу чөйрөлөрү жана интеграциялар менен чектелген, бул контекстте иштеп чыгуучу кошумча коргоо чараларын жана текшерүүлөрдү өзүнө алат.

Укуктук өлчөм жана бир жактуулук жана жалган жалаа боюнча саясий талкуу

Блэкберн Google компаниясынын башкы директору Сундар Пичайга кат жөнөтүп, анда эмне болгонун зыянсыз ката катары эмес, ошондой эле сүрөттөгөн. AI модели тарабынан жасалган жалааСенатор мазмун кантип түзүлгөнү, саясий же идеологиялык көз караштарды азайтуу үчүн кандай чаралар бар жана кайталанбашы үчүн кандай аракеттер көрүлөөрү тууралуу түшүндүрмө берүүнү суранды, ошондой эле жооп алуу мөөнөтүн белгиледи.

Сенаттын Соода комитетинин угуу учурунда конгрессмен бул маселени Google компаниясынын өкмөт иштери жана коомдук саясат боюнча вице-президенти Мархам Эриксонго да көтөрдү. Ал галлюцинациялар белгилүү көйгөй экенин моюнга алып, компания аларды азайтуу үчүн иштеп жатканын белгиледи.Иш ишканалардын моделдери коомдук ишмерлердин аброюна шек келтирген учурда алардын жоопкерчилигине көңүл бурууну күчөттү.

менен талаш-тартыш күчөдү консерваторлор келтирген башка эпизоддор, сыяктуу активист Робби Старбак, Que Ал Джемма тарабынан оор кылмыштар жана экстремизм менен жалган байланышта болгон деп ырастайт. Бул контекстте, Мүмкүн болгон бир тараптуулуктар тууралуу талаш-тартыштар кайрадан жанданды AI системаларында жана коопсуздук тутумдарына, мониторингге жана зыян келтирилгенде кайрылуу жолдоруна муктаждык.

Партиялык позициялардан тышкары, иш коомдук өз ара аракеттенүү үчүн иштелип чыкпаган моделдер болушу мүмкүн экенин баса белгилейт жалпы жардамчылар катары туура эмес тушунушкенжалпы коомчулук үчүн иштеп чыгуунун прототиптери менен өнүмдөрүнүн ортосундагы чекти бүдөмүктөтүү, эгерде өндүрүлгөн нерсе текшерилген маалымат катары кабыл алынса, ачык коркунучтар бар.

Джемманын AI студиясынан чыгып кетиши жана анын API белгисине камалуусу моделдин колдонулушун ал ойлоп табылган тармакка багыттоо аракети, ошол эле учурда суроолорду жаратууда чынчылдыктын, кепилдиктердин жана жоопкерчиликтин стандарттары AI чыныгы адамдардын, өзгөчө мамлекеттик кызматкерлердин аброюна таасир эткенде, бул башкарууга тийиш.