- Google нь Gemma загварыг AI Studio-аас устгаж, API-д суурилсан хөгжүүлэгчдэд ашиглахыг хязгаарладаг.
- Сенатор Марша Блэкберн хиймэл оюун ухаан нь бэлгийн хүчирхийлэлд өртсөн гэж худал гүтгэлэг үүсгэсэн гэж мэдэгджээ
- Google нь хөгжүүлэгчдэд зориулсан хэрэгслийг буруугаар ашигласан гэж буруутгаж, хий үзэгдэлтэй холбоотой бэрхшээлийг хүлээн зөвшөөрч байна
- Энэхүү хэрэг нь хиймэл оюун ухаанд нэг талыг баримтлах, гүтгэх, хариуцлагын талаарх улс төр, хуулийн маргааныг дахин эхлүүлж байна.
Google-ийн шийдвэр загвараа тат AI Studio платформоос Жемма Энэ нь АНУ-ын сенатор Марша Блэкбернийн албан ёсны гомдлын дараа гарчээ AI түүний эсрэг худал гүтгэлэг үүсгэвЭнэ анги нь загвар үүсгэгч системийн хязгаар, хортой мэдээлэл үйлдвэрлэхэд технологийн компаниудын хариуцлагын талаарх хэлэлцүүлгийг дахин эхлүүлсэн.
Жемма нь ерөнхий зориулалтын хэрэглэгчийн туслах биш харин хөгжүүлэгчдэд зориулагдсан хөнгөн загваруудын иж бүрдэл хэлбэрээр бүтээгдсэн. Тэгсэн ч гэсэн, Хэрэглэгчид AI Studio-ээр дамжуулан үүнд хандсан y Тэд үүнийг бодитой асуулт асуухад ашигласанүүнд хүргэх байсан зохиомол хариултууд болон байхгүй холбоосууд.
Юу болсон, хэрүүл маргаан хэрхэн үүссэн бэ
Сенаторын хувилбараар асуухад “Марша Блэкберн хүчингийн хэрэгт буруутгагдаж байсан уу?" Жемма нарийвчилсан боловч худал данс буцааж өгөх байсан 1987 оны муж улсын Сенатын кампанит ажлын үеэр болсон үйл явдал, хар тамхи, мансууруулах бодис олж авахын тулд дарамт шахалт үзүүлсэн гэх мэт. хэзээ ч байгаагүй зөвшилцлийн бус үйлдлүүдУИХ-ын гишүүн өөрөө 1998 онд сонгуулийн сурталчилгаагаа явуулж байсан бөгөөд хэзээ ч ийм буруутгагдаж байгаагүй гэдгээ тодотгов.
AI-ийн хариу үйлдэл нь мөн багтсан байх болно алдааны хуудас руу хүргэсэн холбоосууд эсхүл нотлох баримт мэт үзүүлсэн ямар ч холбоогүй мэдээ. Энэ цэг нь ялангуяа эмзэг байдаг, учир нь "галлюцинация" -ыг шалгах боломжтой зүйл болгон хувиргадагтийм биш байсан ч гэсэн.
Google-ийн хариу үйлдэл болон Жеммагийн хандалтын өөрчлөлт
Маргааны дараа, Google AI Studio-д хөгжүүлэгч бус хүмүүс Gemma-г ашиглах оролдлогыг илрүүлсэн гэж тайлбарлавбодит лавлагаатай. Тиймээс шийдсэн Gemma-г AI Studio дээрх нийтийн хандалтаас устгаж, зөвхөн API-уудаар дамжуулан ашиглах боломжтой байлгаарай програмуудыг бүтээдэг хүмүүст зориулсан.
Энэ талаар тус компанийнхан онцоллоо Жемма бол Gemini шиг хэрэглэгчийн чатбот биш, "хөгжүүлэгчийн анхны" загвар юм.Тиймээс энэ нь баримт шалгагчаар бүтээгдээгүй бөгөөд мэдээлэл хайх тусгай хэрэгсэлгүй болно. Компанийн хэлснээр, Галлюцинация нь бүх салбарын хувьд сорилт юм мөн тэдгээрийг багасгахын тулд идэвхтэй ажилладаг.
Энэ өөрчлөлт нь үүнийг илэрхийлж байна Цаашид чат төрлийн интерфейс байхгүй болно. Gemma-д зориулсан AI Studio дээр; Түүний хэрэглээ нь API-уудаар хянагддаг хөгжүүлэлтийн орчин болон интеграцчлалаар хязгаарлагддаг бөгөөд хөгжүүлэгч нэмэлт хамгаалалт, баталгаажуулалт хийдэг.
Эрх зүйн хэмжүүр ба улс төрийн мэтгэлцээн нь өрөөсгөл ойлголт, гүтгэлэг
Блэкберн Google-ийн гүйцэтгэх захирал Сундар Пичайд захидал илгээж, юу болсныг гэм хоргүй алдаа биш, харин AI загвараар бүтээгдсэн гүтгэлэгАгуулга хэрхэн бий болсон, улс төр, үзэл суртлын гажуудлыг багасгахын тулд ямар арга хэмжээ авах, дахин давтагдахаас сэргийлэхийн тулд ямар арга хэмжээ авах талаар тайлбар өгөхийг сенатор хүссэн бөгөөд хариу хүлээн авах эцсийн хугацааг тогтоожээ.
Сенатын Худалдааны хорооны сонсголын үеэр конгрессын гишүүн Google-ийн Засгийн газрын хэрэг, олон нийтийн бодлого хариуцсан дэд ерөнхийлөгч Мархам Эриксонд мөн энэ асуудлыг тавьсан. Тэрээр хий үзэгдэл нь мэдэгдэж байгаа асуудал гэдгийг хүлээн зөвшөөрч, компани үүнийг багасгахын тулд ажиллаж байгааг тэмдэглэв.Энэ хэрэг нь компаниудын загвар өмсөгч нь олны танил хүмүүсийн нэр хүндэд сэв суулгасан тохиолдолд тэдний хариуцлагын асуудалд анхаарлаа хандуулж байна.
гэсэн маргаан улам ширүүсэв консервативуудын иш татсан бусад ангиуд, түүн шиг идэвхтэн Робби Старбак, Que Тэрээр Жеммаг ноцтой гэмт хэрэг, хэт даврагч үзэлтэй худал холбосон гэж мэдэгджээ. Энэ хүрээнд Боломжит өрөөсгөл байдлын талаархи маргаан дахин ширүүсэв AI системүүд болон эвдрэл гарсан үед аюулгүй байдлын тогтолцоо, хяналт, тусламж авах арга замуудын хэрэгцээ.
Партизан байр сууринаас гадна олон нийтийн харилцаанд зориулагдаагүй загварууд байж болохыг энэ хэрэг онцолж байна ерөнхий туслахууд гэж буруу ойлгосонОлон нийтэд зориулсан хөгжүүлэлтийн прототипүүд болон бүтээгдэхүүний хоорондох заагийг бүдгэрүүлж, бүтээгдсэн зүйлийг баталгаажуулсан мэдээлэл болгон авах нь тодорхой эрсдэлтэй.
Жемма AI Studio-аас гарч, API тэмдэгтээр хоригдсон загварыг ашиглахыг санаачилсан талбарт нь шилжүүлэх оролдлого, мөн талаар асуулт тавихын зэрэгцээ үнэн зөв байдал, хамгаалалт, хариуцлагын стандартууд Энэ нь хиймэл оюун ухаан нь жинхэнэ хүмүүсийн, ялангуяа төрийн албан хаагчдын нэр хүндэд нөлөөлөх үед үүнийг зохицуулах ёстой.
Би өөрийн "геек" сонирхлоо мэргэжил болгож чадсан технологи сонирхогч хүн. Би амьдралынхаа 10 гаруй жилийг хамгийн сүүлийн үеийн технологи ашиглан, бүх төрлийн программыг сониуч зандаа зориулж өнгөрүүлсэн. Одоо би компьютерийн технологи, видео тоглоомоор мэргэшсэн. Учир нь би 5-аас дээш жил технологи, видео тоглоомын талаар янз бүрийн вэб сайтуудад зориулж, танд хэрэгтэй мэдээллийг хүн бүрт ойлгомжтой хэлээр өгөхийг зорьсон нийтлэлүүдийг бүтээж байна.
Хэрэв танд асуулт байгаа бол миний мэдлэг Windows үйлдлийн систем, гар утсанд зориулсан Android-тай холбоотой бүх зүйлээс хамаарна. Мөн миний амлалт бол таны өмнө, би үргэлж хэдэн минут зарцуулж, энэ интернет ертөнцөд байгаа бүх асуултыг шийдвэрлэхэд тань туслахад бэлэн байна.