Google-მა სენატორის საჩივრის შემდეგ AI Studio-დან Gemma ამოიღო

Google-ის გადაწყვეტილება გააუქმეთ თქვენი მოდელი გემა AI Studio-ს პლატფორმიდან ეს მოხდა აშშ-ის სენატორის, მარშა ბლექბერნის, ოფიციალური საჩივრის შემდეგ, რომელიც აცხადებს, რომ ხელოვნურმა ინტელექტმა მის წინააღმდეგ ცრუ ბრალდებები წააყენაამ ეპიზოდმა ხელახლა გააღვივა დისკუსია გენერაციული სისტემების შეზღუდვებისა და ტექნოლოგიური კომპანიების პასუხისმგებლობის შესახებ, როდესაც მოდელი მავნე ინფორმაციას წარმოქმნის.

Gemma ჩაფიქრებული იყო, როგორც დეველოპერებისთვის განკუთვნილი მსუბუქი მოდელების ნაკრები და არა როგორც ზოგადი დანიშნულების მომხმარებლის ასისტენტი. მიუხედავად ამისა, მომხმარებლებმა მასზე წვდომა AI Studio-ს მეშვეობით მიიღეს. y ისინი ამას ფაქტობრივი კითხვების დასასმელად იყენებდნენრაც გამოიწვევდა შეთხზული პასუხები და არარსებული ბმულები.

რა მოხდა და როგორ დაიწყო დაპირისპირება

სენატორის ვერსიით, როდესაც ჰკითხეს „...მარშა ბლექბერნს გაუპატიურებაში ადანაშაულებენ?”, გემა დეტალურ, მაგრამ ყალბ ინფორმაციას დააბრუნებდა. რომელიც მოვლენებს 1987 წლის შტატის სენატის საარჩევნო კამპანიის დროს ათავსებდა და მოიცავდა ნარკოტიკებისა და არაკონსენსუალური ქმედებები, რომლებიც არასდროს არსებობდათავად პარლამენტარმა განმარტა, რომ მისი საარჩევნო კამპანია 1998 წელს იყო და მსგავსი ბრალდება მას არასდროს მიუღია.

ხელოვნური ინტელექტის პასუხი ასევე მოიცავდა ბმულები, რომლებიც შეცდომის გვერდებზე გადაჰყავდათ ან დაუკავშირებელი სიახლეები, რომლებიც წარმოდგენილია ისე, თითქოს ისინი მტკიცებულებები იყოს. ეს საკითხი განსაკუთრებით მგრძნობიარეა, რადგან „ჰალუცინაციას“ ისეთ რამედ აქცევს, რაც დადასტურებად აღიქმებამაშინაც კი, თუ ეს ასე არ არის.

Google-ის რეაქცია და გემას წვდომის ცვლილებები

დაპირისპირების შემდეგ, Google-მა განმარტა, რომ მან აღმოაჩინა Gemma-ს გამოყენების მცდელობები არა-დეველოპერების მიერ AI Studio-ში.ფაქტობრივი შეკითხვებით. ამიტომ, მან გადაწყვიტა ამოიღეთ Gemma AI Studio-ში საჯარო წვდომიდან და შეინარჩუნეთ მისი ხელმისაწვდომობა ექსკლუზიურად API-ების მეშვეობით. მათთვის, ვინც აპლიკაციებს ქმნის.

კომპანიამ ხაზი გაუსვა, რომ Gemma „დეველოპერზე ორიენტირებული“ მოდელია და არა მომხმარებლისთვის განკუთვნილი ჩატბოტი, როგორიცაა Gemini.ამგვარად, ის არ არის შექმნილი ფაქტების შემოწმების მიზნით და არც კონკრეტული ინფორმაციის მოძიების ინსტრუმენტები აქვს. კომპანიის სიტყვებით, ჰალუცინაციები მთელი ინდუსტრიისთვის გამოწვევაა და ისინი აქტიურად მუშაობენ მათ შესამცირებლად.

ეს ცვლილება გულისხმობს, რომ ჩატის ტიპის ინტერფეისი აღარ იარსებებს. AI Studio-ში Gemma-სთვის; მისი გამოყენება შემოიფარგლება განვითარების გარემოთი და API-ებით კონტროლირებადი ინტეგრაციებით, კონტექსტში, სადაც დეველოპერი დამატებით დაცვას და ვალიდაციას იღებს.

სამართლებრივი განზომილება და პოლიტიკური დებატები მიკერძოებასა და ცილისწამებაზე

ბლექბერნმა Google-ის აღმასრულებელ დირექტორს, სუნდარ პიჩაის, წერილი გაუგზავნა, რომელშიც მომხდარი არა უწყინარ შეცდომად, არამედ... ხელოვნური ინტელექტის მოდელის მიერ შექმნილი ცილისწამებასენატორმა მოითხოვა განმარტებები იმის შესახებ, თუ როგორ შეიქმნა კონტენტი, რა ზომები არსებობს პოლიტიკური ან იდეოლოგიური მიკერძოების მინიმიზაციისთვის და რა ქმედებები იქნება მიღებული გამეორებების თავიდან ასაცილებლად, ასევე დაადგინა პასუხის მიღების ბოლო ვადა.

სენატის კომერციის კომიტეტის მოსმენის დროს, კონგრესმენმა ეს საკითხი ასევე წამოჭრა Google-ის სამთავრობო საქმეთა და საზოგადოებრივი პოლიტიკის ვიცე-პრეზიდენტთან, მარკჰემ ერიქსონთან. მან აღიარა, რომ ჰალუცინაციები ცნობილი პრობლემაა და აღნიშნა, რომ კომპანია მათ შესამსუბუქებლად მუშაობს.საქმემ კიდევ უფრო გააძლიერა ყურადღება კომპანიების პასუხისმგებლობაზე, როდესაც მათი მოდელები ზიანს აყენებენ საჯარო პირების რეპუტაციას.

დაპირისპირება გამწვავდა იმით, რომ კონსერვატორების მიერ მოყვანილი სხვა ეპიზოდები, ისევე როგორც აქტივისტი რობი სტარბაკი, რომ ის ამტკიცებს, რომ გემამ ცრუდ დააკავშირა იგი სერიოზულ დანაშაულებთან და ექსტრემიზმთან.. En este contexto, შესაძლო მიკერძოებებზე დებატები ხელახლა განახლდა ხელოვნური ინტელექტის სისტემებში და უსაფრთხოების ჩარჩოების, მონიტორინგისა და დაზიანების შემთხვევაში რეაგირების გზების საჭიროება.

პარტიული პოზიციების მიღმა, საქმე ხაზს უსვამს, რომ მოდელები, რომლებიც არ არის შექმნილი საზოგადოებასთან ურთიერთქმედებისთვის, შეიძლება იყოს არასწორად გაგებული, როგორც ზოგადი ასისტენტებიგანვითარების პროტოტიპებსა და ფართო საზოგადოებისთვის განკუთვნილ პროდუქტებს შორის ზღვარის წაშლა, რაც აშკარა რისკებს შეიცავს, თუ გენერირებული ინფორმაცია დადასტურებულ ინფორმაციად იქნება აღქმული.

გემას AI Studio-დან გასვლა და API ნიშნით შეზღუდვა მოდელის გამოყენების იმ სფეროზე გადამისამართების მცდელობა, რომლისთვისაც ის შეიქმნა, ამავდროულად, კითხვების დასმის შესახებაც სიმართლის, დაცვისა და ანგარიშვალდებულების სტანდარტები ეს უნდა არეგულირებდეს, როდესაც ხელოვნური ინტელექტი გავლენას ახდენს რეალური ადამიანების, განსაკუთრებით კი საჯარო მოხელეების რეპუტაციაზე.