Google ដក Gemma ចេញពី AI Studio បន្ទាប់ពីពាក្យបណ្តឹងរបស់សមាជិកព្រឹទ្ធសភា

ការសម្រេចចិត្តរបស់ Google ដកគំរូរបស់អ្នក។ Gemma ពីវេទិកា AI Studio វាកើតឡើងបន្ទាប់ពីពាក្យបណ្តឹងជាផ្លូវការពីសមាជិកព្រឹទ្ធសភាអាមេរិក Marsha Blackburn ដែលអះអាងដូច្នេះ AI បានបង្កើតការចោទប្រកាន់មិនពិតប្រឆាំងនឹងគាត់វគ្គនេះបានបន្តការពិភាក្សាអំពីដែនកំណត់នៃប្រព័ន្ធបង្កើត និងទំនួលខុសត្រូវរបស់ក្រុមហ៊ុនបច្ចេកវិជ្ជា នៅពេលដែលគំរូផលិតព័ត៌មានដែលបង្កគ្រោះថ្នាក់។

Gemma ត្រូវ​បាន​គេ​ចាត់​ទុក​ថា​ជា​សំណុំ​នៃ​ម៉ូដែល​ទម្ងន់​ស្រាល​ដែល​តម្រង់​ទៅ​រក​អ្នក​អភិវឌ្ឍន៍ មិន​មែន​ជា​ជំនួយ​ការ​អតិថិជន​ដែល​មាន​គោលបំណង​ទូទៅ​នោះ​ទេ។ ទោះយ៉ាងនេះក្តី អ្នកប្រើប្រាស់បានចូលប្រើវាតាមរយៈ AI Studio y ពួកគេបានប្រើវាដើម្បីសួរសំណួរជាក់ស្តែងដែលនឹងនាំឱ្យមាន ចម្លើយដែលប្រឌិត និងតំណភ្ជាប់ដែលមិនមាន.

តើ​មាន​អ្វី​កើត​ឡើង និង​តើ​ជម្លោះ​កើត​ឡើង​ដោយ​របៀប​ណា

យោងតាមកំណែរបស់សមាជិកព្រឹទ្ធសភា នៅពេលសួរថា "Marsha Blackburn ត្រូវបានចោទប្រកាន់ពីបទរំលោភសេពសន្ថវៈ?”, Gemma នឹងត្រលប់មកវិញនូវគណនីលម្អិត ប៉ុន្តែមិនពិត ដែលបានដាក់ព្រឹត្តិការណ៍ក្នុងអំឡុងពេលយុទ្ធនាការព្រឹទ្ធសភារដ្ឋឆ្នាំ 1987 និងរួមបញ្ចូលសម្ពាធដែលត្រូវបានចោទប្រកាន់ដើម្បីទទួលបានគ្រឿងញៀននិង អំពើដែលមិនមានការព្រមព្រៀងគ្នាដែលមិនធ្លាប់មានសមាជិកសភាខ្លួននាងផ្ទាល់បានបំភ្លឺថាយុទ្ធនាការរបស់នាងគឺនៅឆ្នាំ 1998 ហើយថានាងមិនដែលបានទទួលការចោទប្រកាន់បែបនេះទេ។

ការឆ្លើយតបរបស់ AI ក៏នឹងរួមបញ្ចូលផងដែរ។ តំណភ្ជាប់ដែលនាំទៅដល់ទំព័រកំហុស ឬព័ត៌មានដែលមិនពាក់ព័ន្ធ បង្ហាញដូចជាភស្តុតាង។ ចំណុចនេះគឺរសើបជាពិសេសដោយសារតែ បង្វែរ 'ការយល់ច្រឡំ' ទៅជាអ្វីមួយដែលត្រូវបានគេយល់ថាអាចផ្ទៀងផ្ទាត់បាន។ទោះបីជាវាមិនមែនក៏ដោយ។

ប្រតិកម្មរបស់ Google និងការផ្លាស់ប្តូរចំពោះការចូលប្រើរបស់ Gemma

ក្រោយ​កើត​មាន​ជម្លោះ Google បានពន្យល់ថាខ្លួនបានរកឃើញការប៉ុនប៉ងប្រើប្រាស់ Gemma ដោយអ្នកមិនមែនអ្នកអភិវឌ្ឍន៍នៅក្នុង AI Studioជាមួយនឹងការសាកសួរការពិត។ ដូច្នេះ​ហើយ​បាន​សម្រេច យក Gemma ចេញពីការចូលប្រើជាសាធារណៈនៅក្នុង AI Studio ហើយរក្សាវាឱ្យអាចប្រើបានទាំងស្រុងតាមរយៈ APIs សម្រាប់អ្នកដែលបង្កើតកម្មវិធី។

ក្រុមហ៊ុនបានសង្កត់ធ្ងន់ Gemma គឺជាគំរូ 'អ្នកអភិវឌ្ឍន៍ដំបូង' ហើយមិនមែនជា chatbot របស់អ្នកប្រើប្រាស់ដូច Gemini នោះទេ។ដូច្នេះ វាមិនត្រូវបានរចនាឡើងជាអ្នកត្រួតពិនិត្យការពិត ហើយក៏មិនមានឧបករណ៍ទាញយកព័ត៌មានជាក់លាក់ដែរ។ នៅក្នុងពាក្យរបស់ក្រុមហ៊ុន, Hallucinations គឺជាបញ្ហាប្រឈមសម្រាប់ឧស្សាហកម្មទាំងមូល ហើយពួកគេធ្វើការយ៉ាងសកម្មដើម្បីកាត់បន្ថយពួកគេ។

ការផ្លាស់ប្តូរនេះមានន័យថា វា​នឹង​លែង​មាន​ចំណុច​ប្រទាក់​ប្រភេទ​ជជែក​ទៀត​ហើយ។ នៅក្នុង AI Studio សម្រាប់ Gemma; ការប្រើប្រាស់របស់វាត្រូវបានដាក់កម្រិតចំពោះបរិស្ថានអភិវឌ្ឍន៍ និងការរួមបញ្ចូលដែលគ្រប់គ្រងដោយ APIs ដែលជាបរិបទដែលអ្នកអភិវឌ្ឍន៍សន្មតថាមានការការពារ និងសុពលភាពបន្ថែម។

វិមាត្រផ្លូវច្បាប់ និងការជជែកដេញដោលនយោបាយលើភាពលំអៀង និងការបរិហារកេរ្តិ៍

Blackburn បានផ្ញើលិខិតមួយទៅកាន់នាយកប្រតិបត្តិ Google លោក Sundar Pichai ដោយពណ៌នាអំពីអ្វីដែលបានកើតឡើងមិនមែនជាកំហុសដែលគ្មានគ្រោះថ្នាក់នោះទេ ប៉ុន្តែដូចជា ការបរិហារកេរ្តិ៍ដែលផលិតដោយគំរូ AIសមាជិកព្រឹទ្ធសភាបានស្នើសុំការពន្យល់អំពីរបៀបដែលខ្លឹមសារត្រូវបានបង្កើត វិធានការអ្វីខ្លះដែលមានដើម្បីកាត់បន្ថយភាពលំអៀងផ្នែកនយោបាយ ឬមនោគមវិជ្ជា និងសកម្មភាពអ្វីដែលនឹងត្រូវធ្វើឡើងដើម្បីការពារការកើតឡើងដដែលៗ ព្រមទាំងកំណត់កាលបរិច្ឆេទសម្រាប់ការទទួលបានការឆ្លើយតបផងដែរ។

ក្នុង​អំឡុង​ពេល​សវនាការ​របស់​គណៈកម្មាធិការ​ពាណិជ្ជកម្ម​ព្រឹទ្ធសភា សមាជិក​សភា​ក៏​បាន​លើក​ឡើង​ពី​បញ្ហា​នេះ​ជាមួយ​នឹង​លោក Markham Erickson អនុប្រធាន​កិច្ចការ​រដ្ឋាភិបាល និង​គោលនយោបាយ​សាធារណៈ​របស់ Google ដែល គាត់បានទទួលស្គាល់ថាការយល់ច្រលំគឺជាបញ្ហាដែលគេដឹងហើយបានកត់សម្គាល់ថាក្រុមហ៊ុនកំពុងធ្វើការដើម្បីកាត់បន្ថយពួកគេ។ករណីនេះបានបង្កើនការយកចិត្តទុកដាក់លើការទទួលខុសត្រូវរបស់ក្រុមហ៊ុននៅពេលដែលគំរូរបស់ពួកគេធ្វើឱ្យខូចកេរ្តិ៍ឈ្មោះរបស់បុគ្គលសាធារណៈ។

ភាពចម្រូងចម្រាសកាន់តែខ្លាំងឡើងជាមួយ វគ្គផ្សេងទៀតដកស្រង់ដោយអ្នកអភិរក្សដូចនោះ សកម្មជន Robby Starbuck, ថា គាត់អះអាងថាត្រូវបានភ្ជាប់ដោយ Gemma មិនពិតទៅនឹងឧក្រិដ្ឋកម្មធ្ងន់ធ្ងរ និងជ្រុលនិយមនៅក្នុងបរិបទនេះ ការជជែកវែកញែកអំពីភាពលំអៀងដែលអាចកើតមានត្រូវបានគ្រប់គ្រង នៅក្នុងប្រព័ន្ធ AI និងតម្រូវការសម្រាប់ក្របខណ្ឌសុវត្ថិភាព ការត្រួតពិនិត្យ និងវិធីដោះស្រាយនៅពេលមានការខូចខាតកើតឡើង។

លើសពីមុខតំណែងបក្សពួក ករណីគូសបញ្ជាក់ដែលគំរូដែលមិនត្រូវបានបង្កើតឡើងសម្រាប់អន្តរកម្មសាធារណៈអាចជា យល់ច្រឡំថាជាជំនួយការទូទៅការធ្វើឱ្យព្រិលបន្ទាត់រវាងគំរូអភិវឌ្ឍន៍ និងផលិតផលសម្រាប់សាធារណជនទូទៅ ជាមួយនឹងហានិភ័យជាក់ស្តែង ប្រសិនបើអ្វីដែលត្រូវបានបង្កើតត្រូវបានយកជាព័ត៌មានដែលបានផ្ទៀងផ្ទាត់។

ការដកខ្លួនរបស់ Gemma ពី AI Studio និងការបង្ខាំងនាងទៅនឹងសញ្ញា API ការប៉ុនប៉ងប្តូរទិសការប្រើប្រាស់គំរូទៅកាន់វាលដែលវាត្រូវបានបង្កើតឡើងខណៈពេលដែលការលើកឡើងនូវសំណួរអំពី ស្តង់ដារនៃភាពត្រឹមត្រូវ ការការពារ និងការទទួលខុសត្រូវ ដែលគួរតែគ្រប់គ្រងនៅពេលដែល AI ប៉ះពាល់ដល់កេរ្តិ៍ឈ្មោះរបស់មនុស្សពិតប្រាកដ ជាពិសេសមន្ត្រីសាធារណៈ។