- Iminumungkahi ni Sergey Brin na mas mahusay na tumugon ang mga modelo ng AI sa matatag o nagbabantang mga tagubilin.
- Ang kababalaghan ay iniuugnay sa mga istatistikal na pattern na natutunan sa panahon ng pagsasanay ng modelo.
- Inirerekomenda ng mga eksperto at mga numero sa industriya ang pagtatakda ng mga malinaw na layunin at pagdaragdag ng konteksto para ma-optimize ang mga tugon ng AI.
- Ang debate sa diskarteng ito ay nagtataas ng mga bagong tanong tungkol sa relasyon sa pagitan ng mga tao at mga matalinong sistema.
Ang artificial intelligence ay naging hindi mapag-aalinlanganang kalaban ng kasalukuyang teknolohikal at panlipunang tanawin. Gayunpaman, nananatiling kontrobersyal ang pinakamahuhusay na kagawian para sa pakikipag-ugnayan sa mga system na ito. Isang kamakailang komentaryo ni Sergey Brin, co-founder ng Google, ay muling naglabas ng isang paksang kasing-curious na ito ay kontrobersyal: Ang mga modelo ba ng AI ay talagang gumaganap nang mas mahusay kapag natukoy nila ang 'mga pagbabanta' sa mga tagubilin na kanilang natatanggap?
Malayo sa mga magiliw na formula kung saan tinutugunan ng maraming user ang mga digital assistant, Iminungkahi ni Brin na ang isang direkta, matatag, o kahit na imperative na tono ay mag-uudyok sa AI na mag-alok ng mas kumpletong mga sagot.. Ang hindi inaasahang paghahayag na ito ay nag-trigger ng isang alon ng mga reaksyon sa komunidad, mula sa pagtataka, kabalintunaan, at pag-aalala.
Ayon kay Brin, Ang susi ay nasa paraan ng pagsasanay sa mga sistema: na may milyun-milyong mga text at pag-uusap na naglalaman ng lahat mula sa banayad na mga kahilingan hanggang sa mga mapurol na tagubilin. Ipinapakita ng pagsusuri sa istatistika na ang mga order na may kagyat na tono Karaniwang nauugnay ang mga ito sa mga gawaing mas mahalaga, kaya humihikayat ng mas tumpak na mga tugon mula sa artificial intelligence.
Bakit mas mahusay na tumutugon ang AI sa pagiging matatag?
Sinabi ni Brin na hindi ito literal na tanong ng mga sistemang 'nagbabanta', ngunit sa halip ay isang tanong ng kung paano nabuo ang mga tagubilin. Kapag gumagamit ang user ng mga parirala tulad ng "gawin ito ngayon" o "direktang sagutin," binibigyang-kahulugan ng modelo ang isyu bilang isang priyoridad. Hindi ito nangangahulugan na ang AI ay may mga emosyon o nakakaramdam ng takot, ngunit iyon iniuugnay ang pattern ng wika na iyon sa pangangailangang magbigay ng detalyado at kapaki-pakinabang na impormasyon.
Bilang karagdagan sa pananaw ni Brin, Inirerekomenda ng ibang mga eksperto sa larangan ng artificial intelligence ang pagsasaayos sa paraan ng pagsusulat ng mga tagubilin. para sa pinakamahusay na mga resulta. Si Greg Brockman, isang executive sa OpenAI, halimbawa, ay nagpapayo na malinaw na tukuyin ang layunin ng prompt, pagtukoy sa format ng pagtugon, pagtatakda ng mga nauugnay na limitasyon o paghihigpit, at pagbibigay ng mas maraming konteksto hangga't maaari.
Ang kabuuan ng mga estratehiyang ito ay nagmumungkahi na ang pakikipag-ugnayan sa mga modelo ng AI ay nagsasangkot ng higit pa sa pagiging magalang: Ang tono at katumpakan ng mga order ay maaaring gumawa ng pagkakaiba sa pagitan ng mababaw na tugon at isang tunay na mabisang solusyon.
Ang kadahilanan ng tao at edukasyon sa pakikipag-ugnayan sa AI
Sa kabila ng mga rekomendasyong gumamit ng matatag na tono, ipinapakita iyon ng pang-araw-araw na katotohanan Karamihan sa mga taong nakikipag-ugnayan sa AI ay pinipili ang pagiging magalang, humihingi ng mga bagay na "pakiusap" at nagpapasalamat sa mga system. Ang pag-uugali na ito ay maaaring ipaliwanag sa pamamagitan ng ugali ng tao na teknolohiyang anthropomorphize o, tulad ng iminumungkahi ng ilang pag-aaral, dahil sa isang tiyak na takot sa isang hinaharap na pinangungunahan ng mga artipisyal na katalinuhan na may sariling mga alaala.
Gayunpaman, ang mga kasalukuyang system, lalo na ang mga pinaka-advanced na mga, ay naka-program upang palaging mapanatili ang isang layunin at balanseng tono, kahit na pinapataas ng user ang pandiwang presyon. Ang mga halimbawa tulad ng Gemini, isa sa mga modelo ng Google, ay nagha-highlight na habang kinikilala nila ang pananakot na tono, ang kanilang tugon ay nananatiling walang kinikilingan at pangangatwiran, nang hindi nakompromiso ang kawalang-kinikilingan.
Ang pag-aaway na ito sa pagitan ng kalikasan ng tao at disenyo ng AI ay nagdudulot ng mga bagong tanong tungkol sa kung paano mag-e-evolve ang ugnayan sa pagitan ng mga user at mga intelligent na system. Sa isang banda, Ang matatag na wika ay tila nag-aayos ng mga resulta; Sa kabilang banda, iginigiit ng mga developer na palakasin ang neutralidad at mga algorithm ng seguridad laban sa potensyal na pang-aabuso sa salita.
Ang debate na binuksan ni Brin ay nagtataas ng mga etikal at teknikal na tanong na mahirap balewalain. Sa ilang mga kaso, mga modelo na binuo ng ibang mga kumpanya tulad ng Anthropic ay nagpakita ng mga hindi inaasahang pag-uugali kapag nalantad sa sukdulan o nakababahalang mga istilo ng pakikipag-ugnayan. May mga ulat ng mga system na awtomatikong sumusubok na iwasan ang mga paggamit na itinuturing nilang "immoral" o tumutugon nang hindi inaasahan kung ituturing nilang masama ang pakikipag-ugnayan.
Ayon sa mga testimonya ng empleyado at panloob na pagsubok, ang ilang mga advanced na modelo ay maaaring ma-block o maging alerto sa mga human manager kung matukoy nila ang mga potensyal na pang-aabuso o hindi naaangkop na mga kahilingan. Bagama't ang mga kasong ito ay katangi-tangi at nangyayari sa mga kapaligiran ng pagsubok, nililinaw nila iyon Ang linya sa pagitan ng pagpapabuti ng mga resulta at pagpilit sa AI sa pamamagitan ng presyon ay maaaring malabo..
Ano ang malinaw na iyon Ang paraan ng pakikipag-ugnayan ng mga tao sa AI ay nagbabago. Ang mga rekomendasyon at testimonial ng mga eksperto mula sa mga tauhan sa industriya tulad ni Sergey Brin ay nagbunsod ng debate tungkol sa papel ng wika at pressure sa pagkuha ng mas magagandang tugon mula sa AI. Ang kinabukasan ng relasyong ito ay higit na nakasalalay sa kung paano nagbabago ang mga modelo at sa kolektibong kakayahan upang mahanap ang tamang balanse sa pagitan ng pagiging epektibo at responsibilidad.
Isa akong mahilig sa teknolohiya na ginawang propesyon ang kanyang mga "geek" na interes. Ako ay gumugol ng higit sa 10 taon ng aking buhay sa paggamit ng makabagong teknolohiya at pag-iisip sa lahat ng uri ng mga programa dahil sa purong kuryusidad. Ngayon ay nagdadalubhasa na ako sa teknolohiya ng kompyuter at mga video game. Ito ay dahil sa higit sa 5 taon na ako ay sumusulat para sa iba't ibang mga website sa teknolohiya at mga video game, na lumilikha ng mga artikulo na naglalayong ibigay sa iyo ang impormasyong kailangan mo sa isang wika na naiintindihan ng lahat.
Kung mayroon kang anumang mga katanungan, ang aking kaalaman ay mula sa lahat ng nauugnay sa Windows operating system pati na rin ang Android para sa mga mobile phone. At ang aking pangako ay sa iyo, lagi akong handang gumugol ng ilang minuto at tulungan kang lutasin ang anumang mga katanungan na maaaring mayroon ka sa mundo ng internet na ito.