- Sergey Brin nunjukkeun yén modél AI ngabales langkung saé kana paréntah anu tegas atanapi malah ngancam.
- fenomena ieu attributed ka pola statistik diajar salila latihan model.
- Para ahli sareng inohong industri nyarankeun netepkeun tujuan anu jelas sareng nambihan kontéks pikeun ngaoptimalkeun réspon AI.
- Perdebatan ngeunaan strategi ieu ngangkat patarosan anyar ngeunaan hubungan antara manusa sareng sistem calakan.
kecerdasan jieunan geus jadi protagonis undisputed tina bentang téhnologis jeung sosial ayeuna. Nanging, prakték pangsaéna pikeun berinteraksi sareng sistem ieu tetep kontroversial. A commentary panganyarna ku Sergey Brin, ko-pangadeg Google, geus sakali deui ngajukeun topik anu panasaran sakumaha anu kontroversial: Naha modél AI saleresna langkung saé nalika aranjeunna ngadeteksi 'ancaman' dina paréntah anu ditampi?
Jauh tina rumus anu ramah anu seueur pangguna alamat asisten digital, Brin ngusulkeun yén nada langsung, tegas, atanapi bahkan imperatif bakal ngamotivasi AI pikeun nawiskeun jawaban anu langkung lengkep.. Wahyu anu teu disangka-sangka ieu nyababkeun gelombang réaksi di masarakat, mimitian ti kaheranan, ironi, sareng prihatin.
Numutkeun Brin, Koncina aya dina cara sistem dilatih: kalawan jutaan téks na paguneman ngandung sagalana ti requests halus pikeun parentah Blunt. Analisis statistik nunjukkeun yén pesenan kalawan nada urgent Aranjeunna biasana pakait sareng tugas anu langkung penting, sahingga nyorong réspon anu langkung tepat ti intelijen buatan.
Naha AI ngabales langkung saé pikeun kateguhan?
Brin boga pamadegan yén éta téh lain sacara harfiah sual sistem 'ngancam', tapi rada pertanyaan ngeunaan kumaha parentah dirumuskeun. Nalika pangguna nganggo frasa sapertos "pikeun ayeuna" atanapi "jawaban langsung," modél napsirkeun masalah éta salaku prioritas. Ieu henteu hartosna yén AI gaduh émosi atanapi karasaeun intimidasi, tapi éta ngahubungkeun éta pola basa jeung kabutuhan nyadiakeun informasi lengkep tur mangpaat.
Salian ti sudut pandang Brin, Ahli séjén dina widang kecerdasan jieunan nyarankeun nyaluyukeun cara parentah ditulis. pikeun hasil pangalusna. Greg Brockman, hiji eksekutif di OpenAI, contona, mamatahan jelas nangtukeun tujuan ajakan, nangtukeun format respon, netepkeun wates atawa larangan relevan, sarta nyadiakeun saloba mungkin konteks.
Jumlah strategi ieu nunjukkeun yén berinteraksi sareng modél AI ngalibatkeun langkung seueur tibatan sopan santun: Nada sareng katepatan pesenan tiasa ngajantenkeun bédana antara respon deet jeung solusi sabenerna éféktif.
Faktor manusa sareng atikan dina interaksi sareng AI
Sanajan saran pikeun ngagunakeun nada teguh, kanyataanana sapopoé némbongkeun éta Kalolobaan jalma anu berinteraksi sareng AI milih sopan santun, naroskeun hal-hal "punten" sareng hatur nuhun kana sistem. kabiasaan ieu bisa dipedar ku kacenderungan manusa pikeun téhnologi anthropomorphize atawa, sakumaha sababaraha studi nyarankeun, alatan sieun tangtu masa depan didominasi ku kecerdasan jieunan kalawan kenangan sorangan.
Nanging, sistem ayeuna, khususna anu paling canggih, diprogram pikeun ngajaga nada anu objektif sareng saimbang, sanaos pangguna ningkatkeun tekanan verbal. Conto sapertos Gemini, salah sahiji modél Google, nyorot yén nalika aranjeunna ngaku nada anu ngancam, résponna tetep teu kaditu teu kadieu sareng nalar, tanpa badé kompromi objektivitas.
Clash antara alam manusa jeung desain AI raises patarosan anyar ngeunaan kumaha hubungan antara pamaké sarta sistem calakan bakal mekar. Disisi lain, Basa teguh sigana nyaluyukeun hasil; Di sisi séjén, pamekar keukeuh dina strengthening neutrality sarta algoritma kaamanan ngalawan poténsi penyalahgunaan verbal.
Debat dibuka ku Brin raises patarosan etika jeung teknis anu hese malire. Dina sababaraha kasus, model dikembangkeun ku pausahaan séjén kayaning Anthropic geus nembongkeun paripolah teu kaduga lamun kakeunaan gaya interaksi ekstrim atawa stres. Aya laporan sistem anu sacara otomatis nyobian ngahindarkeun panggunaan anu aranjeunna anggap "amoral" atanapi ngaréspon anu teu disangka-sangka upami aranjeunna napsirkeun interaksi éta salaku mumusuhan.
Numutkeun kasaksian karyawan sareng uji internal, sababaraha modél canggih tiasa diblokir atanapi bahkan ngageterkeun manajer manusa upami aranjeunna ngaidentipikasi poténsi panyalahgunaan atanapi pamundut anu teu pantes. Sanaos kasus ieu luar biasa sareng lumangsung dina lingkungan tés, aranjeunna ngajelaskeun éta Garis antara ningkatkeun hasil sareng maksa AI ngaliwatan tekanan tiasa kabur..
Anu jelas nyaéta éta Cara manusa berinteraksi sareng AI parantos robih. Rekomendasi ahli sareng kasaksian ti tokoh industri sapertos Sergey Brin parantos nyababkeun perdebatan ngeunaan peran basa sareng tekanan dina kéngingkeun réspon anu langkung saé ti AI. Masa depan hubungan ieu bakal gumantung sakitu legana on kumaha model mekar sarta dina kamampuh koléktif pikeun manggihan kasaimbangan katuhu antara efektivitas jeung tanggung jawab.
Abdi mangrupikeun peminat téknologi anu parantos ngajantenkeun minat "geek" janten profési. Kuring parantos nyéépkeun langkung ti 10 taun hirup kuring nganggo téknologi canggih sareng ngintip kalayan sagala jinis program tina rasa panasaran murni. Ayeuna kuring geus husus dina téhnologi komputer jeung video kaulinan. Ieu kusabab pikeun leuwih ti 5 taun kuring geus nulis pikeun sagala rupa situs web on téhnologi jeung video kaulinan, nyieun artikel nu neangan masihan anjeun informasi nu peryogi dina basa anu kaharti ku sarerea.
Upami Anjeun gaduh patarosan, pangaweruh abdi rentang ti sagalana patali jeung sistem operasi Windows ogé Android pikeun handphone. Sareng komitmen abdi ka anjeun, kuring sok daék nyéépkeun sababaraha menit sareng ngabantosan anjeun ngabéréskeun patarosan anu anjeun gaduh di dunya internét ieu.