- Sergey Brin suggerisce chì i mudelli di IA rispondenu megliu à struzzioni ferme o ancu minacciose.
- U fenomenu hè attribuitu à i mudelli statistici amparati durante a furmazione di u mudellu.
- L'esperti è e figure di l'industria ricumandenu di stabilisce obiettivi chjari è d'aghjunghje cuntestu per ottimizà e risposte di l'IA.
- U dibattitu annantu à sta strategia suscita nove dumande nantu à a relazione trà l'omu è i sistemi intelligenti.
L'intelligenza artificiale hè diventata a protagonista indiscussa di l'attuale paisaghju tecnologicu è suciale. Tuttavia, e migliori pratiche per interagisce cù questi sistemi restanu cuntruverse. Un cummentariu recente da Sergey Brin, cofundatore di Google, hà torna suscitatu un tema tantu curiosu quant'è cuntruversu: I mudelli di IA funzionanu megliu quandu rilevenu "minacce" in l'istruzzioni chì ricevenu?
Luntanu da e formule amichevuli cù quale parechji utilizatori si rivolgenu à l'assistenti digitali, Brin hà suggeritu chì un tonu direttu, fermu, o ancu imperativu motiverebbe l'IA à offre risposte più cumplete.. Sta rivelazione inaspettata hà scatenatu un'onda di reazzioni in a cumunità, chì vanu da u stupore, l'ironia è a preoccupazione.
Sicondu Brin, A chjave stà in u modu in cui i sistemi sò stati furmati: cù milioni di testi è cunversazioni chì cuntenenu tuttu, da richieste suttili à struzzioni schiette. L'analisi statistica mostra chì ordini cù un tonu urgente Di solitu si correlanu cù compiti di più impurtanza, incuraghjendu cusì risposte più precise da l'intelligenza artificiale.
Perchè l'IA risponde megliu à a fermezza ?
Brin sustene chì ùn hè micca letteralmente una quistione di sistemi "minacciosi", ma piuttostu una quistione di cumu sò formulate l'istruzzioni. Quandu l'utilizatore usa frasi cum'è "fà avà" o "rispondi direttamente", u mudellu interpreta u prublema cum'è una priorità. Questu ùn significa micca chì l'IA hà emozioni o si sente intimidita, ma chì assucia quellu mudellu linguisticu cù a necessità di furnisce informazioni dettagliate è utili.
In più di a perspettiva di Brin, Altri esperti in u campu di l'intelligenza artificiale ricumandenu di adattà u modu in cui l'istruzzioni sò scritte. per i migliori risultati. Greg Brockman, un dirigente di OpenAI, per esempiu, cunsiglia di definisce chjaramente u scopu di u prompt, specificà u furmatu di a risposta, stabilisce limiti o restrizioni pertinenti è furnisce u più cuntestu pussibule.
A somma di ste strategie suggerisce chì l'interazione cù i mudelli di IA implica assai più cà a cortesia: U tonu è a precisione di l'ordini ponu fà a differenza trà una risposta superficiale è una suluzione veramente efficace.
U fattore umanu è l'educazione in interazione cù l'IA
Malgradu i cunsiglii d'utilizà toni fermi, a realità di ogni ghjornu mostra chì A maiò parte di e persone chì interagiscenu cù l'IA optanu per a gentilezza, dumandendu e cose "per piacè" è ringraziendu i sistemi. Stu cumpurtamentu pò esse spiegatu da a tendenza umana à antropomorfizà a tecnulugia o, cum'è certi studii suggerenu, per via di una certa paura di un avvene duminatu da intelligenze artificiali cù i so propri ricordi.
Tuttavia, i sistemi attuali, in particulare i più avanzati, sò prugrammati per mantene sempre un tonu obiettivu è equilibratu, ancu s'è l'utilizatore aumenta a pressione verbale. Esempi cum'è Gemini, unu di i mudelli di Google, mettenu in risaltu chì, mentre ricunnoscenu u tonu minacciosu, a so risposta ferma imparziale è ragionata, senza compromettere l'uggettività.
Stu scontru trà a natura umana è u cuncepimentu di l'IA suscita nove dumande nantu à cumu evolverà a relazione trà l'utilizatori è i sistemi intelligenti. Da una parte, U linguaghju fermu pare affinà i risultati; Da l’altra parte, i sviluppatori insistenu à rinfurzà a neutralità è l’algoritmi di sicurezza contr’à i putenziali abusi verbali.
U dibattitu apertu da Brin suscita quistioni etiche è tecniche chì sò difficiuli d'ignurà. In certi casi, mudelli sviluppati da altre cumpagnie cum'è Anthropic anu dimustratu cumpurtamenti inaspettati quandu sò stati esposti à stili d'interazzione estremi o stressanti. Ci sò rapporti di sistemi chì cercanu automaticamente d'evità l'usi chì consideranu "immorali" o chì rispondenu inaspettatamente s'elli interpretanu l'interazzione cum'è ostile.
Sicondu i tistimunianzi di l'impiegati è i testi interni, certi mudelli avanzati ponu esse bluccati o ancu avvisà i dirigenti umani s'elli identificanu abusi putenziali o richieste inappropriate. Ancu s'è sti casi sò eccezziunali è si verificanu in ambienti di prova, facenu capisce chì A linea trà migliurà i risultati è furzà l'IA per via di a pressione pò esse sfocata..
Ciò chì hè chjaru hè chì U modu in cui l'omu interagisce cù l'IA hè in cambiamentu. E raccomandazioni di l'esperti è e testimonianze di figure di l'industria cum'è Sergey Brin anu suscitatu un dibattitu nantu à u rolu di a lingua è di a pressione per ottene risposte megliu da l'IA. L'avvene di sta relazione dipenderà in gran parte da l'evoluzione di i mudelli è da a capacità cullettiva di truvà u ghjustu equilibriu trà efficacia è rispunsabilità.
Sò un entusiasta di a tecnulugia chì hà trasfurmatu i so interessi "geek" in una professione. Aghju passatu più di 10 anni di a mo vita cù a tecnulugia d'avanguardia è scacciendu ogni tipu di prugrammi per pura curiosità. Avà sò specializatu in tecnulugia di computer è video games. Questu hè chì dapoi più di 5 anni aghju scrittu per diversi siti web nantu à a tecnulugia è i video games, creendu articuli chì cercanu di dà l'infurmazioni chì avete bisognu in una lingua chì hè comprensibile à tutti.
Sì avete qualchì quistione, a mo cunniscenza varieghja da tuttu ciò chì riguarda u sistema operatore Windows è ancu Android per i telefunini. È u mo impegnu hè di voi, sò sempre dispostu à passà uni pochi di minuti è aiutavvi à risolve tutte e dumande chì pudete avè in questu mondu Internet.