ხელოვნური ინტელექტი უკეთ მუშაობს, როდესაც მას მტკიცედ და მუქარით ესაუბრები? სერგეი ბრინი ასე ფიქრობს.

ხელოვნური ინტელექტი თანამედროვე ტექნოლოგიური და სოციალური ლანდშაფტის უდავო პროტაგონისტი გახდა. თუმცა, ამ სისტემებთან ურთიერთქმედების საუკეთესო პრაქტიკა კვლავ საკამათოა. ბოლოდროინდელი კომენტარი სერგეი ბრინი, Google-ის თანადამფუძნებელი, კიდევ ერთხელ წამოჭრა თემა, რომელიც ისეთივე საინტერესოა, როგორც საკამათო: ხელოვნური ინტელექტის მოდელები რეალურად უკეთ მუშაობენ, როდესაც ისინი მიღებულ ინსტრუქციებში „საფრთხეებს“ აღმოაჩენენ?

შორს იმ მეგობრული ფორმულებისგან, რომლითაც ბევრი მომხმარებელი ციფრულ ასისტენტებს მიმართავს, ბრინმა ივარაუდა, რომ პირდაპირი, მტკიცე ან თუნდაც იმპერატიული ტონი ხელოვნურ ინტელექტს უფრო სრულყოფილი პასუხების შეთავაზებისკენ მოტივაციას მისცემდა.. ამ მოულოდნელმა აღმოჩენამ საზოგადოებაში რეაქციების ტალღა გამოიწვია, რომელიც გაოცებას, ირონიასა და შეშფოთებას მოიცავდა.

ბრინის თქმით, მთავარია, თუ როგორ არის სისტემები გაწვრთნილიმილიონობით ტექსტითა და საუბრით, რომლებიც შეიცავს ყველაფერს, დახვეწილი თხოვნებიდან დაწყებული, უხეში ინსტრუქციებით დამთავრებული. სტატისტიკური ანალიზი აჩვენებს, რომ შეკვეთები სასწრაფო ტონით ისინი, როგორც წესი, უფრო მნიშვნელოვანი ამოცანების შესრულებას უკავშირდება., რითაც ხელს უწყობს ხელოვნური ინტელექტის უფრო ზუსტ პასუხებს.

რატომ რეაგირებს ხელოვნური ინტელექტი უკეთ სიმტკიცეზე?

ბრინი ამტკიცებს, რომ საქმე სიტყვასიტყვით „საფრთხის შემცველ“ სისტემებს კი არა, არამედ როგორ არის ფორმულირებული ინსტრუქციები. როდესაც მომხმარებელი იყენებს ფრაზებს, როგორიცაა „გააკეთე ახლავე“ ან „პირდაპირ უპასუხე“, მოდელი საკითხს პრიორიტეტულად აღიქვამს. ეს არ ნიშნავს, რომ ხელოვნურ ინტელექტს ემოციები აქვს ან შეშინებას გრძნობს, არამედ იმას, რომ ამ ენობრივ ნიმუშს აკავშირებს დეტალური და სასარგებლო ინფორმაციის მიწოდების საჭიროებასთან.

ბრინის პერსპექტივის გარდა, ხელოვნური ინტელექტის სფეროს სხვა ექსპერტები გვირჩევენ ინსტრუქციების წერის წესის შეცვლას. საუკეთესო შედეგებისთვის. მაგალითად, OpenAI-ის აღმასრულებელი დირექტორი გრეგ ბროკმანი გვირჩევს, ნათლად განვსაზღვროთ მოთხოვნის მიზანი, დავაკონკრეტოთ პასუხის ფორმატი, დავაწესოთ შესაბამისი ლიმიტები ან შეზღუდვები და მივაწოდოთ რაც შეიძლება მეტი კონტექსტი.

ამ სტრატეგიების ჯამი იმაზე მიუთითებს, რომ ხელოვნური ინტელექტის მოდელებთან ურთიერთქმედება გაცილებით მეტს მოიცავს, ვიდრე უბრალოდ თავაზიანობაა: შეკვეთების ტონსა და სიზუსტეს შეუძლია განსხვავება შექმნას ზედაპირულ პასუხსა და ჭეშმარიტად ეფექტურ გადაწყვეტას შორის.

დაკავშირებული სტატია:

Google წარმოგიდგენთ AI-ით გაძლიერებულ ძიებას Gmail-ში

ადამიანური ფაქტორი და განათლება ხელოვნურ ინტელექტთან ურთიერთქმედებაში

მკაცრი ტონების გამოყენების რეკომენდაციების მიუხედავად, ყოველდღიური რეალობა ამას აჩვენებს ხელოვნურ ინტელექტთან ურთიერთობისას ადამიანების უმეტესობა თავაზიანობას ირჩევს, „გთხოვთ“-ის თხოვნით და სისტემებისთვის მადლობის გადახდით. ეს ქცევა შეიძლება აიხსნას ადამიანის მიდრეკილებით ანთროპომორფიზაციის ტექნოლოგია ან, როგორც ზოგიერთი კვლევა მიუთითებს, მომავლის გარკვეული შიშის გამო, რომელშიც დომინირებენ საკუთარი მეხსიერების მქონე ხელოვნური ინტელექტი.

თუმცა, ამჟამინდელი სისტემები, განსაკუთრებით ყველაზე მოწინავეები, დაპროგრამებულია ისე, რომ ყოველთვის შეინარჩუნონ ობიექტური და დაბალანსებული ტონი, მაშინაც კი, თუ მომხმარებელი გაზრდის ვერბალურ ზეწოლას. ისეთი მაგალითები, როგორიცაა Google-ის ერთ-ერთი მოდელი, Gemini, ხაზს უსვამს იმას, რომ მიუხედავად იმისა, რომ ისინი აღიარებენ მუქარის ტონს, მათი რეაქცია მიუკერძოებელი და გონივრული რჩება ობიექტურობის კომპრომისის გარეშე.

ადამიანის ბუნებასა და ხელოვნური ინტელექტის დიზაინს შორის ეს დაპირისპირება ახალ კითხვებს ბადებს იმის შესახებ, თუ როგორ განვითარდება მომხმარებლებსა და ინტელექტუალურ სისტემებს შორის ურთიერთობა. ერთი მხრივ, როგორც ჩანს, მკაცრი ენა შედეგებს აზუსტებს; მეორე მხრივ, დეველოპერები დაჟინებით მოითხოვენ ნეიტრალიტეტისა და უსაფრთხოების ალგორითმების გაძლიერებას პოტენციური სიტყვიერი შეურაცხყოფისგან.

ბრინის მიერ წამოწყებული დებატები ეთიკურ და ტექნიკურ კითხვებს ბადებს, რომელთა იგნორირება რთულია. ზოგიერთ შემთხვევაში, მოდელები, რომლებიც შემუშავებულია სხვა კომპანიების, მაგალითად Anthropic-ის მიერ ექსტრემალური ან სტრესული ურთიერთქმედების სტილის ზემოქმედებისას გამოავლინეს მოულოდნელი ქცევები. არსებობს ცნობები სისტემების შესახებ, რომლებიც ავტომატურად ცდილობენ თავიდან აიცილონ ისეთი გამოყენება, რომელსაც ისინი „ამორალურად“ მიიჩნევენ ან მოულოდნელად რეაგირებენ, თუ ისინი ურთიერთქმედებას მტრულად აღიქვამენ.

თანამშრომლების ჩვენებებისა და შიდა ტესტირების თანახმად, გარკვეული მოწინავე მოდელები შეიძლება დაიბლოკოს ან თუნდაც ადამიანი მენეჯერების გაფრთხილება, თუ ისინი პოტენციურ ბოროტად გამოყენებას ან შეუსაბამო მოთხოვნებს აღმოაჩენენ. მიუხედავად იმისა, რომ ეს შემთხვევები გამონაკლისია და ტესტირების გარემოში ხდება, ისინი ნათლად აჩვენებს, რომ შედეგების გაუმჯობესებასა და ხელოვნური ინტელექტის ზეწოლის გზით იძულებას შორის ზღვარი შეიძლება ბუნდოვანი იყოს..

რაც ცხადია ის არის იცვლება ადამიანების ხელოვნურ ინტელექტთან ურთიერთქმედების წესი. ექსპერტების რეკომენდაციებმა და ინდუსტრიის ისეთი მოღვაწეების ჩვენებებმა, როგორიცაა სერგეი ბრინი, გამოიწვია დებატები ენისა და ზეწოლის როლზე ხელოვნური ინტელექტის მხრიდან უკეთესი რეაგირების მიღებაში. ამ ურთიერთობის მომავალი დიდწილად დამოკიდებული იქნება იმაზე, თუ როგორ განვითარდება მოდელები და კოლექტიურ უნარზე, იპოვონ სწორი ბალანსი ეფექტურობასა და პასუხისმგებლობას შორის.

დაკავშირებული სტატია:

როგორ შევქმნათ სრულყოფილი მოთხოვნა ChatGPT-ში: სრული სახელმძღვანელო

ალბერტო ნავარო

მე ვარ ტექნოლოგიების ენთუზიასტი, რომელმაც თავისი „გიკის“ ინტერესები პროფესიად აქცია. ჩემი ცხოვრების 10 წელზე მეტი გავატარე უახლესი ტექნოლოგიის გამოყენებით და ყველა სახის პროგრამაში სუფთა ცნობისმოყვარეობის გამო. ახლა სპეციალიზირებული ვარ კომპიუტერულ ტექნოლოგიებსა და ვიდეო თამაშებში. ეს იმიტომ ხდება, რომ 5 წელზე მეტია ვწერ ტექნოლოგიებისა და ვიდეო თამაშების სხვადასხვა ვებსაიტებზე, ვქმნი სტატიებს, რომლებიც ცდილობენ მოგაწოდოთ თქვენთვის საჭირო ინფორმაცია ყველასთვის გასაგებ ენაზე.

თუ თქვენ გაქვთ რაიმე შეკითხვები, ჩემი ცოდნა მერყეობს Windows ოპერაციულ სისტემასთან და ასევე Android-თან დაკავშირებულ ყველაფერზე მობილური ტელეფონებისთვის. და ჩემი ვალდებულება არის თქვენ მიმართ, მე ყოველთვის მზად ვარ გავატარო რამდენიმე წუთი და დაგეხმაროთ გადაჭრას ნებისმიერი შეკითხვა, რომელიც შეიძლება გქონდეთ ამ ინტერნეტ სამყაროში.