OpenAI ხსნის შინაარსის გაფრთხილებებს ChatGPT-ში: თქვენ შეამჩნევთ ნაკლებ ცენზურას

OpenAI-მ გადაწყვიტა წაშალოს შინაარსის გაფრთხილებები ChatGPT-ზე, ის შეტყობინებები, რომლებიც გამოჩნდა, როდესაც მომხმარებლებმა შეიტანეს შეტყობინებები, რომლებიც შეიძლება არღვევდნენ მათ პოლიტიკას. ამ ღონისძიებას აქვს მთავარი მიზანი გააუმჯობესე მომხმარებლის გამოცდილება, არასაჭირო ფილტრების აღმოფხვრა და ინტერნეტის მომხმარებლების მეტი ავტონომიის მინიჭება ჩატბოტთან ურთიერთობისას.

ინფორმაცია დაადასტურა OpenAI-ის მოდელის ქცევის გუნდის წევრმა ლაურენტია რომანიუკმა, რომელმაც სოციალურ ქსელ X-ში განმარტა, რომ კომპანიამ აირჩია ამ გაფრთხილებებისგან თავის დაღწევა. შეამცირეთ „უსასყიდლო ან აუხსნელი უარი“. გადაწყვეტილებას ასევე დაუჭირა მხარი ნიკ ტურლიმ, ChatGPT-ის პროდუქტის ხელმძღვანელმა, რომელმაც განაცხადა, რომ მომხმარებლებს უნდა „შეიძლება გამოიყენო ChatGPT, როგორც მათ საუკეთესოდ შეეფერება“, რამდენადაც ისინი პატივს სცემენ კანონს და არ იყენებენ მავნე პლატფორმას.

გაფრთხილებების მოხსნის გავლენა მომხმარებლის გამოცდილებაზე

აქამდე ChatGPT აჩვენებდა გაფრთხილებებს ნარინჯისფერ ან წითელ ტონებში მომხმარებლის გარკვეული მოთხოვნებისთვის, რაც მათ აფრთხილებდა, რომ კონტენტი შეიძლება არღვევდეს პლატფორმის წესებს. თუმცა, OpenAI-მ დაადგინა, რომ ამ მესიჯებიდან ბევრი იყო არასაჭირო და იმედგაცრუება გამოიწვია., განსაკუთრებით მაშინ, როდესაც მომხმარებლები შეგნებულად არ ცდილობდნენ რაიმე წესის დარღვევას.

მიუხედავად ამ შეტყობინებების მოხსნისა, ეს არ ნიშნავს, რომ ChatGPT ახლა პასუხობს შეზღუდვების გარეშე. OpenAI გააგრძელებს ისეთი მოთხოვნების დაბლოკვას, რომლებიც აღძრავს ძალადობას, ხელს უწყობს მავნე დეზინფორმაციას ან მოიცავს აკრძალულ შინაარსს, როგორიცაა ბავშვების ექსპლუატაციის მასალები ან მგრძნობიარე პერსონალური მონაცემები. თუმცა, AI საშუალებას მისცემს ა განხილულ საკითხებზე დისკუსიების უფრო ფართო სფერო მგრძნობიარე.

ცვლილება გამოწვეულია გარე წნევით?

OpenAI-ის განცხადება მოდის იმ დროს, როდესაც ხელოვნური ინტელექტის კომპანიები კრიტიკის წინაშე დგანან მათი შინაარსის მოდერაციის პოლიტიკის გამო. ფიგურები მოსწონს ილონ მასკი და დევიდ საქსი მათ კითხულობენ, მოქმედებენ თუ არა ხელოვნური ინტელექტის მოდელები, როგორც "ცენზორები". და ემხრობა გარკვეულ პოლიტიკურ დისკურსებს სხვების საზიანოდ. შესაძლებელია, რომ ამ გაფრთხილებების მოხსნა არის OpenAI-ის მცდელობა, დაშორდეს ამ ბრალდებებს და თავიდან აიცილოს კონფლიქტები სექტორებთან, რომლებიც უფრო ზომიერ ზომიერებას ემხრობა. მოდუნებული.

გარდა ამისა, OpenAI-მ განაახლა თავისი მოდელის სპეც, დოკუმენტი, სადაც თქვენ განსაზღვრავთ წესებს, რომლებიც არეგულირებს თქვენი AI მოდელის ქცევას. ამ ახალ ვერსიაში კომპანია ხაზს უსვამს, რომ მისი მოდელები მათ უნდა შეინარჩუნონ ნეიტრალიტეტი საკამათო საკითხებში და თავიდან აიცილოთ სარედაქციო პოზიცია.

შეზღუდვები, რომლებიც ჯერ კიდევ არსებობს ChatGPT-ში

მიუხედავად იმისა, რომ OpenAI-მ ამოიღო მრავალი გაფრთხილება, შინაარსის მოდერაცია რჩება ადგილზე. კომპანიამ ცხადყო, რომ მისი AI არ გამოიმუშავებს პასუხებს, რომლებიც ხელს შეუწყობს უკანონო ქმედებებს, სიძულვილის შეტყობინებებს ან სახიფათო ინფორმაციას, როგორიცაა წარმოების ინსტრუქციები. ასაფეთქებელი ნივთიერებები.

გარდა ამისა, OpenAI ადგენს გარკვეულ კონტექსტებს, რომლებშიც მის მოდელებს შეუძლიათ გაუმკლავდნენ მგრძნობიარე თემებს. მაგალითად, ეროტიკული ან ძალადობრივი შინაარსის განხილვა შესაძლებელია კონკრეტულ სიტუაციებში, მაგალითად საგანმანათლებლო, ისტორიული ან სამედიცინო. თუმცა, ხელოვნური ინტელექტი კვლავ უარყოფს ნებისმიერ ურთიერთქმედებას, რომელიც მოიცავს ბავშვების ექსპლუატაციას ან უსაფრთხოების რისკებს.

რას უნდა ელოდონ მომხმარებლები ამიერიდან?

მიუხედავად იმისა, რომ ცვლილება მოიტანს მეტი მოქნილობა პასუხებში რისი გენერირებაც ChatGPT-ს შეუძლია, ზოგიერთმა სექტორმა გამოთქვა შეშფოთება ამ ღონისძიების მოქმედების შესახებ. მიუხედავად იმისა, რომ ხილული გაფრთხილებები ამოღებულია, ბევრი შიშობს, რომ შეზღუდვების მოხსნამ შეიძლება გამოიწვიოს დეზინფორმაციის შემთხვევით გავრცელება ან პრობლემური ურთიერთქმედების შესაძლებლობა მკაფიო ზომიერების გარეშე.

OpenAI-დან აცხადებენ, რომ AI-ის მოდელი გააგრძელებს მუშაობას ა აქტიური ზედამხედველობა, და რომ შემოტანილი ცვლილებები გამიზნულია დაშვებისთვის უფრო ბუნებრივი და ნაკლებად შემზღუდველი გამოყენება პლატფორმაზე პასუხის უსაფრთხოების ან მთლიანობის შელახვის გარეშე.

ამ მხრივ, OpenAI, როგორც ჩანს, ცდილობს იპოვოს ბალანსი მათ შორის აძლევს მომხმარებლებს მეტ კონტროლს AI-სთან ურთიერთქმედებებზე y კონტენტის გენერირებაში ეთიკის დაცვა. უახლოეს თვეებში მთავარი იქნება იმის დანახვა, თუ როგორ იმოქმედებს ეს ცვლილება ChatGPT-ის რეპუტაციაზე და მიჰყვებიან თუ არა სხვა ხელოვნური ინტელექტის დეველოპერები.