Το OpenAI ενισχύει το Sora 2 μετά την κριτική του Bryan Cranston: νέα εμπόδια κατά των deepfakes

Μετά από ένα κύμα βίντεο που δημιουργήθηκαν με τεχνητή νοημοσύνη, OpenAI έχει ενισχύσει η εφαρμογή Sora 2 για να σταματήσει η κλοπή ταυτότηταςΤο κίνημα έρχεται μετά την εικόνα και τη φωνή του Bryan Cranston εμφανίζονται σε κλιπ που δημιουργούνται χωρίς εξουσιοδότηση, επανέναρξη της συζήτησης σχετικά με τη χρήση των προσώπων και των φωνών των διερμηνέων.

Η εταιρεία λέει ότι έχει συνεργαστεί με την SAG-AFTRA και μεγάλους οργανισμούς (CAA, UTA, ATA) για την άρση των φραγμών ασφαλείας και τη θέσπιση ενός αυστηρότερου συστήματος συναίνεσης. Σύμφωνα με πηγές του κλάδου, Αυτά τα μέτρα επιδιώκουν να διασφαλίσουν ότι η πλατφόρμα δημιουργίας βίντεο από κείμενο μην επιτρέπετε σε έναν καλλιτέχνη να απαντήσει χωρίς άδεια.

Τι αλλάζει στο Sora 2;

Μεταξύ των ανακοινωθέντων προσαρμογών είναι ένα σύνολο φίλτρων και ελέγχων που αποσκοπούν στην Αποκλεισμός deepfakes και αντιγράφων φωνής και εμφάνισης από άτομα που δεν έχουν δώσει την έγκρισή τους. Η OpenAI έχει επίσης δεσμευτεί για ένα πρωτόκολλο επιλογής συμμετοχής για επαγγελματίες, έτσι ώστε ο έλεγχος περνάει στα χέρια των κατόχων δικαιωμάτων.

Η εταιρεία αναγνώρισε τις αρχικές αποτυχίες στην ανάπτυξη και διαβεβαίωσε ότι έχει ενισχύσει τους μηχανισμούς ανίχνευσης μετά τις πρώτες κακοποιήσειςΣε δημόσια δήλωσή του, ο Σαμ Άλτμαν τόνισε ότι βαθιά δέσμευση για την προστασία των ερμηνευτών και υπενθύμιση της υποστήριξής τους για τον νόμο NO FAKES Act, η οποία επιδιώκει την αντιγραφή μη εξουσιοδοτημένων ψηφιακών αντιγράφων σε ομοσπονδιακό επίπεδο.

Ο ρόλος του Μπράιαν Κράνστον και η αντίδραση της βιομηχανίας

Ο Κράνστον εξέφρασε ότι η ανησυχία του υπερβαίνει την υπόθεσή του: ανησυχεί για τον αντίκτυπο σε όλους τους καλλιτέχνες, σημείωσε ευχαριστώντας για την ενημέρωση του Sora 2. Ο νέος πρόεδρος της SAG-AFTRA, Σων Astin, μίλησε για πιθανή υπεξαίρεση μεγάλης κλίμακας και χαιρέτισε την υιοθέτηση ενός συστήματος από την OpenAI όπου οι διερμηνείς αποφασίζουν αν θα συμμετάσχουν στην αξιοποίηση της φωνής και της εικόνας του.

Το σωματείο και οι εμπλεκόμενοι φορείς περιγράφουν ένα παραγωγική συνεργασία με την OpenAI για την προστασία των δικαιωμάτων των φορέων. Σύμφωνα με τα μέρη, ο στόχος είναι ότι η πολιτική εφαρμόζεται αυστηρά και διατηρείται ένας μόνιμος διάλογος για την προσαρμογή της τεχνολογίας στους ισχύοντες κανονισμούς.

Πώς ξέσπασε η διαμάχη: παραδείγματα που έβαλαν φωτιά στα δίκτυα

Η δυσαρέσκεια εκτοξεύτηκε με τα viral montages, όπως π.χ. Αποσπάσματα από τον Μάρτιν Λούθερ Κινγκ που «μάχεται» με τον Μάλκολμ Χ σε φανταστικά πλαίσια ή βίντεο στα οποία εμφανίστηκαν Michael Jackson και τον ίδιο τον Κράνστον σε αδύνατες σκηνές, συμπεριλαμβανομένης της αναδημιουργίας του Γουόλτερ Γουάιτ.

Δημόσια πρόσωπα ύψωσαν επίσης τη φωνή τους. Ζέλντα Γουίλιαμς, κόρη του Ρόμπιν Γουίλιαμς, ζητήθηκε να σταματήσει η κοινοποίηση αυτών των κομματιών και ονόμασε την τάση ανοησίες και σπατάλη χρόνου και ενέργειας, επικρίνοντας το γεγονός ότι η κληρονομιά πραγματικών ανθρώπων περιορίζεται σε απομιμήσεις για ιογενείς σκοπούς.

Παρόλο που το Sora 2 κυκλοφόρησε πρόσφατα, η πρόσβαση σε αυτό εξακολουθεί να είναι περιορίζεται στις Ηνωμένες Πολιτείες και τον Καναδά και, προς το παρόν, η διαχείρισή του γίνεται από την εφαρμογή iOS. Αυτή η σταδιακή κυκλοφορία στοχεύει να περιορίσουν τους κινδύνους και να προσαρμόσουν τα μέτρα προστασίας πριν φτάσει σε περισσότερες περιοχές με αυστηρότερους κανονισμούς δεδομένων και πνευματικών δικαιωμάτων.

Νομικό πλαίσιο και επόμενα βήματα

OpenAI, μαζί με SAG-AFTRA και εκπρόσωποι καλλιτεχνών, υποστηρίζει την επεξεργασία του Νόμος ΟΧΙ ΤΑ ΨΕΥΔΗ να καλυφθεί σε ομοσπονδιακό επίπεδο αυτό που σήμερα εξαρτάται από την κρατική προστασία. Η πρόθεση είναι κλείσιμο παραθυρακίων ενάντια στην μη εξουσιοδοτημένη ψηφιακή αναπαραγωγή.

Κοιτάζοντας μπροστά για τις επόμενες εβδομάδες, η εταιρεία διαβεβαιώνει ότι θα συνεχίσει γυαλίζοντας τα χειριστήρια από το Sora 2, διευκρινίζοντας το μοντέλο συναίνεσης και προσφέροντας εργαλεία διεκδίκησης για τους κατόχους δικαιωμάτων. Ο κλάδος, από την πλευρά του, απαιτεί διαφάνεια και ανεξάρτητες δυνατότητες ελέγχου.

Με μεγαλύτερο συντονισμό μεταξύ στούντιο, συνδικάτων και της ίδιας της OpenAI, Το Sora 2 αντιμετωπίζει μια πιο στενά παρακολουθούμενη φάσηΝέα τεχνικά εμπόδια, δέσμευση για συναίνεση και νομοθετική υποστήριξη επιδιώκουν να περιορίσουν τα deepfakes, να προστατεύσουν την εικόνα και τη φωνή των ερμηνευτών και, τελικά, επιστροφή του ελέγχου στους δημιουργούς.

σχετικό άρθρο:

Η Ζέλντα Γουίλιαμς επιτίθεται στην Τεχνητή Νοημοσύνη που μιμείται τον πατέρα της και απαιτεί σεβασμό για την κληρονομιά της.

Αλμπέρτο ​​Ναβάρο

Είμαι λάτρης της τεχνολογίας που έχει μετατρέψει τα «γκικ» ενδιαφέροντά του σε επάγγελμα. Έχω περάσει περισσότερα από 10 χρόνια της ζωής μου χρησιμοποιώντας τεχνολογία αιχμής και ασχολούμαι με όλα τα είδη προγραμμάτων από καθαρή περιέργεια. Τώρα έχω ειδικευτεί στην τεχνολογία υπολογιστών και στα βιντεοπαιχνίδια. Αυτό οφείλεται στο γεγονός ότι για περισσότερα από 5 χρόνια εργάζομαι γράφοντας για διάφορους ιστότοπους σχετικά με την τεχνολογία και τα βιντεοπαιχνίδια, δημιουργώντας άρθρα που επιδιώκουν να σας δώσουν τις πληροφορίες που χρειάζεστε σε μια γλώσσα κατανοητή από όλους.

Αν έχετε απορίες, οι γνώσεις μου κυμαίνονται από οτιδήποτε σχετίζεται με το λειτουργικό σύστημα Windows καθώς και με Android για κινητά τηλέφωνα. Και η δέσμευσή μου είναι απέναντί ​​σας, είμαι πάντα πρόθυμος να αφιερώσω λίγα λεπτά και να σας βοηθήσω να επιλύσετε τυχόν απορίες που μπορεί να έχετε σε αυτόν τον κόσμο του Διαδικτύου.