Αποκαλύφθηκε η πηγή του deepfake του Τζο Μπάιντεν μετά από εκλογική παρέμβαση
Λίγο πριν τις προκριματικές στο Νιου Χάμσαϊρ, ήρθε στο φως μια ύπουλη υπόθεση με χρήση τεχνητής νοημοσύνης για μίμηση της φωνής του Προέδρου Τζο Μπάιντεν σε αυτόματη κλήση. Αυτή η πρωτοφανής απόπειρα εκλογικής παρέμβασης ανέδειξε το πώς μπλέκονται ΤΝ, deepfake και παραπληροφόρηση, προκαλώντας ανησυχία για τις συνέπειες στις δημοκρατικές διαδικασίες. Δείτε όσα πρέπει να ξέρετε για το σκάνδαλο deepfake με τις ρομποκλήσεις, συμπεριλαμβανομένων των εμπλεκόμενων.
Τι είναι το deepfake σκάνδαλο με τον Τζο Μπάιντεν;
Τη Δευτέρα 22 Ιανουαρίου 2023, το γραφείο του γενικού εισαγγελέα του Νιου Χάμσαϊρ ερευνούσε καταγγελίες για αυτοματοποιημένη κλήση που μιμούνταν με τεχνητή νοημοσύνη τη φωνή του Προέδρου Τζο Μπάιντεν, αποτρέποντας τους ψηφοφόρους από το να προσέλθουν στις κάλπες.
Αυτό το κόλπο στόχευε στο να αποθαρρύνει τους ψηφοφόρους να λάβουν μέρος στις προκριματικές, ισχυριζόμενο ψευδώς πως η συμμετοχή θα επηρέαζε τις εθνικές εκλογές του Νοεμβρίου. Η ΤΝ φωνή του Μπάιντεν παρότρυνε τους ψηφοφόρους να «κρατήσουν» την ψήφο για τις ομοσπονδιακές εκλογές, λέγοντας πως ψήφος στις προκριματικές θα ευνοούσε τους Ρεπουμπλικάνους και την επανεκλογή Τραμπ.
Caller ID του deepfake Μπάιντεν
Ο αριθμός στην ψεύτικη ρομποκλήση του Μπάιντεν έδειχνε ότι προερχόταν από την Κάθι Σάλιβαν, πρώην πρόεδρο των Δημοκρατικών του Νιου Χάμσαϊρ, που συμμετέχει στο Granite for America, super-PAC υπέρ του write-in για τον Μπάιντεν. Ωστόσο, ο ίδιος δεν έκανε εκστρατεία εκεί ούτε ήταν στο ψηφοδέλτιο ως επικεφαλής στις προκριματικές των Δημοκρατικών.
«Αυτή η κλήση φαίνεται να συνδέεται με το κινητό μου χωρίς άδεια», δήλωσε η Σάλιβαν σε ανακοίνωση. «Είναι καταφανής εκλογική παρέμβαση και ξεκάθαρη προσπάθεια παρενόχλησης όσων σκοπεύουν να γράψουν τον Μπάιντεν την Τρίτη.»
Ηχητικό του deepfake Μπάιντεν
Στο ψεύτικο ηχητικό της ρομποκλήσης που δημοσίευσε το NBC, ακούγεται μια φωνή παρόμοια με του Μπάιντεν να λέει «What a bunch of malarkey». Το μήνυμα ανέφερε ότι πρέπει να κρατήσετε την ψήφο σας για τον Νοέμβριο, λέγοντας πως ψηφίζοντας αυτή την Τρίτη βοηθάτε τους Ρεπουμπλικάνους και την εκλογή Τραμπ. Η ψήφος σας μετράει τον Νοέμβριο, όχι αυτή την Τρίτη.
Μετά τη δημοσιοποίηση, η εκπρόσωπος του Λευκού Οίκου Καρίν Ζαν-Πιέρ ξεκαθάρισε πως το μήνυμα δημιουργήθηκε με ΤΝ για παραπληροφόρηση και δεν προέρχεται από την καμπάνια Μπάιντεν.
Σε ανακοίνωση, η υπεύθυνη καμπάνιας Τζούλι Τσάβες Ροντρίγκεζ δήλωσε πως εξετάζουν άμεσα πρόσθετες ενέργειες.
Τι να κάνετε αν λάβατε ρομποκλήση Μπάιντεν;
Το καταγεγραμμένο μήνυμα φαίνεται να αποτελεί παράνομη απόπειρα διάδοσης παραπληροφόρησης και παρεμπόδισης της ψηφοφορίας. Αν και δεν είναι σαφές πόσοι ψηφοφόροι το έλαβαν, έχουν αναφερθεί τουλάχιστον δώδεκα περιστατικά. Ο εισαγγελέας Τζον Φορμέλα είπε ότι όποιος έλαβε τέτοια κλήση «πρέπει να αγνοήσει εντελώς το περιεχόμενο».
Αποκαλύφθηκε η πηγή της deepfake ρομποκλήσης Μπάιντεν
Σύμφωνα με το Bloomberg, η εταιρεία ανίχνευσης φωνητικής απάτης Pindrop Security Inc. διαπίστωσε πως η ρομποκλήση ήταν έργο απατεώνα που χρησιμοποίησε την ElevenLabs, startup φωνητικής ΤΝ που προσφέρει υπηρεσίες αντιγραφής φωνής.
Αν και η πολιτική ασφαλείας της ElevenLabs επιτρέπει φωνητικές αντιγραφές για μη εμπορικές χρήσεις χωρίς να θίγεται η ιδιωτικότητα ή τα οικονομικά συμφέροντα προσώπων (όπως για μελέτη, εκπαίδευση, παρωδία, τέχνη, πολιτικό λόγο), η ElevenLabs απέκλεισε τον χρήστη που δημιούργησε το deepfake.
«Δεσμευόμαστε να αποτρέψουμε την κακή χρήση των εργαλείων ΤΝ ήχου και λαμβάνουμε κάθε περιστατικό πολύ σοβαρά», δήλωσε η ElevenLabs στο Bloomberg.
Deepfake vs. Γεννήτρια AI Φωνής vs. Αντιγραφή φωνής
Καθώς η δημιουργία φωνών με ΤΝ εξαπλώνεται, είναι σημαντικό να ξεχωρίζουμε τους όρους deepfake, γεννήτρια AI φωνής και φωνητική αντιγραφή, καθώς και τη διαφορά μεταξύ ηθικής και ανήθικης χρήσης.
Deepfake
Το deepfake είναι η χρήση τεχνητής νοημοσύνης και μηχανικής μάθησης για δημιουργία ή αλλοίωση ήχου και εικόνας, συχνά αντικαθιστώντας κάποιο πρόσωπο με άλλο με πειστικό τρόπο.
- Ηθική χρήση: Το deepfake μπορεί να αξιοποιηθεί για ψυχαγωγία, τέχνη και εκπαίδευση, αρκεί να μην υπάρχει πρόθεση παραπλάνησης ή βλάβης.
- Ανήθικη χρήση: Αν το deepfake δημιουργεί παραπλανητικό υλικό, ψευδείς ιστορίες ή μιμείται πρόσωπα για κακόβουλους σκοπούς (παραπληροφόρηση, fake news), προκύπτουν σοβαρά ηθικά ζητήματα.
Γεννήτρια AI Φωνής
Οι γεννήτριες ΑΙ φωνής συνθέτουν φωνές που θυμίζουν άνθρωπο μέσω αλγορίθμων μηχανικής μάθησης, εκπαιδευμένων σε μεγάλα σύνολα δεδομένων φωνής.
- Ηθική χρήση: Οι γεννήτριες AI φωνής βοηθούν σε προσβασιμότητα, εκμάθηση γλωσσών, ψυχαγωγία ή φωνητικές αφηγήσεις.
- Ανήθικη χρήση: Αν χρησιμοποιηθούν για δημιουργία ψεύτικων ηχητικών με κακή πρόθεση (π.χ. μίμηση για απάτη ή παραπληροφόρηση) θεωρείται ανήθικο.
Αντιγραφή φωνής
Η αντιγραφή φωνής δημιουργεί συνθετικό αντίγραφο της φωνής ενός ατόμου, χρησιμοποιώντας ηχογραφήσεις ως εκπαιδευτικά δεδομένα σε μοντέλο μηχανικής μάθησης.
- Ηθική χρήση: Μπορεί να συνεισφέρει στη δημιουργία εξατομικευμένων βοηθών, διατήρηση φωνής ατόμων με συναίνεση ή για βοηθητικούς σκοπούς.
- Ανήθικη χρήση: Η μη εξουσιοδοτημένη αντιγραφή για εξαπάτηση (όπως ψεύτικες ηχογραφήσεις χωρίς συγκατάθεση) παραβιάζει την ιδιωτικότητα και θέτει κινδύνους κατάχρησης.
Κατάχρηση της ΤΝ φωνής του Μπάιντεν
Η κατάχρηση της φωνής Μπάιντεν μέσω ΤΝ ρομποκλήσεων δείχνει τον κίνδυνο να χρησιμοποιηθούν ψηφιακές τεχνολογίες για παρεμπόδιση ψήφου και παραπληροφόρηση. Οι συνέπειες της κατάχρησης ΤΝ στη μίμηση πολιτικών προσώπων είναι σοβαρές και μπορεί να οδηγήσουν σε διάδοση ψευδών ειδήσεων, χειραγώγηση της κοινής γνώμης και υπονόμευση της δημοκρατίας.
Καθώς εξελίσσεται η ΤΝ, αυξάνεται ο κίνδυνος τέτοιων περιστατικών, με ειδικούς όπως ο Χάνι Φαρίντ να τονίζουν την ανάγκη επαγρύπνησης.
Οι ψηφοφόροι πρέπει να προσέχουν για ΤΝ σε αυτές τις εκλογές
Καθώς πλησιάζουν οι προεδρικές του 2024, οι ψηφοφόροι οφείλουν να προσέχουν την κακή χρήση ΤΝ για χειραγώγηση της κοινής γνώμης. Η παραπληροφόρηση από ΤΝ μπορεί να ενταθεί, οπότε απαιτείται εγρήγορση.
«Ανησυχούμε ότι η δημιουργική ΤΝ μπορεί να χρησιμοποιηθεί ως “όπλο” στις εκλογές και βλέπουμε ήδη τα πρώτα σημάδια», δήλωσε ο ειδικός Χάνι Φαρίντ μετά τις καταγραφές του deepfake Μπάιντεν σε συνέντευξη.
Πώς να χρησιμοποιείτε τη φωνητική ΤΝ με ηθική
Μετά το περιστατικό αυτό, είναι κρίσιμο να σκεφτόμαστε τις ηθικές εφαρμογές της φωνητικής ΤΝ. Η τεχνολογία προσφέρει πολλές δυνατότητες (π.χ. αφηγήσεις), αλλά απαιτεί υπεύθυνη χρήση, σαφή ενημέρωση όταν χρησιμοποιείται ΤΝ φωνή, αποφυγή κακόβουλων σκοπών και σεβασμό στα προσωπικά δεδομένα και τη συναίνεση.
Έρχονται νόμοι/ρυθμίσεις για την ΤΝ
Καθώς η τεχνολογία εξελίσσεται, νομοθέτες, προγραμματιστές, αξιωματούχοι κι η κοινωνία πρέπει να θεσπίσουν κανόνες και ηθικά πρότυπα κατά της κατάχρησης ΤΝ ώστε να προστατευτεί η δημοκρατία. Η ακεραιότητα των εκλογών στηρίζεται στην ικανότητά μας να ανταποκριθούμε στις προκλήσεις της ΤΝ. Ήδη στο Κογκρέσο συζητούνται προστασίες για την ΤΝ. Σε ακρόαση της Γερουσίας, ο Ρίτσαρντ Μπλούμενταλ παρουσίασε deepfake της δικής του φωνής μέσω λογισμικού ΤΝ και script από ChatGPT. Η Επιτροπή Ομοσπονδιακών Εκλογών επίσης εξετάζει τυχόν ρυθμίσεις για deepfake ΤΝ σε διαφημίσεις του 2024.
Speechify Voice Over Studio: #1 πλατφόρμα ηθικής ΤΝ φωνής
Το Speechify Voice Over Studio είναι η κορυφαία πλατφόρμα ηθικής ΤΝ φωνής με τεχνολογία συνθετικής ομιλίας αιχμής. Με πάνω από 200 ρεαλιστικές φωνές κειμένου σε ομιλία σε πολλές γλώσσες και προφορές, επιτρέπει εύκολη δημιουργία δυναμικού περιεχομένου.
Η φιλική πλατφόρμα προσφέρει εύχρηστα εργαλεία επεξεργασίας ήχου ΤΝ, με λεπτομερή έλεγχο κάθε λέξης, δίνοντας προσαρμογή σε τόνο, προφορά, ένταση κτλ. Η Speechify εφαρμόζει ηθικές αρχές προσφέροντας αντιγραφή φωνής μόνο για τη δική σας φωνή με ρητή συγκατάθεση, αποτρέποντας κατάχρηση.
Το Speechify είναι ιδανικό για επαγγελματικά voice overs σε social media, videogames, ηχητικά βιβλία, podcasts και άλλα. Αναβαθμίστε τη δημιουργία περιεχομένου και δοκιμάστε το δωρεάν σήμερα.
Συχνές Ερωτήσεις
Ποιο είναι παράδειγμα ανήθικης αντιγραφής ΤΝ φωνής;
Παράδειγμα κατάχρησης της φωνητικής τεχνολογίας ΤΝ είναι η κατασκευή ψεύτικου ηχητικού όπου ο Έλον Μασκ φέρεται να κάνει ψευδείς δηλώσεις για κρίσιμα γεωπολιτικά θέματα, όπως η εμπλοκή των ΗΠΑ στο Ισραήλ. Αυτή η παραπλανητική χρήση μπορεί να εκμεταλλευτεί την εμπιστοσύνη του κοινού και να προκαλέσει διχόνοια, αποδίδοντας ψευδείς δηλώσεις σε επιδραστικές προσωπικότητες.
Θέλει το GOP να ρυθμίσει την ΤΝ;
Σύμφωνα με δημοσκόπηση του Fox News, «οι Ρεπουμπλικανοί είναι πιο δύσπιστοι από τους Δημοκρατικούς σχετικά με την ανάγκη ομοσπονδιακής ρύθμισης της ΤΝ και ακόμα πιο επιφυλακτικοί για την ικανότητα του κράτους να το επιτύχει σωστά.»
Υπήρξε deepfake με την Τέιλορ Σουίφτ;
Υπήρξαν αρκετά ανήθικα deepfakes της Τέιλορ Σουίφτ, συμπεριλαμβανομένων φωτογραφιών και μουσικής, χωρίς τη συναίνεσή της. Σύμφωνα με αναφορές, εξετάζει νομικά μέτρα κατά των δημιουργών τους.
Έλαβαν οι ψηφοφόροι στο Νιου Χάμσαϊρ deepfake ρομποκλήση Μπάιντεν για να μην ψηφίσουν;
Ναι, απατεώνας δημιούργησε deepfake Μπάιντεν με τεχνολογία ElevenLabs προσπαθώντας να πείσει τους ψηφοφόρους να μην γράψουν το όνομά του στις προκριματικές του Νιου Χάμσαϊρ.
