Deepfake φωνές και μετατροπή κειμένου σε ομιλία
Χάρη στην πρόοδο της τεχνητής νοημοσύνης (AI) και του deep learning, πλέον δημιουργούνται υψηλής ποιότητας και ρεαλιστικά συνθετικά μέσα. Η τεχνολογία αυτή άνοιξε νέους δημιουργικούς δρόμους και επηρέασε πολλούς τομείς. Μια τέτοια τεχνολογία είναι τα deepfakes, γνωστά και ως συνθετικές φωνές και voice cloning.
Τι είναι οι deepfake φωνές;
Deepfake σημαίνει συνθετικό μέσο, επίσης γνωστό ως voice cloning. Χρησιμοποιώντας AI, μπορούν να δημιουργηθούν βίντεο deepfake που αλλάζουν πρόσωπα ή κάνουν κάποιον να φαίνεται/ακούγεται σαν να λέει κάτι που ποτέ δεν είπε πραγματικά, γνωστό ως voice cloning. Φανταστείτε, για παράδειγμα, να βάζετε τη φωνή του Arnold Schwarzenegger να λέει ό,τι εσείς θέλετε.
Η διαδικασία απαιτεί ειδικό λογισμικό για ανάλυση προσώπων, επεξεργασία φωνής από κείμενο και μοντελοποίηση κίνησης στόματος σε τρισδιάστατο χώρο.
Υπάρχουν προηγμένες χρήσεις της τεχνολογίας αυτής και το voice cloning είναι μία από αυτές. Σχεδόν όλοι, ακόμη και χωρίς τεχνολογικές γνώσεις, έχουν ακούσει για κάποιο σκάνδαλο deepfake. Πρόσφατα, για παράδειγμα, ντοκιμαντέρ για τον Tony Bourdain εξέπληξε το κοινό αφού «αφηγούνταν» μεταθανάτια με τη φωνή του.
Startups τεχνολογίας βοήθησαν στην αναδημιουργία της φωνής του Bourdain για να προσδώσουν ρεαλισμό στην αφήγηση. Αν και αυτό θεωρείται επίτευγμα, προκύπτουν σοβαρά ηθικά ζητήματα, αφού ο καθένας με τον κατάλληλο εξοπλισμό μπορεί να φτιάξει παραποιημένο βίντεο ή ήχο για οποιονδήποτε.
Πώς δημιουργούνται ακριβώς τα deepfakes;
Πρώτα συλλέγονται αρκετά δείγματα φωνής κάποιου. Αυτά προέρχονται από κοινωνικά δίκτυα, ηχογραφημένες κλήσεις, τηλεόραση κ.λπ. Μετά, λογισμικό με αλγορίθμους AI συνδυάζει αυτά τα δείγματα για να δημιουργήσει ψεύτικη φωνή.
Αυτό είναι μια απλοποιημένη περιγραφή μιας σύνθετης διαδικασίας. Τελικά τα εργαλεία AI χρησιμοποιούν τα δεδομένα για να δημιουργήσουν φυσικές φωνές που μπορούν να διαβάσουν κάθε κείμενο. Γι' αυτό, τα deepfakes σχετίζονται στενά με την μετατροπή κειμένου σε ομιλία (TTS).
Η ενσωμάτωση deep fake φωνών στα συστήματα TTS
Οι χρήστες μπορούν να αλλάξουν χαρακτηριστικά όπως τόνο, ηλικία και προφορά μέσω της deep fake τεχνολογίας σε συστήματα TTS. Μπορούν επίσης να δημιουργήσουν συνθετικές φωνές στα μέτρα τους, π.χ. αν έχουν φωνητική αναπηρία, κάτι που βελτιώνει την επικοινωνία και την ποιότητα ζωής τους.
Με deep fake φωνές δημιουργείται πιο ελκυστικό ακουστικό περιεχόμενο που αυξάνει ακροατήριο και πιστότητα για δημιουργούς. Μπορούν να χρησιμοποιήσουν φωνές που θυμίζουν διάσημους αφηγητές ή σταρ, ώστε να εντυπωσιάσουν το κοινό. Είναι ιδιαίτερα χρήσιμο σε ηχητικά βιβλία και podcast, όπου ο ήχος επηρεάζει έντονα τη συμμετοχή.
Όμως η χρήση deep fake φωνών στα TTS φέρνει και ηθικά προβλήματα. Οι φωνές αυτές μπορούν να υποδυθούν άλλους και να παραπλανήσουν όσους δεν δίνουν συγκατάθεση. Είναι απαραίτητος ο έλεγχος και τα όρια για ηθική χρήση της τεχνολογίας.
Η ενσωμάτωση deep fake φωνών στα TTS ανοίγει νέες ευκαιρίες για προσωποποιημένη και ελκυστική φωνητική σύνθεση. Η τεχνολογία αυτή αλλάζει τον τρόπο που επικοινωνούμε με την ψηφιακή ομιλία, διευκολύνοντας την πρόσβαση και ενισχύοντας την ικανοποίηση των χρηστών – πάντα με σεβασμό σε ηθικά όρια.
Πλεονεκτήματα
Τα deepfakes έχουν αρκετά θετικά στοιχεία. Το βίντεο deepfake “This Is Not Morgan Freeman” του 2021 έδειξε πώς η τεχνολογία αυτή μπορεί να αξιοποιηθεί.
Δείχθηκε ότι με εκπαίδευση AI σε ηχογραφήσεις και αποσπάσματα ταινιών, κατάφεραν να μιμηθούν τον ηθοποιό σε εμφάνιση, κινήσεις και ομιλία. Παρά τα ηθικά ζητήματα, μπορεί να είναι ανεκτίμητο για άτομα όπως ο Val Kilmer.
Παρόλο που ο Kilmer είχε καρκίνο στον λαιμό και έχασε τη φωνή του, κάποιοι πίστευαν πως η καριέρα του τελείωσε. Όμως, στο ντοκιμαντέρ της Amazon Prime αποκαλύφθηκε ότι ο γιος του παρείχε φωνητικές επενδύσεις για τους ρόλους του.
Ωστόσο, όταν ο Kilmer συνεργάστηκε με τη Sonantic—τεχνολογικό startup για φωνητική μοντελοποίηση, ανέκτησε φωνή. Με deepfake τεχνολογία, αναδημιούργησαν τη φωνή του Kilmer, και οι θεατές το άκουσαν στο Top Gun: Maverick.
Μειονεκτήματα
Η μηχανική μάθηση μπορεί να αντιγράψει φωνές, όπως στη Νέα Υόρκη που αγαπά την τεχνολογία. Αυτό κάνει εύκολο για απατεώνες να ξεγελούν και να αποσπούν προσωπικά δεδομένα με ψεύτικες κλήσεις.
Ηθικά ζητήματα της τεχνολογίας Deepfake
Υπάρχουν ηθικά θέματα σχετικά με deep fake φωνές και deepfake μετατροπή κειμένου σε ομιλία. Καθώς η τεχνολογία εξελίσσεται, προκύπτουν κίνδυνοι. Οι deep fake φωνές του AI Arnold Schwarzenegger, για παράδειγμα, είναι τόσο φυσικές που ξεγελούν. Αυτό προκαλεί δυσπιστία και αμφιβολίες.
Όπως με κάθε νέα τεχνολογία, η κοινωνία πρέπει να σκεφτεί προσεκτικά τους κινδύνους. Τα deepfakes μπορούν να παραπλανήσουν και να επηρεάσουν ανθρώπους με τη φωνή. Εύλογα ανησυχούμε για απώλεια εμπιστοσύνης και παραβίαση της ιδιωτικότητας.
Το κυριότερο πρόβλημα είναι η κακή χρήση deep fakes. Ακόμα πιο επικίνδυνη είναι η χρήση τους σε τηλεφωνικές απάτες και εκστρατείες παραπληροφόρησης. Φανταστείτε να δεχτείτε κλήση και να ακούγεται σαν να σας μιλά κοντινό σας άτομο—αλλά τελικά να είναι απάτη. Η χειραγώγηση αυτή μπορεί να βλάψει άτομα, κοινότητες και χώρες.
Μείωση της κακής χρήσης deep fake φωνών
Για τη μείωση του κινδύνου, απαιτούνται ισχυρές ρυθμίσεις και ενημέρωση των χρηστών. Η τεχνητή φωνή πρέπει να χρησιμοποιείται υπεύθυνα, με ξεκάθαρους κανόνες από κυβερνήσεις και εταιρείες. Αναπτύσσονται μέτρα για εντοπισμό και αποτροπή παράνομης χρήσης, καθώς και εκπαίδευση ώστε όλοι να γνωρίζουν τους κινδύνους της τεχνολογίας.
Χρειάζεται προσοχή και όρια στη χρήση deep fake φωνών–TTS. Η πρόοδος είναι ενθαρρυντική, αλλά η διαφάνεια και η υπευθυνότητα κρίσιμες. Οι χρήστες πρέπει να ξέρουν ποια φωνή είναι αληθινή και ποια όχι.
Νομικά και ιδιωτικότητα για deepfake φωνές
Τα θέματα νομικής φύσης και ιδιωτικότητας αφορούν και τις deep fake φωνές. Προκύπτουν ερωτήματα για την ιδιοκτησία των συνθετικών φωνών και πιθανή μη εξουσιοδοτημένη χρήση. Χρειάζονται σαφείς κατευθύνσεις ώστε να προστατεύονται τα δικαιώματα και να υπάρχει υπεύθυνη χρήση.
Συζητώντας τα ηθικά αυτά ζητήματα, είναι σημαντικό να γίνεται ανοιχτά και με συμμετοχή όλων. Ηθικολόγοι, νομοθέτες, τεχνολόγοι και το κοινό πρέπει να συνεργαστούν για να διαμορφώσουν το μέλλον αυτής της τεχνολογίας προς όφελος της κοινωνίας.
Φανταστείτε να χτυπά το τηλέφωνο, να ακούγεται σαν φίλος ή συγγενής, αλλά στην πραγματικότητα να είναι ψεύτικη φωνή που προσπαθεί να σας ξεγελάσει. Αυτό μπορεί να βλάψει άτομα, κοινότητες και χώρες. Οι deep fake φωνές έχουν χρήσεις που κυμαίνονται από αστείες εφαρμογές (π.χ. η Alexa με φωνή διασήμου) έως πιο σοβαρές, δυνητικά παραπλανητικές εφαρμογές.
Ανάγκη κανονισμών για ηθική χρήση των deepfake φωνών
Για την ασφάλεια όλων απαιτούνται αυστηροί κανόνες και σωστή ενημέρωση των χρηστών. Κυβερνήσεις και εταιρείες πρέπει να συνεργαστούν για ξεκάθαρους όρους χρήσης των deep fake φωνών. Πρέπει να βρεθούν τρόποι εντοπισμού και αποτροπής κακόβουλων εφαρμογών.
Όταν χρησιμοποιούνται deep fake φωνές, χρειάζεται προσοχή και ηθική σκέψη. Παρότι τα νέα εργαλεία εντυπωσιάζουν, πρέπει να είναι ξεκάθαρο πότε η φωνή είναι συνθετική. Έτσι, ο καθένας μπορεί να κρίνει αν πρέπει να την εμπιστευτεί.
Η συζήτηση για τα deep fake προβλήματα είναι απαραίτητη. Ειδικοί και το κοινό να εκφράζουν τις απόψεις τους ώστε η τεχνολογία αυτή να ωφελήσει όλους.
Ευτυχώς, όσο βελτιώνεται το λογισμικό, θα ανιχνεύονται ευκολότερα οι ψεύτικες φωνές. Οι εταιρείες αναπτύσσουν εργαλεία ανίχνευσης, βοηθώντας τράπεζες, τηλεφωνικά κέντρα κ.ά. να ελέγχουν αν συνομιλούν με αληθινούς ανθρώπους και όχι με ψεύτικη AI φωνή.
Λογισμικό deepfake φωνής που μπορείτε να δοκιμάσετε
Εργαλεία μηχανικής μάθησης μπορούν να βελτιώσουν τη ζωή πολλών και ίσως θέλετε να φτιάξετε και εσείς ένα audio deepfake. Για καλό αποτέλεσμα θα χρειαστείτε σύγχρονο υλικό και λογισμικό, αλλά υπάρχουν αρκετά προγράμματα για να δημιουργήσετε φυσικές φωνές. Δείτε πέντε δημιουργούς deepfake φωνής για δοκιμή:
Resemble
Το Resemble AI είναι εργαλείο μετατροπής κειμένου σε ομιλία και δημιουργίας deepfake, που παράγει ανθρώπινες φωνές με λίγα λεπτά ηχογραφήσεων. Σε περίπου πέντε λεπτά, μπορείτε να φτιάξετε το πρώτο σας deepfake.
Δοκιμάστε το demo και ανεβάστε δείγματα της φωνής σας—σε λίγα λεπτά θα ακούσετε ένα πολύ οικείο αποτέλεσμα. Οι χρήστες εκτιμούν την ευχρηστία του Resemble, ακόμα και για ρύθμιση της προφοράς εξόδου.
Descript
Αυτός ο σύγχρονος συνθέτης ομιλίας προσφέρει δυνατές δυνατότητες επεξεργασίας. Αναλύει φωνές, βίντεο και κείμενα ώστε να παράγει AI φωνές. Αν το αρχικό υλικό δεν είναι ποιοτικό, επεξεργάζεστε απευθείας μέσα από την εφαρμογή – δεν χρειάζονται νέες ηχογραφήσεις.
Ο κύριος σκοπός του Descript είναι να βοηθά δημιουργούς να φτιάξουν voice over υψηλής ποιότητας για podcast και βίντεο. Διαθέτει πολλαπλές φωνές για δοκιμή των δυνατοτήτων του.
ReSpeecher
Το ReSpeecher είναι αξιόπιστο deepfake εργαλείο που βοήθησε στην αναδημιουργία της φωνής του Luke Skywalker στο The Mandalorian. Το λογισμικό ταιριάζει τόσο για ταινίες όσο και για διαφημίσεις, animation, video games, podcast και πολλά ακόμα.
iSpeech
Το iSpeech είναι διαθέσιμο ως πρόγραμμα υπολογιστή, αλλά και διαδικτυακά. Εκτός από σύνθεση φωνής, έχει μετατροπή κειμένου σε ομιλία, ανάγνωση ιστοσελίδων και αναγνώριση ομιλίας. Μπορείτε να δοκιμάσετε demo με φωνές όπως Barack Obama, Arnold Schwarzenegger ή Scarlett Johansson.
Real-Time voice cloning
Αυτό το open-source project παρέχεται δωρεάν στο GitHub. Μπορεί να συνθέσει φωνή κάποιου με μόνο 5 δευτερόλεπτα ηχητικού δείγματος – αλλά απαιτεί μέτριες ή προχωρημένες τεχνικές γνώσεις.
Speechify – εύκολο TTS ως εναλλακτική στις deepfake φωνές
Το TTS (μετατροπή κειμένου σε ομιλία) apps όπως Speechify και generators deepfake βασίζονται σε παρόμοιες τεχνολογίες αλλά έχουν διαφορετικό σκοπό. Το Speechify είναι εργαλείο TTS ή ανάγνωσης κειμένου που διαβάζει κείμενο σε έντυπη ή ψηφιακή μορφή. Αφού εισάγετε Word, άρθρο ή απομαγνητοφώνηση και διαλέξετε την αγαπημένη σας φωνή, το Speechify διαβάζει το περιεχόμενο.
Το πρόγραμμα προσφέρει πολλές ποιοτικές ανδρικές και γυναικείες φωνές και υποστηρίζει 20+ γλώσσες όπως αγγλικά, ισπανικά, γαλλικά, ιταλικά, πορτογαλικά. Αν θέλετε να αυξήσετε την παραγωγικότητά σας και να ακούσετε διάσημο να διαβάζει, δείτε τη φωνή της Gwyneth Paltrow στο Speechify.
Κατεβάστε το πρόγραμμα στον υπολογιστή, iPhone ή Android και δοκιμάστε δωρεάν το Speechify σήμερα.
Συχνές ερωτήσεις (FAQ)
Είναι το FakeYou δωρεάν;
Το FakeYou είναι εύκολο και δωρεάν πρόγραμμα για δημιουργία φυσικών φωνών.
Πώς αναγνωρίζετε μια deepfake φωνή;
Είναι δύσκολο να εντοπίσετε deepfake φωνές χωρίς ειδικό λογισμικό. Οι εταιρείες ασφάλειας χρησιμοποιούν βιομετρικά συστήματα φωνής για αποτροπή deepfake απατών.
Ποιοι οι κίνδυνοι των deepfake φωνών;
Τα deepfakes συχνά έχουν κακόβουλη χρήση: διασπορά παραπληροφόρησης, καταστροφή φήμης, απώλεια εμπιστοσύνης σε κρατικούς θεσμούς.
