Du har hørt om deepfake-stemmer, men hva er de egentlig? Denne guiden gir deg alt du trenger å vite om denne AI-teknologien og hvordan den sammenlignes med TTS.

Deepfake-stemmer og tekst-til-tale

Takket være fremskritt innen kunstig intelligens (AI) og dyp læring, kan folk nå lage høykvalitets og realistiske syntetiske medier. Denne teknologien har åpnet dører til mange nye kreative teknologier som påvirker mange bransjer. En slik teknologi er deepfakes, også kjent som syntetiske stemmer og stemme-kloning.

Hva er deepfake-stemmer?

Deepfake betyr syntetiske medier, også kjent som stemme-kloning. Med AI er det mulig for brukere å generere video-deepfakes som bytter noens utseende med en annen persons på skjermen eller får noen til å si noe de aldri ville ha sagt, populært kjent som stemme-kloning. Tenk deg at du kunne få en Arnold Schwarzenegger-stemme til å gjenta det du vil.

Prosessen krever spesialprogramvare for å analysere ansikter, behandle stemme fra tekstskript, og modellere bevegelsen av munnen i et tredimensjonalt rom.

Det finnes noen avanserte bruksområder for denne teknologien, men stemme-kloning er en av dem. Nesten alle, selv om de ikke er teknologientusiaster, har kommet over noen deepfake-skandaler. Imidlertid har det nylig blitt utgitt en posthum dokumentar om Tony Bourdain som overrasket publikum da han fortsatt kunne fortelle i

IT-startups hjalp produksjonsselskapet med å gjenskape Bourdains stemme for å gi en følelse av virkelighet i historien. Det er ingen tvil om at dette er en prestasjon, men det har mange moralske spørsmål. Tross alt trenger man bare en datamaskin med riktig programvare for å produsere manipulert opptak eller villedende lyd om en annen person.

Hvordan lages egentlig deepfakes?

Først samler du nok prøver av noens stemme. Inndata kan komme fra sosiale medier, innspilte telefonsamtaler, TV, osv. Deretter kombinerer programvare som kjører på AI-algoritmer prøvene for å produsere en falsk stemme. 

Dette er en grunnleggende oversikt over den komplekse prosessen, men til slutt bruker AI-verktøy de innsamlede dataene for å skape naturlig lydende stemmer som kan lese digital tekst. Av denne grunn er deepfakes nært knyttet til tekst-til-tale (TTS) teknologi. 

Integrasjonen av deepfake-stemmer i tekst-til-tale

Brukere kan manipulere funksjoner som tonehøyde, alder og aksent ved å bruke deepfake-stemmeteknologi integrert i tekst-til-tale-systemer. Slike personer kan til og med utvikle syntetiserte stemmer som ligner deres ønskede tone og stil, for eksempel i tilfelle av stemmehemming. Slik tilpasning vil i stor grad forbedre deres evne til å kommunisere og deres livskvalitet generelt.

Ved å bruke deepfake-stemmer skaper de mer tiltalende lydinnhold som tiltrekker følgere og lojalitet for innholdsskapere. De bruker deepfake-stemmer som høres ut som kjente fortellere eller stjerner for å tiltrekke og fascinere lyttere. Det er spesielt verdifullt for multimedieinnhold som lydbøker, podkaster, hvor lyden har stor innvirkning på å fremkalle følelser i publikums engasjement.

Imidlertid medfører bruken av deepfake-stemmer for innlemmelse i TTS-systemer flere moralske problemer. Deepfake-stemmer er i stand til manipulasjon og imitasjon—å villede folk som ikke er i stand til å gi samtykke til slike handlinger. Dette peker på behovet for faste kontroller og lover som fremmer riktig og moralsk anvendelse av denne teknologien.

Til slutt presenterer innlemmelsen av deepfake-stemmer i tekst-til-tale-systemer en mulighet for individualisert og engasjerende stemmesyntese. Denne teknologien kan i stor grad endre vår interaksjon med generert tale på en måte som vil gjøre den mer tilgjengelig og forbedre generell tilfredshet for brukere med tanke på etiske hensyn.

Fordeler

Deepfakes inneholder flere positive elementer. Deepfake-videoen “This Is Not Morgan Freeman” fra 2021 demonstrerte hvordan utvidet teknologi kunne ha sin nytte.

Bildene viste at ved å trene AI-en med lydopptak og filmklipp, kunne de skape en imitasjon av skuespilleren, inkludert å etterligne hans bevegelser, utseende og tale. Som vi påpekte, har det sine etiske problemer, men kan være uvurderlig for en person som skuespiller Val Kilmer.

Selv om Kilmer fikk strupekreft som gjorde at han mistet stemmen, trodde noen at det var slutten på hans Hollywood-karriere. I en Prime Voice, på Amazon Prime-dokumentaren om Kilmer, ble det avslørt at skuespillerens sønn ville gi Kilmer stemmeoverlegg når han spilte nye roller.

Likevel, da Kilmer slo seg sammen med Sonantic—en IT-startup som er stemmemodellert, fikk han til slutt stemmen tilbake. Ved å bruke deepfake-teknologi gjenskapte selskapet Kilmers stemme, og publikum kunne høre de forbløffende resultatene i den nylig utgitte filmen Top Gun: Maverick.

Ulemper

Maskinlæring kan replikere noens stemme på steder som New York, som raskt omfavner teknologi. Dette gjør det enkelt for individer å avsløre personlig informasjon og falle i fellen for falske eller svindeloppringninger.

Etiske bekymringer rundt Deepfake-teknologi

Det er noen etiske spørsmål rundt bruken av deepfake-stemmer og deepfake tekst-til-tale. Etter hvert som flere teknologiske fremskritt kommer, er det potensielle tilbakeslag. Deepfake-stemmene til Arnold Schwarzenegger AI-stemme, for eksempel, er så naturlige at de lurer folk. Dette kan skape mistanke om alt man hører og selv-tvil.

Når samfunnet omfavner enhver form for ny teknologi, må det tenke seg om to ganger om farene som følger med. Deepfakes kan bedra og påvirke mennesker gjennom stemmene sine. Det er derfor rimelig å bekymre seg, da det kan kompromittere offentlig tillit og krenke personvernsrettigheter.

Hovedsakelig er det et presserende problem når det gjelder bruken av deepfakes. Enda farligere er bruken av syntetiske stemmer når de brukes av telefonsvindel og desinformasjonskampanjer som er i bred spredning. Bare tenk deg at du mottar en ukjent samtale, men noens stemme høres veldig kjent ut. Du kan gjenkjenne denne stemmen som din nære venn, familiemedlem eller kjæreste. Men, nesten umiddelbart etterpå ville det bli klart at dette bare er en bløff. Manipulasjon kan forårsake ekstremt negative effekter som kan påvirke mennesker, hele samfunn eller stater.

Redusere virkningen av feilaktig bruk av deepfake-stemmer

For å redusere denne trusselen er det nødvendig med sterke regulerings- og brukeropplæringsprogrammer. Deepfake-stemmer må brukes med omhu, og det bør være retningslinjer satt på plass av myndigheter og teknologiselskaper som jobber sammen. Effektive tiltak er utviklet for å identifisere og bekjempe ulovlig bruk av syntetisk stemmeteknologi; disse involverer også å utdanne brukere om dette faktum siden syntetisk stemmeteknologi kan brukes til ondsinnede formål.

I tillegg krever det nøye vurdering av å være innovativ, men ikke krysse grenser i bruken av deepfake-stemme og tekst-til-tale-teknologi. Utviklingen i teknologi er absolutt lovende, men det må være åpenhet og riktig ansvarlighet når man bruker dem. Det er viktig å informere brukere om stemmesyntese fordi det lar dem vite bedre hva som er ekte informasjon og hva som er falsk.

Juridiske og personvernspørsmål angående deepfake-stemmer

Juridiske og personvernshensyn spiller også inn når det gjelder deepfake-stemmer. Spørsmål oppstår angående eierskap av syntetiserte stemmer og potensialet for uautorisert bruk. Klare retningslinjer må etableres for å navigere disse komplekse problemene, sikre at individers rettigheter er beskyttet og at teknologien brukes ansvarlig.

Når vi navigerer de etiske betraktningene rundt deepfake-stemmer, er det viktig å engasjere seg i åpne og inkluderende diskusjoner. Etikere, politikere, teknologer og allmennheten må komme sammen for å adressere disse bekymringene og forme fremtiden for denne teknologien på en måte som gagner samfunnet som helhet.

Tenk deg å få en samtale som høres ut som den er fra en venn eller familiemedlem, men det er faktisk en falsk stemme som prøver å lure deg. Dette kan skade mennesker, samfunn og til og med hele land. Det er mange bruksområder for deepfake-stemmer, fra morsomme applikasjoner som å få Alexa til å snakke med en kjendisstemme til mer alvorlige bruksområder som kan være villedende.

Behovet for regulering for å gjøre bruken av deepfake-stemmer etisk

For å holde folk trygge, trenger vi sterke regler og måter å lære brukere om disse falske stemmene. Regjeringer og teknologiselskaper bør samarbeide. De må lage regler om hvordan man bruker deepfake-stemmer på riktig måte. De må også finne måter å oppdage og stoppe skadelige falske stemmer.

Når man bruker deepfake-stemmer, er det viktig å være forsiktig og tenke på hva som er rett og galt. Selv om disse nye stemmeverktøyene er kule, må vi bruke dem på en måte som er ærlig. Folk bør vite når en stemme de hører er laget av en datamaskin. På denne måten kan de bestemme om de stoler på det de hører.

Å snakke om problemene med deepfake-stemmer er viktig. Alle, fra eksperter til vanlige folk, bør dele sine tanker. Dette vil hjelpe oss å bruke denne teknologien på en måte som er bra for alle.

Heldigvis, etter hvert som stemmegenererende programvare blir bedre, blir vi også flinkere til å oppdage falske stemmer. Teknologiselskaper lager verktøy for å oppdage og stoppe disse falske stemmene. Dette vil hjelpe steder som banker og kundesentre i New York med å sikre at de snakker med ekte mennesker og ikke datastemmer som prøver å lure dem.

Deepfake stemmeprogramvare å prøve

Maskinlæringsverktøy kan ha en positiv innvirkning på mange menneskers liv, og du kan være interessert i å prøve å lage en lyd-deepfake. Selv om du trenger topp moderne maskinvare og programvare for resultater av høy kvalitet, kan du bruke flere programmer for å produsere naturlig lydende stemmer. Her er fem deepfake stemmegeneratorer du kan prøve:

Resemble

Resemble AI er et tekst-til-tale og deepfake-skaperverktøy som produserer menneskelige stemmer ved hjelp av begrensede data. Med omtrent fem minutter med lydopptak kan brukere lage sin første deepfake.

Du kan teste prøvefunksjonen og mate appen med klipp av deg selv, og i løpet av få minutter vil du høre en kjent stemme. Brukere setter pris på Resembles brukervennlige grensesnitt, og de kan til og med justere intonasjonen på lydutgangen.

Descript

Denne imponerende talesyntetisatoren har kraftige redigeringsmuligheter. Programmet analyserer stemmeopptak, videoklipp og transkripsjoner for å generere AI-drevne stemmer. Hvis du er misfornøyd med kvaliteten på innholdet, kan du redigere det direkte fra appen—ingen behov for å gjøre flere opptak.

Descripts hovedformål er å hjelpe innholdsskapere med å lage høykvalitets stemmeopptak for sine podkaster og videoer. Programmet har utallige standardstemmer du kan eksperimentere med for å bli kjent med Descripts muligheter.

ReSpeecher

ReSpeecher er en pålitelig deepfake-løsning som hjalp til med å gjenskape Luke Skywalkers stemme i The Mandalorian. Selv om programvaren er egnet for filmer og TV-serier, kan den også være en utmerket måte å lage stemmeopptak for reklamer, animasjoner, videospill, podkaster og mer. 

iSpeech

iSpeech er tilgjengelig som et skrivebordsprogram, men du kan også prøve nettversjonen. I tillegg til stemmesyntese har appen tekst-til-tale, nettleser og talegjenkjenningsfunksjoner. For å bli kjent med programvaren kan du prøve en av demoversjonene og leke med stemmene til Barrack Obama, Arnold Schwarzenegger eller Scarlett Johansson.

Sanntids stemmekloning

Dette open-source-prosjektet er tilgjengelig gratis på GitHub. Denne omfattende verktøykassen kan syntetisere en persons stemme med så lite som fem sekunder med lydinput. Imidlertid har brukere rapportert at det kreves moderate til avanserte tekniske ferdigheter for å bruke programvaren.

Speechify – det brukervennlige tekst-til-tale-alternativet til deepfake-stemmer

Tekst-til-tale (TTS)-apper som Speechify og deepfake-generatorer bruker lignende teknologier, men de har forskjellige formål. Speechify er et TTS- eller opplesningsverktøy som kan lese nesten hvilken som helst trykt eller digital tekst. Etter at brukerne importerer et Microsoft Word-dokument, en artikkel eller et transkript til appen og velger sin foretrukne fortellerstemme, vil Speechify lese innholdet høyt.

Programmet har et enestående utvalg av høykvalitets mannlige og kvinnelige stemmer og støtter over 20 språk, inkludert engelsk, spansk, fransk, italiensk og portugisisk. Hvis du vil øke produktiviteten og høre en kjendis lese for deg, hvorfor ikke sjekke ut Speechifys Gwyneth Paltrow-stemme?

Last ned programmet på datamaskinen din, iPhone eller Android-enhet og prøv Speechify gratis i dag.

FAQ

Er FakeYou gratis?

FakeYou er et brukervennlig og gratis program du kan bruke til å lage naturlig lydende stemmer.

Hvordan vet du om en stemme er deepfake?

Det kan være utfordrende å identifisere deepfakes uten sofistikert programvare. Sikkerhetsselskaper bruker stemmebiometriske systemer for å forhindre deepfake-svindel. 

Hva er noen av farene ved deepfake-stemmer?

Deepfakes brukes noen ganger til ondsinnede formål og kan spre feilinformasjon, ødelegge en persons omdømme og føre til mangel på tillit til offentlige institusjoner.