媒體報導
隨著人工智慧(AI)的出現,我們見證了從醫療到娛樂等各個領域的革命。然而,這一技術進步並非全然有利。
隨著人工智慧(AI)的出現,我們見證了從醫療到娛樂等各個領域的革命。然而,這一技術進步並非全然有利。聲音克隆作為AI技術的產物,已成為詐騙者利用無辜人群的工具。最近,包括聯邦貿易委員會(FTC)在內的執法機構報告了AI 聲音克隆詐騙的驚人增長。
聲音克隆是真實存在的嗎?
是的,聲音克隆是真實存在的,並由先進的AI技術促成。聲音克隆技術可以通過學習短音頻樣本中的獨特特徵來創建幾乎完美的聲音複製品。像OpenAI這樣的公司,通過其強大的生成式AI模型,如ChatGPT,處於這些應用的前沿。
人們用什麼來克隆聲音?
市場上有多種AI軟體和應用程式用於聲音克隆。以下是前8名:
- Lyrebird:被Descript收購,Lyrebird提供了一個用戶友好的平台來克隆聲音。
- Resemble AI:以為企業生成高品質的克隆聲音而聞名。
- iSpeech:以多語言創建逼真的語音合成而受歡迎。
- CereVoice Me:為輔助技術用戶提供個性化的數位聲音。
- 百度深度語音:只需幾分鐘的音頻即可克隆聲音。
- VocaliD:專注於為品牌或個人用途打造獨特的數位聲音。
- 實時聲音克隆工具箱:一個開源項目,可以實時克隆聲音。
- Modulate:提供聲音皮膚,讓您可以實時自定義在線聲音。
聲音克隆的目的何在?
雖然聲音克隆有一些不良用途,但也有其積極的應用。它可以用於恢復因醫療原因失去聲音的人士的語音,或在電影或播客中讓歷史人物或虛構角色栩栩如生。企業利用它來提升客戶服務聊天機器人,創造個性化的體驗。
AI聲音詐騙是如何運作的?
在聲音克隆詐騙中,網絡犯罪分子利用AI技術模仿可信任個人的聲音,無論是親人還是像Elon Musk這樣的公眾人物。克隆的聲音可以用於電話、語音信箱或社交媒體平台如TikTok來執行詐騙。例如,老年祖父母可能會接到來自“家人”的電話,聲稱在一場車禍後需要錢。或者,詐騙者可能會偽裝電話號碼以顯得合法,並要求禮品卡或加密貨幣支付。
聲音克隆詐騙如何被利用?
這些詐騙主要用於從受害者那裡提取金錢或敏感信息。上個月福克斯新聞報導了一起來自亞利桑那州的案例,一名女子被騙相信她的兒子被綁架。詐騙者使用聲音克隆模仿她兒子的聲音,導致她轉移了一大筆錢。其他案例涉及身份盜竊、網絡釣魚企圖,甚至散播虛假信息。
如何保護自己免受聲音克隆詐騙?
保護自己免受此類詐騙需要保持警惕和知識。即使來電者聽起來很熟悉,也不要在電話中分享個人信息。對於緊急要求轉賬的要求保持懷疑,尤其是以禮品卡或加密貨幣的形式。與家人建立一個驗證意外來電的代碼詞。如果懷疑是詐騙,請通過他們的網站(www.ftc.gov)向FTC報告。
識別聲音詐騙的困難是什麼?
隨著AI提高聲音克隆的質量,使得克隆聲音幾乎與真實聲音無法區分,識別聲音詐騙變得更加困難。此外,隨著深偽技術的發展,網絡犯罪分子還可以製作出令人信服的視頻,進一步加深欺騙。
保護自己聲音的最佳方法是什麼?
為了保護您的聲音不被克隆,請謹慎分享語音錄音的地點和方式。避免在不安全的社交媒體平台上分享語音備忘錄,或接聽要求語音驗證的未知來電。此外,保持語音助理的互動私密,並避免在沒有適當安全措施的情況下,在公共平台如播客上分享您的語音錄音。
儘管面臨挑戰,網絡安全公司正在開發工具來檢測AI生成的語音欺詐。執法機構正在教育公眾關於這些詐騙,並正在起草立法以打擊這一暗網威脅。隨著持續的警惕和技術進步,我們有望比詐騙者領先一步。
Cliff Weitzman
Cliff Weitzman 是一位閱讀障礙倡導者,也是全球排名第一的文字轉語音應用程式 Speechify 的創辦人兼執行長,該應用程式擁有超過 100,000 則五星評價,並在 App Store 的新聞與雜誌類別中名列第一。2017 年,Weitzman 因其在提升學習障礙者網路可及性方面的貢獻,被列入福布斯 30 歲以下 30 人榜單。Cliff Weitzman 曾被 EdSurge、Inc.、PC Mag、Entrepreneur、Mashable 等知名媒體報導。