แหล่งที่มาของ Deepfake โจ ไบเดนถูกเปิดเผยหลังการแทรกแซงการเลือกตั้ง
ในช่วงเวลาสุดท้ายก่อนการเลือกตั้งขั้นต้นในนิวแฮมป์เชียร์ มีแผนการที่น่ากลัวเกิดขึ้น โดยใช้เทคโนโลยีปัญญาประดิษฐ์เพื่อเลียนแบบเสียงของประธานาธิบดีโจ ไบเดนในสายโรโบคอล ความพยายามที่ไม่เคยมีมาก่อนในการแทรกแซงการเลือกตั้งนี้ได้เปิดเผยถึงการเชื่อมโยงระหว่าง AI, Deepfake และข้อมูลเท็จ ซึ่งก่อให้เกิดความกังวลเกี่ยวกับผลกระทบที่อาจเกิดขึ้นต่อกระบวนการประชาธิปไตย มาดูกันว่ามีอะไรที่คุณต้องรู้เกี่ยวกับการหลอกลวง Deepfake ที่เกี่ยวข้องกับสายโรโบคอลจากประธานาธิบดีสหรัฐฯ โจ ไบเดน รวมถึงผู้ที่มีส่วนเกี่ยวข้อง
การหลอกลวง Deepfake โจ ไบเดนคืออะไร?
เมื่อวันจันทร์ที่ 22 มกราคม 2023 สำนักงานอัยการสูงสุดของนิวแฮมป์เชียร์กล่าวว่ากำลังสืบสวนรายงานเกี่ยวกับสายโรโบคอลที่ใช้ปัญญาประดิษฐ์เพื่อเลียนแบบเสียงของประธานาธิบดีโจ ไบเดนและกีดกันผู้มีสิทธิ์เลือกตั้งในรัฐจากการไปลงคะแนนเสียง
การหลอกลวงนี้มีเป้าหมายเพื่อกีดกันผู้มีสิทธิ์เลือกตั้งจากการมีส่วนร่วมในการเลือกตั้งขั้นต้นของรัฐ โดยอ้างเท็จว่าการลงคะแนนเสียงในขั้นต้นจะส่งผลกระทบต่อการเลือกตั้งทั่วไปในเดือนพฤศจิกายน เสียงที่สร้างโดย AI ของไบเดนกระตุ้นให้ผู้มีสิทธิ์เลือกตั้ง "เก็บ" คะแนนเสียงของพวกเขาสำหรับการเลือกตั้งระดับชาติที่กำลังจะมาถึง โดยอ้างว่าการลงคะแนนเสียงในขั้นต้นจะเป็นประโยชน์ต่อพรรครีพับลิกันและอำนวยความสะดวกในการเลือกตั้งใหม่ของโดนัลด์ ทรัมป์
หมายเลขโทรศัพท์ของผู้โทร Deepfake โจ ไบเดน
หมายเลขโทรศัพท์ของสายโรโบคอลปลอมของไบเดนปรากฏว่าเป็นการส่งจากเคธี ซัลลิแวน อดีตประธานพรรคเดโมแครตของรัฐที่ช่วยดำเนินการ Granite for America ซึ่งเป็นซูเปอร์ PAC ที่รณรงค์ให้ผู้มีสิทธิ์เลือกตั้งเขียนชื่อไบเดนเพื่อแสดงการสนับสนุนประธานาธิบดี อย่างไรก็ตาม เขาไม่ได้รณรงค์ในนิวแฮมป์เชียร์และจะไม่อยู่ในบัตรเลือกตั้งเนื่องจากเขาอยู่ในตำแหน่งนำสำหรับการเลือกตั้งขั้นต้นของประธานาธิบดีพรรคเดโมแครต
“สายนี้เชื่อมโยงกลับไปยังหมายเลขโทรศัพท์มือถือส่วนตัวของฉันโดยไม่ได้รับอนุญาต” ซัลลิแวนกล่าวใน แถลงการณ์ “มันเป็นการแทรกแซงการเลือกตั้งอย่างชัดเจน และเป็นความพยายามที่จะก่อกวนฉันและผู้มีสิทธิ์เลือกตั้งในนิวแฮมป์เชียร์ที่วางแผนจะเขียนชื่อโจ ไบเดนในวันอังคาร”
เสียงหลอกลวง Deepfake โจ ไบเดน
ในเสียงปลอมของสายโรโบคอล ที่ได้รับจาก NBC คุณจะได้ยินเสียงที่ฟังดูคล้ายกับไบเดนพูดวลีที่เขาชอบว่า “What a bunch of malarkey.” ข้อความยังคงกล่าวต่อว่า “มันสำคัญที่คุณจะต้องเก็บคะแนนเสียงของคุณสำหรับการเลือกตั้งในเดือนพฤศจิกายน และ “การลงคะแนนเสียงในวันอังคารนี้เพียงแค่ช่วยให้พรรครีพับลิกันในความพยายามที่จะเลือกตั้งโดนัลด์ ทรัมป์อีกครั้ง คะแนนเสียงของคุณมีความสำคัญในเดือนพฤศจิกายน ไม่ใช่วันอังคารนี้”
หลังจากการเผยแพร่ โฆษกทำเนียบขาว คารีน ฌอง-ปิแอร์ แจ้งต่อสาธารณชนว่าข้อความนี้ถูกสร้างขึ้นโดย AI เพื่อเผยแพร่ข้อมูลเท็จและไม่ใช่จากแคมเปญของไบเดน
ในแถลงการณ์ ผู้จัดการแคมเปญของไบเดน จูลี ชาเวซ โรดริเกซ กล่าวว่าแคมเปญกำลัง “หารือเกี่ยวกับการดำเนินการเพิ่มเติมที่จะดำเนินการทันที”
คุณควรทำอย่างไรหากได้รับสายโรโบคอลโจ ไบเดน?
ข้อความที่บันทึกไว้ดูเหมือนจะเป็นความพยายามที่ผิดกฎหมายในการเผยแพร่ข้อมูลเท็จและขัดขวางการลงคะแนนเสียง แม้ว่าจะไม่ชัดเจนว่ามีผู้มีสิทธิ์เลือกตั้งกี่คนที่ได้รับสายนี้ แต่มีอย่างน้อยสิบสองคนที่รายงานเรื่องนี้ อัยการสูงสุด จอห์น ฟอร์เมลลา อธิบายว่าผู้ที่ได้รับสายดังกล่าว “ควรเพิกเฉยต่อเนื้อหาของข้อความนี้โดยสิ้นเชิง”
แหล่งที่มาของ Deepfake โรโบคอลโจ ไบเดนถูกเปิดเผย
ตามรายงานของ บลูมเบิร์ก บริษัทตรวจจับการฉ้อโกงเสียง Pindrop Security Inc. พบว่าสายโรโบคอล Deepfake ของไบเดนไม่ได้ถูกสร้างโดยแคมเปญของไบเดน แต่เป็นโดยผู้หลอกลวงที่ใช้ ElevenLabs ซึ่งเป็นสตาร์ทอัพ AI ด้านเสียงที่มีความสามารถในการโคลนเสียง
แม้ว่า แถลงการณ์ด้านความปลอดภัยของ ElevenLabs อนุญาตให้โคลนเสียง “เพื่อวัตถุประสงค์ที่ไม่ใช่เชิงพาณิชย์บางประการหากคุณไม่กระทบต่อความเป็นส่วนตัวหรือผลประโยชน์ทางเศรษฐกิจของบุคคล” รวมถึง “การศึกษาเอกชน การวิจัยที่ไม่ใช่เชิงพาณิชย์ การศึกษา การล้อเลียน การเสียดสี การพูดทางศิลปะและการเมืองที่มีส่วนร่วมในการอภิปรายสาธารณะ การอ้างอิง” รวมถึง “การวิจารณ์และการทบทวน” ElevenLabs ได้แบนผู้ใช้ ที่สร้างสายโรโบคอล Deepfake ของไบเดน
"เรามุ่งมั่นที่จะป้องกันการใช้เครื่องมือ AI ด้านเสียงในทางที่ผิดและให้ความสำคัญกับเหตุการณ์การใช้ในทางที่ผิดอย่างจริงจัง" ElevenLabs กล่าวกับบลูมเบิร์ก
Deepfake vs. AI Voice Generator vs. Voice Cloning
เมื่อการสร้างเสียงด้วย AI ได้รับความนิยมมากขึ้น การทำความเข้าใจคำว่า deepfake, AI voice generator และการโคลนนิ่งเสียง รวมถึงความแตกต่างระหว่างการใช้งานที่มีจริยธรรมและไม่มีจริยธรรมเป็นสิ่งสำคัญ
Deepfake
Deepfake หมายถึงการใช้ปัญญาประดิษฐ์และเทคนิคการเรียนรู้ของเครื่องในการสร้างหรือปรับแต่งเนื้อหาเสียงและภาพ โดยมักจะเปลี่ยนรูปลักษณ์ของบุคคลหนึ่งให้เป็นอีกบุคคลหนึ่งในลักษณะที่สมจริง
- การใช้ deepfake อย่างมีจริยธรรม: เทคโนโลยี deepfake สามารถใช้ในทางที่มีจริยธรรมเพื่อความบันเทิง การแสดงออกทางศิลปะ และการศึกษา โดยไม่มีเจตนาหลอกลวงหรือทำร้ายผู้อื่น
- การใช้ deepfake อย่างไม่มีจริยธรรม: เมื่อเทคโนโลยี deepfake ถูกนำไปใช้เพื่อสร้างเนื้อหาที่หลอกลวงและเรื่องราวเท็จ หรือแอบอ้างบุคคลเพื่อวัตถุประสงค์ที่เป็นอันตราย (เช่น การแพร่กระจายข้อมูลเท็จหรือสร้างข่าวปลอม) จะก่อให้เกิดความกังวลทางจริยธรรมอย่างรุนแรง
AI Voice Generator
AI voice generators ใช้อัลกอริทึมการเรียนรู้ของเครื่องในการสังเคราะห์เสียง AI ที่คล้ายคลึงกับมนุษย์ โดยมักจะฝึกฝนจากชุดข้อมูลขนาดใหญ่เพื่อเลียนแบบเสียงและโทนเสียงของมนุษย์
- การใช้ AI voice generator อย่างมีจริยธรรม: AI voice generators สามารถใช้ในทางที่มีจริยธรรมเพื่อวัตถุประสงค์ต่างๆ เช่น การเข้าถึงสำหรับผู้ที่มีปัญหาการพูด การเรียนรู้ภาษา ความบันเทิง หรือการพากย์เสียง
- การใช้ AI voice generator อย่างไม่มีจริยธรรม: การใช้ AI voice generation ในทางที่ผิดเพื่อสร้างการบันทึกเสียงปลอมด้วยเจตนาร้าย เช่น การปลอมแปลงเสียงของใครบางคนเพื่อแอบอ้างพวกเขาในการทำกิจกรรมฉ้อโกงหรือแพร่กระจายข้อมูลเท็จ ถือว่าไม่มีจริยธรรม
Voice cloning
การโคลนนิ่งเสียงเกี่ยวข้องกับการสร้างสำเนาเสียงสังเคราะห์ของบุคคล โดยปกติจะใช้การบันทึกเสียงของพวกเขาเป็นข้อมูลฝึกฝนสำหรับโมเดลการเรียนรู้ของเครื่อง
- การใช้การโคลนนิ่งเสียงอย่างมีจริยธรรม: การโคลนนิ่งเสียงสามารถใช้ในทางที่มีจริยธรรมเพื่อวัตถุประสงค์ เช่น การสร้างผู้ช่วยเสียงส่วนบุคคล การรักษาเสียงของบุคคลสำหรับคนรุ่นหลังด้วยความยินยอม หรือช่วยเหลือผู้ที่มีปัญหาการพูด
- การใช้การโคลนนิ่งเสียงอย่างไม่มีจริยธรรม: การโคลนนิ่งเสียงโดยไม่ได้รับอนุญาตเพื่อกิจกรรมหลอกลวง เช่น การสร้างการบันทึกเสียงปลอมเพื่อแอบอ้างบุคคลโดยไม่ได้รับความยินยอม อาจเป็นการกระทำที่ไม่มีจริยธรรมอย่างสูงและอาจนำไปสู่การละเมิดความเป็นส่วนตัวและการใช้งานในทางที่ผิด
การใช้เสียง AI ของ Joe Biden ในทางที่ผิด
การใช้เสียงของ Joe Biden ในทางที่ผิดผ่านการโทรอัตโนมัติที่สร้างด้วย AI เป็นตัวอย่างที่ชัดเจนของศักยภาพที่เทคโนโลยีปัญญาประดิษฐ์จะถูกใช้เป็นอาวุธในการพยายามกดขี่การลงคะแนนเสียงและแพร่กระจายข้อมูลเท็จ ผลกระทบจากการใช้ AI ในการเลียนแบบเสียงของบุคคลทางการเมืองมีความกว้างขวาง เหตุการณ์นี้เป็นการบอกล่วงหน้าถึงอนาคตที่เสียงที่สร้างด้วย AI อาจถูกใช้ในการแพร่กระจายเรื่องราวเท็จ การชักจูงความคิดเห็นของสาธารณชน และบ่อนทำลายกระบวนการประชาธิปไตย ผลกระทบที่อาจเกิดขึ้นต่อความเชื่อมั่นในวาทกรรมทางการเมืองและความซื่อสัตย์ของการเลือกตั้งเป็นเรื่องที่น่ากังวลอย่างยิ่ง
เมื่อเทคโนโลยี AI ก้าวหน้า ความเสี่ยงของเหตุการณ์เช่นนี้จะเพิ่มขึ้น โดยผู้เชี่ยวชาญด้านนิติวิทยาศาสตร์ดิจิทัลอย่าง Hany Farid เน้นย้ำถึงความจำเป็นในการเฝ้าระวังในการจัดการกับความท้าทายเหล่านี้
ผู้มีสิทธิเลือกตั้งควรระวัง AI ในฤดูกาลเลือกตั้งนี้
เมื่อการเลือกตั้งประธานาธิบดีปี 2024 ใกล้เข้ามา ผู้มีสิทธิเลือกตั้งต้องระมัดระวังต่อการใช้เทคโนโลยี AI ในทางที่ผิดในการพยายามชักจูงความคิดเห็นของสาธารณชน ข้อมูลเท็จที่สร้างด้วย AI อาจกลายเป็นปัญหาที่แพร่หลายในแคมเปญการเมือง ซึ่งจำเป็นต้องมีการตระหนักรู้ที่เพิ่มขึ้นในหมู่ผู้มีสิทธิเลือกตั้ง
“เรากังวลว่า AI ที่สร้างขึ้นจะถูกใช้เป็นอาวุธในการเลือกตั้งที่กำลังจะมาถึง และเรากำลังเห็นสิ่งที่แน่นอนว่าเป็นสัญญาณของสิ่งที่จะเกิดขึ้น” Hany Farid ผู้เชี่ยวชาญด้านนิติวิทยาศาสตร์ดิจิทัลที่ได้ตรวจสอบการบันทึกเสียงของ Biden กล่าวใน การสัมภาษณ์.
วิธีการใช้เสียง AI อย่างมีจริยธรรม
หลังจากเหตุการณ์นี้ เป็นสิ่งสำคัญที่จะต้องพิจารณาการใช้งานเสียง AI อย่างมีจริยธรรม แม้ว่าเทคโนโลยีเสียง AI จะมีความเป็นไปได้มากมาย รวมถึงการพากย์เสียง แต่ก็มีความรับผิดชอบในการใช้งานอย่างมีจริยธรรม ซึ่งรวมถึงการระบุอย่างชัดเจนเมื่อใช้เสียงที่สร้างด้วย AI หลีกเลี่ยงเจตนาร้าย และเคารพความเป็นส่วนตัวและความยินยอม
กฎหมาย AI และข้อบังคับ AI กำลังจะมา
ในขณะที่เทคโนโลยียังคงก้าวหน้า ผู้ร่างกฎหมาย นักพัฒนา AI เจ้าหน้าที่การเลือกตั้ง และประชาชนต้องร่วมมือกันเพื่อสร้างมาตรการป้องกัน กฎระเบียบ และมาตรฐานทางจริยธรรมเพื่อปกป้องกระบวนการประชาธิปไตยจากการละเมิดเช่นนี้ ความซื่อสัตย์ของการเลือกตั้ง ซึ่งเป็นรากฐานของประชาธิปไตยอเมริกัน ขึ้นอยู่กับความสามารถของเราในการปรับตัวและตอบสนองต่อความท้าทายใหม่ ๆ เกี่ยวกับการใช้ AI ในความเป็นจริง สภาคองเกรสกำลังหารือเกี่ยวกับการป้องกัน AI ในการพิจารณาคดีของวุฒิสภาเมื่อเร็ว ๆ นี้ วุฒิสมาชิกริชาร์ด บลูเมนธาล ได้สาธิต deepfakes โดยเล่นเสียงของเขาเองที่สร้างด้วยซอฟต์แวร์โคลนนิ่งเสียง AI และมีสคริปต์ที่เขียนโดย ChatGPT ของ OpenAI คณะกรรมการการเลือกตั้งแห่งชาติ ก็ได้เริ่มกระบวนการเพื่ออาจจะควบคุม deepfakes ที่สร้างด้วย AI ในโฆษณาการเมืองปี 2024
Speechify Voice Over Studio: แพลตฟอร์มเสียง AI ที่มีจริยธรรมอันดับ 1
Speechify Voice Over Studio เป็นแพลตฟอร์มเสียง AI ที่มีจริยธรรมชั้นนำที่กำหนดมาตรฐานทองคำในเทคโนโลยีเสียงสังเคราะห์ ด้วยเสียงที่เหมือนจริงกว่า 200 เสียงในหลายภาษาและสำเนียง Speechify Voice Over Studio ช่วยให้ผู้ใช้สร้างเนื้อหาที่มีชีวิตชีวาและน่าสนใจได้อย่างง่ายดาย
แพลตฟอร์มที่ใช้งานง่ายนี้มีเครื่องมือ AI สำหรับการแก้ไขเสียงที่ใช้งานง่าย ให้การควบคุมรายละเอียดในแต่ละคำ ช่วยให้ผู้ใช้ปรับแต่งระดับเสียง การออกเสียง โทนเสียง และอื่น ๆ Speechify Voice Over Studio ยังให้ความสำคัญกับการพิจารณาทางจริยธรรมโดยเสนอการโคลนนิ่งเสียงเฉพาะเสียงของคุณเอง เพื่อให้มั่นใจในความยินยอมที่ชัดเจนและลดความเสี่ยงของการใช้งานในทางที่ผิด
Speechify Voice Over Studio เป็นตัวเลือกที่เหมาะสมสำหรับการสร้างเสียงพากย์ที่น่าสนใจสำหรับการใช้งานต่าง ๆ รวมถึงเนื้อหาสื่อสังคมออนไลน์ วิดีโอเกม หนังสือเสียง พอดแคสต์ และอื่น ๆ ยกระดับประสบการณ์การสร้างเนื้อหาของคุณและ ลองใช้ Speechify Voice Over Studio ฟรี วันนี้
คำถามที่พบบ่อย
ตัวอย่างของการโคลนนิ่งเสียง AI ที่ไม่มีจริยธรรมคืออะไร?
ตัวอย่างที่ไม่มีจริยธรรมของการโคลนนิ่งเสียง AI อาจเกี่ยวข้องกับการใช้เทคโนโลยีเพื่อสร้างการบันทึกเสียงที่น่าเชื่อถือของ Elon Musk ที่ทำให้เกิดคำกล่าวเท็จเกี่ยวกับเรื่องภูมิรัฐศาสตร์ที่ละเอียดอ่อน เช่น การมีส่วนร่วมของวอชิงตันในเรื่องของอิสราเอล ซึ่งอาจบิดเบือนการรับรู้ของสาธารณชนและก่อให้เกิดความขัดแย้ง การใช้การโคลนนิ่งเสียงในลักษณะหลอกลวงนี้อาจใช้ประโยชน์จากความไว้วางใจของสาธารณชนและก่อให้เกิดความขัดแย้งโดยการอ้างคำกล่าวที่ทำให้เข้าใจผิดกับบุคคลที่มีอิทธิพลเพื่อผลักดันวาระเฉพาะ
พรรครีพับลิกันต้องการควบคุม AI หรือไม่?
ตามการสำรวจของ Fox News “พรรครีพับลิกันมีความเชื่อมั่นน้อยกว่าพรรคเดโมแครตว่ารัฐบาลกลางจำเป็นต้องกำหนดกฎระเบียบเกี่ยวกับระบบปัญญาประดิษฐ์ และยังมีความสงสัยมากขึ้นว่ารัฐบาลจะสามารถทำได้ถูกต้องหรือไม่”
เทย์เลอร์ สวิฟต์เคยมี deepfake ของเธอหรือไม่?
มี deepfake ที่ไม่มีจริยธรรมหลายรายการที่ทำเกี่ยวกับเทย์เลอร์ สวิฟต์ รวมถึงภาพถ่ายและเพลง โดยไม่ได้รับความยินยอมจากเธอ ตามรายงาน เธอกำลังพิจารณาดำเนินการทางกฎหมายกับผู้สร้าง deepfake เหล่านั้น
ผู้มีสิทธิเลือกตั้งในนิวแฮมป์เชียร์ได้รับ robocall deepfake ของไบเดนที่บอกให้พวกเขาไม่ลงคะแนนหรือไม่?
ใช่ มีผู้หลอกลวงสร้าง deepfake ของไบเดนโดยใช้เทคโนโลยี AI ของ ElevenLabs เพื่อพยายามโน้มน้าวผู้มีสิทธิเลือกตั้งไม่ให้เขียนชื่อไบเดนในระหว่างการเลือกตั้งขั้นต้นของนิวแฮมป์เชียร์
