แหล่งที่มาของ Deepfake โจ ไบเดนถูกเปิดเผยหลังการแทรกแซงการเลือกตั้ง

แหล่งที่มาของ Deepfake โจ ไบเดนถูกเปิดเผยหลังการแทรกแซงการเลือกตั้ง

ในช่วงเวลาสุดท้ายก่อนการเลือกตั้งขั้นต้นในนิวแฮมป์เชียร์ มีแผนการที่น่ากลัวเกิดขึ้น โดยใช้เทคโนโลยีปัญญาประดิษฐ์เพื่อเลียนแบบเสียงของประธานาธิบดีโจ ไบเดนในสายโรโบคอล ความพยายามที่ไม่เคยมีมาก่อนในการแทรกแซงการเลือกตั้งนี้ได้เปิดเผยถึงการเชื่อมโยงระหว่าง AI, Deepfake และข้อมูลเท็จ ซึ่งก่อให้เกิดความกังวลเกี่ยวกับผลกระทบที่อาจเกิดขึ้นต่อกระบวนการประชาธิปไตย มาดูกันว่ามีอะไรที่คุณต้องรู้เกี่ยวกับการหลอกลวง Deepfake ที่เกี่ยวข้องกับสายโรโบคอลจากประธานาธิบดีสหรัฐฯ โจ ไบเดน รวมถึงผู้ที่มีส่วนเกี่ยวข้อง

การหลอกลวง Deepfake โจ ไบเดนคืออะไร?

เมื่อวันจันทร์ที่ 22 มกราคม 2023 สำนักงานอัยการสูงสุดของนิวแฮมป์เชียร์กล่าวว่ากำลังสืบสวนรายงานเกี่ยวกับสายโรโบคอลที่ใช้ปัญญาประดิษฐ์เพื่อเลียนแบบเสียงของประธานาธิบดีโจ ไบเดนและกีดกันผู้มีสิทธิ์เลือกตั้งในรัฐจากการไปลงคะแนนเสียง

การหลอกลวงนี้มีเป้าหมายเพื่อกีดกันผู้มีสิทธิ์เลือกตั้งจากการมีส่วนร่วมในการเลือกตั้งขั้นต้นของรัฐ โดยอ้างเท็จว่าการลงคะแนนเสียงในขั้นต้นจะส่งผลกระทบต่อการเลือกตั้งทั่วไปในเดือนพฤศจิกายน เสียงที่สร้างโดย AI ของไบเดนกระตุ้นให้ผู้มีสิทธิ์เลือกตั้ง "เก็บ" คะแนนเสียงของพวกเขาสำหรับการเลือกตั้งระดับชาติที่กำลังจะมาถึง โดยอ้างว่าการลงคะแนนเสียงในขั้นต้นจะเป็นประโยชน์ต่อพรรครีพับลิกันและอำนวยความสะดวกในการเลือกตั้งใหม่ของโดนัลด์ ทรัมป์

หมายเลขโทรศัพท์ของผู้โทร Deepfake โจ ไบเดน

หมายเลขโทรศัพท์ของสายโรโบคอลปลอมของไบเดนปรากฏว่าเป็นการส่งจากเคธี ซัลลิแวน อดีตประธานพรรคเดโมแครตของรัฐที่ช่วยดำเนินการ Granite for America ซึ่งเป็นซูเปอร์ PAC ที่รณรงค์ให้ผู้มีสิทธิ์เลือกตั้งเขียนชื่อไบเดนเพื่อแสดงการสนับสนุนประธานาธิบดี อย่างไรก็ตาม เขาไม่ได้รณรงค์ในนิวแฮมป์เชียร์และจะไม่อยู่ในบัตรเลือกตั้งเนื่องจากเขาอยู่ในตำแหน่งนำสำหรับการเลือกตั้งขั้นต้นของประธานาธิบดีพรรคเดโมแครต

“สายนี้เชื่อมโยงกลับไปยังหมายเลขโทรศัพท์มือถือส่วนตัวของฉันโดยไม่ได้รับอนุญาต” ซัลลิแวนกล่าวใน แถลงการณ์ “มันเป็นการแทรกแซงการเลือกตั้งอย่างชัดเจน และเป็นความพยายามที่จะก่อกวนฉันและผู้มีสิทธิ์เลือกตั้งในนิวแฮมป์เชียร์ที่วางแผนจะเขียนชื่อโจ ไบเดนในวันอังคาร”

เสียงหลอกลวง Deepfake โจ ไบเดน

ในเสียงปลอมของสายโรโบคอล ที่ได้รับจาก NBC คุณจะได้ยินเสียงที่ฟังดูคล้ายกับไบเดนพูดวลีที่เขาชอบว่า “What a bunch of malarkey.” ข้อความยังคงกล่าวต่อว่า “มันสำคัญที่คุณจะต้องเก็บคะแนนเสียงของคุณสำหรับการเลือกตั้งในเดือนพฤศจิกายน และ “การลงคะแนนเสียงในวันอังคารนี้เพียงแค่ช่วยให้พรรครีพับลิกันในความพยายามที่จะเลือกตั้งโดนัลด์ ทรัมป์อีกครั้ง คะแนนเสียงของคุณมีความสำคัญในเดือนพฤศจิกายน ไม่ใช่วันอังคารนี้”

หลังจากการเผยแพร่ โฆษกทำเนียบขาว คารีน ฌอง-ปิแอร์ แจ้งต่อสาธารณชนว่าข้อความนี้ถูกสร้างขึ้นโดย AI เพื่อเผยแพร่ข้อมูลเท็จและไม่ใช่จากแคมเปญของไบเดน

ในแถลงการณ์ ผู้จัดการแคมเปญของไบเดน จูลี ชาเวซ โรดริเกซ กล่าวว่าแคมเปญกำลัง “หารือเกี่ยวกับการดำเนินการเพิ่มเติมที่จะดำเนินการทันที”

คุณควรทำอย่างไรหากได้รับสายโรโบคอลโจ ไบเดน?

ข้อความที่บันทึกไว้ดูเหมือนจะเป็นความพยายามที่ผิดกฎหมายในการเผยแพร่ข้อมูลเท็จและขัดขวางการลงคะแนนเสียง แม้ว่าจะไม่ชัดเจนว่ามีผู้มีสิทธิ์เลือกตั้งกี่คนที่ได้รับสายนี้ แต่มีอย่างน้อยสิบสองคนที่รายงานเรื่องนี้ อัยการสูงสุด จอห์น ฟอร์เมลลา อธิบายว่าผู้ที่ได้รับสายดังกล่าว “ควรเพิกเฉยต่อเนื้อหาของข้อความนี้โดยสิ้นเชิง”

แหล่งที่มาของ Deepfake โรโบคอลโจ ไบเดนถูกเปิดเผย

ตามรายงานของ บลูมเบิร์ก บริษัทตรวจจับการฉ้อโกงเสียง Pindrop Security Inc. พบว่าสายโรโบคอล Deepfake ของไบเดนไม่ได้ถูกสร้างโดยแคมเปญของไบเดน แต่เป็นโดยผู้หลอกลวงที่ใช้ ElevenLabs ซึ่งเป็นสตาร์ทอัพ AI ด้านเสียงที่มีความสามารถในการโคลนเสียง

แม้ว่า แถลงการณ์ด้านความปลอดภัยของ ElevenLabs อนุญาตให้โคลนเสียง “เพื่อวัตถุประสงค์ที่ไม่ใช่เชิงพาณิชย์บางประการหากคุณไม่กระทบต่อความเป็นส่วนตัวหรือผลประโยชน์ทางเศรษฐกิจของบุคคล” รวมถึง “การศึกษาเอกชน การวิจัยที่ไม่ใช่เชิงพาณิชย์ การศึกษา การล้อเลียน การเสียดสี การพูดทางศิลปะและการเมืองที่มีส่วนร่วมในการอภิปรายสาธารณะ การอ้างอิง” รวมถึง “การวิจารณ์และการทบทวน” ElevenLabs ได้แบนผู้ใช้ ที่สร้างสายโรโบคอล Deepfake ของไบเดน

"เรามุ่งมั่นที่จะป้องกันการใช้เครื่องมือ AI ด้านเสียงในทางที่ผิดและให้ความสำคัญกับเหตุการณ์การใช้ในทางที่ผิดอย่างจริงจัง" ElevenLabs กล่าวกับบลูมเบิร์ก

Deepfake vs. AI Voice Generator vs. Voice Cloning

เมื่อการสร้างเสียงด้วย AI ได้รับความนิยมมากขึ้น การทำความเข้าใจคำว่า deepfake, AI voice generator และการโคลนนิ่งเสียง รวมถึงความแตกต่างระหว่างการใช้งานที่มีจริยธรรมและไม่มีจริยธรรมเป็นสิ่งสำคัญ

Deepfake

Deepfake หมายถึงการใช้ปัญญาประดิษฐ์และเทคนิคการเรียนรู้ของเครื่องในการสร้างหรือปรับแต่งเนื้อหาเสียงและภาพ โดยมักจะเปลี่ยนรูปลักษณ์ของบุคคลหนึ่งให้เป็นอีกบุคคลหนึ่งในลักษณะที่สมจริง

• การใช้ deepfake อย่างมีจริยธรรม: เทคโนโลยี deepfake สามารถใช้ในทางที่มีจริยธรรมเพื่อความบันเทิง การแสดงออกทางศิลปะ และการศึกษา โดยไม่มีเจตนาหลอกลวงหรือทำร้ายผู้อื่น
• การใช้ deepfake อย่างไม่มีจริยธรรม: เมื่อเทคโนโลยี deepfake ถูกนำไปใช้เพื่อสร้างเนื้อหาที่หลอกลวงและเรื่องราวเท็จ หรือแอบอ้างบุคคลเพื่อวัตถุประสงค์ที่เป็นอันตราย (เช่น การแพร่กระจายข้อมูลเท็จหรือสร้างข่าวปลอม) จะก่อให้เกิดความกังวลทางจริยธรรมอย่างรุนแรง

AI Voice Generator

AI voice generators ใช้อัลกอริทึมการเรียนรู้ของเครื่องในการสังเคราะห์เสียง AI ที่คล้ายคลึงกับมนุษย์ โดยมักจะฝึกฝนจากชุดข้อมูลขนาดใหญ่เพื่อเลียนแบบเสียงและโทนเสียงของมนุษย์

• การใช้ AI voice generator อย่างมีจริยธรรม: AI voice generators สามารถใช้ในทางที่มีจริยธรรมเพื่อวัตถุประสงค์ต่างๆ เช่น การเข้าถึงสำหรับผู้ที่มีปัญหาการพูด การเรียนรู้ภาษา ความบันเทิง หรือการพากย์เสียง
• การใช้ AI voice generator อย่างไม่มีจริยธรรม: การใช้ AI voice generation ในทางที่ผิดเพื่อสร้างการบันทึกเสียงปลอมด้วยเจตนาร้าย เช่น การปลอมแปลงเสียงของใครบางคนเพื่อแอบอ้างพวกเขาในการทำกิจกรรมฉ้อโกงหรือแพร่กระจายข้อมูลเท็จ ถือว่าไม่มีจริยธรรม

Voice cloning

การโคลนนิ่งเสียงเกี่ยวข้องกับการสร้างสำเนาเสียงสังเคราะห์ของบุคคล โดยปกติจะใช้การบันทึกเสียงของพวกเขาเป็นข้อมูลฝึกฝนสำหรับโมเดลการเรียนรู้ของเครื่อง

• การใช้การโคลนนิ่งเสียงอย่างมีจริยธรรม: การโคลนนิ่งเสียงสามารถใช้ในทางที่มีจริยธรรมเพื่อวัตถุประสงค์ เช่น การสร้างผู้ช่วยเสียงส่วนบุคคล การรักษาเสียงของบุคคลสำหรับคนรุ่นหลังด้วยความยินยอม หรือช่วยเหลือผู้ที่มีปัญหาการพูด
• การใช้การโคลนนิ่งเสียงอย่างไม่มีจริยธรรม: การโคลนนิ่งเสียงโดยไม่ได้รับอนุญาตเพื่อกิจกรรมหลอกลวง เช่น การสร้างการบันทึกเสียงปลอมเพื่อแอบอ้างบุคคลโดยไม่ได้รับความยินยอม อาจเป็นการกระทำที่ไม่มีจริยธรรมอย่างสูงและอาจนำไปสู่การละเมิดความเป็นส่วนตัวและการใช้งานในทางที่ผิด

การใช้เสียง AI ของ Joe Biden ในทางที่ผิด

การใช้เสียงของ Joe Biden ในทางที่ผิดผ่านการโทรอัตโนมัติที่สร้างด้วย AI เป็นตัวอย่างที่ชัดเจนของศักยภาพที่เทคโนโลยีปัญญาประดิษฐ์จะถูกใช้เป็นอาวุธในการพยายามกดขี่การลงคะแนนเสียงและแพร่กระจายข้อมูลเท็จ ผลกระทบจากการใช้ AI ในการเลียนแบบเสียงของบุคคลทางการเมืองมีความกว้างขวาง เหตุการณ์นี้เป็นการบอกล่วงหน้าถึงอนาคตที่เสียงที่สร้างด้วย AI อาจถูกใช้ในการแพร่กระจายเรื่องราวเท็จ การชักจูงความคิดเห็นของสาธารณชน และบ่อนทำลายกระบวนการประชาธิปไตย ผลกระทบที่อาจเกิดขึ้นต่อความเชื่อมั่นในวาทกรรมทางการเมืองและความซื่อสัตย์ของการเลือกตั้งเป็นเรื่องที่น่ากังวลอย่างยิ่ง

เมื่อเทคโนโลยี AI ก้าวหน้า ความเสี่ยงของเหตุการณ์เช่นนี้จะเพิ่มขึ้น โดยผู้เชี่ยวชาญด้านนิติวิทยาศาสตร์ดิจิทัลอย่าง Hany Farid เน้นย้ำถึงความจำเป็นในการเฝ้าระวังในการจัดการกับความท้าทายเหล่านี้

ผู้มีสิทธิเลือกตั้งควรระวัง AI ในฤดูกาลเลือกตั้งนี้

เมื่อการเลือกตั้งประธานาธิบดีปี 2024 ใกล้เข้ามา ผู้มีสิทธิเลือกตั้งต้องระมัดระวังต่อการใช้เทคโนโลยี AI ในทางที่ผิดในการพยายามชักจูงความคิดเห็นของสาธารณชน ข้อมูลเท็จที่สร้างด้วย AI อาจกลายเป็นปัญหาที่แพร่หลายในแคมเปญการเมือง ซึ่งจำเป็นต้องมีการตระหนักรู้ที่เพิ่มขึ้นในหมู่ผู้มีสิทธิเลือกตั้ง

“เรากังวลว่า AI ที่สร้างขึ้นจะถูกใช้เป็นอาวุธในการเลือกตั้งที่กำลังจะมาถึง และเรากำลังเห็นสิ่งที่แน่นอนว่าเป็นสัญญาณของสิ่งที่จะเกิดขึ้น” Hany Farid ผู้เชี่ยวชาญด้านนิติวิทยาศาสตร์ดิจิทัลที่ได้ตรวจสอบการบันทึกเสียงของ Biden กล่าวใน การสัมภาษณ์.

วิธีการใช้เสียง AI อย่างมีจริยธรรม

หลังจากเหตุการณ์นี้ เป็นสิ่งสำคัญที่จะต้องพิจารณาการใช้งานเสียง AI อย่างมีจริยธรรม แม้ว่าเทคโนโลยีเสียง AI จะมีความเป็นไปได้มากมาย รวมถึงการพากย์เสียง แต่ก็มีความรับผิดชอบในการใช้งานอย่างมีจริยธรรม ซึ่งรวมถึงการระบุอย่างชัดเจนเมื่อใช้เสียงที่สร้างด้วย AI หลีกเลี่ยงเจตนาร้าย และเคารพความเป็นส่วนตัวและความยินยอม

กฎหมาย AI และข้อบังคับ AI กำลังจะมา

ในขณะที่เทคโนโลยียังคงก้าวหน้า ผู้ร่างกฎหมาย นักพัฒนา AI เจ้าหน้าที่การเลือกตั้ง และประชาชนต้องร่วมมือกันเพื่อสร้างมาตรการป้องกัน กฎระเบียบ และมาตรฐานทางจริยธรรมเพื่อปกป้องกระบวนการประชาธิปไตยจากการละเมิดเช่นนี้ ความซื่อสัตย์ของการเลือกตั้ง ซึ่งเป็นรากฐานของประชาธิปไตยอเมริกัน ขึ้นอยู่กับความสามารถของเราในการปรับตัวและตอบสนองต่อความท้าทายใหม่ ๆ เกี่ยวกับการใช้ AI ในความเป็นจริง สภาคองเกรสกำลังหารือเกี่ยวกับการป้องกัน AI ในการพิจารณาคดีของวุฒิสภาเมื่อเร็ว ๆ นี้ วุฒิสมาชิกริชาร์ด บลูเมนธาล ได้สาธิต deepfakes โดยเล่นเสียงของเขาเองที่สร้างด้วยซอฟต์แวร์โคลนนิ่งเสียง AI และมีสคริปต์ที่เขียนโดย ChatGPT ของ OpenAI คณะกรรมการการเลือกตั้งแห่งชาติ ก็ได้เริ่มกระบวนการเพื่ออาจจะควบคุม deepfakes ที่สร้างด้วย AI ในโฆษณาการเมืองปี 2024

Speechify Voice Over Studio: แพลตฟอร์มเสียง AI ที่มีจริยธรรมอันดับ 1

Speechify Voice Over Studio เป็นแพลตฟอร์มเสียง AI ที่มีจริยธรรมชั้นนำที่กำหนดมาตรฐานทองคำในเทคโนโลยีเสียงสังเคราะห์ ด้วยเสียงที่เหมือนจริงกว่า 200 เสียงในหลายภาษาและสำเนียง Speechify Voice Over Studio ช่วยให้ผู้ใช้สร้างเนื้อหาที่มีชีวิตชีวาและน่าสนใจได้อย่างง่ายดาย

แพลตฟอร์มที่ใช้งานง่ายนี้มีเครื่องมือ AI สำหรับการแก้ไขเสียงที่ใช้งานง่าย ให้การควบคุมรายละเอียดในแต่ละคำ ช่วยให้ผู้ใช้ปรับแต่งระดับเสียง การออกเสียง โทนเสียง และอื่น ๆ Speechify Voice Over Studio ยังให้ความสำคัญกับการพิจารณาทางจริยธรรมโดยเสนอการโคลนนิ่งเสียงเฉพาะเสียงของคุณเอง เพื่อให้มั่นใจในความยินยอมที่ชัดเจนและลดความเสี่ยงของการใช้งานในทางที่ผิด

Speechify Voice Over Studio เป็นตัวเลือกที่เหมาะสมสำหรับการสร้างเสียงพากย์ที่น่าสนใจสำหรับการใช้งานต่าง ๆ รวมถึงเนื้อหาสื่อสังคมออนไลน์ วิดีโอเกม หนังสือเสียง พอดแคสต์ และอื่น ๆ ยกระดับประสบการณ์การสร้างเนื้อหาของคุณและ ลองใช้ Speechify Voice Over Studio ฟรี วันนี้

คำถามที่พบบ่อย

ตัวอย่างของการโคลนนิ่งเสียง AI ที่ไม่มีจริยธรรมคืออะไร?

ตัวอย่างที่ไม่มีจริยธรรมของการโคลนนิ่งเสียง AI อาจเกี่ยวข้องกับการใช้เทคโนโลยีเพื่อสร้างการบันทึกเสียงที่น่าเชื่อถือของ Elon Musk ที่ทำให้เกิดคำกล่าวเท็จเกี่ยวกับเรื่องภูมิรัฐศาสตร์ที่ละเอียดอ่อน เช่น การมีส่วนร่วมของวอชิงตันในเรื่องของอิสราเอล ซึ่งอาจบิดเบือนการรับรู้ของสาธารณชนและก่อให้เกิดความขัดแย้ง การใช้การโคลนนิ่งเสียงในลักษณะหลอกลวงนี้อาจใช้ประโยชน์จากความไว้วางใจของสาธารณชนและก่อให้เกิดความขัดแย้งโดยการอ้างคำกล่าวที่ทำให้เข้าใจผิดกับบุคคลที่มีอิทธิพลเพื่อผลักดันวาระเฉพาะ

พรรครีพับลิกันต้องการควบคุม AI หรือไม่?

ตามการสำรวจของ Fox News “พรรครีพับลิกันมีความเชื่อมั่นน้อยกว่าพรรคเดโมแครตว่ารัฐบาลกลางจำเป็นต้องกำหนดกฎระเบียบเกี่ยวกับระบบปัญญาประดิษฐ์ และยังมีความสงสัยมากขึ้นว่ารัฐบาลจะสามารถทำได้ถูกต้องหรือไม่”

เทย์เลอร์ สวิฟต์เคยมี deepfake ของเธอหรือไม่?

มี deepfake ที่ไม่มีจริยธรรมหลายรายการที่ทำเกี่ยวกับเทย์เลอร์ สวิฟต์ รวมถึงภาพถ่ายและเพลง โดยไม่ได้รับความยินยอมจากเธอ ตามรายงาน เธอกำลังพิจารณาดำเนินการทางกฎหมายกับผู้สร้าง deepfake เหล่านั้น

ผู้มีสิทธิเลือกตั้งในนิวแฮมป์เชียร์ได้รับ robocall deepfake ของไบเดนที่บอกให้พวกเขาไม่ลงคะแนนหรือไม่?

ใช่ มีผู้หลอกลวงสร้าง deepfake ของไบเดนโดยใช้เทคโนโลยี AI ของ ElevenLabs เพื่อพยายามโน้มน้าวผู้มีสิทธิเลือกตั้งไม่ให้เขียนชื่อไบเดนในระหว่างการเลือกตั้งขั้นต้นของนิวแฮมป์เชียร์