מקור הדיפפייק של ג'ו ביידן נחשף לאחר ניסיון להתערבות בבחירות

מקור הדיפפייק של ג'ו ביידן נחשף לאחר ניסיון להתערבות בבחירות

ברגע האחרון לפני הפריימריז בניו המפשיר נחשפה מזימה מתוחכמת שניצלה בינה מלאכותית כדי לחקות את קולו של הנשיא ג'ו ביידן ברובוקול. זהו ניסיון חסר תקדים להתערבות בבחירות, שבו נפגשות בינה מלאכותית, דיפפייק ודיסאינפורמציה, ומעוררות חשש כבד מההשפעות האפשריות על התהליכים הדמוקרטיים. הנה כל מה שצריך לדעת על תרמית הדיפפייק והרובוקול שמחקה את נשיא ארה"ב ג'ו ביידן, כולל מי היה מעורב בכך.

מהי תרמית דיפפייק ג'ו ביידן?

ביום שני, 22 בינואר 2023, משרד התובע הכללי בניו המפשיר הודיע שהוא בודק דיווחים על רובוקול שהשתמש בבינה מלאכותית כדי לחקות את קולו של הנשיא ג'ו ביידן ולעודד מצביעים במדינה שלא להגיע לקלפי.

התרמית נועדה להרתיע בוחרים מלהשתתף בפריימריז, והציגה בשקר כאילו ההצבעה בבחירות המקדימות תשפיע על הבחירות הכלליות בנובמבר. קולו המזויף של ביידן קרא לבוחרים "לשמור" את קולם לבחירות בנובמבר וטען כי הצבעה בפריימריז עוזרת לרפובליקנים ומקדמת את בחירתו של דונלד טראמפ.

מזהה השיחה של דיפפייק ג'ו ביידן

מזהה השיחה של רובוקול ביידן המזויף הופיע כאילו הגיע מקתי סאליבן, לשעבר יו"ר המפלגה הדמוקרטית במדינה ומנהלת Granite for America, סופר-פאק שמעודד הצבעה לביידן. ביידן לא התמודד בניו המפשיר ולא הופיע ברשימת המועמדים בפריימריז הדמוקרטיים.

"שיחה זו הופנתה למספר הסלולרי האישי שלי ללא רשותי," אמרה סאליבן ב-הצהרה. "זו התערבות בבחירות וניסיון ברור להטריד אותי ובוחרים נוספים שמתכוונים להצביע לביידן ביום שלישי."

הקלטת הדיפפייק של ג'ו ביידן

בהקלטה המזויפת שהגיעה לידי NBC נשמע קול דומה לביידן אומר את הביטוי המפורסם שלו, "What a bunch of malarkey." ההודעה טוענת כי "חשוב לשמור את ההצבעה לבחירות בנובמבר" וכי "הצבעה השבוע רק עוזרת לרפובליקנים ולבחירת טראמפ. הקול שלכם חשוב בנובמבר, לא עכשיו."

אחרי פרסום השיחה הבהירה דוברת הבית הלבן, קארין ז'אן-פייר, כי ההודעה נוצרה בבינה מלאכותית ולא בקמפיין ביידן.

בהצהרה מסרה מנהלת הקמפיין של ביידן, ג'ולי צ'אבס רודריגז, כי הקמפיין "פועל לבחינת צעדים נוספים באופן מיידי."

מה לעשות אם קיבלתם רובוקול מזויף בשם ג'ו ביידן?

ההודעה המוקלטת שימשה ככל הנראה ניסיון בלתי חוקי להפיץ מידע כוזב ולפגוע בהצבעה. לא ברור לכמה אנשים נשלחה השיחה, אך לפחות תריסר דיווחו עליה. התובע הכללי ג'ון פורמלה הבהיר שכל מי שקיבל שיחה כזו "צריך להתעלם מההודעה לחלוטין."

מקור דיפפייק הרובוקול של ג'ו ביידן נחשף

לפי בלומברג, חברת גילוי הונאות קולית Pindrop Security Inc. גילתה שהרובוקול המזויף לא תוכנן על ידי קמפיין ביידן, אלא על ידי נוכל שהשתמש ב-ElevenLabs, סטארט-אפ בינה מלאכותית לקלונינג קולי.

בעוד ש-הצהרת הבטיחות של ElevenLabs מאפשרת קלונינג קולי "לשימושים לא מסחריים מסוימים בתנאי שלא פוגעים בפרטיות או באינטרסים הכלכליים", כולל "מחקר, חינוך, סאטירה, דיבור פוליטי ועוד", ElevenLabs חסמה את המשתמש שיצר את הדיפפייק.

"אנחנו מחויבים למנוע שימוש לרעה בכלים שלנו ולוקחים זאת ברצינות רבה," אמרה ElevenLabs לבלומברג.

דיפפייק לעומת מחולל קול בינה מלאכותית וקלונינג קולי

בעידן שבו מחוללי קול מבוססי בינה מלאכותית נפוצים, חשוב להבין את המושגים דיפפייק, מחולל קול בינה מלאכותית וקלונינג קולי, ואת ההבדלים בין שימושים אתיים ולא אתיים.

דיפפייק

דיפפייק הוא שימוש בבינה מלאכותית וטכניקות למידת מכונה ליצירה או לעיוות של קול ותוכן ויזואלי, לעיתים תוך החלפה ריאליסטית של דמותו של אדם אחר.

• שימוש אתי: טכנולוגיה זו יכולה לשמש לבידור, יצירה אמנותית וחינוך, כאשר המטרה אינה להטעות או לפגוע.
• שימוש לא אתי: ניצול דיפפייק להטעיה, הפצת פייק ניוז או התחזות במטרה להזיק מעורר דאגות אתיות חמורות.

מחולל קול בינה מלאכותית

מחוללי קול מבוססי בינה מלאכותית משתמשים באלגוריתמים כדי ליצור קולות אנושיים. הם לומדים מנתונים רבים כדי לחקות גוון וטון דיבור.

• שימוש אתי: ניתן ליישם לתועלת אנשים עם לקות דיבור, ללימוד שפה, לבידור או לקריינות.
• שימוש לא אתי: הפקת הקלטות מזויפות למטרות מרמה או הפצת דיסאינפורמציה נחשבת לא אתית.

קלונינג קולי

קלונינג קולי יוצר העתק סינתטי של קול אדם, לרוב על בסיס הקלטות מקור המשמשות ללימוד התוכנה.

• שימוש אתי: יצירת עוזרים קוליים אישיים, שימור קולות לדורות הבאים או עזרה ללקויי דיבור – בהסכמה מפורשת.
• שימוש לא אתי: התחזות ללא הסכמה ויצירת הקלטות מזויפות עלולות לפגוע בפרטיות ולהוביל לשימוש לרעה.

שימוש לרעה בקול הבינה המלאכותית של ג'ו ביידן

שימוש לרעה בקולו של ביידן באמצעות רובוקולים שנוצרו ב-AI הוא דוגמה בולטת לאיום שבבינה מלאכותית לדיכוי הצבעה ולהפצת דיסאינפורמציה. התוצאות עלולות להיות מרחיקות לכת. האירוע הזה מסמן עתיד שבו בינה מלאכותית עלולה לשבש את השיח הפוליטי ואת האמון בדמוקרטיה. יש סיבה לדאגה אמיתית מהשפעתה על אמון הציבור והגינות הבחירות.

ככל שהטכנולוגיה מתקדמת, גדל הסיכון לאירועים דומים, והמומחה הפורנזי חאני פאריד מדגיש את הצורך להיות ערניים לאיומים האלה.

הבוחרים צריכים להיות עירניים ל-AI בבחירות

לקראת בחירות 2024 חשוב להישאר ערניים לניצול AI לשינוי דעת הקהל. דיסאינפורמציה שנוצרת בבינה מלאכותית צפויה להיות נפוצה בקמפיינים, ומחייבת מודעות גבוהה יותר מצד המצביעים.

"חששנו שבינה מלאכותית תישמש להרעת מצב הבחירות. אנחנו רואים סימן למה שעתיד לקרות," אמר חאני פאריד, מומחה פורנזי, ב-ראיון.

איך להשתמש בקולות בינה מלאכותית בצורה אתית

לאור האירוע חשוב לשקול שימוש אתי ב-AI קולי. למרות מגוון האפשרויות, חובה להשתמש בטכנולוגיה הזו באחריות – לציין מתי מדובר ב-AI, להימנע מזדון ולשמור על פרטיות והסכמה.

חוקים ותקנות AI בדרך

כשטכנולוגיה מתקדמת, מחוקקים, מפתחי AI, רשויות והציבור חייבים לשתף פעולה ליצירת תקנות ואתיקה להגנה על הדמוקרטיה. שלמות הבחירות תלויה ביכולת להסתגל. בקונגרס כבר עוסקים בהגנות AI. בדיון ב-הסנאט הציג הסנאטור בלומנת'ל דיפפייק בקולו שנוצר בעזרת כלי קול AI ותסריט של ChatGPT. גם ה-נציבות הבחירות הפדרלית בודקת פיקוח על דיפפייקים בקמפיינים של 2024.

Speechify Voice Over Studio: פלטפורמת ה-AI האתית המובילה

Speechify Voice Over Studio היא פלטפורמת AI קולית אתית שמובילה סטנדרט זהב בדיבור סינתטי. יש בה יותר מ-200 קולות מציאותיים להמרת טקסט לדיבור במספר שפות ומבטאים, מה שמאפשר ליצור תוכן דינמי בקלות.

המערכת קלה לתפעול וכוללת כלי עריכת קול AI לשליטה בכל מילה – טון, הגייה ועוד. Speechify מקדמת אתיקה בכך שהיא מציעה קלונינג לקולכם בלבד בהסכמה ברורה – ומצמצמת סיכוני שימוש לרעה.

Speechify Voice Over Studio אידאלית לקריינות מרשימה למדיה חברתית, משחקים, ספרי שמע, פודקאסטים ועוד. העלו הילוך בתוכן שלכם ו-נסו את Speechify Voice Over Studio בחינם כבר היום.

שאלות נפוצות

מהי דוגמה לשימוש לא אתי בקלונינג קולי?

דוגמה לא אתית ל-AI קולי היא פברוק הקלטה מזויפת עם קולו של אילון מאסק ובה הצהרות שווא בנושאים מדיניים רגישים, כמו מעורבות וושינגטון בישראל, העלולה להשפיע על דעת הקהל וליצור בלבול. שימוש כזה מנצל את אמון הציבור וגורם להטעיה כדי לקדם אג'נדה מסוימת.

האם ה-GOP רוצים להסדיר את ה-AI?

לפי סקר Fox News, "הרפובליקנים סקפטיים יותר מהדמוקרטים לגבי הצורך בתקנות על מערכות בינה מלאכותית, וגם לגבי יכולת הממשלה להסדיר זאת נכון."

האם יצרו דיפפייק של טיילור סוויפט?

נוצרו מספר דיפפייקים לא אתיים של טיילור סוויפט – בתמונות ובמוזיקה – ללא הסכמתה. לפי הדיווחים, היא שוקלת לתבוע את יוצרי הדיפפייקים.

האם מצביעי ניו המפשיר קיבלו רובוקול דיפפייק בשם ביידן שקרא לא להצביע?

כן, נוכל יצר דיפפייק של ביידן באמצעות ElevenLabs בניסיון לשכנע בוחרים שלא להצביע לביידן בפריימריז בניו המפשיר.