الیکشن مداخلت کے بعد جو بائیڈن کی ڈیپ فیک کا ماخذ سامنے آیا
نیو ہیمپشائر پرائمری کے موقع پر، ایک خطرناک منصوبہ سامنے آیا جس میں AI ٹیکنالوجی سے صدر جو بائیڈن کی آواز کی نقالی کی گئی۔ اس غیر معمولی انتخابی مداخلت نے AI، ڈیپ فیکس اور جھوٹی معلومات کے گٹھ جوڑ کو نمایاں کر دیا ہے، اور جمہوری عمل پر اس کے اثرات کے بارے میں خدشات بڑھا دیے ہیں۔ یہاں جانیے روبو کال اسکینڈل کی تفصیل اور ملوث افراد کے بارے میں۔
جو بائیڈن ڈیپ فیک اسکینڈل کیا ہے؟
پیر 22 جنوری 2023 کو، نیو ہیمپشائر اٹارنی جنرل کے دفتر نے اس روبو کال کی تحقیقات شروع کی جس میں مصنوعی ذہانت سے بائیڈن کی آواز بنا کر ووٹرز کو ووٹ ڈالنے سے روکا گیا۔
اس دھوکے کا مقصد ووٹرز کو ریاست کی پرائمری میں حصہ لینے سے روکنا تھا، یہ جھوٹا دعویٰ کرتے ہوئے کہ پرائمری میں ووٹ دینے سے نومبر کے عام انتخابات متاثر ہوں گے۔ AI سے بنائی گئی بائیڈن کی آواز نے ووٹرز سے کہا کہ اپنی رائے نومبر کے لیے بچا کر رکھیں، اور دعویٰ کیا کہ پرائمری میں ووٹ دینے سے ریپبلکن کو فائدہ اور ڈونلڈ ٹرمپ کی دوبارہ جیت کی راہ ہموار ہوگی۔
جو بائیڈن ڈیپ فیک کالر آئی ڈی
جعلی بائیڈن روبو کال کا کالر آئی ڈی ایسے ظاہر ہوا جیسے یہ کیتھی سلیوان کے نمبر سے آیا ہو، جو سابق ڈیموکریٹ پارٹی چیئر اور Granite for America سپر-پیک کی سربراہ ہیں، جو ووٹرز کو بائیڈن کے حق میں نام لکھنے کی ترغیب دے رہی ہیں۔ حالانکہ بائیڈن نیو ہیمپشائر میں مہم نہیں چلا رہے تھے اور پرائمری کے بیلٹ پر نہیں تھے۔
“اس کال کا میری ذاتی موبائل نمبر سے بغیر اجازت تعلق جوڑا گیا ہے،” سلیوان نے ایک بیان میں کہا۔ “یہ کھلی انتخابی مداخلت ہے اور مجھے اور ان ووٹرز کو ہراساں کرنے کی کوشش ہے جو بائیڈن کے حق میں ووٹ لکھنے کا ارادہ رکھتے ہیں۔”
جو بائیڈن ڈیپ فیک اسکینڈل کی آڈیو
این بی سی کے پاس موجود روبو کال آڈیو میں ایک آواز سنائی دیتی ہے جو بائیڈن جیسی لگتی ہے، اور اس کا معروف جملہ “What a bunch of malarkey” دہراتی ہے۔ پیغام میں کہا گیا کہ “اپنا ووٹ نومبر تک کے لیے محفوظ رکھیں” اور “اس منگل کو ووٹ دینے سے ریپبلکنز کو مدد ملتی ہے اور ڈونلڈ ٹرمپ کی جیت آسان ہو جاتی ہے۔ آپ کا ووٹ نومبر میں مؤثر ہے، اس منگل کو نہیں۔”
اس کال کے بعد وائٹ ہاؤس کی ترجمان کارین ژاں-پیئر نے اعلان کیا کہ پیغام AI سے تیار کیا گیا ہے اور بائیڈن مہم سے اس کا کوئی تعلق نہیں۔
بائیڈن کی مہم مینجر جولی شاویز روڈریگز نے ایک بیان میں کہا کہ مہم "مزید اقدامات پر فوری غور کر رہی ہے۔"
اگر آپ کو جو بائیڈن کی روبو کال ملے تو کیا کریں؟
یہ ریکارڈڈ پیغام غیر قانونی طور پر غلط معلومات پھیلانے اور ووٹنگ میں رکاوٹ ڈالنے کی کوشش تھا۔ یہ واضح نہیں کہ کتنے ووٹرز کو کال ملی، لیکن کم از کم ایک درجن نے رپورٹ کی۔ اٹارنی جنرل جان فورمیلا نے کہا کہ جس کو بھی یہ کال موصول ہو، “اس پیغام کو مکمل طور پر نظرانداز کرے۔”
جو بائیڈن روبو کال ڈیپ فیک کا ماخذ سامنے آیا
کے مطابق بلومبرگ، وائس فراڈ ڈٹیکشن کمپنی Pindrop Security Inc نے پایا کہ بائیڈن کی ڈیپ فیک روبو کال بائیڈن مہم نے نہیں، بلکہ ایک جعل ساز نے ElevenLabs نامی AI وائس اسٹارٹ اپ کے ذریعے بنائی، جو وائس کلوننگ فراہم کرتا ہے۔
جبکہ ElevenLabs کے سیفٹی بیان کے مطابق مخصوص غیر تجارتی مقاصد کے لیے وائس کلوننگ کی اجازت ہے (اگر کسی کی پرائیویسی یا مالی مفاد متاثر نہ ہو)، جیسے “ذاتی مطالعہ، غیر تجارتی تحقیق، تعلیم، مزاح، طنز، تخلیقی یا سیاسی اظہار، حوالہ اور جائزہ”، ElevenLabs نے اس یوزر کا اکاؤنٹ بند کر دیا جس نے بائیڈن ڈیپ فیک روبو کال بنائی۔
"ہم آڈیو AI کے غلط استعمال کو روکنے کے لیے پرعزم ہیں اور اس قسم کے ہر واقعے کو سنجیدگی سے لیتے ہیں،" ElevenLabs نے بلومبرگ کو بتایا۔
ڈیپ فیک، AI وائس جنریٹر اور وائس کلوننگ میں فرق
جب AI وائس ٹیکنالوجی عام ہو رہی ہے، تو اصطلاحات ڈیپ فیک، AI وائس جنریٹر اور وائس کلوننگ، اور ان کے اخلاقی و غیر اخلاقی استعمال میں فرق جاننا ضروری ہے۔
ڈیپ فیک
ڈیپ فیک سے مراد مصنوعی ذہانت و مشین لرننگ تکنیک سے آڈیو یا ویڈیو مواد میں اس طرح رد و بدل ہے کہ کسی چہرے یا آواز کو حقیقت کے مطابق کسی اور سے بدل دیا جائے۔
- اخلاقی ڈیپ فیک: تفریح، فن یا تعلیمی مقاصد کے لیے، جہاں دوسروں کو دھوکا دینا یا نقصان پہنچانا مقصد نہ ہو۔
- غیر اخلاقی ڈیپ فیک: گمراہ کن مواد، جعلی بیانیہ یا کسی کو نقصان پہنچانے کی نیت سے استعمال ہو تو سنگین خدشات پیدا ہوتے ہیں۔
AI وائس جنریٹر
AI وائس جنریٹرز مشین لرننگ الگورتھمز سے انسان جیسی آوازیں بناتے ہیں اور بڑے ڈیٹا پر ٹرین کیے جاتے ہیں۔
- اخلاقی استعمال: AI آواز بولنے میں معذور افراد، زبان سیکھنے، تفریح یا وائس اوور میں مدد کے لیے استعمال ہو سکتی ہے۔
- غیر اخلاقی استعمال: کسی کی آواز بنا کر دھوکا دہی، غلط معلومات یا فراڈ کی نیت ہو تو یہ غلط استعمال ہے۔
وائس کلوننگ
وائس کلوننگ میں کسی کی آواز کی نقل بنانے کے لیے اس کی ریکارڈنگز کو مشین لرننگ ماڈل سے سکھایا جاتا ہے۔
- اخلاقی وائس کلوننگ: اجازت کے ساتھ ذاتی وائس اسسٹنٹ، آواز محفوظ کرنا، یا بولنے سے معذور افراد کے لیے۔
- غیر اخلاقی وائس کلوننگ: اجازت کے بغیر جعلی آڈیو بنا کر کسی کی نقالی یا پرائیویسی کی خلاف ورزی ہو سکتی ہے۔
جو بائیڈن کی AI وائس کا غلط استعمال
AI سے بنائی گئی روبو کال میں جو بائیڈن کی آواز کا غلط استعمال واضح مثال ہے کہ AI کیسے ووٹنگ روکنے یا ڈس انفارمیشن کے لیے ہتھیار بن سکتی ہے۔ سیاسی شخصیات کی آواز کی نقالی سے جمہوری نظام اور عوامی اعتماد کو شدید نقصان پہنچ سکتا ہے۔
AI میں تیز رفتار ترقی کے ساتھ ایسے واقعات کا خطرہ بڑھ گیا ہے۔ ڈیجیٹل فارنزک ماہر ہنی فرید نے ان چیلنجز سے نمٹنے کی ضرورت پر زور دیا۔
ووٹروں کو اس انتخابی موسم میں AI سے خبردار رہنا چاہیے
2024 کے صدارتی الیکشن کے قریب آتے ہی ووٹروں کو AI کے غلط استعمال سے باخبر اور ہوشیار رہنا ہوگا۔ AI سے پھیلنے والی غلط معلومات انتخابات میں سنگین مسئلہ بن سکتی ہے، جس کے لیے عوامی آگاہی ناگزیر ہے۔
“ہمیں خدشہ تھا کہ جنریٹو AI آنے والے انتخابات میں ہتھیار بنے گی اور روبو کال اس کا اشارہ ہے،” ڈیجیٹل فارنزک ماہر ہنی فرید نے ایک انٹرویو میں کہا۔
AI وائس کو اخلاقی طور پر کیسے استعمال کریں
اس واقعے کے بعد وائس AI کے اخلاقی استعمال پر سنجیدگی سے سوچنا ضروری ہے۔ اگرچہ اس سے کئی مواقع کھلتے ہیں، مگر اس کا ذمے دارانہ استعمال، AI سے بنی آواز کو واضح کرنا، بدنیتی سے گریز، اور پرائیویسی و رضامندی کا احترام لازمی ہے۔
AI قوانین اور ضابطے جلد آ رہے ہیں
ٹیکنالوجی میں تیزی سے ترقی کے ساتھ، قانون ساز، AI ڈیولپرز، انتخابی حکام اور عوام کو مل کر جمہوریت کے تحفظ کے لیے ضابطے اور اخلاقی معیارات وضع کرنا ہوں گے۔ انتخابات کی سچائی، جو امریکی جمہوریت کی بنیاد ہے، AI کے نئے چیلنجز سے نمٹنے کی صلاحیت پر منحصر ہے۔ کانگریس میں AI سے متعلق تحفظات پر بحث جاری ہے۔ حالیہ سینیٹ سماعت میں سینیٹر رچرڈ بلومن تھال نے اپنی AI سے بنائی گئی آواز کا ڈیپ فیک چلایا، جس کا اسکرپٹ چیٹ جی پی ٹی نے لکھا تھا۔ اسی طرح فیڈرل الیکشن کمیشن بھی 2024 کی سیاسی مہم میں AI ڈیپ فیک پر ضابطہ سازی کے عمل میں ہے۔
Speechify وائس اوور اسٹوڈیو: سب سے اخلاقی AI وائس پلیٹ فارم
Speechify وائس اوور اسٹوڈیو سب سے قابلِ بھروسا، اخلاقی AI وائس پلیٹ فارم ہے، جو مصنوعی آواز ٹیکنالوجی میں معیار طے کرتا ہے۔ 200 سے زیادہ جیتے جاگتے ٹیکسٹ ٹو اسپیچ وائسس کئی زبانوں اور لہجوں میں دستیاب ہیں، جو یوزرز کو آسانی سے پرکشش مواد بنانے کی طاقت دیتی ہیں۔
یہ سادہ مگر طاقتور پلیٹ فارم مضبوط آڈیو ایڈیٹنگ AI ٹولز فراہم کرتا ہے، ہر لفظ پر کنٹرول، اور پچ، تلفظ، ٹون وغیرہ میں ایڈجسٹمنٹ کی سہولت دیتا ہے۔ Speechify صرف آپ کی اپنی آواز کی کلوننگ کے حق میں ہے، بغیر رضامندی کے نہیں، اور یوں غلط استعمال کے خطرے کو کم کرتا ہے۔
Speechify وائس اوور اسٹوڈیو ہر قسم کے وائس اوورز کے لیے بہترین ہے، جیسے سوشل میڈیا، ویڈیو گیمز، آڈیو بکس، پوڈکاسٹ وغیرہ۔ اپنی مواد تخلیق کو اگلے درجے پر لے جائیں اور Speechify وائس اوور اسٹوڈیو مفت آزمائیں۔
عمومی سوالات
غیر اخلاقی AI وائس کلوننگ کی مثال کیا ہے؟
غیر اخلاقی وائس کلوننگ تب ہوگی جب ٹیکنالوجی سے ایلون مسک کی جعلی آڈیو تیار کی جائے، جس میں وہ امریکی خارجہ پالیسی سے متعلق غلط بیانات دے، اس سے عوامی رائے مسخ اور تفرقہ پیدا ہو۔ اس طریقے سے جھوٹے اقوال منسوب کر کے عوام کو گمراہ کرنا انتہائی نقصان دہ ہو سکتا ہے۔
کیا GOP (ریپبلکن پارٹی) AI ضابطے چاہتی ہے؟
کے مطابق فاکس نیوز پول، “ریپبلکنز ڈیموکریٹس کے مقابلے میں کہیں کم اس بات پر قائل ہیں کہ وفاقی حکومت کو AI پر ضابطوں کی ضرورت ہے، یا یہ کہ حکومت اسے درست طریقے سے کر سکتی ہے۔”
کیا ٹیلر سوئفٹ کی ڈیپ فیک بنائی گئی؟
ٹیلر سوئفٹ کی اجازت کے بغیر اس کی متعدد غیر اخلاقی ڈیپ فیکس (تصاویر اور میوزک) بنائی گئی ہیں۔ اطلاعات کے مطابق، وہ ان ڈیپ فیک بنانے والوں کے خلاف قانونی کارروائی پر غور کر رہی ہیں۔
کیا نیو ہیمپشائر ووٹرز کو ووٹ نہ دینے کا بائیڈن ڈیپ فیک روبو کال موصول ہوئی؟
ہاں، ایک جعل ساز نے ElevenLabs کی AI ٹیکنالوجی استعمال کر کے بائیڈن کی ڈیپ فیک روبو کال بنائی تاکہ ووٹروں کو نیو ہیمپشائر پرائمری میں بائیڈن کا نام نہ لکھنے پر آمادہ کرے۔
