به گزارش کارگروه فناوری اطلاعات سایبربان؛ در حالی که کمتر از 50 روز تا انتخابات پارلمانی کره جنوبی در ماه آوریل امسال باقی مانده است، نگرانی‌ها در مورد تکثیر ویدئوها و تصاویر عمیق جعلی تولید شده توسط هوش مصنوعی (AI) در حال افزایش است که باعث افزایش هوشیاری مقامات انتخاباتی شده است.
براساس گزارش کمیسیون ملی انتخابات (NEC)، ناظر انتخابات کشور، 129 قطعه محتوای رسانه ای تولید شده توسط هوش مصنوعی از 29 ژانویه تا پایان هفته گذشته شناسایی شده که نقض قانون انتخابات است و به تازگی اصلاح شده است.
این قانون که از 29 ژانویه اجرایی می‌شود، استفاده از دیپ‌فیک‌ها را برای مقاصد تبلیغاتی انتخاباتی ممنوع می‌کند و برای متخلفان تا 7 سال زندان یا جریمه 10 میلیون وون (7499 دلار) جریمه می‌شود.
تأکید کمیسیون ملی انتخابات درمورد دیپ‌فیک‌ها نشان‌دهنده پاسخی فعال به چشم‌انداز در حال تکامل اطلاعات غلط است که با پیشرفت‌های فناوری هوش مصنوعی تسهیل می‌شود.
قانون بازنگری شده که در ماه دسامبر گذشته توسط مجلس ملی تصویب شد، با هدف جلوگیری از انتشار اطلاعات غلط و حفاظت از یکپارچگی روند انتخابات در برابر تهدیدهای نوظهور است.
دستکاری‌های دیپ‌فیک قبلاً در انتخابات گذشته، هم در کره و هم در سطح بین‌المللی مورد استفاده قرار گرفته و این نگرانی را ایجاد می‌کند که ویدیوها و تصاویر ایجاد شده توسط هوش مصنوعی یکی از بزرگ‌ترین تهدیدها، به ویژه در قالب اخبار جعلی و گمراه کردن افکار عمومی، برای دموکراسی هستند.
به عنوان مثال، در طول انتخابات ایالتی در سال 2022، یک ویدیوی تولید شده توسط هوش مصنوعی در رسانه‌های اجتماعی منتشر شد که یون سوک یول (Yoon Suk Yeol)، رئیس جمهور کره، را در حال حمایت از یک نامزد محلی از حزب حاکم نشان می‌داد.
در ژانویه امسال، رأی‌دهندگان نیوهمپشایر یک تماس رباتیک تولید شده توسط هوش مصنوعی دریافت کردند که جعل هویت جو بایدن، رئیس جمهور ایالات متحده بود و به آنها توصیه می‌کرد در انتخابات مقدماتی ریاست جمهوری این ایالت شرکت نکنند.
همانطور که فناوری هوش مصنوعی به تکامل و تکثیر ادامه می‌دهد، کارشناسان نسبت به پیچیدگی و سرعت رو به رشد تولید دیپ‌فیک هشدار می‌دهند که از فرآیندهای تأیید سنتی که توسط مقامات انتخاباتی استفاده می‌شود پیشی می‌گیرد. به دلیل سرعت بی‌نظیر ایجاد دیپ‌فیک در مقایسه با تلاش‌های راستی‌آزمایی، مبارزه با تکثیر دیپ‌فیک برای مقامات سخت است.
کیم میونگ جو (Kim Myuhng-joo)، استاد دانشگاه زنان سئول، گفت :
«سرعت تولید تقلبی‌های قابل باور از طریق فناوری‌های دیپ‌فیک بسیار سریع‌تر از فرآیند تأیید کمیسیون ملی انتخابات است. این غیرقابل مقایسه است.»
علاوه بر این، تکامل مستمر فناوری دیپ‌فیک موانع بیشتری را برای شناسایی و کاهش ایجاد می‌کند و نیازمند رویکردی چندوجهی است که پروتکل‌های راستی‌آزمایی دقیق را در اولویت قرار می‌دهد.
یکی از مقامات کمیسیون ملی انتخابات در این خصوص اظهار داشت :
«فناوری ایجاد دیپ‌فیک نیز دائما در حال پیشرفت است. ما به جای استفاده از یک برنامه خاص یک شرکت، یک فرآیند تأیید گام به گام برای بررسی و اقدام در مورد غیرقانونی بودن داریم.»
