به گزارش کارگروه فناوری اطلاعات سایبربان؛ محققان دانشگاه استانفورد (Stanford) و برکلی (UC Berkeley) برنامهای را طراحی کردهاند که از هوش مصنوعی برای تشخیص ویدئوهای دیپفیک استفاده میکند.
براساس مقالهای تحت عنوان «تشخیص ویدئوهای دیپفیک از عدم تطبیق صداهای مشابه»، گفته میشود که این برنامه با تشخیص عدم تطابق دقیقه در صداهای ایجاد شده از سوی مردم و شکل دهان آنها، 80 درصد موارد جعلی را تشخیص میدهد.
ویدئوهای دیپفیک را میتوان با استفاده از فناوریهای تغییر چهره یا همگامسازی لب تهیه کرد. فیلمهای معاوضه چهره میتوانند قانع کننده و در عین حال خام باشند و آثار دیجیتالی یا تصویری برجای بگذارند که کامپیوتر میتواند آنها را تشخیص دهد.
همگامسازی لب ظریف و تشخیص آن دشوارتر است. این فناوری قسمت کوچکتری از تصویر را دستکاری و سپس حرکات لب را ترکیب میکند که با روشی مطابق با دهان فرد در صورت گفتن کلمات خاص، بسیار نزدیک است. تیم تحقیقاتی گفت که با داشتن نمونههای کافی از تصویر و صدای یک فرد سازنده یک فیلم دیپفیک میتواند یک تصویر را دستکاری کند تا هر چیزی را بگوید.
تیم تحقیقات دانشگاهی، ابزاری را برای جستجوی اشکال دهانی (visemes) و صداهای آوایی (phenomes) ایجاد کرد. این ابزار با شبکه عصبی مبتنی بر هوش مصنوعی ویدئویی از باراک اوباما، رئیس جمهور سابق ایالات متحده را آزمایش کرد. شبکه عصبی بیش از 90 درصد همگامسازی لب از جمله اوباما را تشکیل میدهد.
اگرچه این برنامه احتمالاً به تشخیص ناهنجاریهای بینایی کمک میکند، اما تشخیص دیپفیک مانند بازی موش و گربه است. به گفته تیم تحقیقاتی، با پیشرفت روشهای دیپفیک، سرنخهای کمتری نیز باقی خواهد ماند. دیپفیک میتواند منجر به افزایش اطلاعات غلط شود که تشخیص آن بسیار دشوارتر خواهد بود.
