منتظر دنیای Deepfake باشید!

اضافه کردن چهره نیکلاس کیج در فیلم مرد پولادین
اضافه کردن چهره نیکلاس کیج در فیلم مرد پولادین (منبع)

حدود ۶ سال پیش یکی از کارهایی که من در این وبلاگ انجام می‌دادم، گرفتن گاف خبرگزاری‌های مختلف در داخل ایران بود که اخبار جعلی (Fake News) را به عنوان اخبار واقعی به مخاطبان خود می‌فروختند. در آن زمان بحث اخبار جعلی آنقدرها در میان کاربران اینترنت و به‌خصوص شبکه‌های اجتماعی داغ نبود.

با گذشت حدود ۶ سال بحث اخبار جعلی و انتشار آنها در شبکه‌های اجتماعی به موضوع مهمی تبدیل شده است، که می‌توان اوج آن را در رفراندوم باقی ماندن/خروج بریتانیا از اتحادیه اروپا و انتخابات ریاست جمهوری آمریکا دید.

در واکنش به انتشار اخبار جعلی – که سیاستمداران سرتاسر جهان نیز دستی در آن دارند – رسانه‌های مختلف بخشی با عنوان راست‌آزمایی درست کرده‌اند که یکی از نمونه‌های خوب درست‌سنجی مربوط به روزنامه نیویورک تایمز است. در حقیقت کاری که رسانه‌ها برای مقابله با اخبار جعلی انجام می‌دهند آن است که با مقایسه سخنان و اخبار منتشر شده با منابع دیگر و همچنین آمار و ارقام، درست یا نادرست بودن آن را به بررسی می‌کنند.

هر چند که مقابله با اخبار جعلی پیچیدگی‌های خودش را دارد، اما همچنان امکان رو کردن دست اخبار جعلی وجود دارد؛‌ اما در مورد مقابله با اخبار جعلی در سال‌های آینده جای شک بسیاری است زیرا مفهومی جدید با نام Deepfake (جعل‌عمیق؟) در حال شکل گرفتن است که به کمک تکنولوژی می‌توان اخبار و محتوایی جعلی‌ای را تولید کرد که امکان به چالش کشیدن آنها بسیار سخت و در برخی موارد غیرممکن باشد!

در Deepfake شما می‌توانید یک ویدیو از سخنرانی یک مقام سیاسی درست کنید که با صدا و تصویر وی باشد به گونه‌ای که مخاطب فکر می‌کند این سخنان را او گفته است در حالی که چنین چیزی از پایه و اساس درست نیست! یا اینکه یک دولت سرکوبگر می‌تواند یک مصاحبه تلویزیونی علیه یکی از مخالفانش را تولید و سپس آن را منتشر کند.

عامل اصلی‌ای هم که باعث شد این مطلب را در اینجا بنویسم به نگرانی من در دنیای Deepfake بازمی‌گردد که این تکنولوژی به دولت‌هایی مانند ایران این امکان را بدهد که بدون دستگیر کردن یک مخالف سیاسی، یک اعتراف اجباری جعلی از فرد مورد نظر را تهیه و سپس آن را بر روی اینترنت منتشر کنند، یا آنکه ویدیو پورن از یک مخالف سیاسی تولید و براساس آن ویدیو، وی را دستگیر و محکوم به اعدام کنند! و این یعنی یک خطر بزرگ که قبل از دیر شدن باید آمادگی لازم و روش‌های مقابله با آن را بررسی کرد و یاد گرفت.

خلاصه کلام اینکه به زودی باید منتظر اخبار جعلی پیچیده‌ای باشیم که حدس زدن آنها بسیار سخت است و نیاز به تکنولوژی برای مقابله با آن است، اخباری که برای درست‌سنجی آنها تنها یک جستجوی ساده در اینترنت کافی نیست.

پی‌نوشت ۱: ایده این مطلب از این مقاله روزنامه فایننشال تایمز گرفته است.

پی‌نوشت ۲:‌ خواندن این مقاله دانشگاهی که مربوط به ویدیو زیر است را پیشنهاد می‌کنم.

پی‌نوشت ۳: اگر علاقه به تولید ویدیو جعلی دارید، بد نیست اپلیکیشن FakeApp را امتحان کنید!