منتظر دنیای Deepfake باشید!

اضافه کردن چهره نیکلاس کیج در فیلم مرد پولادین
اضافه کردن چهره نیکلاس کیج در فیلم مرد پولادین (منبع)

حدود ۶ سال پیش یکی از کارهایی که من در این وبلاگ انجام می‌دادم، گرفتن گاف خبرگزاری‌های مختلف در داخل ایران بود که اخبار جعلی (Fake News) را به عنوان اخبار واقعی به مخاطبان خود می‌فروختند. در آن زمان بحث اخبار جعلی آنقدرها در میان کاربران اینترنت و به‌خصوص شبکه‌های اجتماعی داغ نبود.

با گذشت حدود ۶ سال بحث اخبار جعلی و انتشار آنها در شبکه‌های اجتماعی به موضوع مهمی تبدیل شده است، که می‌توان اوج آن را در رفراندوم باقی ماندن/خروج بریتانیا از اتحادیه اروپا و انتخابات ریاست جمهوری آمریکا دید.

در واکنش به انتشار اخبار جعلی – که سیاستمداران سرتاسر جهان نیز دستی در آن دارند – رسانه‌های مختلف بخشی با عنوان راست‌آزمایی درست کرده‌اند که یکی از نمونه‌های خوب درست‌سنجی مربوط به روزنامه نیویورک تایمز است. در حقیقت کاری که رسانه‌ها برای مقابله با اخبار جعلی انجام می‌دهند آن است که با مقایسه سخنان و اخبار منتشر شده با منابع دیگر و همچنین آمار و ارقام، درست یا نادرست بودن آن را به بررسی می‌کنند.

هر چند که مقابله با اخبار جعلی پیچیدگی‌های خودش را دارد، اما همچنان امکان رو کردن دست اخبار جعلی وجود دارد؛‌ اما در مورد مقابله با اخبار جعلی در سال‌های آینده جای شک بسیاری است زیرا مفهومی جدید با نام Deepfake (جعل‌عمیق؟) در حال شکل گرفتن است که به کمک تکنولوژی می‌توان اخبار و محتوایی جعلی‌ای را تولید کرد که امکان به چالش کشیدن آنها بسیار سخت و در برخی موارد غیرممکن باشد!

در Deepfake شما می‌توانید یک ویدیو از سخنرانی یک مقام سیاسی درست کنید که با صدا و تصویر وی باشد به گونه‌ای که مخاطب فکر می‌کند این سخنان را او گفته است در حالی که چنین چیزی از پایه و اساس درست نیست! یا اینکه یک دولت سرکوبگر می‌تواند یک مصاحبه تلویزیونی علیه یکی از مخالفانش را تولید و سپس آن را منتشر کند.

عامل اصلی‌ای هم که باعث شد این مطلب را در اینجا بنویسم به نگرانی من در دنیای Deepfake بازمی‌گردد که این تکنولوژی به دولت‌هایی مانند ایران این امکان را بدهد که بدون دستگیر کردن یک مخالف سیاسی، یک اعتراف اجباری جعلی از فرد مورد نظر را تهیه و سپس آن را بر روی اینترنت منتشر کنند، یا آنکه ویدیو پورن از یک مخالف سیاسی تولید و براساس آن ویدیو، وی را دستگیر و محکوم به اعدام کنند! و این یعنی یک خطر بزرگ که قبل از دیر شدن باید آمادگی لازم و روش‌های مقابله با آن را بررسی کرد و یاد گرفت.

خلاصه کلام اینکه به زودی باید منتظر اخبار جعلی پیچیده‌ای باشیم که حدس زدن آنها بسیار سخت است و نیاز به تکنولوژی برای مقابله با آن است، اخباری که برای درست‌سنجی آنها تنها یک جستجوی ساده در اینترنت کافی نیست.

پی‌نوشت ۱: ایده این مطلب از این مقاله روزنامه فایننشال تایمز گرفته است.

پی‌نوشت ۲:‌ خواندن این مقاله دانشگاهی که مربوط به ویدیو زیر است را پیشنهاد می‌کنم.

پی‌نوشت ۳: اگر علاقه به تولید ویدیو جعلی دارید، بد نیست اپلیکیشن FakeApp را امتحان کنید!

نوشتن دیدگاه

دوران گاف گرفتن به اتمام رسیده است

عنوان این مطلب را مدتی قبل در گوگل پلاس گفتم:

به نظرم دوران گاف گرفتن به اتمام رسیده است، باید کارهای بزرگتری انجام داد و برای وقتی که صرف می‌کنیم احترام بیشتر قائل بشیم 🙂

کاری که در سه سال اخیر به صورت جسته و گریخته انجام دادم و هدف از آن آگاه کردن قشری از وب فارسی بود تا اطلاعات غلطی که روزانه توسط خبرگزاری‌های مختلف منتشر می‌شوند را باور نکنند. اما با گذشت سه سال از این روش، تصمیم گرفتم که دفترچه‌ی گاف گیری را به بایگانی بسپارم و به کارهای دیگری بپردازم، کارهای هیجان‌انگیزی مانند هنگ اوت و یا آموزش‌های ویدیویی و صوتی که می‌تواند به صورت پادکست، ویدیوکست باشند.

در ادامه این تغییرات که از حدود یک هفته‌ی پیش به صورت جدی آن را آغاز کرده‌ام، پوسته‌ی این وبلاگ هم تغییر کرد و اگر از طریق خوراک این وبلاگ را می‌خوانید، با مراجعه به صفحه اصلی وبلاگ با چهره‌ی جدیدی مواجه خواهید شد که هدف از آن تمرکز بر سه موضوع است: تکنولوژی، وب و آموزش. و به همین دلیل است که توضیحات این وبلاگ هم از «یادداشت‌های امین ثابتی در مورد همه چیز» به «یادداشت‌های امین ثابتی در مورد تکنولوژی، وب و آموزش» تغییر پیدا کرده است. یادداشت‌هایی که هدف اصلی‌اش آموزش، آموزش و آموزش است زیرا از نگاه من آموزش کلید تغییر و بهبود شرایط یک جامعه است.

علت این تغییر را هم می‌توان این دانست که هم اکنون از نگاه من گاف گیری کاری عبث است و باید کارهای بزرگتری انجام داد، کارهایی که تاثیر بلند مدت داشته باشند…

نوشتن دیدگاه

گاف خیزران در مورد من- اول مطالعه کنیم و بعد برچسب بزنیم

در وب فارسی یکی از ایده‌هایی که همواره بر روی آن تاکید کرده‌ام، گفتگو و دوستی با همه فارغ از هرگونه دیدگاه سیاسی بوده است، ایده‌ای که قبلا در مورد آن صحبت کرده‌ام. علاوه بر آن همیشه گفته‌ام که اگر اشتباهی بکنم به صورت کامل مسئولیت آن را می‌پذیرم و از تمام افرادی که آنها را به اشتباه انداخته‌ام عذرخواهی می‌کنم و در مورد ماجرای اسکایپ نیز دقیقا همین اتفاق افتاد و به صورت رسمی عذرخواهی کردم.

امروز مانند همیشه در فرندفید اسم خودم را جستجو کردم که با فیدی از سوی خیزران مواجه شدم که در آن به پستی از وبلاگ من اشاره کرده بود. پس از اینکه از خیزران در مورد ماجرای پست وبلاگم پرسیدم، این لینک را به من معرفی کرد: «خطری باور نکردنی امنیت اطلاعات میلیون‌ها کاربر ایرانی را تهدید می‌کند» که در وب‌سایت «ندای سبز آزادی» به قلم «نیما راشدان» منتشر شده است! مطلبی که در آن هیچ نقشی نداشته‌ام اما اینگونه از سوی خیزران به من مرتبط شده است:

و باید در یک کلام بگویم که خیزران در این مورد گاف داده است. گافی که با عذرخواهی خیزران از نظر من تمام شده است، اما آنچه که برای من سوال است آن است که دلیل اینگونه رفتار چیست؟ دلیل اینکه به این راحتی به افراد برچسب می‌زنیم چیست؟ دلیل اینکه تنها و تنها و به راحتی هر چه تمام‌تر به یک شخص برچسب می‌زنیم چیست؟ دلیل اینکه روی هوا و بدون داشتن هیچ مدرکی این و آن را به هم وصل می‌کنیم چیست؟ و هزاران سوال دیگر…

به عنوان مثال در ماجرای بالا که در مورد آن صحبت کرده‌ام، کاملا مشخص است که خیزران بدون آنکه یک کلمه از این مطلب را بخواند که در خط اول نام نویسنده در آن نوشته شده است، نظریه‌ای در مورد من داده است! به همین دلیل شاید بد نباشد بگویم که در کارهای دانشگاهی و آکادمیک همواره قبل از ارائه‌ی یک نظریه، فردی که ادعایی دارد ده‌ها مقاله را می‌خواند تا از درستی آن مطمئن شود، بد نیست ما هم برای اینکه به دیگران برچسب بزنیم دستکم یک مطلب را به صورت کامل بخوانیم و سپس برچسب بزنیم، هر چند که برچسب زدن از نظر من کاری کاملا اشتباه است اما کسانی که علاقه به این کار دارند بد نیست کمی زحمت بکشند و مطلبی را کامل بخوانند و سپس برچسب را بچسبانند.

در نهایت باز هم مانند گذشته به این نکته تاکید می‌کنم که  بدون مدرک و روی هوا به این و آن برچسب نزنیم و به صورت سیستماتیک به یکدیگر حمله نکنیم. یاد بگیریم که خود را قربانی سیاستمداران نکنیم و قبل از هر برچسب و اتهامی کمی مطالعه کنیم چون آگاهی نادرست بسیار خطرناک‌تر از عدم آگاهی است.

نوشتن دیدگاه