دیپفیک چیست؟ دیپفیک به تصویر، ویدئو یا صدایی گفته میشود که با کمک روش‌های هوش مصنوعی، به‌ویژه مدل‌های یادگیری عمیق، ساخته یا دستکاری شده است؛ به‌طوری که چهره، حرف‌زدن یا حضور یک فرد واقعی را جعلی نشان میدهد. برای نمونه، ممکن است صورت فردی روی بدن شخص دیگری قرار بگیرد، صدای او برای گفتن جمله‌ای تازه بازسازی شود یا در ویدئو طوری به نظر برسد که گویی سخنی را گفته است که هرگز بیان نکرده.
این فناوری با تصاویر معمولیِ تولیدشده با هوش مصنوعی یکسان نیست. اگر یک تصویر خیالی از شهری غیرواقعی ساخته شود، هویت فردی جعل نشده است؛ اما وقتی محتوای ساختگی به یک فرد واقعی نسبت داده میشود، موضوع دیپفیک و پیامدهای آن جدی‌تر میشود.
دیپفیک چیست و چگونه ساخته میشود؟
مدل‌های هوش مصنوعی برای تولید دیپفیک معمولاً با نمونههای زیادی از تصویر، ویدئو یا صدای یک فرد آموزش می‌بینند. سیستم از این داده‌ها الگوهایی مانند فرم صورت، حرکت لب‌ها، حالت‌های چهره، لحن و ریتم گفتار را یاد می‌گیرد و سپس میتواند محتوای تازه‌ای تولید کند که به نمونه اصلی شباهت دارد.
در برخی روش‌ها، چهره یک فرد روی چهره فردی دیگر قرار می‌گیرد. در روش‌های دیگر، لب‌ها و حالت صورت با صدای جدید هماهنگ می‌شوند یا صدای فرد با استفاده از نمونههای قبلی شبیه‌سازی میشود. کیفیت نتیجه به مقدار و کیفیت داده آموزشی، ابزار مورد استفاده و میزان ویرایش انسانی بستگی دارد.
دیپفیک در چه قالب‌هایی دیده میشود؟
دیپفیک فقط یک عکس عجیب یا یک ویدئوی ساختگی نیست و میتواند شکل‌های متفاوتی داشته باشد:
- جعل چهره: جایگزین‌کردن صورت یک فرد با چهره فردی دیگر در عکس یا ویدئو.
- بازسازی حالت چهره: تغییر حرکت لب، چشم یا حالت صورت برای نسبت‌دادن جمله‌ای نادرست به فرد.
- جعل صدا: تولید صدایی شبیه صدای یک شخص برای خواندن متن یا پاسخ‌دادن به تماس.
- ویدئوی ترکیبی: کنار هم قرار دادن تصویر، صدا و حرکت‌های تولیدشده برای ساخت روایتی که در واقعیت رخ نداده است.
- تصویرهای جعلی از افراد واقعی: تولید عکس‌هایی که فرد را در مکان، موقعیت یا لباسی نشان میدهد که حضور او در آن تأیید نشده است.
گاهی یک محتوای جعلی کاملاً با هوش مصنوعی تولید نمی‌شود و بخشی از آن با تدوین معمولی، تغییر صدا یا برش ویدئو ساخته میشود. بنابراین، عبارت «جعلی» همیشه به معنی «کاملاً تولیدشده توسط هوش مصنوعی» نیست.
چرا محتوای دیپفیک میتواند مشکل‌ساز باشد؟
مهم‌ترین خطر دیپفیک، جداشدن تصویر یا صدا از واقعیتی است که به آن نسبت داده میشود. مخاطب ممکن است ویدئویی را مدرک اتفاقی بداند که هرگز رخ نداده یا صدای آشنایی را دلیل کافی برای پذیرفتن یک درخواست تصور کند.
از دیپفیک ممکن است برای شوخی و سرگرمی با رضایت افراد استفاده شود، اما کاربردهای آسیب‌زا نیز دارد؛ از جعل اظهارنظر افراد مشهور و انتشار شایعه گرفته تا کلاهبرداری صوتی، تخریب اعتبار، آزار آنلاین و ساخت محتوای خصوصی بدون رضایت. در محیط خانواده، کودکان و نوجوانان هم ممکن است بدون درک پیامدهای حقوقی و اخلاقی، تصویری جعلی را بازنشر کنند.
یک نکته مهم این است که حتی پس از مشخص‌شدن جعلی‌بودن محتوا، اصلاح اثر آن همیشه آسان نیست. تصویر یا ویدئو ممکن است بارها در کانال‌ها و حسابهای مختلف بازنشر شده باشد و نسخه اصلاح‌شده به اندازه محتوای اولیه دیده نشود.
چه تفاوتی میان دیپفیک و ویرایش معمولی وجود دارد؟
ویرایش معمولی میتواند شامل بریدن بخشی از ویدئو، تنظیم نور، تغییر رنگ یا افزودن صدا باشد. این تغییرها لزوماً هویت یا سخنان فرد را جعل نمی‌کنند. در دیپفیک، هوش مصنوعی معمولاً نقش اصلی را در بازسازی چهره، صدا یا رفتار فرد دارد و نتیجه میتواند بسیار شبیه واقعیت به نظر برسد.
با این حال، مرز این دو همیشه کاملاً جدا نیست. یک محتوای گمراه‌کننده ممکن است ترکیبی از هوش مصنوعی، تدوین دستی و انتخاب گزینشی بخش‌های واقعی باشد. به همین دلیل، به‌جای تمرکز صرف بر این‌که «ساخته هوش مصنوعی هست یا نه»، باید پرسید: آیا این محتوا واقعاً متعلق به همین فرد و همین موقعیت است؟
چرا بعضی دیپ‌فیک‌ها واقعی به نظر می‌رسند؟
مغز انسان معمولاً به چهره و صدای آشنا اعتماد زیادی دارد. اگر تصویر با کیفیت مناسب، صدای طبیعی و زمینه‌ای باورپذیر همراه شود، مخاطب ممکن است پیش از بررسی، آن را واقعی فرض کند. انتشار محتوا از حسابی با نام و عکس آشنا نیز این خطا را بیشتر میکند؛ چون ظاهر حساب به‌تنهایی اصالت آن را ثابت نمیکند.
فناوری تولید تصویر و صدا هم سریع‌تر از گذشته پیشرفت کرده است. بنابراین نشانه‌هایی مانند کمی غیرطبیعی‌بودن چهره یا حرکت لب، همیشه در همه نمونه‌ها دیده نمی‌شوند و نبودن این نشانه‌ها نیز واقعی‌بودن محتوا را تضمین نمیکند.
برای برخورد مسئولانه با دیپفیک چه نکاتی را بدانیم؟
- پیش از بازنشر مکث کنید: محتوای هیجانی، توهینآمیز یا عجیب را به‌دلیل شوکه‌کننده‌بودن، معتبر فرض نکنید.
- منبع اولیه را پیدا کنید: ببینید فایل نخستین‌بار کجا منتشر شده و آیا فرد یا سازمان مربوط، آن را تأیید کرده است.
- درخواست‌های حساس را جداگانه بررسی کنید: اگر صدای آشنا برای انتقال پول، ارائه رمز یا انجام کاری فوری درخواست کرد، از راهی مستقل با فرد تماس بگیرید.
- حریم خصوصی را جدی بگیرید: محتوای خصوصی یا جنسیِ منتسب به افراد را دانلود، ذخیره یا ارسال نکنید؛ حتی اگر از جعلی‌بودن آن مطمئن نیستید.
- محدودیت تشخیص چشمی را بپذیرید: در موارد مهم، بررسی چند منبع معتبر و استفاده از ابزارهای تخصصی از اتکا به یک نشانه ظاهری بهتر است.
تشخیص نهایی همیشه با نگاهکردن به چند فریم یا شنیدن چند ثانیه صدا ممکن نیست. گاهی اصل فایل، زمان انتشار، سابقه حساب منتشرکننده و گزارش‌های مستقل، اطلاعات بیشتری از خود تصویر یا ویدئو ارائه می‌کنند.
جمع‌بندی: دیپفیک چیست و چه برداشتی باید داشته باشیم؟
دیپفیک محتوای تصویری، ویدئویی یا صوتیِ دستکاریشده با هوش مصنوعی است که میتواند هویت یا سخنان فردی واقعی را به‌طور جعلی بازسازی کند. این فناوری به‌خودی‌خود همیشه با نیت آسیب‌زا استفاده نمی‌شود، اما وقتی بدون رضایت، برای فریب، کلاهبرداری یا تخریب اعتبار به کار برود، خطرناک است.
پاسخ درست به پرسش «دیپفیک چیست» فقط شناخت فناوری نیست؛ باید بدانیم هر تصویر و صدایی را نباید مدرک قطعی بدانیم. بررسی منبع، پرهیز از بازنشر عجولانه و تماس مستقل برای درخواست‌های حساس، سه واکنش ساده اما مؤثر در برابر محتوای جعلی هستند.
