به گزارش حیات به نقل از فارس، در ژانویه ۲۰۲۴، کارمند دفتر هنگکنگ شرکت مهندسی «آروپ» پس از دریافت پیامی که ظاهراً از مدیر مالی شرکت در بریتانیا آمده بود، وارد یک تماس ویدئویی گروهی شد؛ پلیس هنگکنگ گفت همه افراد حاضر در تصویر، بهجز خود کارمند، بازسازیهای تولیدشده با هوش مصنوعی بودند.او در ۱۵ تراکنش، مجموعاً ۲۰۰ میلیون دلار هنگکنگ، حدود ۲۵٫۶ میلیون دلار آمریکا، به پنج حساب انتقال داد. آروپ در مه ۲۰۲۴ هدفقرارگرفتن خود را تأیید کرد و گفت سامانههای داخلیاش هک نشده بودند.چند روز بعد، وقتی ماجرا فاش شد، دیگر مسئله اصلی «واقعیبودن تصویر» نبود؛ ماشین توانسته بود نشانههایی را بسازد که انسان بر اساس آنها تصمیم مالی گرفت. این همان نقطهای است که جعل عمیق از یک تکنیک تصویری به مسئله امنیتی تبدیل میشود.
گودفلو بازی را با دو شبکه متضاد تعریف کرد
در سال ۲۰۱۴، یان گودفلو و هفت پژوهشگر دیگر معماری «شبکه مولد تخاصمی» یا گن (Generative Adversarial Network) را معرفی کردند.ایده ساده بود: یک شبکه مولد، داده جعلی میسازد و شبکه نقاد تلاش میکند تشخیص دهد نمونه واقعی است یا ساخته شده. مولد میخواهد نقاد را فریب دهد و نقاد میخواهد فریب نخورد.مقاله مسئله را بهصورت یک «بازی دومینِ کمینه» میان دو بازیکن فرمولبندی کرد؛ یعنی منفعت یکی با شکست دیگری گره خورده است. در صورت ایدهآل، مولد آنقدر بهتر میشود که توزیع دادههای ساختگیاش به داده واقعی نزدیک شود و نقاد دیگر نتواند از روی نمونه تشخیص دهد کدام واقعی و کدام جعلی است. همین ایده بعدها به یکی از پایههای مهم تولید چهره و ویدئوی مصنوعی تبدیل شد.
مولد دروغ را نمیگوید بلکه واقعیت را تقریب میزند
برای فهم این سازوکار لازم نیست وارد ریاضیات سنگین شویم. مولد از نویز یا یک ورودی اولیه شروع میکند و تلاش میکند تصویری بسازد که از نظر آماری شبیه نمونههای واقعی باشد.نقاد هم از هر تصویر یک سؤال دوحالتی میپرسد: «واقعی است یا جعلی؟» اگر نقاد بتواند جعل را تشخیص دهد، مولد باید پارامترهایش را تغییر دهد؛ اگر نقاد اشتباه کند، همان خطا به مولد نشان میدهد که مسیرش درستتر شده است. در واقع هر طرف دیگری را آموزش میدهد.به همین دلیل قدرت این معماری فقط از «تولید تصویر» نمیآید، بلکه از وجود یک رقیب درونی میآید که دائماً نقطهضعفهای تولیدکننده را پیدا میکند. مرور ریاضی شبکههای مولد تخاصمی نیز همین ساختار را یک فرایند بهینهسازی میان دو تابع متضاد توضیح میدهد.
جعل زمانی قانعکننده میشود که نقاد شکست بخورد
نکته مهم این است که نقاد لازم نیست «واقعیت» را بفهمد؛ کافی است از روی تفاوتهای آماری میان نمونههای واقعی و جعلی یاد بگیرد. به همین علت، مسئلهای که یک نسل از آشکارسازها را فریب میدهد ممکن است برای نسل بعدی آشکار شود و برعکس.نتایج چالش بزرگ تشخیص جعل عمیق متا این ضعف را بهوضوح نشان داد: بهترین مدل در مجموعه عمومی به دقت ۸۲٫۵۶ درصد رسید، اما روی مجموعه محرمانهای که شرکتکنندگان آن را ندیده بودند، بهترین عملکرد به ۶۵٫۱۸ درصد افت کرد و هیچیک از ۲۱۱۴ شرکتکننده نتوانست در آن آزمون به ۷۰ درصد برسد. مشکل اصلی، تعمیمدادن آموختههای مدل آشکارساز به جعلهای تازه بود. به بیان ساده، شکارچی اگر فقط ترفندهای دزد دیروز را بلد باشد، دزد فردا را بهراحتی از دست میدهد.
افبیآی میگوید مسئله از تصویر بزرگتر شده است
اداره تحقیقات فدرال آمریکا در هشدارهای خود درباره رسانه مصنوعی گفته است پیشرفت هوش مصنوعی سرعت، باورپذیری، مقیاس و خودکارشدن تولید جعل عمیق را افزایش داده و این فناوری میتواند برای فیشینگ، مهندسی اجتماعی، کلاهبرداری، اخاذی و عملیات نفوذ استفاده شود.در مه ۲۰۲۵ نیز این نهاد اعلام کرد مجرمان از پیام متنی و صدای تولیدشده با هوش مصنوعی برای جا زدن خود بهجای مقامهای ارشد آمریکا استفاده میکنند. نکته مهم در ادبیات افبیآی این است که خطر فقط «ساختن یک ویدئوی جعلی» نیست؛ مسئله ایجاد یک زنجیره اعتماد جعلی است تا قربانی خودش مرحله آخر حمله را انجام دهد. در چنین حملهای، هوش مصنوعی لزوماً پول را نمیدزدد؛ انسان را متقاعد میکند پول را منتقل کند.
جنگهای واقعی حالا میدان جنگ تصاویر جعلی هم شدهاند
در مارس ۲۰۲۶، یورونیوز فارسی گزارش کرد که همزمان با جنگ ایران، ویدئوهای تولیدشده با هوش مصنوعی، تصاویر قدیمی و محتوای جعلی در شبکههای اجتماعی بهسرعت بازنشر میشدند.در میان نمونههای ذکرشده، ویدئوهایی دیده میشد که چهرههایی مانند دونالد ترامپ و بنیامین نتانیاهو را در موقعیتهای ساختگی قرار میدادند. فکتنامه نیز در فوریه ۲۰۲۶ مجموعهای از ویدئوهای منتسب به توانایی نظامی ایران را بررسی کرد و گفت بسیاری از آنها با هوش مصنوعی ساخته شدهاند؛ از نشانههایی مانند پرچمهای نادرست، نوشتههای غلط روی موشکها و ناپدیدشدن اشیا برای تشخیص جعل استفاده کرد.این نمونهها یک تغییر مهم را نشان میدهند: جعل عمیق دیگر فقط ابزار شوخی یا جعل چهره نیست و میتواند وارد روایت یک بحران واقعی شود، جایی که مخاطب همزمان با خبر واقعی با حجم بزرگی از تصاویر جعلی روبهرو است.
جنگ مولد و نقاد دیگر فقط میان دو شبکه نیست
اینجا باید یک افسانه فنی را هم کنار گذاشت: همه جعلهای عمیق امروزی با معماری گن ساخته نمیشوند.پیشرفت مدلهای انتشاردهنده، مدلهای چندوجهی و دیگر روشهای مولد، زمین بازی را گستردهتر کرده است. دارپا در مارس ۲۰۲۵ اعلام کرد فناوریهای تولید و دستکاری رسانه چنان سریع پیش رفتهاند که روشهای صرفاً آماری برای کشف جعل دیگر کافی نیستند و سامانههای دفاعی باید علاوه بر اثرات آماری، ناسازگاریهای معنایی و منشأ محتوا را نیز بررسی کنند.حتی خود دارپا نمونهای از چهرههای تولیدشده با گن را آورده که در آن گوشوارهها با یکدیگر سازگار نیستند؛ یعنی گاهی بهترین سرنخ جعل نه یک پیکسل، بلکه یک تناقض در معنای صحنه است.
در نهایت، نبرد میان مولد و نقاد را نباید مسابقه سادهای دانست که یک روز مولد برنده و روز بعد آشکارساز پیروز میشود.هر بار که آشکارساز نشانه تازهای پیدا میکند، سازنده جعل انگیزه دارد همان نشانه را حذف کند؛ هر بار که جعل طبیعیتر میشود، دفاع باید از «تشخیص تصویر» به سمت بررسی منشأ فایل، زنجیره انتشار، سازگاری صوت و تصویر، تناسب زمانی و حتی معنای صحنه حرکت کند. به همین دلیل، فاجعه آروپ را نمیتوان فقط با این جمله توضیح داد که «هوش مصنوعی تصویر واقعی ساخت».ماشین در آن پرونده تصویری ساخت که برای مغز انسان به اندازه کافی واقعی بود تا اعتماد ایجاد کند. نقطه ضعف نهایی نه در پیکسلها، بلکه در این فرض قدیمی بود که هر چیزی که میبینیم، پیش از این واقعی بوده است.
نظر شما