نگران چهره های ساخته شده توسط هوش مصنوعی باشید!

فرارو-یک مطالعه نگران کننده جدید نشان می دهد که چهره های جعلی ایجاد شده توسط هوش مصنوعی (AI) قابل اعتمادتر از افراد واقعی به نظر می رسند.

به گزارش فرارو، اخیراً دانشمندان توانسته اند از هوش مصنوعی برای ایجاد چهره های انسانی استفاده کنند، چهره هایی که آنقدر واقعی هستند که ممکن است افراد نتوانند آنها را از چهره های واقعی تشخیص دهند و به راحتی به این چهره های ساختگی اعتماد کنند. این چهره های جعلی آنقدر قانع کننده هستند که حتی می توانند ناظران آموزش دیده را فریب دهند و در تقلب بسیار موثر باشند!

این ارقام را می توان به راحتی به صورت آنلاین دانلود کرد و برای کلاهبرداری های سایبری و پروفایل های جعلی رسانه های اجتماعی استفاده کرد. سوفی نایتینگل از دانشگاه لنکستر در بریتانیا می گوید: ما باید نگران باشیم، زیرا این چهره های مصنوعی برای اهداف پلید مانند فیلم های انتقامی یا کلاهبرداری بسیار موثر هستند. برخی از برنامه های هوش مصنوعی که GAN نامیده می شوند، می توانند با کنار هم قرار دادن دو شبکه عصبی، تصاویر جعلی ایجاد کنند، تصاویری که تشخیص آنها از تصاویر واقعی دشوار است.

نایتینگل و همکارش هانی فرید در دانشگاه کالیفرنیا، برکلی، از 315 شرکت‌کننده‌ای که در یک وب‌سایت تأمین مالی جمعی استخدام شده بودند، خواستند تا 400 عکس جعلی را از روی تصاویری که نشان داده می‌شد شناسایی کنند. هر گروه شامل 100 نفر از هر یک از چهار قوم سفید، سیاه پوست، شرق آسیا و جنوب آسیا بود. این گروه دارای دقت 48.2 درصد بود. به گروه دوم، متشکل از 219 شرکت کننده، نحوه تشخیص چهره های تولید شده توسط کامپیوتر آموزش داده شد. این گروه دارای دقت 59 درصدی بود اما این تفاوت نسبت به دقت گروه اول کمی است.

تشخیص چهره‌های سفید برای مردم دشوارتر بود، شاید به این دلیل که نرم‌افزار سنتز صورت‌های سفید به‌درستی آموزش‌دیده نشده بود. محققان همچنین از یک گروه جداگانه متشکل از 223 شرکت‌کننده خواستند تا واقعیت چهره‌هایی که به آنها نشان داده شده است را در مقیاس 1 تا 7 ارزیابی کنند. آنها به طور متوسط ​​چهره های جعلی را 8 درصد قابل اعتمادتر از چهره های واقعی ارزیابی کردند. به گفته نایتینگل، این یک تفاوت کوچک اما قابل توجه بود. او می‌گوید تشخیص اشتباه ممکن است به این دلیل باشد که چهره‌های مصنوعی بیشتر شبیه چهره‌های معمولی انسان هستند و افراد بیشتر به چهره‌های معمولی اعتماد می‌کنند.

چهار رقم غیرقابل اعتماد، ارقام واقعی بودند. در حالی که سه چهره ای که بیشترین امتیاز را کسب کردند در واقع چهره های جعلی بودند! بلبل می گوید: ما به دستورالعمل‌های اخلاقی سخت‌گیرانه‌تر و چارچوب‌های قانونی بیشتری در این زمینه نیاز داریم، زیرا به ناچار افرادی هستند که می‌خواهند از این تصاویر به ضرر خود استفاده کنند و این نگران‌کننده است.» او می گوید: برای کاهش این خطرات، توسعه دهندگان می توانند واترمارک به تصاویر خود اضافه کنند تا آنها را جعلی تشخیص دهند. این ایده بدی به نظر نمی رسد. اگر کاری برای جلوگیری از آن انجام ندهیم، بدتر خواهد شد.»

منبع: خبرشناس: