آیا تا به حال به این فکر کرده‌اید که هر عکسی، ویدیو و اثری تصویری که از شما در اینترنت پخش می‌شود، توسط موتورهای جستجو و الگوریتم‌های تشخیص چهره آنالیز می‌شود؟
این سیستم تشخیص چهره در کنار مزایایی که دارد، نگرانی‌هایی در مورد حفظ حریم خصوصی و امنیت داده‌ها در شبکه‌های اجتماعی به وجود آورده است. به تازگی در دانشگاه تورنتو کانادا، پروژه‌ای توسط پروفسور پرهام اعرابی و دانشجوی ایشان اوشیک باز انجام شده است که طی آن الگوریتمی تعریف می‌شود و سیستم تشخیص چهره را دچار تردید و اشکال می‌کند. به بیان علمی‌تر این الگوریتم می تواند سیستم تشخیص چهره را به طور پویا و در آن واحد دچار اختلال کند.
پروفسور اعرابی در این مورد می‌گوید:
حفظ حریم خصوصی در مقابل توسعه روزافزون تکنولوژی تشخیص چهره تقریباً نادیده گرفته می‌شود. این ویژگی مثبت می تواند کمی از پیشرفت این تکنولوژی در جهت منفی و پایمال کردن حریم‌های خصوصی جلوگیری کند.
راه حلی که برای مبارزه با تشخیص چهره و سیستم هوش مصنوعی به کار می‌رود کمی پیچیده است. پروفسور اعرابی به کمک دانشجوی خود توانسته‌اند دو الگوریتم جداگانه با عنوان «آموزش معکوس» که در مهندسی معمولاً با اصطلاح مهندسی معکوس آن را می‌شناسند، الگوریتم اصلی تشخیص چهره را مختل سازند. الگوریتم‌هایی که تعریف شده‌اند در عکس هم عمل می‌کنند، یکی از آنها دقیقاً همانند هوش مصنوعی چهره را شناسایی می‌کند و الگوریتم دیگر فاکتورهایی که شناسایی شده است را نابود می‌کند. این دو الگوریتم دائماً با هم در حال تعامل و یادگیری هستند تا بتوانند در مقابل هوش مصنوعی و شناسایی چهره توسط آن مقاومت کنند.
نتیجه، این کنش و واکنش‌ها فیلتری بر روی عکس‌ها است. فیلتری همانند آنچه که اینستاگرام بر روی عکس‌های شما برای زیبایی قرار می‌دهد ولی این فیلتر جهت حفظ اطلاعات شخصی شما و پاسداری از حریم خصوصی به‌کار می‌رود. فیلتر موجود نقاطی را که هوش مصنوعی به وسیله آن چهره را شناسایی و تحلیل می‌کند، کور می‌سازد. بدین‌وسیله چهره دیگر برای هوش مصنوعی قابل‌شناسایی نخواهد شود. فیلتر اعمال شده را چشم معمولی نمی‌تواند ببیند؛ زیرا تغییرات به صورت پیکسل وار انجام می‌شود و چشم انسان قادر به تمایز پیکسل‌ها از هم نیست.
باز در این مورد می‌گوید:
هوش مصنوعی مخرب یا همان الگوریتم تخریب‌کننده دقیقاً به هوش مصنوعی تشخیص‌دهنده حمله می‌کند و باعث اختلال عملکرد آن می‌شود. اگر هوش مصنوعی بر روی قسمتی از گوشه چشم شما که تمایز بیشتری با دیگران دارد، فوکوس و تمرکز کرده باشد، الگوریتم تخریبی می تواند با تغییر دادن چند پیکسل باعث شود که تمرکز هوش مصنوعی از روی گوشه چشمان شما در عکس برداشته شود. در ادامه اگر الگوریتم تشخیصی به دنبال نقاط دیگری هم باشد، باز الگوریتم مخرب آنها را مختل می‌کند. الگوریتم تشخیص، باعث تعلیم الگوریتم مخرب می‌شود.
پروفسور پرهام اعرابی و دانشجوی او 300 نمونه آماری متشکل از چهره‌های مختلف در محیط‌های گوناگون را از میان 600 چهره مختلف انتخاب کردند و با استفاده از الگوریتم‌های خود اقدام به قرار دادن فیلتر محافظتی بر روی آنها نمودند. نتیجه می تواند شما را شگفت زده کند. این الگوریتم مخرب درواقع دارای کدگذاری مخصوصی جهت مختل کردن هوش مصنوعی بود و توانست، درصد شناسایی چهره‌ها توسط هوش مصنوعی را از 100 درصد به 99.5 درصد برساند؛ این یعنی اینکه 99.5 درصد کل چهره‌های داده شده به الگوریتم برای محافظت در برابر الگورتیم تشخیص چهره، با موفقیت کدگذاری شده‌اند.
باز نویسنده اصلی مقاله منتشر شده در مجله علمی International Workshop on Multimedia Signal Processing، در مورد نحوه آموزش الگوریتم‌ها می‌گوید:
کلید اصلی اینجاست که دو شبکه عصبی به شدت به هم وابسته هستند. زمانی که شبکه عصبی تشخیص چهره بر اثر دریافت عکس‌های متوالی از کسی هوشیارتر و پیشرفته‌تر می‌شود، شبکه عصبی مخرب نیز با یادگیری از آن، شروع به پیشرفت و یادگیری همان رفتارهای می‌کند تا بتواند کار اصلی خود یعنی تخریب پیکسل‌ها را به خوبی انجام دهد. با ارتباطی که بین این دو وجود دارد، هیچ‌کدام از الگوریتم‌ها نمی‌توانند از هم پیشی بگیرند یا دیگری از یکی عقب بماند.
الگوریتم تخریب علاوه بر اینکه آموزش‌های تشخیص چهره از طریق نقاط را از شبکه عصبی تشخیص چهره یاد می‌گیرد، به تازگی توسعه پیدا کرده است و توانسته ویژگی‌های بومی، احساسات و همچنین برخی دیگر از صفات شخصی را نیز فراگیری کند و آنها را نیز مختل نماید.
گام بعدی که تیم تحقیقاتی به دنبال آن است، ایجاد کردن وب‌سایت یا اپلیکیشن کاربردی برای همه افراد جامعه است تا بتوانند عکس‌های خود را کدگذاری کرده و بعد در اینترنت آپلود کنند. ده سال پیش، الگوریتم تشخیص چهره بازیچه‌ای برای انسان بود، اما دیگر این الگوریتم نیازی به انسان برای پیشرفت و یادگیری ندارد و هر روز بیشتر از دیروز پیشرفته‌تر می‌شود. روزی فرا خواهد رسید که این الگوریتم بتواند همه آنچه که شما می‌دانید را درباره خود شما می‌داند و می تواند کارهای زیادی برای شما یا علیه شما انجام دهد. باید فکری به حال آینده‌ای که زیاد هم دور نیست کرد.