حملات تک‌پیکسلی به هوش مصنوعی
محققان ژاپنی از دانشگاه Kyushu موفق شده‌اند سامانه‌های هوشمند طبقه‌بندی تصاویر را فریب دهند. آن‌ها توانسته‌اند با تغییر مقدار یک پیکسل در عکسی 1024 پیکسلی، سامانه‌های هوشمند تشخیص تصاویر را به اشتباه بیاندازند، به طوری که سامانه تفسیر نادرستی از عکس داشته باشد و به طور مثال یک هواپیمای جنگی را به‌عنوان یک سگ طبقه‌بندی کند!

این گروه در این تحقیق دو هدف را دنبال می‌کردند. هدف نخست، فریب یک شبکه عصبی عمیق (DNN) و هدف دوم، خودکارسازی چنین حمله‌ای تا سر حد ممکن بود. الگوریتم مورد استفاده در این حمله، مناسب‌ترین پیکسل‌ها برای این کار را می‌یابد. این تحقیق نشان داد که می‌توان با کمک این الگوریتم مهاجم و یافتن تنها یک پیکسل در عکسی 1024 پیکسلی، در 74 درصد موارد هوش مصنوعی را با موفقیت فریب داد. اگر در همین عکس از پنج پیکسل استفاده شود، دقت به حدود 87 درصد می‌رسد. با افزایش ابعاد عکس به طور مثال تا 280 هزار پیکسل، فقط به 273 پیکسل نیاز است که در این مورد اگرچه عکس ابعاد به‌نسبت کمی دارد، اما این میزان تغییر در پیکسل‌ها توجه انسان را جلب نخواهد کرد. 
این حمله تک‌پیکسلی روی حدود سه‌ چهارم از تصاویری که به طور معمول در فرآیند یادگیری استفاده می‌شوند، به‌طور موفقیت‌آمیزی عمل می‌کند. نکته جالب در این روش این است که نیازی به دانستن ساختار داخلی شبکه عصبی نیست. حمله اجرا شده مبتنی بر روشی است موسوم به «تکامل تفاضلی» یا به ‌اختصار DE‌ که در زمینه بهینه‌سازی استفاده می‌شود و در اینجا به‌منظور یافتن بهترین هدف حمله به کار گرفته شده است. طبیعی است هرچه تعداد پیکسل‌ها بیشتر باشد، حمله هم مؤثرتر خواهد بود. به نوشته وب‌سایت Technology Review محافظت سامانه‌های هوش مصنوعی در مقابل چنین حملاتی بسیار دشوار است، زیرا ما اطلاع چندانی از درون یک سامانه مبتنی بر شبکه‌های عصبی عمیق نداریم.

ماهنامه شبکه را از کجا تهیه کنیم؟
ماهنامه شبکه را می‌توانید از کتابخانه‌های عمومی سراسر کشور و نیز از دکه‌های روزنامه‌فروشی تهیه نمائید.

ثبت اشتراک نسخه کاغذی ماهنامه شبکه     
ثبت اشتراک نسخه آنلاین

 

کتاب الکترونیک +Network راهنمای شبکه‌ها

  • برای دانلود تنها کتاب کامل ترجمه فارسی +Network  اینجا  کلیک کنید.

کتاب الکترونیک دوره مقدماتی آموزش پایتون

  • اگر قصد یادگیری برنامه‌نویسی را دارید ولی هیچ پیش‌زمینه‌ای ندارید اینجا کلیک کنید.

ایسوس

نظر شما چیست؟