فریب دادن شبکه‌های عصبی

در سال‌های اخیر از هوش مصنوعی بطور گسترده‌ای در شناسایی تصاویر استفاده شده است. با این‌حال، تحقیقات نشان داده است که سامانه‌های هوشمند شناسایی تصاویر، به سادگی فریب می‌خورند. گروهی از محققان دانشگاه آبُرن آلاباما با همکاری  Adobe Systems نشان داده‌اند که می‌توان با اندکی جابجایی اشیا در تصویر، شبکه‌های عصبی تشخیص تصاویر را گمراه کرد. در بررسی‌های گذشته، مشخص شده بود که با دستکاری بافت اشیا یا نورپردازی، می‌توان چنین شبکه‌های عصبی را فریب داد اما این برای نخستین بار است که محققان با دستکاری نحوه قرار گرفتن شیء در فضای سه بعدی یک عکس، اقدام به فریب دادن سامانه هوشمند کرده‌اند. این تحقیق به خوبی نشان داد که لازم است سامانه‌های هوشمند تشخیص تصاویر، درک بهتری از ساختارهای سه بعدی بدست آورند. 

شکل1- شبکه Inception v.3  گوگل، اشیاء در موقعیت‌های متعارف را به خوبی تشخیص می‌دهد (ستون a)؛ اما در شناسایی موقعیت‌های نامتعارف دچار اشتباه می‌شود ( ستون‌های b تا d) 
 محققان در این بررسی از ۱۰۰ مدل سه بعدی کامپیوتری کمک گرفتند. آن‌ها با قرار دادن این اشیا سه بعدی در حالت‌های غیرطبیعی موفق شدند شبکه Inception v.3 گوگل را گمراه کنند. به‌طوریکه این شبکه، در شناسایی ۳۰ مورد، موفقیتی حدود سه درصد داشت. این محققان دریافتند که تنها چند درجه چرخاندن یک شی (به‌طور مثال یک خودروی آتش نشانی) در تصویر کافی است تا شبکه عصبی در شناسایی آن دچار اشتباه شود. 
محققان یکی از دلایل بروز چنین نقصی در شبکه‌های عصبی را نحوه آموزش دادن آن‌ها می‌دانند. این شبکه‌ها معمولا با عکس‌هایی آموزش داده می‌شوند که بی‌نقص هستند و توسط عکاسان گرفته شده‌اند. از جمله راهکارهای پیشنهادی برای رفع چنین مشکلی، افزودن مثال‌های غیرمعمول به این داده‌های آموزشی است تا شبکه عصبی، چیدمان غیرمعمول اشیا در یک عکس را بیاموزد. اما این، کار چندان ساده‌ای نیست زیرا تهیه مجموعه داده‌های آموزشی متشکل از مدل‌های سه‌بعدی با کیفیت بالا، پرهزینه و پرزحمت است.