چرا باید خودران‌ها برای کشتن برنامه‫ریزی شوند؟

برای همین خیلی عجیب نیست که خیلی از کارخانه‫های تولید کننده ماشین به فکر ساختن ماشین‫هایی افتاده‫اند که راندن را کامل از دستان شما خارج می‫کند. این‫گونه ماشین‫ها امن‫تر، پاک‫تر و هم‫چنین از نظر میزان مصرف سوخت بهینه‫تر هستند ولی در این بین یک نکته دیگر هم وجود دارد، این‫که هیچ‫وقت صددرصد امن نیستند.

مطلب پیشنهادی: چرا اپل به دنیای خودرو وارد می‌شود؟ چرا حالا؟

این‫جا، جایی است که مشکلات پدیدار می‫شوند. زمانی‫که احتمال وقوع تصادف بسیار زیاد است ماشین را به چه ترتیب می‫بایست برنامه‫ریزی کرد تا از وقوع آن جلوگیری کند؟ آیا باید حفظ جان افراد خارج از اتومبیل در اولویت باشد حتی اگر به قیمت قربانی کردن جان سرنشینان داخل ماشین تمام شود یا این‫که به هر قیمتی باید جان سرنشینان داخل ماشین حفظ شود؟ یا این‫که بهتر است این گزینه‫ها به صورت رندوم انتخاب شوند؟

جواب‫های این سئوالات بسیار مهم است چرا که می‫توانند در نحوه مقبولیت ماشین‫های خودران در جامعه تأثیر بسزایی داشته باشند. کدام آدم عاقلی ممکن است ماشینی بخرد که در حین تصادف جان مالک خود را قربانی می‫کند؟ حالا باید ببینیم که علم می‫تواند به رفع این مشکل کمک کند. ژان فرانسیس بونفون به همراه دوستان خود در مدرسه اقتصاد تولوز فرانسه در این مورد دست به تحقیق زدند. آن‫ها می‫گویند با این‫که هیچ جواب درست یا نادرست مطلق برای این سئوالات وجود ندارد ولی نظر عموم مردم در مورد این‫که ماشین‫های خودران چگونه می‫توانند مورد استقبال قرار بگیرند و این‫که آیا اصلا مورد استقبال قرار می‫گیرند یا نه، بسیار مهم است.
به همین دلیل این تیم با بکارگیری علم جدید اصول اخلاق تجربی شروع به تلاش برای شناخت نظر مردم کردند. یکی از این راه‫ها قرار دادن افراد بر سر دوراهی بود تا واکنش آن‫ها را مورد بررسی قرار دهند. و نتایج بدست آمده حتی اگر قابل پیش‫بینی هم باشد باز خواندن آن خالی از لطف نیست. "اولین نتایج حاکی از اولین چالش‫هایی است که الگوریتم‫های اخلاقی برای ماشین‫های خودران به‫وجود آورده‫اند."

بهتر است ببینیم که ماهیت این دوراهی چیست. فرض کنید در آینده‫ای نه چندان دور صاحب یک ماشین خودران باشید. یکی از روزها که در حال رانندگی هستید ماشین شما بر اثر یک‫سری حوادث ناخواسته و خارج از کنترل شما به سمت حدود 10 نفر عابر پیاده که در حال عبور از خیابان هستند می‫رود. زمان کافی برای توقف ماشین وجود ندارد ولی با کوبیدن به دیوار از کشته شدن 10 نفر انسان جلوگیری می‫کند. هرچند که این تصادف می‫تواند باعث کشته شدن شما و سایر سرنشینان ماشین شود. پس باید چه کار کند؟
یک روش برای رفع مشکل این‫چنینی به حداقل رساندن تلفات جانی است. این طرز تفکر می‫گوید که کشتن 1 نفر بهتر از کشتن 10 نفر است.

ولی این روش می‫تواند عواقب ناخوشایندی داشته باشد. به دلیل این‫که ماشین‫های خودران طوری برنامه‫ریزی شده‫اند تا باعث کشته شدن مالک خودرو شوند، افراد کمتری تمایل پیدا می‫کنند تا صاحب چنین ماشینی باشند. ولی از طرف دیگر تعداد افراد بیشتری به دلیل استفاده از ماشین‫های معمولی در تصادفات کشته می‫شوند و خوب این نکته منفی دیگر این روش است.

بونفون و همکارانش به دنبال پیدا کردن پاسخ مناسب‫تری برای این دوراهی هستند و نظر مردم حرف اول را می‫زند. عقیده آن‫ها بر این است که مردم بیشتر دنبال چیزی می‫روند که با دید کلی آن‫ها همسو است.
برای این منظور چند صد نفر از کارکنان Mechanical Turk آمازون بر سر این دوراهی قرار گرفتند تا پاسخ آن‫ها جمع‫آوری شود. سناریوهای مختلفی به آن‫ها داده شد. در هر سناریو با برخورد ماشین به یک مانع یک یا چند نفر از عابرین پیاده نجات پیدا می‫کنند در حالی‫که سرنشین یا یکی از عابرین پیاده کشته می‫شوند.

بطور هم‫زمان، محققان برخی از جزئیات سناریوها را تغییر دادند. مثلا یکی از چیزهایی که تغییر کرد تعداد عابرینی بود که می‫توانستند زنده بمانند بدون در نظر گرفتن این‫که راننده یا کامپیوتر تصمیم به منحرف کردن ماشین گرفته یا این‫که از پرسش شوندگان خواسته شده تا خود را جای سرنشین ماشین بگذارند یا یک عابر ناشناس.
نتایج بدست آمده جالب توجه بود. در کل مردم با این نظریه که ماشین‫های خودران برنامه‫ریزی شوند تا آمار تلفات پایین بیاید موافق هستند. این روش خیلی خوب به نظر می‫رسد، ولی پرسش‫شوندگان نسبت به اجرایی شدن آن تردید داشتند. بونفون و همکارانش به این نتیجه رسیدند که: آنها عقیده داشتند احتمال برنامه ریزی کردن ماشین‫ها به این روش در واقعیت بسیار کم است. و نکته دیگر این‫که آن‫ها به جای این‫که خود علاقه به خریدن ماشین خودران داشته باشند بیشتر دوست داشتند تا دیگران از چنین ماشین‫هایی استفاده کنند.
پارادوکس دقیقا همین‫جا به‫وجود می‫آید. مردم دوست دارند که ماشین‫های خودران وارد خیابان‫ها شوند تا به این ترتیب آمار تلفات رانندگی کاهش پیدا کند و مثلا سرنشین خودرو دچار آسیب یا نهایتا فوت شود ولی دوست ندارند که خودشان چنین ماشینی داشته باشند و آن را برای بقیه می‫خواهند.

بونفون و همکارانش خیلی سریع به این نکته اشاره می‫کنند که چقدر انسان‫ها ذات پیچیده، پرپیچ و خم و شیطانی دارند. مسئله دیگری که در تفکرات آینده باید به آن توجه شود ماهیت بی‫اطمینانی و سرزنش در زمان بروز حوادث است.
آن‫ها اعتقاد دارند این موارد سئوال‫های زیادی را با خود به همراه می‫آورد: آیا می‫توان قبول کرد ماشین خودران در مواجهه با موتور سوار مسیر خود را منحرف کند تا با برخورد به دیوار متوقف شود با توجه به این‫که احتمال زنده ماندن سرنشین خودرو از سرنشین موتور خیلی بیشتر است؟ آیا زمانی که افراد خردسال سوار ماشین هستند نوع تصمیم‫گیری باید تغییر کند؟ اگر فرض کنیم کارخانه سازنده مدل‫های مختلف با الگوریتم‫های مختلف تولید کند و خریدار با علم به این مسئله یکی از مدل‫ها را انتخاب کند، در صورت بروز حادثه و عواقب تصمیم‫گیری الگوریتم، خریدار باید سرزنش شود؟
"این مشکلات قابل چشم‫پوشی نیستند. از آنجایی‫که قرار است میلیون‫ها دستگاه ماشین خودران وارد بازار شود، پس نیاز به داشتن چنین الگوریتمی بیش از پیش مهم و ضروری به‫نظر می‫رسد."