ریزپهپادها: قاتلان مجهز به هوش مصنوعی

فرارو- پهپادها دوباره در اخبار مطرح می‌شوند اما نه آن گونه که ما می‌شناسیم. در ماه آگوست بریتانیا اعلام کرد که ۸۵۰ ریز پهپاد (Microdrones) هورنت سیاه را برای استفاده در نبردهای نزدیک به کی‌یف می‌فرستد.

به گزارش فرارو به نقل از دیلی تلگراف، ایده پشت این برنامه (پیش از شکست ارتش روسیه در هفته‌های اخیر در میدان نبرد اوکراین) این بود که ریز پهپادها به سربازان اوکراینی مزیت مهمی در نبردهای شهری ببخشند نبردهایی که در آن انتظار می‌رفت اوکراینی‌ها به دنبال آزادسازی شهرهای خود باشند.

هورنت‌های سیاه در واقع بیشتر شبیه اسباب بازی کودکان هستند. اندازه آن قدری بیش از ۱۵ سانتی متر و وزن آن اندکی کم‌تر از وزن یک آلو است. هورنت‌های سیاه به معنای واقعی کلمه قادر هستند از پنجره‌ها نیز عبور کنند. ریز پهپاد‌ها با توجه به حداقل صدا حین چرخش قادر هستند به طور مستقیم روی دشمن خزیده وارد محوطه‌ها و مواضع دفاعی روسیه (هر آن چه باقی مانده) شوند و از سه دوربین نصب شده در دماغه فیلم‌های با وضوح بالا و عکس تهیه کنند.

هورنت توسط یک سرباز خط مقدم از طریق یک صفحه نمایش کوچک به سبک iPad و یک کنترلر دستی هدایت می‌شود که در کنسول‌های بازی دهه ۱۹۹۰ میلادی تقریبا مشابه آن را دیده بودیم. این ریزپهپاد با قیمت ۱۰ هزار پوند قابلیتی را ارائه می‌دهد که هر سربازی مشتاق آن بود: آگاهی از موقعیت و توانایی تماشای وضعیت بر فراز تپه.

در عملیات متعدد از جمله در عراق و افغانستان از پهپادهای بزرگ و کوچک استفاده شده بود. این پهپادها اجازه دادند تا تصمیم گیری در زمان واقعی بر اساس بهترین اطلاعات موجود صورت گیرد. همان طور که در زندگی غیرنظامی به زودی از پهپادهای کوچک برای تحویل بسته‌های خود استفاده خواهیم کرد ارتش‌ها اکنون از آن پهپادها برای کاربردهایی استفاده می‌کنند که چند دهه پیش صرفا در داستان‌های علمی و تخیلی به آن اشاره شده بود.

در این میان، اوکراین عرصه‌ای برای استفاده از پهپادها بوده است. جنگ اوکراین اولین جنگ بزرگی در زمانی واقعی بوده که در رسانه‌های اجتماعی اطلاعات در مورد آن منتشر شد و جرقه انقلاب کوچکی در نوآوری پهپادی با استفاده از مدل‌های تجاری و داخلی‌ای بود که بسیاری از آن مدل‌ها اهدایی کشورهای غربی بودند و اکنون برای عرضه نیرویی کشنده و مورد استفاده از جنگ اصلاح شده اند.

اکنون این موضوع به امری عادی تبدیل شده که در توئیتر تصاویری از پهپادهایی را در میدان جنگ مشاهده کنید که ممکن است تا یک سال پیش از مراسم ازدواج کار فیلمبرداری را انجام می‌دادند. این کاربرد تاثیری منفی بر روحیه سربازان روس گذاشته است. آن مهاجمان احساس می‌کنند که شکار شده‌اند و وقت زیادی را صرف نگاه کردن به بالا می‌کنند.

به طور خلاصه پهپادها به وضوح نمادی از آینده هستند. اگر این ماشین‌ها بتوانند به کشورهای پیشرفته‌ای مانند غرب و متحدانش کمک کنند که در جنگ‌ها پیروز شوند و در عین حال باعث صرفه جویی در استفاده از سربازان انسانی شود کدام بازیگری است که استفاده از چنین قابلیتی را دوست نداشته باشد؟

با این وجود، پرسش این است که اگر این ماشین‌ها بیش از اندازه کارآمد شوند وضعیت چگونه خواهد شد؟ برای مثال، در لیبی پهپادهای کوچک نه تنها باعث کشته شدن افراد شده‌اند بلکه به طور مستقل و خارج از کنترل آسان این کار را انجام داده اند. ما در حال ورود به عصر بسیار پیش بینی شده ربات قاتل هستیم که علت اصلی آن در دسترس بودن پهپادها، ارزان قیمت بودن و موثر بودن آن است. پرسش این است که آیا می‌دانیم چه نیرویی را آزاد کرده‌ایم؟ آیا خیلی دیر شده تا این مشکل را حل کنیم؟

در حال حاضر هورنت همچنان به یک سرباز نیاز دارد تا با نزدیک شدن به دشمن (کم‌تر از ۲ کیلومتر) خود را در معرض خطر قرار دهد. پهپاد خود قادر به فکر کردن نیست و نمی‌تواند بدون هدایت و دستور انسانی را به قتل برساند. با این وجود، این وضعیت به سرعت در حال تغییر است.

در سال ۲۰۱۷ میلادی یک فیلم کوتاه در کنفرانس دیپلماتیک سازمان ملل متحد در ژنو به نام «ربات‌های قاتل» به نمایش درآمد که برنده جایزه‌ای از موسسه آینده زندگی شده بود. این فیلم عرضه فناوری تخیلی به سبک استیو جابز را به تصویر کشیده بود که در آن یک ریز پهپاد به اندازه کافی کوچک است که در کف دستان شما قرار می‌گیرد.

حضار فیلم می‌خندیدند و دست می‌ زدند در حالی که دستگاه با بازیگوشی از تلاش‌های مجری برای گرفتن آن طفره رفت. بهترین قسمت آن فیلم جایی بود که مجری با خشم گفت: «همه آن هوش مصنوعی است. پردازنده آن می‌تواند ۱۰۰ برابر سریع‌تر از یک انسان واکنش نشان دهد. به عبارت دیگر خود را کنترل می‌کند. این روزها این ریز پهپاد مانند هر دستگاه تلفن همراه دارای دوربین و سنسور می‌باشد و درست مانند گوشی‌های تلفن همراه هوشمند و اپلیکیشن‌های شبکه‌های اجتماعی تشخیص چهره را انجام می‌دهد».

او سپس فاش می‌سازد که در داخل پهپاد کوچک چهار چرخه که به آرامی در دست‌اش فرود آمده سه گرم ماده منفجره وجود دارد. او پهپاد کوچک را به هوا پرتاب می‌کند و به سرعت جهت خود را بازیابی می‌کند و مانند رعد و برق به سمت مانکنی در نزدیکی خود حمله کرده و سوراخ کوچکی در پیشانی‌اش ایجاد می‌کند. این انفجار کوچک برای نفوذ به جمجمه و از بین بردن محتویات آن کافی بود.

ایده آن بسیار وحشتناک بود: یک پهپاد کوچک و ارزان با استفاده از تشخیص چهره برای انتخاب و کشتن یک هدف بدون کنترل مستقیم انسان. ما تا چه اندازه به این واقعیت نزدیک شده‌ایم؟

«استوارت راسل» استاد علوم کامپیوتر در دانشگاه کالیفرنیا است و حامی مالی آن فیلم ساخته شده در سال ۲۰۱۷ بوده و می‌گوید فیلم بیش از ۷۵ میلیون بار مورد بازدید قرار گرفته است. او یکی از مغزهای پیشرو جهان در این زمینه است و سال گذشته سخنرانی‌ای را با موضوع زندگی با هوش مصنوعی ارائه کرد. او می‌گوید نکته کلیدی آن است که فناوری مورد نیاز برای یک ریز پهپاد کشنده از نو نمایش داده شده در فیلم از قبل وجود داشته و این فناوری‌ها باید در برخی از زمینه‌ها بهبود یافته، کوچک شده و یکپارچه شوند.

او می‌افزاید: «مسائل فنی در کوچک‌سازی وجود دارد که مربوط به باتری‌ها و برد و میزان انرژی لازم برای پشتیبانی از پردازش رایانه‌ای است که برای داشتن یک سیستم کاملا مستقل نیاز دارید. با این وجود، این واقعا یک کار مهندسی است. هیچ چیز علمی تخیلی‌ای وجود ندارد که نیاز به رخ دادن آن باشد. در بیش‌تر موارد ما در حال حاضر در آن موقعیت قرار داریم».

برای ساخت یک ریز پهپاد با کارایی بسیار بالا احتمالا به جای استفاده از یک تراشه با هدف عمومی باید تراشه رایانه‌ای سبک‌تر و کم مصرف خود را که به عنوان مدار مجتمع ویژه برنامه (Asic) شناخته می‌شود طراحی کنید. با این وجود، این کاری امکان‌پذیر است.

مجری خیالی در فیلم «ربات‌های قاتل» می‌گوید: «بسیاری از فناوری‌هایی که به ریز پهپاد‌ها امکان می‌دهند شما را بیابند و سپس تصمیم بگیرند شما را به قتل برساند یا خیر هم چنین، دوربین ها، فناوری‌های تشخیص چهره و موقعیت جغرافیایی از پیش در تلفن‌های همراه هوشمند شما وجود داشته‌اند».

فیلم دستگاه‌هایی را نشان می‌داد که به عنوان بخشی از یک بسته در حال شکار دسته‌ای از آدم‌های بد فرضی بودند و این واقعا کلیت مفهوم ریز پهپاد‌های مسلح است. یک ریزپهپاد به خودی خود می‌تواند بسیار بد باشد اما به عنوان بخشی از یک پروژه هماهنگ کابوسی مطلق خواهد بود.

سیستم‌های رایانه‌ای هوش مصنوعی را می‌توان آموزش داد تا چندین پهپاد را تنظیم و مدیریت کند تا به ساختمان ها، قطارها و خودروها نفوذ کرده و تقریبا دربرابر شلیک هر گلوله‌ای مصون باشند و کم‌تر در برابر پارازیت‌های الکترونیکی آسیب‌پذیر باشند زیرا از راه دور کنترل نمی‌شوند.

تنها این صحنه را تصور کنید: چند ریز پهپاد به یک مجرای هوا در کنار ساختمان متصل می‌شوند و خود را منفجر می‌کنند. زمانی که این ریز پهپاد‌ها در خطوط دشمن برای شکار اهداف خاص رها شوند هیچ فرمانده ارشدی صرفنظر از اینکه تا چه اندازه نزدیک به عملیات است هرگز در میدان نبرد احساس امنیت نخواهد کرد.

سال‌هاست که پهپادها به طور مستقل در تیم‌هایی برای کارهایی مانند جستجو، نجات و پاکسازی نشت نفت کار می‌کنند و اولین پیام‌های استفاده از آن به عنوان نیرویی کشنده ارسال شده است. در سال ۲۰۲۰ میلادی یک درگیری در لیبی شامل استفاده احتمالی از یک پهپاد مرگبار خودمختار ساخت ترکیه به نام «کارگو -۲» بود. بر اساس گزارش سازمان ملل متحد از این پهپاد برای شکار و درگیری با کاروان لجستیکی وابسته به «خلیفه حفتر» استفاده شد که اولین حضور شناخته شده در میدان جنگ برای آن نوع از سلاح بود.

در همین حال، سال گذشته گزارش شد که نیروهای دفاعی اسرائیل گروهی از پهپادها را برای مکان یابی، شناسایی و حمله به شبه نظامیان حماس مستقر کردند که تصور می‌شود اولین باری است که از یک گروه از پهپادها در نبرد استفاده می‌شود. هیچ یک از این پهپادها به طور دقیق ریز پهپاد نبودند. با این وجود، در مورد غزه اثبات این مفهوم به اندازه کافی روشن بود. ممکن است بگویید در هر حال تاریخ جنگ به یک معنا با معرفی سلاح‌های جدید و ناخوشایند تعریف می‌شود که کشتن دشمن را آسان‌تر می‌کند. آیا ریز پهپاد‌ها تنها تازه‌ترین نوع تسلیحات برای کشتن آسان هستند؟

پاسخ هم مثبت و هم منفی است. به گفته پروفسور راسل عامل مهم در این میان «مقیاس پذیری» است واژه‌ای با پیامدهای بالقوه تعریف کننده دوران ما. بیایید به فیلم «ربات‌های قاتل» بازگردیم. فیلم مورد حمایت پروفسور راسل که در آن در صحنه‌ای یک هواپیمای نظامی بزرگ در حال پرواز به نمایش در می‌آید. صدایی در فیلم می‌گوید: «ما در حال تفکری عظیم هستیم. یک سفارش ۲۵ میلیون دلاری اکنون این را می‌خرد. برای کشتن نیمی از شهر نیمه بد آن شهر کافی می‌باشد».

در عقب هواپیما باز شده و هزاران ریز پهپاد به بیرون می‌افتند و در هوا فعال می‌شوند و مانند زنبورهای بدخواه به سمت زمین وزوز می‌کنند. ریزپهپادها در عمل به یک سلاح کشتار جمعی تبدیل شده اند. اگر بیش از حد به نظر می‌رسد در نظر بگیرید که فقط چند سال پیش هورنت سیاه حدود ۸۰ هزار دلار برای هر واحد قیمت داشت. حال اکنون یک هشتم آن قیمت دارد.

واقعا برای یک کشور یاغی تا چه اندازه دشوار است که یک کارخانه فوق العاده راه اندازی کند که صدها ریزپهپاد را در هفته پمپاژ می‌کند یا یک گروه تروریستی مانند داعش یا القاعده را در نظر بگیرید که این ماشین‌ها را از بازار آزاد بخرد؟

اکثر ناظران بر این باورند که ولادیمیر پوتین رئیس جمهور روسیه به دلیل ترس از واکنش بین المللی به حمله هسته‌ای متوسل نخواهد شد اما آیا او در مورد با خاک یکسان کردن مناطق غیر نظامی با استفاده از آتش توپخانه نیز هیچ نگرانی‌ای از خود نشان می‌دهد؟ آیا او در استفاده از پهپادهای قاتل برای بازپس گیری خارکف یا ایزیوم تردید خواهد کرد؟

برنامه ریزی پهپادها برای حمله به انسان‌های حامل اسلحه در لباس‌های نظامی یک بازی کودکانه تکنولوژیک است با این وجود، پیامدهای جدی دارد.

«کریس کول» مردی آرام و متفکر است. او وب سایتی به نام Drone Wars UK را از خانه خود در آکسفورد اداره می‌کند که هدف آن مستندسازی و هشدار در مورد استفاده از پهپادهای مسلح و به ویژه از سوی بریتانیا است. او می‌گوید: «وقتی ماشین‌ها تصمیم می‌گیرند چه کسی را بکشند یک مسئله اخلاقی وجود دارد. این خط همیشه در حال خوردگی است. ما به مرحله‌ای می‌رسیم که انسان‌ها تصمیم‌هایی را که توسط ماشین‌ها گرفته می‌شود را مورد تایید قرار خواهند داد».

کول و تیمش بخش اعظم وقت خود را صرف سازماندهی جلسات عمومی و کارزارهای نامه نگاری انبوه می‌کنند. سازمان او پیوندهای محکمی با کارزار خلع سلاح هسته‌ای و نهادهای مختلف مخالف تجارت تسلیحات دارد. واقعیت به خودی خود آشکار است: ظرفیت بالقوه آخرالزمان هسته‌ای کماکان وجود دارد اما به نظر می‌رسد مخالفان دیرینه آن اکنون ظهور ربات‌های پلاستیکی کوچک را یک تهدید مشابه می‌دانند.

آیا ممکن است ما وارد یک مسابقه تسلیحاتی جدید مشابه دهه‌های ۱۹۴۰ و ۱۹۵۰ میلادی شویم؟ غرب در بلاتکلیفی است. قدرت‌های نظامی پیشرو به وضوح سلاح‌های خودمختار را آینده جنگ می‌دانند. با این وجود، آنان به طور قابل درک در مورد واکنش عمومی به ایده ربات‌های قاتل کاملا مستقل حساس هستند. بسیاری از ما در زمان ساخت فیلم‌های ترمیناتور بزرگ شده ایم. وزارت دفاع ایالات متحده از سال ۲۰۱۲ میلادی تحت دستورالعمل خود تحمیلی ۳۰۰۰.۰۹ عمل کرده است. این دستورالعمل مبهم است.

برخی آن را به این معنا می‌دانند که یک انسان باید در حلقه تصمیم گیری حضور داشته باشد اگرچه برخی دیگر مخالف هستند یا می‌گویند این شرط به هر حال براحتی قابل لغو و حذف شدن است. اگر با دقت نگاه کنید و جهت حرکت ساده به نظر می‌رسد. یکی از مقامات دارپا (آژانس پروژه‌های تحقیقاتی پیشرفته دفاعی) چند سال پیش با اعلام به روزرسانی برنامه CODE گفته بود: «همان طور که گرگ‌ها در دسته‌های هماهنگ و با حداقل ارتباطات شکار می‌کنند چندین پهپاد مجهز به کد CODE با یکدیگر همکاری می‌کنند. برای یافتن، ردیابی، شناسایی و درگیری با اهداف همگی تحت فرمان یک ناظر ماموریت انسانی قرار دارند».

ماهیت اساسی نبرد در نیمه‌های قرن حاضر و پس از آن دقیقا به آن چه که نظارت مستلزم آن است بستگی دارد. برخی از کشورها جهت روند را می‌بینند و می‌خواهند آن را متوقف کنند: از سال ۲۰۱۴ میلادی ده‌ها نفر حمایت خود را از معاهده ممنوعیت استفاده از ربات‌های قاتل خود مختار اعلام کرده اند. دیگران می‌خواهند جلوتر بروند.

البته بازیگران بزرگ از جمله ایالات متحده، چین، هند و روسیه تمایل واقعی برای حمایت از معاهده از خود نشان نداده اند. بریتانیا نیز از این قاعده مستثنی نبوده است. نیروی هوایی ارتش بریتانیا در سال جاری برنامه پهپادی خود موسوم به «پروژه پشه» را تحت نظارت اسکادران ۲۱۶ متوقف کرد اما این تصمیم را تنها به منظور پیشبرد برنامه‌هایی برای جایگزینی بهتر اتخاذ کرده بود.

پروفسور راسل با تاسف می‌خندد: «این یکی از معدود زمینه‌هایی است که ایالات متحده، بریتانیا و روسیه همگی در آن توافق دارند: ما باید این دسته جدید از تسلیحات را ایجاد کنیم». ناامیدی او مشهود است. در این میان، وزارت دفاع بریتانیا انکار کرده که آن کشور دارای سیستم‌های تسلیحاتی کاملاً خودمختار است یعنی سیستم‌هایی بدون دخالت انسانی مناسب.

آن وزارتخانه اعلام کرده که استراتژی آن ارتقای توسعه نظامی «ایمن و مسئولانه» هوش مصنوعی در هماهنگی با متحدان و فشار برای انطباق با قوانین بین المللی فعلی است که آن را «بسیار موثر» توصیف می‌کند. نظامیان نظر مساعدی نسبت به استفاده از ریزپهپادها دارند.

یک نظامی بریتانیایی می‌گوید: «این علاقه بدان خاطر است که ارتش ما همیشه از خود می‌پرسد» بالای تپه چه خبر است «؟ او می‌گوید ریزپهپادها به شما اجازه می‌دهند بدون هزینه‌های انسانی در جنگ بجنگید. با استفاده از پهپادها شما تعداد بیش‌تری از دشمن را بدون هیچ هزینه اضافی برای خود به قتل می‌رسانید و این همیشه هدف اصلی هر ارتشی می‌باشد».

هوش مصنوعی یا به عبارت دیگر ربات‌ها در طیف وسیع و رو به رشدی از فعالیت‌ها از بازی شطرنج گرفته تا خلبانی هواپیما به وضوح بهتر از انسان‌ها هستند. با این وجود، اگر عامل حیاتی اخلاق را در نظر بگیرید آیا هوش مصنوعی می‌تواند بهتر تصمیم بگیرد که چه کسی زنده بماند و چه کسی بمیرد؟ علیرغم تمام آشفتگی‌ها و جنجال‌های فراوان حملات پهپادهای شکارچی (Predator) و دروگر (Reaper) که پس از ۱۱ سپتامبر با آن آشنا شدیم تا آنجا که می‌دانیم کاملا تحت کنترل عامل انسانی و نه صرفا تحت نظارت بوده‌اند.