نبرد ربات‌های قاتل

جنگ فرسایشی یعنی درگیری هر روزه. این بدان معنی است که هر روز قابلیت آزمایش این سلاح‌‏ها وجود دارد؛ می‏‌شود هر روز آن‌ها را امتحان، دستکاری، تعمیر و تقویت کرد. پس اگر آزمایشگاهی به‌‏این وسعت وجود داشته باشد تا تسلیحات مورد آزمایش قرار بگیرند و راهکار‌هایی برای مرگبارتر کردن هوش‌‏مصنوعی پیدا شود، کمک مؤثری در این نبرد به‌‏حساب می‌‏آید.

به گزارش هم‌میهن، با گذشت دو سال از حمله روسیه به اوکراین، کمبود نیرو و کمبود سلاح باعث شده تا اوکراین در این جنگ فرسایشی از هر ابتکاری استفاده کند تا بتواند آسیب‌پذیری خود را کاهش دهد. این جست‌وجو به ظهور ربات‌های قاتل و به‌کارگیری از هوش‌مصنوعی در میدان نبرد منجر شده است.

دولت‌های سراسر جهان برای رسیدن به فناوری‌های نوظهور و مخرب با یکدیگر در رقابت‌اند و با اثرات عمیق و دگرگون‌کننده هوش‌مصنوعی دست و پنجه نرم می‌کنند. در این میان، کمپانی‌های فناوری که به‌دنبال سرمایه‌گذاری ریسک‌پذیر در مدل‌های بنیادی می‌گردند، وارد رقابت‌های تسلیحاتی در حوزه هوش مصنوعی مولد شده‌اند که میلیارد‌ها دلار ارزش دارد. در مبارزه برای برتری اقتصادی و رقابت بر سر استاندارد‌های اخلاقی، موازنه قدرت در جهان متزلزل شده است. هوش مصنوعی چگونه جنگ‌های مدرن را تغییر شکل داده است؟

در فقدان چارچوب جامع جهانی برای به‌کارگیری از هوش مصنوعی در عملیات نظامی، خلأ خطرناکی در قوانین مربوط به آن ایجاد شده است. این شکاف، پرونده قوی فناوری را بدون بررسی باقی می‌گذارد، خطری برای صلح و امنیت بین‌المللی ایجاد می‌کند، اشاعه سلاح‌ها را تشدید می‌کند و قوانین بین‌المللی را به‌چالش می‌کشد.

در حالی‌که کشور‌ها و کمپانی‌های بزرگ به‌دنبال چیره شدن در حوزه هوش مصنوعی هستند، چشم‌انداز ژئوپلیتیکی سرشار از تنش است. در نتیجه حس فوریتی در میان سازمان‌های بین‌المللی، دانشمندان و محققان به‌وجود آمده است که دلیل آن به پتانسیل پیشرفت‌های هوش مصنوعی از جمله اپلیکیشن‌های اخلالگر در حوزه نظامی برمی‌گردد.

ربات‌های قاتل

یکی از ایده‌های ترسناک این است که نیرو‌های نظامی سراسر جهان می‌توانند از سلاح خودکار مثل ربات‌های قاتل استفاده کنند. گزارش پال مزور، خبرنگار نیویورک‌تایمز نشان می‌دهد این اتفاق هم‌اکنون در حال رخ دادن است. مزور در پادکست دیلی نیویورک‌تایمز می‌گوید زمانی که برای اولین‌بار در این‌باره گزارش تهیه می‌کردم، بیشتر شبیه فیلم‌های ژانر علمی-تخیلی بود.

وقتی تصور می‌کنید هوش مصنوعی فردی را دنبال می‌کند و او را به‌قتل می‌رساند شما را یا یاد «ترمیناتور» و آرنولد شوارتزنگر می‌اندازد که همانند یک ربات افراد را دنبال می‌کند یا رایانه «هال» در فیلم «۲۰۰۱: یک ادیسه فضایی»، رباتی همه‌چیزدان که می‌تواند در سفینه فضایی مردم را به قتل برساند. موضوع این است که نسخه‌های اولیه این فناوری که ما را به این مرحله می‌رسانند، هم‌اکنون توسعه پیدا کرده‌اند.

اوکراین، آزمایشگاه سلاح‌های مجهز به هوش‌مصنوعی

این ربات‌ها حالا در اوکراین توسعه پیدا کرده‌اند. اوکراین به‌نوعی به مرکز توسعه این نوع از فناوری‌های نظامی خودکار در مقیاس بزرگ تبدیل شده است. آن‌ها اساساً انواع کاربرد‌های نظامی جدید را برای هوش مصنوعی پیدا می‌کنند.

مزور در پاسخ به این سوال که چرا این تسلیحات در اوکراین به‌کار گرفته می‌شوند، می‌گوید: «شاید مهم‌ترین دلیل آن این است که آن‌ها با کمبود سلاح مواجه‌اند.» تسلیحات مورد نیاز اوکراین که از آمریکا یا اروپا ارسال می‌شوند، لزوماً سریع یا در زمان پیش‌بینی‌شده به‌دست اوکراینی‌ها نمی‌رسد.

به گفته مزور آن‌ها باید از هر چیزی که به دست‌شان می‌رسد برای مبارزه در جنگ استفاده کنند. پس برای ساخت تسلیحات جدید و کارآمد به فناوری مصرفی و تکنولوژی‌های نوظهور مثل هوش‌مصنوعی روی می‌آورند. نکته دوم این است که آن‌ها دچار کمبود نیروی انسانی‌اند. چنانچه مجبور باشید از تمامی سنگر‌های خود دفاع کنید، ولی به‌اندازه روس‌ها نیروی انسانی نداشته باشید، باید به نوآوری‌هایی روی بیاورید که مشکل را حل کند.

چه‌چیزی بهتر از مسلسل‌های خودکار یا پهپاد؟ به‌گفته مزور شاید آنچه مردم درک نمی‌کنند این است که اوکراین مدت‌هاست به مرکز صنایع مبتنی بر فناوری در جهان تبدیل شده. بسیاری از اپلیکیشن‌هایی که هر روز از آن‌ها استفاده می‌کنید احتمالاً تاحدی از سوی مهندسان حاضر در اوکراین کدگذاری شده‌اند.

پس کدگذاران متعدد و بسیاری از کارشناسان بامهارت نگاهی به توانایی‌هایشان می‌اندازند و با خود می‌گویند باید از ساخت اپلیکیشن‌های دوست‌یابی به این برسیم که چگونه جلوی پیشروی روس‌ها بایستیم. این به‌معنی ساخت سلاح‌های جدید است.

نکته آخر و بسیار مهم این است که این یک جنگ فرسایشی است. جنگ فرسایشی یعنی درگیری هرروزه. این بدان معنی است که هر روز قابلیت آزمایش این سلاح‌ها وجود دارد؛ می‌شود هر روز آن‌ها را امتحان، دستکاری، تعمیر و تقویت کرد. پس اگر آزمایشگاهی به‌این وسعت وجود داشته باشد تا تسلیحات مورد آزمایش قرار بگیرند و راهکار‌هایی برای مرگبارتر کردن هوش‌مصنوعی پیدا شود، کمک مؤثری در این نبرد به‌حساب می‌آید.

تمام این شرایط اوکراین را به بهترین محل ساخت و تولید این نوع فناوری تبدیل می‌کند. مزور در ماه می‌به اوکراین سفر کرده و با تعداد زیادی از استارتاپ‌ها و برنامه‌نویسان و سربازانی که از این فناوری استفاده می‌کنند، دیدار کرده است. برای مزور تکان‌دهنده‌ترین لحظه نه در خط مقدم بلکه در پارکی در حومه کی‌یف اتفاق افتاد.

چندین نفر حدوداً ۲۰ ساله و یکی نوجوان، کمپانی را بنا کرده‌اند که پهپاد‌های خودکار می‌سازد. آن‌ها با موتورسیکلت‌هایشان به این پارک آمدند و مزور را با خود به مکانی بردند و پهپاد کوچکی را از جعبه‌اش بیرون آوردند. این پهپاد ۴ پروانه داشت و به‌نوعی نسخه کوچکتر یک پهپاد معمولی است که در سفر و یا جشن عروسی با آن عکاسی می‌کنند.

آن‌ها سپس کیفی را باز کردند که روی آن صفحه نمایش داشت و توضیح دادند که صفحه مدار بسیار کوچکی را از یک کامپیوتر کوچک گرفته‌اند و نرم‌افزاری را روی آن قرار دادند که اجازه می‌دهد آن پهپاد کوچک بتواند تانک، قطعه‌ای از گلوله یا حتی یک انسان را دنبال و سپس به آن اصابت کند.

ایده این است که اگر گلوله‌ای زیر آن نصب کنید، به چیزی شبیه موشک تبدیل می‌شود. این گروه نتیجه کار خود را به مزور نشان دادند. مدیرعامل این گروه کلاه ایمنی خود را بر سر گذاشت، موتورسیکلت را روشن کرد و به‌عنوان هدف در جاده‌ای گلی در مسیری پیچ‌واپیچ شروع به حرکت کرد.

یکی از اعضای تیم پهپاد را پرواز می‌دهد و بالای سر موتورسیکلت حرکت می‌کند. او ضربدر روی صفحه نمایش را روی موتورسیکلت قرار می‌دهد. در این نقطه، ربات ادامه عملیات را در اختیار می‌گیرد. پهپاد به‌دنبال موتورسیکلت می‌رود و نزدیک و نزدیک‌تر می‌شود. این تصاویر را می‌توان روی صفحه نمایش مشاهده کرد.

فاصله پهپاد به موتورسیکلت نزدیک و نزدیک‌تر می‌شود. در نهایت دکمه‌ای زده می‌شود و دستگاه را از حالت خودکار خارج می‌کنند. پهپاد هم دوباره به آسمان برمی‌گردد. این لحظه‌ای خوش‌آیندی برای اعضای تیم بود که می‌توانستند مدیرعامل خود را تعقیب کنند. اما حقیقت تلخ‌تر این است که اگر این پهپاد به گلوله‌ای مجهز بود و آن‌ها آن را با یک دکمه از حالت خودکار خارج نمی‌کردند، مدیرعامل الان زنده نبود. این همان فناوری است که توسط سربازان در خط مقدم برای هدف قرار دادن روس‌ها مورد استفاده قرار می‌گیرد.

آنچه دیده می‌شود این است که کامپیوتر در دنبال کردن و هدف قرار دادن مدیرعاملی که روی موتورسیکلت تغییر مسیر می‌دهد کنترل را از دست جوانان استارتاپی خارج می‌کند. این همان موضوعی است که این فناوری را قدرتمند می‌کند. این یک پهپاد از راه دور نیست. این پهپادی است که قدرت خود را از هوش مصنوعی می‌گیرد و قضاوت‌های خودش را دارد.

آنچه باید درباره این افراد درک کرد این است که آن‌ها کار خارق‌العاده‌ای انجام نمی‌دهند. آن‌ها از کد‌های ساده‌ای که موجودند، استفاده می‌کنند، آن را با داده‌های جدیدی از جنگ ترکیب می‌کنند و سلاح کاملاً جدید و متفاوتی را تولید می‌کنند. مزیت این سیستم خودکار نسبت به پهپاد‌های کوچک در پارازیت‌های رادیویی است.

اگر سیگنال‌های میان خلبان و پهپاد را از بین ببرید می‌توانید مانع از حمله پهپاد به سیستم تسلیحاتی گران‌قیمت خود شوید. اما در این مورد، مهم نیست که خلبان چه می‌بیند. به‌محض قفل شدن روی هدف، با کمک این نرم‌افزار هوش مصنوعی، پهپاد به کار خود ادامه می‌دهد. در صورتی می‌توانید آن را متوقف کنید که به آن شلیک کنید. به گفته خبرنگار نیویورک‌تایمز این‌ها نوعی پهپاد‌های کامی‌کازه خودکارند.

قدم بعدی ساخت دسته‌ای از چندین پهپاد‌های کامی‌کازه‌ست. فقط چند کمپانی وجود دارند که این پهپاد‌ها را می‌سازند. آنچه درحال آزمایش است یک پهپاد ۴ پروانه‌ای است که بر میدان جنگ نظاره می‌کند. سپس این پهپاد، گروهی از پهپاد‌های کامی‌کازه را در اختیار دارد. پهپاد کامی‌کازه می‌تواند هدف را انتخاب و آن را شناسایی کند.

می‌تواند به‌طور مداوم با دوربین‌اش جست‌وجو کند. زمانی که تانکی شناسایی می‌شود، می‌تواند یکی از این پهپاد‌های کامی‌کازه را برای زدن به هدف ارسال کند. مزور می‌گوید شرکت Swarmer اخیراً این فناوری را آزمایش کرده و هدفی را ۶۰ کیلومتر دورتر مورد هدف قرار داده است.

این فناوری گران‌قیمت نیست؛ سخت‌افزاری است که هزاران دلار هزینه دارد و می‌تواند سیستم‌های تسلیحاتی را ۶۰ کیلومتر دورتر با دقت بسیار بالا مورد هدف قرار دهد. مسئله بعدی که مورد بررسی قرار گرفته نوعی برجک چرخان مسلسل خودکار است. این دستگاه نوعی چشم و دید کامپیوتری است که روی بسیاری از دوربین‌های نظارتی یا حتی روی آیفون یا تلفن‌های هوشمند نصب شده‌اند، دور انسان دایره می‌کشد و آن را شناسایی می‌کند.

از همین فناوری برای مسلسل هم استفاده می‌شود. این مسلسل می‌تواند اهداف را هنگام حرکت شناسایی کند. انسان فقط باید دکمه شلیک را فشار دهد.

مزور مسلسل‌های خودکار را از نزدیک دیده است و می‌گوید این مسلسل‌ها ماجرای خیره‌کننده‌ای دارند. این‌ها نشان می‌دهند که چرا اوکراین جایی است که این سیستم‌های تسلیحاتی ظهور کرده‌اند.

مزور می‌گوید، ما به میدان نبرد رفتیم و با فرمانده گردانی به‌نام «گرگ‌های داوینچی» دیدار کردیم. گرگ‌های داوینچی به‌خاطر تجربه‌ای که با سیستم‌های تسلیحاتی دارند، بسیار مشهورند. الکساندر یابچانکا، نام فرماندهی که مزور با او ملاقات کرده یک اوکراینی واقعی است، با آرایش موی کازاک‌ها (سر ماشین‌کرده و تکه‌ای از مو باقیمانده که از عقب به جلوی سر می‌آید) و سیبیلی پرپشت.

او نسبت به این سلاح خیلی هیجان‌زده بود، حتی نام این سلاح را روی سگ‌اش گذاشته بود. دلیل هیجان او کمک‌های این فرمانده در ساخت بخش‌هایی از سلاح بود. او در اختراع این سلاح نقش بازی کرده بود. برخلاف مهندس‌هایی که در کی‌یف هستند، او یک سرباز است و از این فناوری در خط مقدم استفاده می‌کند. این فرمانده گوش و چشم این شرکت‌ها در میدان نبرد است و بازخوردها، شیوه عملکرد تجهیزات و نیازمندی‌ها را به این شرکت‌ها اطلاع‌رسانی می‌کند.

سلاح خودکاری که با کمک فیس‌بوک ساخته می‌شود

این فرمانده در باخموت، شهری در شرق اوکراین مبارزه می‌کند که روس‌ها تلاش بسیاری برای تصرف آن کرده‌اند. مسئولیت یگان او دفاع از تنها جاده‌ای است که مسیر ورود و خروج شهر به‌شمار می‌رود. در این نبرد مسلسل‌های آن‌ها تمام مدت مورد هدف قرار می‌گرفتند. مسلسل یک سلاح بزرگ و سنگین است که نمی‌توان آن را به‌راحتی حرکت داد. انسان باید تمام مدت آن را کنترل کند. همین موضوع فرمانده را بر آن داشت تا در اینترنت به‌دنبال پیدا کردن راه‌حلی بگردد. او در پستی در فیس‌بوک این سوال را مطرح کرد که کسی ایده‌ای برای حل این مشکل دارد یا نه.

در عرض چند ماه این فرمانده توانست نمونه اولیه را از کمپانی به‌نام رابینییرز تهیه کند. این سلاح از دوربین و دستگاهی شبیه کنسول بازی و دسته‌ای مثل نینتندو دارد. به‌طور خودکار اهداف را شناسایی می‌کند و آن‌ها را مورد هدف قرار می‌دهد. تمام کاری که سرباز باید انجام دهد این است که دکمه را فشار دهد و شلیک کند.

یابچونکا می‌گوید با این سلاح مشکل یگان‌اش حل شده است. او می‌تواند در سنگر بنشیند، قهوه بنوشد، سیگار بکشد و به روس‌ها شلیک کند. یابچونکا این مشکل را با استفاده از فناوری ساده که بسیار قدرتمند است حل کرده، فناوری‌ای که در تلفن‌های هوشمند و بازی‌های ویدئویی پیدا می‌شود و به‌راحتی می‌توان آن را با هوش مصنوعی ساخت.

افرادی که از چت‌جی‌پی‌تی یا هوش مصنوعی جمینای استفاده کرده باشند می‌دانند گاهی اوقات می‌تواند پاسخ‌های درستی برای سوال‌های شما نداشته باشد. اوکراینی‌ها چگونه می‌توانند از این فناوری برای مسائل خطرناک‌تر استفاده کنند؟ آیا استفاده از هوش‌مصنوعی منجر به بروز اشتباهاتی می‌شود؟

مزور می‌گوید ما پاسخ این سوالات را نمی‌دانیم. فقط می‌دانیم که این سیستم‌ها به‌خوبی کار می‌کنند. بخشی از آن به این دلیل است که آن‌ها ارزان‌قیمت‌اند. پس لزومی ندارد همیشه جواب دهند. اگر آن‌ها ۸۰درصد مواقع کار کنند و ارزان‌قیمت باشند، مشکلی وجود ندارد.

مزور می‌گوید دلیل دیگری که آن‌ها می‌خواهند انسان همچنان بخشی از حلقه‌ای باشد که می‌تواند هوش‌مصنوعی را خاموش کند این است که آن‌ها نگران آتش‌بازی دوستانه و زدن هدف اشتباه هستند. این یک مراعات اخلاقی است. این فناوری می‌تواند اشتباه کند و فرد اشتباهی را مورد هدف قرار دهد.

پس انسان همچنان بخشی از آن است. حذف انسان از کنترل این فناوری می‌تواند آن را ترسناک‌تر و خطرناک‌تر کند. اما تا جایی که می‌دانیم انسان فعلاً در این حلقه باقی می‌ماند. در فضای پرسرعت و پراسترس خط مقدم، جایی که مرگ و زندگی اغلب به یک تصمیم آنی وابسته است، این سرباز است که کلیدی را فشار می‌دهد که باعث می‌شود سلاحی کاملاً خودکار شود.

فناوری لازم برای ساخت رباتی که می‌تواند به‌خودی خود تصمیم به کشتار بگیرد، هم‌اکنون در دسترس است. فعلاً انسان اپراتور آن است. اما این تسلیحات نیازی به انسان ندارد. دوران ربات‌های قاتل پیش روی ماست که سوال‌های اخلاقی بسیاری را درباره آینده جنگ، آینده دسترسی به این نوع تسلیحات و آنچه برای کشتن یک انسان در آینده لازم است، پیش می‌کشد.

قانون‌گذاری جهان برای ربات‌ها

اولین موضوعی که باید مورد بررسی قرار بگیرد این است که آیا کشور‌های قدرتمند اولین گروه هستند که به این ربات‌ها دسترسی دارند؟ اساساً چه‌کسی می‌تواند به این ربات‌ها دسترسی داشته باشد؟ آمریکا در حال توسعه پهپاد‌های گروهی است که می‌توانند جنگنده‌هایش را همراهی کنند. دیگر قدرت‌های بزرگ نظامی در اروپا و چین هم می‌توانند این فناوری را توسعه دهند. اوکراین هم کانال‌های ارتباطی دارد که نکاتی را درباره جنگ پهپادی در اختیار قرار می‌دهد.

نیویورک‌تایمز پیشتر گزارشی درباره میانمار منتشر کرده بود که خلبان‌های پهپاد‌های برمه‌ای روی یک نرم‌افزار اوکراینی کار می‌کردند که پهپاد‌های کامی‌کازه را به‌کار می‌گرفت. سوال این است که چقدر طول می‌کشد تا این نرم‌افزار‌های خودکار به‌اشتراک گذاشته شوند؟ شاید مسئله ترسناک‌تر این است که روسیه هم راه‌حل‌های مشابهی را برای اوکراینی‌ها به‌کار بگیرد. پس روس‌ها می‌توانند این فناوری‌ها را با چه کسی اشتراک بگذارند؟ آیا آن را در اختیار کره‌شمالی و برخی از مبارزان سودانی قرار می‌دهند؟

به‌اشتراک گذاشتن این نرم‌افزار بسیار ساده است. حتی بخشی از سخت‌افزار هم نیست. بلکه به‌راحتی به بخشی از سخت‌افزار متصل می‌شود. می‌توانید آن را از طریق ایمیل بفرستید. به‌گفته مزور یکی از مشکلاتی که سربازان در میدان جنگ که پهپاد‌ها را پرواز می‌دهند دارند، این است که این سیستم‌ها رمزگذاری نشده‌اند.

اوکراینی‌ها نگرانند که اگر پهپادهایشان پشت مرز دشمن بدون انفجار سقوط کند، روس‌ها می‌توانند کامپیوتر کوچکش را بردارند، کد را دانلود کنند و از آن برای ساخت سیستم‌های خود استفاده کنند و اوکراینی‌ها را هدف قرار دهند. پس این نرم‌افزار به‌سرعت و به‌راحتی گسترش پیدا می‌کند و به هر کشوری می‌رسد. به‌راحتی می‌توان دارک وبی را تصور کرد که اجازه می‌دهد تمام ابزار‌های سیستم‌های حمله پهپادی خودکار را بفروشد.

آیا می‌توان برای تسلیحات هوش مصنوعی محدودیت قانونی تعیین کرد؟

به‌گفته مزور سال‌هاست که گروهی از کارشناسان درباره این موضوع در سازمان ملل بحث و گفتگو می‌کنند. اما هیچ‌وقت به نتیجه‌ای قطعی نرسیده‌اند که بخشی از آن به این دلیل است که کشور‌ها هم‌اکنون در زمینه تسلیحات با یکدیگر رقابت می‌کنند. هر بار که کسی قانون وضع می‌کند، وتو می‌شود. اگر از طرف آمریکا نباشد، از طرف چین، روسیه یا دیگر کشور‌های اروپایی است. فعلاً یک اصل وجود دارد که همه طبق آن عمل می‌کنند مبنی بر اینکه انسان همچنان تصمیم‌گیرنده نهایی باشد.

استفاده از هوش مصنوعی در مسائل نظامی شمشیر دولبه‌ای برای امنیت ملی است. از یک‌سو، می‌تواند به‌عنوان تقویت‌کننده نیرو باشد، می‌تواند از نظر استراتژیک قدرت را تقویت کند. به‌گفته جن ایسترلی، مدیر آژانس امنیت زیرساخت‌ها و امنیت سایبری آمریکا، هوش مصنوعی «قدرتمند‌ترین سلاح زمان ماست.»

همانطور که در میدان جنگ ادعا می‌شود اگر تهدید وجودی هوش مصنوعی با بمب اتمی برای آینده بشر برابر است، فقدان یک چارچوب جهانی برای استفاده از هوش مصنوعی یک نگرانی مهم است. در حالی که آینده این لحظه اوپنهایمری نگران‌کننده است، خطری که آینده را تهدید می‌کند این است که هوش مصنوعی که ابتدا برای اهداف غیرنظامی طراحی شده بود حالا در عملیات نظامی به کار گرفته می‌شود.