روبات‌های سرباز

راستش نیم ساعت اولی که روبات چیمپ را دیدم توی ذوقم خورد. چیمپ شبیه یکی از شخصیت‌های فیلم ترنسفورمر است. با حدود  ۱/۵ متر قد و ۲۰۰ کیلوگرم وزن یک پوسته فلزی قرمز دارد، گام‌های تانک‌مانند و دست و پایی با چنگال‌های سه‌تایی که هر کدام می‌توانند یک انسان را بلند کنند. اما چندین دقیقه طول کشید که روبات از یک اتومبیل بیرون بیاید و موقع باز کردن یک در، آن را انداخت و چارچوبش را شکست.

چیمپ در حال رقابت برای جایزه نهایی مسابقه‌ای با حمایت مالی دولت آمریکا به ارزش ۲ میلیون دلار بود که ماه گذشته  برگزار شد. روبات‌ها باید هشت وظیفه را در شرایطی همانندسازی شده با شرایط فاجعه اتمی فوکوشیما انجام می‌دادند، از جمله بستن یک شیر و ایجاد یک سوراخ در دیوار با استفاده از یک دریل. بیشتر روبات‌ها به طور خنده‌داری بالا و پایین می‌پریدند. آنها به قدری آهسته حرکت می‌کردند که یکی از برگزارکنندگان آن را به «تماشای خشک شدن رنگ» تشبیه کرد.

اما کم کم وقتی متوجه شدم جریان از چه قرار است، مسحور شدم. هیچ کس با یک دسته کنترلی بازی کامپیوتری کنار چیمپ‌ نایستاده بود تا حرکات روبات را کنترل کند. در عوض سر و بدن چیمپ مجهز به دوربین‌ها، حسگرها و پردازنده‌هایی است که به آن اجازه می‌دهند یک مدل سه‌بعدی از محیط پیرامون خود تولید کند که به یک تیم کنترل‌کننده فرستاده می‌شود. تونی استنز، استاد دانشگاه کارنگی ملون که چیمپ را مدیریت می‌کند می‌گوید: «اگر وظیفه‌ای وجود داشته باشد که ما از قبل می‌شناسیم، می‌توانیم بگوییم آن دریل را بردار یا آن شیر را ببند.» صریح‌تر بگویم، روبات بسیاری تصمیم‌ها را خودش می‌گرفت.

داستان‌ها و فیلم‌های علمی‌تخیلی مدتهاست که تصویر روبات‌های خودکار را که قادر به اندیشیدن هستند تثبیت کرده‌اند، اما پژوهشگران به تازگی به فانتزی‌های هالیوودی نزدیک می‌شوند. اتومبیل‌های بدون راننده چندان دور از واقعیت نیستند و دانشمندان باور دارند که روبات‌های هوشمندتر می‌توانند انقلابی در نگهداری از سالمندان ایجاد کنند. یک مشتری بالقوه دیگر نیز برای روبات‌ها وجود دارد؛ چالش روبوتیک که بزرگترین مسابقه برای روبات‌ها در دنیاست، توسط دارپا (آژانس پروژه‌های تحقیقاتی پیشرفته دفاعی) برگزار شد؛ گروه تحقیقاتی پنتاگون.

دارپا به یکی از بزرگترین حامیان تحقیقات روبوتیک تبدیل شده است. این آژانس در سال ۱۹۵۸ بعد از اینکه شوروی ماهواره اسپوتنیک را به مدار فرستاد تاسیس شد تا اطمینان دهد که ارتش آمریکا دیگر هرگز از رقیب خود عقب نخواهد ماند. دارپا در ساختن اینترنت، بمب‌افکن رادار گریز و موشک کروز مشارکت داشته است. برای برخی در پنتاگون، روبات‌های خودکار انقلاب بعدی در تکنولوژی نظامی هستند. هرچه باشد، روباتی که بتواند یک نیروگاه هسته‌ای را تعمیر کند حتما قادر است یک سلاح را آتش یا یک موشک را پرتاب کند.

چالش روبوتیک که بزرگترین مسابقه برای روبات‌ها در دنیاست، توسط دارپا (آژانس پروژه‌های تحقیقاتی پیشرفته دفاعی) برگزار شد؛ گروه تحقیقاتی پنتاگون.

به همین دلیل گام‌های آزمایشی در خودمختاری روبات بسیار اهمیت دارند. آنها نماینده اولین فصل از یک موج تازه از نوآوری هستند که می‌تواند به ارتش آمریکا اجازه دهد که در مرزهای نهایی تکنولوژی باقی بماند. پنتاگون یک دو جین پروژه مختلف دارد که خودمختاری را در نسل تازه‌ای از سلاح‌ها، وسایل نقلیه و سیستم‌های مراقبتی-نظارتی وارد می‌کند.

در عین حال روبات‌های خودمختار، معماهای اخلاقی قدرتمند خودشان را به همراه می‌آورند. اگر به ماشین‌ها اسلحه داده شود، سوال‌های عمیق اخلاقی و حقوقی درباره جنگ مطرح خواهد شد. سوال‌هایی مانند اینکه چه کسی تصمیم نهایی را برای کشتن می‌گیرد و اینکه کدام کشورها ممکن است جنگ را انتخاب کنند. حتی با اینکه سلاح‌های خودکار هنوز طرحی بر روی کاغذ هستند، یک کمپین قدرتمند برای ممنوع ساختن آنها به راه افتاده است.

پیتر سینگر، برجسته‌ترین آینده‌پژوه مسائل نظامی در واشنگتن، دهه گذشته را صرف پیش‌بینی جنگ‌های روبوتیک کرده است. او می‌گوید: «تغییر واقعی که اهمیت دارد، تغییر در هوش و خودمختاری آنهاست.» به گفته او «روبات‌ها نحوه فکر کردن و حرف زدن ما درباره جنگ را بازآرایی خواهند کرد»

مانند بیشتر کارهایی که پنتاگون در این روزها انجام می‌دهد، انگیزه روی آوردن به روبوتیک واقعا به چین مربوط می‌شود. از زمان پایان جنگ سرد، آمریکا از یک دوره بی‌سابقه برتری بر رقبای خود لذت برده و این از طریق موشک‌های هدایت‌شونده دقیق و دیگر تکنولوژی‌هایی بوده که برای پیش‌دستی از شوروی ساخته بوده است.

روبات‌ها نحوه فکر کردن و حرف زدن ما درباره جنگ را بازآرایی خواهند کرد.

برنامه‌ریزان نظامی چینی، با دیدن توان آتشی آمریکا که به راحتی توانست در جنگ اول خلیج ( ۱۹۹۰) عراق را شکست دهد، تلاش‌هایی برای خنثی کردن این برتری شروع کردند. بعد از دو دهه سرمایه‌گذاری گسترده، صف‌آرایی وسیع موشکی چین به زودی انجام عملیات در شرق اقیانوس آرام را برای هواپیمابرهای آمریکایی بسیار خطرناک خواهد ساخت.

پنتاگون با دیدن این تهدید بالقوه به این نتیجه رسید که به ابزارهای جدیدی نیاز دارد. روبوتیک خیال بالاترین رده‌های مدیریت پنتاگون را تسخیر کرد. سال گذشته یک اتاق فکر آمریکایی به اسم مرکز امنیت آمریکایی جدید، مقاله‌ای در مورد ضرورت روبوتیک نظامی منتشر کرد. بر اساس این مقاله، جنگ‌های آینده به شکل « یک نظام جنگ‌آوری کاملا جدید خواهند بود که در آنها سیستم‌های غیرانسانی و خودمختار نقش مرکزی را دارند.» به گفته این مقاله «سران نظامی آمریکا باید از حالا شروع به آماده‌سازی برای این آینده نه چندان دور کنند – برای جنگ در عصر روبوتیک.» رابرت ورک، نویسنده همکار در این مقاله، حالا شغل جدیدی دارد: معاون وزیر دفاع.

روبات‌ها دو جذابیت قدرتمند برای ارتش آمریکا دارند. اولین جذابیت، ظرفیت آنها برای اقدام به خطر است؛ روبات‌ها می‌توانند وظایف شجاعانه‌تری را به عهده بگیرند، خواه بمباران مواضعی دارای استحکامات سنگین باشد و خواه مراقبت و نظارت بر موقعیت دشمن، و این کارها را بدون در خطر قرار دادن جانِ دیگر اعضا انجام می‌دهند.

جذابیت دیگر روبوتیک، دنیوی‌تر است: هزینه. با اینکه بودجه پنتاگون هم‌چنان چهار برابر نزدیکترین رقیب خود یعنی چین است، با این‌حال تحت فشارهای شدید مالی قرار دارد. برنامه‌های تسلیحاتی جدید مانند جت جنگنده اف-۳۵، شیره بودجه را می‌کشد. پس از بیش از یک دهه جنگ در افغانستان و عراق، هزینه‌های پرسنل هم سر به فلک گذاشته است. روبات‌ها می‌توانند به ارتش اجازه دهند که با نفرات کمتر، بازده بیشتری داشته باشد. سال گذشته، رابرت کون که در آن زمان فرمانده کل آموزش نظامی ارتش آمریکا بود، تخمین زد که در طول ۱۵ سال آینده یک تیپ رزمی می‌تواند از ۴هزار نفر به ۳هزار نفر کاهش یابد، اگر روبات‌ها این شکاف را پر کنند.

روبات‌ها می‌توانند به ارتش اجازه دهند که با نفرات کمتر، بازده بیشتری داشته باشد.

هم‌چنین پنتاگون دقیقا دنباله‌رو علم است. پیشرفت‌های قدرت محاسباتی به روبات‌ها کمک کرده که درک خود از محیط پیرامون‌شان را توسعه‌ دهند، و این به آنها اجازه می‌دهد که از پس تصویرهای پیچیده بر بیایند. هم‌زمان، بسیاری از نوآوری‌های مشابه که در پشت انقلاب گوشی‌های همراه هوشمند قرار دارند – یعنی حسگرها، میکروفون‌ها و دوربین‌های کوچکتر و قوی‌تر- باعث جهش زیادی در روبوتیک شده‌اند.

جری پرات، از موسسه شناخت انسان و ماشین در پنساکولا در فلوریدا که تیم‌اش در چالش روبوتیک رتبه دوم را کسب کرد، می‌گوید: «همان‌طور که یکی از همکارانم دوست دارد بگوید، روبات‌ها احمق هستند.» او می‌گوید «ما یک قانون نانوشته در آزمایشگاه داریم که اگر چیزی دست آخر برای اولین بار کار کرد، آن را به حال خود رها کنید، زیرا اگر سعی کنید دوباره آن کار را انجام دهید یا آن را پیشرفت دهید، دیگر کار نخواهد کرد.» اما پرات عقیده دارد که حوزه روبوتیک بالاخره شروع به دستیابی به توانایی‌های بالقوه خود کرده است. او می‌گوید: «من به مدت ۲۰ سال بر روی روبات‌های انسان‌نما کار می‌کردم و تا حالا بیشتر به شوخی شبیه بودند، اما حالا دیگر یک واقعیت هستند. حالا دیگر آنها کمتر به حوزه علمی‌تخیلی تعلق دارند و بیشتر واقعیت‌هایی علمی هستند.»

روبات‌های خودمختار همین حالا به شکل خزنده‌ای به زندگی روزمره ما وارد شده‌اند. بیشتر اتومبیل‌ها کیسه‌ هوا دارند، در حالی که وسایل نقلیه لوکس‌تر توانایی جلوگیری از تصادف و پارک کردن خودکار دارند. این موضوع در تکنولوژی نظامی هم مصداق دارد. نیروی هوایی آمریکا در حال استقرار موشک‌های دوربرد هوا به زمین است که سیستم‌ ناوبری خودکار مخصوص به خود را دارند، در حالی که سیستم‌های دفاع موشکی به‌طور خودکار حملات دریافتی توپخانه را تشخیص می‌دهند و رو به آنها آتش می‌کنند. شرکت سامسونگ که متعلق به کره جنوبی است یک برج دیده‌بانی خودکار برای مرز غیرنظامی‌شده خود با کره شمالی ساخته که می‌تواند اهداف انسانی را در شعاع ۲.۲ کیلومتر در تاریکی تشخیص دهد و به آنها تیراندازی کند.

در سال ۲۰۱۳، نیروی دریایی آمریکا یک پهباد را آزمایش کرد که می‌توانست خودش را به‌طور مستقل روی ناو هواپیمابر جرج دبلیو بوش فرود آورد. در هوانوردی، پرواز و فرود بر روی یک وسیله هواپیمابر از سخت‌ترین کارهای ممکن هستند. بین سال‌های ۱۹۴۵ تا ۱۹۵۰، وقتی که آمریکا در حال یادگیری چگونگی استفاده از ناوهای هواپیمابر بود صدها خلبان و ملوان در این راه جان خود را از دست دادند. اما به‌زودی ماشین‌ها این وظیفه را بسیار بهینه‌تر از انسان‌ها به انجام خواهند رساند. پهباد ضدموشکی اسرائیل به نام هارپی می‌تواند بر روی مواضع بالقوه ساعت‌ها به آرامی گشت بزند و به محض اینکه تشخیص دهد موشکی در حال پرتاب است، حمله کند. سیستم‌های بی‌.آ.ای کمپانی دفاع بریتانیا در حال ساخت یک پهباد به نام تارانیس است که با نرم‌افزاری می‌تواند خودش هدف‌هایش را برای پرتاب موشک انتخاب کند.

سیستم‌های بی‌.آ.ای کمپانی دفاع بریتانیا در حال ساخت یک پهباد به نام تارانیس است که با نرم‌افزاری می‌تواند خودش هدف‌هایش را برای پرتاب موشک انتخاب کند.

سینگر می‌گوید: «آینده جنگ در روبوتیک است چرا که در حال حاضر هم بر پایه روبوتیک قرار دارد.» او استدلال می‌کند که درست همین زبان که برای توصیف تکنولوژی‌های تازه به کار می‌رود نشان‌دهنده نخستین دوره رشد آنهاست. به گفته سینگر «ما اینها را وسایل نقلیه “بدون انسان” می‌نامیم درست همان‌گونه که مردم در ابتدای توسعه ماشین‌ها،‌ آنها را گاری‌های بدون اسب می‌نامیدند.»

با این همه، اگر نگوییم دهه‌ها، ما از اینکه یک روباتِ انسان‌نما به‌سوی جنگ رژه برود سال‌ها دور هستیم. در عوض، پیامدهای چندگانه این صنعت در به بکارگیری تدریجی پیشرفت‌‌های روبوتیک در هواپیماها، کشتی‌ها و وسایل نقیله بدون سرنشین موجود است.

برای ارتش، این می‌تواند به معنای آن باشد که روبات‌‌ها مانند پیش‌قراولانی عمل می‌کنند که میدان جنگ را پیش از همه جستجو می‌کنند یا مانند طعمه‌هایی هستند که حواس‌‌ها را پرت می‌کنند. کارنگی ملون، دانشگاه حامی روبات چیمپ، از سوی ارتش برای انجام پروژه‌ای حمایت می‌شود که در آن باید روبات‌هایی شبیه مار بسازد که دوربین به آنها متصل است و می‌توانند تا نزدیکی دشمن بخزند. دارپا پروژه دیگری برای ساخت پهبادهایی به‌قدر کافی کوچک دارد که بتوانند از پنجره عبور کنند. یک مدل بالقوه، پهبادی ‌به شکل قوش‌قزل است که می‌تواند با سرعت بیش از ۷۲ کیلومتر بر ساعت پرواز کند. پروژه ‌های دیگر حتی کوچکتر هم هستند. آزمایشگاه تحقیقاتی ارتش بر روی پهبادی حشره‌مانند کار می‌کند، در حالی که پژوهشگران هاروارد، تحت حمایت دارپا در حال ساخت «زنبوروبات» هستند که فاصله بال‌هایش ۳سانتی‌متر است. هر دوی این پروژه‌ها باعث تقویت آن دست از جوک‌های مربوط به جاسوسی «پشه‌های روی دیوار» شده است.

پل شار که در پنتاگون بر روی سلاح‌های خودمختار کار می‌کند، استدلال می‌کند که روبات‌ها می‌توانند برای بیرون کشیدن دشمن استفاده شوند یا برای انجام ماموریت‌های انتحاری که استحکامات دفاعی را تضعیف می‌کند. به گفته‌ او «روبات‌ها پتانسیل این را دارند که نحوه تفکر ما درباره جنگ را عوض کنند.» دارپا در حال همکاری با نیروی دریایی برای ساخت یک وسیله دریایی بدون سرنشین است که بتواند خودش هفته‌ها حرکت کند و زیردریایی‌ها را شناسایی کند یا برای شکار مین‌های دریایی به‌کار رود. نیروی دریایی چندین سال است که بر روی زیردریایی‌های بدون سرنشین کار می‌کند که به منظور اصلی مراقبت و نظارت به کار می‌روند، اما می‌توانند به اژدر نیز مسلح شوند.

به نوعی، مهم‌ترین موفقیت برای ارتش می‌تواند توسعه سیستم‌هایی باشد که اجازه می‌دهند یک نفر تعداد زیادی ماشین را کنترل کند. تا الان معلوم شده که این کار تنها با تعداد کمی از پهباد‌ها قابل انجام است، اما محققان دانشگاه هاروارد آزمایش‌هایی بر روی آنچه که کیلوبات می‌نامند انجام داده‌اند که کارهای ساده را در تعداد بالا انجام می‌دهد. کیلوبات ازدحام خودکاری از هزاران مینی روبات مختلف است.

روبات‌های چندگانه که توسط یک اپراتور کنترل شوند، می‌تواند صرفه‌جویی بالقوه عظیمی باشد: در حال حاضر، هر پهباد نیازمند یک تیم پشیتیبانی قابل‌توجه است. اما این هم‌چنین می‌تواند گشایشی برای روش‌های مختلف فکر کردن درباره تکنولوژی نظامی و جنگ باشد. به‌جای فرستادن ناوهای هواپیمابر (که هر کدام ۱۲میلیارد دلار خرج برمی‌دارند) و جت‌های جنگنده همواره گران، پنتاگون می‌تواند استراتژی‌هایی را توسعه دهد که شامل ازدحامی از پهبادهای کم‌هزینه و قابل خرج است و دفاع دشمن را در خود غرق می‌کند. جنگ‌افزارهای ارزان و با تولید انبوده، می‌توانند جایگزین مدل‌ فعلیِ گران و کمیاب شود. به گفته شار «این می‌تواند یک تغییر پارادایم واقعی باشد.»

در دهه ۱۹۹۰، یک متفکر علوم سیاسی آمریکایی به نام جودی ویلیامز به راه‌اندازی یک کمپین جهانی علیه مین کمک کرد که نهایتا منجر به امضای یک عهدنامه توسط ۱۶۲ کشور شد که استفاده، توسعه یا انبار کردن مین‌های ضد نفر را ممنوع کرده است.

مسلما یک سلاح دیگرِ ساده، ارزان و خودکار وجود دارد: مین‌هایی که در زمین می‌کارند. هیچ کنترل‌کننده انسانی برای آتش کردن یک مین وجود ندارد. در عوض، مین خودش تصمیم می‌گیرد که چه وقتی منفجر شود، خواه یک کماندو روی آن پا بگذارد یا یک بچه سه ساله که برای گردش بیرون رفته است. در دهه ۱۹۹۰، یک متفکر علوم سیاسی آمریکایی به نام جودی ویلیامز به راه‌اندازی یک کمپین جهانی علیه مین کمک کرد که نهایتا منجر به امضای یک عهدنامه توسط ۱۶۲ کشور شد که استفاده، توسعه یا انبار کردن مین‌های ضد نفر را ممنوع کرده است.

با اینکه آمریکا، چین و روسیه هرگز این پیمان را امضا نکردند، این کمپین یکی از موفق‌ترین اعتراض‌های مردمی برای تغییر رفتار جنگی بود. ویلیامز به خاطر تلاش‌هایش برنده جایزه صلح نوبل شد. حالا او چهره اصلی یک جنبش جدید است: کمپینی برای توقف روبات‌های قاتل. با کمک ۱۹ برنده دیگر جایزه نوبل، جولی ویلیامز خواهان منع کامل سلاح‌های خودکار است پیش از آنکه تبدیل به واقعیت شوند. او اوایل امسال در یک نشست جهانی در ژنو گفت: «من تصور وجود روبات‌های قاتل را بسیار وحشتناک‌تر از سلاح‌های اتمی می‌بینم.» او می‌گوید: «انسانیت به کجا می‌رود اگر بعضی از مردم فکر کنند اشکالی ندارد که اختیار زندگی و مرگ انسان‌ها را به یک ماشین بسپاریم؟»

جولی ویلیامز خواهان منع کامل سلاح‌های خودکار است پیش از آنکه تبدیل به واقعیت شوند. او اوایل امسال در یک نشست جهانی در ژنو گفت: «من تصور وجود روبات‌های قاتل را بسیار وحشتناک‌تر از سلاح‌های اتمی می‌بینم.

در یک سطح، کمپین‌گران مجموعه‌ای از اعتراض‌های عملی را به سلاح‌های روبوتیک وارد می‌کنند. مانند اینکه ماشین‌ها نمی‌توانند بین مردم عادی و نظامیان تفاوتی قائل شوند و نمی‌توانند قضاوت کنند که تناسب یک پاسخ نظامی و یک رفتار غیرقابل پیش‌بینی می‌تواند منجر به تصادف شود. آنها هم‌چنین می‌پرسند که در یک واقعه قساوت‌آمیز که یک روبات درگیر آن بوده است، واقعا چه کسی باید مسئولیت را به عهده بگیرد؟ ماری ورهام از سازمان دیده‌بان حقوق بشر و یکی از سازمان‌دهندگان کمپین روبات‌های قاتل می‌گوید: «ما نگران این هستیم که قوانین بین‌المللی به اندازه کافی برای این سیستم‌ها محکم نباشند.»

فراتر از این، یک نقد اخلاقی گسترده‌تر درباره سلاح‌های خودمختار وجود دارد. کمپین‌گران فکر می‌کنند که این غیراخلاقی است اگر تصمیم‌ بر سر مرگ و زندگی را به روبات‌ها بسپاریم. نگرانی‌های آنها اضطرابی گسترده‌تر بر ضد هوش مصنوعی را دامن می‌زند و هم‌چنین بر ضد کامپیوترهای که از انسان جلو می‌زنند، که حتی برای برجسته‌ترین دانشمندان دنیا مشکل ساز شده است. در سال جاری استیون هاوکینگ و ایلان ماسک،‌ بنیانگذار شرکت تسلا، در کنار گروهی دیگر از شخصیت‌های مشهور نامه‌ای را امضا کردند و در آن به پژوهشگران و دانشمندان همکار خود درباره «دام‌های بالقوه» ناشی از پیشرفت هوش مصنوعی هشدار دادند. هاوکینگ از این هم فراتر رفت و به بی‌بی‌سی گفت: «توسعه هوش مصنوعی کامل، می‌تواند پایان نژاد انسان باشد.»

در یک واقعه قساوت‌آمیز که یک روبات درگیر آن بوده است، واقعا چه کسی باید مسئولیت را به عهده بگیرد؟

منتقدان هم‌چنین نگران این هستند که روبات‌های نظامی شروع جنگ‌های تازه را برای دولت‌ها ساده‌تر کنند. سیاستمداران پیش از این نگران تاثیرات فرستادن پسر یا دختر شخصی دیگر برای مردن در یک درگیری بودند. اما وقتی انسان‌ها از میدان جنگ دورتر باشند، آن حسِ خطر سیاسی شروع به ناپدید شدن می‌کند. استفاده دولت اوباما از پهبادها، که برای کشتن مظنونین تروریست در کشورهای مختلف به‌کار رفته‌اند و بحث عمومی اندکی به‌وجود آورد، جاده صاف کن شیوه مواجهه احتمالی دولت‌ها با یک منازعه در دوران روبوتیک است.

کمپین علیه روبات‌های قاتل پیشرفت‌هایی هم داشته است. این موضوع در سازمان ملل مورد توجه قرار گرفته است، وقتی که پیمان سلاح‌های متعارفِ مشخص، در طول دوسال گذشته موضوع سلاح‌های خودکار را به بحث گذاشته است. دولت آمریکا همین حالا سعی در پیش‌بینی بعضی از انتقادهای بالقوه دارد، و پنتاگون در اواخر سال ۲۰۱۲ یک دستورالعمل منتشر کرد که اصرار داشت در آینده فرماندهان نظامی در «سطح مناسبی از قضاوت انسانی برای به کارگیری نیروها» رفتار خواهند کرد.

استفاده دولت اوباما از پهبادها، که برای کشتن مظنونین تروریست در کشورهای مختلف به‌کار رفته‌اند و بحث عمومی اندکی به‌وجود آورد، جاده صاف کن شیوه مواجهه احتمالی دولت‌ها با یک منازعه در دوران روبوتیک است.

دانشمندان روباتیک به بعضی از انتقادها حساس هستند. تعداد کمی از آنها از این واقعیت که پنتاگون یکی از بزرگترین حامیان این تحقیقات است وحشت‌زده هستند و اینکه نوآوری‌های آنها ممکن است کاربردهای وسیع نظامی پیدا کند. بسیاری پذیرای قواعد صریحی هستند که محدودیت‌هایی برای روبات‌ها در جنگ وضع کند.

با این‌حال، بسیاری نیز فکر می‌کنند که این بحث با بزرگ‌نماییِ میزان خودمختاری روبات‌ها، خلط موضوع می‌کند. آنها می‌گویند در عمل روبات‌ها هرگز به‌طور کامل از انسان مستقل نخواهند شد. استنز در دانشگاه کارنگی ملون از «خودمختاری لغزنده» حرف می‌زند که یک مقیاس تدریجی است از اینکه روبات‌ها در موقعیت‌هایی که به خوبی آن‌را می‌فهمند خودمختاری بیشتری دارند و کجا کمی ریسک وجود دارد. با این‌حال وقتی عدم یقین بیشتری وجود داشته باشد، انسان‌ها تحت کنترل باقی خواهند ماند.

تیلرکون، اقتصاد‌دانی که در سال ۲۰۱۳ کتابی با عنوان پایان متوسط نوشت، استدلال می‌کند که وقتی روبات‌ها در شطرنج برتری دارند، بهترین بازیگران تیم‌هایی مرکب از انسان‌ها و ماشین‌ها هستند که به همراه هم کار می‌کنند. بنابر یافته‌های بسیاری از پژوهشگران روبوتیک، همین موضوع برای ماشین‌ها در جنگ نیز صادق است، وقتی که قضاوت انسانی درباره اخلاقیات یا بینش سیاسی از یک عمل همواره مکمل یک توانایی بزرگ‌تر جنگ‌آوری است که یک ماشین ممکن است ارائه دهد.

پژوهشگران هم‌چنین ادعا می‌کنند که پیش‌بینی‌های ویران‌شهرگونه درباره ماشین‌ها و جنگ، نزدیکی رابطه بین انسان‌ها و روبات‌ها را نادیده می‌گیرند.

رادنی بروکز یکی از همکاران موسس آی-روبات بود، شرکتی که روبات‌های پک‌بات را برای ارتش آمریکا ساخت تا مین‌های منفجر نشده را کشف و شناسایی کنند. او می‌گوید که سربازها ممکن است «از جنگ عراق یا افغانستان با پک‌بات‌هایی کاملا نابود شده برگردند، و درخواست تعمیر آنها به‌جای گرفتن یک روبات جدید را داشته باشند.»

مستقل از چالش‌های حقوقی و اخلاقی که روبات‌های سرباز به‌وجود می‌آورند، پنتاگون با یک مانع اصلی دیگر مواجه است: اینکه به تکنولوژی‌های جدید دست پیدا کند. بسیاری از سلاح‌هایی که به  آمریکا در مقابل شوروی برتری می‌داد، حاصل ترکیبی نظامی-صنعتی بود. در حالی که امروزه موج جدید نوآوری‌ها در دنیای معمولی غیرنظامی شکل می‌گیرد.

این بدان معناست که پنتاگون باید روش کسب و کار خود را بازسازی کند و یاد بگیرد که بیشتر و از نزدیک‌تر با شرکت‌های سرمایه‌گذاری و شرکت‌های نوپا مانند آنهایی که در سیلیکون ولی هستند کار کند. وزارت دفاع معمولا قراردادهایی با خطوط قرمز جدی می‌بندد که بیشتر شرکت‌های خارج از حوزه دفاع را بیرون می‌گذارد. شکاف فرهنگی نیز بسیار عمیق است. حتی قبل از افشاگری‌های ادوارد اسنودن در سال ۲۰۱۳، پنتاگون با عدم اطمینان در میان شرکت‌های تکنولوژی مواجه بود، که با افشا شدن جاسوسی آژانس امنیت ملی آمریکا بر شبکه‌های آنها، این بی‌اعتمادی بیشتر هم شد.

حتی قبل از افشاگری‌های ادوارد اسنودن در سال ۲۰۱۳، پنتاگون با عدم اطمینان در میان شرکت‌های تکنولوژی مواجه بود، که با افشا شدن جاسوسی آژانس امنیت ملی آمریکا بر شبکه‌های آنها، این بی‌اعتمادی بیشتر هم شد.

ماری کامینگ، خلبان جنگی سابق که حالا یک محقق برجسته پهباد در دانشگاه دوک است می‌گوید: «من فکر نمی‌کنم که ما به اندازه کافی افراد لایق و شایسته درون دولت داشته باشیم که بتوانند برنامه‌های دستیابی به سلاح‌های خودمختار یا هر چیز روبوتیک را سازماندهی کنند.»

بازار تجارت این تکنولوژی‌های جدید بیش از آنکه منحصرا آمریکایی باشند، جهانی هستند. حدود ۷۰ کشور در دنیا در حال تحقیق بر روی وسایل نقلیه بدون سرنشین هستند. مسابقه روبوتیک دارپا تاکیدی بر این موضوع است. تیم چیمپ دانشگاه کارنگی ملون بعد از روز اول از بقیه جلو افتاد اما در نهایت سوم شد: برنده، موسسه علوم و تکنولوژی پیشرفته کره جنوبی بود.

آمریکا می‌تواند نقش یک گردآورنده را بازی کند که باهوش‌ترین افراد را در کنار هم جمع می‌کند و بحث را شکل می‌دهد. اما از انحصار بهره‌ای نخواهد برد.

بخش بزرگی از پژوهش‌های پیشرو در حوزه‌ای مانند روبوتیک به‌ صورت منبع باز انجام می‌شود، که به معنای آن است که هر ارتشی در همه جای دنیا، شامل چین به نوآوری‌های یکسانی دسترسی دارد. شار می‌گوید این نمایانگر بازگشتی به فضای جنگ‌های جهانی اول و دوم است، وقتی که تکنولوژی‌های ابتدایی برای تانک‌ها، هواپیما‌ها و ناوبرها به‌طور تجاری برای بیشتر کشورهای ثروتمند در دسترس بودند. به گفته او «برنده در آن دوران آن افرادی نبودند که چیزی را در یک آزمایشگاه نظامی اختراع می‌کردند، بلکه کسانی برنده بودند که بهترین روش را برای اجرا کردن این اختراعات پیدا می‌کردند.»

آمریکا هنوز از نقش مرکزی در این شبکه‌های تکنولوژی بهره می‌برد. رابطه بین بخش خصوصی، مالی و دانشگاه، همراه با ظرفیت این کشور برای جذب بهترین و درخشان‌ترین دانشجویان از همه جای دنیا، مزیت بزرگی به آمریکا داده است. با این‌حال مسابقه روبوتیک دارپا نمایشگر واقعیتی تازه بود که پنتاگون نیز نیاز دارد با آن بسازد. آمریکا می‌تواند نقش یک گردآورنده را بازی کند که باهوش‌ترین افراد را در کنار هم جمع می‌کند و بحث را شکل می‌دهد. اما از انحصار بهره‌ای نخواهد برد.