اوکراین تأیید کرد: پهپادهای خودمختار هوش مصنوعی در سال ۲۰۲۴ سربازان روس را بدون دخالت انسان کشتند

نخستین نمونه تأییدشده از تصمیم‌گیری مستقل هوش مصنوعی برای کشتن انسان‌ها در میدان نبرد در سال ۲۰۲۴ رخ داد، به گفته یک توسعه‌دهنده پهپاد اوکراینی که در ژوئن ۲۰۲۶ با نیوساینتیست صحبت کرد. الکساندر کوخانوفسکی، مدیرعامل آئرو سنتر و تأمین‌کننده فناوری پهپاد به نیروهای اوکراینی، یک مأموریت آزمایشی یک‌باره در نزدیکی باخموت و چاسیو یار را توصیف کرد که در آن ده پهپاد چهارملخه تحت کنترل هوش مصنوعی در حالتی که او «ترمیناتور مود» نامید عمل کردند — کاملاً خودمختار، بدون اپراتور انسانی، بدون ویدئوی زنده و بدون مکانیزمی برای مداخله یا لغو. بازرسی منطقه پس از عملیات تأیید کرد که چندین سرباز روس و یک کامیون کشته یا نابود شده‌اند.

سیستم‌های تسلیحاتی خودمختار سال‌هاست که در محافل اخلاقی هوش مصنوعی نظامی نگران‌کننده بوده‌اند، اما مستندسازی استفاده مرگبار در میدان نبرد دشوار بوده است. روایت کوخانوفسکی که در نیوساینتیست گزارش شد و این هفته توسط تامز هاردور و سایر رسانه‌ها بازنشر شد، توسط محققان به عنوان «قانع‌کننده‌ترین شواهد تا به امروز مبنی بر اینکه انسان‌ها صرفاً با تصمیم یک هوش مصنوعی کشته شده‌اند» توصیف می‌شود. این حادثه از آستانه‌ای عبور کرد که اخلاق‌دانان آن را «انسان در حلقه» می‌نامند: برخلاف سیستم‌هایی که از هوش مصنوعی برای کمک به هدف‌گیری استفاده می‌کنند اما نیاز به تأیید انسانی برای حمله نهایی دارند، این پهپادها تصمیمات مرگبار را کاملاً به‌تنهایی اتخاذ و اجرا کردند.

نحوه عملکرد پهپادها

به گفته کوخانوفسکی، ده پهپاد چهارملخه چندین کیلومتر به سمت خط مقدم تحت ناوبری خودمختار پرواز کردند و سپس حالت ترمیناتور را فعال کردند. پس از ورود به این حالت، هوش مصنوعی هر پهپاد به‌طور مستقل اهداف را جستجو و مورد حمله قرار داد بدون هیچ ارتباطی با اپراتور — بدون تله‌متری، بدون سیگنال کنترل و بدون کلید خاموشی. پهپادها طوری برنامه‌ریزی شده بودند که هر چیزی را در یک منطقه مشخص نابود کنند. از آنجا که در طول حمله ویدئوی زنده وجود نداشت، نتایج پس از عملیات با فرستادن پهپادهای هدایت‌شونده توسط انسان برای بررسی محل تأیید شد. آن پهپادهای پیگیری تلفات را مشاهده کردند.

کوخانوفسکی سیستم هوش مصنوعی خاصی را که هدف‌گیری خودمختار را تأمین می‌کرد نام نبرد، اما آن را مدلی توصیف کرد که قادر به شناسایی و تمایز اهداف به‌طور مستقل است. او تأکید کرد که مأموریت ۲۰۲۴ یک آزمایش یک‌باره بود نه یک تاکتیک عملیاتی مستقر، و اوکراین در حال حاضر مقرراتی دارد که استفاده از هوش مصنوعی برای تصمیم‌گیری نهایی مرگبار را ممنوع می‌کند. با این حال، او اشاره کرد که دولت اوکراین در حال مذاکرات فعال با شرکت‌های دفاعی برای احتمالاً کاهش این قوانین با ادامه جنگ است.

اهمیت این رویداد

هوش مصنوعی در حال حاضر در سراسر جنگ مدرن جاسازی شده است: شناسایی هدف، ناوبری، جنگ الکترونیک، بهینه‌سازی لجستیک. چیزی که این مورد را متمایز می‌کند، گام نهایی است — تصمیم به کشتن — که کاملاً به ماشین واگذار شده است. حقوق بین‌الملل بشردوستانه از رزمندگان می‌خواهد بین اهداف نظامی و غیرنظامی تمایز قائل شوند. واگذاری این قضاوت به یک سیستم هوش مصنوعی بدون امکان لغو انسانی سؤالاتی را مطرح می‌کند که قوانین بین‌المللی موجود برای پاسخ به آنها نوشته نشده‌اند.

محققان دانشگاهی به روایت کوخانوفسکی واکنش تندی نشان دادند. استوارت راسل، محقق برجسته ایمنی هوش مصنوعی در دانشگاه برکلی و یکی از تدوین‌کنندگان چارچوب کمپین توقف ربات‌های قاتل، سیستم‌های خودمختار مرگبار را «دزدی از کرامت انسانی» و «وحشتناک» خواند. پیتر آسارو، فیلسوف فناوری و یکی از بنیان‌گذاران کمیته بین‌المللی کنترل تسلیحات رباتیک، به نیوساینتیست گفت که این حادثه دقیقاً سناریویی را نشان می‌دهد که سازمانش بیش از یک دهه درباره آن هشدار داده بود.

سازمان ملل متحد از سال ۲۰۱۴ در تلاش برای مذاکره بر سر یک ابزار بین‌المللی الزام‌آور در مورد تسلیحات خودمختار بوده است، با پیشرفت اندک. قدرت‌های نظامی بزرگ از جمله ایالات متحده، روسیه و چین در برابر محدودیت‌های سخت مقاومت کرده‌اند. تمایل اوکراین به آزمایش و احتمالاً استقرار چنین سیستم‌هایی — تحت فشار وجودی یک جنگ جاری — نشان می‌دهد که اخلاق عملی تسلیحات خودمختار با چه سرعتی نسبت به چارچوب‌های نظارتی که سعی در محدود کردن آنها دارند در حال حرکت است.

زمینه: هوش مصنوعی از قبل در این جنگ فراگیر است

اوکراین یک میدان آزمایشی برای کاربردهای نظامی هوش مصنوعی با سرعتی بوده است که هیچ محیط صلح‌آمیزی نمی‌تواند تکرار کند. هر دو طرف از هوش مصنوعی برای ناوبری پهپادها، شناسایی اهداف از تصاویر هوایی و بهینه‌سازی مسیرهای حمله در محیط‌های جنگ الکترونیک که در آن پارازیت GPS ثابت است استفاده می‌کنند. برنامه پهپاد FPV اوکراین که صدها هزار پهپاد حمله اول شخص را پرتاب کرده است، به شدت به هوش مصنوعی برای هدایت متکی است زیرا پارازیت RF اغلب کنترل مستقیم اپراتور را غیرقابل اعتماد می‌کند.

شرکت کوخانوفسکی، آئرو سنتر، به طور خاص بر روی پهپادهای رهگیر خودمختار طراحی شده برای شکست پهپادهای انتحاری شاهد روسی متمرکز است — یک کاربرد دفاعی. آزمایش حالت ترمیناتور در سال ۲۰۲۴ یک کاربرد تهاجمی از همان زیرساخت خودمختاری بود. تمایز بین «کمک هوش مصنوعی» و «تصمیم هوش مصنوعی» از نظر مفهومی واضح است اما از نظر فنی زمانی که پیوند کنترل اپراتور انسانی در حال پارازیت است و هوش مصنوعی بدون توجه به حضور اسمی اپراتور تصمیمات درگیری بلادرنگ می‌گیرد، مبهم می‌شود.

وزارت دفاع اوکراین به طور رسمی به سؤالات مربوط به این آزمایش پاسخ نداد. یک افسر ارشد از هنگ ۲۱ سیستم‌های بدون سرنشین استفاده از سیستم‌های کاملاً خودمختار بدون دخالت اپراتور را رد کرد و اظهار داشت که اوکراین به حقوق بین‌الملل بشردوستانه پایبند است. روایت کوخانوفسکی این آزمایش را محکم در دسته «آزمایشی یک‌باره» قرار می‌دهد تا عملیات استاندارد — اما قابلیت، زمانی که نشان داده شود، ناپدید نمی‌شود.

شکاف کنترل تسلیحات

حادثه ۲۰۲۴ — که تنها در ژوئن ۲۰۲۶ به طور عمومی تأیید شد — نشان می‌دهد که قابلیت هوش مصنوعی مرگبار خودمختار با چه سرعتی از چارچوب‌های حاکمیت بین‌المللی که برای تنظیم آن طراحی شده‌اند پیشی گرفته است. بحث‌های کنوانسیون سلاح‌های متعارف خاص (CCW) در سازمان ملل اصول توافق‌شده‌ای را تولید کرده است اما هیچ ممنوعیت الزام‌آوری ندارد. کشورهای منفرد، از جمله ایالات متحده، بیانیه‌های سیاستی خود را صادر کرده‌اند که نیاز به «قضاوت انسانی مناسب» بر نیروی مرگبار دارد، اما این سیاست‌ها خودتنظیم هستند و فضای قابل توجهی برای تفسیر باقی می‌گذارند.

اینکه آیا آزمایش اوکراین هر چارچوب قانونی موجود را نقض کرده است واقعاً محل مناقشه است. قوانین درگیری مسلحانه نیاز به تمایز، تناسب و احتیاط دارند — همه اینها در نقطه‌ای از زنجیره هدف‌گیری قضاوت انسانی را فرض می‌کنند. وقتی آن قضاوت به یک مدل هوش مصنوعی که بدون ارتباط انسانی در طول حمله عمل می‌کند واگذار می‌شود، مشخص نیست چه کسی مسئول نقض‌ها در صورت وقوع است. آن ابهام قانونی به خودی خود مشکلی است که نیروهای مسلح و وزارتخانه‌های دفاع به طور فزاینده‌ای از آن آگاه هستند — و حقوق بین‌الملل هنوز آن را حل نکرده است.

منبع: مصاحبه نیوساینتیست با الکساندر کوخانوفسکی، مدیرعامل آئرو سنتر؛ گزارش توسط تامز هاردور و اسمال وارز ژورنال، ژوئن ۲۰۲۶.