تحلیلی بر ابعاد فنی و حقوقی استفاده از سامانه «لاوندر» در جنگ غزه
دریافت فایل کامل (ترجمه و تحلیل)
از اکتبر ۲۰۲۳، جنگ غزه شاهد یکی از نخستین نمونههای استفاده گسترده از هوش مصنوعی در عملیات نظامی بوده است. ارتش اسرائیل با بهکارگیری سامانهای موسوم به لاوندر (Lavender) کوشید فرایند شناسایی و هدفگیری افراد را خودکار کند. این سامانه با بهرهگیری از یادگیری ماشینی و تشخیص چهره، دادههای مکانی، ارتباطی و تصویری را پردازش میکند تا فهرستی از اهداف احتمالی تولید کند.
گزارشهای میدانی حاکی از آن است که در هفتههای نخست جنگ، لاوندر دهها هزار هدف را شناسایی کرده و بسیاری از حملات هوایی بر پایه این فهرست انجام شده است. این تحول، نقطهی عطفی در مفهوم «تصمیمسازی ماشینی در جنگ» محسوب میشود و پرسشهایی اساسی درباره قابلیت اطمینان، سوگیری، مسئولیت انسانی و انطباق این فرایند با اصول حقوق بینالملل بشردوستانه مطرح کرده است.
ماهیت فنی سامانه و ویژگیهای تصمیمسازی غیرجبری
سامانه «لاوندر» در آغاز با هدف افزایش سرعت تحلیل دادههای اطلاعاتی طراحی شد. این سامانه با دسترسی به طیفی گسترده از منابع – از دادههای مکانی و ارتباطی گرفته تا اطلاعات انسانی و تصاویر پهپادی – تلاش میکرد الگوهای رفتاری افراد را شناسایی کرده و احتمال عضویت هر فرد در گروههای مسلحی مانند حماس یا جهاد اسلامی را برآورد کند.
لاوندر بر پایه مدلهای احتمالی (probabilistic models) در یادگیری ماشینی و تحلیل الگوهای رفتاری طراحی شده است. برخلاف الگوریتمهای جبری که خروجی قطعی دارند، مدلهای مورداستفاده در لاوندر، غیرجبری بوده و تصمیم را بر اساس محاسبه احتمال وقوع یک وضعیت میگیرند. بهبیان دیگر، خروجی سامانه همواره شامل سطحی از عدم قطعیت است.
در فضای نظامی، این ویژگی میتواند تبعات جدی داشته باشد. گزارشها نرخ خطای سامانه را حدود ۱۰ درصد برآورد میکنند؛ رقمی که در مقیاس دهها هزار هدف، معادل هزاران شناسایی اشتباه و حمله به اهداف غیرنظامی است. تحلیلهای فنی نشان میدهد که این نرخ خطا ناشی از سه عامل اصلی است:
- دادههای آموزشی ناهمگون و غیرنماینده از واقعیت میدانی؛
- سوگیری الگوریتمی نسبت به ویژگیهای قومی یا جنسیتی؛
- فقدان تفسیر موقعیتمحور در شناسایی رفتارها.
بهدلیل همین ضعف، سامانه نمیتواند میان رفتار روزمره (مثلاً تماس تلفنی یا جابهجایی مکانی) و مشارکت مستقیم در فعالیت نظامی تمایز قائل شود. در نتیجه، هرگونه الگوی آماری مشابه با رفتار اعضای گروههای مسلح میتواند مبنای تصمیم قرار گیرد.
کاهش نقش انسانی و اتکای بیش از حد به ماشین
در گزارشهای نظامی، اشاره شده است که برای بررسی هر هدف در سامانه لاوندر، میانگین ۲۰ ثانیه زمان صرف میشود. در چنین شرایطی، نقش کاربر انسانی از «تصمیمگیرنده» به «تأییدکننده» کاهش یافته است.
پدیدهای که در این روند مشاهده میشود، تعصب اتوماسیون (Automation Bias) است؛ تمایل کاربران به پذیرش خروجی ماشین بهعنوان دادهی قطعی. تحت فشار زمانی و روانی جنگ، این پدیده موجب میشود تصمیم انسانی به تابعی از الگوریتم تبدیل شود.در واقع، سامانههایی که قرار بود ابزار پشتیبان تصمیم باشند، در عمل به منبع اصلی تصمیمسازی بدل شدهاند.
معماری غیرشفاف و محدودیت تبیینپذیری
لاوندر از مدلهای یادگیری عمیق با ساختارBlack Box استفاده میکند. چنین معماریهایی گرچه توان بالایی در تحلیل دادههای چندبعدی دارند، اما توضیحپذیری بسیار محدودی ارائه میدهند. حتی توسعهدهندگان قادر نیستند بهطور دقیق توضیح دهند که چرا یک فرد یا مکان بهعنوان هدف شناسایی شده است.
این ویژگی، نظارت فنی و حقوقی بر سامانه را دشوار میکند. بدون درک منطق تصمیمگیری، نمیتوان منشأ خطا را در داده، طراحی مدل یا مرحله تحلیل مشخص کرد. در نتیجه، هرگونه پیگیری حقوقی یا ارزیابی اخلاقی با مانع ساختاری روبهروست.
فناوری تشخیص چهره و خطاهای آماری در محیط جنگ
در کنار لاوندر، ارتش اسرائیل از سامانههای تشخیص چهره برای شناسایی افراد مظنون استفاده کرده است. این فناوری با وجود کاربردهای گسترده در امنیت داخلی، در محیطهای پرتنش نظامی دچار محدودیتهای فنی جدی است.
عوامل محیطی مانند نور، گردوغبار، زاویه تصویر و کیفیت پایین دوربینها، نرخ خطای مثبت کاذب (False Positive) را بهشدت افزایش میدهد.
افزون بر این، مطالعات متعددی نشان دادهاند که الگوریتمهای تشخیص چهره در شناسایی افراد با ویژگیهای قومی خاص (ازجمله چهرههای خاورمیانهای) دقت پایینتری دارند. در نتیجه، احتمال اشتباه در شناسایی غیرنظامیان در غزه بالاتر از شرایط استاندارد بوده است. در محیطی که تصمیمگیری ماشینی مستقیماً با حمله نظامی پیوند دارد، چنین خطایی میتواند پیامدهای انسانی گستردهای داشته باشد.
تطبیق با اصول حقوق بینالملل بشردوستانه
حقوق بینالملل بشردوستانه سه اصل بنیادین را برای مشروعیت عملیات نظامی و هدفگیری افراد تعیین کرده است: تمایز، تناسب و احتیاط. عملکرد سامانه لاوندر هر سه اصل را به چالش کشیده است.
- اصل تمایز
این اصل ایجاب میکند میان اهداف نظامی و غیرنظامی تفاوت قائل شویم. لاوندر با تبدیل الگوهای رفتاری به معیار هدفگیری، این مرز را کمرنگ کرده است. الگوریتم، بدون ارزیابی زمینهای، افراد را صرفاً بر اساس احتمال آماری «مشکوک» تلقی میکند. به همین دلیل، موارد متعددی از حمله به منازل غیرنظامیان گزارش شده است که فاقد هرگونه شواهد حضور نیروهای مسلح بودهاند.
- اصل تناسب
اصل تناسب بر ضرورت توازن میان مزیت نظامی و خسارت غیرنظامی تأکید دارد. اما در سامانهای مانند لاوندر، تسریع حلقه تصمیمگیری OODA (مشاهده، جهتیابی، تصمیم، اقدام) موجب شده زمان لازم برای ارزیابی این تناسب به حداقل برسد. فرماندهان عملاً فرصت کافی برای محاسبه آثار ثانویه حملات — نظیر تخریب زیرساختهای حیاتی یا تلفات غیرمستقیم — را ندارند.
- اصل احتیاط
ماده ۵۷ پروتکل الحاقی اول کنوانسیون ژنو، الزام میکند که پیش از هر حمله، هدف بهطور مستقل و انسانی بررسی شود. در سامانه لاوندر، با کاهش زمان بررسی و وابستگی به خروجی الگوریتم، کنترل انسانی مؤثر عملاً تضعیف شده است. نبود دسترسی کاربران به منطق درونی مدل نیز امکان ارزیابی مستقل را از بین میبرد.
در مجموع، هر سه اصل یادشده نشان میدهند که طراحی و کارکرد لاوندر، پاسخگوی معیارهای دقت، احتیاط و مسئولیت انسانی در حقوق جنگ نیست.
چالش داده و سوگیری الگوریتمی
مدلهای یادگیری ماشینی در صورتی قابلاعتمادند که دادههای آموزشی آنها متوازن و نماینده واقعیت باشند. در سامانه لاوندر، دادهها عمدتاً از منابع نظامی و اطلاعاتی تهیه شدهاند که احتمال سوگیری ساختاری در آنها وجود دارد.
این سوگیری در مرحلهی آموزش تقویت میشود و در خروجی مدل، به شکل الگوی تبعیضآمیز و سیستماتیک بروز میکند.
بهطور خاص، عدمنمایندگی دادهها میتواند موجب شود برخی گروههای جمعیتی (بر اساس سن، جنس یا منطقه جغرافیایی) بیش از دیگران در معرض شناسایی اشتباه قرار گیرند. از دید فنی، این وضعیت به بازتولید خطای آماری در مقیاس عملیاتی منجر میشود.
اثرات تصمیمسازی ماشینی بر مسئولیت انسانی
وقتی تصمیم هدفگیری از انسان به سامانهای غیرشفاف منتقل میشود، تعیین مسئولیت در صورت وقوع خطا دشوار است.
در سامانه لاوندر، مشخص نیست منبع خطا در کدام مرحله بوده است: داده، مدل یا تصمیم فرمانده. این وضعیت، به شکلگیری آنچه حقوقدانان آن را شکاف پاسخگویی (Accountability Gap) مینامند، منجر میشود. از منظر فنی و حقوقی، این شکاف پیامد مستقیم فقدان سازوکار ردیابی تصمیم (Decision Traceability) است. بدون ثبت دقیق دادههای ورودی، وزندهی متغیرها و منطق نهایی تصمیم، مسئولیتپذیری عملاً غیرممکن است.
پیامدهای اخلاقی و رفتاری
تغییر ساختار تصمیمگیری از انسان به ماشین، پیامدهای روانشناختی و اخلاقی نیز دارد. در سیستمهای خودکار، تصمیمگیر انسانی از فرایند قضاوت اخلاقی فاصله میگیرد. هدف صرفاً یک «نقطه» روی صفحه نمایش است، نه یک موجود انسانی در میدان نبرد. این فروپاشی فاصله اخلاقی، احتمال صدور دستور حمله را افزایش میدهد و کنترلهای درونی تصمیمگیرنده را کاهش میدهد. در سطح سازمانی نیز، توزیع مسئولیت میان توسعهدهندگان، اپراتورها و فرماندهان، نوعی مسئولیتزدایی سیستمی ایجاد میکند که در آن هیچکس پاسخگو نیست.
دلایل ضعف واکنش بینالمللی
اگرچه استفاده از لاوندر موجی از انتقادهای حقوق بشری را بهدنبال داشته است، واکنش رسمی نهادهای بینالمللی محدود بوده است .دلایل اصلی را میتوان در دو محور خلاصه کرد:
- فقدان چارچوب فنی و حقوقی مشترک برای ارزیابی سامانههای خودکار نظامی؛
- منافع متقابل قدرتهای بزرگ که خود نیز در حال توسعه سامانههای مشابه هستند.
در نتیجه، هنوز هیچ نظام نظارتی الزامآور برای ممیزی یا محدودسازی این فناوریها وجود ندارد.
و در انتها
بررسی سامانه لاوندر نشان میدهد که بهکارگیری هوش مصنوعی در عملیات نظامی، بدون شفافیت فنی و کنترل انسانی، خطر نقض اصول بنیادین حقوق بشردوستانه را بههمراه دارد.
لاوندر نماد ورود به مرحلهای است که در آن، تصمیم نظامی بر مبنای خروجی الگوریتم و دادههای آماری اتخاذ میشود. این تحول، ضرورت بازتعریف رابطه انسان و ماشین در میدان نبرد را آشکار کرده است. در غیاب شفافیت، تبیینپذیری و کنترل انسانی، چنین سامانههایی نه ابزار افزایش دقت، بلکه عامل گسترش خطا در مقیاس صنعتی خواهند بود.
چالش اصلی در آینده، نه توان فنی این سیستمها، بلکه توان نهادهای بشری برای حفظ کنترل اخلاقی و حقوقی بر آنها است. بدون این کنترل، مرز میان تصمیمسازی هوشمند و تصمیمسازی غیرمسئولانه از میان خواهد رفت.
