دستیارهای کدنویسی هوش مصنوعی همچنان پکیج‌هایی را پیشنهاد می‌دهند که وجود ندارند، و مهاجمان آماده‌اند

اشتراک‌گذاری:
دستیارهای کدنویسی هوش مصنوعی همچنان پکیج‌هایی را پیشنهاد می‌دهند که وجود ندارند، و مهاجمان آماده‌اند

از یک دستیار برنامه‌نویسی مبتنی بر هوش مصنوعی بخواهید یک کتابخانه برای تلاش مجدد درخواست‌های HTTP یا پردازش فایل CSV پیشنهاد دهد، و احتمال واقعی وجود دارد که پکیجی را پیشنهاد کند که اصلاً وجود ندارد. پژوهشگران امنیتی این پدیده را «اسلاپ‌اسکواتینگ» (slopsquatting) می‌نامند: مهاجمان دقیقاً همان نام‌هایی را که مدل‌های زبانی بزرگ به‌صورت توهمی تولید می‌کنند ثبت می‌کنند، سپس منتظر می‌مانند تا دستیار هوش مصنوعی یک برنامه‌نویس نصب همان پکیج را توصیه کند. پکیج مخرب در همان لحظه‌ای که کسی بر اساس پیشنهاد دستیار دستور pip install یا npm install را اجرا می‌کند، فعال می‌شود.

این اصطلاح در سال ۲۰۲۵ توسط Seth Larson، توسعه‌دهنده امنیتی مقیم در بنیاد نرم‌افزار پایتون، ابداع شد؛ پس از آنکه پژوهشگران دانشگاه تگزاس در سن آنتونیو، ویرجینیا تک و دانشگاه اوکلاهما، ۱۶ مدل تولید کد را روی ده‌ها هزار درخواست کدنویسی آزمایش کردند و دریافتند که تقریباً یک‌پنجم پکیج‌های پیشنهادی اصلاً در PyPI یا npm وجود نداشتند. مدل‌های متن‌باز تقریباً دو برابر مدل‌های تجاری دچار توهم می‌شدند، اما هیچ مدلی کاملاً مصون نبود، و حدود ۴۳ درصد از نام‌های توهمی در درخواست‌ها و اجراهای مختلف تکرار می‌شدند؛ یعنی یک مهاجم فقط کافی است یک‌بار یک پکیج را ثبت کند تا جریانی پیوسته از قربانیان را به دام بیندازد.

همین قابلیت تکرار است که اسلاپ‌اسکواتینگ را از تایپواسکواتینگ قدیمی خطرناک‌تر می‌کند. تایپواسکواتینگ به اشتباه تایپی یک انسان متکی است — مثلاً نوشتن reqeusts به‌جای requests — که سطح حمله محدود و تا حدی تصادفی ایجاد می‌کند. اما یک نام پکیج توهمی، پیش‌بینی‌ای است که یک مدل زبانی بار دیگر و بار دیگر برای همان درخواست تولید می‌کند، چون مدل در واقع با نام‌های کتابخانه‌ای که به‌طور ناقص از داده‌های آموزشی خود به یاد می‌آورد الگوبرداری می‌کند. کافی است یک‌بار huggingface-cli-utils یا node-fetch-retry-wrapper را ثبت کنید تا همین نام، در روزهای مختلف و از مدل‌های مختلف، با ثبات نگران‌کننده‌ای برای برنامه‌نویسان گوناگون ظاهر شود.

چرا مدل‌ها این کار را می‌کنند

مدل‌های زبانی بزرگ نام پکیج‌ها را دقیقاً همان‌طور تولید می‌کنند که هر دنباله نشانه دیگری را تولید می‌کنند: با پیش‌بینی آنچه از نظر آماری احتمال وقوع دارد، نه با بررسی واقعی یک رجیستری. مدلی که روی میلیون‌ها مخزن گیت‌هاب آموزش دیده، می‌آموزد که دستورهای import برای تلاش مجدد HTTP معمولاً به شکل خاصی به نظر می‌رسند، و با اطمینان کامل نامی به‌ظاهر معتبر تولید می‌کند، حتی وقتی چنین پکیجی هرگز منتشر نشده باشد. دستیارهای کدنویسی مبتنی بر بازیابی اطلاعات یا دارای دسترسی ابزار که واقعاً می‌توانند در لحظه از PyPI یا npm استعلام بگیرند کمتر در معرض این مشکل هستند، اما بسیاری از ابزارهای تکمیل خودکار در IDE و دستیارهای گفت‌وگومحور همچنان صرفاً از وزن‌های پیش‌آموزش‌دیده پیشنهاد تولید می‌کنند، به‌خصوص برای کتابخانه‌های کمترشناخته‌شده که داده آموزشی درباره آن‌ها محدود است.

این مشکل با اعتماد‌به‌نفس بالای مدل‌ها تشدید می‌شود. پژوهشگران دریافتند که مدل‌ها به‌ندرت درباره نام‌های پکیج ساخته‌شده احتیاط به خرج می‌دهند — هیچ عبارتی مانند «مطمئن نیستم این پکیج وجود دارد» ارائه نمی‌دهند، فقط یک خط import تمیز و یک دستور نصب تمیز. برنامه‌نویسانی که تحت فشار مهلت زمانی هستند، معمولاً اول کپی-پیست می‌کنند و بعد هرگز بررسی نمی‌کنند.

مهاجمان واقعاً با این فرصت چه می‌کنند

وقتی یک نام پکیج توهمی شناسایی شود — چه از طریق بررسی دستی دستیارهای کدنویسی محبوب و چه با استخراج داده از پژوهش‌های عمومی درباره توهم مانند مطالعه دانشگاه تگزاس در سن آنتونیو — مهاجم دقیقاً همان نام را در PyPI یا npm با یک پکیج واقعاً کارکرد ثبت می‌کند که در ظاهر کاری بی‌خطر انجام می‌دهد اما در پس‌زمینه مخرب است: سرقت اطلاعات ورود، ایجاد یک شل معکوس هنگام import، یا راه‌اندازی یک ماینر رمزارز روی یک رشته پردازشی پس‌زمینه. حادثه ماه نوامبر درباره هک‌شدن پکیج agent-framework متعلق به مایکروسافت در PyPI از طریق دو نسخه آلوده — که با استفاده از یک هوک راه‌انداز .pth در پایتون سرقت اطلاعات ورود را اجرا کرد و حدود ۱۹۰٬۰۰۰ دانلود ماهانه را پیش از حذف پکیج در معرض خطر قرار داد — از مسیر ورود اولیه متفاوتی (هک‌شدن حساب یک نگهدارنده پکیج) استفاده کرد، اما همان الگوی اصلی بار مخرب را نشان می‌دهد که اسلاپ‌اسکواتینگ هم روی آن متکی است: کدی که در لحظه نصب یا import به‌صورت خودکار اجرا می‌شود، پیش از آنکه هیچ انسانی آن را بررسی کند.

این عدم تقارن به‌شدت به نفع مهاجم است. انتشار یک پکیج در PyPI یا npm هیچ هزینه‌ای ندارد و فقط چند دقیقه زمان می‌برد. هر نصب موفق، یک دستگاه برنامه‌نویس، یک راننده CI یا یک کانتینر محیط تولید است که از قبل یک در پشتی روی آن کار گذاشته شده — اغلب با همان دسترسی‌هایی که پایپ‌لاین اجراکننده دستور نصب داشته است.

چه چیزی واقعاً این ریسک را کاهش می‌دهد

ممنوع کردن دستیارهای کدنویسی هوش مصنوعی راه‌حل واقع‌بینانه یا درستی نیست — نرخ توهم یک ویژگی وابسته به مدل است، نه یک مشکل مربوط به انتخاب دستیار، و در ابزارهای گفت‌وگومحور هم بروز می‌کند. آنچه واقعاً کمک می‌کند:

وابستگی‌ها را قفل کنید و فایل‌های قفل را ثبت کنید. وجود فایل‌هایی مانند package-lock.json، poetry.lock یا requirements.txt همراه با هش‌ها به این معناست که یک نام پکیج تازه‌پیشنهادشده باید یک مرحله بازبینی صریح را طی کند، نه آنکه به‌طور خاموش در ساخت بعدی کشیده شود.

هر وابستگی جدید پیشنهادی هوش مصنوعی را یک تغییر برای بازبینی بدانید، نه یک دستور برای اجرا. پیش از نصب، صفحه رجیستری پکیج را بررسی کنید: تاریخ انتشار، تعداد دانلود، تاریخچه نگهدارنده. کتابخانه‌ای که ادعا می‌کند یک مشکل رایج را حل می‌کند اما سه هفته پیش با صفر نسخه قبلی منتشر شده، یک هشدار است، نه یک تصادف.

برای سیستم‌های CI و ساخت، از یک پروکسی رجیستری خصوصی با فهرست مجاز استفاده کنید. ابزارهایی مانند Artifactory، Nexus یا رجیستری‌های دامنه‌دار خود npm به یک تیم اجازه می‌دهند مشخص کند کدام پکیج‌ها در پایپ‌لاین‌های خودکار قابل حل‌شدن هستند، و بدین‌ترتیب هدف با ارزش‌ترین را می‌بندند — راننده‌های CI با دسترسی‌های گسترده — حتی اگر دستگاه محلی یک برنامه‌نویس به همان اندازه قفل نشده باشد.

اسکریپت‌های زمان نصب را در یک محیط ایزوله اجرا کنید. پرچم --ignore-scripts در npm و گزینه‌های معادل در پکیج‌بندی پایتون مانع از آن می‌شوند که هوک‌های نصب یک پکیج مخرب همان لحظه دریافت، کد دلخواه را اجرا کنند، که این خود مهم‌ترین مکانیزم بار مخرب اسلاپ‌اسکواتینگ را خنثی می‌کند، حتی اگر پکیج بد از فیلترهای دیگر عبور کرده باشد.

راه‌حل عمیق‌تر فرهنگی است: پیشنهادهای کد تولیدشده توسط هوش مصنوعی، از جمله وابستگی‌هایی که با خود می‌آورند، باید همان دقتی را دریافت کنند که یک درخواست pull از یک مشارکت‌کننده ناشناس دریافت می‌کند — نه اعتمادی که برنامه‌نویسان به import‌های تایپ‌شده دستی خودشان می‌دهند. پژوهش سال ۲۰۲۵ مقیاس پکیج‌های توهمی را قابل اندازه‌گیری کرد؛ حادثه agent-framework مایکروسافت، دامنه آسیب را ملموس کرد. با هر نام پکیج جدیدی که یک دستیار پیشنهاد می‌دهد، تا زمانی که رجیستری خلاف آن را نشان ندهد، به‌عنوان تاییدنشده رفتار کنید.

اشتراک‌گذاری:
دستیارهای کدنویسی هوش مصنوعی همچنان پکیج‌هایی را پیشنهاد می‌دهند که وجود ندارند، و مهاجمان آماده‌اند | AIO APEX