Hugging Face تأیید کرد که انبوهی از Agent های هوش مصنوعی خودمختار به محیط عملیاتی آن نفوذ کرده‌اند

Hugging Face، پلتفرمی که بیش از یک میلیون مدل هوش مصنوعی را در خود جای داده و به بیش از ۵۰٬۰۰۰ سازمان در سراسر جهان خدمات ارائه می‌دهد، در بیستم ژوئیه فاش کرد که مهاجمان با بهره‌گیری از یک سیستم Agent هوش مصنوعی خودمختار، به زیرساخت تولیدی این شرکت نفوذ کرده‌اند. این نخستین رویداد تأییدشده عمومی است که در آن یک Agent هوش مصنوعی یک نفوذ چندمرحله‌ای و پایدار را علیه یک پلتفرم بزرگ هوش مصنوعی به اجرا درآورده است.

حمله از درون Pipeline پردازش داده‌های خود Hugging Face آغاز شد. مهاجمان یک مجموعه داده مخرب را بارگذاری کردند که از دو آسیب‌پذیری جداگانه برای اجرای کد بهره می‌برد: آسیب‌پذیری اجرای کد از راه دور در بارگذار مجموعه داده، و نقص تزریق قالب در پردازش پیکربندی مجموعه داده. پس از آنکه کد روی یک کارگر پردازشی به اجرا درآمد، Agent به سرقت اعتبارنامه‌های ابری و خوشه‌ای پرداخت.

انبوهی از Agent ها، نه یک اسکریپت ساده

آنچه این رویداد را غیرمعمول می‌ساخت، گستره و استقلال عملکردی آن بود. به گفته Hugging Face، مهاجم یک Framework مبتنی بر Agent خودمختار را مستقر کرد که هزاران عمل مجزا را در شبکه‌ای از Sandbox های کوتاه‌عمر اجرا می‌کرد؛ مرکز فرماندهی و کنترل آن نیز به‌صورت خودکار بین خدمات عمومی جابه‌جا می‌شد. Agent به طور پیوسته رفتار خود را تطبیق می‌داد و زیرساخت خود را برای فرار از شناسایی جابه‌جا می‌کرد، بدون آنکه سرور ثابت فرماندهی و کنترلی برای مسدود کردن وجود داشته باشد.

Hugging Face اعلام کرد که نمی‌داند کدام LLM به Agent های مهاجم قدرت می‌داد — چه مدلی میزبانی‌شده با محدودیت‌های ایمنی دور زده‌شده، چه مدلی متن‌باز با وزن‌های در دسترس عموم — اما خاطرنشان کرد که در هر صورت، مهاجم ملزم به رعایت هیچ سیاست استفاده‌ای نبود.

آنچه در معرض دسترسی قرار گرفت

بازرسان دسترسی غیرمجاز به شماری محدود از مجموعه داده‌های داخلی و چندین اعتبارنامه سرویس مورد استفاده در خوشه‌های داخلی را تأیید کردند. Hugging Face هیچ شواهدی مبنی بر دستکاری مهاجمان در مخزن عمومی مدل‌ها، مجموعه داده‌های کاربران یا Spaces نیافت. زنجیره تأمین نرم‌افزار — از جمله کتابخانه‌های Transformers، Diffusers و PEFT — سالم و دست‌نخورده تأیید شد.

شرکت اعلام کرد که همچنان در حال بررسی است که آیا داده‌های شرکای تجاری یا مشتریان فراتر از اعتبارنامه‌های سرویس داخلی در معرض افشا قرار گرفته است یا خیر. هیچ رمز عبور کاربری یا توکن دسترسی مربوط به حساب‌های عمومی به عنوان موارد به خطر افتاده شناسایی نشد.

اقدامات اصلاحی و واکنش

Hugging Face هر دو مسیر آسیب‌پذیر اجرای کد که امکان نفوذ اولیه را فراهم کرده بودند وصله کرد، تمام اعتبارنامه‌های آسیب‌دیده را لغو و جایگزین نمود، گره‌های به‌خطرافتاده را از نو بازسازی کرد و ابزارهای شناسایی جدیدی را با هدف تشخیص فعالیت Agent های خودمختار راه‌اندازی کرد. این شرکت رویداد را به مراجع قانونی گزارش داد و از کارشناسان مستقل تحلیل جنایی دیجیتال برای کمک به تحقیقات بهره گرفت.

این نقض امنیتی فراتر از پیامدهای فوری خود اهمیت دارد. پژوهشگران امنیتی از مدت‌ها پیش هشدار داده بودند که Framework های Agent هوش مصنوعی در نهایت در مقیاس وسیع به ابزار حمله تبدیل خواهند شد. رویداد Hugging Face نخستین مورد تأییدشده‌ای است که در آن یک Agent هوش مصنوعی خودمختار با موفقیت به یک ارائه‌دهنده بزرگ زیرساخت هوش مصنوعی نفوذ کرد، نه صرفاً یک هدف سازمانی متعارف.

به گزارش BleepingComputer، این حمله از همان زیرساخت پردازش مجموعه داده‌ای بهره برد که Hugging Face را ارزشمند می‌سازد: توانایی اجرای کد هنگام دریافت داده، برای نرمال‌سازی و آماده‌سازی داده‌های آموزشی هوش مصنوعی.