هوش مصنوعی اکنون در هر دو سوی جنگ سایبری قرار دارد — و مهاجمان سریعتر حرکت میکنند
برای دو سال، صنعت امنیت سایبری وعده داد که هوش مصنوعی مزیت را قاطعانه به سمت مدافعان میگرداند. منطق روشن بود: هوش مصنوعی میتواند همزمان تمام ترافیک شبکه را نظارت کند، ناهنجاریها را سریعتر از هر تحلیلگر انسانی تشخیص دهد، و تهدیدهایی را که ابزارهای مبتنی بر امضا کاملاً از دست میدهند، شناسایی کند. چیزی که این ادعا کماهمیت جلوه داد این است که مهاجمان نیز به همان فناوری دسترسی یافتند — و محدودیتهای کمتری برای استفاده از آن داشتند.
نتیجه یک مسابقه تسلیحاتی است که در آن هر دو طرف نسبت به قبل بهتر شدهاند، اما طرف تهاجمی در چندین بعد کلیدی پیشتاز شده است. درک دقیق اینکه عدم تقارن کجاست — و مدافعان چه کاری میتوانند انجام دهند — مفیدتر از ادعای کلی «هوش مصنوعی در حال تغییر امنیت سایبری است» میباشد.
آنچه مهاجمان واقعاً ساختهاند
نسل اول ابزارهای هوش مصنوعی تهاجمی — WormGPT، FraudGPT، GhostGPT — از سال ۲۰۲۳ در انجمنهای dark web ظاهر شدند. این نسخههای Fine-tuning شده یا بدون سانسور از مدلهای زبانی Open Source هستند که به صورت اشتراک ۵۰ تا ۲۰۰ دلار در ماه به مجرمان سایبری فاقد مهارت کدنویسی فروخته میشوند. کاربرد اصلی آن Business Email Compromise (BEC) است: تولید ایمیلهای فیشینگ که از ارتباطات داخلی قانونی قابل تشخیص نیستند و با استفاده از دادههای LinkedIn و اطلاعات عمومی شرکت برای هر هدف شخصیسازی شدهاند.
تأثیر آن قابل اندازهگیری است. مطالعه تیم قرمز شرکت Hoxhunt در سال ۲۰۲۴ نشان داد که ایمیلهای spear-phishing تولید شده با هوش مصنوعی نرخ کلیک تقریباً ۶۰٪ بالاتر از فیشینگ مبتنی بر قالب دارند. FBI IC3 گزارش داد که ضررهای BEC در سال ۲۰۲۳ بالغ بر ۲.۹ میلیارد دلار بوده است؛ انتظار میرود این رقم با کاهش هزینه مهندسی اجتماعی با کیفیت بالا توسط هوش مصنوعی به نزدیک صفر، رشد قابل توجهی داشته باشد.
فراتر از فیشینگ، هوش مصنوعی دو الگوی حمله دیگر را تسریع میکند که پیشتر توسط مهارت مورد نیاز برای اجرای آنها محدود شده بودند:
- بدافزار polymorphism در مقیاس. هوش مصنوعی میتواند هزاران نوع بدافزار با تفاوت نحوی اما عملکرد یکسان از یک نمونه واحد تولید کند. هر نوع دارای یک hash متفاوت است و تشخیص آنتیویروس مبتنی بر امضا را بیفایده میکند. آنچه یک نویسنده بدافزار ماهر روزها طول میکشید تا به صورت دستی تولید کند، اکنون چند ثانیه طول میکشد.
- شبیهسازی صدا و تصویر برای کلاهبرداری. شبیهسازی صوتی Deepfake از صدای یک مدیر مالی قبلاً در حملات واقعی استفاده شده است — یک مورد مستند در سال ۲۰۲۴ شامل یک کارمند مالی بود که پس از یک تماس Zoom جعلی که ظاهراً شامل چندین همکار واقعی بود، ۲۵ میلیون دلار واریز کرد. هزینه محاسباتی برای سنتز صدای بلادرنگ به سطح کالا کاهش یافته است.
جایی که هوش مصنوعی دفاعی واقعاً کمک میکند
داستان هوش مصنوعی دفاعی ساختگی نیست. چندین قابلیت واقعاً بالغ شده و حفاظت واقعی ارائه میدهند:
تشخیص ناهنجاری رفتاری جایی است که هوش مصنوعی واضحترین مزیت خود را نشان میدهد. ابزارهایی مانند Enterprise Immune System از Darktrace و موتور رفتاری CrowdStrike Falcon یاد میگیرند که «عادی» برای هر کاربر، دستگاه و بخش شبکه چه شکلی است — سپس بدون انتظار برای یک امضای شناخته شده، انحرافات را علامتگذاری میکنند. یک حساب کارمندی که ناگهان در ساعت ۳ صبح از یک مکان غیرعادی به سیستمهای حقوق و دستمزد دسترسی پیدا میکند، بلافاصله علامتگذاری میشود، صرف نظر از اینکه مهاجم از بدافزار شناخته شدهای استفاده کرده باشد.
اتوماسیون عملیات امنیت شکاف دیگری را پر میکند. تحلیلگر متوسط SOC با صدها هشدار در هر شیفت مواجه است که بیشتر آنها False Positive هستند. Microsoft Security Copilot و ابزارهای مشابه میتوانند به طور خودکار هشدارها را اولویتبندی، مرتبط و بررسی کنند — خلاصهای از آنچه رخ داده، کدام سیستمها تحت تأثیر قرار گرفتهاند و چه اقدامات اصلاحی توصیه میشود ارائه دهند. این کار زمان از هشدار اولیه تا تصمیم انسانی را از ساعت به دقیقه کاهش میدهد.
هوش تهدید در مقیاس به طور چشمگیری بهبود یافته است. Chronicle AI گوگل (بر اساس خرید Mandiant) پتابایت دادههای تلهمتری امنیتی را دریافت میکند و الگوهایی را آشکار میسازد که هفتهها طول میکشد تا تحلیلگران انسانی شناسایی کنند. تیم Counter Adversary Operations CrowdStrike از هوش مصنوعی برای نسبت دادن کمپینها به گروههای تهدید خاص در عرض چند ساعت از تشخیص اولیه استفاده میکند.
عدم تقارنهای مهم
علیرغم این دستاوردهای دفاعی واقعی، سه عدم تقارن ساختاری در سال ۲۰۲۶ به نفع مهاجمان است:
سرعت. یک مهاجم نیاز دارد یک مسیر از دفاع شما پیدا کند. یک مدافع باید همه آنها را ببندد. هوش مصنوعی مرحله شناسایی و بهرهبرداری مهاجم را سریعتر از توانایی مدافع برای بستن هر آسیبپذیری بالقوه تسریع میکند. متوسط Dwell Time — دوره بین نفوذ اولیه و تشخیص — از ۲۰۴ روز در سال ۲۰۲۲ به حدود ۸۰ روز در سال ۲۰۲۵ بهبود یافته است، اما ۸۰ روز همچنان یک پنجره عظیم است.
عدم تقارن هزینه. اجرای یک کمپین فیشینگ با کمک هوش مصنوعی در مقیاس، چند صد دلار هزینه API دارد. استقرار ابزارهای امنیتی هوش مصنوعی در سطح سازمانی دهها هزار دلار در سال برای هر سازمان هزینه دارد. برای کسبوکارهای کوچک و متوسط — که اکثریت قربانیان نقض را تشکیل میدهند — هزینه هوش مصنوعی دفاعی بازدارنده است، در حالی که ابزارهای هوش مصنوعی تهاجمی حتی برای بازیگران تهدید با مهارت پایین قابل دسترسی است.
خستگی از هشدار. امنیت مبتنی بر هوش مصنوعی هشدارهای بیشتری تولید میکند. تیمهای امنیتی در حال حاضر غرق شدهاند — متوسط SOC روزانه بیش از ۱۰۰۰ هشدار گزارش میکند، با نرخ False Positive بالای ۴۰٪ برای بسیاری از قوانین تشخیص. وقتی سیستمهای تشخیص هوش مصنوعی بیشتر تشخیص میدهند، مشکل سیگنال به نویز بدتر میشود مگر اینکه تحلیلگران اضافه شوند یا اتوماسیون به طور قابل توجهی بهبود یابد. اکثر سازمانها به اندازه کافی سریع تحلیلگر اضافه نمیکنند.
تیمهای امنیتی واقعاً چه باید بکنند
پاسخ عملی به این چشمانداز «اضافه کردن ابزارهای هوش مصنوعی بیشتر» نیست. اکثر سازمانها در تعداد محصولات امنیتی که اجرا میکنند دچار تنگنا نیستند. در اینجا تمرکز واقعاً نتیجه میدهد:
اولویتدهی به تشخیص رفتاری نسبت به ابزارهای مبتنی بر امضا. آنتیویروس امضایی در برابر بدافزار polymorphic تولید شده با هوش مصنوعی مرده است. بودجه باید به سمت پلتفرمهای Endpoint Detection and Response (EDR) با موتورهای رفتاری و ابزارهای تشخیص شبکه که الگوهای ترافیک عادی را پایهگذاری میکنند، منتقل شود.
استقرار امنیت هویتمحور. اکثر نقضها در سالهای ۲۰۲۵-۲۰۲۶ از یک الگوی واحد پیروی میکنند: سرقت اعتبارنامه یا دور زدن MFA، سپس حرکت جانبی. اجرای MFA مقاوم در برابر فیشینگ (FIDO2/passkeys به جای SMS یا TOTP) بر روی همه حسابها — نه فقط حسابهای ممتاز — رایجترین بردار دسترسی اولیه را حذف میکند. این کار جذاب نیست اما بیش از هر ابزار هوش مصنوعی حملات را مسدود میکند.
ایجاد یک پروتکل تأیید صدا برای انتقالهای مالی. با توجه به بلوغ شبیهسازی صدا، هر انتقال مالی بالاتر از یک آستانه مشخص باید نیاز به تأیید از طریق یک تماس برگشتی از پیش تعیین شده به یک شماره شناخته شده داشته باشد — نه از طریق کانال ارتباطی که درخواست در آن دریافت شده است. این یک کنترل سیاستی است، نه یک کنترل فناوری، و به طور خاص به بردار حمله Deepfake مدیر مالی میپردازد.
انجام تمرینهای تیم قرمز هوش مصنوعی. تست نفوذ استاندارد همچنان چشمانداز تهدید سال ۲۰۲۰ را شبیهسازی میکند. استفاده از شرکتهایی که به طور خاص مهندسی اجتماعی با کمک هوش مصنوعی را آزمایش میکنند — از جمله فیشینگ صوتی Deepfake علیه تیمهای مالی و اجرایی شما — شکافهایی را آشکار میکند که تستهای نفوذ معمولی از دست میدهند.
جنگ هوش مصنوعی در امنیت سایبری نه برنده شده و نه باخته است. این جنگ در جریان است و سازمانهایی که بهترین عملکرد را خواهند داشت، آنهایی هستند که الگوهای حمله خاصی را که هوش مصنوعی امکانپذیر میکند، درک میکنند، نه اینکه «هوش مصنوعی در امنیت» را به عنوان یک مفهوم یکپارچه واحد در نظر بگیرند. تهدید خاص است. دفاع نیز باید خاص باشد.