کرادسترایک دو استارتاپ امنیت هوش مصنوعی را خرید و یک کلید خاموش‌سازی برای عامل‌های سرکش راه‌اندازی کرد

کرادسترایک روز دوشنبه در کنفرانس Fal.Con اروپا در بارسلون اعلام کرد که قراردادهای قطعی برای خریداری دو استارتاپ امنیت هوش مصنوعی، Fiddler AI و Dreadnode، در یک معامله‌ی مجموع گزارش‌شده‌ی حدود ۴۹۵ میلیون دلار امضا کرده است — حدود ۴۰۰ میلیون دلار برای Fiddler و ۹۵ میلیون دلار برای Dreadnode، به گزارش وال‌استریت ژورنال. کرادسترایک جزئیات قیمت را تأیید نکرده است.

این خریداری‌ها به مسئله‌ای می‌پردازند که همراه با گسترش سریع عامل‌های هوش مصنوعی در سازمان‌ها رشد کرده است: بیشتر شرکت‌ها اکنون سیستم‌های خودمختار هوش مصنوعی دارند که در سراسر شبکه‌هایشان تصمیم می‌گیرند و اقدام می‌کنند، اما تعداد کمی از آن‌ها روشی قابل‌اعتماد برای نظارت بر آنچه این عامل‌ها واقعاً انجام می‌دهند دارند.

Fiddler AI، که با نام Falcon Observe تغییر نام خواهد یافت، در نظارت و توضیح‌پذیری عامل‌ها تخصص دارد — به تیم‌های امنیتی ثبتی قابل‌ردیابی از آنچه یک عامل هوش مصنوعی انجام داده، چرا، و آیا رفتارش با آنچه باید باشد مطابقت دارد یا نه می‌دهد. جورج کرتز، مدیرعامل کرادسترایک، آن را «ثبت‌کننده‌ی پرواز برای هر عامل» توصیف کرد. Dreadnode رویکرد معکوسی دارد: پیش از اینکه مدل‌ها و عامل‌های هوش مصنوعی واقعاً فعال شوند، آزمایش خصمانه‌ی خودکار علیه آن‌ها اجرا می‌کند و بیش از ۱۰۰ تکنیک حمله‌ی شناخته‌شده از جمله jailbreak و تزریق پرامپت را شبیه‌سازی می‌کند.

در همان روز، کرادسترایک همچنین یک ویژگی «کلید خاموش‌سازی هوش مصنوعی» را در محصول Falcon Guardian خود معرفی کرد. این ویژگی به تیم‌های امنیتی اجازه می‌دهد یک عامل هوش مصنوعی سرکش یا آسیب‌دیده را هر جا که در حال اجراست متوقف کنند، از راه‌اندازی مجدد آن جلوگیری کنند و دسترسی آن را به شبکه‌ی گسترده‌تر سازمانی قطع کنند.

هر دو خریداری انتظار می‌رود در سه‌ماهه‌ی چهارم مالی کرادسترایک در سال مالی ۲۰۲۷ بسته شوند، مشروط به تأیید نظارتی استاندارد.