گوگل از یک باند جرایم سایبری چینی به دلیل استفاده از جمینای برای نوشتن صفحات فیشینگ خود شکایت کرد.

گوگل در ۱۲ ژوئن شکایتی تاریخی در دادگاه فدرال نیویورک علیه یک شبکه جرایم سایبری مستقر در چین که آن را «Outsider Enterprise» نامیده، ثبت کرد. این شکایت ادعا میکند که این گروه یک پلتفرم پیچیده فیشینگ به‌عنوان سرویس (PhaaS) را اداره می‌کرده که برای جعل هویت گوگل، یوتیوب، سرویس پست ایالات متحده، سیستم‌های عوارض E-ZPass، مؤسسات مالی و ادارات وسایل نقلیه موتوری ایالتی استفاده می‌شده است. همچنین اعضای این شبکه به‌طور سیستماتیک از هوش مصنوعی جمینای خود گوگل برای نوشتن کد HTML صفحات جعلی استفاده می‌کردند. این اولین بار است که گوگل به‌طور خاص به دلیل سوءاستفاده از پلتفرم هوش مصنوعی خود علیه عوامل تهدید اقدام قانونی می‌کند.

اف‌بی‌آی تخمین می‌زند که شبکه Outsider Enterprise از زمان ظهور خود در جولای ۲۰۲۳، ۳.۸۷ میلیون شماره کارت اعتباری را سرقت کرده و حدود ۱.۹ میلیارد دلار ضرر وارد کرده است. در یک بازه دو هفته‌ای در می ۲۰۲۶، این گروه ۲.۵ میلیون پیامک فیشینگ برای کاربران اندروید در ایالات متحده ارسال کرد که کاربران در آن مدت ۵۵,۰۰۰ گزارش اسپم ثبت کردند. در مجموع، شکایت گوگل بیش از ۹,۰۰۰ وب‌سایت جعلی و حدود ۱ میلیون URL کلاهبرداری مرتبط با این شبکه را در طول فعالیت آن شناسایی کرده است.

نحوه استفاده گروه از جمینای

بر اساس شکایت گوگل و ارتباطات داخلی که بررسی کرده، اعضای Outsider Enterprise روشی را توسعه دادند که در آن درخواست‌هایی به ظاهر بی‌ضرر به جمینای ارائه می‌دادند - مثلاً از آن می‌خواستند صفحات «بازخرید هدیه»، پورتال‌های وفاداری و فرم‌های خدمات مشتری بسازد - و سپس کد HTML تولیدشده را مستقیماً به مجموعه نرم‌افزاری Outsider وارد می‌کردند. این پلتفرم آن صفحات را به زیرساخت کلاهبرداری زنده تبدیل می‌کرد که ظرف چند ساعت قابل راه‌اندازی بود. کانال‌های تلگرامی که این گروه استفاده می‌کرد شامل دستورالعمل‌های صریح برای استفاده از جمینای در تولید کد صفحات فیشینگ بود و اعضا پرامپت‌های کاری و جلسات رفع اشکال را به اشتراک می‌گذاشتند.

این یک مورد مستند از چیزی است که محققان امنیتی آن را سوءاستفاده «هم‌مرز با جیل‌بریک» می‌نامند: نه شکستن فیلترهای ایمنی مدل با پرامپت‌های خصمانه، بلکه قالب‌بندی درخواست‌های مخرب به‌عنوان درخواست‌های بی‌ضرر و برون‌سپاری کار نگارش به هوش مصنوعی که راهی برای ارزیابی استفاده نهایی ندارد. جمینای، وقتی از آن خواسته شود یک صفحه اعلان تحویل قانع‌کننده از USPS بسازد، یک صفحه اعلان تحویل قانع‌کننده از USPS می‌سازد. کاربرد مجرمانه یک گام از خروجی مدل فاصله دارد.

گوگل می‌گوید حساب‌های جمینای و زیرساخت‌هایی که تأیید شده به این طرح مرتبط هستند را غیرفعال کرده است. این شرکت همچنین با اف‌بی‌آی و سه اپراتور بزرگ تلفن همراه ایالات متحده - AT&T، T-Mobile و Verizon - همکاری می‌کند تا پیام‌ها را در سطح شبکه مسدود کرده و زیرساخت‌های پشتیبان را از کار بیندازد.

استراتژی حقوقی: استفاده از دادگاه‌های مدنی برای مختل کردن شبکه‌های مجرمانه

تصمیم گوگل برای ثبت یک دعوای مدنی به جای تکیه صرف بر ارجاع به مجریان قانون، عمدی است. این شرکت قبلاً از همین استراتژی استفاده کرده است: در سال ۲۰۲۳، علیه اپراتورهای یک بات‌نت که از زیرساخت گوگل برای سرقت اطلاعات استفاده می‌کرد شکایت کرد؛ در سال ۲۰۲۱، علیه دو تبعه روس پشت یک بات‌نت که گوگل پلی را هدف قرار داده بود شکایت کرد. دادگاه‌های مدنی به گوگل دسترسی مستقیم به راه‌حل‌های فوری می‌دهند - دستوراتی که ارائه‌دهندگان میزبانی، ثبت‌کنندگان دامنه و پردازشگرهای مالی را ملزم به همکاری در از کار انداختن زیرساخت می‌کند - بدون نیاز به انتظار برای جدول زمانی تحقیقات جنایی که می‌تواند سال‌ها طول بکشد.

این شکایت پنج متهم با نام جان داو را نام می‌برد، زیرا هویت اپراتورهای فردی Outsider Enterprise به‌طور عمومی مشخص نشده است. این شبکه از طریق کانال‌های تلگرامی فعالیت می‌کند و اپراتورهای وابسته - مجرمانی که دسترسی به کیت PhaaS را خریداری می‌کنند - در حوزه‌های قضایی متعدد پراکنده هستند. این دعوا در ناحیه جنوبی نیویورک ثبت شده است که صلاحیت رسیدگی به بخشی از خسارت مالی ناشی از این عملیات را دارد.

گوگل به‌طور همزمان از هفت لایحه دوحزبی در کنگره مرتبط با کلاهبرداری با کمک هوش مصنوعی حمایت می‌کند. مهم‌ترین آنها قانون Stop SCAMS است که توسط نمایندگان برایان فیتزپاتریک (جمهوری‌خواه از پنسیلوانیا) و جاش هاردر (دموکرات از کالیفرنیا) حمایت می‌شود و یک استراتژی ملی هماهنگ ایجاد می‌کند که مجریان قانون، سازمان‌های دولتی و بخش خصوصی را برای مبارزه با حلقه‌های جرایم سایبری فراملی متحد می‌کند. این قانون‌گذاری همچنین پلتفرم‌ها را ملزم می‌کند اطلاعات تهدید در مورد کلاهبرداری با کمک هوش مصنوعی را به روش‌هایی که در حال حاضر قانوناً ملزم نیستند، به اشتراک بگذارند.

مقیاس فیشینگ با کمک هوش مصنوعی

Outsider Enterprise به‌طور غیرمعمولی مستند شده است به دلیل ارتباط با جمینای و دخالت مستقیم گوگل به‌عنوان هدف و شاکی. با این حال، به‌عنوان یک دسته تهدید غیرعادی نیست. محققان امنیتی در ۱۸ ماه گذشته گسترش زیرساخت فیشینگ با کمک هوش مصنوعی را ردیابی کرده‌اند. الگو ثابت است: ابزارهای هوش مصنوعی - هم مدل‌های تجاری مانند جمینای و کلود و هم جایگزین‌های منبع‌باز که شرایط استفاده ندارند - سطح مهارت لازم برای ایجاد محتوای فیشینگ قانع‌کننده را کاهش می‌دهند و چرخه استقرار قالب‌های جدید را زمانی که یک برند هدف طراحی بصری خود را تغییر می‌دهد، تسریع می‌کنند.

شکایت Outsider Enterprise بیان می‌کند که این شبکه کتابخانه‌ای از بیش از ۲۹۰ قالب از پیش ساخته شده شامل برندهای شناخته‌شده را نگهداری می‌کرده است. نگهداری آن کتابخانه قالب قبلاً به فردی نیاز داشت که بتواند HTML و CSS بنویسد، دستورالعمل‌های برند را درک کند و قالب‌ها را زمانی که برندها حضور وب خود را بازطراحی می‌کردند به‌روز کند. با جمینای، آن وظایف به وظایف پرامپت‌نویسی تبدیل می‌شوند. مانع بیشتر کاهش می‌یابد و عملیات مقاوم‌تر می‌شود - زیرا قابلیت تولید قالب بین هر عضوی با حساب جمینای توزیع می‌شود به جای اینکه در چند توسعه‌دهنده ماهر متمرکز شود.

برای کاربران، پیامد عملی بدون تغییر است: پیام‌های smishing - فیشینگ از طریق SMS - که حاوی لینک به اعلان‌های تحویل جعلی USPS، اطلاعیه‌های پرداخت عوارض معوق یا هشدارهای امنیتی بانک هستند، باید بدون توجه به ظاهر حرفه‌ایشان با شک فوری برخورد شوند. کیفیت بصری یک صفحه فیشینگ دیگر نشانه قابل اعتمادی از اعتبار آن نیست؛ صفحات تولیدشده با هوش مصنوعی می‌توانند از صفحات واقعی غیرقابل تشخیص باشند.

آنچه دعوا می‌تواند و نمی‌تواند انجام دهد

دعاوی مدنی از این نوع سابقه مختلطی دارند. شکایت بات‌نت گوگل در سال ۲۰۲۳ منجر به از کار انداختن موفق زیرساخت شد، اما اپراتورهای فردی هرگز شناسایی یا تحت پیگرد قرار نگرفتند. عوامل مجرمانه که از چین فعالیت می‌کنند چالش‌های اضافی ایجاد می‌کنند: دادگاه‌های ایالات متحده می‌توانند دستور صادر کنند، اما اجرا علیه افراد در حوزه قضایی که با ایالات متحده معاهده استرداد ندارد بستگی به این دارد که آیا آن افراد هرگز به کشورهایی سفر می‌کنند که با روند قانونی ایالات متحده همکاری می‌کنند.

آنچه دعوا به‌طور قابل اعتماد انجام می‌دهد: ارائه‌دهندگان زیرساخت مستقر در ایالات متحده - شرکت‌های میزبانی، CDNها، پردازشگرهای پرداخت - را مجبور به همکاری در از کار انداختن زیرساخت خاص شناسایی‌شده در شکایت می‌کند. یک رکورد قانونی ایجاد می‌کند که می‌تواند در پرونده‌های آینده استفاده شود. و یک سیگنال عمومی واضح می‌فرستد که گوگل مایل است سوءاستفاده از هوش مصنوعی را به‌عنوان یک محرک دعوا تلقی کند نه صرفاً یک موضوع سیاستی، که ممکن است با عوامل تهدیدی که به هزینه‌های امنیت عملیاتی حساس هستند، ارزش بازدارندگی داشته باشد.

سؤال بلندمدت ساختاری است. پلتفرم‌های PhaaS مانند Outsider Enterprise وجود دارند زیرا اقتصاد فیشینگ همچنان مطلوب است: هزینه اجرای یک عملیات پایین است، بازده بالقوه از اعتبارنامه‌ها و شماره کارت‌های دزدیده شده بالا است، و ریسک قانونی - به‌ویژه برای اپراتورها در حوزه‌های قضایی غیرهمکار - قابل مدیریت است. هوش مصنوعی آن اقتصاد را با کاهش نیازهای مهارتی اپراتور مطلوب‌تر می‌کند. یک دعوا به یک مورد می‌پردازد؛ مدل کسب‌وکاری که از آن بهره‌برداری می‌کند با یک دستور دادگاه تغییر نمی‌کند.

منبع: شکایت گوگل (SDNY)، بیانیه مطبوعاتی اف‌بی‌آی، Help Net Security، The Next Web، Decrypt، Cybersecurity News، ۱۲-۱۳ ژوئن ۲۰۲۶.