Google demandó a una red de ciberdelincuencia china por usar Gemini para escribir sus páginas de phishing.

Google presentó una demanda histórica ante un tribunal federal de Nueva York el 12 de junio contra una red de ciberdelincuencia con sede en China que identifica como Outsider Enterprise. La demanda alega que el grupo operaba una sofisticada plataforma de phishing como servicio (PhaaS) utilizada para suplantar a Google, YouTube, el Servicio Postal de Estados Unidos, los sistemas de peaje E-ZPass, instituciones financieras y los departamentos de vehículos motorizados (DMV) estatales, y que miembros de la red usaron sistemáticamente la propia IA Gemini de Google para escribir el HTML de las páginas fraudulentas. Es la primera vez que Google emprende acciones legales contra actores de amenazas específicamente por abusar de su plataforma de IA.

El FBI estima que la red Outsider Enterprise ha robado 3.87 millones de números de tarjetas de crédito y causado pérdidas de aproximadamente 1.9 mil millones de dólares desde que apareció por primera vez en julio de 2023. En una sola ventana de dos semanas en mayo de 2026, el grupo envió 2.5 millones de mensajes de texto de phishing a usuarios de Android en Estados Unidos; esos usuarios presentaron 55,000 denuncias de spam durante ese período. En total, la denuncia de Google identifica más de 9,000 sitios web falsos y aproximadamente 1 millón de URLs fraudulentas vinculadas a la red a lo largo de su historial operativo.

Cómo Usó el Grupo Gemini

Según la denuncia de Google y las comunicaciones internas que revisó, los miembros de Outsider Enterprise desarrollaron la práctica de alimentar a Gemini con prompts enmarcados como solicitudes inocuas — pidiéndole que creara páginas de "canje de regalos", portales de fidelización y formularios de atención al cliente — y luego introducían el HTML generado directamente en el paquete de software de Outsider. La plataforma convertía esas páginas en infraestructura de estafa activa que podía desplegarse en cuestión de horas. Los canales de Telegram utilizados por el grupo incluían instrucciones explícitas para usar Gemini y generar código de páginas de phishing, con miembros compartiendo prompts funcionales y sesiones de resolución de problemas.

Este es un caso documentado de lo que los investigadores de seguridad llaman uso indebido "cercano al jailbreak": no romper los filtros de seguridad del modelo con prompts adversariales, sino enmarcar solicitudes maliciosas como inofensivas y subcontratar el trabajo de redacción a una IA que no tenía forma de evaluar el uso previsto. Gemini, al que se le pide crear una página convincente de notificación de entrega de USPS, crea una página convincente de notificación de entrega de USPS. La aplicación delictiva está a un paso de la salida del modelo.

Google afirma que ha desactivado las cuentas de Gemini y la infraestructura confirmadas como vinculadas al esquema. La empresa también está colaborando con el FBI y los tres operadores de telefonía móvil más grandes de EE. UU. — AT&T, T-Mobile y Verizon — para bloquear los mensajes a nivel de red y desmantelar la infraestructura de soporte.

La Estrategia Legal: Usar Tribunales Civiles para Desarticular Redes Criminales

La decisión de Google de presentar una demanda civil en lugar de depender únicamente de derivaciones a las fuerzas del orden es deliberada. La empresa ya ha utilizado la misma estrategia antes: en 2023, demandó a operadores de una botnet que usaba infraestructura de Google para credential stuffing; en 2021, demandó a dos ciudadanos rusos detrás de una botnet dirigida a Google Play. Los tribunales civiles otorgan a Google acceso directo a medidas cautelares — órdenes que exigen a proveedores de alojamiento, registradores de dominios y procesadores financieros cooperar en el desmantelamiento de infraestructura — sin esperar un cronograma de investigación penal que puede durar años.

La denuncia nombra a cinco acusados John Doe, ya que las identidades de los operadores individuales de Outsider Enterprise no se han establecido públicamente. La red opera a través de canales de Telegram, con operadores afiliados — delincuentes que compran acceso al kit PhaaS — distribuidos en múltiples jurisdicciones. La demanda se presenta en el Distrito Sur de Nueva York, que tiene jurisdicción sobre una parte del daño financiero causado por la operación.

Google respalda simultáneamente siete proyectos de ley bipartidistas en el Congreso relacionados con el fraude asistido por IA. El más significativo es la Ley Stop SCAMS, impulsada por los representantes Brian Fitzpatrick (R-PA) y Josh Harder (D-CA), que crearía una estrategia nacional coordinada que una a las fuerzas del orden, agencias gubernamentales y el sector privado para combatir las redes transnacionales de ciberdelincuencia. La legislación también exigiría a las plataformas compartir inteligencia sobre amenazas relacionadas con el fraude habilitado por IA de formas que actualmente no están legalmente obligadas a hacer.

La Escala del Phishing Asistido por IA

Outsider Enterprise está inusualmente bien documentado debido a la conexión con Gemini y la participación directa de Google como objetivo y demandante. Sin embargo, no es inusual como categoría de amenaza. Los investigadores de seguridad han rastreado una proliferación de infraestructura de phishing asistida por IA en los últimos 18 meses. El patrón es consistente: las herramientas de IA — tanto modelos comerciales como Gemini y Claude, como alternativas de código abierto que no imponen términos de servicio — reducen el nivel de habilidad necesario para crear contenido de phishing convincente y aceleran el ciclo de implementación de nuevas plantillas cuando una marca objetivo cambia su diseño visual.

La denuncia de Outsider Enterprise afirma que la red mantenía una biblioteca de más de 290 plantillas preconstruidas que cubrían marcas reconocibles. Mantener esa biblioteca de plantillas antes requería a alguien que supiera escribir HTML y CSS, entender las pautas de marca y actualizar las plantillas cuando las marcas rediseñaban su presencia web. Con Gemini, esas tareas se convierten en tareas de prompting. La barrera baja aún más, y la operación se vuelve más resiliente — porque la capacidad de generación de plantillas se distribuye entre cualquier miembro con una cuenta de Gemini en lugar de concentrarse en unos pocos desarrolladores capacitados.

Para los usuarios, la implicación práctica no cambia: los mensajes de smishing — phishing enviado por SMS — que contienen enlaces a notificaciones falsas de entrega de USPS, avisos de pago de peaje vencidos o alertas de seguridad bancaria deben tratarse con sospecha inmediata, independientemente de lo pulidos que parezcan. La calidad visual de una página de phishing ya no es una señal confiable de su legitimidad; las páginas generadas por IA pueden ser indistinguibles de las reales.

Qué Puede y No Puede Lograr la Demanda

Las demandas civiles de este tipo tienen un historial mixto. La demanda de Google de 2023 contra la botnet resultó en un desmantelamiento exitoso de la infraestructura, pero los operadores individuales nunca fueron identificados ni procesados. Los actores criminales que operan desde China presentan desafíos adicionales: los tribunales de EE. UU. pueden emitir órdenes, pero la aplicación contra individuos en una jurisdicción sin tratado de extradición con EE. UU. depende de si esos individuos viajan alguna vez a países que cooperan con el proceso legal estadounidense.

Lo que la demanda logra de manera confiable: obliga a los proveedores de infraestructura con sede en EE. UU. — empresas de alojamiento, CDNs, procesadores de pagos — a cooperar en el desmantelamiento de la infraestructura específica identificada en la denuncia. Crea un registro legal que puede usarse en casos futuros. Y envía una señal pública clara de que Google está dispuesto a tratar el abuso de IA como un desencadenante de litigios en lugar de únicamente un asunto de política, lo que puede tener un valor disuasorio para los actores de amenazas sensibles a los costos de seguridad operativa.

La pregunta a largo plazo es estructural. Las plataformas PhaaS como Outsider Enterprise existen porque la economía del phishing sigue siendo favorable: el costo de ejecutar una operación es bajo, los retornos potenciales de credenciales y números de tarjetas robados son altos, y el riesgo legal — particularmente para operadores en jurisdicciones no cooperativas — es manejable. La IA hace que esa economía sea más favorable al reducir los requisitos de habilidad del operador. Una demanda aborda una instancia; el modelo de negocio que explota no cambia por una orden judicial.

Fuente: Denuncia de Google (SDNY), comunicado de prensa del FBI, Help Net Security, The Next Web, Decrypt, Cybersecurity News, 12–13 de junio de 2026.