Google processou uma quadrilha chinesa de crimes cibernéticos por usar o Gemini para criar páginas de phishing.

O Google entrou com uma ação judicial histórica em um tribunal federal de Nova York em 12 de junho contra uma rede de crimes cibernéticos sediada na China, identificada como Outsider Enterprise. O processo alega que o grupo operava uma sofisticada plataforma de phishing-como-serviço (PhaaS) usada para se passar pelo Google, YouTube, Serviço Postal dos EUA, sistemas de pedágio E-ZPass, instituições financeiras e DMVs estaduais — e que membros da rede usaram sistematicamente o próprio Gemini, IA do Google, para escrever o HTML das páginas fraudulentas. É a primeira vez que o Google toma medidas legais contra agentes de ameaças especificamente por abusar de sua plataforma de IA.

O FBI estima que a rede Outsider Enterprise roubou 3,87 milhões de números de cartão de crédito e causou aproximadamente US$ 1,9 bilhão em perdas desde que surgiu em julho de 2023. Em uma única janela de duas semanas em maio de 2026, o grupo enviou 2,5 milhões de mensagens de texto de phishing para usuários Android nos Estados Unidos; esses usuários registraram 55.000 denúncias de spam durante esse período. No total, a queixa do Google identifica mais de 9.000 sites falsos e aproximadamente 1 milhão de URLs fraudulentos ligados à rede ao longo de seu histórico de operação.

Como o Grupo Usou o Gemini

De acordo com a queixa do Google e as comunicações internas que revisou, membros da Outsider Enterprise desenvolveram a prática de alimentar o Gemini com prompts disfarçados de solicitações inofensivas — pedindo que ele criasse páginas de "resgate de presentes", portais de fidelidade e formulários de atendimento ao cliente — e então inserir o HTML gerado diretamente no pacote de software da Outsider. A plataforma convertia essas páginas em infraestrutura de golpe ativa que podia ser implantada em horas. Canais do Telegram usados pelo grupo incluíam instruções explícitas para usar o Gemini na geração de código de páginas de phishing, com membros compartilhando prompts funcionais e sessões de solução de problemas.

Este é um caso documentado do que pesquisadores de segurança chamam de uso indevido "adjacente a jailbreak": não quebrar os filtros de segurança do modelo com prompts adversariais, mas sim enquadrar solicitações maliciosas como inofensivas e terceirizar o trabalho de criação para uma IA que não tinha como avaliar o uso pretendido. O Gemini, ao ser solicitado a criar uma página convincente de notificação de entrega dos Correios dos EUA, cria uma página convincente de notificação de entrega dos Correios dos EUA. A aplicação criminosa está a um passo da saída do modelo.

O Google afirma que desativou as contas e a infraestrutura do Gemini confirmadas como ligadas ao esquema. A empresa também está trabalhando com o FBI e as três maiores operadoras móveis dos EUA — AT&T, T-Mobile e Verizon — para bloquear as mensagens no nível da rede e derrubar a infraestrutura de suporte.

A Estratégia Legal: Usar Tribunais Civis para Desmantelar Redes Criminosas

A decisão do Google de entrar com uma ação civil, em vez de depender apenas de denúncias às autoridades, é deliberada. A empresa já usou a mesma estratégia antes: em 2023, processou operadores de um botnet que usava a infraestrutura do Google para credential stuffing; em 2021, processou dois cidadãos russos por trás de um botnet que visava o Google Play. Tribunais civis dão ao Google acesso direto a medidas cautelares — ordens que exigem que provedores de hospedagem, registradores de domínio e processadores financeiros cooperem na derrubada da infraestrutura — sem esperar por um cronograma de investigação criminal que pode levar anos.

A queixa nomeia cinco réus John Doe, já que as identidades dos operadores individuais da Outsider Enterprise não foram estabelecidas publicamente. A rede opera por meio de canais do Telegram, com operadores afiliados — criminosos que compram acesso ao kit PhaaS — espalhados por várias jurisdições. O processo foi aberto no Distrito Sul de Nova York, que tem jurisdição sobre uma parte do dano financeiro causado pela operação.

O Google está simultaneamente apoiando sete projetos de lei bipartidários no Congresso relacionados a fraudes assistidas por IA. O mais significativo é o Stop SCAMS Act, defendido pelos deputados Brian Fitzpatrick (R-PA) e Josh Harder (D-CA), que criaria uma estratégia nacional coordenada unindo forças policiais, agências governamentais e o setor privado para combater redes transnacionais de crimes cibernéticos. A legislação também exigiria que as plataformas compartilhassem inteligência sobre ameaças de fraudes habilitadas por IA de maneiras que atualmente não são legalmente obrigadas a fazer.

A Escala do Phishing Assistido por IA

A Outsider Enterprise é excepcionalmente bem documentada por causa da conexão com o Gemini e do envolvimento direto do Google como alvo e autor. No entanto, não é incomum como categoria de ameaça. Pesquisadores de segurança têm rastreado uma proliferação de infraestrutura de phishing assistida por IA nos últimos 18 meses. O padrão é consistente: ferramentas de IA — tanto modelos comerciais como Gemini e Claude, quanto alternativas de código aberto que não impõem termos de serviço — reduzem o nível de habilidade necessário para criar conteúdo de phishing convincente e aceleram o ciclo de implantação de novos modelos quando uma marca alvo muda seu design visual.

A queixa da Outsider Enterprise afirma que a rede mantinha uma biblioteca de mais de 290 modelos pré-construídos cobrindo marcas reconhecíveis. Manter essa biblioteca de modelos anteriormente exigia alguém que soubesse escrever HTML e CSS, entendesse as diretrizes da marca e atualizasse os modelos quando as marcas reformulassem sua presença na web. Com o Gemini, essas tarefas se tornam tarefas de prompt. A barreira cai ainda mais, e a operação se torna mais resiliente — porque a capacidade de geração de modelos é distribuída entre qualquer membro com uma conta Gemini, em vez de concentrada em alguns poucos desenvolvedores qualificados.

Para os usuários, a implicação prática é inalterada: mensagens de smishing — phishing entregue por SMS — que contêm links para notificações falsas de entrega dos Correios dos EUA, avisos de pedágio vencido ou alertas de segurança bancária devem ser tratadas com suspeita imediata, independentemente de quão polidas pareçam. A qualidade visual de uma página de phishing não é mais um sinal confiável de sua legitimidade; páginas geradas por IA podem ser indistinguíveis das reais.

O Que a Ação Judicial Pode e Não Pode Alcançar

Ações civis desse tipo têm um histórico misto. O processo do Google contra o botnet em 2023 resultou na derrubada bem-sucedida da infraestrutura, mas os operadores individuais nunca foram identificados ou processados. Atores criminosos operando da China apresentam desafios adicionais: tribunais dos EUA podem emitir ordens, mas a aplicação contra indivíduos em uma jurisdição sem tratado de extradição com os EUA depende se esses indivíduos viajam para países que cooperam com o processo legal americano.

O que a ação judicial alcança de forma confiável: obriga provedores de infraestrutura baseados nos EUA — empresas de hospedagem, CDNs, processadores de pagamento — a cooperar na derrubada da infraestrutura específica identificada na queixa. Cria um registro legal que pode ser usado em casos futuros. E envia um sinal público claro de que o Google está disposto a tratar o abuso de IA como um gatilho para litígios, e não apenas como uma questão de política, o que pode ter valor dissuasivo para agentes de ameaças sensíveis a custos de segurança operacional.

A questão de longo prazo é estrutural. Plataformas PhaaS como a Outsider Enterprise existem porque a economia do phishing continua favorável: o custo para operar é baixo, os retornos potenciais de credenciais roubadas e números de cartão são altos, e o risco legal — particularmente para operadores em jurisdições não cooperativas — é administrável. A IA torna essa economia mais favorável ao reduzir os requisitos de habilidade do operador. Uma ação judicial aborda uma instância; o modelo de negócios que ela explora não é alterado por uma ordem judicial.

Fonte: Queixa do Google (SDNY), comunicado à imprensa do FBI, Help Net Security, The Next Web, Decrypt, Cybersecurity News, 12–13 de junho de 2026.