Anthropic restringe lançamento da poderosa IA 'Mythos' citando riscos de cibersegurança

A Anthropic, uma empresa líder em pesquisa e segurança de inteligência artificial, tomou a importante decisão de limitar o lançamento de seu mais recente modelo, Mythos, devido a preocupações com suas poderosas capacidades de cibersegurança. A empresa anunciou que não prosseguirá com um amplo lançamento público depois que uma equipe interna de 'red team' descobriu que o modelo poderia ser usado para orquestrar ciberataques complexos.

Embora o Mythos seja uma IA de propósito geral, ele possui habilidades de codificação e raciocínio excepcionalmente avançadas. Essas habilidades permitiram que ele identificasse vulnerabilidades há muito adormecidas em softwares críticos da internet, incluindo um bug de 27 anos. No entanto, essas mesmas forças provaram ser uma faca de dois gumes. Os pesquisadores de segurança da Anthropic demonstraram que o Mythos também poderia ser instruído a encadear exploits, criando efetivamente novos ataques contra todos os principais sistemas operacionais e navegadores da web.

Diante desse potencial de uso indevido, a Anthropic optou por uma abordagem cautelosa. Por meio de uma iniciativa chamada Projeto Glasswing, a empresa está fornecendo acesso antecipado ao Mythos a um grupo seleto de parceiros confiáveis. Este grupo inclui gigantes da tecnologia como Apple, Amazon, Microsoft e Google, bem como várias empresas especializadas em cibersegurança. O objetivo é que essas organizações usem o Mythos para procurar proativamente por vulnerabilidades em seus próprios sistemas, com todas as descobertas sendo compartilhadas para desenvolver barreiras de segurança mais fortes para futuros modelos de IA.

Essa medida destaca o crescente dilema na indústria de IA: como equilibrar o rápido avanço de ferramentas poderosas com a necessidade crítica de implantação responsável e segurança pública. A decisão da Anthropic de manter o Mythos em segredo por enquanto marca um momento crucial na conversa em andamento sobre regulamentação de IA e desenvolvimento ético.