Anthropic alerta que a IA pode estar a aproximar-se da capacidade de se melhorar a si própria

A Anthropic revelou num registo regulatório atualizado que pode estar a aproximar-se de um limiar crítico no desenvolvimento da IA: a automelhoria recursiva (RSI), o ponto em que um sistema de IA pode acelerar significativamente o seu próprio treino, investigação e capacidades sem orientação humana direta. A empresa designa isto como o marco de segurança mais importante que alguma vez definiu, e afirma que o limiar pode ser atingido mais cedo do que o esperado.

O aviso consta do prospeto S-1A revisto da Anthropic, apresentado enquanto a empresa se prepara para uma cotação bolsista visando novembro de 2026. No documento, a Anthropic define o limiar RSI como o ponto em que um modelo de IA poderia realizar o trabalho equivalente ao de uma equipa de investigação completa a custo comparável, ou pelo menos duplicar o ritmo atual do progresso da IA. Nenhum modelo existente da Anthropic foi classificado como tendo cruzado essa linha, mas a empresa diz que a distância até ela está a diminuir.

Ao abrigo da Política de Escalonamento Responsável (RSP) da Anthropic, atingir ou aproximar-se de uma capacidade de nível RSI desencadeia revisões de segurança obrigatórias e pode exigir uma pausa no desenvolvimento até que existam salvaguardas adequadas. A empresa afirma que está a considerar atualizar a própria RSP para garantir que o controlo humano é preservado sobre o desenvolvimento de modelos de fronteira à medida que as capacidades crescem.

A divulgação esboça também uma proposta de governança: a Anthropic diz que planeia reunir governos, investigadores independentes e laboratórios de IA rivais para testar se mecanismos internacionais coordenados poderiam funcionar na prática para abrandar ou suspender o desenvolvimento se necessário.

O conceito de RSI tem sido debatido nos círculos de segurança da IA há anos, mas esta é a primeira vez que um laboratório de ponta revelou publicamente, num documento juridicamente vinculativo, que acredita que a capacidade pode estar ao alcance a curto prazo.