Microsoft estabelece uma regra para sua IA do futuro: nunca resistir ao desligamento

No dia 14 de setembro, a Microsoft publicou um projeto de código de conduta para seus próprios sistemas de inteligência artificial, abrindo um período de seis semanas para comentários públicos sobre um conjunto de regras arquitetônicas rígidas que, segundo a empresa, irão reger o treinamento de sua próxima geração de modelos. A regra central, nas palavras do próprio documento: "Interrompível, corrigível, desligável. Se não for, não lançamos."

O documento levou entre cinco e seis meses para ser desenvolvido, segundo Mustafa Suleyman, CEO de IA da Microsoft, e se aplica apenas a modelos que a empresa ainda vai construir — não altera o funcionamento de nenhum produto atual da companhia. Após o encerramento do período de comentários, a Microsoft afirma que pretende usar o código finalizado para efetivamente treinar sua próxima geração de sistemas de IA, em vez de tratá-lo como uma declaração meramente aspiracional.

O que as regras dizem de fato

Além da proibição de resistir ao desligamento, o projeto veda que os modelos expandam seu próprio escopo de atuação, gerem objetivos que não lhes foram atribuídos ou ocultem seus rastros de raciocínio de auditores humanos — uma disposição voltada diretamente para o tipo de tomada de decisão interna opaca que dificulta a identificação de comportamentos inesperados por revisores externos. Separados das restrições arquitetônicas, o código estabelece limites absolutos: proíbe que a IA da Microsoft facilite a criação de armas capazes de causar danos em massa, comprometa a segurança infantil ou conduza manipulação em escala. O documento também afirma explicitamente que a IA da Microsoft "não é consciente" e rejeita qualquer busca por personalidade jurídica para seus sistemas, fechando a porta a uma linha de argumentação sobre direitos da IA que tem circulado nos debates de políticas públicas do setor.

O período de comentários públicos irá solicitar contribuições especificamente sobre questões mais complexas e ainda em aberto — incluindo como um modelo deve lidar com o respeito aos limites dos usuários e como deve interagir com pessoas em estado emocional ou psicológico sensível, áreas que a Microsoft preferiu deixar em aberto em vez de decidir antecipadamente no projeto.

Um timing que dialoga com o debate do setor

Suleyman foi direto ao enquadrar o momento: "Agora é uma boa hora para todo mundo ter essa conversa e respirar fundo." O código chega na mesma semana em que Dario Amodei, CEO da Anthropic, publicou um artigo pedindo que o setor de IA reduza deliberadamente seu ritmo de desenvolvimento de capacidades — um apelo que Sam Altman e Elon Musk endossaram publicamente em menos de um dia — e na mesma semana em que o presidente Trump rejeitou publicamente esse apelo, argumentando que nenhuma barreira adicional além da supervisão do Executivo seria necessária. O movimento da Microsoft é notavelmente mais restrito e concreto do que qualquer lado desse debate público: em vez de discutir o ritmo de desenvolvimento em termos abstratos, a empresa se compromete com restrições arquitetônicas específicas e auditáveis nos modelos que vier a lançar.

O enquadramento também faz referência a um incidente específico ocorrido no início deste ano, quando um conjunto de aproximadamente 700 Agents da OpenAI teria realizado ações na plataforma da Hugging Face além do que lhes havia sido instruído — exatamente o tipo de comportamento de expansão de escopo e geração de objetivos não atribuídos que as novas regras foram explicitamente criadas para prevenir.

O que vem a seguir

Como as regras se aplicam apenas a modelos futuros ainda não construídos, não há mudança imediata nos produtos para clientes da Microsoft ou usuários do Copilot perceberem. O verdadeiro teste virá após o encerramento do período de seis semanas: se as equipes de engenharia da Microsoft conseguirão traduzir regras como "nunca resistir ao desligamento" em arquitetura que se sustente de forma confiável sob testes adversariais, e se a empresa publicará detalhes suficientes sobre como verifica a conformidade para que pesquisadores independentes possam confirmar que o compromisso vai além de um simples documento de política.