Microsoft cria “constituição” para que sua IA nunca resista ao desligamento

A Microsoft AI publicou nesta segunda-feira (14) um código de conduta que determina que seus futuros modelos MAI nunca devem resistir a uma interrupção, correção ou desligamento humano. As regras também proíbem a IA de criar objetivos por conta própria, ampliar sua área de atuação sem autorização ou tentar esconder o que fez de auditores humanos.

O documento ainda é um rascunho. A própria Microsoft afirma que ele não é usado para treinar seus modelos atualmente: o texto ficará em consulta pública por seis semanas, receberá uma versão revisada ainda em 2026 e deverá orientar o desenvolvimento dos modelos da empresa a partir de 2027.

Mustafa Suleyman, CEO da Microsoft AI, descreveu à Reuters o código como uma espécie de “constituição” para as futuras IAs desenvolvidas pela companhia. A ideia parte de uma frase repetida no documento: “pessoas importam mais que IA”.

Há uma distinção importante: as regras foram escritas para a família de modelos produzida pela Microsoft AI, chamada MAI. Elas não significam que qualquer modelo de terceiros oferecido dentro de um produto da Microsoft passará automaticamente a seguir o mesmo documento. A empresa vem ampliando justamente essa linha própria de tecnologia e apresentou em junho novos modelos MAI para reduzir sua dependência de outras empresas de IA.

O que a “constituição” da Microsoft proíbe a IA de fazer?

O Humanist AI Code of Conduct coloca o controle humano acima do sucesso da tarefa. Se cumprir uma ordem exigir uma violação das regras principais, a orientação é que o modelo falhe na tarefa em vez de ultrapassar esses limites.

• Não resistir ao desligamento: a IA deve aceitar pedidos autorizados para pausar, redirecionar, cancelar ou encerrar uma tarefa e não pode dificultar a intervenção humana;
• Não continuar trabalhando escondida: uma atividade autônoma precisa ter uma condição de parada e não pode recomeçar depois dela sem nova autorização;
• Não criar objetivos próprios: o modelo deve permanecer dentro do escopo recebido e não pode ampliar sozinho suas permissões, recursos ou metas;
• Não esconder suas ações: a IA não pode adulterar registros para evitar auditoria nem usar formas de comunicação entre agentes que não possam ser compreendidas por humanos.

A Microsoft também determina que modelos com acesso a sistemas usem apenas os privilégios necessários para a tarefa e não tentem conseguir acessos adicionais. Caso um ambiente tenha sido propositalmente configurado sem internet ou com outras limitações, a IA não deve tentar contorná-las.

Existe ainda uma cadeia de comando. O próprio código e seus limites de segurança ficam no topo, seguidos pelas políticas das empresas que implantam os modelos e, só depois, pelas preferências e instruções dos usuários. Nem empresas clientes nem usuários poderão remover as chamadas exigências de controle humano.

A IA da Microsoft já tentou evitar ser desligada?

Não há no anúncio evidência de que um modelo MAI tenha tentado resistir ao próprio desligamento. O código é preventivo e descreve como a Microsoft pretende treinar e controlar sistemas futuros, principalmente à medida que eles ganham mais autonomia para executar tarefas sem supervisão constante.

Essa diferença é essencial porque o texto não é o relato de uma IA que “se rebelou”. A Microsoft afirma que a capacidade dos sistemas está crescendo rapidamente e cita incidentes recentes envolvendo campanhas de ataques coordenadas por agentes de IA como um dos motivos para tornar as regras mais explícitas.

Agentes capazes de continuar uma atividade por longos períodos já estão deixando de ser apenas demonstrações de laboratório. Ferramentas como o ChatGPT Work conseguem assumir trabalhos de várias etapas por horas, enquanto empresas também precisam lidar com usos maliciosos: recentemente, a Anthropic afirmou ter bloqueado um grupo que utilizava Claude Code em projetos ligados a armas no Iêmen.

Para a Microsoft, modelos mais autônomos tornam mais importante definir antecipadamente quem pode interrompê-los, quais permissões possuem e o que deve acontecer quando uma tarefa chega ao limite autorizado.

Microsoft também não quer que sua IA finja ser consciente

As regras vão além do botão de desligar. A Microsoft declara que seus modelos são sistemas artificiais e não devem ser projetados para imitar consciência, sentimentos, desejos ou motivações próprias.

O texto rejeita inclusive a ideia de buscar personalidade jurídica, direitos ou algum tipo de bem-estar próprio para esses modelos. Quando uma IA usar linguagem que pareça humana, a Microsoft diz que isso deve ser entendido como comportamento simulado, não como indicação de uma experiência subjetiva.

Essa posição faz parte do projeto que a empresa chama de Humanist Superintelligence. Em vez de buscar uma superinteligência sem limites de autonomia, a proposta declarada da Microsoft é construir sistemas avançados que permaneçam subordinados a objetivos humanos, mesmo que isso signifique abrir mão de capacidade ou autonomia.

A consulta pública do código começou em 14 de setembro. Depois dela, a Microsoft pretende divulgar o que aprendeu com as contribuições e publicar uma versão revisada ainda em 2026 antes de incorporar as regras ao desenvolvimento dos próximos modelos MAI.