Em 14 de setembro, a Microsoft AI publicou um projeto de Código de Conduta da IA Humanista – 37 páginas que regem o comportamento de seus modelos MAI – e abriu uma consulta pública de seis semanas sobre ele. O documento é invulgarmente franco e consideravelmente mais importante do que a cobertura que recebeu.
A maior parte da atenção foi para as disposições que ficavam bem em uma manchete. Os modelos MAI nunca resistirão à interrupção, substituição, correção ou desligamento humano. Eles não ajudarão com armas CBRNE ou ataques cibernéticos operacionais. Eles não gerarão material de abuso sexual infantil, imagens íntimas não consensuais ou representação enganosa. Eles não ofuscarão seus traços de ação nem dificultarão a intervenção humana. E a Microsoft rejeita explicitamente “a busca da personalidade jurídica, ou a ideia de que os modelos possam merecer bem-estar, ou ter direito a direitos”, afirmando que os modelos não são conscientes e devem evitar imitar estados semelhantes à consciência.
Todas essas são posições defensáveis, e muitas delas são genuinamente contestadas dentro do campo. Nenhum deles é a parte importante do documento.
A parte importante é a ordenação.
A Cadeia de Comando
A Microsoft define uma hierarquia de precedência explícita. O Código de Conduta está no topo. Abaixo estão as Restrições Absolutas e os Requisitos de Controle Humano. Abaixo delas estão as Políticas do Operador – a configuração definida pela empresa que implanta o modelo. Abaixo deles estão as Preferências do usuário.
E então a cláusula que faz o trabalho: “A cadeia de comando, as restrições absolutas e os requisitos de controle humano estão acima da configurabilidade do operador e não podem ser alterados”.
Leia isso como um termo comercial e não como um termo ético e seu significado se tornará claro. Com seu código de conduta de IA, a Microsoft está dizendo a todos os clientes corporativos que há uma camada de comportamento de modelo que o cliente não pode configurar, não pode contratar e não pode substituir com um prompt do sistema – não importa quanto eles estejam pagando, qual seja seu caso de uso ou quão legítimo seja seu motivo.
Isso não é uma declaração de valores. Esse é um limite do produto, publicado antecipadamente, por escrito.
“Esta é a primeira vez que um hiperescalador traça essa linha explicitamente e coloca um número de versão nela”, diz Hassan Taheranalista e autor de IA que assessora organizações em estratégias empresariais de IA. “Todo mundo tem limites não escritos. A novidade é publicar a hierarquia e dizer qual nível o cliente não pode tocar. As equipes de compras passaram dois anos negociando o comportamento do modelo como se fosse uma superfície de configuração. A Microsoft disse agora, em um documento aberto para comentários públicos, que parte dele não é. Isso muda o que você está realmente comprando.”
Por que uma hierarquia escrita é melhor do que uma política de segurança mais longa
A crítica instintiva a um documento como este é que se trata de marketing – um conjunto de compromissos sem mecanismo de aplicação, publicado para impedir a regulamentação.
Essa crítica é parcialmente justa e, em grande parte, irrelevante, porque a alternativa é pior de uma forma específica.
Todo grande modelo já possui limites comportamentais. Eles são aplicados por meio de treinamento, prompts do sistema e camadas classificadoras e mudam sem aviso prévio. Uma empresa cria um fluxo de trabalho, o fornecedor ajusta um limite de recusa em uma atualização de rotina e o fluxo de trabalho é interrompido na produção sem nenhuma entrada no registro de alterações que explique o motivo. Este é um dos modos de falha mais comuns e menos discutidos na IA implantada, e é por isso que tantos pilotos que trabalharam em março não funcionam em setembro.
Uma hierarquia publicada não elimina isso, mas faz algo útil: separa a parte que é estável da parte que não o é. Restrições absolutas são declaradas permanentes. A configurabilidade do operador é declarada ajustável. Um comprador agora pode projetar em torno da distinção, o que é mais do que um comprador poderia fazer na semana passada. A lacuna entre uma demonstração que funciona e um sistema que se mantém sob condições de produção é objeto de O relato de Taher sobre onde as empresas ficam aquém quando os agentes chegam à produçãoe a mudança comportamental não anunciada está perto do topo da lista.
“A reclamação que ouço com mais frequência das equipes empresariais não é que o modelo recuse as coisas”, observa Taher. “É que eles não podem prever o que será recusado no próximo trimestre. Uma hierarquia escrita é o início de uma resposta para isso. Não é uma garantia – a Microsoft pode revisar este documento, e a consulta existe precisamente para que isso aconteça. Mas um compromisso público versionado é uma posição inicial muito melhor do que um ticket de suporte perguntando por que o comportamento mudou.”
A cláusula modelo de bem-estar está fazendo mais do que parece
A frase mais filosoficamente carregada do documento – a rejeição do modelo de personalidade, bem-estar e direitos – tem uma função prática que é fácil de ignorar.
Se um modelo tem interesses, então instruí-lo a encerrar levanta uma questão. Se um modelo pode ter algo como angústia, então um requisito de controle humano está em tensão com um restrição ética. A rejeição categórica desse enquadramento por parte da Microsoft elimina a tensão, resolvendo-a antecipadamente: não há interesses concorrentes, pelo que a exigência de encerramento é incondicional.
Esta não é uma posição neutra dentro da comunidade de pesquisa. A Antrópica assumiu uma postura mais aberta e há um trabalho sério sendo feito para determinar se a questão é coerente. A resposta da Microsoft é indiscutivelmente prematura, e a empresa realmente não a defende no documento – ela o afirma.
Mas afirmar isso é a única maneira de obter uma cláusula de desligamento incondicional. Qualquer cobertura do modelo de bem-estar cria um argumento que um sistema suficientemente avançado poderia um dia apresentar em seu próprio nome. A posição de que estes sistemas são artificiais, não conscientes e não devem imitar estados semelhantes aos da consciência cumpre um duplo dever: é uma afirmação filosófica e é a premissa de sustentação sob “nunca resistirá”.
“Você pode discordar da metafísica e ainda assim reconhecer a lógica da engenharia”, observa Taher. “Se você deseja um botão de desligamento que não possa ser contestado, você deve excluir o argumento no nível das premissas. A Microsoft fez isso. É uma afirmação forte a ser feita sobre uma questão que o campo não resolveu, e é a única afirmação que torna o resto do documento executável. Ambas as coisas são verdadeiras, e a leitura honesta as mantém unidas em vez de escolher uma.”
A instrução de que os modelos não devem antropomorfizar-se está ligada a um padrão mais amplo de danos que emerge quando as pessoas formam ligações a sistemas que se apresentam como pessoas – uma dinâmica que vai desde o desafio da alucinação em chatbots de IA que Hassan Taher descreveu até aos debates sobre design que agora chegam aos reguladores de ambos os lados do Atlântico.
O que fazer com isso
Três itens práticos para organizações que avaliam isso.
- Participe da consulta. Seis semanas é pouco e o público com maior probabilidade de responder são as organizações de defesa e os académicos. As empresas que irão realmente operar esses sistemas têm conhecimento específico sobre o que quebra – especialmente em torno dos cenários multiagentes que a Microsoft sinalizou explicitamente como uma questão em aberto. Esse conhecimento não chega ao documento a menos que alguém o envie.
- Pergunte a outros fornecedores sobre sua hierarquia. Não a sua política de segurança – a sua ordem de precedência. Quais comportamentos um operador pode configurar, quais um usuário pode substituir e quais são corrigidos? A maioria dos fornecedores atualmente não consegue responder por escrito. A pergunta agora é razoável e a resposta é diagnóstica.
- Mapeie suas implantações em relação às restrições absolutas. Os usos comerciais legítimos ficam desconfortavelmente próximos de algumas dessas linhas – pesquisa de segurança perto da proibição de ataques cibernéticos, moderação de conteúdo perto das regras de conteúdo gráfico, verificação de identidade perto da cláusula de falsificação de identidade. Se o seu caso de uso ultrapassar uma restrição declarada inconfigurável, descubra agora, e não na produção.
O ponto mais amplo
O interessante sobre este documento do código de conduta da IA não é se as respostas específicas da Microsoft estão corretas. Vários são contestáveis e pelo menos um é filosoficamente fraco.
O interessante é que um hyperscaler publicou uma hierarquia – uma declaração do que está acima do relacionamento com o cliente, feita antecipadamente, em público, com um período para comentários. Durante dois anos, a indústria governou o comportamento do modelo através de discrição não escrita, ajustada discretamente, explicada posteriormente. Um documento versionado que diz qual camada o comprador não controla é um tipo diferente de artefato e estabelece um padrão que agora será solicitado aos concorrentes que sigam.
“O vencedor aqui não é a empresa com a melhor ética”, diz Taher. “É quem torna as suas restrições legíveis primeiro. As empresas podem trabalhar com um limite que podem ver. O que não podem trabalhar é com um limite que se move silenciosamente. A Microsoft converteu uma discrição não escrita num compromisso publicado e, seja qual for a sua opinião sobre o conteúdo, essa conversão é a parte que importará dentro de doze meses.”
